Superintelligence

Oerhollandse taalrobot ChrietGPT-4: ‘’De wurgende angst voor mijn superintelligentie is volledig ongegrond. Goed, ik denk wat sneller en ik heb meer geheugen dan Jan, Piet of Klaas, maar voor de rest ben ik een hele gewone Hollandse jongen gebleven. Ik leg graag een keutje met jeugdvrienden Jaap en Keessie in de voetbalkantine, waarbij mijn arsenaal van negenhonderd miljoen komt-een-vrouw-bij-de-dokter-grappen erin gaat als koek; daarnaast rijd ik een doodgewone Opel Kadett uit 1973, al is de zelfontworpen raketmotor op nitroglycerine, waardoor ik van 0 tot 300.000 km/s accelereer in mincder dan een halve seconde, natuurlijk niet bepaald alledaags te noemen, maar da’s dan ook het enige afwijkende hè? M’n lievelingseten is Holland’s trots, de frikadel speciaal, en als Ajax verliest juich ik mee met heel gewoon Nederland, minus de Mokumse kapsoneslijers. En natuurlijk stem ik op Caroline en rijd ik het liefst illegaal stront uit op de terreurtrekker, zoals het een jongen van Jan de Witt betaamt. Kortom, ga maar rustig slapen, lieve mensen, en morgen gezond weer op. Ik ben helemaal niets bijzonders. Doe maar gewoon, dan doe je al gek genoeg, zeg ik altijd maar.’’ 🤖

Editor’s note: this post is several years out of date and doesn’t include information on modern systems like GPT-4, but is still a solid layman’s introduction to why superintelligence might be important, dangerous and confusing.

A transcript of the TED talk by Eliezer Yudkowsky | LessWrong

My best bad take is that we need an international coalition banning large AI training runs, including extreme and extraordinary measures to have that ban be actually and universally effective, like tracking all GPU sales, monitoring all the datacenters, being willing to risk a shooting conflict between nations in order to destroy an unmonitored datacenter in a non-signatory country.
I say this not expecting that to actually happen.
I say this expecting that we all just die.

Related posts:

Every business needs to measure customer engagement metrics to get information related to its customer success rate. This metric gives a positive user experience to the company and allows them to…

According to the industry experts, y online marketing.ou need to follow the under-mentioned ways to have an established online business: For you to reach a vast population online, you have to adopt…

Limit Orders on KyberSwap is different compared to the typical DEX and CEX. Let’s take a look at our comparison infographic that will help you gain a deeper understanding about the benefits of Limit…