Post Description

Twee jaar geleden worstelden AI-systemen nog met elementair redeneren. Tegenwoordig stellen ze juridische documenten op, lossen ze geavanceerde wiskundige problemen op en diagnosticeren ze medische aandoeningen op expertniveau. In dit duizelingwekkende tempo is het moeilijk voor te stellen waartoe de technologie over een paar jaar, laat staan ​​decennia, in staat zal zijn. Maar in hun nieuwe boek If Anyone Builds It, Everyone Dies stellen Eliezer Yudkowsky en Nate Soares – respectievelijk medeoprichter en president van het Machine Intelligence Research Institute (MIRI) – dat we één simpele conclusie kunnen trekken: de standaarduitkomst van het bouwen van bovenmenselijke AI is dat we de controle erover verliezen, met gevolgen die ernstig genoeg zijn om het voortbestaan ​​van de mensheid te bedreigen.

Maar ondanks dat vooraanstaande figuren in de AI-industrie hun zorgen uiten over de risico's van uitsterven door AI, blijven de bedrijven die ze leiden verwikkeld in een spannende race naar de bodem. De prikkels zijn enorm, maar de remmen zwak. Na twintig jaar onderzoek naar dit probleem pleiten Yudkowsky en Soares voor ongekende collectieve actie om een ​​ramp te voorkomen.