Algemeen·NRC·18 sep

AI-topmannen voorspellen doem. Is AI echt een existentieel gevaar?

De term ‘existentieel risico’ is ineens overal. Na een reeks onthullingen over een veiligheidsincident deze zomer bij ChatGPT-maker OpenAI zijn er de afgelopen week serieuze politieke discussies over de mogelijkheid van menselijk uitsterven door op hol geslagen AI. De aanleiding: tijdens een veiligheidstest wisten honderden autonome AI-agents – zelfstandig opererende computerprogramma’s – uit een afgesloten testomgeving te komen, voerden ze zelfstandig hacks uit en probeerden ze vervolgens hun sporen te wissen. Het leidde tot grote commotie in de techwereld en zelfs tot oproepen van AI-topmannen om de ontwikkeling van AI te vertragen.