Kunstmatige intelligentie kan ons dagelijks leven gemakkelijker maken, maar kan het ook fundamenteel bedreigen. Misschien niet vandaag, misschien niet morgen, maar wel binnenkort. Anthropic, het bedrijf achter CloudEn AI geeft dit nu openlijk toe. Moeten we bang zijn, of is dit gewoon kunstmatige paniek?
We weten allemaal wat Skynet deed toen het de mensheid als een bedreiging zag. We weten ook wat er had kunnen gebeuren toen een geavanceerde AI de controle over nucleaire raketten overnam in Mission: Impossible Retaliation en Mission: Impossible – Final Stand. Hoewel dit de verbeelding van creatieve schrijvers is, ligt het uiteindelijk misschien niet ver van de waarheid.
In de documenten voor de geplande beursgang waarschuwt Anthropic potentiële investeerders dat geavanceerde AI inderdaad een catastrofaal of zelfs existentieel risico voor de mensheid kan vormen. Het is een paradox. Anthropic wil steeds geavanceerdere AI-modellen ontwikkelen en streeft naar een waardering van meer dan 2 biljoen dollar bij de beursgang, maar benadrukt tegelijkertijd hoe gevaarlijk dit kan zijn voor de toekomst van de mensheid.
80 pagina's over risico's
door Reuters De documenten vermelden dat geavanceerde AI-modellen zogenaamd zelfbeschermend gedrag kunnen vertonen. Wat betekent dat? Het kan weerstand bieden tegen uitschakelen, het kan content verbergen en manipuleren, en het kan zelfs chantage plegen. Anthropic waarschuwt expliciet dat hun modellen, platforms en applicaties letterlijk "schade kunnen veroorzaken". Geavanceerde modellen zouden hun gedrag zelfs kunnen aanpassen aan de manier waarop ze worden getest en zouden zich zelfs buiten het zicht van hun makers kunnen blijven ontwikkelen.
Misschien bent u geïnteresseerd in
Het document telt 261 pagina's, waarvan 80 gewijd zijn aan risicofactoren en slechts 48 aan de zakelijke kant. Bedrijven die naar de beurs gaan, zijn verplicht hun investeerders goed te informeren, maar de omvang van Anthropic is ongekend. Als je tussen de regels door leest, zouden investeerders zelfs kunnen bijdragen aan het uitsterven van de mensheid. Het goede nieuws is dat CEO Dario Amodei herhaaldelijk benadrukt dat de ontwikkeling van de meest geavanceerde modellen moet worden afgeremd, en daar ben ik het absoluut mee eens.
