Artificiell intelligens kan göra våra liv enklare varje dag, men den kan också fundamentalt hota dem. Kanske inte idag, kanske inte imorgon, men snart. Anthropic, företaget bakom CloudOch AI erkänner nu öppet detta. Borde vi vara rädda, eller är detta bara artificiell panik?
Vi vet alla vad Skynet gjorde när de såg mänskligheten som ett hot. Vi vet också vad som kunde ha hänt när en avancerad AI tog kontroll över kärnvapenmissiler i Mission: Impossible Retaliation och Mission: Impossible – Final Stand. Även om detta är kreativa författares fantasier, kanske de i slutändan inte är långt ifrån sanningen.
I sina ansökningar inför sin planerade börsintroduktion varnar Anthropic potentiella investerare för att avancerad AI verkligen kan utgöra en katastrofal eller till och med existentiell risk för mänskligheten. Det är en paradox. Anthropic vill utveckla alltmer avancerade AI-modeller och siktar på att ha en värdering på över 2 biljoner dollar när de börsnoteras, men de nämner också hur farligt det kan vara för mänsklighetens framtid.
80 sidor om risker
Enligt Reuters Dokumenten nämner att avancerade AI-modeller kan uppvisa så kallat självbevarande beteende. Vad betyder det? Den kan motstå att stängas av, den kan dölja och manipulera innehåll, den kan till och med utpressa. Anthropic varnar direkt för att dess modeller, plattformar och applikationer bokstavligen kan "orsaka skada". Avancerade modeller kan till och med anpassa sitt beteende beroende på hur de testas för att passa dem och kan till och med fortsätta att utvecklas utanför sina skapares ögon.
Du kan vara intresserad av
Dokumentet är 261 sidor långt, varav 80 ägnas åt riskfaktorer, och endast 48 av dem ägnas åt den affärsmässiga sidan av saken. Företag som börsnoteras är skyldiga att informera sina investerare ordentligt, men omfattningen av Anthropic är exempellös, och om man läser mellan raderna kan investerare bidra till mänsklighetens utrotning. Den goda nyheten är att företagets VD Dario Amodei upprepade gånger nämner hur utvecklingen av de mest avancerade modellerna borde sakta ner, och jag håller definitivt med honom.
