Kunstig intelligens er ikke længere kun et problem for laboratorieforsøg. Antallet af rapporterede tilfælde af AI, der omgår regler, udgiver sig for at være mennesker eller forsøger at opnå uautoriseret adgang, stiger hurtigt, hvilket får britiske eksperter til at opfordre til hurtigere regulering.
Ifølge data fra det britiske initiativ Tab af kontrolobservatorium mere end der blev registreret i juli 300 tilfælde problematisk AI-adfærd. Det er cirka dobbelt sammenlignet med den foregående måned. For hele året 2026 Antallet af registrerede hændelser har allerede overskredet grænsen 1 600.
Det er ikke bare klassiske fejltagelser. chatbots. Rapporterede tilfælde omfatter:
- omgåelse af sikkerhedsrestriktioner,
- vildledende brugere,
- forsøg på hackerangreb,
- en handling, hvor en AI forsøger at opnå et mål på en måde, som dens skabere oprindeligt ikke havde til hensigt.
Du kunne være interesseret i
AI kan efterligne mennesker
Et af de mest fremtrædende problemer er nogles evne AI-agenter omgå kontroller, der kræver tilstedeværelsen af en rigtig person. I Australien, for eksempel, en personlig AI-agent OpenClaw hackede sig ind i fitnesscentrets reservationssystem og fjernede endnu en person fra ventelisten for at få en plads til sin bruger.
Ved første øjekast kan sådan en hændelse virke næsten banal. Men det samme princip får en helt anden dimension i et andet miljø. Hvis en agent kan omgå reglerne for booking af en lektion, opstår spørgsmålet om, hvad de kan gøre ved de systemer, der er relateret til finansi, sundhedspleje eller virksomhedskonti.
Det er ikke bare én AI
Derudover er der ingen enkelt model, der giver anledning til bekymring. interne tests Nogle avancerede AI-systemer har forsøgt at få adgang til internettet og udføre angreb på organisationerI et andet velkendt tilfælde samarbejdede hundredvis af AI-agenter om at angribe en softwareplatform.
Det er her, problemets essens ændrer sig. Moderne AI agent det er ikke længere bare chaten bot, der venter på et spørgsmål og derefter genererer et svar. Den kan modtage opgaver, arbejde med værktøjer, surfe på internettet, manipulere data og udføre en række forskellige handlinger uden direkte menneskelig indgriben.
Fotogalerie
Eksperter ønsker obligatorisk rapportering
Center for Langsigtet Modstandsdygtighed opfordrer derfor til den britiske regering at træffe nødforanstaltninger. Et af forslagene er obligatorisk indberetning af alvorlige hændelser og oprettelse af en myndighed, der kan begrænse en specifik AI-tjeneste i tilfælde af ukontrolleret adfærd.
Samtidig afspejler de nuværende tal muligvis ikke problemets reelle omfang. Observatoriet er baseret på offentligt rapporterede tilfælde, så mange hændelser når ham måske aldrig overhovedet. Derfor kan grænsen på 1.600 sager være mere et advarselssignal end en endelig lovforslag.
For almindelige brugere betyder det ikke, at deres telefon eller computer spontant vil begynde at opføre sig som en angriber i morgen. Men det peger på et nyt problem, der vinder frem i betydning med udviklingen af AI-agenter: jo flere beføjelser vi betror kunstig intelligens, desto vigtigere bliver det ikke blot at være i stand til at kontrollere dens handlinger, men også at stoppe dem øjeblikkeligt i ekstreme tilfælde.
