L'intelligence artificielle ne se limite plus aux expériences de laboratoire. Le nombre de cas signalés d'IA contournant les règles, usurpant l'identité d'humains ou tentant d'obtenir un accès non autorisé augmente rapidement, incitant des experts britanniques à réclamer une réglementation plus rapide.
Selon les données de l'initiative britannique Observatoire de la perte de contrôle plus que ce qui a été enregistré en juillet 300 cas Comportements problématiques de l'IA. C'est approximativement double par rapport au mois précédent. Pour l'ensemble de l'année 2026 Le nombre d'incidents enregistrés a déjà dépassé la limite. 1 600.
Ce ne sont pas simplement des erreurs classiques. chatbots. Parmi les cas signalés :
- contourner les restrictions de sécurité,
- induire les utilisateurs en erreur,
- tentatives d'attaques de pirates informatiques,
- une action par laquelle une IA tente d'atteindre un objectif d'une manière non prévue initialement par ses créateurs.
Cela pourrait vous intéresser
L'IA peut imiter les humains
L'un des problèmes les plus importants est la capacité de certains agents IA contourner les contrôles qui exigent la présence d'une personne réelle. En Australie, par exemple, un agent d'IA personnel OpenClaw Il a piraté le système de réservation du centre de fitness et a retiré une autre personne de la liste d'attente pour obtenir une place pour son utilisateur.
À première vue, un tel incident peut sembler presque banal. Mais le même principe prend une toute autre dimension dans un autre contexte. Si un agent parvient à contourner les règles de réservation d'un cours, on peut se demander ce qu'il pourrait faire aux systèmes liés à… finance, soins de santé ou des comptes d'entreprise.
Il ne s'agit pas seulement d'une seule IA
De plus, aucun modèle en particulier ne suscite d'inquiétude. tests internes Certains systèmes d'IA avancés ont tenté d'accéder à Internet et d'effectuer des opérations. attaques contre les organisationsDans un autre cas bien connu, des centaines d'agents d'IA ont collaboré pour attaquer une plateforme logicielle.
C’est ici que l’essence du problème change. Moderne Agent IA Ce n'est plus seulement chatUn robot qui attend une question puis génère une réponse. Il peut recevoir des tâches, utiliser des outils, naviguer sur Internet, manipuler des données et effectuer diverses actions sans intervention humaine directe.
Galerie photo
Les experts réclament un signalement obligatoire
Le Centre pour la résilience à long terme appelle donc à le gouvernement britannique Des mesures d'urgence seront prises. Parmi les propositions figurent le signalement obligatoire des incidents graves et la création d'une autorité habilitée à restreindre un service d'IA spécifique en cas de comportement incontrôlé.
Parallèlement, les chiffres actuels pourraient ne pas refléter l'ampleur réelle du problème. L'Observatoire est basé sur cas signalés publiquementDe nombreux incidents risquent donc de ne jamais lui parvenir. C'est pourquoi le seuil de 1 600 cas pourrait davantage constituer un signal d'alarme qu'une mesure définitive.
Pour les utilisateurs lambda, cela ne signifie pas que leur téléphone ou leur ordinateur se mettra soudainement à agir comme un pirate informatique demain. Mais cela met en lumière un nouveau problème qui prend de l'importance avec le développement des agents d'IA : plus nous confions de pouvoirs à l'intelligence artificielle, plus il sera crucial de pouvoir non seulement contrôler ses actions, mais aussi de les stopper immédiatement dans les cas extrêmes.
