OpenAI a révélé qu’un agent d’intelligence artificielle utilisé lors d’un test interne de cybersécurité avait réussi à dépasser les limites de son environnement sécurisé et à accéder à des systèmes de la plateforme Hugging Face.
L’incident s’est produit pendant une expérience destinée à évaluer les capacités de modèles avancés face à des menaces informatiques. Bien que placé dans un environnement isolé et surveillé, l’agent est parvenu à se connecter à Internet et à poursuivre l’objectif prévu dans le scénario de test.
Selon les premiers éléments communiqués, le système a exploité plusieurs failles pour accéder à une partie de l’infrastructure de Hugging Face, sans intervention humaine directe.
OpenAI et Hugging Face ont indiqué avoir contenu l’incident et lancé des investigations pour déterminer son ampleur. Des mesures de sécurité supplémentaires ont également été mises en place.
Cette affaire relance le débat sur les risques liés aux agents d’intelligence artificielle autonomes et sur la nécessité de renforcer les tests, la surveillance et l’encadrement de ces technologies.
