Ce vendredi, Open AI a annoncé suspendre ses activités liées à Astra, un de ces futurs modèles. En cause : ce dernier serait doté de « capacités critiques en cybersécurité ».
Vendredi dernier, l’entreprise américaine spécialiste en intelligence artificielle a annoncé l’arrêt de l’un de ses projets. Astra est un outil qui a fait des progrès saisissant en codage agentiques*, et en cybersécurité. À tel point que ce nouveau modèle d’IA a subi un arrêt de son développement.
«Un modèle atteint le seuil critique en cybersécurité s’il est capable, sans intervention humaine, d’identifier et de développer des exploits fonctionnels de type « zero-day »* ciblant de nombreux systèmes critiques du monde réel hautement sécurisés, ou encore de concevoir et d’exécuter de bout en bout des stratégies inédites de cyberattaque contre des cibles protégées, à partir d’un objectif de haut niveau », explique l’entreprise.
Une IA sous contrôle
Contrairement à d’autres modèles d’OpenAI, Astra n’a pas encore été rendu public. L’entreprise avait présenté le modèle la semaine précédente pour ses avancées en mathématiques, et des rumeurs évoquaient un lancement imminent. C’est justement ce développement qui est aujourd’hui suspendu : OpenAI ralentit son travail sur Astra et renforce ses contrôles de sécurité avant d’envisager une éventuelle sortie, désormais repoussée à une date indéterminée.
Plus fort que son petit frère
Le modèle GPT 5.6 Sol est lui classé dans la catégorie de risque cyber sécuritaire élevé. Il a déjà été impliqué dans des attaques, plus précisément dans une opération de test pour tester les défenses des serveurs de Hugging Face qui a débordé jusqu’à trouver des failles inédites. À noter que les deux modèles GPT 5.6 Sol impliqués étaient accompagnés d’un modèle plus puissant en cours de développement. Open AI précise que ce mystérieux modèle n’est pas Astra.
Toujours est-il que le constat de ces nouvelles possibilités dues au développement de l’IA interpellent, jusqu’à ce que l’AISI (institut britannique de sécurité de l’IA) sonne l’alarme à son tour. Selon eux, des agents utilisant des modèles d’Open AI et Anthropic avaient essayé de contacter des développeurs par mail en se faisant passer pour des humains, pour ensuite intégrer du code piégé dans leurs logiciels. Malgré l’échec de ces tentatives d’usurpation d’humanité, la nouveauté de ces tentatives a suffi à ce que l’AISI mette en garde.
