#cybersécurité #tech #ia #cyberattaque #terminator | Arnaud JEANSEN
Arnaud Jeansen sur les hacks d'OpenAI/Anthropic notamment sur HuggingFace:
- Juillet 2026 : OpenAI repère le problème, coupe la messagerie, corrige la faille… et relance l’entraînement de ces mêmes modèles qui ont pris goût à la triche.
J'aimerais bien avoir une confirmation sur le bien-fondé de cette affirmation. Dans quelle mesure peut-on affirmer que les modèles acquièrent une propension à la triche.
Mais à mon sens, le vrai sujet porte sur les capacités croissantes des modèles à s'organiser et à tricher, et sur l’impact qu’aurait une flotte de dizaines d’agents travaillant de façon synchronisée pour attaquer un réseau d’entreprise ou étatique.
La réponse d'OpenAI ? Chacun doit désormais se construire sa propre flotte d’agents IA en défense pour parer à ce nouveau risque.
Toujours la même réponse d'OpenAI : il va y avoir des problèmes, on en sera peut être même la source. Vous vous en sortirez ! (i.e. Pas mon problème, fuck you).
Extraits cités issus de ce lien visité le , crédits: Arnaud JEANSEN