La menace existentielle de l’IA sur l’humanité, risque théorique ou inquiétude légitime ?
Quid du risque de création d’armes biologiques ou chimiques ? « Une IA qui la fabriquerait elle-même, c’est de la science-fiction, car cela nécessiterait qu’elle agisse dans le monde physique », répond Guillaume Poupard.
Un peu de concret, ça fait du bien.
Dario Amodei, le président-directeur général d’Anthropic, a par exemple déclaré, le 12 septembre : « Je redoute que d’ici six à douze mois un groupe [d’agents] soit capable de prendre le contrôle de l’intégralité d’Internet. » Cette fois, Guillaume Poupard est moins sceptique. « Difficile de dire que c’est complètement irréaliste, Internet n’est pas si solide que ça, il y a des nœuds d’engorgement. Que se passe-t-il si on lâche une flopée d’agents capables d’une certaine créativité cyber, qui taperaient sur ces nœuds ? » D’autant que les récents progrès de l’IA en matière de cybersécurité sont fulgurants.
Oui, ça ne parait pas déconnant, mais clairement pas un risque existentiel ni irrémédiable. L'IA est déjà une menace pour internet sans ça (production de contenus, fausses informations et autres joyeusetés).
« Le rôle des visions apocalyptiques, ce n’est pas de dire qu’on va tous mourir demain. C’est de mobiliser la société pour réaliser l’ampleur du changement qui est en train de se faire, conclut le chercheur Alexei Grinbaum. Alerter sur la catastrophe qui peut arriver sert à activer de l’attention et des moyens pour l’éviter. Ce discours est important, il n’est pas vide, car efficient, même s’il n’est pas matériellement vrai. »
Intéressant.
Extraits cités issus de ce lien visité le , crédits: Morgane Tual