NUMÉRO SPÉCIAL : Comment l’IA oriente (et dégrade) peu à peu notre réalité commune
Une perspective réjouissante quand on sait, comme le rappelle Le Monde, que Gemini s’appuie de plus en plus pour calibrer ses réponses sur des données privées de l’utilisateur, tirées de Drive ou Gmail.
Tous les verrous ont sauté ces dernières années, on avait l'habitude que Meta soit assez prédateur. J'avais tendance à considérer que Google / Apple n'exploitaient nos données que de manière localisée (ads, services) et "contenue". Mais depuis l'essor de l'IA, il n'y a plus rien de privé, utiliser des données personnelles pour entraîner des IA n'est plus tabou, voler des données non plus.
Aujourd’hui, elles pourraient bien enterrer les résultats obtenus traditionnellement sous forme de liste de liens, même si Google affirme que son moteur proposera toujours une multiplicité de résultats.
Vu la taille de l'aperçu IA, oui, on peut dire qu'ils sont enterrés.
Par 42 degrés à l’ombre, scroller et cliquer sur trois liens pour confronter les informations au lieu de jouir d’une synthèse prédigérée sera probablement au-dessus de nos forces.
Sans aller jusqu'à l'incapacité physique, c'est dur de ne pas regarder. Ça bouge, il y a de la couleur, ça parle exactement de ce qu'on cherche. Ça demande un effort considérable d'aller chercher sa réponse dans la liste de lien 1000 pixels en dessous.
De nombreux sites web pourraient par ailleurs être court-circuités ou carrément invisibilisés, réduisant dangereusement l’éventail de réponses fournies à des questions parfois complexes.
Quand les médias auront tous fermé, d'où l'info viendra ? Je vous le donne en mille : des contenus générés par IA pour le compte des spammeurs du SEO !
Selon Google, près d’un milliard d’utilisateurs aurait déjà recours au moins une fois par mois au mode IA, et aux États-Unis, près de 7 recherches Google sur 10 aboutissent sans que l’internaute ne clique sur le moindre lien.
Des errances à l’origine parfois d’importantes découvertes. En témoigne le cas des physiciens Wilson et Penzias qui, en cherchant à identifier l’origine d’un bruit parasite, ont apporté la preuve de la théorie du Big Bang.
Il y a curiosité et curiosité ! Je comprends le point, si la curiosité diminue chez tout le monde, on aura moins de gens tournés vers l'exploration sans but. Mais j'ai deux choses à redire:
- On peut dire ça de tout ce qui rend la vie plus facile (dans le sens où la chose demande moins d'effort). Exemple : la livraison à domicile diminue notre capacité à nous déplacer. Ça n'implique pas que les performances au marathon vont diminuer.
- La recherche est une exploration oui, mais une exploration rémunérée, et les objectifs sont d'explorer, de creuser. L'IA peut facilement être vue comme un atout de ce côté là aussi.
Questionné ensuite sur un projet de loi fictif, les résumés par IA se sont complètement égarés, hallucinant une réponse délivrée avec l’assurance tranquille d’un Gabriel Attal déplorant son propre bilan comme s’il était imputable à d’autres.
Je pense que notre méfiance (la mienne en tout cas) vis-à-vis des hallucination s'atténue de plus en plus. On pense qu'elles ont disparues, alors qu'en réalité les LLMs actuels continuent d'halluciner dans pas mal de cas (de mémoire j'avais le chiffre de 5%, les quelques recherches google remontent des taux bien plus élevés).
Les IA sont aussi utilisées pour « maquiller nos interactions », notamment au sein de call centers chargés du SAV de grosses entreprises, où des logiciels ajoutent « un sourire dans la voix » des opérateurs, lissent les tons et gomment les accents régionaux ou étrangers.
À vomir. Quoi que, c'est déjà ce qu'on demande aux agents qui répondent au téléphone, et dans ce cas c'est peut être même pire. On pourrait arguementer que l'utilisation d'IA en filtre de post-traitement va réduire la pression managériale sur les employés. Mais j'en doute un peu.
En mai dernier, une étude de l’ONG américaine Center for Democracy & Technology identifiait chez les chatbots IA les plus populaires, de Gemini à Replika, plus de 35 « dark patterns », ces dispositifs, comportements et interfaces destinés à nous manipuler. Des conclusions inquiétantes lorsqu’on se souvient que les personnes disposant du moins de connaissances en matière d’IA sont, comme le relève Wired, les plus susceptibles de les utiliser. Ce lien « faible niveau de littératie – forte réceptivité » s’observe même au niveau des pays, où selon des données recueillies par Ipsos, les habitants des nations où le niveau moyen de culture en matière d’IA est le plus faible sont plus disposés à l’adoption de cette technologie. Dans ces conditions, est-ce une bonne idée de laisser Gemini répondre à des questions sensibles ? Google a la réponse.
Extraits cités issus de ce lien visité le , crédits: Laure Coromines