L’épigénétique des algorithmes : l’IA, ce miroir qui apprend à nous connaître !

Une intelligence artificielle chinoise, américaine ou européenne ne répond pas de la même manière à une même question. Derrière l’apparente universalité de la technologie se dessinent des cultures, des habitudes et des visions du monde différentes. Comme les êtres humains, les algorithmes apprennent du monde qui les entoure et qui les nourrit en données. Cette tribune complète le nouveau podcast La lucarne de Marcelle*.

♦ Pierre Grand-Dufay est chef d’entreprise et spécialiste des transformations numériques et de l’intelligence artificielle. Observateur des mutations technologiques depuis plus de vingt ans, il analyse les interactions entre innovation, société et gouvernance. Son ouvrage Le Monde de Tim, publié en 2018 avant l’essor de l’intelligence artificielle générative, explorait déjà les conséquences sociales et culturelles de systèmes capables d’interagir avec les comportements humains. ♦

Et si les intelligences artificielles étaient en train d’hériter des cultures qui les nourrissent ? À première vue, cela peut sembler surprenant. Après tout, une machine n’est-elle pas censée appliquer partout les mêmes règles ? N’est-elle pas, par nature, indifférente aux cultures, aux frontières, aux habitudes et aux sensibilités qui distinguent les sociétés humaines ? Nous avons longtemps regardé les technologies numériques comme des mécaniques universelles. Un calcul est un calcul. Un algorithme est un algorithme. Une réponse est une réponse. Pourtant, à mesure que l’intelligence artificielle progresse, cette certitude commence à se fissurer. Car derrière les performances spectaculaires des grands modèles de langage apparaît une réalité beaucoup plus subtile : les machines apprennent du monde qui les entoure. Et ce monde, c’est nous.

Le rôle déterminant de l’environnement

Les biologistes connaissent depuis longtemps un phénomène qui porte le nom d’épigénétique. L’idée est simple. Un être humain n’est pas seulement façonné par son patrimoine génétique. Son environnement joue lui aussi un rôle déterminant. L’éducation, le contexte social, la violence, la stabilité, les habitudes culturelles ou les expériences vécues influencent durablement les comportements sans modifier directement les gènes. Autrement dit, nous héritons d’un patrimoine biologique mais également d’un environnement. Or c’est précisément cette idée qui permet aujourd’hui d’éclairer d’un jour nouveau le fonctionnement des intelligences artificielles.

♦ « Nous avons tendance à penser que les algorithmes sont uniquement nourris par les données que leurs concepteurs décident de leur fournir. La réalité est devenue beaucoup plus complexe. Les intelligences artificielles apprennent désormais dans l’immense environnement numérique produit chaque jour par l’humanité » – Pierre Grand-Dufay ♦

Références culturelles et habitudes collectives

Les IA absorbent nos textes, nos images, nos débats, nos émotions, nos inquiétudes, nos enthousiasmes, nos conflits et parfois même nos comportements les plus excessifs. Elles ne se nourrissent pas seulement d’informations. Elles absorbent également les traces culturelles laissées par les sociétés qui les produisent. C’est précisément ce qui explique qu’une intelligence artificielle développée dans un environnement chinois, américain ou européen puisse progressivement évoluer de façon différente. Les informations auxquelles elle est exposée ne sont pas les mêmes. Les références culturelles ne sont pas les mêmes. Les habitudes collectives ne sont pas les mêmes. Les sensibilités ne sont pas les mêmes. Une société transmet toujours quelque chose d’elle-même aux systèmes qu’elle construit. Et les intelligences artificielles n’échappent pas à cette règle. Derrière l’apparente neutralité de la technologie émergent déjà plusieurs manières de voir le monde.

♦ « Parce qu’une intelligence artificielle répond rapidement, avec fluidité, parfois avec élégance et souvent avec pertinence, nous avons tendance à lui attribuer une capacité de réflexion comparable à la nôtre. C’est une erreur. L’intelligence artificielle ne modélise pas la pensée. Elle modélise le langage » – Pierre Grand-Dufay ♦

Ce à quoi s’abreuve l’IA

Le fonctionnement de l’IA repose sur des mécanismes statistiques qui lui permettent de déterminer quels mots ont le plus de probabilité d’apparaître ensemble dans un contexte donné. Lorsqu’elle produit une réponse, elle ne réfléchit pas comme un être humain. Elle organise des mots. Construit des phrases. Établit des relations linguistiques. Elle donne parfois l’impression de penser parce que le résultat ressemble à une pensée. Mais cette impression ne doit pas être confondue avec la réalité de son fonctionnement. C’est pourtant là que surgit le paradoxe. Car même sans pensée propre, ces systèmes exercent une influence grandissante sur nos sociétés.

Pendant des siècles, les idées ont circulé à travers une série de filtres : l’école, l’université, les chercheurs, les journalistes, les éditeurs, les responsables publics. Entre l’apparition d’une idée et sa diffusion existaient du temps, de la sélection, de la contradiction et parfois même de la prudence. Aujourd’hui, cette temporalité se réduit considérablement. Les intelligences artificielles apprennent directement du flux permanent de l’humanité numérique puis réinjectent presque instantanément ce qu’elles ont absorbé sous forme de réponses, de recommandations ou de contenus. C’est peut-être là que se situe la véritable révolution.

Le reflet des civilisations qui les produisent

L’épigénétique humaine modifie lentement l’expression du vivant, elle agit sur plusieurs générations. L’épigénétique algorithmique pourrait agir en quelques semaines. Pour la première fois dans l’histoire, l’humanité construit des systèmes capables d’apprendre directement des comportements collectifs avant de les renvoyer presque immédiatement vers la société qui les a produits. Les sociétés transmettaient autrefois leurs récits à leurs enfants. Elles les transmettent désormais aussi à leurs algorithmes. Dès lors, la question n’est plus seulement technologique. Elle devient culturelle. Une société qui privilégie la confrontation transmettra cette confrontation aux systèmes qu’elle développe. Une société qui valorise la nuance transmettra davantage de nuance. Les intelligences artificielles ne sont pas extérieures aux civilisations qui les produisent. Elles en deviennent progressivement le reflet. Elles absorbent nos manières de parler, nos manières de débattre, nos manières de percevoir le monde.

Nous avons longtemps cru que nous construisions des machines destinées à nous assister. Peut-être découvrons-nous aujourd’hui que nous construisons aussi des miroirs. Et comme tous les miroirs, ils finissent parfois par nous révéler ce que nous ne voulions pas voir. ♦

*L’ambition de notre collection de podcasts ? Vous proposer des entretiens qui questionnent notre monde et apporter, ce qui fait l’ADN de Marcelle, des réponses et des solutions. Ouvrir cette lucarne, c’est entrer dans des séries sur des thématiques qui engagent. Collectionner des portraits inspirants. Laisser la place à des sujets de controverses pour apporter un éclairage différent. Et permettre bien-sûr l’échange de points de vue et de dialogue.

Première collection :  IA mode d’emploi – démystifier l’intelligence artificielle, se décline en 10 épisodes. Une série imaginée et animée par la journaliste Raphaëlle Duchemin, et réalisée par Kevin Dienger.