Le gorille, l’IA et nous

Il y a quelques semaines, un mème s’est propagé sur les médias sociaux. À la fois concret, hypothétique et susceptible de remuer mille passions, le thème était simple: serait-il possible pour 100 hommes de vaincre un gorille dans un combat en corps à corps?

Comme pour d’autres controverses virales, la question a permis à des milliers d’inconnus de faire semblant de discuter sérieusement de choses importantes pendant quelques jours. Certains affirmaient avec confiance que 100 hommes entraînés pourraient venir à bout du primate. D’autres prédisaient plutôt que le gorille aurait tôt fait d’arracher quelques têtes et quelques bras avant que ses antagonistes ne déguerpissent sans demander leur reste. D’autres encore ont adopté la posture du scientifique sobre, conjecturant que le grand singe pourrait abîmer quelques dizaines d’hommes avant que ces derniers, agissant de manière concertée, finissent par l’épuiser et s’imposer.

Au terme de ce vaste et ridicule débat, qui a anéanti des dizaines de milliers d’heures de productivité à l’échelle mondiale, l’humanité n’a accompli absolument aucun progrès: personne ne sait ce qui se passerait réellement, et personne ne tentera réellement l’expérience. Tous ces échanges n’étaient qu’un prétexte pour désennuyer des gens qui passent trop de temps devant leur écran.

Avalés par nos écrans?

Au même moment, dans d’autres forums, un autre débat faisait rage. Là aussi, l’issue est incertaine. Mais les enjeux sont autrement plus sérieux.

Je ne parle pas d’un combat hypothétique entre des humains et un gorille, mais du choc certain que l’intelligence artificielle (IA) provoquera, peut-être d’ici 24 mois, pour des centaines de millions d’hommes et de femmes à travers le monde, et des conséquences de cette innovation technologique sur l’organisation du travail, de la vie sociale et des relations personnelles.

Si un gorille possède la force de 4 à 10 hommes, les moteurs actuels d’IA dépassent déjà l’humanité entière à bien des égards. 

Les systèmes sont loin d’être parfaits, bien sûr. Ils ont leurs défauts et leurs limites. Les problèmes d’hallucination, notamment, sont bien documentés. Un article récent, rédigé par les chercheurs d’Apple, soulève des doutes sur les capacités de certains modèles avancés. Mais, même dans son état d’avancement actuel, aucun être humain n’a la capacité de rivaliser avec l’IA en matière de recherche, d’analyse et de synthèse des connaissances, à toute vitesse, sur tous les sujets. Les ordinateurs ont déclassé les champions d’échecs depuis une vingtaine d’années. ChatGPT est déjà partout sur les campus universitaires, et utilisé tant par les étudiants que par leurs profs. Les prochaines générations d’IA promettent d’être exponentiellement plus puissantes, capables d’accomplir encore mieux, et encore plus rapidement, le travail de millions de personnes, dans tous les domaines, incluant ceux (comme le travail manuel) qu’on considère souvent à l’abri de l’IA. Un scénario pose l’hypothèse qu’en mars 2027 – dans moins de deux ans – les plateformes d’IA les plus avancées pourront accomplir la tâche de 50 000 programmeurs humains experts, trente fois plus rapidement.

Cette réalité soulève des questions fondamentales sur notre organisation sociale et économique, et même sur les aspects les plus intimes et existentiels de la vie humaine. Les prises de parole sur le sujet se multiplient depuis quelques mois. 

Utopie et dystopie

Certains abordent cette évolution de manière optimiste, évoquant les progrès technologiques du passé pour prédire que l’IA aura sensiblement les mêmes conséquences: des pertes ou des transformations d’emplois, compensées par la création de nouvelles occupations et une amélioration générale de la croissance économique et de notre qualité de vie. On affirme que l’IA permettra d’automatiser certaines tâches routinières, d’augmenter la productivité et de décupler notre savoir — ce qui mènerait à de grandes découvertes et de vastes avancées socio-économiques. 

Sam Altman, PDG de OpenAI, créateur de ChatGPT, est un des principaux prophètes de cette vision. (L’investisseur Marc Andreessen pousse la philosophie aux limites de la caricature.) Ce courant présente l’IA comme un outil technologique – certes impressionnant et révolutionnaire –  mais dans la continuité des innovations passées qui ont contribué à l’amélioration de notre qualité de vie et des sociétés humaines. 

D’autres offrent toutefois une perspective beaucoup plus sombre et alarmiste. 

Elon Musk s’inquiète depuis des années des risques que l’IA pose pour l’humanité. Récemment, des voix moins polarisantes se sont aussi élevées pour sonner l’alarme. Le manifeste AI2027 offre des prédictions effarantes sur l’avenir proche, incluant dans ses composantes géopolitiques et militaires. Le PDG de Anthropic, Dario Amodei, s’inquiète d’une apocalypse pour le marché du travail et implore les entreprises et les leaders politiques d’abandonner les euphémismes et les lunettes roses quant aux conséquences socio-économiques de l’IA. Yoshua Bengio, dans une récente conférence TED, aborde sérieusement les risques d’extinction de l’humanité liés à des systèmes informatiques dotés d’agentivité et dont les intérêts ne seraient pas alignés sur les nôtres. D’autres s’inquiètent d’un avenir où les humains pourraient développer des relations intimes, érotiques mêmes, avec des Chatbots à ce point convaincants qu’ils remplacent les véritables rapports humains.  

« Comme créateurs de cette technologie, nous avons le devoir et une obligation d’être honnêtes à propos de ce qui s’en vient,” explique Amodei. “Je ne crois pas que les gens en sont conscients. C’est une dynamique très étrange. Nous disons que les gens devraient s’inquiéter de la trajectoire de la technologie que nous développons. Les critiques répondent qu’ils ne nous croient pas, que nous ne faisons que mousser nos produits. Mais les sceptiques devraient plutôt se demander: et s’ils avaient raison?”

Quelques nouvelles récentes suggèrent que les bouleversements ont commencé: mises à pied chez Microsoft, restructuration chez Meta, suppressions de postes chez Duolingo, et des indications que plusieurs dirigeants d’entreprises suivent de près les développements pour ajuster leurs plans d’embauches en conséquence. Dans le manifeste futuriste AI2027, les auteurs décrivent le processus d’obsolescence du travail humain au sein de OpenBrain, une entreprise fictive d’IA :

JUIN 2027: La plupart des employés humains de OpenBrain ne peuvent plus apporter de contribution utile. Certains ne le réalisent pas et micro-gèrent leurs équipes d’IA de manière contreproductive. D’autres restent assis devant leur écran, observant la performance grimper, grimper, grimper sans cesse. Les meilleurs chercheurs en IA continuent d’apporter de la valeur. Ils ne programment plus. Mais les modèles ont de la difficulté à répliquer certains de leurs intérêts de recherche et leurs capacités de planification. Cela dit, plusieurs de leurs idées sont inutiles parce qu’ils n’ont pas les connaissances approfondies des IA. En réaction à plusieurs de leurs suggestions de recherche, les IA produisent immédiatement un rapport expliquant que leur idée a été testée en profondeur il y a trois semaines et jugée peu prometteuse.

Ces chercheurs se couchent chaque soir et se réveillent le lendemain avec l’équivalent d’une semaine d’innovation, réalisée principalement par les IA. Ils travaillent de plus en plus et se relaient 24 heures sur 24 pour demeurer à jour sur les progrès, parce que les IA ne dorment et ne se reposent jamais. Les chercheurs humains courent vers le burnout mais ils savent que ce sont les derniers mois où leur travail peut faire encore une différence.

Des questions urgentes

Je ne suis pas expert en IA. Je ne suis pas en mesure d’évaluer qui, des optimistes ou des alarmistes, a le plus de chances d’avoir raison. Mais je note que, contrairement à ceux portant sur les hommes et les gorilles, les débats sur l’IA concernent des enjeux réels et graves. Le principe de précaution doit s’appliquer.

Peut-on simplement balayer les objections en évoquant l’histoire des innovations passées et leurs impacts bénéfiques sur le progrès social, scientifique et économique, ou faut-il plutôt rappeler – en particulier aux apologistes du libre-marché et de l’invention infinie – que les performances passées ne préjugent pas des performances futures? 

Peut-on assimiler à une innovation ordinaire une technologie qui ne se contente pas de simplifier, d’accélérer ou d’alléger nos tâches – comme le fait une pelle mécanique, une calculatrice ou un courriel – mais qui a le potentiel de remplacer, voire de dépasser notre intelligence?

Peut-on poser la question — rapidement — de la place que l’IA devrait occuper dans nos sociétés, et des mécanismes en vertu desquels cette place sera déterminée ou contenue? Faut-il se résigner, malgré les risques, à poursuivre cette course effrénée vers une intelligence surhumaine, par crainte que nos rivaux géopolitiques acquièrent des super pouvoirs avant nous?

Faut-il réglementer le secteur? Décréter un moratoire? Imposer dès aujourd’hui des codes de conduite aux organisations qui développent les modèles d’IA, et espérer que ces procédures amènent naturellement des résultats bénéfiques? Faut-il, comme le propose Yoshua Bengio, radicalement limiter l’agentivité des systèmes d’IA?

Faut-il réactualiser la pensée luddite et rejeter catégoriquement les innovations technologiques qui nous arrachent à notre condition terrestre, matérielle, mortelle, locale et ancrée dans la nature? Doit-on – peut-on? – remettre le génie de l’IA dans la bouteille, comme dans Terminator?

Faut-il reconsidérer la primauté de la croissance et de l’innovation sur toute autre considération éthique, personnelle ou sociale? Faut-il statuer collectivement (plutôt que strictement individuellement) sur ce qu’on considère comme les aspects essentiels des relations humaines et de notre organisation socio-économique? Faut-il remettre en question la productivité et la praticité comme valeurs cardinales dans nos vies? Faut-il envisager la limitation d’une industrie privée au nom du bien commun? Faut-il proposer une collaboration internationale avec des États qu’on considère comme des menaces? Faut-il imaginer des réformes radicales de nos instances démocratiques, incluant des nouveaux mécanismes de redistribution de la richesse?

Plus fondamentalement, faut-il s’interroger sur les dimensions de nos vies que nous considérons comme non négociables, liées de façon intrinsèque à notre identité humaine? En présumant qu’on trouve ces réponses, comment remettre l’IA à sa place et préserver la valeur irremplaçable, l’autonomie et le sens de nos vies personnelles, sociales et professionnelles? Comment s’assurer que nous ne devenions pas collectivement sujets d’algorithmes qui pensent pour nous, et individuellement amoureux de machines programmées pour combler nos fantasmes?

Nous ne sommes pas habitués à nous poser ces questions. Elles invitent des réflexions dissonantes et des interrogations qui déstabilisent certains paradigmes de notre époque. Je n’ai assurément pas toutes les solutions, mais si les prédictions entourant l’IA se réalisent, toutes les approches devront être sur la table. 

Ne pas détourner le regard

Il y a quelques semaines, l’essayiste Christine Emba a publié une lettre ouverte dans le New York Times dans laquelle elle dénonçait l’illusion de la pornographie inoffensive. Emba écrit:

Comme société, nous permettons que nos désirs continuent d’être façonnés, de manière expérimentale et à but lucratif, par une industrie qui n’a pas nos intérêts à cœur. Nous voulons prouver que nous sommes ouverts et modernes, écarter les discussions inévitables sur les limites et la réglementation, et éviter toute limite sur nos comportements. Mais nous détournons le regard des manières dont nous empirons notre condition. 

Ce passage m’est revenu en tête en réfléchissant à ce que ChatGPT, Claude, Gemini et Grok nous réservent au cours des prochaines années.

Face aux gouvernements américain, européen, chinois et autres, la voix du Québec ne portera pas très loin. Je le sais bien. Mais il reste de l’idéalisme chez nous, Yoshua Bengio habite ici, et nous avons l’expérience de défendre la souveraineté des peuples. Au-delà des postures défensives dont nous avons trop souvent l’habitude, peut-être pourrions-nous participer, voire assumer un certain leadership, au sein d’une coalition internationale de défense et de promotion de la place de l’humain dans les sociétés et l’économie de l’avenir. Yoshua Bengio a récemment fondé LawZero. Voilà une initiative, parmi d’autres, qui mérite d’être connue, soutenue, et déployée à grande échelle.       

Les débats entourant l’issue d’un combat entre cent hommes et un gorille posaient la question de la domination d’une espèce sur une autre. Le débat sur l’IA pose la question de la suprématie de la machine sur le vivant. Dans cet affrontement, les humains et les gorilles sont assurément dans le même camp.