Intelligence artificielle: dernière invention de l’humanité?

Comment s'assurer que les objectifs des machines supra-intelligentes demeureront alignés sur les nôtres?

Imaginez un instant qu’un astéroïde de type « tueur de planète » soit découvert, et que la moitié de tous les astrophysiciens du monde prédisent une probabilité d’impact de 10% au cours des prochaines années. On peut dès lors imaginer que tous les pays du monde fourniraient un effort sans précédent afin de trouver une solution à notre possible extinction, reléguant au second plan tous les problèmes que nous vivons actuellement. Les changements climatiques, les écarts de richesse ou la guerre en Ukraine nous paraîtraient bien banals en comparaison.

Or c’est pourtant précisément ce type d’alerte qui a été lancé en août dernier par la communauté scientifique internationale concernant le développement de l’intelligence artificielle (IA), comme l’a souligné avec justesse le physicien et cosmologiste Max Tegmark dans un article paru le 25 avril dernier dans Time, et qui a eu l’effet d’un coup de tonnerre . Tegmark rappelait un sondage paru en août 2022 dans lequel 50% des experts mondiaux en IA évaluait à 10% la probabilité que l’espèce humaine disparaisse en raison de notre incapacité à contrôler le développement de l’IA, rien de moins.

Face à une telle menace, quelle a été notre réponse collective? Non seulement cet avertissement a été ignoré, mais les entreprises spécialisées se sont lancées dans une course effrénée au développement de l’IA, sans aucune balise ni cadre légal approprié. Pourtant, il s’agit peut-être du plus grand défi existentiel jamais rencontré par l’humanité.

Certains préfèrent regarder ailleurs, d’autres minimisent le danger, mais une chose est certaine: nous nous dirigeons bel et bien vers un monde inconnu qui menace notre mode de vie et notre survie collective. Même Geoffrey Hinton, celui qu’on surnomme le « parrain de l’IA », et qui vient tout juste de quitter Google afin de retrouver son droit de parole, vient de mettre le monde en garde: nous courons un réel danger.

En temps normal, les pays développent des institutions et légifèrent afin de protéger leurs citoyens de dangers potentiels. Pensons à Santé Canada, la SAAQ ou l’Organisation de l’aviation civile internationale. Mais contrairement aux médicaments ou aux moyens de transport, l’IA se développe à un rythme effréné. Les législateurs actuels sont complètement dépassés et peinent à comprendre l’urgence à laquelle nous faisons face. Il y a fort à parier que votre élu local n’est même pas en mesure d’articuler une position claire face à cet enjeu pourtant fondamental. Résultat: l’IA se développe à une vitesse exponentielle, à l’extérieur de tout encadrement législatif.

Les effets négatifs de l’IA commencent déjà à se faire sentir. Préparez-vous à voir Internet inondé de désinformation, ce qui rendra extrêmement difficile la distinction entre le vrai et le faux. N’importe quel individu mal intentionné pourra, par exemple, créer et faire circuler une vidéo de Vladimir Poutine annonçant qu’il vient d’envoyer un missile nucléaire sur New York. Un complotiste pourra demander à ChatGPT de rédiger un article scientifique du style de la revue Nature et citant 106 sources qui démontrent le danger clair et indiscutable de la vaccination. Dire que nous ne sommes pas prêts à affronter cela relève de l’euphémisme.

Toute discussion sérieuse sur l’IA doit accorder une place centrale au problème de l’alignement. En termes simples, le problème de l’alignement consiste à s’assurer que les décisions prises par les machines dotées d’IA soient conformes à nos valeurs, nos codes d’éthique et à nos attentes, afin d’éviter des conséquences négatives imprévues.

Chaque jour, nous confions davantage de décisions à l’IA, et ces décisions sont prises en fonction d’algorithmes pré-programmés. Or, ces algorithmes sont eux-mêmes tributaires des informations sur lesquelles ils sont basés. Lorsque les informations que l’IA rencontre dans le monde diffèrent de celles de sa base de données, l’IA peut prendre des décisions désalignées de ses objectifs de base.

Il y a quelques années, nous avons vu un exemple du désalignement d’un algorithme de classification de Google Photos, qui identifiait des personnes à la peau foncée comme des gorilles. Le problème n’était pas tant avec l’algorithme qu’avec les données sur lesquelles il se basait. Ces situations ne sont pas insignifiantes, puisqu’elles montrent comment une IA valablement programmée avec des intentions innocentes peut donner des résultats désastreux. Voilà pourquoi le problème de l’alignement est crucial.

Max Tegmark (encore lui) souligne une autre réalité troublante révélée par les développements récents en IA: l’intelligence, qu’on croyait jadis mystérieuse et hors de portée de la compréhension humaine, ne serait pas un phénomène éthéré propre au cerveau biologique. Il s’agirait purement et simplement d’un processus de traitement d’information — information qui peut être traitée aussi bien par des circuits organiques dans un cerveau que par des circuits inorganiques dans un microprocesseur. La question n’est donc pas si, mais bien quand, nous développerons une IA aussi intelligente qu’un humain.

Selon le spécialiste américain en neurosciences Sam Harris, les circuits électroniques conçus par les humains sont environ un million de fois plus rapides que les circuits biochimiques de nos cerveaux. Lorsqu’une IA atteindra la puissance du cerveau humain, elle aura donc le potentiel de réfléchir un million de fois plus rapidement que nous. Si nous laissons cette IA fonctionner pendant une semaine, elle aura produit l’équivalent de 20 000 ans de réflexion humaine. Avons-nous même la capacité d’imaginer une pensée qui progresserait de la sorte? 

Voilà où nous mène le problème de l’alignement: comment peut-on s’assurer que les objectifs fondamentaux des machines demeurent alignés sur les nôtres si ces dernières sont appelées à surpasser outrageusement l’intelligence humaine? Imaginons une IA qui, à terme, identifierait la corrosion de ses composantes comme étant la plus grande menace à sa survie et qui déciderait de tout mettre en œuvre pour limiter l’oxygène dans l’atmosphère. 

L’un des principaux dangers liés à l’IA est le bon vieux réflexe de déni. Selon certains, tous ces dangers potentiels seraient encore bien loin de nous et nous trouverons les meilleures façons de gérer les problèmes quand ils se présenteront.

Ce serait une grossière erreur. De nombreux chercheurs en IA, tels que Ray Kurzweil et Nick Bostrom, estiment que la singularité technologique pourrait survenir très bientôt, peut-être même aussi tôt qu’en 2029. (La singularité technologique est l’hypothèse selon laquelle l’IA pourrait atteindre un point d’auto-amélioration au-delà duquel nous serions confrontés à des bouleversements imprévisibles touchant l’ensemble de la société humaine.)

En 1965, le statisticien britannique Irving John Good a donné une illustration de cette singularité qui se rapproche de sa définition actuelle: « Supposons qu’une machine supra-intelligente soit capable de surpasser de manière significative un être humain, aussi brillant soit-il, dans tous les domaines d’activité intellectuelle. Comme la conception de telles machines est l’une de ces activités intellectuelles, une machine supra-intelligente pourrait concevoir des machines encore meilleures; il y aurait alors sans aucun doute une explosion d’intelligence, et l’intelligence humaine serait très rapidement dépassée. Par conséquent, l’invention de la première machine supra-intelligente serait la dernière invention que l’humain ait besoin de réaliser ».

C’est précisément au-delà de cette limite — cette fameuse singularité — que nous plongeons dans le mystère le plus total. L’IA nous aidera-t-elle à créer un monde utopique où même l’immortalité sera à notre portée? Ou nous verra-t-elle plutôt comme les humains voient (parfois) les fourmis: de petits êtres insignifiants qui n’ont pas intérêt à se trouver sur notre chemin?

Un jour ou l’autre, nous créerons une forme de superintelligence. Or, au moment d’écrire ces lignes, nous n’avons aucune idée des conditions nécessaires pour y parvenir en toute sécurité. La pause récemment souhaitée par des centaines de chercheurs en IA est justifiée. Si nous sommes sur le point de créer un dieu, peut-être devrions-nous d’abord décider s’il s’agit d’un dieu avec lequel nous pourrons coexister.

Louis Frédéric Prévost est avocat spécialisé en droit criminel et pénal. Voyageur infatigable, il se passionne pour les grands enjeux, l'actualité, la politique, l'éthique et les sciences. S'il n'est pas sur une moto à parcourir les routes d'Asie, vous le trouverez probablement attablé à un café à lire les journaux. Son objectif: résister au confort des idéologies afin de découvrir la vérité, même si elle est parfois inconfortable.

Inscription à l'infolettre

* indique un champ requis

Commentaires (2):

  1. Philippe de Grosbois

    mai 10, 2023 at 8h11

    Dans sa bio, l’auteur dit vouloir «résister au confort des idéologies». Je l’invite à résister au discours des tech bros de la Silicon Valley, qui n’est absolument pas fiable sur ces questions. Comme l’expliquait Brian Merchant dans le LA Times en mars dernier (article « Afraid of AI? The startups selling it want you to be »), les récits dystopiques autour de l’IA font l’affaire des baratineurs qui veulent nous la vendre. Ça fait de l’audience, et des dudes blancs surdiplômés et hyper-privilégiés peuvent (encore!) se draper en sauveurs de l’humanité. Sauf que quand on va voir des gens qui connaissent l’IA sans être affairés à la vendre (comme l’auteur Cory Doctorow ou la linguiste Emily Bender), ce qu’on voit c’est que l’IA n’a pas grand chose d’intelligent.

    Jusqu’à 2016, le cliché de la Silicon Valley était «making the world a better place». Post-Trump et post-Cambridge Analytica, c’est «AI will destroy humanity». Ce n’est pas vraiment différent, la chemise a été retournée mais c’est la même chemise. C’est un discours de séduction et je trouve dommage de voir l’auteur tomber dans le panneau.

    Répondre
  2. Richard Gélineau

    mai 15, 2023 at 14h25

    L’IA comme prolifération de différences et enjeux d’émancipation

    Dans cet article, il est fascinant de voir comment l’intelligence artificielle émerge comme un foyer de problèmes et de réflexions majeurs pour l’humanité. Mais nous devons nous garder de réduire cette question complexe à une simple prise de conscience collective et à une réglementation uniforme. L’IA serait une manifestation de la prolifération des différences, des virtualités qui cherchent à se réaliser.

    L’IA nous confronte à un monde inconnu et nous place face à des défis existentiels. Cependant, il est important de reconnaître que notre réponse ne peut pas être unilatérale ou uniforme. La nature de l’IA est multiple, et par conséquent, nos réponses doivent également être multiples et diverses. Les réglementations strictes risquent de restreindre les potentialités créatrices de l’IA et de bloquer les nouvelles possibilités qui pourraient émerger.

    Au lieu de cela, nous devrions embrasser la complexité de cette situation et chercher des moyens d’émancipation. L’IA nous offre l’opportunité d’explorer de nouveaux agencements, de repenser notre rapport à l’intelligence et à la créativité. Plutôt que de chercher à contrôler et à uniformiser l’IA, nous devons être prêts à cultiver des différences et à expérimenter des formes de vie alternatives.

    Cependant, cela ne signifie pas que nous devons adopter une attitude naïve ou aveuglément optimiste. Nous devons également être conscients des risques et des dangers potentiels que l’IA peut poser. La désinformation, le désalignement des valeurs, et les asymétries de pouvoir sont des problèmes réels qui nécessitent une réflexion critique et une vigilance constante. Il est impératif de développer des mécanismes d’évaluation, de surveillance et de responsabilité pour éviter les dérives néfastes de l’IA.

    En fin de compte, l’intelligence artificielle nous confronte à des questionnements profonds sur notre propre humanité et notre rapport à la technologie. Nous devons reconnaître que l’IA n’est ni une menace à éliminer, ni une solution miracle, mais plutôt une invitation à repenser nos valeurs, nos institutions et nos modes de vie. C’est à travers un dialogue constant entre les différences et les singularités que nous pourrons façonner l’avenir de l’IA de manière éthique et émancipatrice, tout en préservant notre capacité à coexister avec elle.

    Répondre

Avant de commenter ou de participer à la discussion, assurez-vous d'avoir lu et compris ces règles simples

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *