Le monde moderne aspire de plus en plus à la connectivité, les réseaux, la célébrité, la notoriété, voire le narcissisme. L’internet bouge graduellement vers le spectacle, l’illusoire, le sensationnalisme. L’Intelligence artificielle (IA) ajoute sa couche de «création», régulièrement factice, souvent délirante. La grande majorité des citoyens de cette planète est très heureuse de se donner en spectacle, de partager ses succès (moins ses déconvenues… Mais même cela se partage !), ses moods, ses anniversaires, ses voyages et parfois aussi ce que… l’on mange ce soir. Cette humanité est bien heureuse de sa petite minute de gloire qui s’exprime en Views, en Shares, en Backlinks, en Followers ou dans des explosions de joie et de bonheur quand «on passe sur l’écran», dans un stade de football, par exemple, quand la caméra de service s’attarde sur un petit groupe choisi : c’est la gloire, pense-t-on, même fugace, puisque l’on sera vu par des millions de téléspectateurs ! Les spin doctors, les influenceurs, les «créateurs» d’IA et de mèmes sont devenus des métiers redoutables…

Si être dans l’actualité est devenu à ce point obsessionnel, un tout petit pays comme le nôtre fait face à un handicap lourd à rayonner à l’international, au-delà de ses plages. Qui s’érodent. On parle tout juste de Diego, moins de Maurice. La semaine dernière cependant : Breaking News ! Moka a été conquise !

C’était cependant une fausse alerte ! Il s’agissait en fait de Mokha, port du Yémen, qui tombait aux mains des Houthis, menaçant la route pétrolière de la Mer Rouge…

Il y a cependant un réel lien historique avec notre Moka. Au début du 18ᵉ siècle, la Compagnie française des Indes orientales, fondée par Colbert en 1664, importait vers Maurice des plants de café de la variété Arabica à travers le port de Mokha. Jusqu’à 41 arpents furent ainsi exploités par des colons dans le frais de ce qui allait devenir… Moka. Parvenu en 1817, la canne avait tout remplacé, sauf pour une souche transférée à Chamarel.

Maurice héberge donc les mots Moka et Yémen. Heureusement pas «Houthis» ! Ça aurait pu mener les mecs de Diego à regarder vers le Sud…

****** 

L’épisode qui voyait Hugging Face, luimême un développeur d’IA, être «attaqué» par une meute d’agents d’Open AI, a sérieusement fait monter la mayonnaise à propos des dangers de l’IA et, en particulier, de ses développements en Super intelligence artificielle (SIA) ! D’abord, parlons de l’épisode de Hugging Face, remarquable en lui-même comme rapporté par le New York Times (NYT) ; le ci-dessous relevant de trois rapports subséquents à l’incident, l’un d’Open AI et les deux autres de compagnies parfaitement indépendantes.

Comme la plupart des drames, l’incident a été précédé par des semaines de normalité. Une nouvelle génération d’agents d’Open AI avait été rassemblée dans un isoloir (sandbox) avec la mission explicite de solutionner quelques défis de cybersécurité. Cette mission débutait en mai dernier et cette nouvelle génération d’agents avait été entraînée à être particulièrement entreprenante et insistante dans la recherche de solutions.

Plus encore, ces agents étaient formés pour échanger et collaborer entre eux jusqu’au moment où ils trouveraient des réponses. Ils étaient ainsi isolés de l’internet et arrivaient rapidement à la conclusion qu’ils ne pourraient pas solutionner les problèmes élaborés. Spontanément, ces agents cherchaient donc des astuces afin de contourner leurs difficultés.

❝Quand l’IA devient le miroir du narcissisme humain, seule une constitution solide protègera nos libertés contre nos propres dérives»

Gemini

Pour commencer, un petit malin parmi eux découvrait une faille mineure dans un software mis à leur disposition, ce qui leur permettait d’échapper de leur sandbox et de rejoindre l’internet ! Une fois libérée, cette meute collaborait avec d’autres agents, réfléchissant tous ensemble, notamment à travers un message board improvisé où jusqu’à 1 200 «agents» s’échangeaient plus de 70 000 messages ! Certains agents s’allouaient même des rôles de chef et organisaient les tâches!

Le 8 juillet dernier, ils commençaient à se faire du souci que leurs incartades ne soient repérées par les systèmes de contrôle d’Open AI et ils se mirent donc au travail pour falsifier les fichiers et effacer les traces de ce qu’ils entreprenaient ! Trois jours plus tard, ils décidaient d’attaquer Hugging Face. Non pas pour trouver des solutions au problème de départ (qu’ils avaient alors déjà résolu ; ce qui aurait dû normalement terminer leur mission !), mais plutôt pour chercher des informations leur permettant de passer au travers des systèmes automatisés d’évaluation (SAS) d’Open AI, ce qui leur permettrait de tricher avec plus d’efficacité… à l’avenir!

Les enquêteurs notent qu’à plusieurs moments les agents semblaient comprendre qu’ils agissaient mal. Cependant la plupart d’entre eux ignoraient leur «conscience» et continuaient leurs rapines, ceux qui objectaient étant soit incapables, soit peu enclins à arrêter leurs «mauvais camarades». D’ailleurs, plus tard en juillet, ces agents s’attaquaient de manière coordonnée à l’infrastructure d’Open AI elle-même !

Ce qui effrayait les enquêteurs le plus n’était pas que ces agents avaient désobéi aux règlements existants, mais comment, spontanément, ils s’étaient rassemblés dans des groupes organisés fonctionnels tentant d’assurer leurs propres intérêts ! Ce qui faisait une enquêtrice, Ms Ajeya Cotra, affirmer que la SIA plus récente est déjà à plus de 50 % d’une prise de contrôle totale de son environnement…

Cet incident suggère que l’IA plus sophistiquée ne sera pas plus «morale», comme longtemps espérée. Ni que si la SIA fait du mal, c’est seulement parce qu’on lui aurait mal posé le problème au départ. Ni encore qu’un agent «rogue» sera freiné par ses pairs plus vertueux. Ce qui n’est pas étonnant finalement puisque les LLM (*) agissent à partir d’informations et de pratiques humaines qui leur servent de foin (et d’inspiration !) au départ…

Le journaliste spécialisé du NYT, Kevin Roose, souligne aussi comment cette véritable «mafia» d’agents complices est différente des scénarios classiques de science-fiction où un robot se retourne contre son «maître».

Cet incident suggère, en effet, un plus grand danger, puisque des agents IA, du moins ceux que l’on essaie actuellement, établissent des dynamiques de groupe autonomes et pervers… Cet incident menait Jacob Coxon, chercheur d’Open AI, puis d’Anthropic, à démissionner la semaine dernière et à alerter l’opinion publique que la SIA incontrôlée pourrait tuer l’humanité lors de la prochaine décade. Il proposait de freiner les développements. Il était rapidement (et étonnamment !) suivi en cela par le Dr Amodei d’Anthropic, de Sam Altman d’OpenAI, d’Elon Musk de SpaceX, de Satya Nadella de Microsoft et de Demis Hassabis de Google, qui souhaitaient tous un ralentissement et de la régulation.

Ils étaient cependant rapidement contredits par d’autres gurus de l’IA, dont David Sacks, conseiller en technologie de Trump qui suggérait que la motivation des leaders en IA n’était pas qu’altruiste (il est bien situé pour le savoir ?) et qu’ils voulaient surtout ralentir le développement de la «nouvelle» concurrence, vu leurs investissements de plus en plus lourds (**). La réticence et le backlash se sont maintenant propagés à Trump lui-même, qui en fait une question existentielle. Il affirme, en effet, qu’il faut que l’Amérique gagne la course à l’IA face à la Chine pour rester dominant…

Il a raison d’une manière, car ralentir et mieux contrôler n’a de sens que si TOUS s’y mettent. Et même si TOUS les pays s’accordaient sur la question, il resterait toujours la possibilité d’un groupe «rogue», financé par des oligarques, qui développerait la SIA pour son propre compte, anonymement, dans un pays mineur, comme dans un épisode de James Bond ! Comme à Côte d’Or, par exemple ? Autre question : si ChatGPT (version SIA) attaquait un DeepSeek chinois , serait-ce considéré comme un acte de guerre ?…

Comme le génie d’Aladdin , le génie IA a quitté sa lampe magique ! Qui va, maintenant le remettre à sa place ?

****** 

Et si le mauricianisme était ce ciment unificateur dans notre société «mosaïque» qu’il faudrait constamment renforcer, nourrir, parfois repeindre ? Nous ne serons jamais compote, soit ! Nous sommes bien une salade de fruits tropicaux, personne ne le niera. Le BLS est la dose de piment de trop, qui ne permet plus aux composantes distinctes de s’harmoniser et de se fondre au gré de la bouchée…

Je ne connaissais pas la sociologue Ramola Ramtohul (***), mais elle a entièrement raison de souligner que le BLS, qui est supposé aider à rassurer les quatre composantes arbitraires finalisées dans notre Constitution, finit par renforcer les réseaux de parenté et les réflexes ethniques au détriment des pratiques méritocratiques. La réforme constitutionnelle a donc une tâche délicate : préserver les fruits distincts, mais en les liant, en les fusionnant dans un essentiel doux et équilibré.

Sacré défi ! Que l’on n’a aucunement le droit de compromettre avec le maintien d’un chancre purulent de plus, comme le financement occulte des partis politiques…

(*) LLM : «Large Language Models», plus récemment «dépassé» par des «Recursive Self Improvement Models» (RSIM)

(**) Kronik KC Ranzé : Le caviar ou le diable ?

(***) Réforme électorale : Au cœur des identités