Marina Alcaraz
La crise traversée par la maison mère de ChatGPT se lit aussi comme un affrontement de différentes visions du monde.
La crise qui a agité OpenAI ces derniers jours n'est pas qu'une affaire de gouvernance, mais trouve aussi ses racines dans les convictions d'un courant appelé l'« effective altruism » (altruisme efficace), très en vogue dans la Silicon Valley. Il s'agit d'un mouvement qui vise à utiliser la recherche et le raisonnement pour résoudre les problèmes les plus urgents et ce au profit du plus grand nombre. Il est inspiré notamment du philosophe australien Peter Singer.
« L'altruiste efficace considère que toutes les vies se valent et qu'une action altruiste doit donc être guidée par la raison davantage que par l'émotion. Il s'agit moins de suivre des règles de vie éthiques que de maximiser le bien créé par un investissement donné de temps ou d'argent », explique le philosophe Gaspard Koening, dans une chronique pour « Les Echos » sur l'affaire FTX. « La vraie obsession est de se demander quelle est la démarche la plus utile lorsqu'on est riche et qu'on veut réduire le mal, aujourd'hui et dans le futur », appuie Olivier Alexandre, sociologue, chargé de recherche au CNRS dans une récente interview à France Culture. Ce mouvement est composé, selon lui, de 30.000 à 40.000 adeptes.
Ce courant de pensée est souvent proche d'autres comme le transhumanisme, le long-termisme. Plusieurs figures de la tech et magnats américains se retrouvent dans ces mouvements à l'image de Sam Bankman-Fried, mais aussi Elon Musk, Jeff Bezos, etc. Dans le cadre de son examen des risques futurs (pandémie, guerre nucléaire etc.), le mouvement a inclus l'IA. Comme dans un livre de science-fiction, l'inquiétude est que l'IA dépasse un jour les humains, conduisant la technologie à se retourner contre eux. Une lettre signée par Elon Musk et des centaines d'experts mondiaux, en mars, appelait à une pause dans l'IA pour ces raisons.
Une IA plus intelligente que l'homme
Dans une fête d'entreprise en décembre dernier d'OpenAI, Ilya Sutskever (directeur scientifique de la société) s'est adressé aux employés et à leurs invités : « Notre objectif est de créer une AIG [intelligence artificielle générale, dépassant celle des humains, NDLR] qui aime l'humanité. »« Sentez l'AIG », a-t-il ajouté. Répétez après moi : « Ressentez l'AIG », rapporte le « Wall Street Journal ». Les altruistes efficaces veulent construire une IA que les ingénieurs peuvent contrôler, avec des valeurs humaines. C'est d'ailleurs de là qu'est née l'idée d'une organisation à but non lucratif : OpenAI. Le principe de départ est ambitieux : développer une intelligence artificielle qui bénéficierait « à toute l'humanité ». En 2019, un tournant a cependant eu lieu avec un changement de statut d'OpenAI en « à but lucratif plafonné » et un premier investissement de Microsoft.
Depuis le lancement de ChatGPT, Sam Altman a plutôt eu tendance à aller tambour battant. Sa start-up était valorisée entre 80 et 90 milliards de dollars récemment ! Mais, cette stratégie a aussi fait grincer des dents. Ainsi, Ilya Sutskever, avant de se dédire, a joué un rôle clé dans l'éviction de Sam Altman. S'il a convaincu d'autres membres du conseil de se débarrasser du PDG, ce serait avec des réserves inspirées de l'altruisme efficace sur le développement non contrôlé d'OpenAI, De fait, les membres du conseil d'OpenAI Tasha McCauley et Helen Toner, qui ont des accointances affichées avec le mouvement de l'altruisme efficace, l'ont suivi.
L'inquiétude suprême se focalise sur cette intelligence artificielle dite générale, plus intelligente que l'homme et donc dépassant les modèles actuels d'intelligence artificielle dite générative tels les GPT d'OpenAI. « OpenAI, dans ses déclarations, montre qu'on n'est pas loin. Or, jusqu'à présent, l'idée était que cette AIG reste chez OpenAI et pas chez Microsoft, ce qui a sans doute inquiété des membres du conseil d'administration », ajoute Jean-Yves Le Moine, ingénieur et expert dans l'IA. Avec la réintégration de Sam Altman, cette semaine à la tête de l'entreprise californienne, « le modèle qui souhaite l'accélération des développements de l'IA a gagné, », indique Stéphane Distinguin, fondateur de FaberNovel.