Dario Amodei, CEO d'Anthropic, a publié la semaine dernière un texte intitulé Machines of Loving Grace, dans lequel il aborde les implications d'une intelligence artificielle puissante pour l'avenir de l'humanité. Connu pour sa modération, il la prévoit pourtant à une échéance extrêmement proche : 2026. Sam Altman et Elon Musk, qui ont pourtant l’hyperbole plus facile, prévoient l’arrivée de l’IA générale (AGI) en 2028 et 2029, respectivement. Le comportement passé de Dario Amodei laisse à penser qu’il se base des résultats de ses développements en cours, et non juste sur la nécessité de lever des fonds, d’autant que la publication de ce texte s’est doublée d’une mise à jour des directives d’entraînement des modèles d’Anthropic.
Contrairement à de nombreuses voix du débat sur l'IA générale, souvent polarisées entre visions apocalyptiques (lire Qant du 3 mai 2023) et optimisme excessif (lire Qant du 18 octobre 2023), Amodei propose une analyse plus nuancée. Il évoque des scénarios où l'IA pourrait apporter des bénéfices tangibles dans des domaines critiques comme la santé, les neurosciences, et la lutte contre le changement climatique, tout en soulignant les risques inhérents au développement de cette technologie.
Accélérer la science
Dans son manifeste, Amodei décrit ce qu'il appelle une "IA puissante", capable de surpasser les meilleurs experts humains dans divers domaines comme la biologie ou l'ingénierie. Il imagine des systèmes autonomes qui peuvent diriger des recherches complexes et manipuler des robots, des machines ou des équipements, augmentant ainsi considérablement la vitesse et l'efficacité de la recherche scientifique. Par exemple, dans le domaine médical, il estime que l'IA pourrait réduire de 100 ans le temps nécessaire pour des avancées comme la prévention des maladies infectieuses ou le traitement du cancer, tout en accélérant le développement de nouvelles thérapies basées sur la génomique.
Cependant, il met en garde contre des attentes irréalistes. L'IA, bien que puissante, n'est pas une "poudre magique" qui résout instantanément les problèmes. Des obstacles existent, notamment la complexité inhérente à certains systèmes biologiques, les limites de la collecte de données fiables et les contraintes imposées par la biologie humaine. Il mentionne également des défis d'ordre pratique, comme les délais nécessaires à la réalisation d'expériences et la lenteur des essais cliniques.
L’IA panacée
Amodei aborde aussi l’impact potentiel de l'IA dans le domaine de la santé mentale. Il envisage des avancées en neurosciences qui pourraient permettre de comprendre et de traiter des maladies mentales comme la dépression ou la schizophrénie, ainsi que des problèmes psychologiques plus courants, comme les troubles de l'attention ou de l'anxiété. Il estime que des solutions innovantes, comme la stimulation lumineuse ciblée ou les champs magnétiques, pourraient améliorer la qualité de vie quotidienne de nombreuses personnes.
Il explore également les implications économiques et sociales de l'IA. Amodei prédit que des innovations accélérées par l'IA pourraient améliorer la sécurité alimentaire et aider à ralentir le changement climatique grâce à des technologies comme la culture de viande en laboratoire ou des systèmes de capture du carbone.
Protéger la démocratie
Le texte d'Amodei intervient alors que son entreprise, Anthropic, a remis à jour sa politique d’entraînement de nouveaux modèles, pourtant déjà remise à jour en septembre. C’est que les avancées dont parle Amodei vont toutes de pair avec de nouveaux dangers. Le potentiel des nouveaux modèles à détecter des failles zero-day ou à générer des intrusions a été détecté et Anthropic se propose d’y porter remède, en collaboration avec les professionnels de sécurité (lire Qant du 18 octobre).
De même, un modèle qui trouve des médicaments peut créer des virus. Et un agent à qui on donne pour seul but de créer du chiffre d’affaires sur Internet pourra se livrer à toute forme de trafics illicites. En outre, Amodei souligne que les défis ne se limiteront pas à la science ou à l'économie : des facteurs humains, comme les freins psychologiques, sociaux ou politiques, pourraient entraver l'adoption de certaines technologies. En particulier, il craint que l'IA devienne un outil de propagande et de surveillance, renforçant les régimes autoritaires. Pour contrer cette menace, il propose une "stratégie d'entente", où les démocraties collaboreront pour développer et utiliser l'IA de manière à promouvoir des résultats positifs, tant au niveau national qu'international.
Enfin, Amodei s'interroge sur l'avenir du travail et du sens dans un monde où l'IA serait omniprésente. Si l'IA devient capable de remplir toutes les tâches humaines avec une grande efficacité, il sera nécessaire de repenser en profondeur l'organisation de l'économie et la manière dont les humains trouveront un sens à leurs actions. Il suggère qu'un revenu de base universel pourrait être une partie de la solution, mais il reconnaît que des discussions plus approfondies seront nécessaires pour éviter une société dystopique.
Optimisme français
Dans un portrait paru quelques jours plus tard dans le Wall Street Journal, le prix Turing français Yann Le Cun, responsable de la recherche en IA chez Meta, a qualifié dl l'AGI de "connerie complète" (ou complete bullshit, dans le texte). Le Cun considère les avertissements qui s'élèvent contre l'AGI comme exagérés. Il va jusqu'à affirmer que les modèles d'IA actuels, bien qu'utiles, sont loin d'égaler l'intelligence d'un simple chat. Selon lui, ces systèmes, malgré leurs performances impressionnantes dans des tâches spécifiques comme la génération de texte, ne possèdent pas de véritable compréhension du monde physique, ni de capacités de raisonnement ou de mémoire persistante. Il estime qu'une véritable AGI nécessitera des approches fondamentalement différentes, notamment des systèmes capables d'apprendre du monde réel, un peu comme un animal.
Pour en savoir plus :