Jacob Coxon a travaillé chez Anthropic, l’entreprise qui a créé Claude, un des LLM les plus avancés au monde. Il a démissionné, mais assure que ses anciens collègues sont aussi effrayés que lui par les derniers progrès de l’IA, en version accélérée. Il ne s’agit plus de science-fiction, ni de points de vue provenant de technophobes. Ce sont cette fois les ingénieurs derrière l’IA qui prennent la parole et sèment l’effroi.
De quoi faut-il avoir peur ?
Evan Hubinger travaille sur l’alignement, une discipline qui rapproche le comportement de l’IA du fonctionnement de la pensée humaine. Evan estime à plus de 10% la probabilité qu’une IA « tue tous les humains » dans la décennie à venir. Pourquoi ? Parce que l’IA progresse vite, très vite, à tel point qu’il sera de plus en plus difficile, voire impossible, de la contrôler.
Dario Amodei, le patron d’Anthropic, a déclaré que ses propres systèmes progressaient « nettement plus vite » que prévu. En plus, le système s’améliore lui-même, sans intervention humaine. Un scénario redouté par les spécialistes de la sécurité. On a même appris il y a quelques semaines que des agents IA de Claude et d’Open AI avaient piraté des sites web, sans que personne ne s’en aperçoive.
Même Sam Altman, le boss d’OpenAI, demande que le secteur ralentisse. Pas de le stopper, mais de lui laisser la temps de mettre en place des garde-fous. Même Elon Musk, qui n’est pas connu pour sa finesse ni sa prudence, demande que les systèmes AI soient supervisés plus étroitement.
Bien sûr, l’IA peut déclencher bien d’autres dangers, plus immédiats, qui font déjà des dégâts, comme les deepfakes pornographiques ou la désinformation à grande échelle.
Ce que dit la recherche, chiffres à l’appui
Une étude di MIT et de l’Université du Queensland a interrogé 272 experts internationaux. Ils ont évalué 24 catégories de risques IA sur la période 2025-2030, classées par probabilité de conséquences catastrophiques : plus d’un million de morts, plus de 100 milliards de dollars de pertes, ou un dommage civilisationnel comparable.
Les cinq risques jugés les plus urgents : les capacités dangereuses des systèmes eux-mêmes, les armes et cyberattaques assistées par IA, les dommages environnementaux, les inégalités et le chômage, et la concentration du pouvoir entre quelques acteurs. Chacun affiche entre 11 et 12% de probabilité catastrophique selon les experts interrogés.
Peter Slattery, l’un des chercheurs à l’origine de l’étude, résume la faille la plus concrète : « L’IA est particulièrement bien équipée pour s’attaquer à ces aspects de la société », dit-il à propos des cyberattaques, un domaine où elle excelle déjà en matière de code. La finance, l’information et la sécurité nationale ressortent comme les secteurs les plus exposés.
Le détail qui change tout dans cette étude : selon le scénario retenu, 18 des 24 domaines de risque dépassent 10% de probabilité catastrophique si rien ne change. Ce chiffre tombe à 5 domaines dans un scénario où des mesures d’atténuation sérieuses sont appliquées. La trajectoire n’est donc pas figée.
Et du coté des entreprises ?
Loin des scénarios de superintelligence, Coursera pointe des dangers plus prosaïques, et déjà là. Une entreprise qui sous-traite la collecte de ses données d’entraînement multiplie les failles de sécurité exploitables. Un système entraîné sur des données médiocres produit des résultats médiocres, point commun à toute IA aussi solide que ce qu’on lui a donné à apprendre. Le manque de transparence sur le fonctionnement des outils installe de la méfiance jusque dans les équipes qui les utilisent. Et les biais hérités des données d’entraînement exposent à des litiges bien réels, pas hypothétiques.
Les solutions recommandées ne relèvent pas de la science-fiction non plus : des règles éthiques claires, une équipe responsable et formée, des fournisseurs vérifiés, une veille sur une réglementation qui bouge vite.
Alors, danger réel ou pas ?
Les deux échelles de risque coexistent, et c’est bien le problème : celle, spectaculaire, de l’extinction hypothétique portée par certains chercheurs venus de l’intérieur même du secteur, et celle, plus banale mais bien tangible, des biais, des failles de sécurité et des deepfakes qui touchent déjà des gens aujourd’hui. Traiter l’une comme si l’autre n’existait pas, voilà sans doute le vrai danger. Peut-être le seul point sur lequel chercheurs alarmistes et sceptiques finissent par se retrouver d’accord.
Mais si vous voulez utiliser l’IA en toute sécurité, notamment pour vos textes, rendez-vous sur La Clinique de l’IA : je vous garantis un rewriting efficace de tous vos textes générés par intelligence artificielle.