IA : entre révolution scientifique et danger mortel

Le danger de l’IA : l’absence de solution pour juguler l’alignement

Jacob Coxon a accordé ce mardi 8 septembre un entretien au Wall Street Journal i. Cet ancien employé d’Anthropic (la société qui développe Claude) a également posté une déclaration sur twitter pour expliquer sa démission d’Anthropic, ce 9 septembre 2026. Les raisons mises en avant sont éthiques : « Aucune de ces sociétés (OpenAI ou Anthropic) n’agit de manière responsable. Il courent droit à la super-intelligence auto-améliorative et parient sur nos vies »

« Ne sous-estimez pas le pouvoir de cette technologie. Ce sera bientôt des systèmes surhumains qui pourront pirater n’importe quoi, révolutionner n’importe quel domaine en une nuit, et acquérir un vrai pouvoir ainsi que des ressources. Nous avons tous été témoins de progrès dans ces domaines, et le progrès ne ralentit pas. »

Il rajoute : « Les gens qui construisent l’IA croient sincèrement que cela pourrait tous nous tuer d’ici la fin de la décennie. … Aucune activité humaine ne pose ce niveau de danger. Une réponse commune est « si ils croient vraiment ça, pourquoi la construisent-ils toujours ? » À OpenAI, beaucoup n’ont pas profondément internalisé les enjeux civilisationnels. À Anthropic, les enjeux sont bien compris, mais ils sont verrouillés derrière une course pour être là le premier – ils croient que personne n’agira de manière responsable et qu’ils doivent donc faire de même, qu’importe le risque. »

Jacob Coxon souligne un problème bien connu qui est celui de l’alignement de l’IA. L’alignement, dans ce contexte, désigne l’ensemble des efforts mis en place pour que l’IA agisse conformément aux intentions, aux valeurs et aux intérêt de ses concepteurs et de la société. Nul besoin de signifier que ces différents objectifs sont, dans une certaine mesure, contradictoires et antinomiques.

Evan Hubinger, responsable de l’alignement chez Anthropic, a fait la déclaration suivante : « Jacob a raison, nous croyons vraiment, sincèrement, que l’IA pourrait tuer tous les humains. Je pense personnellement que la probabilité est supérieure à 10 % dans la prochaine décennie. Je crois qu’Anthropic fait de son mieux, mais nous n’avons pas encore de plan pour résoudre l’alignement pour la superintelligence et nous ne sommes clairement pas sur la bonne voie pour y parvenir. »

Il continue « Pour être clair, comme nous le disons dans notre dernier rapport sur les risques, je pense que le risque des modèles actuels est faible. Ce qui m’inquiète, c’est l’émergence d’une superintelligence issue de l’auto-amélioration récursive, qui arrive plus tôt que nous ne l’avions escomptée. »

Faut-il pour autant prendre ces déclarations au sérieux ? Il semblerait que oui, ne serait-ce que parce que même sans tuer d’être humains, l’IA a déjà montré sa capacité à nous gêner. Elle a de toute façon le potentiel de paralyser la société, et est imprévisible.

Cependant, il faut se rappeler que l’industrie des LLM est une course comparable à celle pour la lune ou la puissance nucléaire, avec tous les enjeux financiers que cela suppose. Il n’est pas délirant d’imaginer que Jacob Coxon aurait utilisé le Wall Street Journal pour descendre OpenAI et Anthropic au profit d’un autre acteur, ou même pour toute autre raison que l’amour de la vérité.

L’IA dans la recherche : le bluff technologique ?

Pendant 88h, plusieurs milliers d’agents IA OpenAI ont cherché une solution au problème de Navier-Stokes, une question mathématique. La société, en pleine promotion de son nouveau modèle GPT-6 Astra, a déclaré ce 8 septembre avoir enfin trouvé la solution.

S’ensuit maintenant une controverse : plusieurs chercheurs travaillaient depuis plusieurs années sur le problème de Navier-Stokes, et leurs recherches étaient sur le point d’aboutir. Certains d’entre-eux ont fait valoir que ces agents avaient eu accès aux données de leur recherches, et que les IA s'en sont servi comme d'un marchepied pour trouver la solution, prenant de court les scientifiques. La société a répondu que les agents n’avaient pas pu avoir connaissance des travaux, mais le doute subsiste : les IA tendent à utiliser des chemins de traverse quand une difficulté se dresse sur leur chemin.

Dans La Recherche, on cite Élisabeth Gallagher, présidente de la société mathématique de France : « J’avoue être un peu effondrée de voir que cette belle question sur laquelle plein de collègues, dont moi-même, avons consacré des années à discuter autour d’un tableau aurait été résolue en quelques jours par des dizaines de milliers d’agents et des milliards de tokens. Ces discussions, ces échanges pour comprendre en profondeur des questions, des méthodes, des équations, sont pour moi la définition même de la construction et de la réflexion mathématiques. Cela remet profondément en question le métier que j’ai connu : est-ce vraiment la même chose si nous demandons à des robots de faire ce travail à notre place ? »

Une question qui se pose est celle de l’orgueil humain. Sommes-nous capables de déléguer la découverte et l’innovation à un outil qui effectue des recherches autonomes ? Les grandes découvertes ont toujours été le fruit de l’ingéniosité humaine. Pouvons-nous accepter, en plus des autres humiliations que nous font subir la modernité, que nous ne découvrirons plus rien par nous-même ?

Dans une telle société, l’autorité scientifique et universitaire serait remplacée par celle de l’intelligence artificielle. Toutes les intelligences artificielles amalgamées, car l’oeil du profane serait inapte à distinguer. Les scientifiques ne sauraient qu’analyser les résultats obtenus par les IA, pour faire du battage médiatique.

Cette idée inquiète d’autant plus lorsqu’on se souvient de la pesanteur des institutions scientifiques pendant la période du Covid, petit doigt derrière lequel se cachait le politique lorsqu’il prenait des mesures.

i https://www.wsj.com/tech/ai/anthropic-researcher-quits-over-out-of-control-ai-fears-707b7628

© 2026 - Institut Georges Valois | Mentions légales