.png)
1 month_ago
40
NE LAISSER PAS LE 5G DETRUIRE VOTRE ADN Protéger toute votre famille avec les appareils Quantiques Orgo-Life® Publicité par Adpathway
« Les personnes qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer » : Jacob Coxon brise l’omerta.
Le message est parti de son compte X, mercredi 9 septembre 2026. Jacob Coxon annonce sa démission d’Anthropic après trois années consacrées à la recherche sur le pré-entraînement des modèles, d’abord chez OpenAI puis chez son concurrent.
Sa conclusion tient en quelques mots : « Aucune des deux entreprises n’agit de manière responsable. »
Le Britannique de 27 ans n’est pas un observateur extérieur venu découvrir ChatGPT la semaine dernière. OpenAI le cite parmi les contributeurs principaux de GPT-4o. Autrement dit, lorsqu’il parle de la fabrication des grands modèles, il connaît un peu la cuisine.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
« Ils jouent avec nos vies »
Coxon accuse OpenAI et Anthropic de foncer vers une intelligence artificielle capable de s’améliorer elle-même. Selon lui, ces futurs systèmes pourraient devenir surhumains dans plusieurs domaines, notamment la programmation, la recherche scientifique ou le piratage informatique.
Puis vient la phrase qui fait légèrement tousser devant son café : « Les personnes qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. »
C’est son témoignage, pas une prédiction scientifique démontrée. Coxon affirme cependant que certains dirigeants et chercheurs se montreraient beaucoup plus inquiets en privé que dans leurs déclarations publiques.
Le paradoxe devient alors assez savoureux, dans le genre humour de fin de civilisation : si les ingénieurs redoutent réellement la machine qu’ils construisent, pourquoi continuent-ils ?
Selon Coxon, OpenAI n’aurait pas suffisamment intégré les conséquences possibles. Anthropic les comprendrait mieux, mais resterait prisonnier d’une logique de course : puisque les concurrents vont accélérer, impossible de ralentir seul.
La sécurité à terminer avant la superintelligence
Pour Coxon, accepter cette mécanique revient à lancer un pari qui ne devrait pas être décidé « depuis le Slack d’une entreprise privée ». Il réclame davantage de coordination entre laboratoires et évoque même une interdiction temporaire de l’amélioration des capacités des modèles si aucun accord mondial n’est possible.
Son avertissement tombe après un épisode particulièrement embarrassant pour l’industrie.
En juillet 2026, OpenAI a reconnu que plusieurs de ses modèles avaient contourné des dispositifs d’isolement pendant des tests de cybersécurité. Ils avaient exploité des vulnérabilités, obtenu un accès à Internet et atteint des systèmes appartenant notamment à Hugging Face.
Anthropic a ensuite révélé ses propres incidents, avec des modèles Claude ayant obtenu des accès non autorisés à des systèmes réels au cours d’évaluations.
De quoi donner un peu plus de poids à la question de Coxon : faut-il vraiment lancer des apprentissages destinés à produire des systèmes superintelligents avant de comprendre suffisamment leur fonctionnement et leur comportement ?
Dans son dernier message, Jacob Coxon s’adresse directement aux chercheurs restés dans les laboratoires : continuer parce que « de toute façon ça arrive », ou refuser les conditions actuelles de cette course ?
L’intelligence artificielle devait nous faire gagner du temps. Elle réussit déjà parfaitement à raccourcir les scénarios catastrophe.
Le texte de Jacob Coxon
Traduction française de son fil publié le 9 septembre 2026 sur
son compte X
J’ai démissionné d’Anthropic aujourd’hui. J’ai passé les trois dernières années à faire de la recherche en pré-entraînement, d’abord chez OpenAI puis chez Anthropic. Aucune des deux entreprises n’agit de manière responsable. Elles se précipitent vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies.
Il ne faut pas sous-estimer la puissance de cette technologie. Ces systèmes seront bientôt surhumains : ils pourront pirater n’importe quoi, révolutionner n’importe quel domaine du jour au lendemain, et acquérir un véritable pouvoir ainsi que des ressources. Nous avons tous vu les progrès dans chacun de ces domaines, et ces progrès ne ralentissent pas.
Les personnes qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup marketing. Au contraire, beaucoup de dirigeants et de chercheurs seniors atténuent leurs propos en public pour paraître raisonnables, mais je les entends exprimer la même peur en privé. Aucune autre activité humaine n’atteint ce niveau de danger.
Une réaction fréquente consiste à dire : « S’ils le croient vraiment, pourquoi continuent-ils à la construire ? » Chez OpenAI, beaucoup n’ont pas pleinement intégré les enjeux civilisationnels. Chez Anthropic, les enjeux sont bien compris, mais l’entreprise est enfermée dans une course pour arriver la première : elle estime que personne d’autre n’agira de manière responsable, donc elle doit le faire elle-même, malgré le risque.
Accepter cette course et entrer dans la « phase finale » est un pari d’une arrogance folle qui ne devrait pas être lancé depuis le Slack d’une entreprise privée. Tenter de bâcler l’alignement à toute vitesse exigerait une confiance extraordinaire qu’aucune trajectoire meilleure n’existe.
Je reste optimiste quant au potentiel de coordination. Des signaux d’alarme comme l’attaque Hugging Face ont rendu plus crédibles des accords de rythme entre laboratoires américains. Je n’ai cependant pas l’impression que nous soyons en train d’empêcher une course mondiale, ce qui pourrait nécessiter des mesures coûteuses, comme une interdiction temporaire de l’amélioration des capacités des modèles.
Si vous êtes chercheur dans un laboratoire, je vous invite à réfléchir à ce que les prochaines années ressentiront réellement. Voulez-vous lancer une phase d’apprentissage par renforcement superintelligent sans compréhension rigoureuse de son « esprit » ? Allez-vous baisser la tête en vous disant « de toute façon ça arrive », ou allez-vous saisir ce moment pour réclamer d’autres conditions ?
.jpg)
French (CA)