Le « plus de 10 % » d'Evan Hubinger : une estimation personnelle, pas une étude
D'après BBC News et Wired, balado Uncanny Valley, relayé par BBC Technology
Illustration générée par IA
Rédigé à partir de la source originale; chaque fait est vérifié contre le texte source.
À retenir
- Le chiffre vient d'un message public d'Evan Hubinger, chercheur en sécurité chez Anthropic, en réponse à la démission d'un collègue. Ce n'est ni une étude ni une position d'entreprise : Anthropic a refusé de commenter.
- Hubinger situe le risque des modèles actuels à un niveau « faible » ; ce qui l'inquiète, c'est la possibilité que la technologie s'améliore elle-même bientôt.
- Le rapport de sécurité d'Anthropic d'août 2026 dit être « moins confiant » dans son évaluation du risque qu'il ne l'était auparavant.
- Une lettre ouverte demandant de ralentir le développement a été signée par 1 300 membres du personnel de sociétés d'IA.
- Chez Wired, le journaliste Will Knight reproche à cette famille de prédictions de confondre le possible et le probable, puis d'y accoler un pourcentage sorti de nulle part.
Pourquoi ça compte
Un pourcentage se retient et se cite ; une incertitude ne se cite pas. C'est ce qui rend ce genre de chiffre si voyageur : dix millions de vues pour une estimation dont personne ne peut examiner le calcul, parce qu'aucun calcul n'a été publié. Le fait est réel et vaut d'être rapporté, mais il vaut d'être rapporté pour ce qu'il est : l'opinion chiffrée d'une personne qui travaille dans l'entreprise concernée, pas une mesure. La différence change ce qu'on peut en faire.
Chiffre-clé
Plus de 10 % de probabilité que l'IA « tue tous les humains » dans la prochaine décennie, selon l'estimation personnelle d'Evan Hubinger publiée sur X, sans méthode de calcul rendue publique.
Citation
« I've always felt that a lot of the people who are worrying about AI killing everybody tend to conflate whether something's possible for whether it's likely, and then they throw a percentage that is kind of pulled out of thin air. » Will Knight, correspondant principal chez Wired
Action concrète
Devant un pourcentage de risque annoncé par une personne de l'industrie, poser trois questions avant de le relayer : qui l'avance et pour qui travaille-t-il, sur quel horizon exactement, et la méthode de calcul est-elle publiée quelque part. Si la troisième réponse manque, le chiffre reste une opinion, quelle que soit la qualité de celui qui l'exprime.
Repères datés
- 2026-08-01 - Le rapport de sécurité d'Anthropic se dit moins confiant qu'auparavant dans son évaluation du risque.
- 2026-09-11 - La BBC rapporte l'estimation d'Evan Hubinger et les réactions politiques qu'elle déclenche.
Sources originale et média
