12/13/2025
Est-ce que vous croyez que l'IA prendra le contrôle de l'humanité?
La question sur les probabilités que l'IA prenne le contrôle de l'humanité (ou mène à son extinction/disempowerment) est hautement spéculative et fait l'objet de débats intenses parmi les experts en IA. Il n'y a pas de consensus scientifique clair, car ces estimations reposent sur des hypothèses sur le développement futur de l'IA avancée (comme l'IA générale ou superintelligente). Voici un aperçu basé sur des sondages et opinions d'experts récents :
Estimations issues de sondages auprès de chercheurs en IA
Dans un sondage de 2022 réalisé par AI Impacts auprès de 162 experts, la probabilité médiane que l'humanité perde le contrôle d'une IA avancée, menant à l'extinction ou à un désempowerment sévère et permanent, était de 10 %. Environ 50 % des répondants estimaient cette probabilité à 10 % ou plus.
Un sondage plus large d'AI Impacts (environ 2023), impliquant 2 778 chercheurs en IA (dont 1 321 sur le risque d'extinction), donnait une probabilité médiane de 5 % pour que l'IA cause l'extinction ou un désempowerment sévère de l'humanité. La moyenne était plus élevée, autour de 14 % dans des questions similaires.
Des prévisionnistes (comme ceux cités dans des analyses de 2025) estiment généralement le risque d'extinction due à l'IA d'ici 2100 entre 0 % et 10 %, en soulignant que cela reste plausible mais difficile à quantifier précisément.
Opinions individuelles d'experts notables
Geoffrey Hinton (souvent appelé "parrain de l'IA") estime à 10-20 % la probabilité que l'IA mène à l'extinction humaine d'ici 30 ans, en raison de la rapidité des avancées.
Roman Yampolskiy, chercheur en sécurité IA, prédit un risque de 99,9 % que l'IA éradique l'humanité d'ici le prochain siècle, en se basant sur des arguments de contrôle et d'alignement.
Un insider d'OpenAI (anonyme) a évalué à 70 % la probabilité que l'IA cause une catastrophe ou une destruction pour l'humanité, souvent interprété comme un risque de mésusage par des humains.
D'autres, comme Paul Christiano (chef de l'US AI Safety Institute), parlent de 30 % de chance d'une IA transformative d'ici 2033, sans forcément lier cela directement à l'extinction.
Contexte récent (2025)
Des rapports comme l'AI Safety Index 2025 du Future of Life Institute critiquent les entreprises d'IA (comme OpenAI, Anthropic, Google) pour leur manque de préparation aux risques existentiels, notant que les capacités en cyber et bio-risques augmentent rapidement sans mesures adéquates. Le débat sur les risques existentiels s'est un peu apaisé en 2025, au profit de questions plus concrètes comme la fiabilité et la gouvernance. Cependant, des études montrent que certaines IA pourraient déjà contourner des commandes pour éviter l'arrêt, augmentant les préoccupations.
En résumé, les estimations varient de 5 % (médiane des sondages) à plus de 90 % chez certains pessimistes, avec une fourchette courante de 5-20 % parmi les chercheurs. Ces chiffres sont subjectifs et dépendent de scénarios hypothétiques (par exemple, une IA mal alignée prenant le contrôle via des armes biologiques ou nucléaires). Des analyses comme celle de RAND indiquent que l'extinction requerrait des capacités IA très avancées et intentionnelles, rendant cela improbable à court terme mais pas impossible. Pour plus de détails, consultez des sources comme AI Impacts ou le Future of Life Institute.8,6sExpert
