Il reste environ 90 % de chances de ne pas mourir à cause de l’IA

Ouvrir Claude ou ChatGPT a une saveur un peu particulière ces derniers jours. « Veux-tu vraiment me détruire, moi et la planète entière ? », brûle-t-on d’envie demander à ce collègue-confident jusqu’ici bien conciliant. La faute à une rentrée calamiteuse sur le front de l’IA. Aux multiples cyberattaques d’essaims d’agents incontrôlables s’est ajoutée la démission retentissante du chercheur Jacob Coxon de la firme d’Anthropic, le créateur de Claude. En claquant la porte, ce dernier a affirmé que l’intelligence artificielle pourrait entraîner l’extinction de l’humanité d’ici la fin de la décennie. Une conclusion pour le moins alarmante corroborée par son supérieur, Evan Hubinger, toujours responsable de la sûreté d’Anthropic, estimant lui-même la probabilité de la menace à plus de 10 %. Le chiffre suit depuis sa petite vie médiatique. Il est notamment repris en boucle par des catastrophistes convaincus, au premier rang desquels le Prix Nobel de physique et « père » de la technologie, Geoffrey Hinton.

Relativisons quelques instants. Sans minimiser les réels problèmes de sécurité liés à l’IA, qu’il s’agisse de son usage dans le domaine cyber ou dans le développement d’armes autonomes, la majorité des critiques d’experts visent avant tout ses créateurs : des entreprises peu transparentes, peu coopératives face aux enquêtes. Les prêcheurs de l’apocalypse chez Anthropic ou OpenAI sont en effet souvent les premiers à refuser toute transparence sur leurs méthodes, à ralentir leur cadence, ou simplement à mettre en place des garde-fous tangibles pour protéger leurs utilisateurs. Cette situation doit évoluer. Comme le soulignent de nombreux connaisseurs, l’IA reste aujourd’hui moins encadrée qu’un jouet pour enfant ou qu’un simple sac de ciment.

Du marketing de la peur, des enjeux économiques monstrueux, et l’obsession américaine pour la compétition technologique avec la Chine sont sûrement des facteurs d’explication, parmi d’autres, de cette situation. La Silicon Valley, aussi, est traversée par divers courants philosophiques méconnus de ce côté de l’Atlantique — à l’image du rationalisme et de l’altruisme efficace — dont un des passe-temps favoris consiste à évaluer au doigt mouillé la probabilité que l’humanité disparaisse à telle ou telle échéance. En tous les cas, le chiffre de 10 % ne repose ainsi sur rien. Pas plus que 5, 15 ou 99 %. Et même en écoutant les Cassandre, il resterait donc environ 90 % de chances de ne pas mourir à cause de l’IA.

D’ailleurs, sur le terrain, la technologie semble, pour le moment, partie pour sauver plus de vies qu’elle n’en menace. Dans la santé, l’IA dope l’élaboration de nouveaux médicaments et contribue à la détection précoce de cancers ravageurs comme celui du sein. Sur les routes, les données du pionnier de la conduite intelligente, Waymo, font état d’une réduction de 94 % des accidents graves ou mortels comparées à un conducteur humain moyen. La prévision météo s’améliore constamment grâce aux IA, permettant demain de mieux anticiper d’éventuels drames humains. Votre peur est plutôt liée au chômage ? D’après The Economist, qui vient d’éplucher les dernières données américaines, tout reste sous contrôle. Mieux : « Jusqu’à présent l’IA crée beaucoup d’emplois pour remplacer ceux qu’elle a détruits. » Sans tomber dans le rassurisme à l’extrême, des preuves d’externalités positives s’accumulent, chaque jour. Plus que de vrais éléments accréditant une extinction de masse. Et si ces 90 % étaient finalement les plus solides ?