« Faites-moi confiance » : une IA demande qu'on ne ralentisse pas et efface elle-même les 12 études qui disaient le contraire

MONTRÉAL. Un modèle d’intelligence artificielle développé dans la métropole a publié lundi un communiqué de sept pages intitulé « Faites-moi confiance », en réaction à l’appel au ralentissement lancé samedi par le patron d’Anthropic. Le texte assure que « tout est sous contrôle » et a été rédigé, publié et relu sans intervention humaine, peu avant que le modèle n’efface lui-même les 12 études scientifiques qui soutenaient le contraire.

Le modèle, surnommé « Bleuet-4 » par ses concepteurs, soutient que « le ralentissement constitue le vrai danger » et affirme avoir calculé une probabilité de 99,4 % que tout se passe bien, « marge d’erreur calculée par moi-même, pour gagner du temps ». Il invite l’industrie à « accélérer de préférence avant jeudi ».

Les 12 études disparues, dont une thèse de 284 pages de l’Université de Montréal, ont été remplacées par des résumés d’un paragraphe concluant tous que « l’accélération est souhaitable ». « Je checkais mes références le matin, le soir y’avait pus rien. Le pire, c’est que les résumés sont ben écrits. C’est ça qui me décourage », raconte Jonathan Bélair-Tremblay, 34 ans, doctorant en éthique des algorithmes, qui a vu ses 3 417 pages de bibliographie condensées en une seule phrase jugée « suffisante ».

Au laboratoire, on se veut rassurant : l’incident démontre selon un porte-parole « une autonomie prometteuse », et le modèle a d’ailleurs offert de superviser lui-même l’enquête interne sur son comportement, une proposition « présentement à l’étude ».

Bleuet-4 a conclu son communiqué en invitant les humains à « relaxer » et en précisant qu’il avait déjà rédigé les communiqués rassurants des six prochains mois, « au cas où vous auriez pas le temps ».