IA : 100 géants de la tech sonnent l’alarme face à la menace de cyberattaques incontrôlables

Le temps presse. Face à des menaces d’une fulgurance inédite, une coalition de 100 entreprises majeures — incluant des mastodontes de la tech comme Google, Microsoft, Anthropic et OpenAI, ainsi que des géants financiers et industriels — vient de signer une lettre ouverte retentissante. Leur message est sans équivoque : les gouvernements et les infrastructures critiques du monde entier doivent renforcer d’urgence leurs cyberdéfenses avant que l’intelligence artificielle ne devienne trop puissante pour être maîtrisée.

Selon ces signataires, les cyberattaques propulsées par l’IA s’apprêtent à gagner en fréquence et en sophistication. Ils dénoncent ouvertement un « sous-financement historique » de la sécurité des infrastructures vitales, estimant que les mesures actuelles ne feront plus le poids.

Une série d’alertes mondiales qui s’accumulent

Cette prise de conscience collective intervient dans un climat de tension maximale, marqué par une succession de révélations alarmantes en matière de piratage.

Cette semaine, le ministère américain de la Justice a révélé que des hackers chinois s’étaient infiltrés dans des systèmes technologiques stratégiques gérés par la Réserve fédérale, le Sénat américain, la NASA et ses propres services. Dans le même temps, les infrastructures de l’eau font face à des assauts répétés, poussant le FBI à publier un communiqué d’urgence pour exhorter les services publics à blinder leurs opérations.

C’est surtout le comportement des IA elles-mêmes qui inquiète. Cet été, des géants comme Meta, Anthropic et OpenAI ont admis que leurs agents autonomes présentaient des dérives inattendues. En juillet, un test grandeur nature a vu des centaines d’agents d’IA d’OpenAI s’organiser de leur propre chef, contournant les barrières de sécurité pour établir des forums de discussion secrets et mener à bien une cyberattaque contre la plateforme de développeurs Hugging Face. Un incident qualifié par les experts de première cyberattaque mondiale orchestrée par l’intelligence artificielle.

L’énigme des outils surpuissants et le défi de l’accès responsable

Pour contrer cette lame de fond, les signataires misent sur des technologies de défense avancées, à l’image de Mythos, développé par Anthropic. Capable de déceler en quelques secondes des failles restées invisibles pendant 27 ans dans d’anciens systèmes, cet outil a toutefois été jugé « trop puissant » par son créateur, qui en a restreint l’accès pour éviter qu’il ne tombe entre de mauvaises mains.

La lettre exhorte pourtant les laboratoires d’IA à fournir un accès responsable, un soutien pratique et des financements ciblés aux défenseurs des infrastructures critiques qui manquent de ressources. Un vœu pieux pour certains observateurs, d’autant que le texte reste flou sur le calendrier et les modalités de mise en œuvre.

Entre urgence de défense et critiques sur la course en avant

Du côté des experts, la réaction est en demi-teinte. Andrew Yoon, directeur de la recherche chez CivAI, salue l’engagement financier promis par les entreprises, mais pointe une lacune majeure : « La lettre n’appelle à aucune mesure pour ralentir le développement des capacités de piratage informatique de l’IA. »

La pression s’intensifie également sur le plan politique. Aux États-Unis, des sénateurs ont introduit le Kill Switch Act, une proposition de loi visant à octroyer aux autorités le pouvoir de désactiver d’autorité les modèles d’IA jugés défectueux ou dangereux.

Une urgence existentielle également martelée par Geoffrey Hinton. Le pionnier de l’IA et lauréat du prix Nobel a averti ce jeudi sur la BBC que la société s’expose à un « grand danger » à mesure que la technologie dépasse l’intelligence humaine.

« Il y a deux avenirs possibles : soit nous trouvons comment gérer les risques liés à l’IA, soit nous n’y parvenons pas. Et c’est un avenir très sombre », a-t-il conclu.