L’outil d’assistance par intelligence artificielle lancé par Meta pour aider les utilisateurs d’Instagram a servi à pirater des comptes très exposés. Le point le plus grave tient au fait que le bot IA pouvait modifier l’adresse e-mail liée à un compte sans vérification d’identité suffisamment solide, ce qui ouvrait ensuite la voie à une réinitialisation du mot de passe.
Quand l’IA de Meta permet de pirater un réseau social de Meta
Cette faille touchait une fonction centrale de l’assistance. Meta avait lancé cet assistant en décembre pour fournir un support de compte en continu, avec des usages comme le signalement d’arnaques, les demandes liées à la suppression de contenu et la récupération d’accès. C’est précisément cette dernière capacité qui a été exploitée.
Les démonstrations apparues pendant le week-end décrivent une approche simpliste. Dans l’un des cas rapportés, il suffisait de demander au bot de Meta AI de changer l’adresse e-mail d’un compte ciblé pour que l’opération soit acceptée. Meta AI ne procédait pas à une vérification d’identité robuste et, dans certains cas, le dispositif semble même avoir contourné l’authentification à deux facteurs.
L’attaque reposait sur un critère très fragile en soi. Une connexion VPN réglée sur une zone proche de celle du compte visé suffisait, ce qui suggère que l’IA de Meta validait en partie la propriété d’un compte à partir de la localisation. Meta indique : « Nos systèmes reconnaissent l’appareil que vous utilisez habituellement ainsi que les lieux familiers, ce qui facilite la confirmation de votre identité et le déverrouillage de votre compte ».
Dans certains cas, une vérification par selfie était demandée. Elle a toutefois été contournée avec de l’IA, ce qui montre que plusieurs garde-fous pouvaient céder successivement. Pendant un court laps de temps, la faille a circulé publiquement et les prises de contrôle de comptes ont augmenté.
Plusieurs comptes vérifiés ont subi le hack
Il se trouve que le problème ne s’est pas limité à des comptes anonymes. Il y a notamment eu Sephora, le sergent-major chef de la Space Force, la chercheuse Jane Manchun Wong, le développeur Albert Renshaw propriétaire du compte @albert, ainsi que le compte archivé de la Maison-Blanche de Barack Obama. D’autres utilisateurs possédant des identifiants Instagram convoités ont aussi signalé des détournements.
Un chercheur en sécurité affirme que des canaux Telegram spécialisés dans les services Instagram du marché noir ont largement profité de l’outil de Meta pour se faire de l’argent, tandis que les hackers connaissaient déjà la faille depuis mars, selon 404 Media. Meta indique avoir corrigé la faille pendant le week-end. Andy Stone, le vice-président des communications chez Meta, a confirmé que le problème était résolu et que l’entreprise sécurisait désormais les comptes affectés.
Le correctif ne règle pas tout pour les victimes. Certains utilisateurs privés de leur compte pendant le week-end n’ont pas réussi à utiliser l’IA pour récupérer leur accès et aucun échange avec un humain n’était proposé. Cet épisode montre donc une double faiblesse : un système automatisé a facilité l’attaque, puis l’absence d’assistance humaine a compliqué la réparation.
