Google a annoncé poursuivre en justice l’organisation cybercriminelle chinoise Outsider Enterprise qui a utilisé Gemini et la marque Google pour orchestrer une opération d’escroquerie massive ayant touché des centaines de milliers de victimes, en coordination avec le FBI et les opérateurs américains AT&T, T-Mobile et Verizon.
Google, victime de son propre modèle d’IA
L’ampleur de l’opération révélée dans la plainte donne la mesure de ce que l’intelligence artificielle permet désormais à des réseaux criminels organisés. En deux semaines seulement, Outsider Enterprise a généré 2,5 millions de messages contenant des liens vers des sites frauduleux et 55 000 SMS spam signalés par des utilisateurs Android. Au total, le groupe a créé 9 000 faux sites Internet et un million d’URL frauduleuses imitant Google, YouTube, l’United States Postal Service (service postal américain) et le service de péage E-ZPass de New York. Les pertes sont estimées à plusieurs millions de dollars.
La plainte demande une ordonnance restrictive pour fermer le réseau. Ce qui frappe, au-delà des chiffres, c’est que Gemini, le modèle IA de Google, a servi d’outil central à l’opération. La directrice juridique de Google, DeLaine Prado, a déclaré au New York Times : « C’est notre premier effort coordonné et notre première poursuite, et cela témoigne de l’ampleur de l’impact de cette escroquerie particulière ». Google n’a pas révélé quelles mesures internes il avait prises pour contrôler l’accès à Gemini, malgré sa position de fournisseur du modèle détourné.
Une réponse législative en sept textes
Google ne s’arrête pas à la procédure judiciaire. La société plaide pour l’adoption d’au moins sept projets de loi bipartisans, dont le National Strategy for Combatting Scams Act, le Strategic Task Force on Scam Prevention Act, le STOP Scams Against Seniors Act et l’AI Plan Act.
Le membre du Congrès américain Brian Fitzpatrick a résumé l’enjeu : « Ce n’est pas du spam. C’est un crime transnational organisé qui passe par nos téléphones et cela exige une réponse aussi coordonnée et agressive que la menace elle-même ». Brett Leatherman, directeur adjoint du FBI, a ajouté : « Les criminels utilisent de plus en plus l’IA pour rendre ce type de fraude plus convaincant et plus difficile à détecter. Et nous avons besoin d’une solution permanente pour les traduire en justice ».
