Google DeepMind et l'Agence technologique gouvernementale de Singapour (GovTech) ont annoncé le 14 octobre 2026 un modèle de détection des escroqueries sur les appareils, présenté lors de la Singapore International Cyber Week. Les escroqueries représentent plus de la moitié des délits signalés à Singapour, avec des pertes supérieures à 4 milliards de dollars singapouriens depuis 2019, et l'ingénierie sociale représente désormais jusqu'à 80 % des pertes. Lire l'annonce.
Comment fonctionne le détecteur
Un modèle Gemma léger a été affiné sur les conversations frauduleuses locales, couvrant les usurpations d'identité d'institutions publiques, de banques et de personnalités locales ainsi que les stratagèmes régionaux. La détection s'effectue selon un pipeline en deux étapes : un classificateur efficace filtre d'abord les messages entrants en utilisant une consommation minimale, et une évaluation contextuelle avec le modèle Gemma affiné examine ensuite un instantané plus large de la conversation pour confirmer une menace ou éliminer une fausse alarme. Lorsque des modèles de manipulation sont détectés, un avertissement en temps réel est déclenché sur l'appareil conseillant à l'utilisateur de faire une pause avant de partager des informations ou des fonds sensibles.
Pourquoi sur l'appareil
L'analyse côté serveur ne peut pas inspecter les conversations sur les plateformes de messagerie cryptées de bout en bout. Le traitement sur l'appareil maintient l'analyse des modèles de conversation au niveau local, ce que les partenaires décrivent comme une détection plus rapide des intentions manipulatrices sans exposer les communications privées.
Gouvernance
- Des réglages précis ont eu lieu dans le Sovereign Sandbox géré par GovTech sur Google Cloud, gardant les données de formation isolées.
- La formation excluait les informations privées et personnellement identifiables, en utilisant des ensembles de données anonymisées provenant de rapports d'escroquerie et de flux de renseignements.
- Le modèle a été testé contre des dialogues synthétiques et des corpus locaux couvrant diverses catégories d'arnaques.
L'annonce positionne le projet comme un modèle pour les plates-formes de messagerie et les fournisseurs de systèmes d'exploitation, qui peuvent intégrer localement de tels modèles légers. Une couverture connexe des pratiques de sécurité modèles est en cours notre guide de vérification des sources.