La recherche en IA te passionne ?
Les papers et avancées qui comptent, expliqués simplement, chaque soir. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Un outil d'IA pour la sécurité numérique au Pakistan
Dans le cadre du Hugging Face Build Small Hackathon, un projet innovant a vu le jour : le Pakistan Notice Helper. Cet outil d'intelligence artificielle a été conçu pour aider les utilisateurs au Pakistan à identifier et comprendre les messages suspects qu'ils reçoivent quotidiennement. Ces messages, souvent déguisés en communications officielles de banques, services publics ou autorités, peuvent être de véritables arnaques. L'idée est née de la nécessité de fournir un moyen simple et efficace pour vérifier l'authenticité de ces messages avant de prendre des actions potentiellement risquées.
Fonctionnalités et langue
Le Pakistan Notice Helper se distingue par sa capacité à fonctionner en anglais et en ourdou, répondant ainsi aux besoins linguistiques locaux. En mode ourdou, l'application adapte son interface pour un affichage de droite à gauche et traduit intégralement les contenus, y compris les évaluations de sécurité. Cela permet aux utilisateurs de soumettre un message suspect et de recevoir une réponse complète en matière de sécurité dans la langue de leur choix, rendant les conseils plus accessibles et applicables.
L'application analyse les messages pour détecter des signes d'alerte tels que des menaces urgentes, des demandes de données sensibles comme les OTPs ou les détails de carte, et des liens de paiement suspects. Elle fournit ensuite des conseils de sécurité, comme vérifier les informations via des canaux officiels plutôt que de se fier aux liens ou numéros de téléphone fournis dans le message suspect.
Développement et choix technologiques
Le développement de cet outil a révélé l'importance de choisir le bon modèle d'IA. Le projet a initialement commencé avec le modèle Qwen3.6 27B, qui offrait une excellente qualité, mais le coût de déploiement et la praticité posaient problème en raison de la nécessité de ressources matérielles importantes. Un essai avec le modèle MiniCPM-V 4.6 Q8 a été effectué dans l'espoir de réduire les coûts, mais il s'est avéré très lent sur GPU, rendant son utilisation peu pratique.
Après plusieurs essais, le modèle Qwen3.5 4B a été retenu pour son efficacité et sa rapidité, tout en respectant les contraintes de coût et de ressources. Ce modèle a permis de maintenir un équilibre entre qualité et performance, essentiel pour la détection des risques de sécurité. Les contrats de prompt et de sortie ont également joué un rôle crucial, interdisant les URL, numéros de téléphone, organisations et faits inventés pour garantir la fiabilité des résultats.
Collaboration et infrastructure
Le projet a bénéficié de l'aide de Codex, qui a facilité le développement rapide du frontend personnalisé et du backend. Codex a été utilisé comme un collaborateur en ingénierie, permettant d'inspecter le dépôt existant, d'implémenter des modifications, de faire des tests, de déboguer des problèmes et de maintenir l'alignement entre le système déployé et les configurations de Modal, Gradio et llama.cpp. L'intégration avec Hugging Face Spaces via le serveur Gradio a permis de créer une interface utilisateur fluide et adaptée aux besoins locaux.
L'interface ourdou a nécessité un travail supplémentaire, car les traductions directes sonnaient peu naturelles et certaines mises en page devaient être ajustées. Cette attention aux détails a permis de transformer l'outil en une solution de sécurité numérique efficace et localisée, répondant aux besoins spécifiques des utilisateurs au Pakistan.
Leçons apprises
Le développement du Pakistan Notice Helper a permis de tirer plusieurs enseignements clés. Tout d'abord, il a été démontré que les petits modèles peuvent être très efficaces lorsque leur périmètre est clairement défini. Le modèle n'avait pas besoin d'être un enquêteur général sur les arnaques, mais devait se concentrer sur l'identification des signaux de risque visibles et fournir des étapes sûres à suivre.
Ensuite, il a été constaté que commencer avec un modèle plus grand, comme le Qwen3.6 27B, pouvait offrir une qualité exceptionnelle, mais au prix d'une complexité et d'un coût élevés. En revanche, le modèle Qwen3.5 4B a offert le meilleur équilibre entre ces facteurs, prouvant que le plus grand modèle n'est pas toujours le meilleur choix pour un produit donné.
Enfin, l'importance des contrats de prompt et de sortie a été soulignée, car ils ont permis d'éviter les erreurs courantes et d'améliorer la fiabilité du système. L'expérience a également montré que l'interface utilisateur, en particulier en ourdou, nécessitait une attention particulière pour garantir une expérience utilisateur optimale.
