IA et police : gouvernance stricte et outils dédiés

Une enquête sur un usage présumé abusif de l’IA au sein de la police du Derbyshire s’inscrit dans un examen plus large des outils génératifs au Royaume‑Uni. Au‑delà de ce cas, le traitement de preuves sensibles impose des règles de traçabilité, des environnements sécurisés et des limites claires d’usage pour éviter des effets en chaîne sur la preuve et la justice.

Prouver l’usage : défendabilité, supervision et zones interdites

La confiance dans les résultats produits avec l’aide de l’IA dépend autant de la façon dont ils sont obtenus que de leur contenu. À mesure que ces outils s’intègrent dans le traitement des dossiers, les organisations devront démontrer qu’ils sont utilisés de manière équitable, proportionnée et sous supervision appropriée. Les contrôles techniques ne suffisent pas à eux seuls. Un cadre de gouvernance doit préciser explicitement les domaines où l’IA ne doit pas intervenir : certaines activités, notamment celles liées aux procédures judiciaires, à la protection ou aux droits individuels, ne conviennent pas à une assistance automatisée. Définir cette limite est aussi important que le choix de la plateforme. L’objectif est de garantir une intégrité qui puisse résister à l’examen d’une salle d’audience ou d’une enquête publique.

Usages non gérés : des erreurs qui contaminent les décisions

Les échecs constatés proviennent d’usages non gérés et non autorisés, et non de la technologie elle-même. Il s’agit donc d’écarter les usages inadaptés plutôt que l’IA dans son ensemble. Malgré des progrès, les systèmes génératifs présentent toujours une marge d’erreur : certains modèles atteignent des taux d’hallucination de 4,2 %, contre 12,2 % pour des versions antérieures. Ces chiffres témoignent d’une fiabilité accrue, mais un contrôle rigoureux reste indispensable. Les résultats générés ne peuvent être considérés comme fiables sans vérification : ils peuvent être présentés comme factuels tout en étant hors contexte ou issus d’analyses erronées, et s’insérer dans des rapports avant toute validation. Lorsqu’un contenu généré est incorrect ou invérifiable, ses conséquences se répercutent sur la suite des actions, affaiblissant les poursuites, retardant des décisions de protection et offrant des opportunités à ceux qui sont visés.

Politiques internes : clarifier les outils, les usages et le rôle humain

Le traitement d’informations sensibles à haute conséquence soulève un enjeu de gouvernance. Plus l’IA devient utile, plus il est nécessaire de définir les conditions d’un usage sécurisé. Les organisations doivent établir des politiques qui identifient les outils autorisés, précisent les usages permis et délimitent l’espace où le jugement humain reste indispensable. En l’absence de limites claires, chacun fixe ses propres règles, souvent sous la pression du temps. Un cadre de gouvernance doit aussi attribuer les responsabilités liées aux décisions assistées, formaliser la validation des résultats et rendre explicites les limites d’utilisation pour les utilisateurs.

Pourquoi les IA généralistes heurtent la chaîne de preuve

Le renseignement et les enquêtes exigent une traçabilité et une auditabilité complètes : chaque conclusion doit pouvoir être reliée à sa source et chaque étape défendue longtemps après les faits. La plupart des outils d’IA généralistes ne sont pas conçus pour répondre à ces exigences. Le fait de confier des informations sensibles à des services externes pose des problématiques en matière de sécurité, de conformité et de souveraineté des données. Dès lors que les documents quittent un cadre maîtrisé, l’organisation ne contrôle plus l’emplacement du stockage, les accès possibles ni la possibilité d’une utilisation ultérieure pour l’entraînement de modèles.

Ce que changent les plateformes d’enquête spécialisées

L’IA trouve sa place dans le renseignement et l’enquête lorsqu’elle est intégrée à des plateformes spécialisées, conçues pour garantir l’auditabilité et la continuité de la preuve dès le départ. Dans ces environnements, l’IA accélère les tâches chronophages en reliant des éléments sans porter de jugement. Elle peut signaler la présence d’une même entité dans des rapports de renseignement, des enregistrements de transactions et des correspondances internes, soumettant ces liens à l’appréciation d’un agent. Des motifs peuvent ainsi émerger en quelques minutes plutôt qu’après des semaines de recoupements manuels, la décision finale restant humaine. Ces plateformes fonctionnent dans des environnements sécurisés, restituant aux organisations le contrôle sur le stockage et le traitement des données sensibles. Les requêtes, résultats et décisions y sont documentés, ce qui facilite la démonstration des responsabilités en cas de contestation.

Contexte britannique : pression opérationnelle et périmètre d’usage

Une enquête sur un usage présumé abusif de l’IA au sein de la police du Derbyshire s’inscrit dans une revue plus large des outils génératifs utilisés par la police britannique, avec des enjeux qui dépassent ce seul service. Des outils particulièrement performants font leur apparition dans des institutions où des données sensibles fondent des décisions susceptibles d’exiger une justification ultérieure. Il ne s’agit pas de bannir l’IA des activités d’enquête ou de renseignement, mais de l’intégrer dans des dispositifs sécurisés et soumis à audit, assortis de restrictions précises et d’un contrôle humain, afin de garantir que chaque production soit traçable, compréhensible et justifiable. Le danger survient lorsque, face à une augmentation de la charge de travail et à une dispersion des données entre de nombreuses équipes, des agents recourent à des solutions généralistes qui ne répondent pas aux exigences de sécurité et de preuve. Des outils capables de condenser des rapports en quelques secondes sont attractifs, mais s’ils ne sont pas approuvés et restent hors du périmètre de sécurité, sans traçabilité des requêtes et des sorties, ils peuvent omettre des éléments essentiels, ce qui est inacceptable lorsque culpabilité, innocence et vies sont en jeu. Le risque concerne alors l’intégrité des preuves, la conformité et l’administration de la justice. Le récent examen policier ne remet pas en cause l’intérêt de l’IA pour ces missions ; les bénéfices sont attendus dans des environnements sécurisés et audités, où l’exploitation reste défendable.