Toutes les entreprises de filtrage et de LCB-FT brandissent l’IA en étendard.
Quelle est la position de BeCLM ?
La réponse de son président : Jean-Marc Lafin.
La première application de l’IA qui vient à l’esprit en LCB-FT c’est son utilisation pour les traitements de filtrage en visant le double objectif de détection systématique des « vrais positifs » et de réduction des « faux positifs ».
Mais lorsque l’évaluation des similarités entre les personnes est « déléguée » à un moteur d’IA, l’utilisateur risque de perdre la maitrise des alertes générées par le système. Ce phénomène de perte de la maîtrise du système est bien connu dans d’autres domaines d’application de l’IA. Nous ne citerons que les logisticiens dont certains ont préféré limiter ses usages : elle leur faisait perdre le contrôle des décisions opérationnelles (transport, stockage, approvisionnements …), et ils ne savaient pas comment réagir lorsqu’elle prenait des décisions qui leurs paraissaient « étonnantes ».
Dans le domaine de la lutte contre le blanchiment, l’utilisateur est censé avoir les mêmes interrogations et doit se projeter dans le discours à tenir face aux autorités de contrôle lorsqu’elles poseront la question clé : « pourquoi vos filtrages n’ont pas déclenché d‘alertes sur telles personnes ? ». Il faut également s’interroger sur la piste d’audit, et les traces « compréhensibles » qu’elle va laisser pour être en mesure de prouver que telle personne a été filtrée à tel moment, avec tels résultats, dans telle configuration.
Pour toutes ces raisons, BeCLM a fait le choix de circonscrire le domaine d’application de l’IA à l’aide à la qualification des alertes.
C’est une activité où l’IA permet d’assister les utilisateurs pour qualifier les faux positifs à travers les questions élémentaires sur les similarités entre des noms ou des prénoms. L’IA permet parallèlement de documenter efficacement les décisions qui sont prises au moment de la qualification de chaque alerte. Dans le système BeCLM, l’IA permet donc de complémenter le PCRTM afin que chaque alerte soit documentée à la fois sur son mode de calcul (Dossier PCR) et sur sa qualification (Dossier IA). Et enfin, précision importante : L’IA utilisée par BeCLM présente des garanties RGPD (non utilisation des données des utilisateurs pour entrainer les modèles) et de sécurité (SOC2, SOC3).
Note : Le PCRTM (Person Control Result) est la piste d’audit « absolue » créée par BeCLM. Elle recense, trace et archive pour CHAQUE CONTRÔLE :
– Les données de la personne filtrée
– Les données des personnes présentes dans les listes de sanctions ou de PPE
– Les résultats des scores de risques calculés
– Les paramètres de l’algorithme à l’instant du contrôle
– Les actions et analyses des gestionnaires ayant donné l’alerte.
