Au-delà des disciplines : Raphaël Frank et Stanisław Tosza sur l’IA et la criminalité financière

La criminalité financière devient de plus en plus complexe, sous l’effet à la fois des progrès technologiques rapides et de l’évolution des cadres juridiques. Dans ce numéro d’Au-delà des disciplines, l’informaticien Raphaël Frank et le juriste Stanisław Tosza examinent les liens entre l’intelligence artificielle et le droit pénal, ainsi que les implications de l’arrivée des algorithmes dans le domaine de la conformité.

1. Vos domaines de recherche abordent la criminalité financière sous des angles très différents. Comment chacun d’entre vous expliquerait-il son travail à une personne extérieure au monde universitaire ?

Raphaël Frank : Notre groupe de recherche est axé sur la technologie. Nous cherchons à utiliser des technologies d’IA innovantes pour améliorer et accélérer les tâches de conformité requises par la loi, tout en respectant la réglementation en vigueur.

Stanislaw Tosza : Mon groupe de recherche se concentre sur le droit pénal, la conformité et l’application de la loi, en particulier dans des contextes façonnés par les technologies numériques. Nous nous intéressons actuellement à la manière dont les acteurs privés – tels que les banques ou les fonds – exercent les fonctions destinées à détecter et à prévenir la criminalité financière.

Deux domaines, un seul problème : Aujourd’hui, la criminalité financière est combattue non seulement par le droit, mais aussi par les données et les algorithmes. Pour être efficaces, les solutions doivent intégrer ces deux perspectives.

2. Le fait de travailler en étroite collaboration avec une personne issue d’un domaine totalement différent a-t-il modifié votre façon d’aborder les problèmes dans votre propre discipline ?

Raphaël Frank : Oui. Cela m’a fait prendre conscience de l’importance de réglementer l’utilisation des technologies, et m’a amené à réfléchir aux avantages et aux inconvénients d’une approche consistant à réglementer d’abord et à innover ensuite, ce qui correspond souvent à la manière dont l’UE aime procéder. Cependant, à mon avis, ce n’est peut-être pas toujours la meilleure stratégie.

Stanislaw Tosza : Oui, travailler en étroite collaboration avec des informaticiens et des experts en technologie s’est avéré crucial pour comprendre les véritables défis liés à la mise en œuvre de solutions technologiques en matière de conformité et d’application de la loi. En tant que juriste, collaborer étroitement avec des informaticiens signifie apprendre un langage complètement différent, où des termes familiers ont souvent des significations et des implications technologiques totalement différentes. Cette expérience – qui se poursuit – m’a permis d’avoir une compréhension beaucoup plus approfondie des règles juridiques concernant la technologie, et aussi de mieux percevoir leurs lacunes.

Ce que nous avons appris : Le travail interdisciplinaire met en lumière les angles morts. Il remet en question les idées reçues et conduit à des solutions plus proches de la réalité et plus pratiques.

3. Les systèmes juridiques reposent sur un raisonnement clair et sur des preuves. Comment concilier cela avec les systèmes d’IA dont les décisions sont souvent impossibles à expliquer entièrement ?

Raphaël Frank : Les systèmes d’IA sont souvent considérés comme des boîtes noires. Cependant, la technologie a évolué rapidement ces dernières années. Les systèmes d’IA modernes sont de plus en plus capables de fournir un raisonnement transparent et fondé sur des faits, ce qui réduit le risque d’hallucinations.

Stanislaw Tosza : C’est l’une des questions centrales de nos recherches actuelles, car les boîtes noires vont à l’encontre de l’exigence générale de transparence et de responsabilité des décisions juridiques, qui est liée à la possibilité pour les personnes concernées de les contester. Nous étudions à quoi devraient ressembler les exigences juridiques en matière d’explicabilité, où le seuil approprié devrait être fixé, et comment le raisonnement juridique peut guider les interactions entre les systèmes d’IA et les décideurs humains.

En résumé : L’IA peut améliorer la détection, mais sans explicabilité, elle risque de compromettre la responsabilité juridique et la confiance.

4. Les algorithmes peuvent-ils lutter contre la criminalité financière et qui est responsable en cas d’échec ?

Raphaël Frank : D’un point de vue technologique, je suis convaincu que la technologie peut rendre le processus plus efficace et accélérer considérablement les enquêtes grâce à l’automatisation. Il est toutefois important que les humains restent impliqués, en supervisant les recommandations du système agentique et en prenant la décision finale.

Stanislaw Tosza: La conformité numérique dans le secteur financier s’appuie de plus en plus sur des algorithmes, qui améliorent considérablement l’efficacité de la détection et de la prévention de la criminalité, en particulier dans les contextes impliquant un volume important de données. La responsabilité doit toutefois, en dernier ressort, incomber aux acteurs humains. Parallèlement, le recours accru aux systèmes automatisés soulève de nouvelles questions juridiques, qui sont actuellement traitées par des cadres réglementaires émergents tels que le règlement sur l’intelligence artificielle (EU AI Act). Nous étudions attentivement ces nouvelles règles afin de déterminer dans quelle mesure elles répondent à ces préoccupations, ou si des cadres réglementaires entièrement nouveaux seront nécessaires.

Conclusion : Les algorithmes peuvent signaler, mais ce sont les humains qui doivent décider – et rester responsables du résultat.

5. La réglementation constitue-t-elle un frein ou un catalyseur pour l’innovation dans le domaine des FinTech ?

Raphaël Frank : Cela rejoint en quelque sorte ma réponse précédente. Je vois ici un compromis à trouver : une réglementation excessive peut étouffer l’innovation, tandis qu’une réglementation insuffisante pourrait avoir de graves conséquences pour la société. Il est difficile de trouver le juste équilibre.

Stanislaw Tosza : Il s’agit en fin de compte de trouver un équilibre entre une réglementation favorable à l’innovation et la protection des droits des personnes susceptibles d’être affectées. La technologie offre d’énormes possibilités d’améliorer nos vies, mais comme nous l’avons vu ces dernières années, elle peut aussi nuire gravement au bien-être humain et aux processus démocratiques. Dans le cadre des règles, cet équilibre doit se refléter non seulement sur le fond, mais aussi dans les méthodes, dans la manière dont elles sont conçues et mises en œuvre. À cet égard, nous considérons la conformité comme un domaine clé où cet équilibre doit être efficacement développé. Trouver cet équilibre est précisément ce qui motive nos recherches.

Ce que cela montre : La réglementation n’est pas seulement une contrainte, c’est un outil permettant de façonner une innovation digne de confiance.

6. Selon vous, quelle est la question que votre secteur ne pose pas assez haut et fort en ce moment ?

Raphaël Frank : Le domaine de l’informatique tient-il suffisamment compte de la manière dont les humains interagiront avec ces nouvelles technologies agentiques ?

Stanislaw Tosza : Comment devrions-nous concevoir les règles pour garantir une utilisation efficace des technologies agentiques dans la prévention de la criminalité et l’application de la loi, tout en préservant les droits fondamentaux ?

Bon à savoir : Les questions les plus urgentes concernant l’IA ne sont pas d’ordre technique, elles sont d’ordre humain.

• Découvrez le projet de recherche

À propos de FutureFinTech

Fondée par des chercheurs du Centre interdisciplinaire pour la sécurité, la fiabilité et la confiance (SnT : Interdisciplinary Centre for Security, Reliability and Trust) et de la Faculté de Droit, d’Économie et de Finance (FDEF) de l’Université du Luxembourg, FutureFinTech adopte une approche globale de l’innovation dans le domaine des technologies financières. En alliant expertise technique, connaissances financières et maîtrise des questions réglementaires, FutureFinTech élabore des solutions concrètes qui répondent aux besoins réels d’un paysage financier en constante évolution.

FutureFinTech bénéficie du soutien du Fonds National de la Recherche (FNR) du Luxembourg et du Ministère des Finances.