IT World Canada : La GRC fait appel à l’IA pour aider à sauver les victimes d’exploitation sexuelle des enfants

Pour les enquêteurs de la GRC travaillant au Centre de police canadien pour les enfants disparus et exploités, qui font face à la lourde tâche de fouiller le matériel pornographique saisi pour identifier les enfants victimes nécessitant un sauvetage immédiat, la santé mentale et le bien-être sont des préoccupations sérieuses, affirme le sergent Arnold Guerin.

« Souvent, on rentre chez vous en vous demandant si vous avez mis des efforts sur le bon matériel, concentré sur les bonnes affaires », dit-il. « C’est cette aiguille dans une botte de foin, qui essaie de trouver une image parmi 9 à 10 millions. Quelque part dans cette crise, il y a l’enfant qui regarde la caméra et dit « s’il te plaît, viens me sauver. » C’est là qu’on doit agir. »

Avec l’augmentation des vitesses Internet à travers le pays et le stockage aussi bon marché que jamais, la police saisit constamment de plus grandes quantités de matériel d’exploitation sexuelle d’enfants. Aux États-Unis et au Canada, il y a eu 27 301 cas signalés en 2016, soit presque le double du nombre signalé en 2015. Dans bien des cas, le trésor de matériel illicite saisi par la GRC se situe généralement autour de 10 millions d’images.

Pour aggraver le problème, une nouvelle catégorie de matériel que les adolescents envoient avec intention. Comme les jeunes enfants reçoivent souvent leur propre téléphone intelligent ou tablette, il n’est pas rare qu’ils envoient des photos mal avisées à un « copain » ou une « petite amie », pour que le contenu soit ensuite divulgué. C’est le genre de comportement qu’aujourd’hui, la Journée Internet plus sûr, vise à prévenir par l’éducation.

« Les enfants ont un accès beaucoup plus large à la technologie mobile qu’il y a seulement une génération », dit Guerin. « Parfois, ça les met en danger. »

L’IA pourrait aider à sauver des enfants

Les images que décrit Guerin, bien qu’étant une tendance inquiétante et susceptibles de finir dans des collections de matériel d’exploitation sexuelle d’enfants, ne contiennent cependant pas d’images de victimes nécessitant un sauvetage immédiat. Elles ne figurent pas non plus dans les bases de données de matériaux connues que les agences policières du monde entier cherchent à partager entre elles via la base de données internationale d’images d’exploitation sexuelle des enfants d’Interpol, ce qui signifie qu’elles ne peuvent pas être filtrées par des outils existants basés sur des cas connus. La GRC se tourne donc vers une nouvelle solution propulsée par l’intelligence artificielle (IA) qui pourrait les aider à trouver plus rapidement des enfants victimes ayant besoin d’aide.

Pour les aider à accomplir cette tâche, deux chercheurs de l’Université du Manitoba et de la firme de logiciels Two Hat Security Ltd. basée à Kelowna, en Colombie-Britannique, avec l’organisme à but non lucratif financé par le gouvernement Mitacs qui organise les connexions.

Le mandat de Mitacs est de combler le fossé entre la recherche académique et les applications en affaires. Les projets sont sélectionnés en fonction de leurs avantages pour l’entreprise souhaitant innover, et des mérites académiques des opportunités de recherche. Tous les projets qui reçoivent du financement sont également évalués par des pairs, explique Jennifer Tedman Jones, directrice du développement des affaires chez Mitacs. L’organisation a travaillé sur 18 000 projets à travers le pays depuis 2003.

Two Hat avait déjà développé une collaboration avec Mitacs sur son filtre de contenu basé sur les risques de Community Sift, qui aide les communautés en ligne à prévenir le cyberharcèlement. Lorsque Jones a rencontré Chris Griebs, PDG de Two Hat, lors d’un événement technologique à Okanagan, en C.-B., il a présenté la nouvelle idée d’un produit capable d’identifier le contenu d’exploitation sexuelle infantile grâce à la vision par ordinateur assistée par IA.

« C’est une des parties de mon travail que j’aime vraiment », dit-elle.

Entraînement à la vision par ordinateur

Le projet Two Hat recevra un financement total de 3 millions de dollars, créant jusqu’à 200 stages sur cinq ans. Au moins 60 d’entre elles seront dirigées par le département d’informatique de l’Université du Manitoba, dirigé par le professeur Yang Wang. Jusqu’à présent, les étudiants Binglin Li et Mehrdad Hosseinzadah ont commencé à travailler sur le projet, mettant en place des expériences que la GRC pourra mener avec leur algorithme d’IA.

« Nous l’appelons un super réseau neuronal convolutionnel, une façon geek de combiner une variété de réseaux neuronaux en un seul système d’IA », explique Brad Leitch, chef du développement produit chez Two Hat. « Personne n’a vraiment vu ça comme une opportunité d’affaires. Mitacs nous donne l’occasion de travailler avec des étudiants à la fine pointe de la vision par ordinateur et de les appliquer de façon significative. »

Pour entraîner un système de vision par ordinateur, on lui fournissait généralement une énorme collection d’images. Premièrement, vous lui montreriez plusieurs exemples de correspondances positives à ce que vous voulez qu’il identifie. Ensuite, tu lui montres des exemples de négatifs, des choses différentes de ce que tu veux identifier. Mais dans le cas de ce genre de matériel exploitant, les chercheurs n’ont pas le droit d’en posséder. C’est là que la collaboration avec la GRC pour mener des expériences entre en jeu.

En utilisant un modèle d’apprentissage profond open source, les chercheurs ont pu déterminer l’âge d’une personne sur une photo en trois ans avec une précision de 84%. L’objectif est de pouvoir identifier la démographie de 0 à 13 ans dans des images afin que la GRC puisse prioriser les victimes prépubères.

« C’est définitivement le cœur lourd quand on parle de ces enjeux », dit Leitch. « J’ai cinq enfants et les choses sur lesquelles nous travaillons nous ont forcé à avoir des conversations difficiles avec eux sur le monde dans lequel nous vivons. »

Éventuellement, Two Hat espère développer une vision informatique tellement précise pour détecter le contenu d’exploitation sexuelle d’enfants que des réseaux sociaux comme Facebook pourraient l’utiliser pour empêcher que le contenu ne soit jamais téléversé. Même lorsque les adolescents font preuve d’erreurs de jugement et essaient d’envoyer du contenu illicite via des outils de médias sociaux, intervenir avec un avertissement ferme sur les conséquences possibles pourrait les pousser à reconsidérer leur action.

Des outils comme le service infonuagique PhotoDNA de Microsoft offrent aujourd’hui des services similaires pour identifier et supprimer des images illégales, mais encore une fois, ils reposent sur du matériel déjà documenté et connu des forces de l’ordre.

« Ce serait l’opportunité principale, d’aider les réseaux sociaux à filtrer ce contenu indésirable », dit-il. « Plus vite on mettra ça entre les mains des forces de l’ordre, mieux les enfants iront bien. »

Aide pour la police à travers le Canada

Dans l’unité de Guerin à la GRC, il voit un grand potentiel pour l’outil afin de réduire le temps nécessaire pour trier les images nécessitant l’attention immédiate d’un enquêteur. Il pourrait être utilisé pour trier les bases de données où le matériel signalé est soumis par l’industrie, d’autres unités policières et par le public.

« Cela rend la vie plus sécuritaire pour l’enfant et cela nous permet aussi d’accélérer son sauvetage », dit-il.

Pour faciliter le déroulement des expériences, Guerin a recruté un agent qui avait été basé au bureau du DSI de la GRC et qui avait déjà travaillé avec des unités de traitement graphique. Il ne faudra pas longtemps avant que le système soit partagé à travers le pays pour tout effort policier confronté au même type de problème.

« Nous pouvons leur donner la capacité d’appliquer l’algorithme au matériel et maximiser notre capacité à trouver et sauver des enfants tout en réduisant le temps nécessaire pour analyser tout ce matériel », dit-il.

Et cela pourrait aider les enquêteurs, lorsqu’ils rentrent chez eux le soir, à avoir l’impression d’avoir tout fait pour trouver et aider les enfants victimes d’un crime troublant.

Brian Jackson