Pour les enquêteurs de la GRC qui travaillent au Centre canadien de police pour enfants disparus et exploités et qui font face à la tâche sinistre de passer au crible le matériel pornographique saisi pour identifier les enfants victimes qui ont besoin d’un sauvetage immédiat, la santé mentale et le bien-être sont de graves préoccupations, dit le sergent Arnold Guerin.
« Souvent, vous rentrez chez vous en vous demandant si vous mettez vos efforts sur le bon matériel, en vous concentrant sur les bons cas », dit-il. « C’est cette aiguille dans une botte de foin, essayant de trouver une image parmi 9 à 10 millions. Quelque part dans cette crise, il y a l’enfant qui regarde la caméra et dit : « S’il vous plaît, venez me sauver. » C’est là que nous devons agir.
Avec l’augmentation de la vitesse de la large bande d’Internet dans tout le pays et le stockage aussi bon marché que jamais, la police saisit toujours des quantités toujours plus importantes de matériel d’exploitation sexuelle des enfants. Aux États-Unis et au Canada, 27 301 cas ont été signalés en 2016, soit près du double du nombre déclaré en 2015. Dans de nombreux cas, le trésor de matériel illicite saisi par la GRC est généralement de l’ordre de 10 millions d’images.
À ce problème s’ajoute une nouvelle catégorie de matériel que les adolescents envoient avec intention. Avec les jeunes enfants recevant souvent leurs propres smartphones ou tablettes, il n’est pas rare pour eux d’envoyer des photos mal avisées à un « petit ami » ou « petite amie », seulement pour avoir le matériel plus tard fuir. C’est le type de comportement qu’aujourd’hui, la Journée pour un Internet plus sûr, vise à aider à prévenir par l’éducation.
« Les enfants ont un accès beaucoup plus large à la technologie mobile qu’il y a à peine une génération », dit Guerin. « Parfois, cela les met en danger. »
L’IA pourrait aider à sauver les enfants
Les images que Guerin décrit, bien qu’il s’agit d’une tendance inquiétante et susceptibles de se retrouver dans des collections de matériel d’exploitation sexuelle des enfants, ne contiennent cependant pas d’images de victimes ayant un besoin immédiat de secours. Ils ne figurent pas non plus dans les bases de données connues sur les documents que les services de police du monde entier s’efforcent de partager entre eux via la base de données d’images d’Interpol sur l’exploitation sexuelle des enfants, ce qui signifie qu’ils ne peuvent pas être filtrés par des outils existants basés sur des cas connus. La GRC se tourne donc vers une nouvelle solution alimentée par l’intelligence artificielle (IA) qui pourrait l’aider à trouver plus rapidement les enfants victimes qui ont besoin d’aide.
Deux chercheurs de l’Université du Manitoba et two Hat Security Ltd., une entreprise de logiciels de Kelowna, en Colombie-Britannique, et l’organisme sans but lucratif Mitacs, financé par le gouvernement, organisent les liens, les aider à accomplir la tâche.
Mitacs a pour mandat de combler l’écart entre la recherche universitaire et les applications d’affaires. Les projets sont sélectionnés en fonction de leurs avantages à la fois pour l’entreprise qui cherche à innover et sur les mérites académiques des possibilités de recherche. Tous les projets qui obtiennent du financement sont également évalués par des pairs, explique Jennifer Tedman Jones, directrice du développement des affaires à Mitacs. L’organisation a travaillé sur 18 000 projets à travers le pays depuis 2003.
Two Hat avait déjà développé une relation avec Mitacs sur son filtre de contenu basé sur le risque Community Sift, qui aide les communautés en ligne à prévenir la cyberintimidation. Lorsque M. Jones a rencontré Chris Griebs, pdg de Two Hat, lors d’un événement sur un centre technologique à Okanagan, en Colombie-Britannique, il a présenté la nouvelle idée d’un produit qui pourrait identifier le contenu d’exploitation sexuelle des enfants à l’aide de la vision par ordinateur assistée par l’IA.
« C’est l’une des parties de mon travail que j’aime vraiment », dit-elle.
Formation à la vision par ordinateur
Le projet Two Hat verra un financement total de 3 millions de dollars, créant jusqu’à 200 stages sur cinq ans. Au moins 60 d’entre eux seront dotés du Département d’informatique de l’Université du Manitoba, dirigé par le professeur Yang Wang. Jusqu’à présent, les étudiants Binglin Li et Mehrdad Hosseinzadah ont commencé à travailler sur le projet, mettant en place des expériences que la GRC peut mener avec leur algorithme d’IA.
« Nous l’appelons un réseau de neurones super convolutifs, ce qui est une façon geek de combiner une variété de réseaux de neurones en un seul système d’IA », explique Brad Leitch, responsable du développement de produits chez Two Hat. « Personne n’a vraiment vu cela comme une opportunité d’affaires. Mitacs nous donne l’occasion de travailler avec des étudiants qui sont à la fine pointe de la vision par ordinateur et de les appliquer de manière significative.
Pour entraîner un système de vision par ordinateur, vous lui donneriez généralement une énorme collection d’images. Tout d’abord, vous lui montreriez de nombreux exemples de correspondances positives à la chose que vous voulez qu’il identifie. Ensuite, vous lui montreriez des exemples de négatifs, des choses qui sont différentes de ce que vous voulez identifier. Mais dans le cas de matériel d’exploitation de cette nature, les chercheurs ne sont pas autorisés à le posséder. C’est là qu’intervient la collaboration avec la GRC pour mener des expériences.
À l’aide d’un modèle d’apprentissage profond open source, les chercheurs ont été en mesure de déterminer l’âge d’une personne sur une photo en trois ans avec une précision de 84%. L’objectif est d’être en mesure d’identifier la démographie des âges de 0 à 13 ans dans les images afin que la GRC puisse prioriser les victimes prépubères.
« C’est certainement avec le cœur lourd quand vous parlez de ces questions », dit Leitch. « J’ai cinq enfants et les choses sur lesquelles nous avons travaillé ont forcé à avoir des conversations difficiles avec eux sur le monde dans lequel nous vivons. »
Finalement, Two Hat espère développer une vision du système informatique qui est si précise pour détecter le matériel d’exploitation sexuelle des enfants que les réseaux sociaux comme Facebook pourraient l’utiliser pour empêcher le contenu d’être téléchargé. Même lorsque les adolescents font preuve d’erreur de jugement et tentent d’envoyer leur propre matériel illicite via des outils de médias sociaux, intervenir avec un avertissement fort sur les conséquences possibles pourrait servir à les amener à repenser l’action.
Des outils tels que le service cloud PhotoDNA de Microsoft offrent des services similaires pour identifier et supprimer les images illégales aujourd’hui, mais encore une fois, il est basé sur du matériel qui a déjà été documenté et qui est connu des forces de l’ordre.
« Ce serait la principale occasion d’aider les réseaux sociaux à filtrer ce contenu indésirable », dit-il. « Plus tôt nous remettrons cela entre les mains des forces de l’ordre, mieux ce seront les enfants qui s’en sortiront. »
Aide à la police partout au Canada
Dans l’unité de Guerin à la GRC, il voit un fort potentiel pour l’outil de réduire le temps qu’il faut pour trier les images qui nécessitent l’attention immédiate d’un enquêteur. Il pourrait être utilisé pour passer au crible les bases de données où les documents déclarés sont soumis par l’industrie, par d’autres unités de police et par le public.
« Cela le rend plus sûr pour l’enfant et nous permet également d’accélérer le sauvetage de cet enfant », dit-il.
Pour aider à assurer le bon déroulement possible des expériences, Guerin a recruté un agent qui avait été basé dans le bureau du DPI de la GRC et qui avait déjà effectué des travaux avec des unités de traitement graphique. Il ne faudra pas longtemps avant que le système soit partagé à travers le pays pour tout effort d’application de la loi confronté au même genre de problème.
« Nous pouvons leur donner la capacité d’appliquer l’algorithme au matériel et maximiser notre capacité à trouver et à sauver les enfants et à réduire le temps qu’il faut pour analyser tout ce matériel », dit-il.
Et cela pourrait aider les enquêteurs, lorsqu’ils rentrent chez eux le soir, à avoir l’impression d’avoir fait tout ce qu’ils pouvaient pour trouver et aider les enfants victimes d’un crime troublant.
Brian Jackson,
Partager la publication :
