Protéger les enfants et les adolescent·es contre la cyberintimidation

Bien que leur système de filtrage soit capable de détecter les messages de discussion malveillants avec une grande précision, Two Hat Security s’intéressait à l’application d’algorithmes d’apprentissage automatique pour détecter automatiquement le contenu négatif. Pour aider à résoudre leur défi de recherche, ils se sont tournés vers un Mitacs Accélération stage avec Ken Dwyer, doctorant en informatique de l’Université de l’Alberta.

Ken a développé un algorithme capable de prédire avec précision le risque d’un message de clavardage de manière efficace sur le plan informatique. Son algorithme a pu identifier plusieurs variantes orthographiques de mots mis sur liste noire et de schémas d’évitement qui auparavant étaient passés inaperçus par les modérateurs humains. Les conclusions de Ken ont offert à l’équipe de modération de Two Hat Security de nouveaux outils pour augmenter leur efficacité de façon continue, ce qui a entraîné la satisfaction des clients grâce à une meilleure qualité de filtrage.

Mitacs Accélération nous a permis d’explorer un nouveau domaine de recherche que nous n’aurions pas eu les ressources ni l’expertise pour explorer. En conséquence, nous avons développé plusieurs composants qui ont grandement amélioré notre système. Le projet a été une excellente synergie », déclare Chris Priebe, PDG de Two Hat Security.

Pour Ken, l’expérience pratique des Mitacs Accélération Les offres sont sans égal. « Mitacs Accélération C’est une excellente occasion d’acquérir de l’expérience dans l’industrie et d’appliquer ce que l’on apprend à l’école à des problèmes concrets. De la même façon, je peux appliquer les compétences que j’ai acquises en industrie à ma recherche en milieu postsecondaire.”

Après avoir terminé son doctorat, Ken continuera son rôle d’employé à temps plein chez Two Hat Security en tant que scientifique principal des données.