Percipion est le fruit d’un constat :  46% des 15-17 ans ont été exposés à de la pornographie sur internet. En 2017, la première exposition se faisait à l’âge de 14 ans. En 2020, année où l’étude d’OpinionWay a été menée (à la demande de la région Île-de-France), l’âge baissait à 10 ans.

Le principe de Percipion est simple : c’est un logiciel qui détecte les comportements malveillants en ligne, les attitudes suspectes ou perverses. Ainsi, l’enfant et ses parents peuvent recevoir une notification qui les alerte du caractère dangereux et malsain de la conversation.

On n’arrête plus le progrès. Alors oui, c’est flippant d’un point de vue philosophique, mais il faut avouer que si ça protège efficacement nos petits… alors c’est un grand oui en ce qui concerne Rebellissime !

On vous explique tout.

Tout d’abord, intéressons-nous à Béatrice et Mark, diplômés de psychologie et experts en sécurité informatique. Ils collaborent avec l’association #IWAS et sa Présidente Madame Murielle Thibierge-Batude.

Percipion : présentation de Béatrice et Mark, les créateurs

Béatrice et Mark sont tous les deux diplômés de psychologie cognitive et ont travaillé en tant que chercheurs au CNRS et au Laboratoire des Formes et de l’Intelligence Artificielle. Après plus de 20 ans passés dans des sociétés de conseil en technologie, ils fondent en 2016 Aeteos et donnent naissance à Percipion, une solution d’informatique cognitive, permettant aux machines de se représenter un contexte, de comprendre le langage naturel et de raisonner.

Percipion sera présenté cette année au salon international de la cybersécurité à Lille, ainsi qu’au Canada. Il adopte, progressivement, une renommée internationale. Nous lui souhaitons de ne pas s’arrêter en si bon chemin !

L’objectif est de faire en sorte que les plateformes l’installent, mais aussi de sensibiliser les parents à la menace digitale. En effet, vous croyez votre enfant seul dans sa chambre et en sécurité. Mais non, il est avec son smartphone ; la porte ouverte à toutes les dérives.

Percipion permet de lutter contre ce grooming
Grâce à Percipion, ce type de grooming est d’office signalé… Une avancée considérable.

Les réseaux sociaux sont le terrain de chasse des pédocriminels : Facebook, Snapchat, TikTok et Instagram sont leurs territoires de prédilection, mais ce n’est pas tout. Ils ont aussi tendance à aller sur des plateformes d’échange comme Coco ou Cocoland. Enfin, ces personnes mal intentionnées envahissent les jeux vidéo où l’on joue en réseau, comme le célèbre Fortnite

Le principe du logiciel Percipion

Saviez-vous que dans certains pays comme Israël, particulièrement exposés au terrorisme, l’intelligence artificielle des caméras nouvelles générations sont en mesure de détecter les terroristes avant qu’ils ne passent à l’acte ? En fait, le logiciel analyse des faits et de contextes, les coupe et les relie entre eux. Lorsque tous les indices vont dans le même sens, il donne l’alerte.

Dans ce cas précis, il s’agit d’une nervosité anormale, transpiration, doudoune ou bien veste fermée, ainsi qu’éventuellement, des tremblements. Les mimiques et expressions faciales sont également scrutées par l’IA. On a d’ailleurs retrouvé ce dispositif de sécurité au Qatar, pendant la Coupe du Monde de football.

Percipion agit de la même manière, mais en ligne. En bref, Béatrice et Mark ont compilé pendant plusieurs mois le comportement des pédophiles et cybercriminels, puis ont paramétré le logiciel pour détecter leurs comportements avant qu’ils ne passent à l’acte :

  • Séduction,
  • Menaces,
  • Chantages,
  • Duperies pendant lesquels il oblige l’adolescent-e à adopter des postures sexualisées…

Lorsqu’ils détectent cette attitude, l’algorithme alerte l’utilisateur que la personne d’en face est en train de le « groomer » (néologisme, appartient à the grooming, terme anglais qui évoque une mauvaise drague, un piège empreint de séduction). Selon les autorités américaines, la traduction officielle de grooming est le « pédopiégage ».

L’objectif est de scorer l’existence d’un grooming et, au-delà d’un certain seuil, prévenir les utilisateurs.

Par extension, il est possible de détecter les brouteurs, et les contenus à caractère terroriste.

Nous avons interviewé Mark, le fondateur de ce logiciel pour le moins astucieux.

Comment vous est venue l’idée de créer Percipion ?

Mark : « Il existe aujourd’hui de nombreux cas d’usages qui nécessitent l’exploitation d’informations disponibles en langage naturel. Ces cas d’usages sont principalement exécutés par des personnes car il faut pouvoir lire et comprendre afin de capter ces informations utiles. L’objectif est de pouvoir confier à une machine ces taches afin d’accélérer le traitement de l’information.»

Quels sont les critères observés pour détecter la pédocriminalité ?

Mark : « La détection de ces crimes est possible par une bonne connaissance des signaux forts et des signaux faibles qui constituent la pédocriminalité. Les signaux forts sont liés à la pornographie, aux déviances sexuelles, aux actes violents, aux activités fétiches et BDSM. Les signaux faibles sont quant à eux plus psychologiques et liés aux stratégies de piégeages : attachement, obéissance, actions, pressions et relations. »

Avez-vous un exemple concret dans lequel Percipion est utile ?

Mark : « Dans les entreprises, Percipion peut être utilisé par exemple afin d’analyser les facteurs de la satisfaction au travail et aider les ressources humaines à réduire l’attrition des collaborateurs. Dans le domaine de la cybersécurité, Percipion peut être utilisé afin de lutter contre la haine en ligne, le trafic d’être humain ou le terrorisme. »

Quelle est la sécurité maximale de votre logiciel ? Quelles sont les plus hautes barrières permises ?

Mark : « Percipion est entièrement sécurisé ! Notre approche est basée sur des ontologies et non sur du Machine Learning ce qui rend impossible «l’empoissonnement » de notre base de connaissance. Percipion n’utilise aucun composant tiers, aucune librairie et son fonctionnement ne peut pas être perturbé par l’exploitation de diverses failles logicielles. Enfin, Percipion n’utilise pas le réseau et peut être exploité dans un environnement hautement sécurisé sans aucun échange de données vers l’extérieur. »

Percipion est payant : est-il possible de contraindre les plateformes et les réseaux sociaux de l’acquérir, en vertu de l’article 9 de la CIDE (Convention Internationale des Droits de l’Enfant) ?

Elle précise qu’un enfant a le droit d’être protégé contre toutes les formes de maltraitance. Or, sur ces sites, les enfants s’y exposent.

Mark « La future réglementation Européenne (le DSA) ainsi qu’une extension spécifique sur la maltraitance des enfants va obliger les plateformes digitales à surveiller les informations qui transitent ou qui sont hébergées sur leurs serveurs et à détecter tout contenu inapproprié. Elles devront s’équiper d’une telle technologie de modération. Reste à faire respecter la législation et à garantir dans l’Union l’usage de solutions autorisées qui respectent nos droits fondamentaux ! »

Rebellissime vérifie… on n’est pas déçus !

Nous nous sommes rendus sur cette plateforme fétiche des adolescents qui, progressivement, est devenu un site de rencontre pour adultes : Coco. Un scandale ! En dépit de l’âge limite de 18 ans, nous nous sommes fait passer pour une adolescente de 14 ans. Les demandes affluaient, et ce, en moins de 10 minutes. Des hommes de tous âges, qui proposent de discuter, mais aussi qui demandent « si on veut se faire de l’argent ». Ce n’est pas tout.

Voici des extraits de conversations prélevées sur le dark web. Dans un souci de décence et de pudeur, nous préférons ne pas tout retranscrire : c’est beaucoup trop. Voici les seuls propos « répétables » :

« Essayez la gorge profonde, c’est incroyable sur un petit garçon » : La conversation précise qu’il s’agit d’un enfant de 3 ou 4 ans… Impossible d’en publier l’intégralité.

« Chaque enfant mérite qu’un pédophile les moleste et bien sûr les viole. Les pédophiles méritent beaucoup de plaisir »

« […] Mec, j’ai déjà utilisé un pistolet paralysant sur un garçon de 11 ans, c’était très efficace, je suis sûr que même aujourd’hui, il ne sait pas ce qui lui est arrivé. […] »

Propos d’anonymes sur le Dark Web

N’y a-t-il pas une loi internationale qui pourrait les obliger à protéger les jeunes ? Voilà ce quoi Mark et Béatrice travaillent.

Comment peut-on installer Percipion ? Sur le téléphone directement, ou faut-il l’intégrer application par application ?

Mark explique « Percipion est un moteur logiciel et il doit être intégré aux applications. C’est là un réel avantage car cela permet à toutes les entreprises de bénéficier des capacités d’analyse de Percipion sans changer leur produit et son interface. Percipion s’installe sur un serveur et peut être utilisé en moins de 10 minutes. C’est très simple. Les opérateurs peuvent aussi l’installer et le rendre disponible sur nos téléphones.»

Combien cela coûte-t-il ?

Mark « la fonctionnalité de modération de contenu et de lutte contre la cyber-pedocriminalité coûte 3600€. Cette souscription mensuelle est forfaitaire et permet aux entreprises d’utiliser Percipion de manière illimitée (mise à jour et support inclus). »

Pouvez-vous nous en dire plus sur l’ergonomie, l’interface utilisateur ? Histoire que ces lectrices profanes, dont nous faisons partie, comprennent bien de quoi il retourne ?

Mark « Pour la grande majorité des utilisateurs, Percipion reste invisible. C’est un moteur logiciel qui s’intègre à des solutions existantes. Il n’y a donc pas d’interface pour les utilisateurs.

Prenons l’exemple de la lutte contre la cyber-pedocriminalité. Le fournisseur de la plateforme pourrait utiliser Percipion afin d’analyser en temps réel les conversations et afficher sur son interface logicielle toute intention pédocriminelle détectée. Cela permettrait à l’enfant ou à l’adolescent d’arrêter à temps cette discussion.

En parallèle, des preuves sémantiques peuvent être ainsi collectées et fournies aux autorités. Les serveurs et ces services de messagerie deviennent des scènes de crimes et la collecte d’évidences digitales sont essentielles afin de qualifier l’infraction. »

Quels sont les garde-fous ? Comment êtes-vous certain que les algorithmes de Percipion ne se trompent pas ? Avez-vous fait des vérifications ?

Mark : « Percipion fournit des informations qualifiées qui permettent aux personnes de prendre des décisions. C’est bien à l’homme de décider et non à la machine.

Percipion peut se tromper, oui, bien évidemment. Vous pouvez donc exécuter Percipion de manière transparente. Vous vérifiez ainsi quelles informations ont été traitées et comment elles ont été associées les unes aux autres. Ce niveau de transparence restaure la confiance des utilisateurs quant à l’usage de solutions de compréhension du langage naturel. Nous effectuons bien évidemment de nombreuses vérifications afin d’éviter le plus possible les faux-positifs, mais rien n’est magique. Percipion reste un produit logiciel. »

Percipion permet de lutter contre ce grooming.

Quels sont vos projets ? Label, utilité publique, un ministère quelconque à contacter ? Pourquoi ne pas le proposer à la police ?

Mark « Nous allons dans les prochains mois travailler sur la problématique du harcèlement, de la maltraitance animale, de l’éco-terrorisme… Il nous reste de nombreux thèmes à traiter afin de rentre l’internet plus sûr et à détecter ceux et celles qui créent, partagent et promeuvent des contenus inappropriés. Nous nous sommes rapproché des autorités Française et cherchons à mieux collaborer avec la Gendarmerie Nationale et le Ministère de l’Intérieur. Nous devons également développer notre visibilité à l’échelle Européenne rapidement. Toute aide est la bienvenue. »

Notre triste constat : Percipion est loin d’être un luxe…

Sur le site Coco, nous voyons que si les modérateurs vous suspendent… ça n’est que pour 100 minutes… et plus souvent pour vous inciter à passer à la version premium que pour votre sécurité !

L’IP n’est pas bloqué. Aucune mesure de protection ne sécurise le mineur. Vous voyez maintenant le genre de propos que reçoit une jeune fille de 14 ans par des hommes de plus de 50 ans, lorsqu’elle s’aventure sur ce site. Percipion peut alerter les parents que leur enfant se trouve sur ces sites et qu’il y a fait des rencontres qui peuvent, au bas mot, compromettre sa moralité et son intégrité.

Dernier point : Percipion se base sur l’approche du psychologue américain Carl Rogers. Des études très poussées, tant sur la sémantique des différentes dérives sexuelles que dans les stratégies mises en place par les pédophiles existent à son sujet.

Rebellissime a posé la question aux GAFA (Google, Apple, Facebook et Amazon) et aux principaux réseaux sociaux. Nous poursuivrons avec les ministères et les députés concernés. Nous ne manquerons pas de vous tenir informés.