Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/07001.jsonl.gz/541

Depuis un an et demi, ce père de famille vit un véritable calvaire. Dimanche, le New York Times est revenu sur l'histoire de Mark, un Américain qui, en février 2021, s'est inquiété d'une douleur ressentie par son bébé au niveau du pénis. En toute logique, l'homme âgé d'une quarantaine d'années a fait appel à un médecin. Pandémie de Covid oblige, la consultation ne pouvait se faire qu'en visioconférence.
Pour mieux comprendre la situation, l'infirmière préparant administrativement le rendez-vous a demandé à ce que des photos de la zone enflée soient envoyées, de sorte que le praticien puisse les examiner avant de les rencontrer. Plusieurs clichés dont l'une qui montrait la main de Mark pointant sur le gonflement ont été pris.
L'enfant a finalement guéri grâce aux antibiotiques prescrits. Cependant, un problème des plus inattendus s'est présenté deux jours plus tard: le compte Google du père avait été bloqué. A ce moment, ce dernier ne le savait pas encore, mais le géant américain venait de l'accuser de pédocriminalité.
Comme l'explique le journal, c'est en lisant le rapport reçu de l'entreprise américaine à propos d'une «grave violation de la politique de Google» que Mark a réalisé que celle-ci avait listé la série de photos de son fils dans la catégorie «abus sexuel et exploitation d’enfants».
Pour cet ancien ingénieur, qui supposait que le problème venait des algorithmes de la société, le malentendu allait facilement être rectifié par un employé qui allait se rendre compte de l'erreur commise.
Des enquêteurs, ayant reçu une plainte de Google, ont dédouané en décembre 2021 le père de famille. Ils lui ont assuré qu’aucune poursuite ne serait mise en place. Sauf que Google n'était pas de cet avis. E-mail, numéro de téléphone, galeries, vidéos: tous les accès de Mark à la plateforme ont été bloqués puis supprimés dans la foulée.
Google dispose d'un système de détection d'images pouvant repérer les photos à caractère pédopornographique. Généralement, une intelligence artificielle passe en revue l'objet exporté et, en cas de doute, signale automatiquement le problème auprès de CyberTipline, une cellule du Centre national des enfants disparus et exploités américain.
Carissa Byrne Hessick, professeur de droit à l'Université de Caroline du Nord, qui a réagi à l'affaire dans l'article du New York Times, a affirmé que le programme informatique de Google était formé pour reconnaître des informations «correctes» et «incorrectes». Cela jusqu'à être capable de faire la distinction entre les deux. Il semble néanmoins, qu'en matière d'abus sexuels sur mineurs et face auxquels l'entreprise clame avoir une tolérance zéro, des erreurs manifestes soient parfois commises.
Aujourd'hui, Mark n'a toujours pas pu récupérer son compte Google. L'homme a également dû se résoudre à prendre un abonnement chez un autre opérateur. Le père de famille a expliqué avoir de nouveau fait appel de son cas auprès de l'entreprise américaine, mais en vain. Finalement, compte tenu du montant jugé infime des dédommagements s'il remportait l'affaire, l'Américain a décidé d'abandonner les charges: «J'ai décidé que cela ne valait probablement pas la peine pour 7000 dollars».
Selon BFM TV, qui a également repris l'information, des milliers de comptes seraient chaque année supprimés par Google. En 2021, près de 270 000 d'entre eux ont été bannis pour contenus pédopornographiques.
Voilà trois interminables jours qu'on bouffait notre frein. Un peu comme si on avait été placé devant un gâteau triple chocolat, garni d'une belle ganache épaisse et appétissante, avec interdiction formelle d'y fourrer un doigt. Trois jours qu'on voyait s'exciter avec gourmandise tous les experts royaux d'outre-Manche. Sans nous. Faute d'avoir pu lire «LE» livre.