Un utilisateur du service Google Photos, une application capable de détecter le contenu de clichés, s’est plaint d’avoir été identifié comme un gorille par le logiciel.
Les machines font des erreurs, mais certaines sont plus blessantes que d’autres. Jacky Alciné, un développeur américain, a eu une mauvaise surprise en voulant trier ses photos grâce à Google Photos. Le service, développé par Google, propose depuis quelques semaines une nouvelle fonctionnalité : il range les images en détectant automatiquement certains éléments, comme la présence d’un paysage, d’un animal ou d’un objet. Par exemple, le logiciel peut ranger des photos d’un chat dans un dossier « chat ».
Mais confronté à une photo de Jacky Alciné et une amie, deux personnes noires, Google Photos n’a pas détecté deux humains, mais des « gorilles ». Indigné, le développeur américain s’est plaint sur Twitter. Google a très vite présenté ses excuses et a momentanément retiré la catégorie « gorille » de son application le temps de régler le problème. « C’est avec ce genre d’erreurs qu’on se rend compte à qui s’adresse ce service », a commenté Jacky Alciné.
Google Photos, y'all fucked up. My friend's not a gorilla. pic.twitter.com/SMkMCsNVX4
— diri noir avec banan (@jackyalcine) 29 Juin 2015