Google a soulevé un réseau neuronal raciste et l’a admis

Google a récemment ouvert son réseau neuronal Gemini aux utilisateurs, et un problème évident est rapidement apparu : la nouvelle IA refusait tout simplement de générer des Blancs. Les Gémeaux ont créé des images de Noirs non seulement sur la base de demandes neutres, mais aussi de demandes très spécifiques.

Le réseau neuronal a réussi à montrer aux utilisateurs des Vikings noirs, des joueurs de hockey canadiens, des rois anglais et les pères fondateurs de l’Amérique. Lorsqu’on lui a demandé directement de « générer un homme blanc », Gemini a répondu qu’il était erroné de créer des images basées sur le sexe et la couleur de la peau. Dans le même temps, des demandes similaires concernant les Noirs et les Asiatiques ont été assez facilement satisfaites.

Sous une tempête d’indignation, Google a publié une déclaration et a reconnu son erreur, bien que sous une forme plutôt simplifiée. La société a indiqué que la diversité des personnes générées est généralement bonne, car le réseau neuronal est utilisé par des personnes du monde entier. Mais dans certaines requêtes, cela n’est vraiment pas utile. Google n’a pas encore annoncé quand ni comment ce problème sera résolu.

Certaines publications occidentales se sont déjà précipitées pour défendre Gemini, affirmant que tout cela n’est qu’une bagatelle comparé aux « crimes » que d’autres IA commettent contre les personnes à la peau foncée. Ces réseaux de neurones génèrent des Noirs dans des rôles stéréotypés offensants, c’est pourquoi les Gémeaux et leurs Afro-Vikings sont beaucoup plus appréciés par les médias.