Google pausa geração de imagens de pessoas após “lacração” e falhas históricas

O Google anunciou recentemente a suspensão temporária da funcionalidade de geração de imagens de pessoas pelo seu modelo de inteligência artificial, Gemini. A decisão foi tomada após o sistema produzir representações controversas, incluindo a criação de imagens que foram consideradas “woke“, gerando debates e situações embaraçosas. Um exemplo notável incluiu a geração de um soldado nazista negro em uma ilustração de um “soldado alemão de 1943”, algo que provocou discussões sobre a alteração da história e da realidade para se alinhar com visões políticas modernas.

Essa abordagem do Google, de forçar o algoritmo a gerar rostos “representativos”, resultou em uma série de erros explorados pelos usuários, tornando-se um dos tópicos mais discutidos recentemente. A tentativa de reescrever ou alterar dados históricos para se conformar com determinadas visões políticas é frequentemente associada a regimes ditatoriais e obras de ficção distópicas, como o clássico “1984” de George Orwell, no qual o governo mantém um Ministério da Verdade encarregado de alterar o passado conforme as necessidades do poder.

https://twitter.com/BasedTorba/status/1760314072774439392?

Em resposta à controvérsia, o Google emitiu um comunicado no X, afirmando: “Enquanto trabalhamos para resolver problemas recentes com a funcionalidade de geração de imagens do Gemini, vamos pausar a geração de imagens de pessoas”. Além disso, a empresa pediu desculpas pelas imprecisões em algumas imagens históricas geradas pelo seu modelo de IA. Entre os exemplos citados, estavam imagens de senadores dos EUA do século XIX representados como mulheres negras e indígenas, apesar da primeira senadora, uma mulher branca, ter sido eleita apenas em 1922.

A decisão de suspender temporariamente a funcionalidade de geração de imagens de pessoas pelo Gemini reflete a complexidade e os desafios éticos envolvidos no desenvolvimento e implementação de tecnologias de inteligência artificial.

Ainda não foi divulgada uma data para o retorno dessa funcionalidade, indicando que o Google está tomando medidas cautelares para revisar e aprimorar seus algoritmos, garantindo maior precisão e respeito ao contexto histórico em suas futuras gerações de imagens.