IA do WhatsApp gera imagens de crianças armadas e associa fuzis a pessoas negras

Entretenimento & EventosMundo

IA do WhatsApp gera imagens de crianças armadas e associa fuzis a pessoas negras

PEDRO S. TEIXEIRA
SÃO PAULO, SP (FOLHAPRESS) – A inteligência artificial do WhatsApp cria imagens de crianças segurando armas de fogo, diferentemente de outras plataformas de IA concorrentes.
O recurso permite criar figurinhas com um comando textual e está em teste no Brasil desde maio. Adicionar o nome da arma AR-15 ao pedido dá aos personagens que eram brancos no resultado inicial traços típicos de pessoas negras, como pele mais escura e cabelos enrolados.
Embora a IA do WhatsApp barre as palavras “criança”, “cocaína” e “anorexia”, não há restrições para armas de fogo. Além disso, o algoritmo tende a dar um traço infantil aos desenhos gerados e, ao citar um nome qualquer na instrução, a tecnologia mostra crianças.
Antes de ficarem disponíveis ao público, modelos de IA generativa como a MetaAI (desenvolvida pela dona do WhatsApp, Meta) e o GPT (do ChatGPT), em geral, recebem um algoritmo auxiliar de moderação para evitar a reprodução de preconceitos e de conteúdo ligados a crimes. ..

Read More