'Obama muçulmano' e 'cola na pizza': Google tenta melhorar resultados de pesquisa com IA generativa

• Kabosu: morre a cachorrinha japonesa dos memes virais que inspirou criptomoeda
• Após limitar notícias em redes: Meta usa conteúdo de jornais em ferramenta de IA

Os usuários do Google recorreram às redes sociais para criticar as respostas errôneas geradas pelas “Visões Gerais de IA” a questões como se as pessoas deveriam comer pedras ou olhar para o Sol, ou quantos líderes muçulmanos americanos já existiram.

“Muitos dos exemplos que vimos eram consultas incomuns e também vimos exemplos que foram manipulados ou que não conseguimos reproduzir”, disse um porta-voz do Google em resposta à AFP. “Estamos tomando medidas rápidas sempre que apropriado no âmbito das nossas políticas de conteúdo e utilizando estes exemplos para desenvolver melhorias mais amplas nos nossos sistemas, algumas das quais já começaram a ser implementadas”, concluiu.

O exemplo de Obama violou políticas do Google e acabou removido, segundo o porta-voz. Uma das respostas dos "Resumos de IA", que afirmava que adicionar cola não tóxica ao molho de pizza era uma forma de evitar que o queijo escorregasse, foi atribuída a uma postagem infantil no Reddit, o que levou alguns usuários nas redes sociais a se perguntarem se a IA ​​foi tão ingênua a ponto de acreditar em tudo que lê na internet.

Segundo a gigante de Silicon Valley, a grande maioria das respostas produzidas pela sua IA fornecem informação confiável e as barreiras de segurança integradas na tecnologia são concebidas para impedir o aparecimento de conteúdos nocivos.

A recente introdução desses resumos pelo Google em seu mecanismo de busca nos Estados Unidos foi uma de suas maiores mudanças desde sua criação. Em breve, o modelo se espalhará para outros países. Após o seu lançamento, os resultados de pesquisa tradicionais do Google passaram a exibir um resumo criado pela IA no topo da página antes do modelo de exibição típica de links.