Google remove alguns de seus resumos gerados por IA após possível risco à saúde dos usuários

Especialistas descreveram o caso como “perigoso” e “alarmante”. Eles afirmaram que o que os AI Overviews do Google indicavam como normal podia variar drasticamente do que é, de fato, considerado normal. Esses resumos poderiam levar pacientes gravemente doentes a acreditar, de forma equivocada, que seus resultados de exames estavam normais e, assim, deixar de comparecer a consultas ou acompanhamentos médicos.

Após a investigação, a empresa removeu os AI Overviews para os termos de busca “qual é o intervalo normal para exames de sangue do fígado” e “qual é o intervalo normal para exames de função hepática”.

Uma porta-voz do Google afirmou que eles não comentam remoções individuais dentro da busca. "Nos casos em que os AI Overviews deixam de apresentar algum contexto, trabalhamos para fazer melhorias amplas e também tomamos medidas de acordo com nossas políticas, quando apropriado.”

Vanessa Hebditch, diretora de comunicação e políticas da British Liver Trust, uma instituição de caridade voltada à saúde do fígado, afirmou ter ficado satisfeita com a remoção, mas apontou outra questão.

“Se a pergunta for feita de uma forma diferente, um AI Overview potencialmente enganoso ainda pode ser exibido, e continuamos preocupados com o fato de que outras informações de saúde produzidas por IA podem ser imprecisas e confusas”, disse ao The Guardian.

“Um exame de função hepática, ou LFT (liver function test), é um conjunto de diferentes exames de sangue. Compreender os resultados e saber quais são os próximos passos é algo complexo e envolve muito mais do que comparar um conjunto de números".

Para ela, os AI Overviews apresentam uma lista de exames em negrito, o que torna muito fácil para os leitores não perceberem os números talvez nem sejam os corretos para o exame que realizaram.

“Além disso, os AI Overviews não alertam que uma pessoa pode ter resultados normais nesses exames mesmo tendo uma doença grave no fígado e precisando de atendimento médico adicional. Essa falsa sensação de segurança pode ser muito prejudicial.”

O Google afirmou que estava analisando os novos exemplos apresentados pelo The Guardian.

Os AI Overviews ainda aparecem em outros exemplos que o Guardian havia destacado originalmente ao Google. Eles incluem resumos de informações sobre câncer e saúde mental que especialistas descreveram como “completamente errados” e “realmente perigosos”.

Questionado sobre por que esses AI Overviews também não foram removidos, o Google disse que eles continham links para fontes conhecidas e respeitáveis, além de informar as pessoas quando era importante buscar orientação especializada.

“Nossa equipe interna de médicos analisou o que nos foi compartilhado e constatou que, em muitos casos, as informações não eram imprecisas e também eram respaldadas por sites de alta qualidade”, disse um porta-voz.

O Google afirmou que os AI Overviews só aparecem em consultas nas quais a empresa tem alto grau de confiança na qualidade das respostas. A companhia acrescentou que mede e revisa constantemente a qualidade de seus resumos em diversas categorias de informação.