Respostas geradas por inteligência artificial no sistema de buscas do Google estão sendo alvo de críticas após levantarem preocupações sobre possíveis riscos à saúde dos usuários. A ferramenta, conhecida como Resumos de IA, pode apresentar informações incorretas ao tratar de temas médicos.
De acordo com uma investigação internacional, pessoas que recorrem ao buscador para esclarecer dúvidas sobre doenças ou exames podem receber orientações equivocadas. Em um dos testes, a tecnologia indicou recomendações alimentares inadequadas a pacientes com câncer de pâncreas, contrariando orientações médicas e podendo colocar vidas em risco.
Especialistas alertam que o problema ocorre quando a inteligência artificial responde sem considerar o histórico, o contexto clínico ou a gravidade da situação apresentada pelo usuário. Em algumas simulações, o sistema também forneceu dados imprecisos sobre funções do fígado, o que poderia levar pacientes a adiar ou até deixar de procurar atendimento médico.
Em posicionamento oficial, o Google afirmou que os Resumos de IA são considerados úteis e confiáveis, além de passarem por atualizações constantes para aprimorar a qualidade das respostas. A empresa informou ainda que, caso sejam identificados erros, as medidas previstas em suas políticas internas são adotadas.
