OMS destaca os riscos para a saúde no uso da inteligência artificial e pede cautela
A OMS emite comunicado enfatizando a necessidade de cautela no uso da inteligência artificial para preservar a saúde pública, proteger o bem-estar e a autonomia humanas. Destaca-se a ausência de uma preocupação comum na implementação de tecnologias na área da saúde.
A preocupação da OMS reside na utilização potencialmente problemática da inteligência artificial, devido a possíveis vieses nos dados utilizados para o treinamento, geração de respostas incorretas que parecem verdadeiras e o risco de disseminação de desinformação. A organização recomenda que os formuladores de políticas dediquem esforços para garantir a segurança e proteção dos pacientes, enquanto as empresas de tecnologia trabalham na comercialização dessas tecnologias.
“A adoção precipitada de sistemas não testados pode levar a erros por parte dos profissionais de saúde, causar danos aos pacientes, minar a confiança na IA e, assim, minar (ou atrasar) os potenciais benefícios e usos de longo prazo de tais tecnologias em todo o mundo”, diz o comunicado.
A OMS reconhece que os modelos de linguagem (LLMs), como aquele utilizado pelo ChatGPT, têm como objetivo imitar a compreensão, processamento e produção da comunicação humana. O rápido crescimento e o uso crescente dessas tecnologias em experimentos relacionados à saúde têm gerado entusiasmo significativo. No entanto, a organização destaca a importância de exercer o mesmo cuidado que seria aplicado a qualquer nova tecnologia, garantindo que os riscos da implementação dessas tecnologias, incluindo os LLMs, sejam cuidadosamente avaliados.
A OMS também expressa entusiasmo com o uso adequado de tecnologias, incluindo os LLMs, para auxiliar os profissionais de saúde. No entanto, ressalta a preocupação de que os cuidados necessários não estejam sendo aplicados de maneira consistente no desenvolvimento e aplicação dessas tecnologias. Portanto, é imperativo que os riscos associados à adoção dessas tecnologias sejam avaliados cuidadosamente.
