A Organização Mundial da Saúde (OMS), está pedindo cuidado no manuseio das plataformas geradas por inteligência artificial (IA), como Bard, ChatGPT, entre várias outras. Essa tecnologia de ponta tem se expandido e crescido no mercado rapidamente. O uso dessa ferramenta, sem dúvidas traz benefícios em diversas áreas profissionais. Mas tem sido motivo de preocupação nos órgãos da saúde.

A OMS emitiu um comunicado pedindo cautela no uso desses aparelhos que estão sendo usados frequentemente, e salientou a necessidade de analisar os perigos do uso indevido desta tecnologia. De acordo com a agência das Nações Unidas (ONU), informou que na área da saúde a ferramenta não está tendo o cuidado que normalmente é realizado no uso da tecnologia. Os novos modelos de linguagem precisam ser usados de forma consciente, assim como os seus mecanismos de controle. O que preocupa os órgãos responsáveis, é a adoção precipitada dessa tecnologia. Um sistema não testado pode levar a erros irreparáveis cometidos pelos profissionais da área da saúde.

De acordo com a OMS, as informações presentes na inteligência artificial podem ser tendenciosas, e propícias a gerar informações falsas ou imprecisas. O que gera risco à saúde dos pacientes. O alerta foi dado, pois a ferramenta apresentada é capaz de responder perguntas de forma fácil, mas não é confiável. Visto que, pode haver erros graves, especialmente no contexto da saúde.

A instituição afirma que a ferramenta pode gerar e disseminar informações falsas. Mas reconhece que com o uso adequado, a inteligência artificial pode auxiliar os pacientes, profissionais da área da saúde, cientistas e pesquisadores. A tecnologia pode ajudar a medicina em ambientes de pouco recursos e aumentar a capacidade de diagnóstico. Entretanto, a organização finaliza que a base de perigos e benefícios precisa ser estudada e que o uso generalizado na área da saúde pode gerar riscos aos envolvidos. A ferramenta deve ser usada de forma transparente e inclusiva e essa tecnologia precisa ser supervisionada e passada por uma avaliação rigorosa.

3 min de leitura