A Inteligência Artificial (IA) possibilitou avanços enormes na medicina nos últimos anos, mas também traz consigo riscos significativos que precisam ser cuidadosamente ponderados. Um problema central é a segurança dos dados e a proteção da privacidade dos pacientes. Dados médicos são extremamente sensíveis e valiosos, razão pela qual frequentemente são alvo de ciberataques[1]. O armazenamento e a análise centralizados e extensivos de dados de saúde por sistemas de IA aumentam ainda mais esse risco[2].
Outro risco grave são possíveis diagnósticos incorretos e erros de tratamento por sistemas de IA. Embora grandes modelos de IA baseados em linguagem possam gerar respostas aparentemente profissionais, estas podem conter erros graves, especialmente quando se trata de questões médicas[3]. Um exemplo concreto seria um sistema de IA que classificasse erroneamente alterações na pele como inofensivas, enquanto um dermatologista as reconheceria como potencialmente cancerígenas[2].
A Organização Mundial da Saúde (OMS) também adverte sobre o risco de que a tecnologia de IA possa ser mal utilizada para a disseminação de desinformação disfarçada de conteúdo médico sério[3]. Isso poderia minar a confiança no sistema de saúde e levar a autodiagnósticos e autotratamentos perigosos.
Um problema frequentemente subestimado é o potencial de reforço de desigualdades e preconceitos existentes na saúde pela IA. Se os sistemas de IA forem treinados com dados tendenciosos, eles podem reproduzir e amplificar esses preconceitos. Um estudo mostrou, por exemplo, que pacientes afro-americanos recebem em média menos analgésicos do que pacientes brancos. Um sistema de IA treinado com base em tais dados poderia perpetuar essa prática discriminatória[5].
A crescente dependência de sistemas de IA também acarreta o risco de perda de expertise humana. Alguns especialistas temem que o uso generalizado de IA possa levar à perda de habilidades e conhecimentos por parte dos profissionais de saúde ao longo do tempo, o que poderia prejudicar a capacidade de identificar e corrigir erros de IA[5].
Apesar desses riscos, é importante não rejeitar a IA precipitadamente. A OMS enfatiza que a IA só deve ser utilizada na área médica quando houver dados confiáveis sobre os benefícios da tecnologia[4]. É necessária uma abordagem equilibrada que aproveite os benefícios potenciais da IA na medicina, ao mesmo tempo em que implementa medidas de segurança robustas e diretrizes éticas.
Para superar esses desafios, são necessários esforços de supervisão aprimorados por parte de sistemas de saúde, hospitais, associações profissionais e seguradoras[5]. Somente através de um uso responsável e bem regulamentado o potencial total da IA na medicina poderá ser explorado, sem comprometer a segurança e o bem-estar dos pacientes.
Fontes:
[1] Drawbacks of Artificial Intelligence and Their Potential Solutions in … https://www.ncbi.nlm.nih.gov/pmc/articles/PMC9908503/
[2] KI in der Medizin: Große Chancen und Hohe Risiken – valmedi.de https://www.valmedi.de/blog/160-ki-in-der-medizin
[3] WHO warnt vor KI-Risiken im Gesundheitsbereich | MDR.DE https://www.mdr.de/wissen/who-warnt-vor-ki-risiken-im-gesundheitsbereich100.html
[4] WHO warnt vor KI-Risiken im Gesundheitsbereich https://www.pharmazeutische-zeitung.de/who-warnt-vor-ki-risiken-im-gesundheitsbereich-140200/
[5] Risks and remedies for artificial intelligence in health care https://www.brookings.edu/articles/risks-and-remedies-for-artificial-intelligence-in-health-care/
