A Inteligência Artificial (IA) possibilitou avanços enormes na medicina nos últimos anos, mas também traz consigo riscos significativos que precisam ser cuidadosamente ponderados. Um problema central é a segurança dos dados e a proteção da privacidade dos pacientes. Dados médicos são extremamente sensíveis e valiosos, razão pela qual frequentemente são alvo de ciberataques[1]. O armazenamento centralizado e a análise extensiva de dados de saúde por sistemas de IA aumentam ainda mais esse risco[2]. Outro risco grave são possíveis diagnósticos incorretos e erros de tratamento por sistemas de IA. Embora grandes modelos de IA baseados em linguagem possam gerar respostas aparentemente profissionais, elas podem conter erros graves, especialmente quando se trata de questões médicas[3]. Um exemplo concreto seria um sistema de IA que classificasse erroneamente alterações na pele como inofensivas, enquanto um dermatologista as reconheceria como potencialmente cancerígenas[2]. A Organização Mundial da Saúde (OMS) também alerta para o risco de que a tecnologia de IA possa ser mal utilizada para a disseminação de desinformação, que…

A IA generativa está revolucionando cada vez mais a pesquisa clínica, prometendo tornar muitos processos mais eficientes e eficazes. Uma área principal de aplicação é a aceleração do recrutamento de pacientes para estudos clínicos. Pesquisadores do hospital Mass General Brigham demonstraram que softwares de IA como o ChatGPT podem acelerar significativamente o processo de triagem para identificar participantes adequados para estudos[8]. Em seu estudo, eles usaram uma versão do GPT-4 da OpenAI através da nuvem Azure da Microsoft para pesquisar prontuários médicos em busca de critérios de participação para um estudo de insuficiência cardíaca. A IA alcançou uma precisão de 97,9% a 100% em comparação com a avaliação de especialistas – e isso a um custo médio de apenas 11 centavos por paciente[8]. A IA generativa também está sendo usada na criação de protocolos de estudo e na análise de dados de estudos. A empresa Intelligent Medical Objects desenvolveu com o SEETrials um método para extrair informações de segurança e eficácia de resumos de estudos usando o GPT-4[9]. Isso permite aos pesquisadores uma visão geral rápida…

Cada vez mais organizações de saúde estão expostas a ataques cibernéticos, e as ocorrências afetam negativamente o atendimento ao paciente. Isso é o que revela uma pesquisa da empresa de cibersegurança Proofpoint e da empresa de pesquisa Ponemon Institute. O relatório descobriu que 92% das organizações de saúde sofreram pelo menos um ataque cibernético nos últimos doze meses, em comparação com 88% no ano passado. Quase 70% relataram que os ataques prejudicaram o atendimento ao paciente. 56% das organizações que enfrentaram os quatro tipos comuns de ataques cibernéticos relataram maus resultados no tratamento do paciente devido a atrasos no tratamento, 53% relataram mais complicações em procedimentos e 28% disseram que a taxa de mortalidade de pacientes aumentou. https://www.proofpoint.com/us/resources/threat-reports/ponemon-healthcare-cybersecurity-report