Pesquisadores do Bosch Health Campus e das Universidades de Bayreuth e Bristol propõem agora no periódico Nature “npj Digital Medicine” (https://doi.org/10.1038/s4146-024-01224-3) um modelo que visa preservar a confiança entre médicos e pacientes e permitir o uso confiável e seguro de IA médica.
Em vez da relação de dois participantes médico – paciente existente até agora, com a entrada de aplicações de IA na medicina, cada vez mais frequentemente existe uma constelação triangular. “Queremos contribuir com nosso modelo para que a confiança entre médicos e pacientes seja mantida mesmo com o uso de IA médica e que ambos os grupos também possam confiar na funcionalidade impecável da IA”, diz o Dr. med. Matthias Zuchowski do Bosch Health Campus, economista da saúde e habilitando no Instituto de Gestão Médica e Ciências da Saúde da Universidade de Bayreuth. Existe uma cooperação entre o Bosch Health Campus e a Universidade de Bayreuth para o desenvolvimento e implementação de projetos de pesquisa em gestão médica, liderança e digitalização.
Oito componentes para o desenvolvimento de IA médica
Os autores do artigo propõem oito componentes que devem apoiar, fortalecer e preservar a relação de confiança entre pacientes e médicos. É particularmente importante que profissionais de saúde e pacientes sejam envolvidos no processo de desenvolvimento para criar mais transparência e evitar discriminações e riscos de aplicação. As oito condições-quadro para o desenvolvimento de IA médica são, individualmente:
– para que os médicos possam confiar na IA:
1. o envolvimento de profissionais de saúde responsáveis antes do desenvolvimento da IA
2. uma ficha de dados padronizada, alinhada às necessidades de informação dos usuários profissionais
3. uma avaliação (profissão) ética da IA em nível institucional
– para manter a confiança dos pacientes no pessoal médico:
1. o envolvimento de representantes de pacientes na fase de desenvolvimento da IA
2. diretrizes para a integração de IA médica no processo de aconselhamento e tratamento clínico
– para que os pacientes possam confiar na IA:
1. a documentação da segurança de dados para cada IA médica
2. a documentação regulatória e de responsabilidade para cada IA médica
3. medidas de segurança vinculativas e pontos de saída para a participação segura de profissionais de saúde
Os pesquisadores explicam exatamente quando e como os componentes mencionados devem ser considerados no ciclo de produção de um aplicativo de IA. Eles consideram essencial o envolvimento de prestadores de serviços de saúde, profissionais de saúde, desenvolvedores e fabricantes, bem como grupos de defesa de pacientes em todas as fases do ciclo de vida de uma IA médica. "Queremos iniciar uma discussão com o modelo para que os regulamentos correspondentes possam ser implementados o mais rápido possível e possam ser usados por startups e desenvolvedores", diz a Dra. Dra. Lena Zuchowski, professora sênior de filosofia da ciência na Universidade de Bristol. Finalmente, os pesquisadores exigem que o sucesso e a confiabilidade da IA médica sejam comprovados com experimentos e estudos clínicos tão rigorosamente quanto outros métodos de tratamento.
