Embora a inteligência artificial na saúde tenha mostrado grande promessa, a pressão está aumentando para os reguladores ao redor do mundo agirem, à medida que as ferramentas de IA demonstram resultados potencialmente prejudiciais.
Antes que um medicamento seja aprovado pela Food and Drug Administration (FDA) dos EUA, ele deve demonstrar tanto segurança quanto eficácia. No entanto, a FDA não exige compreensão do mecanismo de ação de um medicamento para aprovação. Esta aceitação de resultados sem explicação levanta a questão de se o processo de tomada de decisão em “caixa preta” de um modelo de inteligência artificial seguro e eficaz deve ser completamente explicado para garantir a aprovação da FDA.
Esse tema foi um dos muitos pontos de discussão abordados na segunda-feira, 4 de dezembro, durante a Conferência de Política Regulatória de IA e Saúde do MIT Abdul Latif Jameel Clinic for Machine Learning in Health (Jameel Clinic), que desencadeou uma série de discussões e debates entre o corpo docente, reguladores dos Estados Unidos, União Europeia e Nigéria, e especialistas do setor sobre a regulamentação da IA na saúde.
À medida que a aprendizagem de máquina continua a evoluir rapidamente, persiste a incerteza sobre se os reguladores podem acompanhar e ainda reduzir a probabilidade de impactos prejudiciais, enquanto garantem que seus respectivos países permaneçam competitivos em inovação. Para promover um ambiente de discussão franca e aberta, a presença no evento da Jameel Clinic foi altamente curada para uma audiência de 100 participantes debatendo através da aplicação da Regra de Chatham House, permitindo anonimato aos palestrantes para discutir opiniões e argumentos controversos sem serem identificados como fonte.
Ao invés de sediar um evento para gerar interesse em torno da IA na saúde, o objetivo da Jameel Clinic era criar um espaço para manter os reguladores informados sobre os avanços mais modernos em IA, enquanto permitia ao corpo docente e aos especialistas do setor propor abordagens novas ou diferentes para os frameworks regulatórios para a IA na saúde, especialmente para o uso de IA em ambientes clínicos e no desenvolvimento de medicamentos.
O papel da IA na medicina é mais relevante do que nunca, pois a indústria lida com uma escassez de mão de obra pós-pandemia, custos aumentados (“Não é uma questão salarial, apesar da crença comum”, disse um palestrante), bem como altas taxas de esgotamento e resignações entre os profissionais de saúde. Um palestrante sugeriu que as prioridades para a implantação da IA clínica deveriam ser focadas mais em ferramentas operacionais do que em diagnóstico e tratamento de pacientes.
Um participante apontou uma “clara falta de educação entre todos os constituintes – não apenas entre as comunidades de desenvolvedores e sistemas de saúde, mas também entre pacientes e reguladores”. Dado que os médicos muitas vezes são os principais usuários de ferramentas de IA clínica, vários médicos presentes imploraram aos reguladores que os consultassem antes de tomar medidas.
A disponibilidade de dados foi uma questão-chave para a maioria dos pesquisadores de IA presentes. Eles lamentaram a falta de dados para fazer suas ferramentas de IA funcionarem efetivamente. Muitos enfrentaram barreiras como propriedade intelectual impedindo o acesso ou simplesmente uma escassez de conjuntos de dados grandes e de alta qualidade. “Os desenvolvedores não podem gastar bilhões criando dados, mas a FDA pode”, apontou um palestrante durante o evento. Os palestrantes da UE elogiaram o desenvolvimento de um sistema que obriga os governos a disponibilizar dados de saúde para os pesquisadores de IA.
Ao final do evento de um dia inteiro, muitos dos participantes sugeriram prolongar a discussão e elogiaram a curadoria seletiva e o ambiente fechado, que criaram um espaço único propício a discussões abertas e produtivas sobre a regulamentação de IA na saúde. Uma vez confirmados os futuros eventos de acompanhamento, a Jameel Clinic desenvolverá workshops adicionais de natureza semelhante para manter o momentum e manter os reguladores atualizados sobre os últimos desenvolvimentos no campo.
