Inteligência Artificial traz benefícios e riscos, por isso, tem que haver uma educação continuada de todos os players que utilizam a ferramenta.
A incorporação da Ética dos Algoritmos no Marco de Consenso da Colaboração Multissetorial na Área da Saúde – um acordo setorial proposto pelo Instituto Ética Saúde e firmado por mais de 35 entidades no Brasil, com o objetivo de construir confiança e promover a colaboração em questões éticas – foi tema de um evento promovido pelo IES, no dia 30 de outubro.
Participaram a diretora Adjunta de Desenvolvimento Setorial da Agência Nacional de Saúde Suplementar (ANS), Angélica Carvalho; a desembargadora aposentada do Estado de São Paulo e membro honorário do Instituto Ética Saúde, Christine Santini; o diretor Executivo da Ethicist International (EUA), Andrew Blasi; o presidente da Associação Latino-Americana de Sistemas Privados de Saúde (ALAMI), Cristian Mazza; e os diretores Executivo e de Relações Institucionais do IES, Filipe Venturini Signorelli e Carlos Eduardo Gouvêa.
Em 2023, o Vaticano chamou atenção sobre o tema ‘Ética dos Algoritmos’ para garantir que o uso da Inteligência Artificial seja de fato para o bem da humanidade, e, em novembro, vai promover o VIII Seminário de Ética no Gerenciamento da Saúde, na Itália. No Brasil, o movimento é liderado pelo Instituto Ética Saúde e pela Agência Nacional de Saúde Suplementar (ANS).
Filipe Venturini destacou que a regulação, a autorregulação, o poder judiciário e outras instituições, como a ANS, têm papéis fundamentais nesse processo. “A ética precisa ser o centro dessas discussões, para evitar abusos e garantir que a tecnologia seja usada para o bem comum, preservando a equidade e a justiça. O diálogo deve ser contínuo e colaborativo, envolvendo diferentes partes interessadas para garantir que a transparência prevaleça”, afirmou. Carlos Eduardo Gouvêa complementou: “O Instituto Ética Saúde tem um papel central nesse diálogo, especialmente ao buscar estabelecer um equilíbrio entre inovação tecnológica e a preservação de valores essenciais, como a integridade e a sustentabilidade do sistema de saúde”.
O diretor Executivo da Ethicist International ressaltou que o Brasil se tornou o primeiro país do mundo fora das economias da Cooperação Econômica Ásia-Pacífico (APEC) a lançar um marco de consenso e parabenizou o IES pela iniciativa. “O país agora serve de exemplo para outras nações”. Segundo ele, o movimento atual da maioria dos 52 países que adotaram marcos de consenso no planeta, é olhar com atenção para a ética em dados de inteligência artificial.
Para o presidente da ALAMI, é fundamental que o impacto da IA e da bioética seja debatido desde a formação, para que os profissionais da saúde não apenas utilizem as tecnologias de forma eficiente, mas também com uma consciência de responsabilidade sólida. Cristian Mazza defendeu a colaboração internacional para enfrentar esses desafios de forma coletiva e coordenada. “O futuro da saúde depende da união de forças entre os diferentes poderes e setores, sempre com a ética como norte”, disse.
Christine Santini apresentou os benefícios – antecipar diagnósticos, auxiliar tratamentos, desde o clínico até o cirúrgico, melhorar a logística e a pesquisa na saúde – e riscos da Inteligência Artificial (“IA”), entre eles uma possível acomodação e falta de senso crítico dos profissionais. E sugeriu que “esses sistemas de inteligência artificial não forneçam a solução de uma forma pragmática, mas também indique quais os dados que foram utilizados para alcançar aquela solução. E sempre deixando perguntas, espaços abertos, para que o profissional coloque outras informações que ele considera importantes, como documento da anamnésia. Com isso, o desbloqueio da solução ficaria sempre condicionado ao input do ser humano”. Para a desembargadora aposentada, “algoritmo e marco de consenso são duas coisas que terão que andar de mãos dadas. Existe uma necessidade de conscientização das organizações de que tem que haver um equilíbrio entre os três pilares que as sustentam: econômico, ambiental e principal, que é o social, com educação continuada de todos os players”, completou.
Do ponto de vista da ANS, foram colocados os princípios-chaves da algorética: transparência, justiça e responsabilidade. “Precisa ficar clara essa responsabilidade por erro ou dano. Mas também a necessidade de melhoria e correção. Uma vez identificado algum risco, é fundamental ser corrigido, dentro da regra que regulamenta a inteligência. Para isso, é preciso ter mecanismos de controle e monitoramento das ferramentas, certificação de qualificação e de qualidade”, salientou Angélica Carvalho. A diretora da ANS fez questão de citar a importância do Marco de Consenso nesse processo. “Esse projeto vai dialogar com essa confiança e respeito entre as organizações atuantes no setor, para promover a concorrência ética, com os preços justos e a otimização de recursos existentes. A Agência apoia essa autorregulação e deseja que todos possam estar aderentes e participando conosco, em prol de um uso responsável das tecnologias e em benefício de ampliar o acesso, promoção de uma saúde de qualidade e garantir que a gente possa ter, cada vez mais, um sistema de saúde brasileiro fortalecido”.
Carlos Eduardo Gouvêa, ao reconhecer que o uso de ferramentas de inteligência artificial, embora seja inovador e possibilite a melhoria de processos, apresenta limitações, vieses e riscos que podem gerar erros nos resultados, apresentou os itens relacionados à ética dos algoritmos que serão incluídos no Marco de Consenso da Colaboração Multissetorial na Área da Saúde: “como a promoção de programas de educação e treinamento, bem como de mecanismos de boas práticas para a garantia da confidencialidade dos dados, do cumprimento do dever de revelação do uso às partes interessadas e do princípio da não delegação do processo decisório, para que se possa ter a responsabilização dos profissionais e organizações que fizerem uso dessas ferramentas”, finalizou.
Gouvêa indicou que este evento foi o primeiro de uma série de debates que ocorrerão por ocasião da FISWeek no Rio de Janeiro, de 6 a 8 de novembro, e às
margens da reunião da Organização de Cooperação e Desenvolvimento Econômico (OCDE), em São Paulo, no dia 3 de dezembro.
Com informações do Instituto Ética e Saúde – 04.11.2024
