Inteligência artificial pode aumentar desigualdades em saúde

É possível que a inteligência artificial seja aplicada no campo da saúde para garantir a igualdade de direitos? Apesar dos benefícios que a tecnologia pode trazer, com grande potencial para expandir o conhecimento e a capacidade de cura, alguns estudos têm demonstrado que a inteligência artificial pode, na verdade, atuar como um sistema amplificador de políticas injustas. Em aula ministrada, na quinta-feira, 29 de abril, para os alunos do Programa de Pós-graduação em Políticas Públicas em Saúde da Escola de Governo Fiocruz Brasília, o coordenador do Nethis, José Paranaguá de Santana, e o consultor sênior do Núcleo de Estudos Felix Rígoli discutiram os desafios éticos do uso da inteligência artificial frente as desigualdades em saúde.

Um exemplo é a criação de algoritmos destinados à prescrição de remédios contra a dor. Os algoritmos podem ser entendidos como um conjunto de dados para que um programa de computador realize determinada tarefa. Caso esses dados fossem extraídos das estatísticas brasileiras sobre a aplicação de medicamentos para a dor na hora do parto, os algoritmos poderiam aprender que pessoas negras são menos propensas a sentirem dor e, portanto, passariam a prescrever menos remédios para esse conjunto de pessoas. Isso porque as estatísticas apontam que a chance de as mulheres negras, no Brasil, não receberem anestesia durante a episiotomia – incisão efetuada na região do períneo para ampliar o canal de parto – é 40% maior quando comparada às mulheres brancas.

Inteligência artificial orientada ao bem comum

O termo inteligência artificial é utilizado para denominar um grupo de várias tecnologias, entre elas os sistemas de decisão algorítmica, o aprendizado de máquina e o big data – esse último compreendido como um conjunto de soluções tecnológicas elaboradas a partir da análise e interpretação de um grande volume de dados disponíveis na internet.

De acordo com Rígoli, embora existam muitos desafios, essas novas tecnologias podem ser aplicadas ao bem comum e direcionadas para o ideal de uma saúde equitativa e igualitária. Para isso, ele apontou algumas diretrizes:

• Nunca criar barreiras entre as pessoas e os serviços;
• Nunca utilizar dados sem consentimento explícito;
• Integrar sistemas para as necessidades das pessoas, e não apenas para a criação de sistemas novos ou tecnicamente elegantes;
• Não coletar e armazenar informações para fins de segurança, pois essas informações podem ser usadas para objetivos desonestos e prejudiciais;
• Estabelecer políticas e procedimentos para que a inteligência artificial atue ativamente contra a desigualdade, com participação efetiva dos governos em iniciativas regulatórias.

Inteligência artificial e desigualdades em saúde

A partir do próximo semestre, o Nethis iniciará um projeto que irá fomentar discussões sobre a implicação do uso da inteligência artificial no campo da saúde. “Acreditávamos que o progresso técnico seria solução completa para os males da humanidade, mas o que vemos é um abismo cada vez maior entre ricos e pobres”, disse o coordenador do Núcleo de Estudos. Segundo Paranaguá, o propósito desse novo projeto será o de apoiar a sistematização, a formulação e a difusão de estratégias e instrumentos que resguardem a aplicação ética dessas novas tecnologias.