O termo inteligência artificial (IA) refere-se à realização, por dispositivos computacionais, de processos intelectuais característicos dos seres humanos, como raciocinar, descobrir significados, generalizar ou aprender com experiências ¹. Sua atuação ocorre quando programas computacionais realizam ações para as quais não foram explicitamente progra- mados, podendo ser descrita como o uso desses dispositivos para realizar tarefas que antes exigiam cognição humana ².

A Associação Médica Americana prefere o termo “inteligência aumentada”, em vez de “inteligência artificial”, para enfatizar o papel assistivo dos computadores no aperfeiçoamento das habilidades dos médicos em vez de substituí-los ³. A integração da IA na prática médica aumentou significativamente nos últimos anos, e continua a crescer ². Portanto, a discussão acerca dos princípios éticos e legais nesse campo, incluindo o desenvolvimento de regulamentação específica, é uma preocupação constante e de extrema relevância.

Método

Realizou-se busca na base de dados PubMed por meio dos descritores “bioethics” e “artificial intelligence”, considerando artigos científicos publicados entre 2018 e 2022. A análise incluiu também pareceres das sociedades de referência na área pesquisada. Posteriormente, fez-se comparação crítica com critérios que variavam de acordo com tipo de estudo, discussão do tema e conclusões.

Discussão

Os trabalhos analisados invariavelmente definem o conceito de IA, havendo o entendimento comum de que se trata de uma tecnologia que imita processos intelectuais característicos dos seres humanos, para atingir objetivos sem a programação de uma ação específica ^1-4.

Há um amplo acordo segundo o qual demonstra inteligência qualquer dispositivo que usa razão, elabora estratégias, resolve quebra-cabeças, faz julgamentos sob incerteza, apresenta conhecimento (incluindo senso comum), planeja, aprende, comunica em linguagem natural e integra todas essas habilidades com objetivos comuns ¹.

Atualmente, dentre os exemplos de áreas de atuação da IA estão atividades como compreender a fala humana, competir no mais alto nível em sistemas de jogos estratégicos, dirigir carros autô- nomos, planejar roteamento inteligente em rede de entrega de conteúdo e simulações militares ¹.

Na área médica, Bali e colaboradores ¹ apresentam exemplos como o IBM Watson for Oncology, que prescreveu medicamentos para o tratamento de pacientes com câncer com eficiência igual ou superior à de especialistas humanos. Além disso, o projeto Hanover, desenvolvido pela Microsoft no Oregon, Estados unidos, analisou pesquisas médicas para possibilitar o tratamento personalizado de câncer.

Ainda, o Serviço Nacional de Saúde do Reino Unido (NHS) usa a plataforma DeepMind, do Google, para detectar riscos à saúde analisando dados de aplicativos móveis e imagens médicas recolhidas de pacientes. Outro exemplo é o algoritmo de radiologia de Stanford, que detectou pneumonia melhor do que radiologistas humanos, enquanto na retinopatia diabética foi equivalente aos oftalmologistas especialistas na tomada de decisão de encaminhamento ¹.

Vearrier e colaboradores ² concordam que a IA demonstrou benefício potencial substancial para médicos e pacientes, transformando a relação terapêutica da díade médico-paciente tradicional em uma relação triádica médico-paciente-máquina. Ponderam, entretanto, que novas tecnologias de IA exigem verificação cuidadosa, padrões legais, salvaguardas do paciente e educação do provedor, devendo os médicos reconhecer os limites e riscos da IA, bem como seus benefícios potenciais.

Com tantos algoritmos de IA em uso e em desenvolvimento, em todas as áreas e especialmente na área médica, a discussão de aspectos éticos e legais, incluindo a regulamentação, é uma preocupação crescente. No passado, essas mudanças regulatórias eram baseadas em conceitos filosóficos e na necessidade de responder às demandas socioculturais. Atualmente, o desafio é integrar uma série de tecnologias disruptivas, como a IA.

Embora proporcione inúmeras vantagens, por acarretar uma realidade emergente e de resultados imprevisíveis, que não estão isentos de riscos, esse campo gera incerteza e precaução, que exige regulação bioética ⁴. Sánchez López e colaboradores ⁴ propõem três princípios básicos para regular as partes interessadas: 1) respeito pela investigação, 2) justiça e 3) transparência.

Apesar de sua promessa de resultados, os algoritmos de IA estão sob investigação por desempenho inconsistente, particularmente em comunidades minoritárias, o que pode levar a decisões clínicas inferiores ao ideal e a resultados adversos ao paciente. Até o momento, essas preocupações se concentraram na negligência médica e apontam a responsabilidade do médico pelo uso de IA como inextricavelmente ligada à desses outros atores ⁵.

Maliha e colaboradores ⁵, ao estudarem a fundo a labilidade desse assunto, ponderam que a alocação de responsabilidade determina se os pacientes obtêm compensação, e de quem. Além disso, estendem a avaliação, questionando se algoritmos potencialmente úteis serão colocados em prática, visto que aumentar a responsabilidade pelo uso ou desenvolvimento de algoritmos pode desincentivar desenvolvedores e líderes de sistemas de saúde de introduzi-los na prática clínica. Destacam que o ecossistema maior de responsabilidade de IA e seu papel na garantia de execução segura e inovação no atendimento clínico devem ser detalhadamente examinados.

Sher, Sharp e Wright ⁶, em editorial, são otimistas quanto às perspectivas que a IA reserva para os cuidados de saúde no futuro e ponderam a importância de compreender pontos fortes, limitações, oportunidades, desafios éticos e riscos. Igualmente importante é a necessidade de se familiarizar com as ferramentas elencadas para analisar criticamente aplicações de IA aos cuidados de saúde, a fim de diferenciar melhorias concretas de enganos.

Lazarus e colaboradores ⁷ expandem a análise de limitações da IA para o ensino em saúde, especificamente de anatomia, descrevendo tensões entre promessas e perigos de integrar essa tecnologia a esse âmbito. Por fim, os autores fornecem recomendações práticas para uma abordagem ponderada ao trabalhar em conjunto com a IA, que servem como estrutura orientadora com objetivo de desenvolver uma abordagem mais sutil e equilibrada para o papel da IA na educação em saúde.

Os aspectos científicos e éticos dessa questão justificaram a realização de uma reunião para discutir o assunto, em março de 2017, em Barcelona, da qual participaram diferentes especialistas europeus em IA, computação e comunicação, entre outras áreas. O debate deu origem à Declaração de Barcelona para o Desenvolvimento e Uso Adequado da Inteligência Artificial na Europa⁸, que contém os seguintes princípios e valores: prudência, confia- bilidade, responsabilidade, autonomia restrita e papel humano, detalhados a seguir.

• Prudência: o salto à frente nessa área foi causado pelo amadurecimento das tecnologias de IA, aumento do poder computacional e da capacidade de armazenamento de dados, disponibilidade de plataformas de entrega na internet e maior disposição de muitos atores econômicos para experimentar a tecnologia por conta própria;

• Confiabilidade: todos os sistemas artificiais usados na sociedade precisam passar por testes para determinar sua confiabilidade e segurança;

• Accountability: quando um sistema de IA toma uma decisão, pessoas afetadas por essas decisões devem ser capazes de obter uma explicação, porque a decisão é tomada em termos que elas possam entender, e deve ser possível contestar a decisão com argumentos fundamentados;

• Responsabilidade: há uma preocupação crescente com os chatbots de IA e outros tipos de sistemas de mensagens automáticas que operam na internet e nas mídias sociais e são projetados para a manipulação de opinião política, desinformação pela propagação de fatos falsos, extorsão ou outras formas de atividade maliciosa, que são perigosas para os indivíduos e desestabilizam a sociedade;

• Autonomia restrita: os sistemas de IA não têm apenas a capacidade de tomar decisões. Quando estão incorporados a sistemas físicos, como carros autônomos, eles têm o potencial de agir de acordo com suas decisões no mundo real, o que levanta questões sobre segurança e a possibilidade de a IA autônoma superar a inteligência humana em algum momento; e

• Papel humano: o entusiasmo inegável de hoje pela IA às vezes causa a impressão de que a inteligência humana não será mais necessária, fato que levou algumas empresas a demitir funcionários e substituí-los por sistemas de IA. Esse é um erro grave, já que todos os sistemas de IA dependem criticamente da inteligência humana.

Tai ⁹ relembra que, apesar de todas as promessas positivas que a IA oferece, os especialistas humanos ainda são essenciais e necessários para projetar, programar e operar a IA a fim de evitar qualquer erro imprevisível. Nesse sentido, cita Beth Kindig, analista de tecnologia de São Francisco com mais de uma década de experiência em empresas de tecnologia públicas e privadas.

Kindig publicou um boletim informativo gratuito indicando que, embora a IA apresente uma promessa potencial para um melhor diagnóstico médico, especialistas humanos ainda são necessários para resolver impasses e mitigar erros. Assim, a vigilância da função da IA, exercida pelo profissional conhecido como médico no circuito, não pode ser negligenciada ⁹.

Considerações finais

Como todas as tecnologias emergentes, IA e robótica exigem implementação prévia de normas éticas de funcionamento que garantam segurança e aplicabilidade num campo tão sensível como o da saúde ⁴. Sistemas de IA têm potencial para transformar radicalmente o atendimento clínico e, ainda que caminhe em ritmo mais lento, o ordenamento jurídico não pode ficar estático em relação a essa inovação.

Para alcançar plenamente os benefícios da IA, o sistema jurídico deve equilibrar a responsabilidade para promover inovação, segurança e adoção acelerada desses algoritmos ⁵. O estado relativamente instável da IA e sua potencial responsabilidade oferecem oportunidade para desenvolver um novo modelo, que acomode o progresso médico e instrua as partes interessadas sobre a melhor forma de responder a essa inovação disruptiva.

Referências

Bali J, Garg R, Bali TR. Artificial intelligence (AI) in healthcare and biomedical research: why a strong computational/AI bioethics framework is required? What is artificial intelligence? Indian J Ophthalmol [Internet]. 2018 [acesso 29 nov 2023];67(1):9-12. DOI: 10.4103/ijo.IJO_1292_18

Vearrier L, Derse AR, Basford JB, Larkin GL, Moskop JC. Artificial Intelligence in emergency medicine: benefits, risks, and recommendations. J Emerg Med [Internet]. 2022 [acesso 29 nov 2023];62(4):492-9. DOI: 10.1016/j.jemermed.2022.01.001

Crigger E, Khoury C. Making policy on augmented intelligence in health care. AMA J Ethics [Internet]. 2019 [acesso 29 nov 2023];21(2):E188-91. DOI: 10.1001/amajethics.2019.188.

Sánchez López JD, Cambil Martín J, Villegas Calvo M, Luque Martínez F. Artificial intelligence and robothics: reflections about the need of a new bioethics framework implementation. J Healthc Qual Res [Internet]. 2021 [acesso 29 nov 2023];36(2):113-4. DOI: 10.1016/j.jhqr.2019.07.009

Maliha G, Gerke S, Cohen IG, Parikh RB. Artificial intelligence and liability in medicine: balancing safety and innovation. Milbank Q [Internet]. 2021 [acesso 29 nov 2023];99(3):629-47. DOI: 10.1111/1468-0009.12504

Sher T, Sharp R, Wright RS. Algorithms and bioethics. Mayo Clin Proc [Internet]. 2020 [acesso 29 nov 2023];95(5):843-4. DOI: 10.1016/j.mayocp.2020.03.020

Lazarus MD, Truong M, Douglas P, Selwyn N. Artificial intelligence and clinical anatomical education: promises and perils. Anat Sci Educ [Internet]. 2022 [acesso 29 nov 2023]. DOI: 10.1002/ase.2221

Barcelona Declaration for the Proper Development and Usage of Artificial Intelligence in Europe. [Propõe diretrizes para um "código de conduta" dos profissionais de IA atualmente em discussão]. Biocat [Internet]. 2017 [acesso 29 nov 2023]. Disponível: https://bit.ly/3w6SYCv

Tai MCT. The impact of artificial intelligence on human society and bioethics. Tzu Chi Med J [Internet]. 2020 [acesso 29 nov 2023];32(4):339-43. DOI: 10.4103/tcmj.tcmj_71_20

Autor notes

Correspondência Rua Conselheiro Brotero, 1486, Santa Cecília CEP 01232-010. São Paulo/SP, Brasil.

Declaração de interesses