A IA e os seus algoritmos de aprendizagem automática (ML) oferecem uma nova promessa para a biomedicina personalizada e cuidados de saúde mais econômicos, com capacidade técnica impressionante para imitar as faculdades cognitivas humanas ⁹. A IA pode ajudar no diagnóstico de doenças, descoberta de novos medicamentos, epidemiologia, atendimento individual e eficiência operacional em unidades médicas e hospitalares ²³.

As publicações incluídas apontam diferentes tipos de IA em campos diversos na saúde. Quanto ao uso de IA na cirurgia robótica, O’Sullivan e colaboradores ¹⁰ afirmam que o desenvolvimento bem-sucedido de robôs cirúrgicos autônomos confiáveis e de última geração é um desafio, e buscar aceitação e aprovação para seu uso é uma questão multifacetada. Para os autores, uma preocupação mais óbvia diz respeito às consequências que envolvem morte ou incapacidade do paciente resultante diretamente de um erro cirúrgico.

Morris e colaboradores ¹¹ acrescentam que a transparência e responsabilidade são fundamentais para a implementação da IA na tomada de decisões cirúrgicas e na cirurgia robótica. Os autores salientam que é indiscutível a influência da tecnologia aplicada à cirurgia, porém é necessário discutir padrões éticos, políticas regulatórias e forças financeiras para maximizar seu potencial.

Outro tipo de IA que vêm sendo inserido no cotidiano das pessoas é o ChatGPT (OpenAI), modelo de linguagem ampla e chatbot de IA. Wang e colaboradores ¹³ afirmam que sua notável capacidade de acessar e analisar grandes quantidades de informações permite gerar, categorizar e resumir textos com alta coerência.

O aprendizado de máquina (ML) é um ramo da IA em que há construção de algoritmos compu- tacionais a partir do aprendizado de dados ²⁴. Avanços recentes em algoritmos de software de ML e disponibilidade de poderosos recursos de hardware de computação resultaram em expressiva expansão na aplicação potencial de IA/ML em várias áreas da medicina. Apesar do entusiasmo e desses potenciais antecipados, a aplicação de IA/ML na prática clínica diária permanece escassa, o que pode ser atribuído a desafios técnicos, como a integração no fluxo de trabalho clínico ⁹.

Naik e colaboradores ²³ apresentam uma rede neural artificial (RNA) como estrutura conceitual para o desenvolvimento de algoritmos de IA. É um modelo de cérebro humano composto por uma rede interconectada de neurônios ligados por canais de comunicação ponderados. A IA usa vários algoritmos para encontrar correlações não lineares complexas em conjuntos de dados massivos.

A aprendizagem profunda (deep learning – DL) é um tipo de IA que permite que um algoritmo classifique e agrupe dados de forma independente. Em vez de serem explicitamente programados para prestar atenção a atributos ou variáveis específicas, esses algoritmos têm a capacidade de desenvolver, com a exposição aos dados, o reconhecimento de padrões ¹⁵.

Apesar de essas tecnologias serem promissoras, sua aplicação generalizada tem sido limitada no domínio médico, e as expectativas têm sido alteradas por desafios éticos e preocupações relativas à privacidade do paciente, responsabilidade legal, fiabilidade e justiça.

De acordo com Morris e colaboradores ¹¹, o uso de IA deve ser baseado nos princípios éticos e desafios envolvidos na relação médico-paciente, nos sistemas de saúde e nas comunidades locais. Nesse sentido, Drabiak e colaboradores ⁹ afirmam que, à medida que se torna cada vez mais proeminente nos cuidados de saúde, a IA/ML levanta uma infinidade de preocupações sobre o seu impacto na forma como os médicos praticam a medicina.

Os problemas relacionados a vieses da automação e da desqualificação estão na vanguarda dessas preocupações. O viés de automação ocorre quando os médicos confiam demais na IA/ML e diminuem seus esforços pessoais para verificar os resultados da máquina, criando riscos à segurança do paciente ⁹. Outra questão sobre as ferramentas atuais de ML na saúde refere-se a casos em que os algoritmos aconselham decisões cirúrgicas em tempo real na sala de cirurgia, de forma que surgem dúvidas sobre se a responsabilidade cabe ao cirurgião ou ao desenvolvedor da ferramenta de ML ¹¹.

De fato, conforme dados encontrados em análise bibliométrica, os principais aspectos observados na literatura acerca da ética em IA são aqueles geralmente identificados em sistemas baseados em IA, com a segurança assumindo uma relevância proeminente. Dois principais setores de aplicação aparecem principalmente associados à ética na IA: condução médica e autônoma (incluindo robótica). Recomenda-se, como atitude moderada, a adoção de mecanismos tradicionais para aprimorar aspectos éticos e jurídicos na engenharia de Cyber Physical Systems, como: auditoria, rotulagem voluntária, certificação por organizações de normalização, licenciamento responsável de IA e auditoria de terceiros ²⁵.

Morley e colaboradores ¹⁵ apontam que o desafio legal de alocação de responsabilidade em casos de erro médico é um exemplo de problema frequente. Dessa forma, a discussão legislativa e regulatória depende diretamente da compreensão das questões de cada etapa de implementação de IA – por exemplo, coleta de dados, treinamento, implantação – e de como esses riscos e os encargos serão distribuídos pela sociedade.

A capacidade de rastrear a culpa até o fabricante é alegadamente ameaçada por máquinas que podem operar segundo regras não fixas e a capacidade de aprender novos padrões de comportamento. Essa dificuldade é motivo de alarme, pois ameaça tanto o quadro moral da sociedade como o fundamento da ideia de responsabilidade na lei. Assim, o uso da IA pode fazer com que não haja ninguém para ser responsabilizado por qualquer tipo de dano causado ¹⁰.

A justiça é uma preocupação fundamental de equidade e igualdade, e constitui outra questão que envolve ética no uso da IA. Stewart, Wong e Sung ¹⁶ destacam o risco de dados não representativos que consolidam e agravam as disparidades na saúde, subestimando ou superestimando riscos em certos pacientes e populações. A redução do preconceito na IA é, portanto, necessária para promover resultados de saúde melhores e mais equitativos.

Os sistemas de IA/ML exigem um grande volume de dados para treinamento e validação, e a propriedade e o consentimento para a utilização desses dados, bem como a sua proteção, são questões críticas. De acordo com Stewart, Wong e Sung ¹⁶, o uso de IA e de informações confidenciais deve sempre ser baseado no consentimento ou em alternativas legalmente justificadas, que exigem que os direitos das pessoas sejam considerados e protegidos contra danos relacionados à privacidade, tais como dano à reputação e exposição ao ridículo ou ódio.

Considerando que a IA está sendo introduzida exponencialmente na área da saúde, Carter e colaboradores concluem que não existe nenhum regulador claro, nenhum processo de julgamento claro e nenhum rastro de responsabilização claro sobre o assunto ¹⁴. Os autores encaram essa situação como um vazio regulamentar, ou seja, praticamente nenhum tribunal desenvolveu normas que abordem especificamente quem deve ser responsabilizado legalmente se uma IA causar danos.

Apesar disso, existe um debate constante sobre se a IA se enquadra nas categorias jurídicas existentes ou se uma nova categoria com as suas características e implicações especiais deve ser desenvolvida²³. A limitação da transparência algorítmica é uma preocupação que tem dominado a maioria das discussões jurídicas sobre IA.

Além do que concerne aos aspectos legais gerais do uso da IA, é importante salientar que há também necessidade de controle do uso de dados pessoais, inclusive no que diz respeito à área da saúde, principalmente com o uso de ML. Nesse tipo de IA, uma representação de dados adequada fornece um desempenho melhor ²⁶. A DL, por sua vez, concentra-se na criação de modelos de redes neurais capazes de tomar decisões baseadas em dados, sendo particularmente adequada a um contexto em que exista um grande conjunto de dados disponíveis ²⁷.

No cenário brasileiro, como referem Dourado e Aith ²⁸, foi promulgada a Lei 13.709/2018, instituindo a explicação e a revisão de decisões automatizadas no ordenamento jurídico. Com isso, busca-se garantir segurança e proteção dos dados e os direitos fundamentais de liberdade e de privacidade, assim como a livre formação da personalidade individual. Da mesma forma, outras nações e entidades supranacionais criaram legislação específica para essa questão.

No caso da União Europeia, Goddard ²⁹ aponta que se instituiu o Regulamento Geral de Proteção de Dados (GDPR), o qual se aplica a todos os Estados-membros do bloco, abrangendo todos os residentes, independentemente do local de processamento dos dados. Esse regulamento tem como princípios gerais: justiça e legalidade, limitação de finalidade, minimização de dados, precisão, limitação de armazenamento e integridade e confidencialidade.

No caso dos países da Ásia, a Coréia do Sul já tem leis e regulamentos quanto à privacidade de dados há duas décadas, entretanto teve maior atenção legislativa com a Lei de Proteção de Informações Pessoais, que impulsionou questões relativas à privacidade de dados ³⁰. A estrutura dessa lei é, de maneira geral, semelhante ao GDPR, da União Europeia ³¹.

Na Oceania, pode-se comentar o caso da Austrália, cujos princípios de privacidade são baseados nas Diretrizes da Organização para a Cooperação e Desenvolvimento Econômico para a Proteção da Privacidade e dos Fluxos Transfronteiriços de Dados Pessoais, porém não há uma lei específica para a privacidade no país ³². No continente africano, por sua vez, há variação entre os países, de modo que alguns oferecem pouca ou nenhuma política de proteção, enquanto outros apresentam extensos quadros de governança digital ³³.

No que concerne ao continente americano, os Estados Unidos seguem uma abordagem setorial da proteção e privacidade de dados, não havendo legislação abrangente nesse aspecto, mas uma legislação que protege dentro de contextos específicos, como nos setores da saúde, educação, comunicações e outros ³⁴.

Diante do desenvolvimento da IA e do surgimento da preocupação dos países com essa nova tecnologia e suas possíveis vantagens e consequências, em 2020 o Brasil definiu como prioridade a área de IA, no que se diz respeito a inovações, projetos de pesquisa e desenvolvimento de tecnologias ³⁵.

Nesse contexto, visando guiar as ações do Estado brasileiro no desenvolvimento e estimulação de pesquisa, inovação, soluções, ações e o uso consciente e ético da IA, foi criada a Estratégia Brasileira de Inteligência Artificial (Ebia), que tem por objetivo potencializar o desenvolvimento e a utilização da tecnologia com vistas a promover o avanço científico e solucionar problemas concretos do país, identificando áreas prioritárias nas quais há maior potencial de obtenção de benefícios³⁶.

O documento se fundamenta em nove eixos temáticos ³⁵:

• Quatro eixos transversais, que se referem a legislação, regulação e ética; governança de IA; e aspectos internacionais; e

• Cinco eixos verticais, constituídos por educação; força de trabalho e capacitação; PD&I (projetos de pesquisa, desenvolvimento e inovação) e empreendedorismo; aplicação nos setores produtivos; aplicação no setor público; e segurança pública.

A estratégia se fundamenta em cinco princípios definidos pela Organização para a Cooperação e Desenvolvimento Econômico (OCDE), cujas diretrizes são asseguradas pelo Brasil, visando a gestão responsável dos sistemas de IA ³⁵:

• Crescimento inclusivo, desenvolvimento sustentável e bem-estar;

• Valores centrados no ser humano e na equidade;

• Transparência e explicabilidade;

• Robustez, segurança e proteção; e

• Responsabilização ou prestação de contas (accountability).

Além disso, o documento afirma que, dependendo da aplicação de IA e dos riscos associados, a ideia de accountability impõe a necessidade de estabelecer estruturas de governança em IA. Com isso, busca-se assegurar a adoção de princípios para uma IA confiável e para a implementação de mecanismos para sua observância, que são, segundo o próprio documento ³⁵:

• Designação de indivíduos ou grupos específicos dentro de uma organização para promover a conformidade com os princípios;

• Adoção de medidas para aumentar a conscientização interna sobre a necessidade dessa conformidade, inclusive por meio de orientações e treinamentos; e

• Implementação de um processo de escalação por meio do qual os funcionários possam levantar preocupações de conformidade e resolver essas preocupações.

Além disso, há um desafio em estruturar um ecossistema de governança do uso de IA, tanto no setor público quanto no privado. Para lidar com isso, a Ebia menciona as seguintes ações estratégicas ³⁵:

• Estruturar ecossistemas de governança do uso da IA, no setor público e no setor privado;

• Incentivar o compartilhamento de dados, observado na Lei Geral de Proteção de Dados Pessoais (LGPD);

• Promover o desenvolvimento de padrões voluntários e consensuais para gerenciar riscos associados aos aplicativos de IA;

• Estimular que as organizações criem conselhos de revisão de dados ou comitês de ética em relação à IA;

• Criar um observatório de IA no Brasil que possa se conectar a outros observatórios internacionais;

• Estimular o uso de conjuntos de dados representativos para treinar e testar modelos;

• Facilitar o acesso aos dados abertos do governo;

• Melhorar a qualidade dos dados disponíveis, de modo a facilitar a detecção e correção de vieses algorítmicos;

• Estimular a divulgação de códigos-fontes abertos capazes de verificar tendências discriminatórias nos conjuntos de dados e nos modelos de ML;

• Desenvolver diretrizes para a elaboração de relatórios de impacto de proteção de dados (RIPD);

• Compartilhar os benefícios do desenvolvimento de IA na maior extensão possível e promover oportunidades iguais de desenvolvimento para diferentes regiões e indústrias;

• Elaborar campanhas educacionais e de conscientização;

• Estimular diálogo social com participação multissetorial;

• Alavancar e incentivar práticas de accountability relacionadas à IA nas organizações; e

• Definir indicadores gerais e específicos por setores (agropecuária, financeiro, saúde etc.).

Em 2021, a Organização Mundial da Saúde (OMS) ³⁷ publicou uma orientação estabelecendo os seis princípios fundamentais para promover o uso ético da IA para a saúde: 1) proteger a autonomia; 2) promover o bem-estar humano, a segurança humana e o interesse público; 3) garantir transparência, explicabilidade e inteligibilidade; 4) promover a responsabilidade; 5) garantir a inclusão e a equidade; e 6) promover uma IA que seja ágil e sustentável.

Para implementar esses princípios e obrigações, todas as partes interessadas, seja designers e programadores, provedores e pacientes, seja ministérios da saúde e de tecnologia da informação, devem trabalhar em conjunto para integrar normas éticas em todas as fases do desenvolvimento de tecnologia (design, desenvolvimento e implantação) ³⁸.

Correspondência: Sabrina Maciel Nascimento – Rua Juazeirinho, 21, Novo Aleixo CEP 69098-194. Manaus/AM, Brasil.