Especialistas defendem que soluções sejam reguladas para que informações não sejam compartilhadas
Por Marina Lang — Para o Valor, de São Paulo
31/05/2023 05h04 Atualizado há 4 horas
Quando Sam Altman, CEO da OpenAI, empresa responsável pelo ChatGPT, se manifestou em um subcomitê do Senado dos Estados Unidos em maio, destoou dos confrontos que costumam ocorrer entre líderes de empresas de tecnologia e políticos do país. A reivindicação principal da audiência – regulamentação agressiva para ferramentas generativas de inteligência artificial (IA) – ganhou um retumbante endosso do executivo. “A intervenção regulatória dos governos será fundamental para mitigar os riscos de modelos cada vez mais poderosos”, destacou.
O consenso ocorre em meio a uma corrida por ferramentas de IA nas empresas de saúde dos EUA. Elas já são vistas em chatbots de atendimento médico, sinistros de planos de seguros e até na transcrição automática de consultas. Os resultados, contudo, vêm suscitando questões sobre a ética embutida nessas aplicações. A Organização Mundial de Saúde (OMS) emitiu nota pedindo cautela no uso.
O poder dos chamados grandes modelos de linguagem seduz, porque profissionais de saúde atuam com uma quantidade avassaladora de dados a partir de testes, exames e prontuários. A cópia escrita da consulta via captura de áudio já está sendo fornecida pela Nuance Communications, subsidiária da Microsoft, a redes de saúde americanas. O principal entrave é o compartilhamento de dados confidenciais do paciente com as empresas de tecnologia, o que viola o princípio mais antigo da medicina: o sigilo do Juramento de Hipócrates.
“O médico perde, praticamente, 75% da consulta tomando notas do que está acontecendo com o paciente. A IA transforma em texto estruturado dentro do próprio prontuário, colocando os dados de uma cirurgia, por exemplo, no campo de cirurgias pregressas”, explica Gustavo Meirelles, médico radiologista e cofundador da startup DATALife, especializada em IA e que pretende adotar a generativa ainda neste ano. A companhia desenvolveu uma ferramenta que anonimiza dados dos clientes. Meirelles defende a regulação do uso dessas ferramentas.
O diretor de inovação da Rede D’Or, Fabio Andrade, diz ser reticente na implementação da IA generativa em seus hospitais. “Não acho que seja o Santo Graal da medicina. Pode ser uma ferramenta auxiliar, mas uma possível barreira é a Lei Geral de Proteção de Dados, que seguimos à risca. Não posso colocar informação gerada no Brasil, um dado médico, em um servidor de fora do país. Não está claro, com base no ChatGPT e outros, de quem é aquele dado”, argumenta.
O complexo hospitalar tem um centro de inovação e adota três soluções de AI em atendimentos: um algoritmo que usa mais de 200 variáveis para identificar faltas em consultas e realocar outros pacientes, com cerca de 84% de precisão; um sistema que melhora a identificação de casos a serem acompanhados a partir de mamografias; e a detecção de doenças como hipertensão e diabetes a partir de uma fotografia do fundo do olho.
É no Sistema Único de Saúde (SUS) que se baseia a IA generativa do Hospital de Amor, em Barretos (SP), referência no tratamento de câncer. Em meio a 9.000 consultas, 300 tomografias e cerca de 35 cirurgias por dia, o prontuário eletrônico melhorou o atendimento. “Conseguimos treinar a IA com algoritmos para ler a linguagem natural escrita pelo médico. Ela pega as palavras-chave e identifica sintomas de pacientes que poderiam passar despercebidos pelos olhos humanos. Houve melhoria em 140% da captação de pacientes para aplicação de medicamentos contra o câncer com o uso da IA”, diz Luis Romagnolo, médico e diretor de inovação do hospital.
Os dados dos pacientes são criptografados e zelados pela equipe de tecnologia do hospital, que mantém uma incubadora de startups de saúde. Uma delas desenvolve uma solução de gravação sonora da consulta, de forma que o áudio seja transcrito diretamente no computador do médico. Para Romagnolo, a IA não substituirá o atendimento, mas vai ajudar na resolução de casos e na minimização de erros.
Para Meredith Whittaker, presidente do aplicativo de mensagens Signal ,que fez fortes críticas à AI generativa no Web Summit Rio, há poucos lugares em que verdade e precisão são tão importantes quanto na medicina. Ela alerta para a concentração de poder – a IA é desenvolvida por grandes empresas de tecnologia – e a possível transferência de dados médicos para big techs, que já detêm informações sobre bilhões de pessoas. “Não estou interessada em pequenas barreiras de proteção ética. Os últimos oito anos foram uma lição objetiva de seu fracasso.”
Fonte: Valor Econômico