Como os cuidados com a saúde mudam quando os algoritmos começam a fazer diagnósticos

Imagine que, na próxima vez que o senhor for ao médico, ele diga que o senhor tem uma doença com risco de morte. O problema? Um computador fez o diagnóstico, que é complexo demais para os seres humanos entenderem completamente. O que seu médico pode explicar, no entanto, é que o computador quase sempre está certo. Se isso soa como ficção científica, não é. É o que o sistema de saúde pode parecer para médicos, pacientes e órgãos reguladores em todo o mundo, à medida que novos métodos de aprendizado de máquina oferecem mais insights a partir de quantidades cada vez maiores de dados. Algoritmos complexos em breve ajudarão os médicos a fazer determinações incrivelmente precisas sobre nossa saúde a partir de grandes quantidades de informações, com base em correlações amplamente inexplicáveis nesses dados. Esse futuro é alarmante, sem dúvida, devido ao poder que médicos e pacientes começarão a entregar às máquinas. Mas também é um futuro para o qual devemos nos preparar - e abraçar - devido ao impacto que esses novos métodos terão e às vidas que poderemos potencialmente salvar. Veja, por exemplo, um estudo divulgado hoje por um grupo de pesquisadores da Universidade de Chicago, da Universidade de Stanford, da Universidade da Califórnia, de São Francisco, e do Google. O estudo, do qual um de nós é coautor, inseriu dados não identificados de centenas de milhares de pacientes em uma série de algoritmos de aprendizado de máquina alimentados pelos enormes recursos de computação do Google. Com extraordinária precisão, esses algoritmos foram capazes de prever e diagnosticar doenças, desde doenças cardiovasculares até câncer, e prever coisas relacionadas, como a probabilidade de morte, a duração da internação hospitalar e a chance de readmissão hospitalar. Dentro de 24 horas após a hospitalização de um paciente, por exemplo, os algoritmos foram capazes de prever com mais de 90% de precisão as chances de morte do paciente. Essas previsões, no entanto, foram baseadas em padrões nos dados que os pesquisadores não conseguiram explicar totalmente. E esse estudo não é um caso isolado. No ano passado, a mesma equipe do Google utilizou dados de exames oftalmológicos de mais de 125.000 pacientes para criar um algoritmo capaz de detectar retinopatia, a principal causa de cegueira em algumas partes do mundo, com mais de 90% de precisão, no mesmo nível dos oftalmologistas certificados. Mais uma vez, esses resultados tiveram as mesmas limitações; os seres humanos nem sempre conseguiam compreender totalmente por que os modelos tomavam as decisões que tomavam. Muitos outros exemplos desse tipo estão a caminho. Entretanto, algumas pessoas já estão resistindo a esses métodos, pedindo a proibição total do uso de "algoritmos não explicáveis" em áreas de alto impacto, como a saúde. No início deste ano, o ministro de estado da França para o setor digital declarou categoricamente que qualquer algoritmo que não possa ser explicado não deve ser usado. Mas opor-se a esses avanços não é a resposta. Os benefícios de uma abordagem algorítmica para a medicina são simplesmente grandes demais para serem ignorados. A detecção precoce de doenças como câncer de pele ou doenças cardiovasculares pode levar a reduções na morbidade graças a esses métodos. As economias mais pobres, com acesso limitado a médicos treinados, também podem se beneficiar, pois uma série de doenças pode ser detectada e tratada mais cedo. As recomendações de tratamento individualizado também podem ser aprimoradas, o que salvará a vida de alguns e aumentará a qualidade de vida de muitos outros. Isso não significa que os modelos de aprendizado de máquina substituirão os médicos. Em vez disso, o que é provável é uma mudança constante para ceder a responsabilidade por mais tarefas repetitivas e programáveis às máquinas, permitindo que os médicos se concentrem em questões mais diretamente relacionadas ao atendimento ao paciente. Em alguns casos, os médicos podem ter a obrigação legal de usar modelos mais precisos do que a experiência humana, como observaram juristas como A. Michael Froomkin. Isso não tirará os médicos totalmente do circuito, mas criará novas oportunidades e novos perigos à medida que a tecnologia evoluir e se tornar mais poderosa. Como devemos nos preparar para um futuro em que o ônus do diagnóstico recairá cada vez mais sobre os algoritmos? Primeiro, os provedores médicos, as instituições de pesquisa e os governos devem dedicar mais recursos ao campo da "IA explicável", cujo objetivo é ajudar os seres humanos a entender melhor como interagir com decisões algorítmicas complexas e aparentemente indecifráveis. A Defense Advanced Research Projects Agency (DARPA), por exemplo, dedicou um projeto inteiro a essa questão, e uma crescente comunidade de pesquisa surgiu nos últimos anos com esse foco. Essas pesquisas serão fundamentais para que possamos usar esses algoritmos e confiar neles quando o fizermos. Os órgãos reguladores do setor de saúde também precisam explorar novas formas de governar o uso desses métodos. O programa piloto "Pre-cert" da U.S. Food and Drug Administration, que visa encontrar novas maneiras de avaliar tecnologias como o aprendizado de máquina, é um exemplo disso. Os órgãos reguladores também devem se basear nos métodos existentes no setor financeiro, conhecidos como estruturas de gerenciamento de risco de modelo, que foram desenvolvidos em resposta a desafios semelhantes. Como os bancos adotaram métodos complexos de aprendizado de máquina na última década, os órgãos reguladores dos Estados Unidos e da União Europeia implementaram essas estruturas para manter a supervisão. Os governos devem garantir que as enormes quantidades de dados que esses novos métodos exigem não se tornem domínio de apenas algumas empresas, como ocorreu nos mundos de uso intensivo de dados da publicidade on-line e da pontuação de crédito. Os órgãos reguladores do Departamento de Saúde e Serviços Humanos dos EUA que aplicam as regras federais de privacidade sobre dados médicos, juntamente com os legisladores federais e estaduais, devem incentivar o compartilhamento de dados médicos, com a devida supervisão. Por fim, os pacientes devem poder saber quando e por que seus médicos estão confiando em algoritmos para fazer previsões. Quando apropriado, os pacientes devem ter a possibilidade de solicitar explicações médicas mais tradicionais e compreensíveis. Se um algoritmo dá a um paciente 90% de chance de morrer na próxima semana, por exemplo, o paciente deve poder saber mais sobre como o algoritmo foi criado, avaliado quanto à precisão e validado. E ele deve poder visualizar o diagnóstico juntamente com uma determinação mais tradicional, mesmo que esta última tenha menos probabilidade de ser precisa. Há muitos desafios para o uso do aprendizado de máquina na área de saúde. Mas esses desafios são insignificantes em comparação com os benefícios que esses avanços trarão. Vidas podem depender disso.

Como os cuidados com a saúde mudam quando os algoritmos começam a fazer diagnósticos

Resumo.

Partner Center