Um dos principais estudiosos de IA no Brasil, Founder & Chief Strategy Officer (CSO) da Redcore, Cezar Taurion, confirmou presença no Conahp 2023.
O especialistas já foi diretor de Novas Tecnologias Aplicadas e Chief Evangelist na IBM Brasil, foi líder da prática de IT Strategies para a PwC, além de ter conectado diversas startups com o mercado a partir da busca de investidores-anjo e parcerias de inovação corporativa e ser autor de livros sobre Open Source/Software Livre, Grid Computing, Software Embarcado, Cloud Computing, Inovação e Big Data.
Confira a seguir a entrevista que fizemos com Cezar na íntegra:
➜ De que forma a IA está mudando a medicina – ou será que devemos dizer “irá mudar”? Já vivemos uma realidade de Inteligência Artificial?
A IA já é realidade. Primeiro devemos eliminar a espuma que temos hoje, com o entusiasmo com ChatGPT e similares, e olhar a aplicação de IA de forma mais racional. Inteligência Artificial não é novidade, pois conceitualmente surgiu com um paper de Alan Turing, em 1936, e o próprio termo “Inteligência Artificial” foi cunhado em 1955. Mas sua evolução foi acelerada em torno de 2015 com o desenvolvimento dos métodos de Deep Learning (DL). DL mudou o patamar da aplicabilidade da IA, tornando possível aplicações que existiam apenas no campo da ficção científica.
Entretanto, a IA ainda está na sua infância. Provavelmente podemos considerar o status de IA como a internet 20 anos atrás. Em saúde, a aplicação de IA está começando e seu potencial, apesar das limitações atuais, é imenso. O setor de saúde apesenta muitos desafios e é bem problemático e altamente regulado. É um setor em que os seus atores vivem em conflito e o sistema como um todo não funciona de forma eficiente.
A IA, quando aplicada de forma correta pode ajudar a criar uma medicina mais eficiente, tirando do médico o trabalho robotizado que ele muitas vezes é obrigado a fazer. Ela pode ajudar em muito a melhorar a prática médica. Não é a substituição do médico por robôs, mas da possibilidade de tirarmos os robôs de dentro dos médicos. É uma complementação da prática médica. Com menos atividades robóticas, ela passará a ter condições de estreitar relações mais humanas e empáticas com seus pacientes.
Nós já usamos IA em muitas atividades do nosso dia a dia. Recomendações de filmes e músicas, buscas no Google, reconhecer colegas em fotos no Facebook e assim por diante. Devemos usar com mais intensidade a IA para as coisas que realmente importam, como nossa saúde.
A medicina caminha na direção de ser personalizada, focada na saúde e não na doença, com interação contínua e não esporádica entre médicos e pacientes e, principalmente, em uma relação empática e humana entre pessoas, estejam elas com jalecos ou em bermudas. A IA pode e provavelmente vai se tornar o novo estetoscópio. Fará parte do dia a dia da medicina.
➜ A IA generativa deve ser encarada como o momento de ruptura que irá nos levar para uma nova medicina?
A IA generativa é um avanço na evolução da IA, mas não uma revolução. Claro que a IA é uma tecnologia poderosa. Dá sentido a dados não estruturados e fornece insights que os humanos não percebem. Mas não é mágica. A IA depende de modelagem matemática e suas soluções geralmente são probabilísticas. Hoje, usamos IA restrita (“narrow AI”) que executa tarefas específicas, como gerar textos ou criar imagens, e estamos muito distantes de uma hipotética IA geral, do tipo que vemos em filmes de ficção científica.
Desde o lançamento do ChatGPT, o hype da IA aumentou e, repetidamente, especialistas e pesquisadores apontaram como isso pode ser prejudicial para o desenvolvimento da tecnologia, levando a expectativas irrealistas sobre o que a IA é capaz de alcançar no curto prazo. O hype em torno desses produtos de IA está a anos-luz além de suas capacidades reais, enquanto a capacidade de causar danos no curto prazo é muito maior do que a anunciada.
Essa desinformação prejudica a credibilidade de uma tecnologia empolgante que tem potencial para ter um impacto positivo na sociedade se for desenvolvida e usada com responsabilidade. A sociedade deve ser capaz de avaliar com precisão os riscos, benefícios e capacidades das tecnologias emergentes, como a IA. Não aceitar o hype como fato. Devemos ser críticos conscientes.
➜ O ChatGPT foi a primeira grande tecnologia de IA que chegou ao grande público. Acredita que daqui para frente viveremos uma nova era, como foi com a chegada da internet?
A grande mudança que o ChatGPT trouxe foi no que chamamos User Experience, pois permitiu a qualquer um interagir com um sistema de IA. Para muitos foi como se tivessem ido dormir na Idade Média e acordado na Era Espacial. Essa mudança na interface trouxe à luz o potencial da IA e vai abrir inúmeras oportunidades de uso. As mudanças nas interfaces, tornando-as cada vez mais simples e intuitivo, amplia a democratização no uso da tecnologia.
Lembramos o Windows da Microsoft que facilitou em muito o uso de computadores. Com um simples mouse podíamos fazer coisas que eram muito complicadas antes. Depois o touch screen e os interface de voz dos smartphones. Com interfaces fáceis como a do ChatGPT teremos muito mais facilidade no uso de sistemas baseados em IA. Isso é um fato e que vai acelerar em muito a disseminação da IA pela sociedade.
➜ Qual o impacto da IA na medicina? Está mais alinhado a grandes oportunidades ou será que devemos seguir, mas com o “pé no freio”?
Existe um potencial enorme de aplicação da IA na saúde, mas a jornada é muito mais longa e árdua que muitos imaginavam no início. Uma olhada nos EUA, mostra que mesmo em práticas clínicas que apareciam como extremamente promissores, como na radiologia, apesar de já existirem dezenas de algoritmos aprovados pelo FDA (a Anvisa de lá), apenas uma pequena parcela está realmente em uso. E um dos principais problemas é a inconsistência dos resultados. Apenas 5.7% dos radiologistas que usaram algoritmos de IA reportaram que seus sistemas sempre funcionam, enquanto 94% classificaram seus resultados como erráticos.
Na prática, aprendemos que treinar e testar um modelo em laboratório é bem diferente de colocá-lo em produção. Imaginou-se que seria relativamente fácil fazer com que os algoritmos analisassem imagens com precisão. Na verdade, eles fazem isso, mas sua assertividade depende das imagens de treinamento e quando saem de um ambiente de testes, com imagens de alta qualidade e caem no mundo real, com imagens menos nítidas e protocolos diferentes dos quais aprendeu, sua taxa de acerto cai significativamente.
O mundo real é bem diferente do mundo fechado e esterilizado nos quais os algoritmos tendem a ser treinados. Em alguns casos, como nos sistemas para controle de veículos autônomos, encontramos o fenômeno da cauda longa, aquelas situações que ocorrem de forma dispersa, mas que causam problemas sérios, inclusive provocando acidentes. O trânsito é um cenário onde as situações insólitas e inesperadas acontecem com frequência, mas que são difíceis de serem replicados em dados de treinamento. Por isso, ocorrem acidentes, quando os veículos não reconheceram como obstáculos caminhões de bombeiros ou ambulâncias, parados nas estradas, com suas luzes estroboscópicas piscando. O princípio básico de funcionamento dessas luzes é o acende e apaga, e isso confundiu os algoritmos dos veículos. O mesmo em setores como medicina, onde um algoritmo testado com imagens geradas em um hospital é levado para outro, que usa outros equipamentos de imagem. Precisa ser retreinado.
➜ Podemos esperar o fim de algumas profissões na saúde, como, por exemplo, análise de imagens e dados?
Uma área da medicina onde a IA tem um papel muito importante e transformador é nas especialidades médicas focadas na identificação de padrões, como radiologistas, dermatologistas e patologistas. Por exemplo, olhemos o radiologista. Passa o dia inteiro em salas escuras, analisando radiografias e escrevendo laudos, sem contatos com os pacientes. Reconhecer padrões em imagens é uma tarefa que pode ser automatizada? Sim. Na verdade, estudos feitos em uma universidade americana com pombos treinados que conseguiram um grau de acerto superior à de radiologistas no reconhecimento de câncer de mama em radiografias. Isso significa que radiologistas serão substituídos por um pombal? Absolutamente. Os pombos como os algoritmos de IA, não tem senso comum e não entendem o significado do câncer e seus impactos psicológicos na pessoa doente e na sua família. Reconhecer algo em uma imagem não significa compreender aquele algo. O médico sabe e pode atuar neste contexto. Talvez esteja aí a chave da sinergia entre IA e o radiologista. Tirar do médico radiologista a atividade robotizada e colocar apenas o do ser humano, com empatia, cuidando de outro ser humano.
Além disso, a concentração total na identificação de padrões torna a pessoa insensível a outros contextos, como um curioso estudo que demonstrou, sobrepondo imagens de gorilas no canto de radiografias. 83% dos radiologistas não viram o gorila. A IA pode ajudar identificando nas imagens outros padrões que estejam fora do foco de atenção. Além disso, o radiologista, como todo humano, tem cansaço e dias ruins. Isso afeta sua precisão de diagnósticos.
O contato direto radiologista-paciente, hoje uma anomalia, pode e deve passar a ser a rotina. O radiologista com IA será muito mais eficiente e empático que um radiologista sem IA. Com essa mudança, seu papel, de interpretar o resultado e atuar mais intensamente, faz a função sair da periferia, para estar mais próximo do centro do tratamento.
Também a dermatologia trabalha com identificação de padrões. Com a crescente evolução das câmeras fotográficas embutidas nos smartphones, começam a proliferar apps que auxiliam o trabalho do dermatologista. As fotos são analisadas por algoritmos de IA que podem identificar sinais que passem desapercebidos aos humanos. Alguns estudos mostram que o algoritmo conseguiu maior precisão que os médicos. Como radiologista e patologistas, a IA vai acabar com os dermatologistas? Novamente, um sonoro não! Mas vai mudar sua maneira de atuar, uma vez que dispondo algoritmos cada vez mais eficientes e confiáveis, reduz sua carga de trabalho na fase de diagnóstico e pode se dedicar mais à fase de tratamento e acompanhamento do paciente.
A medicina está em transformação e a velocidade das mudanças está cada vez mais acelerada. Em cinco anos, o que se aprende em uma faculdade de medicina provavelmente já estará errada ou obsoleta. Isso leva a um redesenho da profissão e de sua formação acadêmica. Não temos mais como esperar uns 200 anos para aceitar o uso de termômetros. Ou recusar o uso de microscópios. As tecnologias, como a IA, são um meio, mas permite que nós, humanos, a usemos para transformar nossas carreiras e vidas.
Na minha perspectiva, a IA será uma grande ferramenta de apoio, mas não será substituta de profissionais como radiologistas. No entanto, será alavancadora das transformações das atividades da profissão. O radiologista vai mudar, mas não acabar.
➜ Atualmente já temos dificuldades de lidar com alguns efeitos da evolução tecnológica que vivemos, como evitar a disseminação de fake news. Você acha que a IA vai aprofundar problemas assim? Acredita que o conteúdo de credibilidade sobre saúde pode ser afetado?
É um ponto de atenção. A IA generativa oferece uma nova maneira de automatizar o processo de criação de conteúdo e criar mais sites com menos esforço, resultando no que uma pesquisa chamou de “sites de notícias gerados por inteligência artificial não confiáveis”. Um site falso apontado no estudo produziu mais de 1.200 artigos por dia. Alguns desses novos sites são mais sofisticados e convincentes do que outros, com fotos geradas por IA e biografias de autores falsos. E o problema está crescendo rapidamente. A pesquisa, que avaliou a qualidade dos sites na internet, diz que está descobrindo cerca de 25 novos sites gerados por IA a cada semana. Foram encontrados 217 deles em 13 idiomas desde que começou a rastrear o fenômeno, em abril. São alguns dos efeitos colaterais de novas tecnologias, que muitas vezes passam desapercebidas até que descobrimos que já se entranharam na sociedade.
Devemos estar alertas quanto a essa desinformação gerada em alta escala. Por isso, recentemente o JAMA (Journal of the American Medical Association) – que é um periódico médico revisado por pares, publicado 48 vezes por ano pela American Medical Association, que publica pesquisas originais, revisões e editoriais cobrindo todos os aspectos da biomedicina – divulgou as suas diretrizes para os artigos serem publicados. Essas diretrizes proíbem a inclusão de ferramentas de IA não humanas como autores e exigem o relato transparente do uso de tais ferramentas na preparação de manuscritos e outros conteúdos e quando usadas em pesquisas submetidas para publicação.
Além disso, o envio e a publicação de imagens clínicas criadas por ferramentas de IA são desencorajados, a menos que façam parte de um projeto ou método formal de pesquisa. Em todos esses casos, os autores devem assumir a responsabilidade pela integridade do conteúdo gerado por esses modelos e ferramentas.
As diretrizes também estão direcionadas aos “peer reviewers”, incluindo “Inserir qualquer parte do manuscrito ou resumo ou o texto de sua revisão em um chatbot, modelo de linguagem ou ferramenta semelhante é uma violação do nosso acordo de confidencialidade” e “Se você usou uma ferramenta de IA como recurso para sua revisão de uma forma que não viole a política de confidencialidade da revista, você deve fornecer o nome da ferramenta e como ela foi usada”. Finalmente, “Lembre-se de que você é o responsável final por todo o conteúdo desta revisão”. Creio que isso mostra o nível de preocupação que devemos ter com a possibilidade de desinformação em larga escala.
➜ Tem alguma dica de conteúdo que fale sobre o tema para que os congressistas possam se preparar para o seu painel?
Sim, publiquei em 2020 um ebook sobre aplicação da IA em medicina, muito antes desse hype de hoje. O download pode ser feito gratuitamente em https://neofeed.com.br/blog/home/especial-o-impacto-da-inteligencia-artificial-no-setor-de-saude/
Garanta já sua vaga no Conahp 2023 e não perca a palestra de Cezar Taurion ao vivo!
➜ Acesse www.conahp.org.br
