A relação entre saúde e tecnologia é intrinsecamente dinâmica, com as tecnologias digitais e as ferramentas de Inteligência Artificial (IA) redefinindo o panorama da saúde digital. Positivamente, essas inovações prometem otimizar diagnósticos, personalizar tratamentos, aprimorar a gestão de dados e impulsionar a pesquisa e as políticas públicas. Algoritmos de IA, em particular, capacitam a análise de vastos volumes de informações para identificar padrões de doenças e otimizar a alocação de recursos, elevando a eficiência, a acurácia, a potencial qualidade dos serviços de saúde e a sustentabilidade dos sistemas de saúde publica, como o SUS, por exemplo. Entretanto, essa revolução tecnológica não está isenta de implicações adversas e de externalidades. O tratamento massivo de dados sensíveis na saúde, e.g., levanta preocupações críticas quanto à proteção à privacidade, à proteção de dados pessoais, ao livre desenvolvimento da personalidade e à autodeterminação informacional. Mais alarmante, o emprego de algoritmos de IA, se não concebido e monitorado sob rigorosos preceitos éticos e metodológicos, pode inadvertidamente perpetuar e até mesmo amplificar discriminações negativas e adensar as violações ao direito à igualdade. Em um contexto como o brasileiro, marcado por profundas desigualdades socioeconômicas, a exclusão digital assume um caráter de vulnerabilidade acentuada. A implementação de soluções de saúde digital baseadas em ferramentas de IA desprovidas de políticas de inclusão ativas e robustas pode exacerbar as disparidades. Algoritmos treinados com bases de dados enviesadas ou não representativas podem gerar diagnósticos imprecisos, indicar tratamentos inadequados ou, de forma mais grave, restringir o acesso aos serviços para grupos já marginalizados — seja por etnia, renda, localização ou outras variáveis sociodemográficas. Tal cenário configuraria uma explícita violação do direito fundamental à saúde, desvirtuando a promessa de universalização em uma nova forma de estratificação. A opacidade inerente à maioria dos sistemas de IA (“caixa preta”) e a assimetria informacional entre desenvolvedores, provedores de serviços e pacientes dificultam sobremaneira a identificação e a correção desses vieses. Torna-se imperativo, portanto, que o desenvolvimento e a regulamentação da saúde digital no Brasil incorporem uma perspectiva de justiça algorítmica e inclusão desde a concepção. Em vista disso, marcos regulatórios devem prever mecanismos como relatórios de impacto à proteção de dados e avaliações algorítmicas, a fim de promover a transparência, a explicabilidade, a interpretabilidade, a oponibilidade e a accountability dos sistemas de IA de sorte a incentivar o uso de padrões de dados abertos e interoperáveis, sem a concentração excessiva em bases únicas. Tais medidas são essenciais para mitigar os riscos de discriminação e assegurar que a tecnologia se configure como uma ferramenta voltada para a concretização da equidade e não de aprofundamento das desigualdades existentes, concretizando, assim, sua promessa de benefício universal. Nesse espírito, muito agrega a leitura dessa obra que, em síntese, busca compartilhar saberes que convergem para a efetivação da saúde no panorama de digitalização que atualmente se materializa.

Porto Alegre (POA), junho de 2025

Gabrielle Bezerra Sales Sarlet.