Trust-DT : a framework for trustworthy digital twins in healthcare

Abstract

O conceito de Digital Twin, inicialmente aplicado na engenharia, evoluiu para um paradigma transformador na área da saúde, com um imenso potencial para permitir cuidados personalizados, preditivos e proativos. Ao criar réplicas virtuais dinâmicas de pacientes, os Digital Twins facilitam a simulação de tratamentos sem expor os pacientes a risco. Contudo, a sua adoção clínica enfrenta uma barreira crítica: a lacuna de confiança nos modelos de Inteligência Artificial (IA) que os sustentam. Esta dissertação defende que a confiança deve ser um princípio de engenharia, e não uma consequência desejada. Para tal, propõe-se o framework tecnológico Trust-DT, focado na integração sinérgica de dois pilares: a Inteligência Artificial Explicável (XAI), para garantir a transparência, e a Quantificação de Incerteza (UQ), para assegurar a fiabilidade. A avaliação empírica do protótipo num estudo de caso de risco materno revelou uma descoberta crítica: os modelos otimizados por métodos padrão para atingir alta acurácia, embora aparentemente precisos, tornaram-se severamente mal calibrados. Foi diagnosticado um nível de sobreconfiança clinicamente perigoso, com a fiabilidade real dos modelos a ser drasticamente inferior à sua certeza aparente. Esta descoberta prova empiricamente que a acurácia, isoladamente, é uma métrica insuficiente e enganadora para a confiança clínica. A investigação conclui que os Digital Twins representam uma inovação disruptiva e a sua implementação segura exige frameworks como o Trust-DT, que validam a transparência e a fiabilidade como pilares de engenharia distintos e sinérgicos.

The concept of the Digital Twin, initially applied in engineering, has evolved into a transformative paradigm in healthcare, with immense potential to enable personalized, predictive, and proactive care. By creating dynamic virtual replicas of patients, Digital Twins facilitate treatment simulation without exposing patients to risk. However, their clinical adoption faces a critical barrier: the trust gap in the Artificial Intelligence (AI) models that sustain them. This dissertation argues that trust must be an engineering principle, not merely a desired outcome. To this end, the Trust-DT technological framework is proposed, focused on the synergistic integration of two pillars: Explainable AI (XAI), to ensure transparency, and Uncertainty Quantification (UQ), to ensure reliability. The prototype's empirical evaluation in a maternal risk case study revealed a critical discovery: models optimized by standard methods to achieve high accuracy, while apparently precise, became severely miscalibrated. A clinically dangerous level of overconfidence was diagnosed, with the models' real-world reliability being drastically lower than their apparent certainty. This discovery empirically proves that accuracy, in isolation, is an insufficient and misleading metric for clinical trust. The research concludes that Digital Twins represent a disruptive innovation, and their safe implementation requires frameworks like Trust-DT, which validate transparency and reliability as distinct and synergistic engineering pillars.