LA TRASPARENZA DELL’INTERFACCIA DI RIATLAS

Con «trasparenza» si intende che i sistemi di IA sono sviluppati in modo da consentire un’adeguata tracciabilità e spiegabilità, in particolare informando debitamente i deployer sulle capacità e i limiti di tale sistema.
Riatlas mette a disposizione un’interfaccia progettata per fornire suggerimenti sotto forma di “elenco codici ICF”, utili a caratterizzare lo stato di salute del paziente oggetto di osservazione. L’IA integrata nel sistema si basa su un modello globale, uno per ciascuna popolazione target, costruito a partire da dati validati e certificati. Questo modello certificato suggerisce i codici ICF rilevanti per ciascun paziente, garantendo l’affidabilità e la tracciabilità delle informazioni proposte.
Nella stessa interfaccia è anche possibile consultare suggerimenti non certificati, derivanti da un modello locale che evolve dinamicamente sulla base dell’interazione continua tra medico e sistema. Questo modello locale nasce con le stesse caratteristiche del modello globale, ma viene aggiornato in modo incrementale attraverso un processo di apprendimento continuo, basato sui feedback e sulle scelte effettuate durante l’uso quotidiano del sistema.
Il modello locale infatti viene adattato e aggiornato nel contesto operativo del singolo medico o struttura, attraverso un processo di re-training locale. Questo processo consente al modello di acquisire nuova conoscenza a partire da casi specifici, mantenendo però separate le nuove informazioni da quelle validate del modello globale, fino a un’eventuale fase successiva di validazione e integrazione.
Per non certificato si intende che i suggerimenti generati dal modello locale non sono ancora stati sottoposti a un processo di validazione ufficiale nè a marcatura CE. Tuttavia, essi possono rappresentare ipotesi clinicamente rilevanti, frutto dell’esperienza diretta e dell’uso sul campo, risultando quindi utili per stimolare la riflessione e contribuire al miglioramento progressivo del sistema.
Per il medico, visualizzare entrambi i suggerimenti, sia dal modello globale sia dal modello locale, significa accedere a un supporto decisionale più ricco e flessibile. Da un lato, ha accesso a indicazioni validate e stabili; dall’altro, può prendere in considerazione spunti emergenti che riflettono l’evoluzione della pratica clinica. Questo approccio duale valorizza l’esperienza clinica, favorisce una classificazione più personalizzata del paziente e contribuisce al miglioramento continuo del sistema stesso.