AFFILIAZIONE
insideai srl
AUTORE PRINCIPALE
Ravizza Alice
Registrazione obbligatoria. Una valutazione consentita
login avvenuto
GRUPPO DI LAVORO
Ravizza Alice insideai srl
Dragoni Mario «intelligent digital agents research group, fondazione bruno kessler»
Dragoni Mario «intelligent digital agents research group, fondazione bruno kessler»
AREA TEMATICA
Applicazioni di intelligenza artificiale in sanità
ABSTRACT
Si analizzano gli obblighi del fabbricante/provider di chatbot medicale classificato come DM di classe I secondo MDR e come sistema di intelligenza artificiale non ad alto rischio comprendente un modello per finalità generali secondo AiAct. Il fabbricante legale MDR, dovrà rispettare le prescrizioni per i DM di classe I: sicurezza, sorveglianza post-commercializzazione e documentazione tecnica.
Il provider di un sistema IA non ad alto rischio secondo AiAct, dovrà rispettare l’obbligo di alfabetizzazione di cui all’art. 4 e il principio di trasparenza stabilito dall’art. 50. Poiché il sistema include un modello per finalità generali (LLM), si applicheranno anche gli obblighi specifici previsti dall’art. 53, relativi alla documentazione tecnica, alla trasparenza, alla condivisione di informazioni con le autorità competenti e alla gestione dei rischi.
L’art. 4 AI Act impone a provider e deployer l’obbligo di promuovere, ove possibile, un livello adeguato di alfabetizzazione in materia di IA per il proprio personale e per chiunque utilizzi o gestisca il sistema per loro conto: si richiede che le misure adottate tengano conto del contesto d’uso e delle competenze tecniche degli utenti, con l’obiettivo di garantire una comprensione sufficiente del funzionamento del sistema.
L’art. 50 prevede l’obbligo di trasparenza per la interazione con persone fisiche: l’utente deve essere informato, in modo chiaro, distinguibile e accessibile, che sta interagendo con un sistema di IA, almeno al momento della prima interazione.
L’art. 53 disciplina gli obblighi per i modelli di IA a finalità generali. Il provider del LLM dovrà mantenere una documentazione tecnica aggiornata sul modello, comprensiva dei processi di addestramento, test e valutazione, con un ampio livello di dettaglio previsto nell’allegato XI. Ilprovider che integra il modello in un chatbot per finalità medicali dovrà accedere a queste informazioni e comprendere i limiti del sistema LLM e come questi influenzano il chatbot medicale. Secondo l’articolo 25, chi modifica la finalità d’uso di un modello generico, rendendolo parte di un sistema ad alto rischio, assume la qualifica di fornitore e deve rispettare tutti gli obblighi correlati. In questi casi, è necessario un accordo scritto tra il fornitore del sistema ad alto rischio e il soggetto che fornisce modelli, strumenti o servizi integrati, al fine di garantire l’accesso e l’assistenza tecnica necessaria per adempiere agli obblighi normativi.
Il provider di un sistema IA non ad alto rischio secondo AiAct, dovrà rispettare l’obbligo di alfabetizzazione di cui all’art. 4 e il principio di trasparenza stabilito dall’art. 50. Poiché il sistema include un modello per finalità generali (LLM), si applicheranno anche gli obblighi specifici previsti dall’art. 53, relativi alla documentazione tecnica, alla trasparenza, alla condivisione di informazioni con le autorità competenti e alla gestione dei rischi.
L’art. 4 AI Act impone a provider e deployer l’obbligo di promuovere, ove possibile, un livello adeguato di alfabetizzazione in materia di IA per il proprio personale e per chiunque utilizzi o gestisca il sistema per loro conto: si richiede che le misure adottate tengano conto del contesto d’uso e delle competenze tecniche degli utenti, con l’obiettivo di garantire una comprensione sufficiente del funzionamento del sistema.
L’art. 50 prevede l’obbligo di trasparenza per la interazione con persone fisiche: l’utente deve essere informato, in modo chiaro, distinguibile e accessibile, che sta interagendo con un sistema di IA, almeno al momento della prima interazione.
L’art. 53 disciplina gli obblighi per i modelli di IA a finalità generali. Il provider del LLM dovrà mantenere una documentazione tecnica aggiornata sul modello, comprensiva dei processi di addestramento, test e valutazione, con un ampio livello di dettaglio previsto nell’allegato XI. Ilprovider che integra il modello in un chatbot per finalità medicali dovrà accedere a queste informazioni e comprendere i limiti del sistema LLM e come questi influenzano il chatbot medicale. Secondo l’articolo 25, chi modifica la finalità d’uso di un modello generico, rendendolo parte di un sistema ad alto rischio, assume la qualifica di fornitore e deve rispettare tutti gli obblighi correlati. In questi casi, è necessario un accordo scritto tra il fornitore del sistema ad alto rischio e il soggetto che fornisce modelli, strumenti o servizi integrati, al fine di garantire l’accesso e l’assistenza tecnica necessaria per adempiere agli obblighi normativi.
