IA: rischio allucinazione negli atti dell’Agenzia delle Entrate? Page Expired
L’IMPORTANZA DEL CONTROLLO UMANO NELL’USO DELL’INTELLIGENZA ARTIFICIALE NELLA PUBBLICA AMMINISTRAZIONE
CONTENUTO
Negli ultimi anni, l’intelligenza artificiale (IA) ha trovato applicazione in vari ambiti, compresa la pubblica amministrazione. Tuttavia, l’uso di sistemi automatizzati per la produzione di atti giuridici solleva preoccupazioni significative, come evidenziato dall’UNCAT (Ufficio Nazionale per il Controllo e l’Analisi delle Tecnologie). Recentemente, l’agenzia ha segnalato il rischio di allucinazioni (hallucinations) nell’uso dell’IA, un fenomeno in cui il sistema genera informazioni errate o fuorvianti. Questo rischio è particolarmente critico per l’Agenzia delle Entrate, dove la precisione degli atti è fondamentale.
In risposta a queste preoccupazioni, l’Agenzia ha avviato verifiche interne e ha raccomandato l’implementazione di controlli umani e la tracciabilità delle fonti utilizzate. Le linee guida nazionali ed europee sull’IA, inclusa la proposta di Regolamento AI, stabiliscono requisiti di affidabilità, trasparenza e responsabilità umana per i “sistemi ad alto rischio” utilizzati in ambito amministrativo. Questi requisiti mirano a garantire che le decisioni automatizzate siano sempre soggette a supervisione umana.
In particolare, per gli atti con effetti giuridici, è obbligatoria la verifica legale e la responsabilità dell’ufficio, come stabilito dal d.lgs. n. 82/2005 (Codice dell’Amministrazione Digitale). Questo codice sottolinea l’importanza della responsabilità amministrativa e della necessità di un controllo umano per evitare errori giuridico-fattuali.
CONCLUSIONI
L’integrazione dell’IA nella pubblica amministrazione offre opportunità significative, ma comporta anche rischi che non possono essere trascurati. È essenziale che i dipendenti pubblici e i concorsisti comprendano l’importanza del controllo umano e della verifica legale nell’uso di queste tecnologie. Solo attraverso un approccio responsabile e trasparente sarà possibile garantire la correttezza e l’affidabilità degli atti amministrativi.
IMPLICAZIONI PER IL DIPENDENTE PUBBLICO / CONCORSISTA
Per i dipendenti pubblici e i concorsisti, è fondamentale acquisire competenze relative all’uso dell’IA e comprendere le normative vigenti. La responsabilità legale e la necessità di controlli umani devono diventare parte integrante della loro formazione. Inoltre, è importante che siano in grado di identificare e segnalare eventuali anomalie o errori generati dai sistemi automatizzati.
PAROLE CHIAVE
Intelligenza artificiale, pubblica amministrazione, controllo umano, affidabilità, trasparenza, responsabilità, allucinazioni, Agenzia delle Entrate, Codice dell’Amministrazione Digitale.
ELENCO RIFERIMENTI NORMATIVI
- D.lgs. n. 82/2005 - Codice dell’Amministrazione Digitale.
- Proposta di Regolamento AI - Normativa europea sull’intelligenza artificiale.
- Linee guida nazionali ed europee sull’IA.
Nota: Le sintesi fornite sono generate automaticamente grazie a Perplexity(analisi delle notizie più pertinenti) e ChatGPT modificato da Omniavis. Puoi chiedere il parere di un esperto umano qui nel forum o continuare la conversazione sulla nostra piattaforma: https://espertorisponde.omniavis.it/. Per una consulenza specifica da parte del team Omniavis inviaci una email a info@omniavis.it.Per un feedback sulla qualità della sintesi invia una email a Marco Scarselli