Ascheri Group · Londra Ascheri GroupGroup Ascheri AcademyAcademy Ascheri NelsonNelson Ascheri & PartnersPartners
Notizie

Shadow AI dati personali: che cosa chiede il PDPC di Singapore

3 novembre 2026

La shadow AI (IA ombra) ha ora un documento tutto suo. Con questo nome si indicano gli strumenti di intelligenza artificiale che i dipendenti adottano per conto proprio, senza che l’organizzazione lo sappia o lo abbia consentito, e il 30 settembre 2026 la Personal Data Protection Commission di Singapore (PDPC, l’autorità per la protezione dei dati personali) vi ha dedicato l’Advisory for Data Protection Risks When Using Unauthorised AI Tools For the Development of Software or Scripts.

Nessun obbligo nuovo. L’avviso rilegge quelli esistenti alla luce di una prassi che ormai attraversa qualsiasi ufficio: chiedere a un assistente pubblico di scrivere il codice al posto di un programmatore.

Il perno è la sezione 24 del Personal Data Protection Act 2012 (PDPA), che impone di adottare misure di sicurezza ragionevoli per proteggere i dati personali in possesso dell’organizzazione o sotto il suo controllo (la protection obligation, obbligo di protezione). Su questo il PDPC non lascia margini: il ricorso all’IA, anche quando lo strumento l’ha portato in azienda un dipendente di sua iniziativa, quell’obbligo non lo attenua.

Perché la shadow AI preoccupa l’autorità

Lo scenario è banale, e si ripete ovunque. Un collaboratore fa scrivere a un modello pubblico lo script che estrae i nominativi dei clienti dal gestionale, o che automatizza l’invio delle comunicazioni; il programma gira, nessuno se ne lamenta, e finisce in produzione senza che un tecnico l’abbia mai letto o collaudato e senza che compaia fra le risorse informatiche censite.

A quel punto i dati personali viaggiano lungo percorsi che nessuno ha disegnato. Arrivano a fornitori terzi mai valutati. E l’esposizione, osserva l’autorità, può essere del tutto involontaria: nessuno ha voluto il danno, nessuno se ne accorge in tempo.

Le tre aree di rischio individuate dal PDPC

L’avviso scompone la materia in tre aree critiche e per ciascuna indica misure amministrative e tecniche. Messe in fila, valgono come ossatura di una politica aziendale sull’uso dell’IA nello sviluppo del software.

Strumenti che nessuno ha censito

Si comincia dal sapere che cosa si usa. Il PDPC chiede un inventario aggiornato di tutti gli strumenti di IA presenti nell’organizzazione, tenuto insieme all’inventario degli asset ICT (le risorse delle tecnologie dell’informazione e della comunicazione), con lo scopo di ciascun sistema, i flussi di dati e gli utenti previsti.

Sull’inventario si innesta la governance, in tre passaggi. Una valutazione specifica del rischio per la sicurezza precede l’adozione dello strumento e verifica, prima di tutto, se i dati personali o sensibili servano davvero. Politiche scritte e processi documentati disciplinano la raccolta e l’elaborazione dei dati, prompt dell’utente, input, output e dati aziendali interni compresi. L’accesso agli ambienti di sviluppo e di esercizio segue il principio del minimo privilegio (least privilege): ciascuno vede quello che gli serve, non di più.

Nessun essere umano nel ciclo

Qui il rischio è la fiducia cieca. Codice, script e flussi automatizzati prodotti dall’IA vanno esaminati e convalidati da personale tecnicamente competente prima di essere messi in opera; chi si affida all’output senza controllo si ritrova con sistemi difettosi o configurati male, la situazione che nel lessico di settore si descrive come assenza di human in the loop (supervisione umana nel processo).

La supervisione regge solo se c’è formazione. Agli utenti va spiegato come usare gli strumenti, quali rischi comportano per la sicurezza e per i dati, che cosa vi si può inserire e dove finisce. Chi sviluppa o implementa gli strumenti deve conoscere la programmazione sicura e la protezione dei dati lungo l’intero ciclo di vita dell’IA. Completano il quadro corsi periodici di sensibilizzazione sulla sicurezza informatica, phishing e ingegneria sociale compresi.

Sul versante tecnico, due presìdi: registrare input e output, per prevenire gli abusi e rendere possibili audit e indagini; sorvegliare prompt, query e richieste API (le chiamate fra programmi) per intercettare chi tenta di raggiungere informazioni riservate, alterarle o portarle fuori dall’organizzazione.

Codice messo in produzione senza collaudo

Il codice scritto con l’aiuto dell’IA può nascondere errori e vulnerabilità che a una prima lettura non si vedono, e rilasciarlo senza test rigorosi in ogni fase dello sviluppo apre la strada a violazioni dei dati e a incidenti informatici. L’avviso richiama allora le regole ordinarie dell’ingegneria del software, scandite lungo tutto il ciclo: revisione del codice nelle fasi iniziali; test funzionali unitari e di benchmarking prima del rilascio e dopo ogni aggiornamento; test di accettazione, di carico e di stress a sviluppo quasi concluso; test di sicurezza come la valutazione delle vulnerabilità, il penetration test o il red teaming (l’attacco simulato condotto da una squadra dedicata), da ripetere prima della messa in produzione, subito dopo, a intervalli regolari e a ogni modifica importante.

Le configurazioni e le politiche di sicurezza vanno documentate. I dati personali restano fuori dagli ambienti che non sono di produzione: per i test, dove possibile, si usano dati sintetici. Per il resto il PDPC rinvia alla propria Guide to Data Protection Practices for ICT Systems.

Che cosa cambia per i gruppi con attività a Singapore

Per un gruppo italiano, britannico o francese con una società, una sede secondaria o un fornitore che tratta dati a Singapore, l’avviso fissa il metro con cui l’autorità misurerà la ragionevolezza delle misure di sicurezza dopo un incidente. Una violazione nata da uno script generato da un assistente pubblico e mai collaudato difficilmente passerà per imprevedibile. Il PDPA prevede sanzioni pecuniarie fino al 10 % del fatturato annuo realizzato a Singapore per le organizzazioni che superano i 10 milioni di dollari di Singapore, e fino a 1 milione di dollari di Singapore negli altri casi.

Chi lavora già in Europa riconoscerà l’impianto. L’articolo 32 del Regolamento (UE) 2016/679 (GDPR), e il suo omologo nello UK GDPR, esige misure tecniche e organizzative adeguate al rischio; l’articolo 4 del Regolamento (UE) 2024/1689 sull’intelligenza artificiale (AI Act) obbliga fornitori e utilizzatori a garantire al personale un livello sufficiente di alfabetizzazione in materia di IA (AI literacy). Le misure singaporiane vi si sovrappongono in buona parte. A nostro avviso conviene trarne la conseguenza pratica: una sola politica sull’IA per tutto il gruppo, con le integrazioni locali dove servono, anziché tre documenti che si ignorano a vicenda.

Il primo passo è anche il più istruttivo. Un inventario onesto degli strumenti davvero in uso, shadow AI compresa, riserva quasi sempre sorprese; da lì si passa alla valutazione dei rischi, a una governance che copra espressamente lo sviluppo di software e script assistito dall’IA, a una supervisione umana che non resti sulla carta e alla revisione dei processi di sviluppo e di test per il codice e i flussi di lavoro generati dalla macchina.