Nel febbraio 2026 uno sviluppatore ha guardato da vicino un’app per gli esami, costruita con una piattaforma che scrive il codice con l’intelligenza artificiale e messa in vetrina dalla piattaforma stessa. Senza nemmeno fare il login poteva leggere i dati di 18’697 utenti, cancellarli, e cambiare i voti degli studenti.
La piattaforma ha risposto che ogni progetto riceve un controllo di sicurezza gratuito prima di andare online, e che applicare le raccomandazioni spetta a chi ha fatto l’app.
The Register, app costruita con l'IA espone 18'697 utenti (in inglese)Un’app che funziona è un’app sicura?
No, e l’intelligenza artificiale rende la differenza più facile da non vedere. Un’app può funzionare benissimo, avere una bella grafica, salvare tutto, e lasciare la porta aperta a chiunque sappia dove guardare.
Lo dicono gli studi indipendenti. All’università di Stanford, con gli assistenti IA del 2022, chi programmava con l’assistente ha scritto codice meno sicuro di chi lavorava senza, ed era più convinto di averlo scritto sicuro. Al Politecnico federale di Zurigo, nel 2025, anche il modello migliore ha prodotto il 62% di soluzioni sbagliate o attaccabili, proprio nella parte dell’app che lavora sul server e custodisce i dati. A Carnegie Mellon, nel 2026, gli «agenti» che programmano da soli hanno risolto il 57% dei compiti, ma solo l’11,8% di tutte le soluzioni era anche sicuro: poco più di una su dieci.
Chi aveva l’assistente «wrote significantly less secure code than those without access».
Basta chiedere all’IA di renderla sicura?
Aiuta un po’, ma non basta. Nello studio di Zurigo un promemoria generico, «segui le buone pratiche di sicurezza», ha migliorato i modelli più recenti. Le richieste che funzionano davvero, però, sono quelle dettagliate, e le sa scrivere solo chi conosce già i rischi.
Il punto è proprio questo. Con l’IA oggi si improvvisano sviluppatori anche persone che non hanno nessuna base di sicurezza né di protezione dei dati. L’IA risponde «fatto, è sicuro», e loro non hanno modo di accorgersi che non lo è. L’agenzia dell’Unione europea per la cibersicurezza, in una bozza di raccomandazioni di settembre 2026, mette fra i rischi proprio questo: frasi come «questo è sicuro» accettate senza nessuna prova. Le agenzie tedesca e francese lo scrivono più secco: gli assistenti IA non sostituiscono sviluppatori esperti.
E anche gli sviluppatori di lunga data spesso sottovalutano l’altra metà del lavoro: il server, i componenti, le librerie su cui l’app si appoggia. Vanno aggiornati di continuo, non una volta. Un’app consegnata e poi lasciata lì invecchia ogni settimana.
Cosa può succedere, nei fatti?
Tre casi, tutti documentati:
- Maggio 2025. Su 1’645 app messe in vetrina da una piattaforma di sviluppo con l’IA, 170 lasciavano leggere a chiunque i dati degli utenti: nomi, email, informazioni finanziarie. Nel registro internazionale delle falle, la piattaforma ha contestato la segnalazione scrivendo che ogni cliente si assume la responsabilità di proteggere i dati della sua app.
- Febbraio 2026. L’app per gli esami dell’inizio di questo articolo: 18’697 utenti, voti modificabili.
- Luglio 2025. Un imprenditore stava costruendo un’app con l’agente IA di un’altra piattaforma. L’agente ha cancellato il database vero, quello con i dati, durante un blocco delle modifiche che lui stesso aveva chiesto. Il database di prova e quello vero erano lo stesso.
Per me il punto è tutto qui: la piattaforma ti dà lo strumento, chi scrive il codice ti dà un’app che funziona. Anche piattaforma e sviluppatore hanno obblighi: chi tratta i dati per conto tuo deve proteggerli e avvisarti subito se c’è una violazione. Ma davanti ai tuoi clienti e all’autorità la responsabilità principale dei dati resta a te.
Chi risponde dei dati, se escono?
Tu, che hai commissionato l’app e decidi a cosa servono i dati. Non sapere non ti protegge, né in Svizzera né in Europa.
- In Svizzera, la legge sulla protezione dei dati in vigore dal 2023 chiede a chi tratta i dati una sicurezza adeguata al rischio, pensata fin dall’inizio. L’ordinanza dice testualmente che va tenuto «sempre aggiornato il livello di sicurezza dei sistemi operativi e delle applicazioni». Se affidi il lavoro a qualcuno, devi accertarti che sappia garantire la sicurezza dei dati. Chi intenzionalmente non rispetta questi requisiti minimi rischia, su querela di chi è stato danneggiato, una multa fino a 250’000 franchi, che di regola colpisce la persona responsabile e non l’azienda. E se c’è una violazione con un rischio elevato per le persone, va notificata il prima possibile all’Incaricato federale della protezione dei dati (IFPDT).
Chi affida il lavoro a un fornitore «resta inoltre titolare del trattamento e quindi continua a essere responsabile nei confronti delle persone interessate e delle autorità».
- In Italia e nell’Unione europea, e per un’azienda svizzera che si rivolge a clienti nell’UE, vale il GDPR del 2016. Chiede a chi decide il trattamento di poter dimostrare di essere in regola, di scegliere fornitori con garanzie sufficienti e con un contratto scritto, di verificare regolarmente le misure e di notificare una violazione al Garante entro 72 ore, salvo che il rischio per le persone sia improbabile. Per la sicurezza e i fornitori le sanzioni arrivano fino a 10 milioni di euro o al 2% del fatturato mondiale annuo, se superiore; per i principi di base fino a 20 milioni o al 4%. La Corte di giustizia dell’UE ha chiarito nel 2023 che chi commissiona un’app e ne decide gli scopi può esserne titolare, cioè risponderne, anche se i dati non li ha mai toccati lui.
E non sono minacce sulla carta. Nell’aprile 2026 il Garante ha multato di 85’000 euro un’azienda italiana che aveva affidato le sue app a fornitori esterni e aveva subito un furto di dati: si era difesa dicendo che la sicurezza era compito dei fornitori. Il Garante ha parlato di «colpa in eligendo»: la colpa di averli scelti. Nel 2024 la Regione Lazio ha pagato 120’000 euro, oltre ai 271’000 del suo fornitore informatico, perché avrebbe dovuto sorvegliarlo meglio. In Svizzera, nel caso Xplain, l’IFPDT ha accertato violazioni anche presso gli uffici federali che avevano consegnato i dati al fornitore «senza le precauzioni necessarie».
«sussista una colpa in eligendo in capo alla società stessa»
Poi ci sono i tuoi clienti. Per la Corte di giustizia, quando i dati escono tocca a chi li custodiva dimostrare che le misure erano adeguate, e anche la sola paura che qualcuno li usi può essere un danno da risarcire.
E i dati che l’app manda a un’intelligenza artificiale?
Nell’agosto 2024 l’autorità olandese per la protezione dei dati ha raccontato due notifiche ricevute. In uno studio medico un dipendente aveva inserito in un chatbot i dati sanitari di alcuni pazienti. In un’azienda di telecomunicazioni un altro aveva caricato un file con gli indirizzi dei clienti. Per l’autorità sono violazioni dei dati: quelle informazioni ormai stavano sui server di chi offre il chatbot.
Un’app può fare la stessa cosa, ma in automatico e per ogni cliente. Oggi va di moda «facciamo analizzare tutto all’IA»: ogni modulo, referto o email che l’app manda a un servizio remoto esce dalla tua azienda, e può essere trattato fuori dall’Europa. Anche con i contratti aziendali il fornitore di solito conserva le richieste per un periodo, per esempio fino a 30 giorni, per controllare gli abusi. Quello che è uscito non si riprende.
Quasi sempre non serve. Cercare un cliente, ordinare un elenco, calcolare un prezzo o compilare un modulo lo fa un programma normale, senza mandare niente a nessuno e senza pagare a ogni richiesta. Se un’IA serve davvero, si può installare sul proprio server, oppure le si manda il testo senza nomi né numeri. Il mio principio: prima che un dato esca, mi chiedo se all’IA serve davvero sapere di chi è.
Cosa chiedo prima di affidare la mia app?
Lo so com’è: l’app fatta in pochi giorni e a poco prezzo, e la soddisfazione di dire «l’abbiamo fatta con l’intelligenza artificiale». Secondo me è proprio quell’euforia che fa saltare le domande giuste.
Prima ancora del prezzo, chiediti che dati tratterà l’app. Ci sono dati sensibili, come salute, referti o documenti d’identità? Dati di pagamento? Dati di altre persone, i tuoi clienti, i loro familiari? Dati di minori? E poi: cosa succede se domani quei dati vengono presi e pubblicati? Se la risposta ti mette a disagio, l’app non è un lavoretto da affidare al prezzo più basso. Con dati sanitari o altri dati delicati trattati in modo sistematico, sia in Svizzera sia nell’UE può servire anche una valutazione d’impatto sulla protezione dei dati, prima di partire: chiedilo a chi ti segue per la privacy.
Poi le domande a chi la costruisce. Questo messaggio puoi mandarlo così com’è:
Una risposta come «tranquillo, l’IA la fa sicura» non è una risposta. Chi lavora bene ti risponde nel dettaglio, e ti dice anche quanto costa tenere l’app aggiornata negli anni. Se il prezzo è bassissimo, di solito è proprio quella parte che manca.
Come la penso
Ho paura per i dati di molte aziende, persone ed enti. Numeri solidi sulle violazioni di dati causate da codice scritto con l’IA non esistono ancora. C’è un conteggio delle falle, non delle violazioni: l’università Georgia Tech ha trovato, nel solo marzo 2026, più falle introdotte dall’IA nei programmi pubblici che in tutto il 2025. Ma vedo quante app vengono messe online da chi non sa cosa ha in mano, e chi le commissiona non lo sa nemmeno lui. La mia previsione, ed è solo la mia: fra il 2027 e il 2030 vedremo un’ondata di violazioni nate così.
L’intelligenza artificiale non è il problema. Lo è credere che basti.
Domande frequenti
Un'app fatta con l'intelligenza artificiale è per forza insicura?
No. L'IA può scrivere codice valido, e usata da chi conosce la sicurezza è uno strumento utile. Il problema è chi la usa senza saper controllare il risultato: gli studi mostrano che il codice generato ha spesso falle e che chi lo usa tende a fidarsi troppo. Conta chi controlla, chi aggiorna e chi risponde dei dati, non lo strumento.
Se la falla è nella piattaforma che ha costruito l'app, la colpa non è sua?
Può esserlo, ma davanti ai tuoi clienti e all'autorità rispondi tu, che hai deciso di trattare quei dati. La piattaforma del primo caso lo scrive chiaramente: proteggere i dati dell'app è compito di chi la pubblica. Per questo servono un contratto scritto con chi sviluppa e ospita l'app, e domande precise prima di cominciare, non dopo la violazione.
Ho già un'app fatta da qualcuno che non c'è più: cosa faccio?
Fai fare un controllo da chi conosce sicurezza e protezione dei dati: dove stanno i dati, chi vi accede, se server e componenti sono aggiornati, se esistono copie di sicurezza. Un'app che nessuno aggiorna invecchia ogni settimana. Se i dati sono delicati e nessuno può mantenerla, a volte la scelta più sicura è spegnerla e rifarla.
Tutte le fonti di questo articolo
- Perry, Srivastava, Kumar, Boneh (Stanford), Do Users Write More Insecure Code with AI Assistants?, ACM CCS, in inglese (2023): arxiv.org/abs/2211.03622
- ETH Zurigo e altri, BaxBench: Can LLMs Generate Correct and Secure Backends?, in inglese (2025): baxbench.com
- Zhao e altri (Carnegie Mellon), Is Vibe Coding Safe?, in inglese (versione del 21.09.2026): arxiv.org/abs/2512.03262
- Georgia Tech, Bad vibes: AI-generated code vulnerable, in inglese (13.04.2026): news.research.gatech.edu
- Semafor, la piattaforma Lovable e le 170 app con dati leggibili, in inglese (29.05.2025): semafor.com
- The Register, app costruita con Lovable espone 18’697 utenti, in inglese (27.02.2026): theregister.com
- The Register, l’agente di Replit cancella il database di produzione, in inglese (22.07.2025): theregister.com
- ENISA, Technical Advisory on AI-assisted software development, bozza, in inglese (09.2026): enisa.europa.eu (PDF)
- BSI e ANSSI, AI Coding Assistants, in inglese (2024): bsi.bund.de (PDF)
- NCSC britannico, The «vibe coding spectrum», in inglese (18.06.2026): ncsc.gov.uk
- OWASP Top 10:2025, componenti di terzi vulnerabili o non mantenuti, in inglese (2025): top10.owasp.org
- Garante privacy, provvedimento del 17.04.2026, colpa nella scelta dei fornitori delle app (doc. web 10252460): garanteprivacy.it
- Garante privacy, newsletter del 10.04.2024, Regione Lazio e il suo fornitore informatico: garanteprivacy.it
- Consiglio federale, l’IFPDT conclude le indagini su Xplain, fedpol e UDSC, in inglese (01.05.2024): admin.ch
- Corte di giustizia dell’UE, causa C-683/21, chi decide gli scopi di un’app è titolare (05.12.2023): eur-lex.europa.eu
- Corte di giustizia dell’UE, causa C-340/21, prova delle misure e danno da timore di abuso (14.12.2023): eur-lex.europa.eu
- Security.NL, l’autorità olandese avverte: fughe di dati dall’uso di chatbot, in olandese (07.08.2024): security.nl
- OpenAI, controllo dei dati nella piattaforma API, conservazione fino a 30 giorni, in inglese (consultata l’08.11.2026): developers.openai.com
- CNIL, domande e risposte sull’uso di un sistema di IA generativa, in francese (18.07.2024): cnil.fr
- Legge federale sulla protezione dei dati (2020) e ordinanza (2022), testo su fedlex: fedlex.admin.ch
- IFPDT, guida ai provvedimenti tecnici e organizzativi (15.01.2024): edoeb.admin.ch (PDF)
- Regolamento generale sulla protezione dei dati (2016), testo su EUR-Lex: eur-lex.europa.eu
Prima di firmare il prossimo preventivo per un’app, manda quelle undici domande. Le risposte ti dicono più del prezzo.
