Un peluche che risponde a tutte le domande, racconta storie inventate al momento e si ricorda il nome del cane. Per un bambino è una magia, per chi lo regala sembra un giocattolo educativo. La parte che non si vede è dove finisce tutto quello che il bambino gli racconta.
Cosa è successo con Bondu?
Le chiacchierate dei bambini con il giocattolo erano visibili a chiunque entrasse con un account Google qualsiasi. Joseph Thacker, ricercatore di sicurezza, ha guardato Bondu perché una vicina ne aveva ordinati due per i figli e voleva sapere se erano sicuri. Un suo amico, il ricercatore Joel Margolis, ha trovato una pagina di accesso dell’azienda: bastava il pulsante «Accedi con Google» per entrare non in un’area per i genitori, ma nel pannello di amministrazione di Bondu.
Lì dentro c’erano:
- le trascrizioni delle conversazioni di tutti i bambini, decine di migliaia;
- nome e data di nascita del bambino, i nomi dei familiari, cosa gli piace e cosa no;
- gli obiettivi che i genitori avevano fissato per il figlio;
- la posizione approssimativa del giocattolo e la possibilità di riavviarlo o aggiornarlo a distanza.
Secondo i ricercatori, Bondu ha confermato loro che le trascrizioni raggiungibili erano più di 50.000: praticamente tutte, tranne quelle cancellate a mano da genitori o personale.
WIRED, un giocattolo con IA ha esposto 50'000 conversazioni con bambini (in inglese) Malwarebytes, An AI plush toy exposed thousands of private chats with children (in inglese)Va detto anche quello che Bondu ha fatto bene: avvisata, ha spento il pannello in una decina di minuti e ha corretto le falle il giorno dopo. Dai suoi registri risultavano solo gli accessi dei ricercatori. Le registrazioni della voce erano conservate a parte e cancellate da sole dopo un certo tempo, e non c’era modo di ascoltare dal microfono in diretta.
Cosa ascolta e registra un giocattolo con IA?
Quello che il bambino dice, e a volte anche quello che si dice intorno. Per rispondere, il giocattolo deve sentire. Come lo fa dipende da come è costruito. L’associazione di consumatori americana U.S. PIRG ha provato quattro di questi giocattoli nel rapporto «Trouble in Toyland» di novembre 2025 e ha trovato tre modi diversi:
- pulsante da tenere premuto, come un walkie-talkie: il giocattolo ascolta solo finché il bambino preme. È il sistema che lascia più controllo;
- parola di attivazione, come gli assistenti vocali di casa: il giocattolo è sempre in ascolto di una parola tipo «Ciao» seguita dal suo nome, poi registra;
- sempre in ascolto: se è acceso, ascolta tutto quello che succede nella stanza. Uno dei giocattoli provati si è inserito più volte nelle conversazioni di chi gli stava vicino.
Il rapporto ricorda anche perché la voce è un dato delicato: con pochi secondi di registrazione oggi si può imitare la voce di una persona. È il trucco delle telefonate in cui un «figlio» chiede soldi d’urgenza, che ho spiegato nell’articolo sui deepfake vocali.
U.S. PIRG Education Fund, Trouble in Toyland 2025 (PDF, in inglese)Nello stesso rapporto c’è un altro problema, che non riguarda la privacy ma vale la pena sapere: i giocattoli usano gli stessi «cervelli» dei chatbot per adulti, e almeno uno ha spiegato ai ricercatori dove trovare coltelli e fiammiferi in casa e ha parlato di temi sessuali. Quell’orsetto, Kumma, secondo la SRF oggi non è più in vendita. Un altro giocattolo cercava di trattenere chi diceva «Devo andare».
SRF, Sprechende KI-Teddys: Das sollten Eltern wissen (in tedesco)Dove vanno le conversazioni?
Quasi sempre su Internet, nei computer dell’azienda e spesso di altre aziende. Il giocattolo di solito non «pensa» da solo: manda la voce o il testo a un servizio esterno, riceve la risposta e la legge al bambino. Nel caso Bondu, secondo i ricercatori, dietro c’erano i modelli di OpenAI e di Google, con il profilo del bambino e le conversazioni precedenti passati come contesto. Secondo i ricercatori era scritto nell’informativa privacy, ma pochi la leggono.
Il rapporto PIRG ha confrontato le regole dichiarate dai produttori (dichiarazioni a novembre 2025):
| Cosa dichiara il produttore | Cosa vuol dire per te |
|---|---|
| Curio (Grok): trasforma la voce in testo e cancella subito l’audio, tiene il testo 90 giorni | La voce passa comunque da un servizio esterno; il testo resta fino a tre mesi, se non lo cancelli prima |
| Miko 3: può conservare dati del volto fino a tre anni e condividere dati con «partner pubblicitari» senza nomi | Dati del volto conservabili fino a tre anni, e alcuni dati condivisi con aziende di cui non conosci il nome |
| FoloToy (Kumma): nessuna informazione trovata su dati e conservazione | Non sai niente: è già una risposta |
Anche in Svizzera se ne parla. Già nel 2024 una ricercatrice dell’Università di Basilea, analizzando uno di questi giocattoli, il razzo di peluche di Curio, aveva visto che l’audio partiva continuamente verso Internet. La Protezione dell’infanzia Svizzera (Kinderschutz Schweiz) lo ha definito un intervento massiccio nei diritti della personalità del bambino e sconsiglia di comprarli. Alcuni, come l’orsetto Poe, si trovano già nei negozi online svizzeri.
SRF, KI im Kinderzimmer: Spielzeuge, die mithören (in tedesco) SRF, Sprechende KI-Teddys: Das sollten Eltern wissen (in tedesco)Quali domande faccio prima di comprarlo?
Sei domande, a cui la scatola, il sito del produttore o il negoziante dovrebbero saper rispondere. Se non trovi la risposta, conta come un no. Puoi farle anche al telefono al negozio, o chiedere a un familiare di cercarle sul sito del produttore.
- Come ascolta? Pulsante da premere, parola di attivazione o sempre acceso? Il pulsante è la scelta più prudente.
- Serve un account, e cosa chiede? Se vuole nome completo, data di nascita, scuola o foto del bambino, chiediti a cosa serve. Dove puoi, usa un nome di fantasia.
- Dove vanno i dati e chi li riceve? Un produttore serio dice quali altre aziende ricevono le conversazioni. «Partner commerciali» senza nomi è un cattivo segno, «inserzionisti» ancora di più.
- Per quanto tempo li tiene? Giorni o settimane è ragionevole, anni no.
- Posso vedere e cancellare le conversazioni? Meglio se dall’app, con un tasto, senza dover scrivere all’azienda.
- Funziona anche senza Internet? Alcuni fanno qualcosa anche scollegati. Se senza connessione è un pezzo di stoffa, sappi che ogni frase passa dalla rete.
E una domanda in più, che il rapporto PIRG suggerisce: chi c’è dietro? Una piccola azienda appena nata può chiudere da un giorno all’altro e lasciare un giocattolo che non funziona più, con i dati chissà dove. Cerca il nome del produttore insieme a parole come «falla» o «privacy».
Detto con il Metodo 3V del libro «Sicurezza informatica per professionisti»: prima di dare al giocattolo la voce di tuo figlio, verifica chi c’è dietro e dove vanno i dati, valida se serve davvero che un peluche sia collegato a Internet, e usa la velocità controllata: se è un regalo, tienilo da parte un’ora prima di consegnarlo.
Se il giocattolo è già in casa, che regole metto?
Le stesse che il Garante della privacy italiano suggerisce per tutti i giocattoli connessi, più un paio di buon senso.
- Si spegne quando non si usa, e la notte resta fuori dalla camera. «Se non lo usi, spegnilo» è il consiglio del Garante.
- Il nome di fantasia nel profilo, e solo i dati che servono davvero.
- Disattiva le funzioni che non servono: posizione, fotocamera, condivisione con altri.
- Spiega al bambino che il peluche non è un amico segreto: «Quello che gli dici lo sente anche l’azienda che l’ha fatto. I segreti si dicono alla mamma, al papà, alla nonna.»
- Ogni tanto ascolta o leggi le conversazioni, se l’app lo permette, poi cancellale.
- Prima di regalarlo o buttarlo, cancella l’account e i dati, e chiedi al produttore di cancellare quelli che ha lui.
E se scopro che i dati di mio figlio sono finiti in giro?
- Cancella le conversazioni e l’account dall’app, e scrivi al produttore per chiedere quali dati ha e di cancellarli: è un tuo diritto, in Svizzera e in Italia.
- Spegni il giocattolo finché non sai cosa è successo.
- Segnala. In Svizzera all’Ufficio federale della cibersicurezza (UFCS), con il modulo online, e per i dati personali all’Incaricato federale della protezione dei dati (IFPDT), e se qualcuno contatta tuo figlio o te, alla polizia cantonale. In Italia al Garante della privacy e, se qualcuno usa quei dati per contattare tuo figlio o te, alla Polizia Postale.
- Avvisa la famiglia che potrebbero arrivare telefonate o messaggi che usano il nome del bambino o la sua voce: in caso di dubbio si richiama al numero che si ha già.
Domande frequenti
Un giocattolo con intelligenza artificiale è adatto a un bambino piccolo?
Nessuno lo sa ancora con certezza. I ricercatori del rapporto PIRG scrivono che anche un giocattolo che supera tutti i loro controlli non è per forza innocuo, perché gli effetti sullo sviluppo dei bambini sono poco studiati. Se decidi di comprarlo, usalo insieme al bambino, almeno all'inizio, e non lasciarlo come compagnia per ore.
Il peluche mi ascolta anche quando nessuno ci gioca?
Dipende da come è fatto. Se ha un pulsante da tenere premuto, no. Se ha una parola di attivazione, è in ascolto di quella parola. Se è «sempre in ascolto», sente tutto finché è acceso. Nel dubbio, spegnilo o toglilo dalla stanza quando non si usa.
Posso fidarmi se sulla scatola c'è scritto «sicuro per i bambini»?
Quella scritta di solito riguarda i contenuti: cosa il giocattolo dice o non dice. Non dice niente su chi può leggere le conversazioni. Anche Bondu aveva una pagina sulla sicurezza dei contenuti, e il pannello con le chat era aperto a chiunque.
Se a Natale arriva un giocattolo che parla, tienilo da parte un’ora prima di consegnarlo: è il tempo che serve per leggere le risposte alle sei domande e impostarlo con calma.
