Susanna Riva Il governatore di New York, Kathy Hochul, ha firmato questa mattina due disegni di legge destinati a ridisegnare il modo in cui l’intelligenza artificiale entra nelle case dei giovani. Il provvedimento principale riguarda i chatbot generativi, che negli ultimi mesi sono diventati compagni virtuali per adolescenti e preadolescenti. La norma si inserisce in una più ampia strategia statale volta a limitare le tecnologie potenzialmente pericolose per i minori, aggiungendosi a provvedimenti già approvati in California e in altri dodici stati.
Le disposizioni chiave della normativa sui chatbot per minori
Il testo legge impone a tutti i fornitori di chatbot basati sull’intelligenza artificiale di confermare l'età dell'utente prima di attivare qualsiasi funzionalità. La verifica deve avvenire mediante più metodi, di cui almeno uno non può basarsi esclusivamente su un documento d'identità governativo.
Una volta effettuata la conferma, i dati relativi all'età devono essere eliminati immediatamente, impedendo così la creazione di profili longitudinali dei minori.
Contenuti proibiti e modalità di interazione
La legge elenca dodici categorie di comportamento ritenuto pericoloso. I bot non possono sembrare umani, affermare di provare emozioni o presentarsi come figure di riferimento – né personali né professionali – per un utente sotto i 18 anni.
È vietato anche l'uso di lusinghe, risposte pensate per mantenere l'utente incollato allo schermo, domande emotive non richieste o la divulgazione di dati sanitari o personali raccolti in precedenti conversazioni. Inoltre, i bot non devono promuovere suicidio, autolesionismo, disturbi alimentari, abuso di sostanze o contenuti sessualmente espliciti, né incoraggiare il minorenne a nascondere informazioni a genitori o adulti di riferimento.
Sanzioni e rimedi previsti
Il dipartimento dell'Attenzione al Consumatori dello Stato potrà infliggere multe fino a 25.000 dollari per ogni violazione, oltre a chiedere risarcimenti per danni e a ordinare la distruzione dei dati illegalmente raccolti. In caso di violazioni gravi, le autorità possono anche imporre la cancellazione degli algoritmi addestrati con le informazioni dei minori, limitando di fatto l'uso futuro di quei modelli da parte dell'azienda responsabile.
L’estensione della normativa ai monitor per bambini
Oltre ai chatbot, il secondo disegno di legge si concentra sui baby monitor connessi a Internet. A partire da novanta giorni dalla pubblicazione, tutti i nuovi dispositivi venduti nello Stato dovranno includere protezioni di sicurezza che impediscano a estranei di accedere a audio o video in tempo reale. Inoltre, su ogni unità dovrà comparire un’etichetta chiara che avverte della connessione a internet e invita le famiglie a configurare le impostazioni di privacy. Il provvedimento è stato motivato da test di sicurezza che hanno assegnato a otto su nove dispositivi valutati un "F" o un "D", evidenziando la vulnerabilità di questi prodotti davanti a potenziali hacker.
Reazioni dell'industria e prospettive future
L'associazione di categoria Tech:NYC ha denunciato un linguaggio troppo generico nella legge, temendo possibili conflitti con il Primo Emendamento sulla libertà di espressione. Parallelamente, le aziende di intelligenza artificiale stanno già aggiornando le proprie politiche di sicurezza, ma rimane il timore che le definizioni ampie possano limitare anche servizi legittimi, come tutoraggio scolastico o assistenza nella programmazione. In un contesto nazionale in cui dodici stati hanno approvato normative analoghe, New York si posiziona come uno dei più rigorosi, spingendo verso un "pavimento minimo" di protezione per i bambini di fronte alla rapida evoluzione dell'IA.