Meta introduce nuove tutele: genitori avvisati se gli adolescenti mostrano segni di disagio con l’AI

In un impegno costante volto a garantire esperienze sicure e adeguate all'età degli utenti più giovani, Meta ha annunciato l'introduzione di nuove protezioni all'interno delle conversazioni con Meta AI. L'azienda ha stabilito che, qualora un adolescente dovesse discutere di temi delicati come il suicidio o l'autolesionismo con l'intelligenza artificiale, i genitori che utilizzano gli strumenti di supervisione su Instagram riceveranno una notifica proattiva. Questo sistema di avviso, sviluppato in collaborazione con esperti del settore, è progettato per identificare segnali di rischio all'interno delle chat, anche quando i riferimenti al malessere risultano sottili o indiretti. Per bilanciare la privacy dei ragazzi con la necessità di protezione, ogni segnalazione identificata dall'AI sarà soggetta a una revisione manuale da parte di operatori umani prima che venga inviato l'alert ai genitori, accompagnato da risorse professionali studiate per facilitare un dialogo costruttivo.

Oltre al coinvolgimento delle famiglie, Meta sta implementando strumenti per il contatto diretto con i servizi di emergenza in casi in cui l'AI rilevi un rischio imminente per la vita dell'utente, estendendo così le procedure di protezione già operative su Facebook e Instagram. L'efficacia di questi interventi poggia su un rigoroso processo di validazione scientifica: oltre 75 esperti clinici specializzati in salute mentale adolescenziale hanno collaborato con l'azienda per perfezionare le modalità di risposta dell'intelligenza artificiale, assicurando che il sistema non interrompa bruscamente il dialogo, ma sappia accogliere le emozioni del minore indirizzandolo verso supporti offline, come helpline professionali o figure di riferimento. Gli alert per i genitori sono attualmente attivi in diversi mercati internazionali e saranno estesi a livello globale entro la fine dell'anno.

Parallelamente, Meta sta inasprendo le restrizioni sui contenuti accessibili agli adolescenti. L'impostazione "Limited Content", già presente su Instagram per i genitori che desiderano un'esperienza più protetta, verrà ora applicata anche alle interazioni con l'AI. Con questa configurazione, Meta AI limiterà ulteriormente la gamma di conversazioni consentite, rifiutandosi di rispondere a una serie più ampia di prompt potenzialmente inappropriati o non adatti all'età dei minori. Questi aggiornamenti si sommano alle tutele esistenti che già impediscono all'intelligenza artificiale di generare contenuti su temi sensibili come conversazioni romantiche o indicazioni su sostanze alcoliche, confermando la volontà di Meta di costruire un ecosistema digitale in cui l'innovazione tecnologica sia sempre subordinata al benessere e alla sicurezza psicologica degli adolescenti.