Hardware Ready Ready to Bench?
Il board di meta. Il consiglio di amministrazione di Meta ha ordinato la rimozione da Facebook di due video generati con intelligenza artificiale, prendendo di mira una consigliera comunale laburista scozzese e una giovane volontaria impegnata in una campagna sulla salute mestruale. L’Oversight Board di Meta ha giudicato le regole esistenti “costantemente e profondamente inadeguate” per affrontare la rapida proliferazione dei contenuti sintetici sulle piattaforme.
In entrambi i casi, Meta aveva inizialmente lasciato online i video, decisioni poi ribaltate dal board. I due procedimenti evidenziano una preoccupante tendenza all’uso di deepfake per molestare le donne e limitarne la partecipazione al dibattito pubblico, come sottolineato da Pamela San Martin, co-presidente del board.
Il board di meta: perché è importante
Il primo video, pubblicato su Facebook nel novembre 2025, attribuiva alla consigliera una dichiarazione che non aveva mai rilasciato: “I rifugiati sono i benvenuti qui, anche se stuprano le nostre donne, perché lo fanno anche i bianchi”. L’audio presentava una sincronizzazione imperfetta con i movimenti del volto, suggerendo la manipolazione. Il filmato faceva parte di un album contenente fotografie di diverse donne identificate come partecipanti a una manifestazione contro l’estrema destra e aveva superato le cinquemila visualizzazioni.
Due persone, inclusa la consigliera stessa, avevano segnalato il contenuto. I sistemi automatici di Meta non hanno inoltrato il video a un revisore umano, respingendo entrambi gli appelli. La consigliera ha riferito di aver anche denunciato l’accaduto alla polizia senza ottenere risultati e ha descritto l’uso della propria voce replicata come “piuttosto traumatico”.
Meta aveva sostenuto che il video non violava alcuna regola e non necessitava di un’etichetta per contenuti generati con IA, posizione mantenuta anche dopo l’apertura del caso da parte del board. L’azienda ha spiegato che nessuna organizzazione del programma Trusted Partner aveva segnalato il filmato e che il contenuto non conteneva affermazioni vietate su voto o censimento.
La maggioranza del board ha concluso diversamente, stabilendo che il video violava le regole contro la condotta d’odio perché attribuiva “criminalità grave e comportamento sessuale predatorio” ai rifugiati come gruppo intero, anziché a singoli individui. Il board ha raccomandato l’applicazione dell’etichetta “High Risk AI”. Una minoranza del board ha ritenuto che il bersaglio principale fossero le posizioni attribuite alla politica, non i rifugiati in sé; per quanto riguarda bullismo e molestie, non è stata riscontrata alcuna violazione, dato lo status di figura pubblica della consigliera.
Il secondo procedimento riguardava una giovane donna musulmana in Europa che aveva partecipato a un’intervista televisiva nell’ambito di una campagna di educazione alla salute mestruale rivolta a donne e ragazze appartenenti a minoranze etniche. Dopo la trasmissione, account su diverse piattaforme hanno manipolato digitalmente le immagini dell’intervista per deriderla, generando video che hanno accumulato decine di milioni di visualizzazioni, anche sulle piattaforme di Meta.
Cosa cambia e quali sono gli effetti
Il board si è concentrato su uno di questi video, che la ritrae mentre esegue esercizi assurdi e consuma cibo spazzatura, giudicandolo una violazione delle regole sul bullismo e le molestie. La segnalazione del video e il successivo appello sono stati chiusi automaticamente dai sistemi di Meta senza l’applicazione di alcuna etichetta relativa alla provenienza sintetica. L’azienda ha rimosso i commenti molesti sotto al post solo dopo l’intervento del board.
Il board ha formulato nove raccomandazioni: sei relative al primo caso e tre al secondo. Tra queste, abbassare la soglia per l’attivazione dell’etichetta “High Risk AI”, attualmente legata a crisi ed elezioni, e affiancarla o sostituirla con una schermata di avviso che richieda un clic prima della visualizzazione. Il board chiede inoltre che gli algoritmi riducano la distribuzione dei contenuti classificati ad alto rischio, che questi vengano demonetizzati, che gli account recidivi subiscano sanzioni più severe e che Meta pubblichi annualmente i dati relativi all’applicazione delle etichette.
Altre raccomandazioni riguardano la coda di revisione, con priorità ai contenuti potenzialmente sintetici una volta segnalati, e l’ampliamento della definizione di “immagini manipolate indesiderate” fino a includere i deepfake che mostrano un privato cittadino mentre dice o fa cose che non ha detto né fatto. Le decisioni sui singoli contenuti sono vincolanti per Meta, che ha comunicato la rimozione dei due video. Le raccomandazioni relative alle policy non lo sono: l’azienda ha sessanta giorni per indicare le proprie intenzioni e in passato ha accolto solo poche delle proposte del board sull’etichettatura dei contenuti sintetici. Lo strumento attualmente in uso è il banner “AI Info”.
Fonte e approfondimento su il board di meta: articolo originale.
* Contenuto realizzato con l'ausilio di sistemi di intelligenza artificiale.