Meta ha annunciato la rimozione di una funzionalità introdotta in Instagram che permetteva agli utenti di generare immagini tramite intelligenza artificiale (AI) con Muse Image, utilizzando contenuti provenienti da account pubblici. La decisione è arrivata dopo numerose critiche riguardanti la privacy e il consenso degli utenti.

La funzione, che non prevedeva un sistema per notificare agli utenti l’utilizzo delle loro foto, ha suscitato immediate proteste da diverse organizzazioni e figure del settore. Venerdì, Meta ha comunicato la decisione tramite un post sul proprio blog.

Muse Image era uno strumento basato su AI progettato per arricchire la condivisione delle Storie, consentendo agli utenti di trasformare fotografie e menzionare account Instagram pubblici per generare immagini creative a partire da questi ultimi. L’idea era quella di offrire un tool creativo utile, dando agli utenti il controllo sulla possibilità che i loro contenuti pubblici venissero citati.

Per limitare l’utilizzo dei propri contenuti pubblici, gli utenti potevano disattivare le relative opzioni per post e reel direttamente nelle impostazioni dell’app mobile. La procedura prevedeva l’accesso a Impostazioni di Instagram > Condivisione e riutilizzo.

Meta ha aggiornato il post originale che annunciava Muse Image per comunicare ufficialmente la rimozione della funzionalità: “All’inizio di questa settimana abbiamo annunciato che una delle modalità per generare immagini in Meta AI consisteva nel menzionare con il simbolo @ gli account Instagram pubblici che si desiderava citare. Il nostro intento era quello di fornire uno strumento creativo utile e dare agli utenti il controllo sulla possibilità che i loro contenuti pubblici venissero citati in questo modo. Tuttavia, abbiamo preso atto dei feedback ricevuti che indicavano come questa funzionalità non abbia pienamente raggiunto l’obiettivo prefissato, pertanto è stata resa non più disponibile”.

Tra le prime realtà a sollevare preoccupazioni riguardo alla tutela della privacy, Public Citizen, un gruppo di difesa dei diritti dei consumatori. Anche il National Center on Sexual Exploitation aveva evidenziato i potenziali rischi legati a fenomeni come sextorsion e altre forme di truffa online. La Creative Artists Agency (CAA), che rappresenta artisti del calibro di Tom Hanks e Meryl Streep, aveva formalmente chiesto a Meta di implementare un sistema basato sul consenso esplicito da parte degli utenti prima dell’utilizzo dei loro contenuti.

SAG-AFTRA, il sindacato dei lavoratori dello spettacolo, aveva invitato i propri iscritti a disattivare la funzione e aveva definito inaccettabile un approccio basato sull’opt-out (sul principio del consenso presunto). Pochi giorni prima dell’annuncio di Meta, la Commissione europea aveva espresso delle riserve preliminari riguardo alla conformità della piattaforma con la legge sui servizi digitali.

Le preoccupazioni riguardavano l’algoritmo utilizzato da Instagram e Facebook, ritenuto potenzialmente in grado di creare dipendenza senza adeguata considerazione per il benessere fisico e mentale degli utenti, inclusi minori e adulti vulnerabili. La Commissione aveva rilevato una potenziale violazione della legge sui servizi digitali.