Negli ultimi giorni si sono moltiplicate le segnalazioni di utenti Instagram che vedono le proprie foto, scattate o modificate con strumenti comuni, contrassegnate come “AI Content”. Il sistema di etichettatura sembra quindi erroneamente identificare contenuti reali come generati dall’intelligenza artificiale.

Il paradosso è che lo strumento pensato per distinguere tra immagini autentiche e create tramite AI sta ottenendo l’effetto contrario, compromettendo la fiducia degli utenti. Molti casi segnalati riguardano l’utilizzo di funzioni come la rimozione dello sfondo offerta da Canva o semplici ritocchi estetici.

Un utente ha riferito che l’etichetta compariva ogni volta che utilizzava la funzione di rimozione sfondo su Canva. Un altro ha visto la propria foto taggata come AI dopo aver eliminato una piccola imperfezione con lo stesso strumento. Canva ha riconosciuto il problema, spiegando che alcuni dei suoi strumenti assistivi venivano erroneamente classificati come generativi e ha dichiarato di aver provveduto a correggerlo.

Nonostante la correzione dichiarata, diversi utenti continuano a segnalare lo stesso inconveniente. La rimozione dello sfondo utilizza il machine learning, una tecnologia simile a quella impiegata da Photoshop da oltre un decennio per la selezione di oggetti, ma non si tratta della stessa AI generativa utilizzata per creare contenuti originali.

Sono stati segnalati anche casi inspiegabili, come foto scattate con iPhone e modificate esclusivamente tramite l’app Foto nativa che sono state etichettate come generate dall’AI. Il brand cosmetico About Face, fondato dalla cantante Halsey, ha visto le proprie immagini contrassegnate, nonostante siano state realizzate con iPhone e successivamente ritoccate nell’app Foto.

The Verge ha condotto dei test pubblicando immagini interamente generate con Google Gemini, complete di watermark SynthID e metadati C2PA che ne certificano l’origine artificiale. Instagram non le ha etichettate. L’etichetta è scattata in modo affidabile solo con i sistemi AI di Meta stessa. Foto modificate con Photoshop AI, Adobe Firefly o le funzioni Apple Intelligence di iOS sono state pubblicate senza problemi, anche da un account nuovo e con pubblicazioni rapide.

Meta non ha fornito chiarimenti sui criteri esatti utilizzati per la scansione dei contenuti e sul funzionamento del sistema di etichettatura.

* Contenuto realizzato con l’ausilio di sistemi di intelligenza artificiale.