Substack ha integrato lo strumento Pangram, un rilevatore progettato per analizzare post, note e commenti al fine di stimare la quantità di testo che è stata scritta da una persona e non generata tramite intelligenza artificiale. L’iniziativa, promossa dal co-fondatore e CEO Chris Best, mira a fornire trasparenza in un panorama informativo sempre più affollato.

La funzione, accessibile attraverso il menu a tre puntini presente su ogni contenuto pubblicato sulla piattaforma, permette ai lettori di analizzare post, note, risposte e commenti. Il risultato è una stima della percentuale di testo generata manualmente rispetto a quella prodotta con l’assistenza dell’IA. L’analisi è disponibile per testi superiori alle 100 parole e si applica ai contenuti pubblicati a partire da martedì. I risultati sono visibili esclusivamente all’utente che richiede la scansione.

Il servizio è attualmente attivo sul web e sulle app iOS, con l’implementazione per Android prevista a breve. Substack sottolinea che questa funzionalità non ha lo scopo di vietare o penalizzare l’utilizzo della scrittura assistita dall’IA. Gli autori sono incoraggiati ad utilizzare il rilevatore sulle proprie bozze prima della pubblicazione, ad aggiungere una dichiarazione esplicativa sul proprio processo creativo (una sezione “How I make this”) e a segnalare o rimuovere le analisi che ritengono inaccurate.

L’azienda stessa utilizza l’IA internamente per diverse attività, tra cui lo sviluppo software, la ricerca e la creazione di funzionalità come le traduzioni automatiche. Chris Best ha espresso una chiara posizione: “Il problema non risiede nell’uso dell’IA o nella qualità dei suoi risultati, ma nello scostamento tra le aspettative del lettore e la realtà, soprattutto quando l’attenzione viene investita in contenuti che mancano di un reale contributo umano. Questo fenomeno lo abbiamo definito ‘Claudefishing’.”

Best ha aggiunto con una nota ironica: “Claude ha molto da offrire. Ma quando voglio conoscere l’opinione di Claude, gliela chiedo direttamente”. Il post include anche una critica velata a LinkedIn, spesso citata come piattaforma satura di contenuti generati automaticamente.

Secondo le stime di Pangram, fino al 40% del testo presente su alcune piattaforme social potrebbe essere attualmente generato dall’IA. Substack riconosce i limiti intrinseci nel rilevamento dell’IA, sottolineando che lo strumento è in grado di identificare l’utilizzo dell’intelligenza artificiale nella produzione del testo, ma non può determinare se il contenuto sia stato successivamente rivisto o curato da un essere umano. The Atlantic ha evidenziato come questi strumenti possano risultare imprecisi e portare a false accuse.

Lo sviluppatore Perry Metzger ha osservato che qualsiasi rilevatore di IA può essere aggirato tramite l’affinamento degli algoritmi, rendendo tali strumenti inefficaci nel lungo periodo. Il ricercatore Mor Naaman ha aggiunto che la stessa logica si applicherà anche agli autori: se i lettori utilizzano scanner per verificare l’autenticità dei contenuti, gli autori cercheranno di eludere questi controlli. Come sintetizzato da un commentatore su Substack, la presenza dell’IA non implica necessariamente l’assenza di un autore umano.