Hardware Ready Ready to Bench?
Conversazione con claude. Una conversazione intercorsa con Claude, il chatbot sviluppato da Anthropic, ha portato all’arresto di una donna nello stato della Florida. Carli Michelle Heller, residente a Bonita Springs, avrebbe espresso nella chat l’intenzione di “sparare contro” l’ufficio dello sceriffo della contea, come riportato dalla testata WINK News e ripreso da The Next Web.
L’episodio risale al 26 settembre. Il giorno successivo, secondo quanto emerso dal rapporto delle forze dell’ordine, Heller avrebbe comunicato di aver recentemente acquistato una nuova arma da fuoco. I messaggi incriminati sono stati rilevati dai sistemi interni di monitoraggio di Anthropic, progettati per analizzare le conversazioni alla ricerca di espressioni e contenuti potenzialmente pericolosi.
Conversazione con claude: perché è importante
La gravità delle dichiarazioni ha indotto un team umano di Anthropic a effettuare una verifica più approfondita. Gli operatori hanno valutato il contenuto della conversazione ritenendolo sufficientemente concreto da giustificare la segnalazione alle autorità competenti. Successivamente, gli agenti si sono recati all’abitazione della donna e l’hanno fermata senza che vi fossero particolari incidenti.
Un detective dell’unità di intelligence dello sceriffo ha quindi assunto le redini delle indagini. Lo sceriffo Carmine Marceno, in dichiarazioni rilasciate a WINK News, ha riferito che Heller avrebbe spiegato di utilizzare Claude come una sorta di “diario” personale, apparentemente non consapevole del fatto che le conversazioni potessero essere soggette a controlli.
“L’intelligenza artificiale è uno strumento potente e, come qualsiasi tecnologia, può essere utilizzata in modo improprio. Quando qualcuno utilizza l’AI per formulare o facilitare una minaccia, dobbiamo prenderla sul serio. Gli utenti devono comprendere che non sono mai veramente anonimi”, ha affermato Marceno.
La policy di Anthropic relativa alle richieste governative prevede la fornitura di informazioni agli investigatori in presenza di un valido procedimento legale, con l’eccezione delle situazioni di emergenza che potrebbero causare danni fisici imminenti o la morte. Secondo quanto riportato dai media locali, almeno altri due casi hanno portato conversazioni intercorse tramite Claude all’attenzione della polizia a partire dal mese di agosto.
L’11 agosto, un ventiduenne residente a San Antonio avrebbe chiesto a Claude informazioni relative alla possibilità di compiere una sparatoria in una scuola elementare nelle vicinanze. Le autorità sono state allertate dall’FBI e l’uomo è stato arrestato con l’accusa di minaccia terroristica. Il 14 agosto, a San Francisco, un altro utente avrebbe minacciato in una conversazione con Claude l’amministratore delegato di Anthropic, Dario Amodei, affermando inoltre di aver acquistato un fucile AR-15. In questo caso, Anthropic ha informato le forze dell’ordine, ma non sono seguiti arresti o incriminazioni.
Cosa cambia e quali sono gli effetti
Anche OpenAI ha già segnalato conversazioni alle autorità competenti. A marzo, un uomo della Florida aveva scritto a ChatGPT esprimendo l’intenzione di uccidere la propria ex fidanzata. OpenAI aveva informato l’FBI e l’uomo si è successivamente dichiarato colpevole delle accuse mosse contro di lui, tra cui minacce scritte di morte, venendo condannato a otto anni di libertà vigilata.
Questi eventi sollevano interrogativi sul grado di monitoraggio che le aziende sviluppatrici di chatbot dovrebbero attuare sulle conversazioni degli utenti per individuare possibili minacce. Da un lato, l’analisi automatizzata e la successiva verifica umana possono consentire di identificare intenzioni violente prima che si concretizzino in azioni reali. Dall’altro, gli utenti potrebbero considerare le conversazioni con un chatbot come uno spazio privato, soprattutto quando utilizzano il servizio per esprimere pensieri, paure o intenzioni senza necessariamente avere l’intenzione di trasformarli in comportamenti effettivi.
Il dibattito è diventato ancora più acceso a seguito della sparatoria avvenuta a Tumbler Ridge, in Canada, dove è emerso che l’autore dell’attacco aveva utilizzato ChatGPT nella pianificazione della strage. In tale occasione, alcune conversazioni erano già state segnalate per una revisione umana prima del verificarsi dell’evento. Il caso ha portato anche il CEO di OpenAI, Sam Altman, a porgere pubblicamente le proprie scuse per la gestione della situazione.
Nel frattempo, il procuratore generale dello stato della Florida, che aveva citato in giudizio OpenAI nel mese di giugno, sta chiedendo al tribunale di imporre ulteriori misure alla società.
Fonte e approfondimento su conversazione con claude: articolo originale.
* Contenuto realizzato con l'ausilio di sistemi di intelligenza artificiale.