Gli utenti di Reddit pensavano di discutere di persone reali. Invece, erano soggetti inconsapevoli in uno studio segreto di intelligenza artificiale e non ne sono contenti.
I ricercatori dell’Università di Zurigo hanno condotto silenziosamente un esperimento di AI Reddit su R/ChangeMyview, una delle comunità più popolari della piattaforma. Hanno usato modelli di lingue di grandi dimensioni per generare commenti personalizzati volti a ondeggiare le opinioni degli utenti, senza dirlo a nessuno.
Ancora peggio, l’intelligenza artificiale ha elaborato le identità false, posando come tutto, dai consulenti di trauma agli attivisti politici, il tutto adattando i loro argomenti in base alle storie di Reddit degli utenti. Dopo il completamento dello studio, i ricercatori hanno contattato i moderatori della comunità per avviare un “debriefing” con la comunità.
Basti dire che i moderatori di R/ChangeMyview erano furiosi, accusando i ricercatori di violare più regole della comunità, comprese le regole che vietano l’uso non divulgato AI e i conti automatizzati. Hanno presentato una denuncia formale all’Università di Zurigo e hanno richiesto che i risultati dello studio non vedessero mai la luce del giorno.
Reddit stesso non ha trattenuto neanche, con il Chief Authorized Officer della compagnia che chiama l’esperimento di AI Reddit “Profondamente sbagliato sia a livello morale che legale.” Tutti i conti collegati al progetto sono stati permanentemente vietati e Reddit sta persino cercando un’azione legale per quanto riguarda lo studio.
I ricercatori hanno cercato di difendere le loro azioni Un lungo publish di Redditdicendo che lo studio period a basso rischio e poteva aiutare le comunità on-line a difendersi da campagne di intelligenza artificiale dannose. Ma molti Redditor non lo acquistano. Come hanno sottolineato i moderatori, lo studio dei dati Reddit è una cosa; Manipolare segretamente le vere conversazioni è un’altra.
La ricaduta sta già forzando il cambiamento. L’Università di Zurigo ha affermato che sta rafforzando il suo processo di revisione etica, promettendo una supervisione più rigorosa per futuri esperimenti, Engadget segnalazioni. I ricercatori, di fronte a pesanti contraccolpi, hanno accettato di non pubblicare i loro risultati, anche se puoi Leggi un archivio di molti dei commenti per te stesso.
Tuttavia, il danno è fatto e questo esperimento di AI Reddit non è qualcosa che probabilmente dimenticheremo presto. Almeno l’ultima volta che è successo qualcosa del genere, period solo Redditor che discutono sul fatto che una foto fosse AI o no.
