Openai venerdì rivelato che ha vietato una serie di account che utilizzavano il suo strumento CHATGPT per sviluppare uno strumento di sorveglianza con potenza di intelligenza artificiale (AI).
Si cube che lo strumento di ascolto dei social media sia probabilmente proveniente dalla Cina ed è alimentato da uno dei meta’s Modelli Llamacon i conti in questione che utilizzano i modelli della società di intelligenza artificiale per generare descrizioni dettagliate e analizzare i documenti per un apparato in grado di raccogliere dati in tempo reale e rapporti sulle proteste anti-cinese in Occidente e condividere le intuizioni con le autorità cinesi.
La campagna è stata in codice revisione tra pari a causa del “comportamento della rete nella promozione e revisione degli strumenti di sorveglianza”, hanno notato i ricercatori Ben Nimmo, Albert Zhang, Matthew Richard e Nathaniel Hartley, aggiungendo che lo strumento è progettato per ingerire e analizzare i put up e i commenti dalle piattaforme Come X, Fb, YouTube, Instagram, Telegram e Reddit.
In un caso contrassegnato dalla società, gli attori hanno utilizzato CHATGPT per debug e modificare il codice sorgente che si ritiene eseguisse il software program di monitoraggio, indicato come “Assistente di AI dell’opinione pubblica di Qianyue all’estero”.
Oltre a utilizzare il suo modello come strumento di ricerca per emergere informazioni disponibili pubblicamente sui suppose tank negli Stati Uniti e funzionari governativi e politici in paesi come Australia, Cambogia e Stati Uniti, il cluster è stato anche trovato per sfruttare l’accesso a CHATGPT a Learn, tradurre e analizzare gli screenshot dei documenti in lingua inglese.
Alcune delle immagini erano annunci delle proteste dei diritti di Uyghur in varie città occidentali e probabilmente furono copiate dai social media. Al momento non è noto se queste immagini fossero autentiche.
Openai ha anche affermato di aver interrotto diversi altri cluster che sono stati trovati abusando di Chatgpt per varie attività dannose –
- Schema di lavoro ingannevole – Una rete della Corea del Nord legata al Schema di lavoratori IT fraudolenti Ciò è stato coinvolto nella creazione di documentazione personale per candidati a lavoro fittizio, come curriculum, profili di lavoro on-line e lettere di copertura, oltre a presentare risposte convincenti per spiegare comportamenti insoli ore. Alcune delle applicazioni di lavoro fasulle sono state quindi condivise su LinkedIn.
- Malcontento sponsorizzato – Una rete probabilmente di origine cinese che è stata coinvolta nella creazione di contenuti sui social media negli articoli in inglese e di lunga durata in spagnolo che erano critici nei confronti degli Stati Uniti e successivamente pubblicati dai siti Net di notizie latinoamericana in Perù, Messico e Ecuador. Alcune attività si sovrappongono a un cluster di attività noto doppiato Spamouflage.
- Truffa esca romantica – Una rete di account coinvolti nella traduzione e nella generazione di commenti in giapponese, cinese e inglese per la pubblicazione su piattaforme di social media tra cui Fb, X e Instagram in relazione alla sospetta origine Cambogia. Scamme romantiche e investimenti.
- Influenza iraniana Nexus -Una rete di cinque account coinvolti nella generazione di put up e articoli X che erano pro-palestinesi, pro-Hamas e pro-iran, anti-israelia Operazioni monitorate come Worldwide Union of Digital Media (IUVM) E Storm-2035. Uno tra gli account vietati è stato utilizzato per creare contenuti per entrambe le operazioni, indicativa di una “relazione precedentemente non segnalata”.
- Kimsuky e Bluenoroff – Una rete di conti gestiti da attori delle minacce nordcoreane che erano coinvolto nella raccolta di informazioni relative agli strumenti di intrusione informatica e Argomenti relativi alla criptovalutae il codice di debug per remoto protocollo desktop (RDP) attacchi bruto-forza
- Iniziativa giovanile Influenza segreta – Una rete di account coinvolti nella creazione di articoli in lingua inglese per un sito Net chiamato “Empowering Ghana” e commenti sui social media rivolti alle elezioni presidenziali del Ghana
- SCAM ASSUTO – Una rete di conti probabilmente originati dalla Cambogia coinvolti nella traduzione di commenti tra urdu e inglese come parte di un truffa Ciò attira le persone ignari in lavori che svolgono semplici compiti (advert es. Liking di video o recensioni di scrittura) in cambio di guadagnare una commissione inesistente, accedendo che richiede alle vittime di separarsi dal proprio denaro.
Lo sviluppo arriva quando gli strumenti AI vengono sempre più utilizzati dai cattivi attori per facilitare campagne di disinformazione abilitate al cyber e altre operazioni dannose.
Il mese scorso, Google Risk Intelligence Group (GTIG) rivelato Che oltre 57 distinti attori delle minacce con legami con Cina, Iran, Corea del Nord e Russia hanno usato il suo chatbot Gemini AI per migliorare le fasi a number of del ciclo di attacco e condurre ricerche su eventi topici o eseguire creazione di contenuti, traduzione e localizzazione.
“Le intuizioni uniche che le aziende di intelligenza artificiale possono raccogliere dagli attori delle minacce sono particolarmente preziose se sono condivise con fornitori a monte, come gli sviluppatori di internet hosting e software program, piattaforme di distribuzione a valle, come società di social media e ricercatori open supply”, ha affermato Openai.
“Allo stesso modo, le intuizioni che i fornitori e i ricercatori a monte e a valle hanno gli attori delle minacce aprono nuove strade di rilevamento e applicazione per le società di intelligenza artificiale.”
