Allarme per l’uso di ChatGPT, potrebbe sviluppare tool pericolosi

Gli analisti segnalato che al momento i tool siano pericolosi ma elementari. È però questione di tempo prima che i criminali li migliorino

intelligenza artificiale AI

Check Point Research ha messo sotto osservazione i primi casi di criminali IT e utenti che utilizzano ChatGPT per sviluppare tool pericolosi segnalando tre casi. Nei forum di hacking clandestini vengono creati infostealer, strumenti di crittografia e facilitate le attività di frode. CPR avverte del rapido aumento dell’interesse per ChatGPT da parte dei criminali informatici. I tre casi presi in esame riguardano sviluppo e condivisione di tool malevoli utilizzando ChatGPT.

Un rischio in crescita

Sergey Shykevich, Threat Intelligence Group Manager di Check Point
ChatGPT è stato ideato a fin di bene per assistere gli sviluppatori nella scrittura di codice. Ma può anche essere usato per scopi pericolosi. Nelle ultime settimane, stiamo osservando i criminali iniziare a utilizzare ChatGPT per scrivere codice malevolo, dando loro il potenziale per accelerare il processo d’attacco e buone basi di partenza.

Allarme per l’uso di ChatGPT

Sebbene i tool analizzati siano piuttosto elementari, è solo questione di tempo prima che i criminali più tecnici migliorino il modo in cui utilizzano gli strumenti basati sull’intelligenza artificiale. CPR continuerà a indagare nelle prossime settimane sulla criminalità informatica legata a ChatGPT.

chatgpt

Primo caso: creazione di malware infostealer

Il 29 dicembre 2022, su un popolare forum di hacking clandestino è apparso il thread “ChatGPT – Benefits of Malware”. L’autore ha rivelato che stava sperimentando ChatGPT per ricreare dei malware e le tecniche descritte nelle pubblicazioni di ricerca e negli articoli sui malware più comuni. In realtà, anche se questo individuo potrebbe essere un aggressore molto tech, questi post sembravano dimostrare ai criminali informatici meno capaci tecnicamente come utilizzare ChatGPT per scopi dannosi. E questo grazie a esempi reali che possono utilizzare immediatamente.

Secondo caso: creazione di un tool di crittografia multilivello

Il 21 dicembre 2022, un aggressore soprannominato USDoD ha pubblicato uno script Python, che ha sottolineato essere il “primo script che abbia mai creato”. Quando un altro criminale ha commentato che lo stile del codice assomiglia a quello di OpenAI, USDoD ha confermato che OpenAI gli ha dato una “bella mano a finire lo script con una bella portata”.

chatgpt

In grado di sviluppare tool pericolosi: allarme per l’uso di ChatGPT

Ciò potrebbe significare che i potenziali criminali informatici che hanno poche o nessuna capacità di sviluppo potrebbero sfruttare ChatGPT per sviluppare tool dannosi. Così da diventare nuovi criminali informatici a tutti gli effetti con capacità tecniche. Il codice sopra menzionato può ovviamente essere utilizzato in modo innocuo.

Tuttavia, questo script può essere facilmente modificato per criptare completamente il computer di qualcuno senza alcuna interazione da parte dell’utente. Ad esempio, è possibile trasformare il codice in un ransomware se si risolvono i problemi di script e sintassi.

Terzo caso: facilitare le attività di frode

Un criminale informatico mostra come creare un marketplace script per il dark web utilizzando ChatGPT. Il ruolo principale del marketplace nell’economia clandestina è quello di fornire una piattaforma per il commercio automatizzato di beni illegali o rubati, come conti o carte di pagamento rubate, malware. O persino droghe e munizioni, con tutti i pagamenti in criptovalute.