Infractorii cibernetici testează ChatGPT și alte LLM-uri în dark web

Serviciul Digital Footprint Intelligence de la Kaspersky a găsit aproape 3000 de postări Dark Web care discutau în principal despre utilizarea ChatGPT și a altor LLM-uri (large alanguage models) pentru activități ilegale.

Actorii amenințărilor explorează scheme, de la crearea de alternative nocive ale chatbot-ului până la jailbreaking-ul originalului și nu numai. 

Popularitatea instrumentelor bazate pe inteligență artificială a condus la integrarea răspunsurilor automate de la ChatGPT sau echivalentele acestuia în unele forumuri pentru infracțiunile cibernetice. În plus, actorii amenințărilor tind să partajeze jailbreak-urile prin diverse canale dark web – seturi speciale de solicitări care pot debloca funcționalități suplimentare – și să conceapă modalități de exploatare a instrumentelor legitime, cum ar fi cele pentru pentesting, pe baza modelelor în scopuri rău intenționate.

În afară de chatbot și inteligența artificială menționate, se acordă o atenție considerabilă proiectelor precum XXXGPT, FraudGPT și altele. Aceste modele sunt comercializate pe dark web ca alternative la ChatGPT, oferind funcționalități suplimentare și absența limitărilor originale.

O altă amenințare pentru utilizatori și companii este piața de conturi pentru versiunea plătită a ChatGPT. În 2023, au fost observate alte 3000 de postări (în plus față de cele menționate anterior) care făceau publicitate unor conturi ChatGPT de vânzare pe dark web și pe canale Telegram. Aceste postări fie distribuie conturi furate, fie promovează serviciile de auto-înregistrare, creând un număr masiv de conturi la cerere. În special, anumite postări au fost publicate în mod repetat pe mai multe canale dark web.

Cercetările detaliate sunt prezentate pe site-ul Kaspersky Digital Footprint Intelligence. Pentru a evita amenințările legate de activitățile infracționale cibernetice din segmentul întunecat al internetului, merită implementate următoarele măsuri de securitate:

• Utilizați Kaspersky Digital Footprint Intelligence pentru a-i ajuta pe analiștii de securitate să exploreze viziunea adversarului asupra resurselor companiei, să descopere cu promptitudine potențialii vectori de atac disponibili pentru atacatori. Acest lucru ajută, de asemenea, la creșterea gradului de conștientizare cu privire la amenințările existente din partea infractorilor cibernetici, pentru a vă ajusta apărarea în consecință sau pentru a lua măsuri de contracarare și eliminare în timp util.
• Alegeți o soluție fiabilă de securitate la nivel endpoint care este echipată cu capabilități de detectare și control al anomaliilor bazate pe comportament, pentru o protecție eficientă împotriva amenințărilor cunoscute și necunoscute.
• Serviciile dedicate pot ajuta la combaterea atacurilor de profil înalt.

Kaspersky Digital Footprint Intelligence este un serviciu care ajută companiile să monitorizeze activele lor digitale și să detecteze amenințările din web-ul de suprafață și Dark Web. Iată câteva caracteristici:

1. Serviciul de eliminare a domeniilor rău intenționate: Kaspersky a îmbunătățit Digital Footprint Intelligence cu un serviciu pentru eliminarea domeniilor rău intenționate. Acest serviciu gestionează întregul proces de eliminare a domeniilor rău intenționate și de phishing.

2. Protecție : Datorită experienței extinse a Kaspersky în cercetarea amenințărilor și cooperării pe termen lung cu organizații internaționale și agenții de aplicare a legii, inclusiv INTERPOL și Europol, precum și echipele de răspuns la urgențe informatice (CERTs), serviciul de eliminare a domeniilor rău intenționate asigură protecție a serviciilor online și a reputației companiilor.

3. Acoperire globală: Indiferent de locul în care se află domeniul de phishing rău intenționat, serviciul poate să-l elimine rapid.

4. Pachet standard: Pachetul standard include zece eliminări pe lună și poate fi personalizat în funcție de nevoile clientului.

5. Identificarea resurselor de rețea ale clientului: Kaspersky Digital Footprint Intelligence identifică resursele de rețea ale clientului și serviciile expuse care reprezintă un punct de intrare potențial pentru un atac.