[ Zavřít ] 


 

RSS Kanál

 

ChatGPT pomáhá hackerům kódovat malware

Velké jazykové modely pomohou komukoliv téměř s čímkoliv. Jestliže objeví vzorce znaků, dokážou jejich algoritmy vzorce replikovat, multiplikovat a extrapolovat. Když jim dáte kousek kódu a budete ho chtít víc, model vám ho dá. A toho už si všiml hackerský potěr zvaný script kiddies. Chopí se umělé inteligence i starší liga?

 

ChatGPT pomáhá hackerům kódovat malware (Zdroj: OpenAI)

Od spuštění bety v listopadu 2022 využívá chatbot ChatGPT spousta lidí k rozličným činnostem jako psaní poezie, technických článků, románů a esejí, plánování večírků a učení. K výčtu můžete nově přičíst i psaní škodlivého kódu a další činnosti spadající do kyberkriminality. 

Dle Check Point Research zaznamenali, že krátce od uvolnění ChatGPT se do jeho zneužívání ke kyberkriminalitě pustili i hackeři, a to především ti s žádnými či minimálními znalostmi programování - běžně označováni coby script kiddies. GPT na jejich adresu praví: 

„Script kiddies jsou amatérští kyberzločinci, kteří používají předpřipravené skripty nebo nástroje k útokům na počítače nebo sítě, aniž by měli dostatečné znalosti nebo zkušenosti s tím, jak tyto nástroje nebo skripty fungují nebo jak je mohou ovlivnit. Tyto skripty nebo nástroje často získávají z internetu a používají je bez úprav nebo modifikací.

Script kiddies jsou často považováni za méně nebezpečné než profesionální kyberzločinci, ale stále mohou způsobovat škody a způsobovat potíže.“

ChatGPT ovšem nejspíš nezůstane jen v rukou script kiddies, ale o jeho schopnosti projevují zájem i zkušení profesionální hackeři. Petr Kadrmas, Security Expert Check Point Software Technologies, poznamenává: 

„Umělá inteligence bude zcela jistě jedním z hlavních témat roku 2023. AI technologie pomáhají při ochraně před kybernetickými hrozbami, ale zároveň vidíme velký zájem kyberzločinců například o ChatGPT.

Hackeři zkouší tuto dostupnou technologii používat k psaní škodlivého kódu, a i když jsou současné pokusy poměrně jednoduché, je jen otázkou času, než začnou AI nástroje využívat mnohem sofistikovanějším způsobem i profesionální hackerské skupiny.“

OpenAI mi dost pomohla s dokončením skriptu se solidním záběrem... (Zdroj: ArsTechnica)

„OpenAI mi dost pomohla s dokončením skriptu se solidním záběrem...“
 

O tom svědčí i aktivita na hackerských fórech. Kupříkladu 29. prosince 2022 se na jednom z nich objevit příspěvek ChatGPT – výhody malwaru popisující experimenty s ChatGPT při vytváření malwarových kmenů. Autorovi se podařilo vygenerovat zákeřný software identifikující 12 běžných formátů ze skupiny dokumentů MS Office, PDF a obrázků. Pokud je algoritmus programu seznal za zajímavé, zkopíroval je do dočasného adresáře, zazipoval a odeslal C&C serveru.

Odesílaná data sice nebyla zašifrována - a tím pádem snadno ochranitelná bezpečnostním softwarem napadeného systému - nicméně k úspěšně realizované krádeži chyběl už je krok.

Fórum rozebírající možnosti uplatnění ChatGPT v prostředí dark webu (Zdroj: ArsTechnica)

21. prosince 2022 hacker USDoD dal lepšímu skript v Pythonu vytvořený pomocí nástrojů OpenAI, přičemž se nezapomněl zmínit, že jde o jeho úplně první skript.  Toto poukazuje na fakt, že i kyberzločinci s minimálními vývojářskými zkušenostmi mohou využít umělou inteligenci k vytvoření škodlivých nástrojů a útoků na úrovni profesionálních kyberzločinců, což posunuje amatérské kybernetické útoky na vyšší úroveň.

Schopnosti GPT nekončí u psaní kódu. Kyberkriminálníci je mohou využít i k čistě provozním činnostem, jako je vytvoření eshopu na dark webu, který se postará o prodej kontrabandu od kradených platebních karet, účtů a identit přes útočný malware až po prodej zbraní a nelegálních služeb.

OpenAI se snaží zneužívání uvolněných nástrojů zabránit. Samozřejmě nesplňují jejich obchodní podmínky. Nicméně strážci jsou v těchto případech jen další algoritmy, které se soustředí především na klíčová slova, se kterými pracuje operátor jazykového modelu. Jak se aktivity jedné i druhé strany vyvinou, uvidíme v následujících měsících.

Zdroje

 

 

 

 

 

Mistral Small 3: malý, ale s velkými možnostmi

Francouzští vývojáři Mistral, známí svou láskou k open-source, přichází s novým AI modelem Mistral Small 3. S 24 miliardami parametrů je sice menší než konkurenční obři, zato však nabízí rychlost, nízké...

DeepSeek R1 a Qwen2.5-Max: přijde osvěžení AI z Číny?

Nové AI modely DeepSeek R1 a Qwen2.5-Max představují dva odlišné přístupy k tréninku a provozním nárokům, které by mohly zásadně ovlivnit budoucí vývoj umělé inteligence. Zatímco DeepSeek R1 se profiluje jako model postavený na...

Grok od xAI: první kroky v podobě samostatné aplikace

Grok, umělý inteligentní asistent od společnosti xAI, udělal další krok na cestě k větší dostupnosti. Coby samostatná aplikace se šíří na další platformy. Co Grok nabídne, kde ho již můžeme vyzkoušet a co teprve přijde? ...

VLC otitulkuje i neotitulkované... samozřejmě s pomocí AI

Nejhorší je, když najdete filmovou perlu, ale nemáte k ní titulky. A když už je najdete, tak nesedí. A i když ve VLC posunete jejich časování vůči časování zvukové stopy, tak se ty stopy neustále rozcházejí - a to dokonce nikoliv symetricky. To pak...


 
© 2005-2025 PS Media s.r.o. - digital world
 

reklama