
ChatGPT pomáhá hackerům kódovat malwareVelké jazykové modely pomohou komukoliv téměř s čímkoliv. Jestliže objeví vzorce znaků, dokážou jejich algoritmy vzorce replikovat, multiplikovat a extrapolovat. Když jim dáte kousek kódu a budete ho chtít víc, model vám ho dá. A toho už si všiml hackerský potěr zvaný script kiddies. Chopí se umělé inteligence i starší liga?
Od spuštění bety v listopadu 2022 využívá chatbot ChatGPT spousta lidí k rozličným činnostem jako psaní poezie, technických článků, románů a esejí, plánování večírků a učení. K výčtu můžete nově přičíst i psaní škodlivého kódu a další činnosti spadající do kyberkriminality. Dle Check Point Research zaznamenali, že krátce od uvolnění ChatGPT se do jeho zneužívání ke kyberkriminalitě pustili i hackeři, a to především ti s žádnými či minimálními znalostmi programování - běžně označováni coby script kiddies. GPT na jejich adresu praví:
ChatGPT ovšem nejspíš nezůstane jen v rukou script kiddies, ale o jeho schopnosti projevují zájem i zkušení profesionální hackeři. Petr Kadrmas, Security Expert Check Point Software Technologies, poznamenává:
„OpenAI mi dost pomohla s dokončením skriptu se solidním záběrem...“
O tom svědčí i aktivita na hackerských fórech. Kupříkladu 29. prosince 2022 se na jednom z nich objevit příspěvek ChatGPT – výhody malwaru popisující experimenty s ChatGPT při vytváření malwarových kmenů. Autorovi se podařilo vygenerovat zákeřný software identifikující 12 běžných formátů ze skupiny dokumentů MS Office, PDF a obrázků. Pokud je algoritmus programu seznal za zajímavé, zkopíroval je do dočasného adresáře, zazipoval a odeslal C&C serveru. Odesílaná data sice nebyla zašifrována - a tím pádem snadno ochranitelná bezpečnostním softwarem napadeného systému - nicméně k úspěšně realizované krádeži chyběl už je krok. 21. prosince 2022 hacker USDoD dal lepšímu skript v Pythonu vytvořený pomocí nástrojů OpenAI, přičemž se nezapomněl zmínit, že jde o jeho úplně první skript. Toto poukazuje na fakt, že i kyberzločinci s minimálními vývojářskými zkušenostmi mohou využít umělou inteligenci k vytvoření škodlivých nástrojů a útoků na úrovni profesionálních kyberzločinců, což posunuje amatérské kybernetické útoky na vyšší úroveň. Schopnosti GPT nekončí u psaní kódu. Kyberkriminálníci je mohou využít i k čistě provozním činnostem, jako je vytvoření eshopu na dark webu, který se postará o prodej kontrabandu od kradených platebních karet, účtů a identit přes útočný malware až po prodej zbraní a nelegálních služeb. OpenAI se snaží zneužívání uvolněných nástrojů zabránit. Samozřejmě nesplňují jejich obchodní podmínky. Nicméně strážci jsou v těchto případech jen další algoritmy, které se soustředí především na klíčová slova, se kterými pracuje operátor jazykového modelu. Jak se aktivity jedné i druhé strany vyvinou, uvidíme v následujících měsících. Zdroje
Daniel Beránek, 19.01.2023 22:17 Francouzští vývojáři Mistral, známí svou láskou k open-source, přichází s novým AI modelem Mistral Small 3. S 24 miliardami parametrů je sice menší než konkurenční obři, zato však nabízí rychlost, nízké... Nové AI modely DeepSeek R1 a Qwen2.5-Max představují dva odlišné přístupy k tréninku a provozním nárokům, které by mohly zásadně ovlivnit budoucí vývoj umělé inteligence. Zatímco DeepSeek R1 se profiluje jako model postavený na... Grok, umělý inteligentní asistent od společnosti xAI, udělal další krok na cestě k větší dostupnosti. Coby samostatná aplikace se šíří na další platformy. Co Grok nabídne, kde ho již můžeme vyzkoušet a co teprve přijde?
... Nejhorší je, když najdete filmovou perlu, ale nemáte k ní titulky. A když už je najdete, tak nesedí. A i když ve VLC posunete jejich časování vůči časování zvukové stopy, tak se ty stopy neustále rozcházejí - a to dokonce nikoliv symetricky. To pak... |