ChatGPT pomáhá hackerům kódovat malwareVelké jazykové modely pomohou komukoliv téměř s čímkoliv. Jestliže objeví vzorce znaků, dokážou jejich algoritmy vzorce replikovat, multiplikovat a extrapolovat. Když jim dáte kousek kódu a budete ho chtít víc, model vám ho dá. A toho už si všiml hackerský potěr zvaný script kiddies. Chopí se umělé inteligence i starší liga?
Od spuštění bety v listopadu 2022 využívá chatbot ChatGPT spousta lidí k rozličným činnostem jako psaní poezie, technických článků, románů a esejí, plánování večírků a učení. K výčtu můžete nově přičíst i psaní škodlivého kódu a další činnosti spadající do kyberkriminality. Dle Check Point Research zaznamenali, že krátce od uvolnění ChatGPT se do jeho zneužívání ke kyberkriminalitě pustili i hackeři, a to především ti s žádnými či minimálními znalostmi programování - běžně označováni coby script kiddies. GPT na jejich adresu praví:
ChatGPT ovšem nejspíš nezůstane jen v rukou script kiddies, ale o jeho schopnosti projevují zájem i zkušení profesionální hackeři. Petr Kadrmas, Security Expert Check Point Software Technologies, poznamenává:
„OpenAI mi dost pomohla s dokončením skriptu se solidním záběrem...“
O tom svědčí i aktivita na hackerských fórech. Kupříkladu 29. prosince 2022 se na jednom z nich objevit příspěvek ChatGPT – výhody malwaru popisující experimenty s ChatGPT při vytváření malwarových kmenů. Autorovi se podařilo vygenerovat zákeřný software identifikující 12 běžných formátů ze skupiny dokumentů MS Office, PDF a obrázků. Pokud je algoritmus programu seznal za zajímavé, zkopíroval je do dočasného adresáře, zazipoval a odeslal C&C serveru. Odesílaná data sice nebyla zašifrována - a tím pádem snadno ochranitelná bezpečnostním softwarem napadeného systému - nicméně k úspěšně realizované krádeži chyběl už je krok.
21. prosince 2022 hacker USDoD dal lepšímu skript v Pythonu vytvořený pomocí nástrojů OpenAI, přičemž se nezapomněl zmínit, že jde o jeho úplně první skript. Toto poukazuje na fakt, že i kyberzločinci s minimálními vývojářskými zkušenostmi mohou využít umělou inteligenci k vytvoření škodlivých nástrojů a útoků na úrovni profesionálních kyberzločinců, což posunuje amatérské kybernetické útoky na vyšší úroveň. Schopnosti GPT nekončí u psaní kódu. Kyberkriminálníci je mohou využít i k čistě provozním činnostem, jako je vytvoření eshopu na dark webu, který se postará o prodej kontrabandu od kradených platebních karet, účtů a identit přes útočný malware až po prodej zbraní a nelegálních služeb. OpenAI se snaží zneužívání uvolněných nástrojů zabránit. Samozřejmě nesplňují jejich obchodní podmínky. Nicméně strážci jsou v těchto případech jen další algoritmy, které se soustředí především na klíčová slova, se kterými pracuje operátor jazykového modelu. Jak se aktivity jedné i druhé strany vyvinou, uvidíme v následujících měsících. Zdroje
Daniel Beránek, 19.01.2023 22:17 Aktualizace AI generátoru obrázků od Freepiku přináší revoluční zlepšení v rychlosti a fotorealističnosti, což umožní grafickým designérům, marketérům a grafikům tvorbu vizuálů s nepřekonatelnou přesností a detaily. Jaké možnosti... Spotify rozšiřuje hranice personalizované hudby zaváděním AI playlistů, což je beta funkce umožňující Premium uživatelům ve Spojeném království a Austrálii transformovat jakýkoliv nápad na perfektně na míru šitý playlist. Díky... Microsoft a OpenAI chystají postavit datacentrum se superpočítačem za 100 miliard dolarů. Ambiciózní projekt, známý jako Stargate, slibuje posunout hranice toho, co je možné v datovém zpracování a umělé inteligenci. S plánovaným spuštěním... Svět technologií je opět v pohybu, přičemž gigant Google vážně uvažuje o zásadním kroku - zpoplatnění pokročilých funkcí vyhledávání, které využívají umělou inteligenci (AI). Takovýto krok by mohl změnit základy toho, jak... |
