DeepSeek vzbudil obrovský rozruch, trochu v jeho stínu zůstal další AI model Qwen. Jak zjistila kyberbezpečnostní společnost Check Point Software Technologies, mnoho kyberzločinců rychle přešlo z ChatGPT právě na tyto nové platformy a začali je využívat k vytváření škodlivého obsahu. Kyberzločinci mezi sebou zároveň sdílí, jak umělou inteligenci zmanipulovat pro generování necenzurovaného obsahu, setkáváme se i s podrobnými návody na vývoj zlodějského malwaru nebo na obcházení bankovních ochran.
„ChatGPT v posledních dvou letech výrazně investuje do ochrany proti zneužití a zdá se, že konkurenční modely jsou na tom podstatně hůře, čímž přitahují zájem útočníků, zejména těch s menšími znalostmi a dovednostmi,“ říká Daniel Šafář, Area Manager CEE regionu z kyberbezpečnostní společnosti Check Point Software Technologies. „Navzdory investicím a mechanismům jsou i necenzurované verze ChatGPT k dispozici na různých internetových úložištích. Můžeme tedy očekávat, že se brzy objeví i necenzurované verze DeepSeek a Qwen, což výrazně zvýší riziko. Už nyní ale vidíme, že Qwen i DeepSeek jdou zneužít k vývoji malwarů a dalších hrozeb. Navíc kyberzločinci aktivně spolupracují a sdílí své postřehy a postupy.“
Vývoj zlodějských malwarů
Check Point zaznamenal případy, kdy kyberzločinci vytvářeli s pomocí Qwen infostealery, které se zaměřují na krádeže citlivých informací a přihlašovacích údajů od nic netušících uživatelů.
Jailbreaking
Jailbreaking v tomto případě označuje metody, které uživatelům umožňují manipulovat s AI modely a vytvářet necenzurovaný a také nebezpečný obsah. Kyberzločinci například sdílí jailbreaking prompty pro DeepSeek, které mohou manipulovat s reakcemi modelu, včetně metod jako jsou „Do Anything Now“ a „Plane Crash Survivors“. Ty využívají speciálně formulované příkazy, které modely donutí generovat odpovědi i v situacích, kdy by normálně odmítly či filtrovaly obsah.
Obcházení bankovních ochran
Bylo nalezeno několik diskusí o použití DeepSeek k obcházení ochran proti podvodům u bankovních systémů, což je alarmující riziko, které by mohlo ještě zefektivnit finančně motivované krádeže.
Šíření spamu
Kyberzločinci kombinují ChatGPT, Qwen a DeepSeek, aby optimalizovali skripty pro hromadnou distribuci spamu a zefektivnili útoky.
Temná stránka pokročilých AI nástrojů
Sledujeme znepokojivý trend, kdy jsou AI modely jako Qwen a DeepSeek zneužívány k vývoji kybernetických hrozeb. I nezkušení útočníci tak mohou vytvořit ničivé kybernetické zbraně, takže organizace musí používat proaktivní obranu a zaměřit se na prevenci hrozeb, namísto zatím stále velmi rozšířené, byť nedostatečné, detekce.
Foto: Pixabay
Zdroj: Petr Cícha
Sdílet
Hodnotit
Autor článku
