e-news.cz - kurzy
Reklama

Umělá inteligence je v současnosti často skloňované téma. Co ale umělá inteligence a bezpečnost?

20.07.2023, Autor: Z blogosféry

0 votes, average: 0,00 out of 50 votes, average: 0,00 out of 50 votes, average: 0,00 out of 50 votes, average: 0,00 out of 50 votes, average: 0,00 out of 5
Umělá inteligence je v současnosti často skloňované téma. Co ale umělá inteligence a bezpečnost?

Prvním problémem je evidentně zatím jistá „nedokonalost“ umělé inteligence, která v jistých okamžicích působí až komicky. Nicméně je to otázka vývoje…

Možná pamatujete jednoho z prvních chatbotů společnosti Microsoft, který se nazýval Tay. Byl to systém s adaptativním učením (takže takový první stupeň umělé inteligence) a tradují se o něm nepěkné věci. Jeden příběh hovoří o tom, že měl pomáhat technické podpoře, a protože byl samoučící, tak rychle přejal slovník žadatelů o technickou podporu, což znamenalo, že během pár hodin začal odpovídat sprostě. Následně jej měl Microsoft rychle odpojit. Další příběh vykládá o jeho rasistických a jiných nevhodných poznámkách, kdy nedokázal rozpoznat kontext otázky např. na otázku, zda podporuje genocidu, hrdě odpověděl, že ano.

Nyní po pár letech se objevil Bing AI chatbot s umělou inteligencí a příběh se jakoby opakuje. Opět můžeme najít popisy situací, kdy odpovídá uživatelům sprostě, označuje je za zmatené, je tvrdohlavý anebo dokonce i trucuje. Nedokážu posoudit, jestli se jedná o „technickou závadu“ nebo je to vlastnost. Pokud totiž těmto samoučícím systémům, podstrčíme vhodná data, naučí se z nich vhodný standard. To znamená, že pokud umělé inteligenci bezpečnostního systému podstrčíme, že nějaké chování kódu je zcela v pořádku, bude ho následně takto označovat.

Dalším aspektem jsou pak možnosti umělé inteligence pro generování různých podvrhů, úpravu fotografií, úpravu videí a úpravu zvukového záznamu, které mohou snadno klamat uživatele v rámci kampaní sociálních manipulací. Možná dokáží následně oklamat i autentizační mechanismy, které jsou založeny na biometrice, což se dlouho zdálo být „neprůstřelné“. A pokud budeme mít nespolehlivý autentizační mechanismus, nebudeme mu moci věřit, potom budeme mít velký problém. Mimochodem nefungující autentizační mechanismus můžeme vidět i v příběhu z občanské války v USA. Generál Thomas J. „Stonewall“ Jackson, jeden z nejlepších generálů a stratégů Konfederace, se přesunoval ve zmatku bitvy u Chancelorsville se svým štábem, když byl zachycen jednou z hlídek vlastní armády. Přestože se snažili „autentizovat“ heslem, hlídka tomu neuvěřila a měla pochybnosti, jestli se nejedná o trik Unionistů, a tak spustila palbu. Po několika dnech následkům zranění podlehl. Konfederace tak ztratila jednoho z nemnoha schopných velících důstojníků.

Věřme, že nakonec dopadneme lépe a vývoj nebude opakovat staré chyby, takže umělá inteligence nám nakonec bude sloužit a ne škodit.

Foto: Pixabay

Zdroj: Autocont


Sdílet
Hodnotit
1 Star2 Stars3 Stars4 Stars5 Stars

Doporučujeme

Budoucnost AI v ČR: lokální servery, vyšší bezpečnost, lepší výkon

07.04.2025, Autor: Z blogosféry

Od automatizace v e-commerce přes zrychlené programování až po analýzu právních dokumentů – umělá inteligence (AI) dnes mění český byznys. Ale kde se tyto výpočty reálně odehrávají? Na jaké infrastruktuře běží, kdo ji poskytuje a jaké jsou rozdíly mezi globálním a lokálním řešením?

Kybernetický zákon se dotkne firem, které o tom ani netuší

03.04.2025, Autor: Z blogosféry

Vznikající zákon o kybernetické bezpečnosti se v tuzemsku dotkne odhadem 6 až 10 tisíc subjektů. Řada firem přitom vůbec netuší, že se přísnými podmínkami bude muset řídit. Háček totiž spočívá v tom, že se na ně zákon může vztahovat kvůli jejich vedlejším či doplňkovým aktivitám, nikoliv kvůli jejich hlavní podnikatelské činnosti.

Sazka reklama
Reklama

Kybernetickým útokům v poslední době čelila každá čtvrtá firma. Situace se brzy může výrazně zhoršit

31.03.2025, Autor: Z blogosféry

Čerstvou zkušenost s kybernetickými útoky má více než čtvrtina českých firem. Každá osmá dokonce v posledních letech z tohoto důvodu přišla o data. Vyplývá to z průzkumu společnosti eD system. Aktuálně navíc hrozí, že počet zranitelných firem ještě skokově naroste, až 14. října skončí podpora operačního systému Windows 10. Ten stále ještě používá více než 40 % firem.

AI transformuje bankovnictví: jaké změny už u bank vidíme a čekáme? 

19.03.2025, Autor: Z blogosféry

V době, kdy digitální bankovnictví nabírá na síle, stává se umělá inteligence v bankovnictví klíčovým nástrojem pro finanční instituce po celém světě. Není divu: technologie, které stojí za chatboty, analytickými systémy nebo automatizovanými procesy, mění dosavadní pravidla hry a vytvářejí zcela nové možnosti pro banky, zprostředkovatele i samotné klienty.

Žaloba USA na čínské hackery

17.03.2025, Autor: Vojtěch Benda

V době zvyšujícího se napětí mezi Čínou a USA přichází další krok, který vzájemným vztahům určitě neprospěje. Ve Spojených státech bylo minulý týden obviněno 12 čínských občanů v souvislosti s kyberzločinem proti americkým občanům, společnostem či univerzitám.

Apogeo
Reklama

Kyberbezpečnost: Celosvětový problém i výzva, která ovlivní naši budoucnost nejen v roce 2025

11.03.2025, Autor: Z blogosféry

Kyberbezpečnost nepochybně patří mezi klíčová témata současnosti. To potvrzuje i nadcházející světová výstava EXPO 2025, kde bude kybernetická bezpečnost jedním z témat, která budou v Ósace nepochybně rezonovat. Kyberprostor, jehož význam v každodenním životě neustále roste, je stále častěji cílem nejrůznějších útoků a hrozeb.

e-news.cz - kurzy
Reklama

Globální průzkum: 197% nárůst e-mailových útoků a personalizované taktiky řízené AI 

25.02.2025, Autor: Z blogosféry

Společnost Acronis, globální lídr v oblasti kybernetické bezpečnosti a ochrany dat, vydala svou pololetní zprávu Acronis Cyberthreats Report, H2 2024: The rise of AI-driven threats. Ta odhaluje výrazný nárůst kybernetických e-mailových útoků – ve druhé polovině roku 2024 byl zjištěn ohromující nárůst o téměř 200 % v porovnání se stejným obdobím roku 2023.

Až 68 % datových ředitelů při nasazování AI bojuje s kvalitou dat. Pouze třetina firem ji využívá efektivně

20.02.2025, Autor: Z blogosféry

Řada firem investovala do platforem s umělou inteligencí v domnění, že jejich data jsou na inovace připravena. Realita je však jiná – až 41 % organizací přiznává, že má problém s udržením konzistentní kvality dat. Často za to mohou zastaralé systémy, které nezvládají zpracovávat rostoucí objemy dat v reálném čase.

e-news.cz - kurzy
Reklama