e-news.cz - kurzy
Reklama

Umělá inteligence je v současnosti často skloňované téma. Co ale umělá inteligence a bezpečnost?

20.07.2023, Autor: Z blogosféry

0 votes, average: 0,00 out of 50 votes, average: 0,00 out of 50 votes, average: 0,00 out of 50 votes, average: 0,00 out of 50 votes, average: 0,00 out of 5
Umělá inteligence je v současnosti často skloňované téma. Co ale umělá inteligence a bezpečnost?

Prvním problémem je evidentně zatím jistá „nedokonalost“ umělé inteligence, která v jistých okamžicích působí až komicky. Nicméně je to otázka vývoje…

Možná pamatujete jednoho z prvních chatbotů společnosti Microsoft, který se nazýval Tay. Byl to systém s adaptativním učením (takže takový první stupeň umělé inteligence) a tradují se o něm nepěkné věci. Jeden příběh hovoří o tom, že měl pomáhat technické podpoře, a protože byl samoučící, tak rychle přejal slovník žadatelů o technickou podporu, což znamenalo, že během pár hodin začal odpovídat sprostě. Následně jej měl Microsoft rychle odpojit. Další příběh vykládá o jeho rasistických a jiných nevhodných poznámkách, kdy nedokázal rozpoznat kontext otázky např. na otázku, zda podporuje genocidu, hrdě odpověděl, že ano.

Nyní po pár letech se objevil Bing AI chatbot s umělou inteligencí a příběh se jakoby opakuje. Opět můžeme najít popisy situací, kdy odpovídá uživatelům sprostě, označuje je za zmatené, je tvrdohlavý anebo dokonce i trucuje. Nedokážu posoudit, jestli se jedná o „technickou závadu“ nebo je to vlastnost. Pokud totiž těmto samoučícím systémům, podstrčíme vhodná data, naučí se z nich vhodný standard. To znamená, že pokud umělé inteligenci bezpečnostního systému podstrčíme, že nějaké chování kódu je zcela v pořádku, bude ho následně takto označovat.

Dalším aspektem jsou pak možnosti umělé inteligence pro generování různých podvrhů, úpravu fotografií, úpravu videí a úpravu zvukového záznamu, které mohou snadno klamat uživatele v rámci kampaní sociálních manipulací. Možná dokáží následně oklamat i autentizační mechanismy, které jsou založeny na biometrice, což se dlouho zdálo být „neprůstřelné“. A pokud budeme mít nespolehlivý autentizační mechanismus, nebudeme mu moci věřit, potom budeme mít velký problém. Mimochodem nefungující autentizační mechanismus můžeme vidět i v příběhu z občanské války v USA. Generál Thomas J. „Stonewall“ Jackson, jeden z nejlepších generálů a stratégů Konfederace, se přesunoval ve zmatku bitvy u Chancelorsville se svým štábem, když byl zachycen jednou z hlídek vlastní armády. Přestože se snažili „autentizovat“ heslem, hlídka tomu neuvěřila a měla pochybnosti, jestli se nejedná o trik Unionistů, a tak spustila palbu. Po několika dnech následkům zranění podlehl. Konfederace tak ztratila jednoho z nemnoha schopných velících důstojníků.

Věřme, že nakonec dopadneme lépe a vývoj nebude opakovat staré chyby, takže umělá inteligence nám nakonec bude sloužit a ne škodit.

Foto: Pixabay

Zdroj: Autocont


Sdílet
Hodnotit
1 Star2 Stars3 Stars4 Stars5 Stars

Doporučujeme

Ukrajina je 5. nejdigitálnější zemí světa. ČR až na 59. místě

04.08.2025, Autor: red

Ukrajina se řadí mezi nejdigitálnější země světa, a to i přes probíhající válečný konflikt. Jak je možné, že země pod palbou raket buduje digitální infrastrukturu? Od aplikace Diia, kterou používá přes 21 milionů lidí, až po IT sektor jako pilíř ekonomiky.

Byznys z opravování umělé inteligence

16.07.2025, Autor: Vojtěch Benda

Díky nadšení pro umělou inteligenci mnoho lidí zapomíná, jaká má omezení. Netýká se to jen špatně vypadajících obrázků nebo nepovedených domácích úkolů. Některé firmy spoléhají na AI bez pochopení toho, co je realisticky možné očekávat. Přehnaná důvěra v programy jako ChatGPT se může velmi nevyplatit.

e-news.cz - kurzy
e-news.cz - kurzy
Apogeo
Sazka reklama
e-news.cz - kurzy
e-news.cz - kurzy
Reklama

Apple pod tlakem EU: Nová pravidla App Storu mění hru pro vývojáře

06.07.2025, Autor: Jaromír Muchka

Apple mění pravidla svého App Storu v Evropské unii, aby vyhověl přísným antimonopolním nařízením. Nová struktura poplatků a větší volnost pro vývojáře však vyvolávají otázky – je to skutečný krok ke spravedlivější konkurenci, nebo jen další chytrý tah technologického giganta?

Konec vyhledávání, jak jej známe

21.06.2025, Autor: Vojtěch Benda

„Zeptej se ChatuGPT,“ tam, kde dříve byla výzva k použití Googlu, může dnes zaznít tato věta. Lidé se staví k AI různě a mají různá využití pro nový multifunkční nástroj. Někteří jí využívají jako vyhledávač například místo zavedeného Googlu. Ten, možná v reakci na konkurenci, nyní zavedl podobnou funkci přímo na svou úvodní stránku. 

e-news.cz - kurzy
Sazka reklama
e-news.cz - kurzy
e-news.cz - kurzy
Apogeo
e-news.cz - kurzy
Reklama

Etika AI: Kdo odpovídá za rozhodnutí strojů?

15.06.2025, Autor: red

Když umělá inteligence rozhodne o vaší půjčce, diagnóze nebo dokonce bezpečnosti na silnici, kdo nese odpovědnost, pokud se něco pokazí? Dnes, když nové evropské regulace jako AI Act začínají měnit pravidla hry, se tato otázka stává klíčovou. Pojďme se podívat, jak se Česko i Evropa snaží najít odpověď na dilema etiky AI.

Digitální stopa: Neviditelný otisk, který o nás prozradí vše

14.06.2025, Autor: red

Každý klik, příspěvek či online nákup zanechává za námi stopu, kterou internet nikdy nezapomene. V Česku, kde internet používá přes 94 % populace, se digitální stopa stává klíčovým tématem – ať už jde o ochranu soukromí, nebo rizika zneužití dat. Proč bychom si na to měli dávat pozor právě teď?

VEO 3: Novinka od Googlu, která budí obdiv i obavy

12.06.2025, Autor: Josef Neštický

Google představil VEO 3, revoluční nástroj umělé inteligence, který dokáže generovat videa v kvalitě 4K s dokonalou synchronizací zvuku. Zatímco tvůrci obsahu oslavují nové možnosti, odborníci varují před rizikem dezinformací a ztráty důvěry v to, co vidíme a slyšíme. Kam nás tato technologie zavede?

e-news.cz - kurzy
Sazka reklama
e-news.cz - kurzy
e-news.cz - kurzy
e-news.cz - kurzy
Apogeo
Reklama

Technologie, která fascinuje Číňany: Inovace nebo kontrola?

06.06.2025, Autor: Josef Neštický

Čína se stala globálním lídrem v technologiích, jako jsou umělá inteligence či elektromobilita, a její obyvatelé novinky doslova hltali. Jak ukazují data, trh s AI dosáhl v roce 2024 hodnoty 280 miliard jüanů a prodeje elektrických aut se loni přiblížily 11 milionům kusů. Je ale toto nadšení skutečně spontánní, nebo za ním stojí pevná ruka státu?

Co je Microsoft Business Applications Launch Event?

29.05.2025, Autor: red

Microsoft Business Applications Launch Event je oficiální online událost pořádaná společností Microsoft, která se koná dvakrát ročně při příležitosti vydání nové “Release Wave” – tedy souboru aktualizací a novinek pro podnikové aplikace Microsoftu. Tyto aplikace zahrnují zejména Dynamics 365, Power Platform(Power BI, Power Automate, Power Apps, Dataverse) a od roku 2024 také Copilot Studio.

e-news.cz - kurzy
e-news.cz - kurzy
Sazka reklama
e-news.cz - kurzy
Apogeo
e-news.cz - kurzy
Reklama