Umělá inteligence proniká téměř do každého odvětví. Nově ji začíná využívat i armáda, a to včetně jazykových modelů. Koneckonců právě vojenství bylo v historii často v čele technologického pokroku. Americká armáda tak patří mezi první, které jazykové modely zapojují do svých operací. To však vyvolává obavy, zda jsou využívány zodpovědně, nebo zda vojáci AI bezvýhradně věří a nekontrolují její výsledky.
Není pochyb, že armáda USA ve velkém používá umělou inteligenci. Díky nedávným kontroverzím kolem využití AI v armádě se ukázalo, jak důležitou se pro armádu stává. Dokáže zpracovat velké množství zpravodajských informací, které následně vyhodnotí a navrhne nejvhodnější cíle. Také dokáže navrhnout, jak velkou sílu je k útoku potřeba použít, a to na základě dostupných informací o obraně. Tento systém společnosti Palantir se nazývá Maven Smart System a původně využíval pokročilé modely umělé inteligence. Nyní se pracuje i na různých alternativách.
Dává smysl, že ke zpracování velkého množství dat je vhodné použít umělou inteligenci. Dokonce i to, že následně navrhne možné postupy. Především se značně urychlí celý rozhodovací proces v situaci, kdy je čas kritický. Tato praxe však vyvolává celou řadu otázek, především tu, zda je umělá inteligence používána zodpovědně.
Šéf společnosti Palantir pro Spojené království a Evropu Louis Mosley pro BBC uvedl, že jejich systém slouží pouze jako vodítko a konečné rozhodnutí vždy provádí člověk. Lze říci, že jde o nutné minimum – AI nemůže samostatně používat smrtící sílu proti lidem, byť by šlo o konkrétně vymezené situace. Zodpovědnost je tak podle tvůrců programu v rukou armád. Americký Kongres se nyní plánuje zabývat otázkou, zda alespoň tato minimální ochrana proti chybám umělé inteligence v praxi funguje a zda armáda USA příliš nespoléhá na systémy typu Maven.
Hlavní otázkou je, do jaké míry velitelé důvěřují výsledkům AI, které se jim dostávají do rukou. Systémy dokáží chybovat a určitě není vhodné jim bezvýhradně věřit. Velitelé by tak měli výsledky přijímat kriticky a sami se rozhodovat, jaké cíle zvolí. Bez ohledu na potřebu rychlého rozhodnutí je nutné, aby jakékoli použití smrtící síly autorizoval člověk, který je se situací seznámen, vyhodnotí postup jako vhodný a je připraven za výsledek převzít zodpovědnost a svůj postup si obhájit.
Autor: Vojtěch Benda
Foto: Vytvořeno umělou inteligencí v ChatGPT
Sdílet
Hodnotit
Autor článku
