Umělá inteligence nebude důvodem naší zkázy. Je nutné zastavit vývoj autonomních zbraní? A bude to stačit? Stroje zajatce neberou, plní úkoly!
Vědci i vývojáři teď hromadně podepisují petici o zákazu vývoje smrtících autonomních zbrojních systémů. Chtějí se tím vyvarovat katastrofických scénářů a možnému zneužití technologie, která by jinak mohla sloužit dobré věci. Pokud se má lidstvo jednou zahubit, musí si prostě ušpinit ruce samo, a nenechat to na vraždících robotech.
Nemusí to být vždy šílený robot, který vypadá jako Terminátor utržený z řetězu. Zbraňové systémy vybavené inteligencí mohou mít podobu odpalovacího zařízení raket, plně automatizované tanky, roje ozbrojených dronů nebo třeba kulometného hnízda vybaveného čidly. Jejich úkolem může být ostraha objektů, hranic nebo třeba vězení. Nebo povedou frontální útok v první linii. Těžko říct. Na základě svého programu a schopnosti učit se budou rozpoznávat možné cíle, které budou nemilosrdně likvidovat. V čem je tedy problém, když se vlastně budou chovat stejně, jako normální vojáci?
Stroje zajatce neberou
To je právě to: voják se může sám rozhodnout, že své protivníky nezabije. Mohou se mu vzdát, může s nimi vyjednávat anebo nalákat je do léčky a zastihnout nepřipravené. A pak je současně zbytečné a současně nehumánní je zabíjet. Stroj ale takhle nepřemýšlí, jen plní zadání. Vzdát se mu nemůžete, vyjednávat nebude. Je tu od zabíjení, a zvolí si k tomu tu nejoptimálnější strategii. Třeba vyhlazení populace celého města, místo toho, aby pracně pátral po jedné teroristické buňce. Půjde vždy za splněním úkolu, a bude tak činit absolutně bez emocí.
Proti všem!
Vyzbrojené stroje s umělou inteligencí také narušují geo-politickou rovnováhu. Vyrobit je není zase tak komplikované, a jejich ztráta nikoho moc nebolí. Můžete jich zkonstruovat miliony, a klidně zkusit dobýt celý svět. Stačí jen patřičné průmyslové zázemí. Pravdou také je, že spousta válek jednoduše „vyhasne“ proto, že jeden ze zápolících států je bojem a ztrátami příliš vyčerpán. Nebo zvítězí mírové hnutí. Pokud ale budou válčit roboti, tenhle scénář moc nehrozí. Lidé také proti snadno nahraditelným robotům, kteří se bleskově rozhodují a neminou cíl, mají jen pramalé šance. Dosud války vedly národy a etnika proti sobě, ale ty s autonomními zabijáky? Ty může vést jeden jediný šílenec vyzbrojený armádou robotů s kýmkoliv.
Robot mačkající spoušť nemá výčitky svědomí
„Prostě nemůžeme přenechat rozhodování o tom, kdo bude žít a kdo zemře, strojům,“ říká Toby Walsh, kybernetik z Univerzity v Sydney. Zdůvodňuje tím svůj podpis pod peticí o zákazu vývoje smrtících autonomních zbrojních systémů, která je momentálně ve světě vědy velmi horkým tématem. V současnosti pod sebou nese podpisy 170 různých vývojářských organizací, 26 států a 2464 jednotlivých badatelů. Ti všichni se zříkají toho, že by se na rozvoji umělé inteligence, která by zabíjela, chtěli nějak podílet.
Celou kampaň rozjela před rokem společnost FLI (Future of Life Institute), která v umělé inteligenci strojů vidí lepší budoucnost pro celý svět. „Je to technologie, která má potenciál předpovídat a zabraňovat přírodním katastrofám, zastavovat obchod s lidmi, diagnostikovat smrtící choroby,“ píše ve své tiskové zprávě FLI. „Bohužel ale také umí lidem životy odebírat. A tomu chceme zabránit. Ve své podstatě jsou totiž stejně dehumanizující a nechutné, jako třeba biologické zbraně.“
Tohle dělat nebudeme, říkají vědci
Poměrně záhy se k tomuto prohlášení přidal třeba Elon Musk z Tesly, nebo prakticky celé představenstvo společnosti Google. Právě ti měli od amerického Ministerstva obrany velmi slušný kontrakt na dodávku „chytrých“ zbraňových systémů.
O co petenti usilují? Jde jim primárně o to, aby došlo k zastavení vývoje zbraní, které samy dokáží vyhodnocovat cíle a volit si vlastní strategii obrany a útoku, bez zbytečného zdržování nebo kontroly člověka. I proto se jim říká autonomní: umí se prostě rozhodovat samy. Vývoj takových technologií se zatím úspěšně rozbíhá v dlouhé řadě zemí, a představitelé světové vědecké inteligence jsou z toho zneklidnění. Proto odmítají propůjčovat své mozky k tomu, aby se tyto smrtící nástroje i nadále vyráběly a zdokonalovaly. Chtějí zabránit možným katastrofickým scénářům.
Petice o zákazu vývoje smrtících autonomních zbrojních systémů je rozhodně krok správným směrem. Otázkou je, jestli to bude stačit. Čína, Rusko, Spojené státy nebo třeba Velká Británie totiž zatím nic nepodepsali, a právě tyto země vedou prim ve vývoji ozbrojené umělé inteligence. Nikdo také negarantuje, že i když se státy oficiálně vývoje zřeknou, nepřenechají tuto práci soukromým firmám.
Autor: Radomír Dohnal
MOHLO BY VÁS ZAJÍMAT: