Když neomylné počítače chybují. Proč není dobré dávat umělé inteligenci možnost rozhodovat

V Apple to Steve Wozniak, jeden ze zakladatelů společnosti, zrovna nevyhrál. Ale jeho slova: „Nikdy nevěřte počítači, který nemůžete vyhodit z okna.“ bychom si ale měli vzít k srdci. Počítače nám dělají život snazší, ale občas nám mohou pořádně zavařit.

Neomylné počítače chybují. Proč by umělá inteligence neměla rozhodovat

V srpnu 2003 bylo ve Státech i Kanadě pořádné vedro, a kdo měl klimatizaci, osolil ji naplno. Elektrická síť ve dvaceti státech tak byla na hraně přetížení. Naštěstí ji hlídaly neomylné počítače ohijské FirstEnergy Corp., které byly připraveny v kritický moment odlehčit zátěž systému, a poslat energii na sever “pobřežní” trasou.

Dokonalá náhoda

Jenže pak se přihodila taková maličkost: na elektrické vedení, které zásobovalo energií zrovna tuhle stanici s počítačovou pojistkou, spadl strom. A tím vlastně pojistka přestala existovat. Výsledek? Zřetězený kolaps sítě a výpadek proudu, který poslal 60 milionů odběratelů do tmy. Poučení? Když něco hlídají počítače, je dobré se ptát, kdo hlídá počítače.

Makléři se přepočítali

Neslavně dopadl například “technicky nepřekonatelný” program pro makléřské manipulace, na který sázela americká investiční Knight Capital. V době své největší slávy představovala její aktiva 17 % obratu transakcí burzy NASDAQ. Jenže pak se něco ošklivě pokazilo. Program počítače byl totiž jen tak chytrý, jak chytří byli jeho uživatelé.

A tak když jej někdo nakrmil informací o tom, že je třeba levně prodávat (a zaškrtl tuhle volbu pro celou databázi), začalo 1. srpna 2012 pořádné zemětřesení. Knight Capital automaticky vyprodávala celou svou nabídku, a přicházela tempem 10 milionů dolarů za minutu o všechny akcie. Když po hodině konečně někoho napadlo vytáhnout počítač ze zástrčky, slavná investiční firma už v podstatě neexistovala.

Vzhůru ke hvězdám!

Chytré počítače nám pomáhají dostat se do vesmíru. Ale jsou tu jistá technická omezení. Když například necháte řízení rakety na operačním systému, který běží v 64-bitové verzi, a kontrolu výpočtů v reálném čase má na Zemi zastat 16-bitový? Hardware tu prostě tvrdě narazil na realitu. Pokusný let Ariane 5 (501) tak dosáhl pomyslného vrcholu ve stejném čase, jako chlapík s předčasnou ejakulací. Za 37 vteřin od startu skončilo velkolepé a dost nákladné divadlo obří explozí. Tahle rána přišla evropské kosmo-výzkumníky na 630 milionů eur, což je snad ještě dražší, než brněnský ohňostroj na Veveří.

Zamířit a udeřit

Obdařit zbraně umělou inteligencí se může jevit jako dobrý nápad. Stroj vybavený algoritmem na určování cílů nechybí, neprojeví lítost, nezaváhá. Jsou to prostě dokonalé nástroje na zabíjení, což je zrovna tak jejich největší slabinou. Své o tom vědí vojáci Jihoafrické republiky, kteří během přehlídky špásovali s moderní technologií, protiletadlovým kanónem. Jenže tenhle čtyřhlavňový mazlíček se nějakou chybou rozhodl, že pochodující oficíři vypadají jako nepřátelská letadla, a zahájil palbu. Výsledek? Čtrnáct raněných a devět mrtvých. A důrazné poučení, že dávat strojům zbraně je špatný nápad.

Data, která (ne)potěší

Někdy jsou v tom počítače nevině, a k totálnímu debaklu přispějí jejich správci. V květnu roku 2006 si jeden pracovitý zaměstnanec státního úřadu vzal robotu domů, a dílem nešťastné náhody mu, zatímco si šel nakoupit rohlíky, vybílili byt zloději. Americká vláda tak rázem postrádala interní záznamy o 17,5 milionech vlastních veteránů. Kde sloužili, u jakých zbraní, jak si vedli v armádě.

Ale taky kolik berou teď, jaké prášky je uklidňují a jaký mají psychologický profil. Disk s informacemi, které představují vlhký sen každého špiona, a dají se využít k dokonalému vydírání, hledala FBI měsíc. Mimochodem, jen o rok později pak britský úředník ztratil hned dva disky, se záznamy 25 milionů lidí státní správy. Věřit bezmezně počítačům se prostě nevyplácí.

Autor: Radomír Dohnal

Loading...
MOHLO BY VÁS ZAJÍMAT:

Focení smartphonem. Tipy pro ty nejlepší snímky ze zážitků i dovolené. Jak na to snadno a rychle

Automobilky musí do roku 2030 snížit emise CO2 o 37,5 %. Proč Evropská unie protlačuje tak nevhodné řešení, jakým jsou elektromobily?

Loading...




Send this to a friend