Jiri Lobkowicz
AI obsah
KDYŽ MOC PŘEDBÍHÁ PRAVIDLA
Prezident Petr Pavel ve svém projevu před Valným shromážděním OSN vyslovil větu, která stojí za pozornost i mimo newyorský sál: „Potřebujeme pravidla.
Ne proto, že by všechny státy byly stejně mocné, ale právě proto, že tomu tak není.“
Je v ní vlastně obsažena podstata celého poválečného uspořádání světa.
Mezinárodní právo nikdy nevycházelo z naivní představy, že Spojené státy, Čína, Rusko, Česko nebo některý malý ostrovní stát mají stejnou moc.
Nemají a nikdy mít nebudou.
Smyslem pravidel je něco jiného: zabránit tomu, aby se rozdíl v moci automaticky proměnil v právo silnějšího.
Právě tato myšlenka je dnes znovu vystavena zkoušce.
Na Ukrajině velmi konkrétně.
Jeden ze stálých členů Rady bezpečnosti napadl sousední stát a válkou se pokusil změnit jeho hranice.
Spor o Ukrajinu proto není jen sporem o jedno území ani pouze evropskou bezpečnostní krizí. Je také sporem o mnohem starší otázku: zda pravidla platí i pro toho, kdo má dostatek síly je porušit.
Pokud odpověď zní ne, problém není jen Ukrajina.
Mění se princip, podle něhož funguje celý systém.
Pavel proto správně spojil moc s odpovědností.
Čím větší moc stát má, tím větší odpovědnost by měl nést za způsob, jakým ji používá.
Jenže právě tady začíná další příběh, který může být pro 21. století stejně důležitý jako dnešní geopolitické soupeření.
Moc totiž přestává být výhradním vlastnictvím států.
Ještě před několika desetiletími bylo samozřejmé, že rozhodující nástroje strategické moci – armády, zpravodajské služby, jaderné zbraně, velké výzkumné programy – kontrolují státy.
Dnes vznikají technologie schopné zasahovat do ekonomiky, informačního prostoru, bezpečnosti, vědy a nakonec i války v několika soukromých společnostech.
Umělá inteligence tento posun dramaticky urychluje.
Proto byla jedna z nejzajímavějších částí Pavlova projevu ta, ve které připomněl projekt Manhattan.
Historické paralely bývají nebezpečné a AI samozřejmě není atomová bomba.
Přesto je na této analogii něco podstatného.
Projekt Manhattan ukázal, že může přijít okamžik, kdy vědecký objev během několika let změní samotnou strukturu světové moci.
Politika potom dlouhá desetiletí dohání něco, co věda vytvořila během několika roků.
Vznikly smlouvy, kontrolní režimy, inspekce, krizové komunikační kanály i doktríny jaderného odstrašení.
Nebyly výsledkem náhlého osvícení lidstva. Vznikly proto, že svět postupně pochopil, jaké následky by měla situace, kdy technologická schopnost nebude doprovázena politickou odpovědností.
U umělé inteligence jsme možná na začátku podobného institucionálního zpoždění.
Technologie postupuje rychle. Zákony pomalu. Mezinárodní dohody ještě pomaleji.
A mezitím běží závod.
Spojené státy nechtějí zaostat za Čínou.
Čína nechce zaostat za Spojenými státy.
Firmy nechtějí zaostat za konkurencí.
Každý má velmi racionální důvod pokračovat rychleji.
Právě to je na celé situaci znepokojivé. K nebezpečnému výsledku totiž není zapotřebí, aby se někdo choval iracionálně. Stačí, když se všichni budou racionálně snažit nebýt druzí.
V určitém okamžiku se bezpečnost může začít jevit jako zdržení, kontrola jako konkurenční nevýhoda a opatrnost jako něco, co si může dovolit pouze ten, kdo není součástí závodu.
To už není pouze technologická otázka. Je to klasický problém moci.
A právě zde bych na Pavlův projev navázal.
Nestačí vytvořit pravidla pro umělou inteligenci. Budeme muset rozhodnout, jaká odpovědnost má doprovázet technologickou moc.
To bude obtížné už proto, že jsme na něco takového naše instituce nestavěli.
Demokratický stát umí alespoň teoreticky kontrolovat vládu.
Má parlament, soudy, volby, ústavu.
Mezinárodní systém se během desetiletí naučil do určité míry kontrolovat jaderné zbraně.
Ale jak má demokratická společnost kontrolovat technologii, kterou vyvíjí soukromá společnost, jejíž schopnosti mohou mít globální důsledky?
Na tuto otázku zatím nemáme přesvědčivou odpověď.
A zde se dostáváme zpět k OSN.
O reformě Organizace spojených národů se často mluví jako o institucionálním problému: složení Rady bezpečnosti, právo veta, zastoupení jednotlivých částí světa, efektivita organizace.
To všechno je důležité.
Ještě důležitější však může být něco jiného.
OSN vznikla pro svět roku 1945. Musí se naučit fungovat ve světě, který bude existovat v roce 2040.
Ve světě, kde moc nebude rozdělena pouze mezi státy.
Ve světě, kde rozhodnutí několika technologických center mohou mít okamžité důsledky pro miliardy lidí.
Ve světě, kde bude stále obtížnější oddělit ekonomiku od bezpečnosti, informace od války a soukromou technologii od strategické moci.
To není argument proti OSN. Je to naopak připomínka jejího původního smyslu.
Organizace spojených národů nevznikla proto, že by její zakladatelé věřili v konec konfliktů.
Vznikla po zkušenosti s tím, kam může svět dojít, když mezi mocí a jejím použitím nezůstane téměř nic.
A možná právě tady leží skutečné téma Pavlova projevu.
Nejde jen o Ukrajinu.
Nejde jen o reformu OSN.
A nejde ani jen o umělou inteligenci.
Jde o mnohem starší problém, který se před námi objevuje v nové podobě.
Civilizace vždy vytvářela nové formy moci. Politický pokrok spočíval v tom, že se je postupně učila svazovat pravidly a odpovědností.
Ve 21. století budeme muset totéž dokázat znovu.
Tentokrát však možná máme méně času.
Protože technologie může postupovat rychleji než politika, instituce i naše schopnost pochopit, co jsme vlastně vytvořili.
A nakonec se stejně vrátíme k člověku.
Můžeme odpovědnost rozdělit mezi vlády, parlamenty, mezinárodní organizace, firmy a regulační úřady. Můžeme vytvořit stále dokonalejší systémy kontroly. Ale odpovědnosti se tím nezbavíme.
Stroj může počítat rychleji než člověk. Může vědět víc než člověk. Jednou možná bude v mnoha oblastech rozhodovat lépe než člověk.
Jednu věc bychom mu však přenechat neměli.
Odpovědnost za svět, který vytváříme.
Ta musí zůstat naše.