Eric Schmidt (70), bývalý generální ředitel společnosti Google a odborník na umělou inteligenci, poznamenává: “Nikdo nebude chtít sledovat závody Formule 1 s roboty. Není to zajímavé, pokud v tom nejsou lidé.” Sam Altman (40), zakladatel ChatGPT a expert v oblasti umělé inteligence, přiznává: „Nespím dobře v noci. Od vydání ChatGPT jsem nespal ani jednu jedinou noc.“ Peter Diamandis (64), rovněž odborník na AI, předpovídá: „V roce 2040 bude po ulicích chodit 10 miliard robotů.“
V současnosti však nemáme absolutní jistotu ohledně toho, co nás čeká. Platí to zejména pro nás, kteří jsme relativně vzdáleni od toho, co velké technologické společnosti vyvíjejí ve svých laboratořích. Optimismus i pesimismus ohledně nástupu umělé inteligence a jejích potenciálních důsledků mají své opodstatnění.
Je jasné, že umělá inteligence může představovat transformační technologii, jako nikdy předtím v historii lidstva, a legitimně se ptáme, zda změní naše životy k lepšímu nebo jestli existují vážné důvody k obavám a přípravě na něco, co nám může uniknout z kontroly.
Hlavní obavy ohledně superinteligence
Jedním z kritických hlasů ve smyslu bezpečnosti současného vývoje umělé inteligence je Roman Yampolskiy, informatik a doktor v oblasti počítačových věd a inženýrství. Před patnácti lety vytvořil termín bezpečnost AI a nyní se zaměřuje na prevenci katastrofy. „Doufám, že se mi podaří zajistit, aby superinteligence, kterou nyní vytváříme, nezabila všechny lidi v budoucnosti,“ říká expert latvijského původu v rozhovoru pro The Diary of a CEO. Nyní učí na Univerzitě v Louisville (USA).
Ve svých počátcích byl Yampolskiy přesvědčen, že je možné vytvořit bezpečnou AI, ale s rostoucími analýzami si uvědomoval, že to může být nedosažitelné. „Jedna otázka vyvolává desítky nových a ty vedou k dalším stovkám. A hovoříme o problémech, které nejsou obtížné vyřešit, ale jsou nemožné,“ dodává expert. „Až dosud jsme aplikovali pouze záplaty.“
Rozdíl mezi kapacitou AI a její bezpečností
Podle Yampolskiyho se zatím co pokrok v schopnostech AI vyvíjí exponenciálně, pokrok v její bezpečnosti je „lineární nebo stálý“. „Mezera mezi schopnostmi systémů a tím, jak je můžeme předpovídat a řídit, se stále zvětšuje,“ tvrdí.
Problém se zhorší s příchodem superinteligence, což je okamžik, kdy AI překročí lidské schopnosti. „V posledním desetiletí jsme zjistili, jak zlepšit umělou inteligenci, ale pokud jí přidáte více výpočetního výkonu, více dat, stává se pouze chytřejší. Nyní se nejchytřejší lidé na světě, s investicemi v řádech miliard, zaměřují na vytváření nejlepší možné umělé inteligence,“ dodává.
Otazníky budoucnosti
„Bohužel, i když víme jak udělat tyto systémy mnohem inteligentnější, nevíme, jak je učinit bezpečnějšími. Jak zajistit, aby neudělaly něco, co by nás mrzelo? Některé odhady tvrdí, že za pouhé dva nebo tři roky dojde k pokročilé AI, a přitom nevíme, jak tyto systémy sladit s našimi preferencemi,“ říká Yampolskiy.
„Takže – zdůrazňuje – vytváříme jakousi mimozemskou inteligenci. Kdyby mimozemšťané přišli na Zemi a měli byste tři roky na přípravu, panikařili byste. Ale většina lidí si ani neuvědomuje, že se to děje.“ A problém tkví v tom, že nikdo nezdá být ochoten „vytáhnout ruční brzdu“.
Existující potenciál a ekonomické zájmy
Yampolskiy tvrdí, že jsme dosud neprozkoumali potenciál stávající úzké umělé inteligence, která je k dispozici, částečně proto, že to není v zájmu velkých firem. „Realita velkých společností je taková, že jejich jedinou povinností je vydělat peníze pro investory. Nemají žádné morální nebo etické povinnosti. A navíc, podle nich, nevědí, jak na to,“ vysvětluje.
Odpovědnost a kontrola
Podle expertů, jako je Eric Schmidt, existuje možnost, jak vypnout superinteligenci, ale všechno závisí na okolnostech. „Je absurdní o tom přemýšlet, protože to jsou distribuované systémy. Nemůžete je vypnout a navíc jsou chytřejší než vy. Před tím, než je můžete vypnout, vás nejprve vypnou. Kontrolu budeme mít pouze v předchozích úrovních, než dojde k superinteligenci. Obávám se inteligence nadřazené, ne lidského, který by mohl špatně využívat současnou AI,“ vysvětluje.
Yampolskiy je přesvědčen, jak to shodují i jiní odborníci, jako Yoshua Bengio, že stále máme čas kontrolovat, jakou chceme, aby umělá inteligence byla, aby nám nepropadla z rukou. „Není to konec, dokud to neskončí. Dnes se můžeme rozhodnout nebýt superinteligenci vystaveni,“ uzavírá.
