Dr. Bartosz Naskręcki, matematik z UAM a jediný Polák mezi tvůrci testů Frontier Math, se v programu „Didaskalia“ vyjadřuje k podstatě moderní umělé inteligence. Parměním generované modely umělé inteligence k Frankensteinovu monstru a varuje před intelektuálním lenošením při práci s algoritmy.
Nejistota ohledně fungování umělé inteligence
Dr. Naskręcki, který je spojen s Univerzitou Adama Mickiewicza v Poznani a Centrem vysvětlitelné umělé inteligence na Varšavské technické univerzitě, přináší nový pohled na vznik a fungování současných jazykových modelů. Podle něj je běžné přesvědčení, že neuronové sítě jsou digitálním odrazem lidského mozku, mylné.
Nauka o mozku učinila pokroky, zatímco informatika v určitých ohledech zůstala u stáří teorií, které se vyvíjely izolovaně.
Potvor a nedostatek vysvětlitelnosti
Nauka upozorňuje na nedostatek vyjasnění v umělé inteligenci. Vždy víme, že systémy fungují, ale často nerozumíme, jak k závěrům dospěly. Dr. Naskręcki v programu použil sugestivní metaforu, podle které proces tvorby těchto modelů spočívá v náhodném spojování různých komponentů.
„Jak si to vždy představím, je to, že tyto systémy, které dnes vytváříme a nazýváme umělou inteligencí, jsou založeny na myšlence, že kdysi dávno někdo řekl: ‚No dobrá, pokud mozek nějakým způsobem funguje a mezi neurony se vysílají signály, udělejme zjednodušenou verzi tohoto mozku,“ vysvětlil.
Kult cargo v technologii
Matematik varuje před přesvědčením, že zvětšení modelů – přidávání „velikosti“ a výpočetního výkonu – vyřeší problémy s jejich porozuměním nebo spolehlivostí. Přirovnal tuto mentalitu k myšlení přání, které v antropologii známé jako kult cargo.
Polák vyzývá stroje
Dr. Naskręcki je jediným Polákem a jedním ze čtyř Evropanů pozvaných k vytváření Frontier Math – souboru úkolů určených k testování hranic schopností uvažování AI. Jedná se o jakýsi zralostní zkoušku pro algoritmy, skládající se z problémů, jejichž řešení nelze najít na internetu.
Rozvoj v matematice a vědeckém výzkumu
Pokrok v modelech schopných dokazovat matematické tvrzení mění povahu vědecké práce. Dr. Naskręcki předpovídá, že role vědce se posune od provádění únavných výpočtů k vizionářům, kteří dohlížejí na práci strojů. „Už nemusíme stavět cihlu po cihle. Můžeme být více architekty než stavebníky,“ dodávající, že moderní modely mohou proces zefektivnit.
Digitální hygiena a outsourcing myšlení
Expert poukazuje na značné riziko spojené s přílišným přístupem k „inteligentním“ nástrojům. Spoléhání se na AI při jednoduchých úlohách může vést k poklesu klíčových dovedností. „Pokud vše delegujeme na systémy, můžeme se stát velmi hloupými a vyloučit se ze soutěže,“ varoval.
Dr. Naskręcki se proto snaží dodržovat pravidlo – vypíná funkci uchování kontextu v chatech s AI, což nutí uživatele ke větší intelektuální námaze při každém dotazu. „Ačkoli testuji tyto modely, doporučuji si občas jít na procházku nebo přečíst dobrou knihu,“ uzavřel.
