V posledních třiceti letech lidé neúnavně plnili internet obsahem. Pak přišla umělá inteligence, spolu s nástroji jako ChatGPT, Nano Banana a Sora, které během pouhých tří let dosáhly titánského úspěchu: zaplavily síť takovým množstvím automaticky generovaného obsahu, že přesáhly objem vytvořený lidmi. Podle nedávného výzkumu zveřejněného na Arxiv je alespoň 30 % textů na aktivních webových stránkách generováno umělou inteligencí, ale skutečný podíl by se podle vědců mohl blížit 40 %. Pokud toto tempo pokračuje, lidé by mohli být během několika měsíců překročeni.
Toto číslo, ač samotné, odhaluje, jak je náš digitální ekosystém ohrožen takzvaným „AI slopem“ — termínem znamenajícím nízkou kvalitu obsahu, který si nyní zaslouží pozornost. Tento výraz doslovně znamená „zbobku“ a odkazuje také na anglické slovo „sloppy“ (nepřesný, nedbalý) a byl navíc transformován na akronym: Spammy, Low-quality, Over-Produced (tedy spamový, nízkokvalitní, nadměrně produkovaný obsah).
AI slop, nebo jednoduše slop (slovo roku podle slovníku Merriam-Webster), zahrnuje obsah velmi nízké kvality generovaný umělou inteligencí s minimálním humánním zásahem. To je důležitý bod, na který se ještě vrátíme. Jak uvedl odborník na digitální kulturu Simon Willison: „Ne všechny obsah vytvořený umělou inteligencí je slop, ale pokud je generován bez veškeré péče a vnucován dokonce i těm, kteří o něj nežádali, pak je ‚slop‘ naprosto správný termín.” Benjamin Hoffman v New York Times poznamenal, že „slop evokuje hromady krmiva, jimiž je nutně krmen dobytek.”
Pokud jde o invazi slopu
I když se často pletou, slop je zcela něco jiného než fake news nebo deepfake (také často generované umělou inteligencí). Slop nerozšiřuje dezinformace nebo podvody a v mnoha případech není pravděpodobnost důležitá a cílem není oklamat uživatele sociálních sítí. Jedná se téměř vždy o obsah, který je irelevantní z jakéhokoli úhlu pohledu, ale zaplavuje nás výhradně díky svému množství. Nejlepší paralela by pravděpodobně byla s pojmem bullshit, jak jej původně vyjádřil filozof Harry G. Frankfurt: diskurs produkovaný bez ohledu na pravdu, zcela lhostejný k tomu, co je pravdivé nebo falešné.
Tento materiál se zdá být ideální pro dobu, kdy — jak vysvětlil Reuters Institute před dvěma lety — je stále častěji obsah vytvářen „pro LOL”: aby byl konzumně přijímán s úsměvem, bez ohledu na jeho pravdivost, a pak zapomenut během několika sekund.
Pokud jde o psaný text, můžeme slop rozpoznat, protože je lenivě zkopírován a vložen z ChatGPT nebo Gemini — charakterizován tedy obšírnými, nevzdělanými texty, které jsou plné vysoce emotivních, ale bezvýznamných termínů (a které umělá inteligence pravděpodobně naučila produkovat na základě příliš mnoha marketingových textů obsažených v datových souborech). Ale invaze „slopovaných“ obsahů se rozhodně na tomto místě nekončí.
Žádná forma lidské kreativity není chráněna
Žádná forma lidské kreativity není v bezpečí: během pouhých 12 měsíců Spotify odstranil 75 milionů skladeb, které považoval za „spam” (je důležité poznamenat, že ne veškerý obsah vytvářený umělou inteligencí spadá do této kategorie), zatímco nástroje jako Sora (od OpenAI) nebo Nano Banana (od Google) nabídly uživatelům možnost vytvořit bez omezení, bez nákladů a s nulovým úsilím záplavu videí a obrázků, které jsou dnes naprosto zbytečné a dominují sociálním stránkám.
Jak moc bychom se měli obávat? Jsme opravdu na pokraji toho, abychom byli zaplaveni mořem nesmyslů? Reprezentuje AI slop poslední a nejzávažnější fázi ochrany internetového prostoru? Několik signálů je totiž opravdu znepokojujících, včetně skutečnosti, že velké platformy ji místo toho, aby s ní bojovaly, přijímají: YouTube nabízí tvůrcům (kromě těch z EU) možnost produkovat Shorts v délce šesti sekund pomocí video generátoru Veo 3, zatímco podobná řešení začínají přijímat Facebook, Instagram a TikTok.
Jak uvedl novinář Max Read: „Na Facebooku nejsou slopované obsahy odpadky, ale přesně to, co Meta chce, aby bylo publikováno: extrémně levný obsah ve velkém množství, který generuje angažovanost.” Co víc si přát? (Vkládáme zde nezbytnou citaci od Borise).
Nikdo a nic není imunní vůči slupu: nad tímto problémem si stěžují uživatelé Redditu, jejichž prostředí je zaplaveno obsahem generovaným umělou inteligencí; neuniká ani svět žurnalistiky; celé redakční skupiny zakládají svůj obchodní model na publikaci článků psaných s ChatGPT; nesmí chybět letáky událostí, reklamy ani legrační videa se zvířaty, která jsou stále častěji zjevným podvodem (a seznam by mohl pokračovat ještě dlouho).
Historie slopu v 18. století
Navzdory legitimním obavám existuje několik historických signálů, které naznačují, že bychom neměli přehánět s alarmismem. V minulosti jsme již zažili mnoho slopu. Bez toho, abychom se vraceli k známým obavám vyvolaným knihtiskem Gutenbergova typu nebo příchodem fotografie, je možná nejzajímavějším případem Londýn 18. století, kdy „stoupající publikum čtenářů a rozmach kavárenské kultury vyvolali stálou poptávku po textech, a vytvořily Grub Street: slop své doby.”
Jméno odkazovalo na londýnskou ulici (dnes již neexistující), plnou tiskáren, knihkupectví a levného bydlení, kde se autoři bez peněz scházeli k tisku a šíření brožur, satir, politických textů, senzacionalistických příběhů a žurnalistiky té nejnižší kvality: vše, co mělo nějakou možnost prodeje. Ve svém slovníku z roku 1755 definoval Samuel Johnson termín „grubstreet“ jako synonymum pro „nízkokvalitní produkci“. Elity, pobouřené, se obávaly, že tento druh literatury za pár peněz zkazí literaturu vznešenou, zesměšňovaly Grub Street, přestože vytvářela první moderní volnou ekonomiku a populární čtenářskou kulturu, v jejímž rámci začínali autoři jako Daniel Defoe, Eliza Haywood a Jonathan Swift.
A co když se i v tomto případě díváme na prst místo na měsíc? Kdyby slop byl jen začátkem k nové formě lidské kulturní produkce? Je možné, že s časem se umělá inteligence stane nástrojem, který posiluje lidskou kreativitu, a že slop se stane ekvivalentem bezpočtu zlých fotografií, které kolují po internetu (často vytvářených agenturami s jejich „stockem“, termínem, jehož význam není příliš odlišný od „slop”) a kterých si nevšímáme?
Ne všechen slop škodí
Nedávno umělecká historička Valentina Tanni (která nedávno publikovala esej „Antimacchine“ u Einaudi) upozornila na Facebooku na novou reklamu McDonald’s generovanou pomocí umělé inteligence: „Zda se mi, že je obzvlášť zajímavé, že autoři nesnažili o realistický a uklidňující efekt (jak to udělal například Coca-Cola), ale vrhli se na takzvanou slop/weird estetiku. Další důkaz, pokud by bylo ještě potřeba, že estetické a chuťové preference dnes definují uživatelé,” napsala Tanni v příspěvku. Dodává důležitý aspekt: „I v tomto případě produkce reklamy pomocí AI neušetřila čas ani práci (pokud jde o peníze, oficiální údaje chybí). Studiem, které se podílelo na projektu, říká, že nespali po nedávný týdny a napsali tisíce a tisíce promptů.”
Otázka zůstává stále sporná, ale vracíme se k počátečnímu aspektu: ne všechny obsahy generované umělou inteligencí jsou slop. A pokud o rozdílu rozhoduje péče, pozornost a úsilí vynaložené na generování obsahu (kdokoli, kdo použil nástroj AI, ví, že pro dosažení slušného výsledku je potřeba značné úsilí), pak se také může stát, že když se naučíme maximálně využít tyto nástroje, zvýšíme konstantně množství „lidského vstupu” a využijeme AI k nalezení nových kreativitních forem; ponechávajíc Facebookové stránky s nejhoršími obsahem na videích se lvíčaty, které předávají svá mláďata lidem, aby je zachránili.
Prvotním příkladem této fáze přechodu by mohl být italský Brainrot: fenomén nazývaný slop, ale ve skutečnosti jde o estetickou a memetickou provokaci, která vznikla v malých online komunitách a velmi připomíná Sgorbions (v angličtině „Garbage Pail Kids”): neuvěřitelně nevkusné samolepky, které byly populární v osmdesátých a devadesátých letech, vyvolávaly obrovské pohoršení, a přitom vznikly z hlavy tří zavedených undergroundových autorů (včetně slavného komiksového výtvarníka Arta Spiegelmana).
Jaké rizika přináší vlna slop
Stane se to opravdu tak? Ukážou se obavy z slopu jako neopodstatněné, jako obavy z literatury za pár peněz? Je to možné, ale zároveň by bylo naivní myslet si, že protože v minulosti vše šlo určitým směrem, bude to tak i v budoucnu. „Současná vlna slopu generovaného AI zvyšuje sázky, protože náklady pro ty, kdo je produkují, klesly téměř na nulu, zatímco náklady pro ostatní jsou velmi vysoké: představuje to kognitivní zátěž plnou pochybností o tom, co vidíme, a nepřetržitých požadavků na pozornost, nemluvě o dopadu na životní prostředí,” uvádí opět Scientific American. „Tento příval masově produkovaných obsahů činí naléhavým schopnost rozpoznat a ocenit to, co je dobré, tak aby se odradilo to špatné. Slovník slop, pokud je použit správně, nám v tom právě pomáhá.”
Abychom pochopili, jak obsah generovaný umělou inteligencí „zvyšuje sázky” ve srovnání s minulostí — a aniž bychom otevírali delikátní téma deepfake a deepnude — stačí si všimnout, kolikrát se ptáme, zda nějaký obsah sdílený v WhatsApp skupinách je pravdivý nebo „vytvořený AI”, nutí nás to pochybovat o všem, co nás překvapí a nutí nás být stále podezřívavými.
Nejen to: i když politická propagace není nutně cílem slopu, je působivé sledovat, jak se nástroje jako Sora ukázaly jako mocná zbraň v rukou například Donalda Trumpa, který s jedním videem vytvořeným během několika okamžiků a sdíleným na sociálních sítích dokázal omezit (alespoň mezi svými příznivci) politický dopad protimonarchistických demonstrací.
Není důležité, že nikdo si nepomyslel, že videa, v nichž Trump překrývá demonstranty hnojem, jsou pravdivá. Důležité je, že bez jakéhokoliv úsilí Trump svým následovníkům poskytl sociální materiál na odpor proti obrazům demonstrací.
Jak poznamenává Centrum pro výzkum extremismu a bezpečnostních hrozeb, lidé často sdílejí dezinformační nebo propagandistické obsahy, i když vědí, že jsou nepravdivé. V takových případech není důležité, zda je zpráva pravdivá nebo falešná, nebo zda je obraz skutečný nebo zfalšovaný: jediné, co má význam, je, jestli potvrzuje naši představu o věcech a zda nám dává možnost vyvrátit protichůdné narativy. V Trumpově případě bylo video vytvořené během několika sekund dostatečné k omezení dopadu masových demonstrací. To je něco, co nesmíme podceňovat.
To vše bychom mohli považovat za běžnou expanze politické propagandy. Obecně řečeno, obavy z epistemiologického kolapsu způsobeného nemožností rozlišit pravdu od lži by mohly být přehnané. S ohledem na dopad, který měl internet, sociální sítě a nyní umělá inteligence na naši společnost, se však rozhodně nejedná o otázku, kterou bychom mohli vložit do nezaujatého postoje.
