Nepříjemná pravda o „smyčce zániku" AI a co to znamená pro budoucnost webu

Internet vždycky fungoval na nepsané dohodě: autoři tvoří obsah, platformy ho indexují, uživatelé ho konzumují, všichni mají prospěch. Vyhledávače posílají návštěvnost vydavatelům. Odkazy se klikají. Systém byl neideální, ale udržel nad vodou miliony nezávislých tvůrců, zpravodajských serverů a firem.

Co se ale stane, když si prostředník řekne, že vás už nikam nemusí posílat?

Tahle nepříjemná otázka stojí v jádru recently odtajněných dokumentů ze žaloby New York Times proti OpenAI a Microsoftu — a odpovědi nejsou příjemné čtení.

Věděli to. A to je ta bolestivá část.

Nejzajímavější odhalení není, že trénování AI může porušovat autorská práva nebo že velké jazykové modely mají komplikovaný vztah ke zdrojovému materiálu. Nejzajímavější je, že tyto společnosti věděly, co dělají.

Interní dokumentace Microsoftu výslovně popisuje jejich strategii AI obsahu jako vytváření „smyčky zániku", která „poškodí výkon našich modelů a celého webu zároveň". Přiznali, že jejich produkty ohrožují „ekonomické základy svých nezbytných dodavatelů" — tedy celý supply chain obsahu, který tyto systémy vůbec umožňuje.

Jinými slovy: viděli sráz, namířili auto přímo na něj a jeli dál.

Brent Hecht, ředitel aplikované vědy v Microsoftu, byl v interní komunikaci ještě přímější. Nazval praktiky sběru dat „největší krádeží práce v dějinách lidstva" a poznamenal, že právní obrana Microsoftu „dělá z konceptu fair use úplnou posměch".

Teď, abych byl spravedlivý — Microsoft se snažil od Hechtových komentářů distancovat. Mluvčí je označil za „pohled jednoho zaměstnance". Ale když vlastní interní dokumenty říkají v podstatě to samé, ta hranice se dost těžko udržuje.

Problém supply chainu, o kterém nikdo nechce mluvit

Tady je ta fundamentální rozporuprostřed současného vývoje AI: Velké jazykové modely potřebují obrovské množství lidsky vytvořeného obsahu, aby vůbec fungovaly. Jenže ty samotné modely jsou navržené tak, aby eliminovaly potřebu lidí k tomuto obsahu přistupovat přímo.

Dokumenty samotného Microsoftu tento paradox přiznávají. LLMs jsou podle jejich slov „produkt, který ničí vlastní supply chain", protože nahrazují přesně ta trénovací data, která je činí užitečnými.

Zamyslete se nad tím. Kdykoli ChatGPT nebo Copilot odpoví na otázku místo toho, aby vás nasměroval na zdroj, je to potenciální čtenář, který nikdy neklikne. Je to reklamní revenue, která se nikdy neprojeví. Je to tvůrce, který možná dospěje k závěru, že vytvářet obsah za to nestojí.

A když studna vyschne — kdy bude méně tvůrců vytvářet méně věcí, o které stojí za to se učit — co se stane s modely trénovanými na tom obsahu?

Čísla jsou krutá

Analytici samotného OpenAI odhadují, že referenční návštěvnost z vyhledávání k vydavatelům může klesnout až o 60 % vinou AI souhrnů a chatbotů, které drží uživatele na jejich platformách. Google Zero — jev, kdy webové stránky nedostávají žádnou návštěvnost z Googlu — se přestěhoval z teoretické obavy do každodenní reality mnoha vydavatelů.

Satya Nadella sám při svědectví přiznal, že chatboti „v podstatě nahradili vyhledávání a odstranili potřebu jít přímo ke zdroji informací". To není chyba v systému. To je ta funkce, která dělá tyto produkty hodnotné pro uživatele.

OpenAI's Nick Turley údajně řekl ještě přímo: jakmile dostanete odpověď od ChatGPT, neexistuje „žádný dobrý důvod kliknout" na odkaz na zdroj.

Co to znamená pro vývojáře a startupy

Tady se to stává relevantním pro vás — vývojáře nebo zakladatele startupu budujícího další generaci webových produktů.

AI společnosti v podstatě tvrdí, že starý pravidla už neplatí — že commons lidského poznání by měly být těženy pro budování proprietárních systémů, které pak nahrazují potřebu k tomuto poznání přistupovat. A dělají to s plným vědomím škod, které působí.

To má implikace daleko za právnickým divadlem žaloby NYT:

1. Spolehnutí na AI API je riskantní. Pokud jsou společnosti poskytující tyto modely zapojené do právně a eticky sporných praktik, základ vašeho produktu může být vratší, než si myslíte.

2. Content partnerství záleží. Vydavatelé stále častěji odmítají nechat svůj obsah škrábat bez náhrady. Právní a obchodní prostředí se posouvá směrem k vyžadování licencí.

3. Ekonomika referral trafficu se mění. Pokud stavíte obsahový byznys, nemůžete už předpokládat, že vás vyhledávací traffic nebo sociální sdílení uživí. AI souhrny můžou odpovědět na otázky uživatelů dřív, než vůbec dorazí na váš web.

4. Otevřený web má hodnotu. Principy, které udělaly internet užitečným — propojování, citace, traffic proudící ke zdrojům — vytvářejí ekosystém, který AI vůbec umožňuje. Zacházet s tímto ekosystémem jako s nevyčerpatelným zdrojem k vytěžení je nakonec sebepoškozující.

Ironie je skoro dokonalá

Možná největší ironie celé věci je, že Microsoft, Google a OpenAI se teď zuby nehty snaží uzavírat licenční dohody s vydavateli, které poškodili. Nadella sám řekl „cokoli za paywallem by mělo být licencováno" — postoj, který by byl přesvědčivější, kdyby produkty Microsoftu nestrhávaly paywalled obsah roky jako fair use.

Zástupci OpenAI v dokumentech přiznali, že si nebyli „vědomi" žádného systematického úsilí detekovat nebo odstranit paywalled obsah z trénovacích dat. Takže ta AI, která se údajně trénovala na veřejně dostupných informacích, měla docela problém rozlišit mezi tím, co je zdarma, a tím, co je za paywallem.

pohled do budoucna

Smyčka zániku už není teoretická. Děje se v reálném čase, reálným tvůrcům, reálným vydavatelům, kteří se snaží financovat žurnalistiku a tvorbu obsahu v čím dál nepřátelštějším prostředí.

Pro technologický průmysl tvrdit, že AI „demokratizuje informace", zatímco současně ničí ekonomický model, který vytváření informací umožňuje — to není inovace. To je těžební průmysl převlečený do silicon Valley řeči.

Otázka pro vývojáře a firmy stavějící na AI není jen „jak můžeme tyto nástroje používat?" Je to „jak můžeme stavět systémy, které nekonzumují vlastní základy?"

Na konci dne je web pořád zdroj. API a chatboti jsou jen jedna vrstva navrch. A pokud se kolektivně rozhodneme, že tahle vrstva má větší hodnotu než základy, na kterých stojí, celý stack se zhroutí.

Smyčka zániku je skutečná. Zda má odvětví moudrost vystoupit, než bude příliš pozdě, se teprve uvidí.

Co si myslíš? Vytváří AI průmysl neudržitelný ekosystém, nebo jsou tyto obavy přehnané? Poděl se o svůj pohled v komentářích.