Неудобната истина за „смъртоносната спирала" на AI и бъдещето на уеб

Уебът винаги е работил на принципа на неписано споразумение: авторите създават съдържание, платформите го индексират, потребителите го консумират — и всички печелят. Търсачките насочват трафик към издателите. Линкове се кликат. Системата, макар и несъвършена, издържаше милиони независими творци, новинарски медии и бизнеси.

Но какво се случва, когато посредникът реши, че вече не му трябва да те изпраща някъде?

Това е неудобният въпрос в центъра на скоро разсекретени съдебни документи по делото на New York Times срещу OpenAI и Microsoft — и отговорите са доста притеснителни.

Те са знаели. И това е най-болезненото.

Най-шокиращото не е, че обучението на AI може да нарушава авторски права или че големите езикови модели имат сложни отношения с изходния материал. Най-шокиращото е, че тези компании са знаели какво правят.

Вътрешни документи на Microsoft изрично описват AI стратегията им като създаване на „смъртоносна спирала", която би „навредила на представянето на моделите ни и на целия уеб едновременно". Те са признали, че продуктите им застрашават „икономическите основи на своите незаменими доставчици" — става дума за веригата за доставка на съдържание, която прави тези системи възможни.

С други думи: те видяха пропастта, насочиха колата натам и продължиха да карат.

Brent Hecht, директор „Приложна наука" в Microsoft, беше дори по-директен в вътрешната комуникация, наричайки практиките за събиране на данни „най-голямата кражба на труд в човешката история" и отбелязвайки, че правната защита на Microsoft прави „пълна присъда на идеята за добросъвестно ползване".

Разбира се, Microsoft се опита да се дистанцира от коментарите на Hecht, като говорител ги определи като „индивидуална гледна точка на един служител". Но когато собствените ти вътрешни документи казват същото нещо, тази разлика става доста трудна за поддържане.

Проблемът със снабдителната верига, който никой не иска да обсъжда

Ето фундаменталното противоречие в сърцето на съвременното AI развитие: Големите езикови модели се нуждаят от огромни количества създадено от хора съдържание, за да функционират. Но тези модели са проектирани да елиминират нуждата хората да имат достъп до това съдържание директно.

Документите на Microsoft сами признават този парадокс. Големите езикови модели са, в тяхното определение, „продукт, който унищожава собствената си снабдителна верига", защото заместват точно тези данни за обучение, които ги правят полезни.

Помислете какво означава това. Всеки път, когато ChatGPT или Copilot отговори на въпрос вместо да те насочи към източника, това е потенциален читател, който никога не кликва. Това е рекламна печалба, която никога не се реализира. Това е автор, който може да реши, че създаването на съдържание вече не си струва усилията.

И когато кладенецът пресъхне — когато има по-малко автори, създаващи по-малко неща, за които си струва да се учим — какво се случва с моделите, обучени върху това съдържание?

Цифрите са жестоки

Анализаторите на OpenAI са изчислили, че референтният трафик от търсене към издателите може да е спаднал с до 60% заради AI резюметата и чатботовете, които задържат потребителите на своите платформи. Google Zero — феноменът, при който уебсайтове получават нулев трафик от Google търсене — е преминал от теоретична загриженост към реалност за много издатели.

Сателит Надела сам призна в показания, че чатботовете са „на практика заменили търсенето и премахнали нуждата да се отива директно към източника на информация". Това не е дефект в системата — това е функционалността, която прави тези продукти ценни за потребителите.

Nick Turley от OpenAI бил дори по-директен: след като получиш отговор от ChatGPT, „няма основателна причина да кликнеш" върху линк към източника.

Какво означава това за разработчиците и стартъпите

Ето къде става важно за теб — разработчика или основателя на стартъп, който строи следващото поколение уеб продукти.

AI компаниите по същество твърдят, че старите правила вече не важат — че общата база от човешко знание трябва да бъде оползотворена за изграждане на патентни системи, които после заместват нуждата от достъп до това знание. И го правят с пълното съзнание за щетата, която причиняват.

Това има последици отвъд правния театър на делото на NYT:

1. Разчитането на AI APIs е рисковано. Ако компаниите, предоставящи тези модели, се занимават с практики, съмнителни от правна и етична гледна точка, основанието на продукта ти може да е по-нестабилно, отколкото си мислиш.

2. Партньорствата за съдържание имат значение. Издателите все по-малко са склонни да позволят събирането на съдържанието им без компенсация. Правната и бизнес среда се променят в посока към изискване на лицензи.

3. Икономиката на референтния трафик се променя. Ако строиш бизнес, базиран на съдържание, вече не можеш да разчиташ, че търсещият трафик или социалните споделяния ще те издържат. AI резюметата може да отговорят на въпросите на потребителите преди те изобщо да стигнат до сайта ти.

4. Отвореният уеб има стойност. Принципите, направили интернет полезен — свързване с линкове, цитиране, трафик, течащ към източниците — създават екосистемата, която прави AI възможен изобщо. Третирането на тази екосистема като неизчерпаем ресурс за екстракция е в крайна сметка самоубийство.

Иронията е почти перфектна

Може би най-ироничният аспект на всичко това е, че Microsoft, Google и OpenAI сега се надпреварват да сключват лицензионни сделки с издателите, на които са навредили. Надела сам каза „всичко зад платен достъп трябва да се лицензира" — позиция, която би била по-убедителна, ако продуктите на Microsoft не са прекарвали години в третиране на платеното съдържание като безплатен материал за обучение.

Представители на OpenAI признаха в документи, че са били „незапознати" със систематични усилия за откриване или премахване на платено съдържание от данните за обучение. Така че AI-ът, който предположително е бил обучен върху публично достъпна информация, изглежда е имал доста проблеми да прави разлика между безплатното и това зад платен достъп.

Поглед напред

Смъртоносната спирала не е вече теоретична. Тя се случва в реално време, с реални творци, с реални издатели, които се опитват да финансират журналистиката и създаването на съдържание в среда, ставаща все по-враждебна.

За технологичната индустрия да твърди, че AI „демократизира информацията", докато едновременно унищожава икономическия модел, който прави създаването на информация възможно — това не е иновация. Това е минна екстракция, облечена в силиконоводолна терминология.

Въпросът за разработчиците и бизнесите, строящи върху AI, не е просто „как можем да използваме тези инструменти?". Той е „как можем да изградим системи, които не консумират собственото си основание?".

В крайна сметка уебът все още е източникът. APIs и чатботовете са само един слой отгоре му. И ако колективно решим, че този слой е по-ценен от основата, върху която стои, цялата конструкция ще се срути.

Смъртоносната спирала е реална. Дали индустрията има мъдростта да излезе от нея, преди да е станало твърде късно — предстои да видим.

Какво мислиш? Създава ли AI индустрията неустойчива екосистема, или тези притеснения са преувеличени? Сподели гледната си точка в коментарите.