Den obekväma sanningen om AI:s "dödspiral" och vad den betyder för webbens framtid

Internet har alltid byggt på ett osynligt avtal: kreatörer skapar innehåll, plattformar indexerar det, användare konsumerar det, och alla tjänar på det. Sökmotorer skickar trafik till utgivare. Länkar blir klickade. Systemet, även om det var ofullkomligt, höll igång miljontals fristående kreatörer, nyhetssajter och företag.

Men vad händer när mellanhanden bestämmer sig för att du inte längre behöver skickas någonstans?

Det är den obekväma frågan som ligger bakom nyligen offentliggjorda domstolsdokument från New York Times stämning mot OpenAI och Microsoft – och svaren är förödande.

De Visste. Det är den delen som gör mest ont.

Det mest slående avslöjandet handlar inte om att AI-träning kanske bryter mot upphovsrätt eller att stora språkmodeller har komplicerade relationer till källmaterialet. Det mest slående är att dessa företag visste vad de gjorde.

Intern Microsoft-dokumentation beskriver uttryckligen deras AI-innehållsstrategi som att skapa en "dödspiral" som skulle "skada prestandan hos våra modeller och hela webben samtidigt." De erkände att deras produkter hotade "de ekonomiska grundvalarna för sina oumbärliga leverantörer" när det gäller den innehållskedja som gör dessa system möjliga.

Med andra ord: de såg stupet, styrde bilen mot det, och fortsatte köra.

Brent Hecht, Microsofts chef för tillämpad vetenskap, var ännu mer rakt på sak i interna meddelanden och kallade datainsamlingspraxisen "den största stölden av arbete i mänsklighetens historia" och noterade att Microsofts juridiska försvar gjorde "en fullständig parodi av idén om rättvis användning."

Nu ska vi vara rättvisa – Microsoft har försökt distansera sig från Hechts kommentarer, med en talesperson som karaktäriserade dem som "en enskild employees personliga perspektiv." Men när era egna interna dokument säger i stort sett samma sak blir den distinktionen ganska svår att upprätthålla.

Försörjningskedjeproblemet Ingen Vill Prata Om

Här finns den grundläggande motsättningen i modern AI-utveckling: Stora språkmodeller behöver enorma mängder mänskligt skapat innehåll för att fungera. Men dessa modeller är utformade för att eliminera behovet av att människor får tillgång till det innehållet direkt.

Microsofts egna dokument erkände denna paradox. Stora språkmodeller är, enligt deras ord, "en produkt som förstör sin egen försörjningskedja" eftersom de ersätter det träningsdata som gör dem användbara.

Tänk efter vad det betyder. Varje gång ChatGPT eller Copilot svarar på en fråga istället för att dirigera dig till en källa är det en potentiell läsare som aldrig klickar vidare. Det är annonsintäkter som aldrig materialiseras. Det är en kreatör som kanske bestämmer sig för att skapa innehåll inte längre är värt mödan.

Och när brunnen sinar – när det finns färre kreatörer som skapar färre saker värda att lära sig om – vad händer med de modeller som tränats på det innehållet?

Siffrorna är grymma

OpenAI:s egna analytiker har uppskattat att sökreferenstrafiken till utgivare kan ha minskat med så mycket som 60% på grund av AI-sammanfattningar och chattbotar som håller användare på deras plattformar. Google Zero – fenomenet där webbplatser får noll trafik från Google-sökningar – har gått från teoretiskt bekymmer till verklighet för många utgivare.

Satya Nadella själv erkände i vittnesmål att chattbotar i praktiken "har ersatt sökning och tagit bort behovet av att gå direkt till källan för information." Det är inte en bugg i systemet; det är funktionen som gör dessa produkter värdefulla för användarna.

OpenAI:s Nick Turley ska ha varit ännu mer direkt: när du väl fått ett svar från ChatGPT finns det "ingen bra anledning att klicka" på en länk till källan.

Vad detta betyder för utvecklare och startup-företag

Här blir det relevant för dig, utvecklaren eller grundaren som bygger nästa generations webbprodukter.

AI-företagen hävdar i princip att de gamla reglerna inte längre gäller – att gemensam mänsklig kunskap ska skördas för att bygga proprietära system som sedan ersätter behovet av att få tillgång till den kunskapen. Och de gör det med full medvetenhet om skadan de orsakar.

Detta har konsekvenser bortom det juridiska teaternspektaklet kring NYT-stämningen:

1. Beroende av AI-API:er är riskabelt. Om företagen som tillhandahåller dessa modeller ägnar sig åt juridiskt och etiskt tveksamma praktiker kan din produkts grund vara mer skakig än du tror.

2. Innehållspartnerskap spelar roll. Utgivare är allt mindre villiga att låta sitt innehåll skrapas utan ersättning. Den juridiska och affärsmässiga landskapsbilden skiftar mot att licenser krävs.

3. Refererande trafikekonomi förändras. Om du bygger en innehållsverksamhet kan du inte längre förutsätta att söktrafik eller sociala delningar kommer att hålla dig flytande. AI-sammanfattningar kan besvara användarnas frågor innan de någonsin kommer till din sajt.

4. Den öppna webben har värde. De principer som gjorde internet användbart – sammanlänkning, citat, trafik som flödar till källor – skapar det ekosystem som gör AI möjligt från första början. Att behandla det ekosystemet som en outtömlig resurs att bryta ner är i längden självförgörande.

Ironin är nästan perfekt

Kanske den mest ironiska aspekten av allt detta är att Microsoft, Google och OpenAI nu skyndar sig att ingå innehållslicensavtal med de utgivare de skadat. Nadella själv sa att "allt som ligger bakom betalvägg bör licensieras" – en sentiment som skulle vara mer övertygande om Microsofts produkter inte hade behandlat innehåll bakom betalvägg som fritt tillgängligt träningsdata i åratal.

OpenAI:s representanter erkände i anmälningar att de var "ovetande" om något systematiskt försök att upptäcka eller ta bort betalspärrat innehåll från deras träningsdata. Så AI:n som påståtts tränats på offentligt tillgänglig information verkar ha haft betydande problem med att skilja mellan vad som är fritt och vad som ligger bakom en betalvägg.

Framåtblick

Dödspiralen är inte teoretisk längre. Den händer i realtid, för riktiga kreatörer, för riktiga utgivare som försöker finansiera journalistik och innehållsskapande i en allt mer fientlig miljö.

För teknikindustrin att påstå att AI "demokratiserar information" samtidigt som man förstör den ekonomiska modell som gör informationsskapande möjligt – det är inte innovation. Det är utvinningsindustri klädd i Silicon Valley-språk.

Frågan för utvecklare och företag som bygger på AI är inte bara "hur kan vi använda dessa verktyg?" Det är "hur kan vi bygga system som inte konsumerar sin egen grund?"

Låt mig vara ärlig: webben är fortfarande källan. API:erna och chattbotarna är bara ett lager ovanpå den. Och om vi kollektivt bestämmer oss för att det lagret är mer värdefullt än grunden det vilar på, rasar hela stacken.

Dödspiralen är verklig. Huruvida branschen har visdomen att kliva ur den innan det är försent återstår att se.