Den ubekvemme sandhed om AI's "dødsspiral" og hvad det betyder for nettets fremtid

Internettet har altid været bygget på en stiltiende aftale: Skabere producerer indhold, platforme indekserer det, brugere forbruger det, og alle får noget ud af det. Søgemaskiner sender trafik til udgivere. Links bliver klikket. Systemet fungerede – selvom det var uperfekt – og holdt økonomien kørende for millioner af uafhængige skabere, nyhedsmedier og virksomheder.

Men hvad sker der, når mellemmanden beslutter, at de ikke længere behøver at sende dig nogen steder hen?

Det er det ubehagelige spørgsmål i fokus i de nyligt frigivne retlige dokumenter fra New York Times' retssag mod OpenAI og Microsoft – og svarene er nedslående.

De vidste det. Og det er pointen.

Det mest slående ved denne sag er ikke nødvendigvis, at AI-træning kan krænke ophavsret eller at store sprogmodeller har komplicerede forhold til deres kildemateriale. Det mest slående er, at disse virksomheder var fuldt ud bevidste om hvad de lavede.

Interne Microsoft-dokumenter beskriver direkte deres AI-indholdsstrategi som at skabe en "dødsspiral", der ville "skade både vores modellers ydeevne og hele nettet samtidig." De erkendte, at deres produkter truede "de økonomiske grundpiller hos deres essentielle leverandører" – altså den forsyningskæde af indhold, der overhovedet gør disse systemer mulige.

Med andre ord: De så klippen, styrede bilen direkte mod den, og blivede ved med at køre.

Brent Hecht, Microsoft's direktør for Applied Science, var endnu mere direkte i interne kommunikationer og kaldte datahøstningspraksisser "den største tyveri af arbejdskraft i menneskets historie" og påpegede, at Microsofts juridiske forsvar "fuldstændig gjorde grin med idéen om fair use."

Til deres forsvar har Microsoft forsøgt at distancere sig fra Hechts kommentarer, med en talsperson der karakteriserede dem som "én medarbejders individuelle perspektiv." Men når jeres egne interne dokumenter siger stort set det samme, bliver den skelnen svær at opretholde.

For-syningskæde-problemet ingen vil tale om

Her ligger den grundlæggende modsætning i hjertet af moderne AI-udvikling: Store sprogmodeller har brug for enorme mængder menneskeskabt indhold for at fungere. Men de modeller er designet til at eliminere behovet for, at mennesker selv får adgang til det indhold.

Microsofts egne dokumenter erkendte denne paradoks. LLMer er, ifølge deres egne ord, "et produkt der ødelægger sin egen forsyningskæde" fordi de erstatter præcis de træningsdata, der gør dem nyttige.

Tænk over hvad det betyder. Hver gang ChatGPT eller Copilot besvarer et spørgsmål i stedet for at henvise til en kilde, er det en potentiel læser der aldrig klikker videre. Det er reklameindtægter der aldrig materialiserer sig. Det er en skaber der måske beslutter, at det ikke lønner sig at producere indhold mere.

Og når brønden løber tør – når der er færre skabere der producerer færre ting værd at lære om – hvad sker der så med de modeller, der er trænet på det indhold?

Tallene er brutale

OpenAI's egne analytikere har anslået, at søgetrafik til udgivere kan være faldet med op til 60% på grund af AI-resumeer og chatbots der holder brugerne på deres platforme. Google Zero – fænomenet hvor websites slet ikke modtager trafik fra Google-søgninger – er gået fra teoretisk bekymring til virkelighed for mange udgivere.

Satya Nadella selv indrømmede i sin vidneforklaring, at chatbots har "basically erstattet søgning og fjernet behovet for at gå direkte til kilden for information." Det er ikke en fejl i systemet; det er den funktion der gør produkterne værdifulde for brugerne.

OpenAI's Nick Turley skulle angiveligt have været endnu mere direkte: Når du først har fået et svar fra ChatGPT, er der "ingen god grund til at klikke" på et link til kilden.

Hvad betyder det for udviklere og startups?

Her bliver det relevant for dig – udvikleren eller startup-stifteren der bygger næste generation af webprodukter.

AI-virksomhederne argumenterer i bund og grund for, at de gamle regler ikke længere gælder – at fællesskabets menneskelige viden bør høstes for at bygge proprietære systemer, der så erstatter behovet for at tilgå den viden. Og de gør det med fuld bevidsthed om den skade de forvolder.

Det har konsekvenser ud over det juridiske teater i NYT-sagen:

1. Afhængighed af AI-API'er er risikabelt. Hvis virksomhederne bag disse modeller er involveret i juridiske og etisk tvivlsom praksis, kan dit produkts fundament være mere usikkert end du tror.

2. Indholdsparteraftaler betyder noget. Udgivere er i stigende grad uvillige til at lade deres indhold skrabe uden kompensation. Det juridiske og forretningsmæssige landskab bevæger sig mod at kræve licenser.

3. Trafikøkonomien ændrer sig. Hvis du bygger en indholdsforretning, kan du ikke længere gå ud fra, at søgetrafik eller sociale delinger vil holde dig i live. AI-resumeer kan besvare brugernes spørgsmål før de nogensinde når dit site.

4. Det åbne net har værdi. De principper der gjorde internettet brugbart – indbyrdes linking, kildehenvisning, trafik der flyder til kilderne – skaber det økosystem der overhovedet gør AI mulig. At behandle det økosystem som en uudtømmelig ressource til at strip-minere er i sidste ende selvødelæggende.

Ironien er næsten perfekt

Måske det mest ironiske aspekt er, at Microsoft, Google og OpenAI nu skynder sig at indgå indholdslicensaftaler med de udgivere, de har skadet. Nadella selv sagde "alt der er bag betalingsmur bør licenseres" – en holdning der ville være mere overbevisende, hvis Microsoft's produkter ikke i årevis havde behandlet betalingsværgsindhold som fair game for træningsdata.

OpenAI-repræsentanter indrømmede i dokumenter, at de var "ubevidste" om nogen systematisk indsats for at opdage eller fjerne betalingsværgsindhold fra deres træningsdata. Så den AI, der angiveligt blev trænet på offentligt tilgængelig information, ser ud til at have haft betydelige problemer med at skelne mellem hvad der er gratis, og hvad der er bag en betalingsmur.

Udsigt til fremtiden

Dødsspiralen er ikke længere teoretisk. Den sker i realtid, over for rigtige skabere, over for rigtige udgivere der forsøger at finansiere journalistik og indholdsproduktion i et stadig mere fjendtligt miljø.

For tech-branchen at påstå, at AI "demokratiserer information" mens de samtidig ødelægger den økonomiske model, der gør informationsproduktion mulig – det er ikke innovation. Det er råstofudvinding forklædt som Silicon Valley-sprog.

Spørgsmålet for udviklere og virksomheder der bygger på AI er ikke bare "hvordan kan vi bruge disse værktøjer?" Det er "hvordan bygger vi systemer der ikke æder deres eget fundament?"

I sidste ende er nettet stadig kilden. API'erne og chatbots er bare et lag oven på det. Og hvis vi kollektivt beslutter, at det lag er mere værd end fundamentet det hviler på, kommer hele bunken til at styrte sammen.

Dødsspiralen er reel. Om branchen har visdommen til at træde ud af den, før det er for sent, må vi vente og se.

Hvad tænker du? Skaber AI-industrien et uholdbart økosystem, eller er bekymringerne overdrevet? Del dit perspektiv i kommentarerne nedenfor.