Tekoälyavustaja, joka unohtaa kaiken – miksi konteksti ei ole sama kuin muisti

Oletko koskaan huomannut, että tekoälyavustajasi ehdottaa ratkaisua, jonka tiimisi hylkäsi jo viime sprintissä? Ei hätää – et ole yksin.

Kontekstin harha

Meille on myyty yksinkertainen tarina: suurempi konteksti-ikkuna tarkoittaa älykkäämpää tekoälyä. Totta, isompi ikkuna on hyödyllinen. Malli näkee enemmän tiedostoja, pystyy käsittelemään pidempiä lokitulosteita.

Mutta tässä piilee ongelma: kontekstin koko ja jatkuvuus ovat eri asioita.

Konteksti-ikkuna vastaa kysymykseen "kuinka paljon tekstiä malli näkee juuri nyt?" Jatkuvuus kysyy syvempää – "tietääkö järjestelmä oikeasti, mitä tapahtui ennen tätä kehotetta?"

Jatkuvuus tarkoittaa, että tiimi tietää mitkä löydökset olivat oikeita ja mitkä hylättiin. Mitkä koodauskäytännöt korjattiin. Mitkä arkkitehtuurimallit johtavat umpikujaan. Suurempi ikkuna kantaa enemmän tekstiä. Se ei päätä, mikä on tärkeää.

Miksi tämä koskee sinua

Jos rakennat tuotteita alustoilla kuten NameOceanin Vibe Hosting ja käytät tekoälyavustajia kehityksessä, odotat luultavasti työkalujesi kehittyvän ajan myötä. Korjaat virheen ja jatkat eteenpäin. Seuraavalla kerralla odotat jonkinlaista muistia.

Sen sijaan useimmat koodausagentit toimivat näin:

• Kontekstipohjaisesti: Pakkaavat oikeat tiedostot kehotukseen ja toivovat parasta
• Työkalupohjaisesti: Osaavat hakea, grepata, tarkistaa symboleita, kutsua ulkoisia järjestelmiä

Molemmat toimivat. Mutta molemmat kohtelevat jokaista tehtävää uutena tutkimuksena. Tekoälysi ei muista, että se ehdotti samaa mallia kolme viikkoa sitten ja sinä käytit kaksikymmentä minuuttia selittääkseen miksi se ei toimi hajautetussa ympäristössä.

Haku ei ole korjaus – ja se on okay

" Käytä parempaa hakua. Indeksoi repo, rakenna graafi, näytä oleelliset tiedostot."

Parempi haku on aito parannus verrattuna diffien liimaamiseen keskusteluun. Mutta haku ja muisti ratkaisevat eri ongelmia.

Haku vastaa: "Mikä teksti voisi olla oleellista juuri nyt?" Muisti vastaa: "Mitä tämä koodikanta on jo opettanut, mikä pitäisi rajata vastauksessamme?"

Nämä eivät ole vaihdettavissa. Haku voi näyttää tekoälylle nykyisen toteutuksen. Se ei kerro, että tiimisi hylkäsi tämän mallin arvostelussa, tai että outo paikallinen käytäntö on olemassa koska tuotanto riippuu siitä.

Millainen muistipohjainen toiminta näyttää

Kuvittele koodausagentti, joka ei vain hae kontekstia pyydettäessä – se toimii pysyvän taustakerroksen kanssa, joka päivittyy arvostelujen, hylkäysten, kommenttien, korjausten ja onnistuneiden istuntojen myötä.

Jokainen vuorovaikutus jättää jälkeensä todisteen, jota tulevat vuorovaikutukset voivat käyttää.

Tämä ei tarkoita kaiken säilyttämistä ikuisesti. Suurin osa datasta on kohinaa parin päivän jälkeen. Arvokkaat palaset ovat päätökset, korjaukset, tehtävän tila, käytännöt, riippuvuussuhteet ja todisteet.

Todellinen ero ei ole siinä, kuinka paljon tekstiä malli näkee. Se on siinä, tulevatko aiemmat päätökset, korjaukset ja todisteet osaksi seuraavaa tehtävää.

Silmukka muuttaa kaiken

Kontekstipohjaisessa työnkulussa agentti aloittaa kehotuksestasi, kerää tiedostot, päättelee ja antaa vastauksen. Jos vastaus on väärin, korjaat sen. Useimmissa työkaluissa korjaus elää keskusteluhistoriassa – mahdollisesti istunnon loppuun, mahdollisesti summarized, yleensä ei kestävänä rajoitteena tuleville suorituksille.

Muistipohjaisessa työnkulussa korjaus ei ole vain keskustelua. Se on signaali. Hylkäys, hyväksytty korjaus, arvosteluvastaus – kaikki nämä päivittävät taustakerroksen. Seuraavalla kerralla kun agentti koskettaa samaa koodipintaa, se ei ala nollasta.

Se perii koodikannan opitun muodon: mikä on tärkeää, mikä on jo tarkistettu, mitä tiimi suosii, mitkä väitteet tarvitsevat todisteen.

Mitä kysyä työkaluja arvioidessa

Jos arvioit tekoälyavusteisia kehitystyökaluja, älä kysy vain "kuinka suuri konteksti-ikkuna on?" Kysy sen sijaan:

• Mitä tapahtuu korjauksilleni istunnon jälkeen?
• Oppiiko työkalu koodiarvosteluista ajan myötä?
• Erottaako se nykyisen koodin historiallisista päätöksistä?
• Muistaako se kun hylkään mallin?

Tulevaisuuden parhaat tekoälytyökalut eivät vain prosessoi enemmän kontekstia. Ne muistavat mitä tiimisi jo tietää, kantavat eteenpäin päätöksiä jotka veivät tunteja, ja lopettavat umpikujissa pyörimisen.

Siinä on ero tekoälyavustajan ja sellaisen välillä, joka todella toimii kanssasi.