Wat onthoudt ChatGPT? En waarom je AI niet slimmer wordt

Wat onthoudt ChatGPT? En waarom je AI niet slimmer wordt

Je hebt ChatGPT weken lang alles over je bedrijf verteld: je aanbod, je klanten, hoe je schrijft, wat je niet wil. En toch krijg je in een nieuw gesprek weer een tekst die klinkt als iedereen. Of erger: halverwege een lang gesprek begint hij dingen te vergeten die je in het begin heel duidelijk gezegd hebt.

Dan denk je dat je het verkeerd aanpakt, of dat je naar een andere tool moet. Meestal klopt geen van beide. Wat onthoudt ChatGPT dan wel? Minder dan je denkt, en hij wordt er niet slimmer van.

Wat onthoudt ChatGPT eigenlijk?

ChatGPT onthoudt twee soorten dingen: wat er in het gesprek staat dat je nu voert, en een beperkte lijst met weetjes over jou die hij meeneemt naar volgende gesprekken. Het model zelf leert niets bij van jouw chats.

In een workshop in juni legde ik het zo uit: AI is een heel snelle lezer. Je legt papieren op een tafel, en hij leest wat erop ligt. Open je een nieuw gesprek, dan is die tafel leeg. Alles wat hij moet weten, moet jij erop leggen, of hij gaat het zelf zoeken.

Die tafel heeft een vaste grootte: het contextvenster (context window), de hoeveelheid tekst die een model tegelijk kan vasthouden. Waarom je een AI niet traint door lang met hem te praten, lees je in wat is een AI-agent.

Hoe werkt het geheugen van ChatGPT?

ChatGPT heeft een geheugen dat los staat van je gesprekken. Volgens de uitleg van OpenAI zelf heeft het twee lagen: opgeslagen herinneringen, een soort kladblok met weetjes over jou, en je eerdere gesprekken, waar hij naar kan teruggrijpen.

Wat je over dat geheugen moet weten:

  • Een gesprek wissen wist de herinnering niet. Wil je iets echt kwijt, dan verwijder je het in je instellingen bij het geheugen én het gesprek waarin je het vertelde.
  • Een tijdelijke chat gebruikt geen geheugen. Hij leest niets van wat er al opgeslagen is en bewaart niets nieuws.
  • Je ziet niet altijd wat hij gebruikt. Wat hij uit oude gesprekken meeneemt, staat niet allemaal in die lijst met herinneringen.

Waarom loopt het geheugen van ChatGPT vol?

Omdat het kladblok klein is. Het is gemaakt voor een handvol weetjes, zoals je naam, je beroep en hoe je aangesproken wil worden, en te klein voor de kennis van een heel bedrijf.

Zie je de melding dat je geheugen vol is, ruim dan op wat niet meer klopt. Maar lees die melding ook als signaal: je stopt iets in dat kladblok dat er niet in hoort. Je aanbod, je werkwijze en wat je over je klanten weet, horen niet in een lijstje dat een tool naar eigen inzicht aanvult.

Alles wat je ChatGPT over klanten vertelt, kan bovendien in dat geheugen belanden. Waar klantgegevens wel en niet mogen, lees je in is ChatGPT veilig voor bedrijfsgegevens.

Waarom wordt een lang gesprek met AI slechter?

Omdat een AI de draad verliest naarmate een gesprek langer wordt, en een verkeerde afslag zelden nog rechtzet.

Onderzoekers van Microsoft en Salesforce lieten in 2025 vijftien taalmodellen meer dan 200.000 gesprekken voeren. Elk model kreeg dezelfde opdracht één keer in één bericht, en één keer in stukjes verspreid over een gesprek, zoals jij en ik dat in het echt doen. In één bericht haalden de modellen gemiddeld 90 procent, verspreid over een gesprek nog 65 procent.

Gemiddelde score van vijftien AI-modellen op dezelfde opdrachtGemiddelde score van vijftien AI-modellen op dezelfde opdracht. Alles in één bericht: 90%; Verspreid over een gesprek: 65%. Bron: Laban e.a., LLMs Get Lost in Multi-Turn Conversation (2025) https://arxiv.org/html/2505.06120v1Alles in één bericht90%Verspreid over een gesprek65%
Gemiddelde score van vijftien AI-modellen op dezelfde opdracht · Bron: Laban e.a., LLMs Get Lost in Multi-Turn Conversation (2025) arxiv.org

De onderzoekers vatten het zelf weinig vleiend samen: een model dat in een gesprek een verkeerde afslag neemt, raakt de weg kwijt en vindt hem niet meer terug. Je kan nog zo vaak bijsturen, het blijft voortbouwen op wat het eerst verkeerd begreep.

Een groter contextvenster lost dat niet op. Chroma testte in juli 2025 voor het onderzoek Context Rot 18 modellen, de toen nieuwste van OpenAI, Anthropic en Google erbij. Hoe meer tekst ze moesten verwerken, hoe slechter ze presteerden, ook al paste alles ruim op hun tafel. Kregen ze alleen het stuk dat ertoe deed, zo'n 300 tokens in plaats van gemiddeld 113.000, dan deden ze het beter.

Wat je AI beter maakt, is minder tekst op tafel, maar de juiste.

Waar hoort de kennis van je bedrijf dan?

Buiten de tool, op een plek die van jou is. Dan kan elke AI ermee werken, en neem je ze mee als je van tool wisselt.

Een klant had in mei haar volledige manier van werken vastgelegd in Claude: elke instructie, elk sjabloon, elke afspraak met zichzelf. Het werkte. Maar valt dat abonnement weg, of wil ze morgen een ander model, dan heeft ze nergens nog haar werkwijze. Het eerste wat we deden: alles eruit halen en een eigen plek geven.

Mijn eigen kennis staat in gewone bestanden en in Notion. Elk gesprek met AI begint met de juiste papieren op tafel en eindigt met de uitkomst terug op die vaste plek.

WatWaar het hoort
Je naam, je rol, hoe je aangesproken wil wordenHet geheugen van je AI-tool mag
Je aanbod, je prijzen, je werkwijzeEen eigen document dat jij beheert
Je schrijfstijl en voorbeelden van je tekstenEen eigen document, dat je bij elke schrijfopdracht meegeeft
Wat er in een gesprek beslist werdTerug in je eigen systeem, niet alleen in de chat
Gegevens van klantenNooit in het geheugen van een algemene AI-tool

Voor een KMO in Vlaanderen of een MKB-bedrijf in Nederland komt dat neer op een paar documenten en een gewoonte.

Hoe zorg je dat je AI niet telkens opnieuw begint?

Door elk gesprek als een losse opdracht te behandelen, met een vaste plek voor wat erin gaat en wat eruit komt. Ik stel bij elke chat drie vragen:

  1. Input: waar haal ik de informatie? Leg de juiste papieren op tafel: het document met je aanbod, je schrijfvoorbeelden, het verslag van vorige week. Je hele archief mag in de kast blijven.
  2. Proces: wat moet de AI ermee doen? Zet de volledige opdracht in één bericht. Stukje bij beetje bijsturen kost kwaliteit, zie de cijfers hierboven.
  3. Output: waar zet ik het resultaat? Een inzicht dat alleen in een chat staat, is weg zodra je het gesprek sluit. Zet het waar het de volgende keer weer input kan zijn.

Loopt een gesprek vast, begin dan opnieuw: laat de AI samenvatten wat er beslist is, kijk dat na en open daarmee een nieuw gesprek. Dat voelt als tijdverlies en het is het omgekeerde.

Is de output vlak en generiek, dan ligt dat zelden aan de tool. Meestal lag er te weinig van jou op tafel. Dat is ook waarom zoveel ondernemers AI gebruiken maar er niets aan hebben.

Wat AI-geheugen niet voor je doet

Het onthoudt kleine dingen, zoals dat je "je" wil en geen "u", maar je bedrijf leert het niet kennen. Een tool die dat belooft, verkoopt je een geruststelling. Hij kent een lijstje, beslist zelf wat erop komt en houdt soms dingen bij die niet meer kloppen. De kennis van je bedrijf zit in jou, en het werk is die zo vast te leggen dat elke tool ze kan lezen.

Dat is het verschil tussen een AI-tool gebruiken en een AI operating system voor je bedrijf hebben. Het eerste vergeet. Het tweede bouw je zelf, en het blijft.

Veelgestelde vragen

Onthoudt ChatGPT mijn gesprekken?

Gedeeltelijk. Binnen een gesprek onthoudt hij wat er staat, tot het te lang wordt. Tussen gesprekken onthoudt hij een beperkte lijst weetjes en, afhankelijk van je instellingen, stukken uit eerdere gesprekken. Het model zelf leert niets bij.

Hoe wis ik het geheugen van ChatGPT?

Het geheugen vind je in de instellingen, meestal onder personalisatie. Daar verwijder je losse herinneringen of alles tegelijk. Een gesprek wissen wist de herinneringen eruit niet, en het geheugen uitzetten verwijdert niet wat er al opgeslagen is.

Wordt ChatGPT slimmer als ik hem meer vertel?

Nee. Hij krijgt meer informatie, maar het model zelf wordt er niet beter van. Een lang gesprek maakt de antwoorden zelfs vaak slechter, zo blijkt uit onderzoek naar gesprekken met vijftien modellen.

Wat is een context window?

Het contextvenster is de hoeveelheid tekst die een AI-model tegelijk kan lezen: het gesprek, de documenten die je meegeeft en zijn eigen antwoorden. Wordt het gesprek langer, dan valt het oudste eruit. Ook binnen het venster presteert een model slechter naarmate er meer tekst in staat.

Kijk samen met mij waar de kennis van jouw bedrijf hoort

Liever eerst meelezen? Elke werkdag één inzicht over je bedrijf, je systemen of AI vind je straks in de morning mail.

← Alle artikels

Herken je je bedrijf hierin? Dan kijken we er samen naar.

Drie kwartier, gratis, online. Jij vertelt, ik kijk mee en zeg eerlijk wat ik zie.