Twee jaar AI bij Value Square - Lessons learned

1. Tokenlimieten.

Elk model heeft een context window, een maximum aan informatie dat het in één keer kan verwerken. In de beginjaren van grote taalmodellen was dat een groot probleem: een volledig jaarrapport paste er simpelweg niet in. Vandaag bestaan er modellen met vensters van meer dan een miljoen tokens, waardoor de meeste financiële rapporten technisch gezien wel volledig kunnen worden ingelezen. Maar kunnen inlezen betekent nog niet dat het een goed idee is.

2. Context rot en het midden dat verdwijnt.

Context rot is een kwestie van hoeveelheid. Naarmate u een model meer tekst meegeeft, gaat de kwaliteit van zijn antwoorden achteruit, ook wanneer u ruim binnen de limiet blijft, en ook op opgaven die het bij korte invoer feilloos oplost. Een meting over achttien modellen van vier verschillende aanbieders laat zien dat de prestaties significant variëren met de lengte van de invoer. Dat is context rot: het model mist niet één specifiek gegeven, het wordt over de hele lijn onbetrouwbaarder naarmate de context aangroeit.

Het tweede is een kwestie van plaats. Onderzoekers in Stanford stelden vast dat modellen het best presteren wanneer het relevante gegeven aan het begin of het einde van de invoer staat, en aanzienlijk slechter wanneer ze het uit het midden moeten halen: het lost in the middle-effect. Dat geldt evenzeer voor modellen die uitdrukkelijk voor lange teksten gebouwd zijn.

Een venster van één miljoen tokens betekent dus niet dat het model die miljoen tokens met dezelfde aandacht verwerkt. En de slaagkans daalt met de dikte van het rapport.

3. Inefficiëntie en kosten.

De meeste vragen die wij over financiële rapporten stellen, zijn heel gericht. Wat was de omzet per bedrijfssegment? Hoe groot was de herstructureringskost, en in welke lijn zit ze? Over hoeveel jaar schrijft men serverapparatuur af? Voor zo'n vraag zijn misschien één tabel en twee voetnoten relevant. Het volledige rapport meesturen betekent dat u honderdduizend tokens laat verwerken om er tweehonderd te lezen. Dat is inefficiënt en kost onnodig veel geld.

Daarom werken wij met retrieval-augmented generation. In plaats van bij iedere vraag het volledige rapport mee te sturen, splitsen wij documenten op in kleinere stukken en slaan die op in een vectordatabank. Wanneer iemand een vraag stelt, zoeken wij eerst welke stukken waarschijnlijk relevant zijn.

Les 2: financiële documenten zijn niet geformatteerd voor AI

Beursgenoteerde bedrijven dienen al meer dan een eeuw financiële rapportering in. Al die tijd was het doelpubliek duidelijk: de mens. En dat ziet u vandaag nog steeds aan de manier waarop financiële rapporten worden opgebouwd.

Maar de lezer verandert. Steeds vaker zijn het taalmodellen die financiële rapporten moeten doorzoeken, analyseren en interpreteren. Alleen is de rapportering daar nog niet op voorzien.

Jaar- en kwartaalrapporten worden vaak gepubliceerd als pdf of html. Beide formaten zijn ontworpen om informatie aantrekkelijk en overzichtelijk aan mensen te presenteren, niet om ze eenvoudig door machines te laten verwerken. Tabellen, grafieken, afbeeldingen, voetnoten en complexe pagina-indelingen gaan daardoor verloren of worden verkeerd geïnterpreteerd wanneer een model het document probeert te lezen.

Voor de documenten in onze vectordatabank terechtkomen, zetten wij ze daarom eerst om naar een gestructureerd tekstformaat waarin tabellen tabellen blijven, voetnoten bij hun lijn blijven staan en de hoofdstukindeling bewaard blijft. Dat is de onzichtbare helft van het werk, en ze bepaalt de kwaliteit van alles wat erna komt.

Les 3: financiële documenten zijn vlot beschikbaar, maar niet op grote schaal

De financiële rapportering van één bedrijf vinden is eenvoudig. Ga naar de investor relations-pagina van eender welk beursgenoteerd bedrijf en binnen enkele minuten hebt u het laatste jaar- of kwartaalrapport gedownload.

Maar doe dat nu eens voor bijna zevenduizend bedrijven. En herhaal het elk kwartaal. Plots wordt iets wat voor één bedrijf triviaal is, op grote schaal een serieus dataprobleem.

Lang was het dan ook zoeken naar een goede manier om onze interne databanken automatisch, betrouwbaar en snel up-to-date te houden. Een AI-systeem is uiteindelijk maar zo goed als de informatie die u erin stopt. Als onze databank nog het jaarverslag van vorig jaar bevat terwijl gisteren nieuwe resultaten zijn gepubliceerd, hebben wij weinig aan een fantastisch model.

Gelukkig is ook deze markt volop aan het veranderen. Wij zien een explosie van start-ups die financiële documenten op grote schaal verzamelen, structureren en via API's beschikbaar maken. Tegelijk maken de gevestigde dataproviders hun documenten steeds toegankelijker voor AI-toepassingen. Die toenemende concurrentie heeft nog een voordeel: de prijs daalt. Wat enkele jaren geleden nog dure financiële infrastructuur vereiste, wordt steeds toegankelijker.

Les 4: de gebruiker moet zelf kunnen experimenteren

Een fout die vaak gemaakt wordt, is de instructies aan de AI niet beschikbaar stellen voor experiment door analisten.

De beste instructies ontstaan niet bij de ontwikkelaar. Een developer kan beoordelen of een antwoord technisch klopt, alleen een analist kan beoordelen of het antwoord nuttig is, of de juiste vraag gesteld is, welke nuance ontbreekt. Die kennis komt boven wanneer iemand met domeinkennis zelf aan de instructie zit te schaven en ziet wat er verandert.

Les 5: AI zonder tools is als een bouwvakker zonder hamer

In het begin vertelden wij ons model waar het informatie moest gaan zoeken. De balans moest het halen uit de jaarrekeningen in de vectordatabank, het laatste nieuws op het internet.

Vandaag vertellen wij de AI niet meer waar of hoe ze moet zoeken. Wij zeggen wat wij willen weten, en het model kiest zelf welk instrument het daarvoor nodig heeft. Onze eigen databanken, de rapportering en het web zijn elk als een aparte tool aangeboden, met een beschrijving van wat ze kunnen. Dat kan dankzij MCP, een open protocol dat Anthropic eind 2024 publiceerde en dat sindsdien door de meeste grote aanbieders is overgenomen. Het groeit uit tot de de-factostandaard om AI-agenten met tools te verbinden.

Het verschil is groter dan het klinkt. Zolang u het zoekpad zelf voorschrijft, is uw systeem begrensd door de vragen die u vooraf hebt bedacht. Zodra het model zijn eigen instrumenten kiest, verhoogt de kans op succes drastisch.

Les 6: van reactieve analyse naar proactieve monitoring

Tot nu toe werden onze AI-bedrijfsnota's vooral reactief gegenereerd. Wij selecteerden zelf de bedrijven die ons interesseerden en vroegen vervolgens aan onze orkestrator om er een analyse van te maken. Dat werkt, maar het heeft een blinde vlek: u vindt alleen wat u al zocht. Een bedrijf waar u dit kwartaal niet aan dacht, komt niet langs.

Veel interessanter wordt het wanneer u dat proces omdraait. AI die continu het volledige universum monitort en zelf detecteert wanneer een bedrijf extra aandacht verdient. Op basis van vooraf bepaalde triggers wordt dan automatisch een nieuwe analyse gegenereerd.

Wat wij vandaag kunnen nagaan en drie jaar geleden niet

Terug naar de vraag uit het begin. Wat is er concreet veranderd?

Drie jaar geleden was de praktische bovengrens van wat een analist voor een beslissing kon nakijken, wat hij in redelijke tijd zelf kon lezen. Een handvol jaarrapporten, de belangrijkste concurrenten, misschien een paar kwartaaltranscripties. Vandaag ligt die grens veel verder.

Wij beweren niet dat kunstmatige intelligentie ons betere beleggers maakt. Dat is een uitspraak die niemand vandaag kan onderbouwen, wij evenmin.

Wat de technologie wel doet, is de excuses wegnemen. De grens van wat u kunt weten voordat u een oordeel vormt, ligt aanzienlijk verder dan drie jaar geleden. Het oordeel zelf is niet verschoven. Het blijft de vraag of een directie meent wat ze zegt, of een competitief voordeel standhoudt, en welke prijs de juiste is.

‍

Bronnen:

Productiviteitscijfers: Ivan Yotzov, José María Barrero, Nicholas Bloom e.a., Firms predict an AI productivity boom is coming, VoxEU/CEPR, 12 maart 2026. cepr.org

Uitgaven per werknemer: Federal Reserve Bank of Atlanta, How Much Are Firms Spending on AI (and What Will Happen to Headcounts)?, macroblog. atlantafed.org

Lengte jaarrapporten: Quoted Companies Alliance, Annual reports have become 'epic novels' as UK companies face growing reporting burden, 27 mei 2025. theqca.com

Lost in the middle: Liu e.a., Lost in the Middle: How Language Models Use Long Contexts, arXiv:2307.03172, juli 2023 (TACL 2024). arxiv.org

Context rot: Chroma Research, Context Rot: How Increasing Input Tokens Impacts LLM Performance, 14 juli 2025 — 18 modellen van vier aanbieders. trychroma.com

Auteur: Tibo Dewispelaere