NieuwsMacroEnterprise-AI kampt met contextkloof: vertrouwen blijft achter bij adoptie van retrieval, blijkt uit VentureBeat Pulse-enquête

Enterprise-AI kampt met contextkloof: vertrouwen blijft achter bij adoptie van retrieval, blijkt uit VentureBeat Pulse-enquête

Auteur: VentureBeat AI·

Belangrijkste punten

  • Zevenenvijftig procent van de ondervraagde ondernemingen maakte in de afgelopen zes maanden mee dat AI-agenten zelfverzekerde maar verkeerde antwoorden gaven die herleidbaar waren tot ontbrekende of inconsistente bedrijfscontext.
  • Provider-native retrievaltools, specifiek OpenAI's file search met 40% en Google's Vertex AI Search met 38%, lopen nu voor op gespecialiseerde vectordatabases in productiegebruik onder ondernemingen.
  • RAG over documenten of vectorindexen is de primaire contextbron voor 38% van de organisaties, bijna twee keer zoveel als de volgende meest gebruikte aanpak: beheerde semantische lagen of ontologieën met 21%.
  • Achtenvijftig procent van de ondernemingen gebruikt of bouwt een beheerde semantische laag, maar slechts 25% heeft productie bereikt, waardoor de meeste organisaties nog niet beschikken over de infrastructuur die nodig is om contextgerelateerde agentfouten te voorkomen.
  • Een meerderheid van de ondernemingen, 57%, is van plan binnen twaalf maanden van retrievalprovider te wisselen of er een toe te voegen, terwijl 36% zegt best-of-breed standalone tools te willen behouden in plaats van te consolideren op het platform van één provider.
Enterprise-AI kampt met contextkloof: vertrouwen blijft achter bij adoptie van retrieval, blijkt uit VentureBeat Pulse-enquête

Bij 101 door VentureBeat ondervraagde ondernemingen wordt de infrastructuur die AI-agenten van bedrijfscontext voorziet sneller uitgerold dan deze betrouwbaar kan worden gemaakt. Retrieval-augmented generation (RAG) is de standaardbron voor context in enterprise-AI geworden, en provider-native retrievaltools hebben stilletjes de gespecialiseerde vectordatabases ingehaald die de categorie oorspronkelijk definieerden. De snelheid van deze adoptie is opvallend: RAG werd in 2020 geïntroduceerd als onderzoekstechniek (Lewis et al., destijds bij Facebook AI Research) en werd binnen enkele jaren de standaardmanier waarop ondernemingen grote taalmodellen verankeren in hun eigen data. Toch heeft een meerderheid van de ondernemingen al gezien dat hun AI-agenten zelfverzekerde maar onjuiste antwoorden gaven die terug te voeren waren op ontbrekende of inconsistente context — een probleem dat niet wordt opgelost met alleen meer retrieval.

Deze editie van VentureBeat Pulse Research onderzoekt de enterprise-RAG- en contextlaag: wat AI-agenten van bedrijfscontext voorziet, welke retrievalsystemen organisaties gebruiken, hoe zij die selecteren en evalueren, waar de architectuur naartoe beweegt en hoe vaak die context nu al tot fouten leidt.

De contextkloof

De centrale bevinding van het rapport is wat VentureBeat een "contextkloof" noemt — de afstand tussen hoe zelfverzekerd enterprise-agenten antwoorden en hoe betrouwbaar de onderliggende context daadwerkelijk is. Een meerderheid van de ondernemingen (57%) meldde dat hun AI-agenten in de afgelopen zes maanden zelfverzekerde maar verkeerde antwoorden produceerden die werden herleid tot ontbrekende of inconsistente bedrijfscontext. Meer dan de helft van die respondenten zei dat dit meer dan één keer gebeurde. Slechts 28% meldde geen dergelijke fout.

Dit is geen randverschijnsel. Retrieval is de primaire contextbron voor 38% van de ondernemingen — meer dan welke andere aanpak ook — wat betekent dat wanneer retrieval dun of inconsistent is, de daaruit voortkomende fouten de schijnbare autoriteit van de agent meekrijgen. De infrastructuur die dit moet aanpakken is in actieve ontwikkeling: 58% van de ondernemingen gebruikt al een beheerde semantische laag of bouwt die, hoewel deze bij de meeste nog niet in productie is.

Onder deze bevindingen consolideert de markt in een onverwachte richting. Provider-native retrieval — OpenAI's file search (40%) en Google's Vertex AI Search (38%) — loopt in productiegebruik al voor op elke gespecialiseerde vectordatabase. Ondernemingen verwachten dat hybride retrieval tegen eind 2026 zal domineren (34%). Toch zegt een pluraliteit (36%) dat zij best-of-breed standalone tools willen behouden in plaats van te consolideren op de native contextstack van één provider, en een meerderheid (57%) is van plan binnen twaalf maanden van provider te wisselen of er een toe te voegen. Uitgesproken voorkeur en feitelijk gebruik lopen uiteen: organisaties kopen provider-native retrieval terwijl ze volhouden dat ze onafhankelijkheid willen.

Methodologie

VentureBeat voerde deze enquête uit als onderdeel van zijn doorlopende Pulse Research-reeks, gericht op enterprise-RAG-infrastructuur en de contextlaag — retrievalsystemen, semantische lagen en contextbronnen die AI-agenten voeden. De antwoorden werden gefilterd op organisaties met meer dan 100 werknemers (n=101). De enquête ontving geen antwoorden van organisaties met 100 of minder werknemers, waardoor de volledige steekproef voldoet. Alle antwoorden komen uit één Q2 2026-golf (juni), waardoor het rapport een dwarsdoorsnede is en geen trendmeting. Meerdere vragen waren multiple-select, waardoor percentages kunnen optellen tot meer dan 100%.

Naar organisatiegrootte is de steekproef geconcentreerd in de mid-market: 251–1.000 werknemers (31%) en 101–250 (31%) voeren de lijst aan, gevolgd door 1.001–5.000 (20%), 5.001–10.000 (12%) en 10.001+ (7%). Naar rol omvatten de respondenten managers (39%), individuele medewerkers (27%), de C-suite (16%) en VP's en directors (14%). Wat aankoopbevoegdheid betreft is de steekproef geloofwaardig vanuit kopersperspectief: 46% is eindbeslisser en nog eens 26% is aanbeveler of beïnvloeder. Technology/Software is de grootste vertegenwoordigde sector met 20%, gevolgd door Healthcare/Life Sciences (11%), met daarnaast een brede spreiding over retail, transport, financiële dienstverlening, maakindustrie en onderwijs.

Met 101 respondenten is de steekproef bescheiden en moet deze worden gelezen als een richtinggevend signaal in plaats van een exacte meting. De steekproef is zelfgeselecteerd, geen kanssteekproef, en weerspiegelt organisaties die actief RAG- en contextinfrastructuur bouwen in plaats van de grootste operators.

Bevinding 1: Zelfverzekerd en fout — agentfouten herleid tot slechte context

VentureBeat vroeg of ondernemingen in de afgelopen zes maanden een zelfverzekerd maar verkeerd antwoord van een agent hadden herleid tot ontbrekende of inconsistente bedrijfscontext. Een meerderheid had dat gedaan.

Dit is het kerncijfer van het rapport. Een meerderheid van de ondernemingen (57%) heeft al meegemaakt dat een AI-agent een zelfverzekerd, verkeerd antwoord gaf dat werd herleid tot slechte context — waaronder verkeerde metrics, verouderde definities of ontbrekende documenten — en meer dan de helft daarvan heeft dit meer dan één keer gezien. Slechts 28% meldt geen dergelijke fout, en een klein resterend deel gebruikt geen agenten op ondernemingsdata of traceert de onderliggende oorzaak niet nauwkeurig genoeg om het te weten.

De foutmodus is specifiek en gevaarlijk: het model hallucineert niet overduidelijk. Het is zelfverzekerd verkeerd omdat de context waarmee het werd gevoed dun of inconsistent was. Dit onderscheid is belangrijk voor ondernemingsrisico: hallucinatie — een model dat iets verzint zonder basis in opgehaalde data — is steeds beter detecteerbaar via guardrails en outputvalidatie. Maar een zelfverzekerd geformuleerde verkeerde metric uit een verouderd document is moeilijker te onderscheppen, omdat het antwoord een plausibele bron heeft. Elke andere bevinding in het rapport — wat ondernemingen ophalen, hoe ze dat beheren en wat ze van plan zijn te bouwen — vloeit voort uit dit probleem.

Bevinding 2: RAG is de standaardbron voor context

Retrieval voedt meer agenten dan welke andere methode ook. Voor 38% van de organisaties is RAG over documenten of een vectorindex de primaire manier waarop agenten het bedrijf begrijpen — bijna twee keer zoveel als de volgende aanpak, een beheerde semantische laag of ontologie (21%). Gemengde benaderingen zijn goed voor 14%, directe queries op live-systemen voor 10% en long-context loading voor 6%. Slechts 2% laat agenten uitsluitend draaien op de algemene kennis van het model.

Deze concentratie is belangrijk in het licht van Bevinding 1: omdat zoveel enterprise-context via retrieval loopt, bepaalt de kwaliteit van die retrieval de kwaliteit van het antwoord. Wanneer RAG de standaardbron is, is dunne retrieval geen uitzonderingsgeval — het is het belangrijkste faalvlak.

Eén aanpak ontbreekt opvallend: het aanpassen van modelgewichten, of fine-tuning. Elke leidende bron van bedrijfscontext in de enquête wordt tijdens runtime geïnjecteerd. VentureBeat's meest recente directe meting van fine-tuning komt uit de enquêtegolf van april–mei (een aparte enquête, n=136), waarin fine-tuningmogelijkheden als laatste van zes factoren eindigden bij modelselectie, met 5% — ook al noemde 26% van die steekproef fine-tuning en maatwerk nog steeds als een investering die naar verwachting zal groeien. Fine-tuning is uit het primaire selectiegesprek verdwenen; contextinjectie is de manier waarop ondernemingen agenten kennis geven van hun bedrijf.

Bevinding 3: Provider-native retrieval loopt al voor op vectordatabases

De gespecialiseerde vectordatabase is niet langer het centrum van de RAG-stack. OpenAI's file search (40%) en Google's Vertex AI Search (38%) leiden in productiegebruik — provider-native en hyperscaler-native retrieval — vóór elke speciaal gebouwde vectordatabase. Onder de specialisten worden vooral tools gebruikt die ondernemingen al om andere redenen draaien (Elasticsearch/OpenSearch, 20%) en de open, embedded optie (pgvector, 12%). De pure-play vectordatabases die de categorie definiëren — Weaviate, Qdrant, Pinecone en Milvus — bevinden zich elk in enkele cijfers tot lage dubbele cijfers. Opvallend is dat 13% van de ondernemingen zegt nog helemaal geen productie-RAG te draaien.

Dit is een belangrijke verschuiving voor een categorie die in 2022–2023 aanzienlijke venture-investeringen aantrok. Bedrijven als Pinecone, Weaviate en Qdrant haalden financieringsrondes op vanuit de these dat speciaal gebouwde vectorinfrastructuur fundamenteel zou worden voor enterprise-AI. De enquêtedata suggereert dat modelproviders en hyperscalers de retrievallaag veroveren door deze te bundelen in dezelfde API's die ondernemingen al gebruiken voor inference — hetzelfde platformdynamiekpatroon dat markten van monitoring tot CI/CD heeft hervormd.

Net als bij de platforms in VentureBeat's parallelle infrastructuurgolf bewegen ondernemingen richting retrieval die is gebundeld met tools die zij al kopen.

Deze bevinding hield stand in beide Q2-golven. In april–mei (n=161) leidde provider-built retrieval eveneens in gebruik, terwijl elke gespecialiseerde vectordatabase marginaal bleef — de meest gebruikte standalone vectordatabase piekte op 8% van die steekproef. De hybride, pluralistische toekomst was toen ook al de consensusverwachting (34% verwachtte dat hybride retrieval zou domineren, met nog eens 29% die meerdere architecturen per use case verwachtte). Twee golven schetsen een consistent beeld: de categorie die de term "vectordatabase" introduceerde, wordt opgenomen door de platforms waarvan ondernemingen al kopen.

Bevinding 4: Ondernemingen zeggen dat ze best-of-breed willen behouden

Hoewel provider-native retrieval in de praktijk leidend is, zegt een pluraliteit van de ondernemingen (36%) dat zij best-of-breed standalone tools willen behouden in plaats van te consolideren op de native contextstack van een provider — ruim vóór de 21% die van plan is te consolideren. Nog eens 21% verwacht een mix, en 9% wil de laag zelf bouwen en bezitten.

De kloof tussen wat ondernemingen draaien en wat ze zeggen te willen is de strategische vraag van de categorie: ze adopteren gebundelde retrieval vanwege het gemak, terwijl ze stellen dat ze onafhankelijkheid zullen behouden. Welke impuls de overhand krijgt — de aantrekkingskracht van de providerbundel of de uitgesproken voorkeur voor modulaire controle — zal de retrievalmarkt sterker vormen dan welk afzonderlijk hulpmiddel ook.

Bevinding 5: Hybride retrieval is de consensusverwachting

Een derde van de ondernemingen (34%) verwacht dat hybride retrieval — embeddings gecombineerd met reranking en toegangscontroles — hun productiesystemen tegen eind 2026 zal domineren, drie keer zoveel als de 11% die verwacht dat uitsluitend vectorgebaseerde retrieval zal winnen. De pure vectorzoekbenadering waarmee de categorie werd gelanceerd, wordt op zichzelf al als onvoldoende gezien en wordt vervangen door pipelines die reranking toevoegen voor nauwkeurigheid en toegangscontroles voor governance — precies de toegangscontroles waarvan het ontbreken de fouten veroorzaakt die in Bevinding 1 worden beschreven.

Het op één na grootste antwoord is onzekerheid: 17% van de respondenten weet niet welke architectuur zal domineren, en nog eens 14% verwacht volledig voorbij een gespecialiseerde vectorlaag te gaan richting tool-first of long-context retrieval. De consensus is geen enkelvoudige tool, maar een gelaagde pipeline, en die is nog niet volledig uitgekristalliseerd.

Bevinding 6: De beheerde contextlaag wordt nu gebouwd

Ruim meer dan de helft van de ondernemingen (58%) draait ofwel een beheerde semantische laag in productie (25%) of piloteert en bouwt er een (34%). Nog eens 17% evalueert de aanpak actief, wat betekent dat driekwart op de een of andere manier met het concept bezig is.

Het concept van de semantische laag heeft precedenten in business intelligence, waar platforms zoals dbt, Looker en Tableau al lang beheerde, herbruikbare definities van bedrijfsmetrics bieden om ervoor te zorgen dat dashboards en rapporten binnen een organisatie naar dezelfde cijfers verwijzen. Nieuw is hier dat dezelfde gedisciplineerde definitielaag wordt uitgebreid naar de input die AI-agenten voedt — zodat wanneer een agent omzet of klantstatus noemt, de onderliggende definitie consistent, actueel en toegangsgecontroleerd is, in plaats van afkomstig uit welk document de retrievalpipeline toevallig als eerste naar boven haalde.

De balans is echter veelzeggend: meer organisaties bouwen dan er hebben geleverd. Voor de meeste ondernemingen blijft de gedeelde, beheerde definitielaag die de "zelfverzekerd maar fout"-mislukkingen uit Bevinding 1 zou voorkomen, work in progress. De semantische laag is het antwoord van de sector op inconsistente context, en deze enquête legt die vast midden in de bouwfase, met ambitie ruim vóór productie.

Bevinding 7: Gekocht op ingestie en eenvoud, bewaakt op correctheid

Ondernemingen kiezen retrievalsystemen op operationele bruikbaarheid. Gemak van data-ingestie (36%), latency en performance (32%) en operationele eenvoud (29%) voeren de selectiecriteria aan — vóór retrievalnauwkeurigheid en toegangscontrole (elk 23%), de twee factoren die het meest direct verband houden met de fouten in Bevinding 1.

Zodra systemen draaien, verschuift de nadruk naar vertrouwen. De meest gevolgde metrics zijn correctheid van antwoorden (42%) en beveiliging en toegangscontrole (38%), vóór latency (28%), operationele stabiliteit (27%) en relevantie van antwoorden (23%).

Deze splitsing tussen aankoopcriteria en monitoringcriteria weerspiegelt een breder patroon in enterprise-AI-adoptie: organisaties geven tijdens inkoop prioriteit aan snelheid van integratie en ontdekken daarna dat correctheid en governance — de moeilijker en trager te meten eigenschappen — de metrics worden die bepalen of agenten in productie worden vertrouwd. De kloof wordt aangescherpt doordat retrievalnauwkeurigheid en toegangscontrole, de twee dimensies die het meest direct samenhangen met zelfverzekerd-maar-foute antwoorden, het laagst scoren onder de selectiecriteria.

De tevredenheid over huidige systemen is gematigd positief, maar niet enthousiast. Op een vijfpuntsschaal bedraagt de gemiddelde algemene tevredenheid 4,0, met implementatiegemak en prijs-kwaliteitverhouding beide rond 3,9. Ondernemingen kopen op basis van hoe gemakkelijk een systeem draait en monitoren het op de vraag of het te vertrouwen is.

Bevinding 8: Er komt een herschikking in retrieval

Hoewel 43% van de ondernemingen geen plannen heeft om van retrievalprovider te veranderen, is een kleine meerderheid (57%) van plan binnen twaalf maanden over te stappen of een provider toe te voegen, en een kwart (26%) binnen het volgende kwartaal.

De overwogen opties wijken af van de stack van vandaag. Provider-native retrieval blijft leidend in wat ondernemingen evalueren (OpenAI 22%, Vertex AI Search 21%), maar open-source vectorspecialisten presteren boven hun huidige voetafdruk. Qdrant (14%) en Milvus (13%) trekken meer overstapinteresse dan hun huidige gebruik (respectievelijk 10% en 6%) zou doen vermoeden.

Samen gelezen met Bevinding 4 ontstaat het beeld van een markt in beweging: ondernemingen draaien vandaag provider-native tools, evalueren een breder veld en zeggen dat ze hun opties open willen houden. De komende herschikking zal testen of de best-of-breed-intentie standhoudt wanneer deze in aanraking komt met het gemak van gebundelde aanbiedingen.

De kern

Organisaties met meer dan 100 werknemers koppelen AI-agenten sneller aan hun bedrijfsprocessen dan ze de context waarop die agenten draaien kunnen garanderen. Retrieval is de standaardbron van enterprise-context en komt steeds vaker van modelproviders en hyperscalers in plaats van gespecialiseerde vectordatabases. Toch heeft een meerderheid van de ondernemingen al gezien dat agenten zelfverzekerd en fout antwoorden omdat die context dun of inconsistent was. De fout is niet exotisch; het is het voorspelbare resultaat van autoritair klinkende agenten richten op een onbetrouwbare basis.

Het voorgestelde antwoord van de sector — een beheerde semantische laag gecombineerd met hybride retrieval, reranking en toegangscontroles — wordt gebouwd, maar is grotendeels nog niet in productie. Ondernemingen zitten klem tussen het gemak van provider-native bundels en een uitgesproken voorkeur voor best-of-breed-onafhankelijkheid.

Met 101 respondenten in één Q2-golf is dit een richtinggevende lezing die naar de mid-market neigt. Maar de richting is duidelijk: de contextlaag is de volgende betwiste laag van de AI-stack, en op dit moment lopen agenten erop vooruit. De contextkloof is geen probleem van retrievalvolume dat zichzelf oplost met meer documenten of grotere indexen; het is een probleem van beheerde, consistente en toegangsgevoelige context. De open vraag voor latere enquêtegolven is of ondernemingen die laag afbouwen voordat zelfverzekerd-maar-foute mislukkingen van het lab verschuiven naar beslissingen die ertoe doen.

Gebaseerd op enquêtereacties van 101 gekwalificeerde enterprise-respondenten (100+ werknemers), afkomstig uit één Q2 2026-golf (juni). Bij deze steekproefgrootte moeten de resultaten worden gelezen als een richtinggevend signaal en niet als een exacte meting. De steekproef is zelfgeselecteerd, geen kanssteekproef, en neigt naar de mid-market. Respondenten omvatten managers, individuele medewerkers, VP's/directors en de C-suite, met sterke aankoopbevoegdheid, verspreid over technologie, gezondheidszorg, retail, transport, financiële dienstverlening, maakindustrie en onderwijs.