Fintech Brex gokt erop dat de toekomst van AI voor ondernemingen niet een betere orkestratie is, maar minder daarvan.
Terwijl generatieve AI-agenten van co-piloten naar autonome systemen evolueren, zegt James Reggio, CTO van Brex, dat traditionele agent-orkestratieframeworks eerder een beperking dan een enabler worden. In plaats van te vertrouwen op een centrale coördinator of rigide workflows, heeft Brex een zogenaamde ‘Agent Mesh’ gebouwd: een netwerk van smalle, rolspecifieke agenten die in duidelijke taal communiceren en onafhankelijk opereren – maar met volledige zichtbaarheid.
“Ons doel is om kunstmatige intelligentie te gebruiken om de Brex effectief te laten verdwijnen”, vertelde Reggio aan VentureBeat. “Wij streven naar totale automatisering.”
Brex heeft geleerd dat agenten voor hun doeleinden in beperkte, specifieke rollen moeten werken om modulairer, flexibeler en controleerbaarder te zijn.
Reggio zei dat het architectonische doel is om elke manager in een bedrijf in staat te stellen “één enkel aanspreekpunt binnen Brex te hebben dat al zijn verantwoordelijkheden afhandelt, of het nu gaat om het beheren van uitgaven, het aanvragen van reizen of het goedkeuren van verzoeken om bestedingslimieten.”
De reis van Brex Assistant
De financiële dienstverleningssector heeft AI en machine learning al lang omarmd om de enorme hoeveelheden gegevens die zij verwerkt te kunnen verwerken. Maar als het gaat om het introduceren van AI-modellen en agenten, is dat wel het geval de sector koos een voorzichtiger pad in het begin. Nu hebben verschillende financiële dienstverleners, waaronder Brex, dat wel gedaan gelanceerde AI-aangedreven platforms En meer agentische workflows.
Brex’s eerste uitstapje naar generatieve kunstmatige intelligentie was met de Brex Assistant, uitgebracht in 2023, die klanten hielp bepaalde financiële en onkostentaken te automatiseren. Het biedt suggesties voor uitgaven, vult automatisch informatie in en volgt uitgaven op die in strijd zijn met het beleid.
Reggio erkent dat Brex Assistant werkt, maar dat is niet genoeg. “Ik denk dat het tot op zekere hoogte een technologie blijft waarvan we de grenzen ervan niet helemaal kennen”, zei hij. “Er moet een vrij groot aantal patronen omheen bestaan die min of meer door de industrie worden ontwikkeld naarmate de technologie volwassener wordt en naarmate meer bedrijven ermee bouwen.”
Brex Assistant gebruikt verschillende modellen, waaronder Antropische Claude en aangepaste Brex-modellen, evenals de API van OpenAI. De assistent automatiseert sommige taken, maar is nog steeds beperkt in hoe laag deze kan zijn.
Reggio zei dat Brex Assistant nog steeds een grote rol speelt in de autonomie van het bedrijf, vooral omdat het Agent Mesh-product in de applicatie stroomt.
EENgent Mesh om orkestratie te vervangen
De consensus binnen de sector is dat ecosystemen met meerdere agenten, waar agenten communiceren om taken uit te voeren, een orkestratieraamwerk nodig hebben om hen te begeleiden.
Reggio daarentegen heeft een andere houding. “Deterministische orkestratie-infrastructuur… was een oplossing voor de problemen die we twee jaar geleden zagen, namelijk dat agenten, net als de modellen, veel hallucineerden”, zei Reggio. “Ze zijn niet erg goed met meerdere tools, dus je moet ze die vrijheidsgraden geven, maar dan in een meer gestructureerd, rigide systeem. Maar naarmate de modellen beter worden, denk ik dat dit het scala aan mogelijkheden dat zich uitbreidt, begint tegen te houden.”
Meer traditionele agent-orkestratie-architecturen richten zich op één enkele agent die alles doet, of vaker op een coördinator/orkestrator plus tooling-agents die expliciet workflows definiëren. Reggio zei dat beide raamwerken te rigide zijn en problemen aanpakken die vaker voorkomen bij traditionele software dan bij AI.
Het verschil, zo betoogt Reggio, is structureel:
-
Traditionele orkestratie: vooraf gedefinieerde workflows, centrale coördinator, deterministische paden
-
Agent Mesh: gebeurtenisgestuurde, rolgespecialiseerde agenten, op berichten gebaseerde coördinatie
Agent Mesh is afhankelijk van het samenvoegen van netwerken van vele kleine agenten, die elk gespecialiseerd zijn in één enkele taak. De agenten, opnieuw gebruikmakend van de hybride mix van modellen zoals bij Brex Assistant, communiceren met andere agenten “in gewoon Engels” via een gedeelde berichtenstroom. Een routeringsmodel bepaalt snel welke tools moeten worden aangeroepen, zei hij.
Eén enkel terugbetalingsverzoek activeert verschillende taken: een nalevingscontrole om af te stemmen op het onkostenbeleid, budgetvalidatie, het matchen van ontvangsten en vervolgens het initiëren van de betaling. Hoewel een agent zeker kan worden gecodeerd om dit allemaal te doen, is deze methode “gek en foutgevoelig” en reageert hij nog steeds op nieuwe informatie die via een berichtenstroom wordt gedeeld.
Reggio zei dat het de bedoeling is om al deze afzonderlijke taken te elimineren en ze in plaats daarvan aan kleinere agenten toe te wijzen. Hij vergeleek de architectuur met een Wi-Fi-netwerk, waarbij geen enkel knooppunt het systeem bestuurt. De betrouwbaarheid komt van vele kleine, overlappende bijdragers.
“We vonden in principe een goede match met het idee om specifieke rollen als agenten te belichamen bovenop het beste platform om specifieke verantwoordelijkheden te beheren, zoals hoe je crediteuren aan het ene team kunt delegeren versus het onkostenbeheer aan een ander team”, aldus Reggio.
Brex definieert drie kernideeën in de Agent Mesh-architectuur:
-
Configureer waar agent-, model-, tools- en abonnementsdefinities zich bevinden
-
MessageStream, een logboek van elk bericht, elke tooloproep en elke statusovergang
-
Klok die zorgt voor deterministische orde
Brex heeft ook evaluaties in het systeem ingebouwd, waarbij de LLM als scheidsrechter optreedt en een beoordelingsagent de beslissingen van elke agent beoordeelt om ervoor te zorgen dat deze zich aan de nauwkeurigheid houden en het beleid voeren.
Succes tot nu toe
Brex zegt dat het aanzienlijke efficiëntiewinsten heeft gezien bij zijn klanten in zijn AI-ecosysteem. Brex heeft geen benchmarks van derden of klantspecifieke gegevens verstrekt om deze winsten te valideren.
Maar Reggio zei dat zakelijke klanten die Brex Assistant en de machine learning-systemen van het bedrijf gebruiken “in staat zijn om 99% automatisering te bereiken, vooral voor klanten die echt op AI leunden.”
Dit is een aanzienlijke verbetering ten opzichte van de 60 tot 70% van de Brex-klanten die vóór de lancering van Brex Assistant hun onkostenprocessen konden automatiseren.
Het bedrijf bevindt zich nog in het begin van zijn autonomiereis, zei Reggio. Maar als de Agent Mesh-aanpak werkt, is het meest succesvolle resultaat wellicht onzichtbaar: werknemers denken helemaal niet meer aan uitgaven.
