Orchestral vervangt de complexiteit van LangChain door reproduceerbare, provider-onafhankelijke LLM-orkestratie

Een nieuw raamwerk van onderzoekers Alexander en Jacob Roman verwerpt de complexiteit van de huidige AI-tools en biedt een synchroon, typeveilig alternatief dat is ontworpen voor reproduceerbaarheid en kostenbewuste wetenschap.

In de haast om autonome AI-agents te bouwen, zijn ontwikkelaars grotendeels gedwongen tot een binaire keuze: de controle overgeven aan enorme, complexe ecosystemen zoals LangChain, of zich vastklampen aan SDK’s van één leverancier van providers als Anthropic of OpenAI. Voor software-ingenieurs is dit een ergernis. Voor onderzoekers die AI proberen te gebruiken voor reproduceerbaar onderzoek is dat een dealbreaker.

Binnenkomen Orkestrale AIeen nieuw Python-framework uitgebracht Github deze week, in een poging een derde weg te vinden.

Ontwikkeld door theoretisch natuurkundige Alexander Roman en software-ingenieur Jacob RomanOrchestral positioneert zichzelf als het ‘wetenschappelijke computer’-antwoord op agent-orkestratie, waarbij prioriteit wordt gegeven aan deterministische uitvoering en het debuggen van duidelijkheid boven de ‘magie’ van asynchrone alternatieven.

De ‘anti-framework’-architectuur

De kernfilosofie achter Orchestral is een bewuste afwijzing van de complexiteit die de huidige markt teistert. Terwijl raamwerken als AutoGPT en LangChain sterk afhankelijk zijn van asynchrone gebeurtenislussen – wat het opsporen van fouten tot een nachtmerrie kan maken – gebruikt Orchestral een strikt synchroon uitvoeringsmodel.

“Reproduceerbaarheid vereist dat je precies begrijpt welke code wordt uitgevoerd en wanneer”, betogen de oprichters in hun technische paper. Door operaties in een voorspelbare, lineaire volgorde te dwingen, zorgt het raamwerk ervoor dat het gedrag van een agent deterministisch is – een cruciale vereiste voor wetenschappelijke experimenten waarbij een ‘gehallucineerde’ variabele of een raceconditie een onderzoek ongeldig zou kunnen maken.

Ondanks deze focus op eenvoud is het raamwerk provider-agnostisch. Het wordt geleverd met een uniforme interface die werkt met OpenAI, Anthropic, Google Gemini, Mistral en lokale modellen via Ollama. Hierdoor kunnen onderzoekers één keer een agent schrijven en het onderliggende ‘brein’ vervangen door een enkele regel code – cruciaal voor het vergelijken van modelprestaties of het beheren van subsidiegeld door over te schakelen naar goedkopere conceptmodellen.

LLM-UX: ontwerp voor het model, niet voor de eindgebruiker

Orchestral introduceert een concept dat de oprichters “LLM-UX” noemen: gebruikerservaring ontworpen vanuit het perspectief van het model zelf.

Het raamwerk vereenvoudigt het maken van tools door automatisch JSON-schema’s te genereren op basis van standaard Python-hints. In plaats van gedetailleerde beschrijvingen in een apart formaat te schrijven, kunnen ontwikkelaars eenvoudigweg hun Python-functies annoteren. Orchestral verzorgt de vertaling en zorgt ervoor dat de gegevenstypen die tussen LLM en de code worden doorgegeven, veilig en consistent blijven.

Deze filosofie strekt zich uit tot de ingebouwde tool. Het raamwerk omvat een persistente terminaltool die de status ervan (zoals werkmappen en omgevingsvariabelen) tussen oproepen door behoudt. Dit bootst de manier na waarop menselijke onderzoekers omgaan met opdrachtregels, waardoor de cognitieve belasting van het model wordt verminderd en de veelvoorkomende foutmodus wordt voorkomen waarbij een agent “vergeet” dat hij drie stappen geleden van map is veranderd.

Gebouwd voor het laboratorium (en het budget)

De oorsprong van Orchestral in de hoge-energiefysica en het onderzoek naar exoplaneten is duidelijk zichtbaar in de kenmerken ervan. Het raamwerk bevat ingebouwde ondersteuning voor LaTeX-export, waardoor onderzoekers geformatteerde logbestanden met de redenering van agenten rechtstreeks in academische artikelen kunnen plaatsen.

Het behandelt ook de praktische realiteit van het runnen van LLM’s: de kosten. Het raamwerk omvat een geautomatiseerde module voor het bijhouden van kosten die het tokengebruik van verschillende providers samenvoegt, waardoor laboratoria de burn-rates in realtime kunnen volgen.

Misschien wel het allerbelangrijkste voor veiligheidsbewuste vakgebieden is dat Orchestral ‘read-before-edit’-vangrails implementeert. Als een agent een bestand probeert te overschrijven dat hij tijdens de huidige sessie niet heeft gelezen, blokkeert het systeem de actie en vraagt ​​het model om het bestand eerst te lezen. Dit voorkomt “blinde overschrijf”-fouten die iedereen bang maken die autonome coderingsmiddelen gebruikt.

Licentiewaarschuwing

Hoewel Orchestral eenvoudig te installeren is via pip install Orchestral-ai, moeten potentiële gebruikers goed naar de licentie kijken. In tegenstelling tot de MIT- of Apache-licenties die gebruikelijk zijn in het Python-ecosysteem, wordt Orchestral vrijgegeven onder een eigen licentie.

In de documentatie wordt uitdrukkelijk vermeld dat “ongeoorloofd kopiëren, verspreiden, wijzigen of gebruiken… ten strengste verboden is zonder voorafgaande schriftelijke toestemming”. Dit ‘open source’-model stelt onderzoekers in staat de code te zien en te gebruiken, maar weerhoudt hen ervan deze te vervalsen of commerciële concurrenten op te bouwen zonder overeenkomst. Dit suggereert een bedrijfsmodel dat zich in de toekomst richt op bedrijfslicenties of dubbele licentiestrategieën.

Bovendien moeten early adopters op de hoogte zijn van Python-omgevingen: het raamwerk vereist Python 3.13 of hoger, waardoor de ondersteuning voor het veelgebruikte Python 3.12 expliciet wordt stopgezet vanwege compatibiliteitsproblemen.

Waarom het ertoe doet

‘De beschaving gaat vooruit door het aantal belangrijke operaties uit te breiden die we kunnen uitvoeren zonder erover na te denken’, schrijven de stichters, waarbij ze de wiskundige Alfred North Whitehead citeren.

Orkestrale pogingen om dit te operationaliseren voor het AI-tijdperk. Door het ‘loodgieterswerk’ van API-verbindingen en schemavalidatie te abstraheren, wil het wetenschappers zich laten concentreren op de logica van hun agenten in plaats van op de eigenaardigheden van de infrastructuur. Of de academische en ontwikkelaarsgemeenschappen een gepatenteerde tool zullen omarmen in een ecosysteem dat wordt gedomineerd door open source valt nog te bezien, maar voor degenen die verdrinken in asynchrone sporen en kapotte tooloproepen, biedt Orchestral een prikkelende belofte van gezond verstand.