MLOps: ‘Dé manier om AI en ML beheersbaar te houden’
Met de snelle opkomst van kunstmatige intelligentie staan veel organisaties voor de uitdaging om hun AI-modellen effectief te beheren, (her)trainen en monitoren. Hierbij is het gebruik van een zogeheten MLOps-framework van grote waarde, stelt Joyce Lopulalan van Future Facts Conclusion.
Nu de eerste hype een beetje is gaan liggen, is het moment aangebroken dat organisaties daadwerkelijk stappen zetten om AI te implementeren in het alledaagse werk, bijvoorbeeld om de productiviteit te verhogen.
Dit blijkt echter makkelijker gezegd dan gedaan – zeker als het streven is om deze modellen niet alleen efficiënt in te zetten, maar ook te zorgen dat ze verantwoord en betrouwbaar blijven opereren, en ook qua kosten binnen een acceptabele bandbreedte blijven.
“Het is cruciaal dat organisaties hun AI-modellen goed beheren”, zegt Joyce Lopulalan, Business Manager bij Future Facts Conclusion. Dit is waar een MLOps-framework bij kan helpen, legt ze uit.
“Een MLOps-framework biedt een gestandaardiseerd proces voor de ontwikkeling, monitoring en hertraining van machine learning-modellen. Het slaat de brug tussen de data science-kant en de operations-kant, waardoor het gehele proces van idee naar uitvoering consistent en uitlegbaar blijft.”
Een gestandaardiseerd raamwerk is een set van vaste afspraken en werkwijzen die organisaties helpen om iets op een efficiënte en consistente manier te doen. In het geval van MLOps gaat het om een duidelijke aanpak voor het trainen en industrialiseren van machine learning (ML)-modellen, zodat iedereen binnen een organisatie dezelfde stappen volgt.
Orde in de chaos
Zo’n framework leent zich goed voor een situatie waarin een organisatie in een korte tijd te maken krijgt met uiteenlopende nieuwe AI-modellen binnen allerlei geledingen van de organisatie, van finance en procurement tot marketing en productieprocessen.
“Het MLOps-framework is een eerste stap om de controle te behouden over alle AI-modellen.”
Een van de uitdagingen is dat deze modellen vaak op verschillende manieren worden ontwikkeld, beheerd en gemonitord. “Modellen kunnen verschillende versies hebben en door allerlei teams binnen een bedrijf worden gebruikt”, legt Lopulalan uit. “Dit maakt het beheer ervan complex.”
Voor de data science-afdelingen, die verantwoordelijk zijn voor het managen van al deze modellen, is het daarom essentieel om een governanceproces op te zetten. “Het MLOps-framework is een eerste stap om de controle te behouden over alle AI-modellen, en de processen en business rules daarachter”, aldus Lopulalan.
Van concept tot productie
Een ander voordeel van het MLOps-framework is dat het het volledige levenscyclusbeheer van AI-modellen ondersteunt, van concept tot productie.
“Het zorgt ervoor dat het proces van idee tot realisatie wordt gestandaardiseerd en daardoor minder foutgevoelig is”, zegt Lopulalan. Dit zorgt voor een efficiëntere implementatie, waarbij een proces dat voorheen weken duurde nu in uren kan worden voltooid.
Verantwoordelijke AI
Het verantwoord inzetten van AI wordt steeds belangrijker, zeker gezien de ethische vraagstukken rondom AI. Een MLOps-framework kan een belangrijke rol spelen in wat vaak ‘responsible AI’ wordt genoemd, en fungeren als het centrale punt waar AI-modellen worden beheerd en bewaakt.
“AI-modellen mogen geen eigen leven gaan leiden, en moeten dus eerlijk en transparant blijven”, benadrukt Lopulalan. “Met een MLOps-framework kun je voortdurend monitoren of een model nog steeds ethisch verantwoord functioneert, en of er bijvoorbeeld sprake is van bias.”
“MLOps biedt een springplank naar nog véél meer.”
Future Facts Conclusion werkt hierbij cloud-agnostisch. De experts kunnen onafhankelijk adviseren en het MLOps-framework in Azure, AWS of Google Cloud opzetten en inrichten.
“Voor organisaties die dit graag zelf willen doen, hebben we het principe ‘voordoen, samen doen en zelf doen’”, vertelt Lopulalan. “Hierbij dragen we tijdens het agile ontwikkelings- en implementatieproces de kennis gefaseerd aan het team van de klant over”, legt ze uit.
Dit moet resulteren in beter inzicht in datakwaliteit, mogelijke datadrift en het identificeren van bias binnen de modellen.
Een bewezen aanpak
Future Facts Conclusion heeft al diverse klanten geholpen bij de implementatie van een MLOps-framework. Zo adviseerde het bureau een financiële instelling over het structureren van haar steeds complexere AI-omgeving.
Een ander voorbeeld is een groot agrarisch bedrijf dat worstelde met een snelgroeiend aantal AI-modellen. Dankzij het MLOps-framework kon het bedrijf de groei van zijn AI-inzet beter beheren.
Belangrijke resultaten van de aanpak zijn efficiëntie en tijdwinst. Zo wordt de periode voor het opzetten van MLOps-projecten teruggebracht van een week naar een uur, en kan het opzetten van een zogeheten inference pipeline – het proces waarbij modellen in productie worden genomen – worden verkort van een maand naar slechts enkele dagen.
“Door deze bewezen aanpak kunnen organisaties niet alleen hun huidige AI-modellen efficiënter beheren, maar ook de groei van hun AI-capaciteiten ondersteunen”, concludeert Lopulalan.
Springplank naar Gen AI
Al met al kan MLOps worden gezien als “de opstap voor je gehele organisatie om gecontroleerd met ML-modellen om te gaan”, vat ze samen.
Maar dat is niet alles. In de snelle opkomst van kunstmatige intelligentie willen bedrijven ook graag profiteren van andere vormen van AI. Ze staan momenteel met name te springen om generatieve AI breed uit te rollen binnen de organisatie. Ook hier biedt MLOps uitkomst.
“Als je nu MLOps voor je organisatie goed inregelt, dan is het een kleinere stap om van MLOps naar AIOps of LLMOps te gaan”, aldus Lopulalan. “Als je uitbreidt van ML-modellen naar ook andere (Gen) AI-modellen, is de volgende stap het uitbreiden van je MLOPs. Dan maak je op een aantal onderdelen een extra slag en kunt daardoor ook goed schalen met GenAI-modellen. Zo biedt MLOps een springplank naar nog véél meer.”
