Stel je voor: je hebt een geweldig idee voor een app. Aan de hand van die ene foto die je nam op restaurant wil je een recept genereren, inclusief boodschappenlijstje. Je data scientists gaan aan de slag met allerlei scripts en interactieve notebooks, en na wekenlang zwoegen heb je een AI-model dat zelfs de lekkerste gerechten kan recreëren. Maar hoe krijg je dit model van jouw pc en in de handen van je gebruikers?

Je moet je model op een server of in de cloud krijgen, API-toegang opzetten, zorgen voor schaalbaarheid, et cetera. Alles lijkt te werken en gebruikers zijn tevreden. Totdat: TikTok-influencers verzinnen plots weer een nieuwe foodtrend, en gebruikers uploaden massaal foto's om erachter te komen hoe ze dit gerecht zelf thuis kunnen maken. Maar jouw model heeft dit gerecht nog nooit gezien en kan hier helemaal niet mee omgaan! Om de kwaliteit van je app te garanderen, zal je nieuwe data moeten verzamelen en alle voorgaande stappen opnieuw handmatig moeten doorlopen. Was er maar een manier om dit proces op een gestructureerde en geautomatiseerde manier aan te pakken!

Dan komt MLOps of Machine Learning Operations van pas.

• Datapreparatie: De data die gebruikt wordt, komt vaak van verschillende bronnen en bevat nog ruis en fouten. (Denk aan de contactenlijst met twee notaties voor telefoonnummers en personen zonder achternaam.) Het opschonen van die data is de eerste belangrijke stap. Hierbij komt heel wat data-engineering kijken:
  • we moeten de ruwe data in het juiste format omzetten
  • via feature engineering maken we de data nuttiger voor het trainen van ML-modellen (bv. besteldata omzetten naar geprefereerde aankoopdagen per klant)
• Modelbouw: We kiezen het beste algoritme en trainen het model. We stellen ook de hyperparameters op punt, dat zijn eigenschappen van het model zelf, zoals aantal lagen, hoeveel data verwerkt wordt per stap, aantal herhalingen.... En dan ga je het model testen, bijsturen, testen... totdat we zeker zijn dat het de beoogde resultaten bereikt.
• Uitrol: We rollen het model uit in de productieomgeving zodat de eigenlijke gebruikers ermee kunnen werken. Dat doen we in de juiste cloud-infrastructuur, zodat de toepassing ook kan samenwerken met (veel) meer gebruikers, nu of in de toekomst.
• Opvolging en onderhoud: Eenmaal live gaan we de prestaties van het model blijven opvolgen en controleren. Het model kan anders na verloop van tijd minder goed gaan werken door "datadrift", een fenomeen waarbij de data en de relatie tussen de input en output doorheen de tijd veranderen. Een machine-learningmodel dat bijvoorbeeld modeadvies geeft, zal snel verouderen omdat de trends veranderen. Zodra dergelijke drift wordt opgemerkt, hernemen we de levenscyclus, maar dan met nieuwere data.

Natuurlijk kunnen we die stappen allemaal handmatig uitvoeren, maar het doel van MLOps is natuurlijk om zoveel mogelijk te automatiseren! Met behulp van modulaire code voor de data- en modellering kunnen we een geautomatiseerde pipeline voor dit ML-systeem uitwerken. Daardoor kunnen we niet alleen gemakkelijker en sneller experimenteren, het zorgt er ook voor dat we hetzelfde systeem kunnen kopiëren en hergebruiken. We kunnen de modellen ook automatisch laten hertrainen, onder voorwaarde dat we ook goede tests voor data- en modelvalidatie en code hebben. Dat is dan weer mogelijk aan de hand van continuous integration and deployment (CI/CD), goede praktijken uit de DevOps-wereld. Als het nieuwe model dan beter presteert en alle tests met glans doorloopt, kan het zelfs in productie genomen worden, zonder extra manuele tussenkomst.