Operationalize machine learning and generative AI solutions

In diesem praxisorientierten Training lernen Teilnehmende, produktionsreife MLOps- und GenAIOps‑Workflows auf Microsoft Azure aufzubauen. Sie entwickeln sichere, skalierbare KI-Infrastrukturen, operationalisieren Machine‑Learning‑Modelle und generative KI‑Lösungen und nutzen moderne Tools wie Azure Machine Learning, Microsoft Foundry, GitHub Actions, Azure CLI und Bicep für automatisierte, beobachtbare KI‑Deployments.

Nach Abschluss dieses Trainings:

• konzipieren Sie skalierbare und sichere KI‑Infrastrukturen auf Azure für MLOps und GenAIOps.
• implementieren Sie vollständige ML‑Lifecycle‑Prozesse mit Azure Machine Learning, inklusive Training, Versionierung und Deployment.
• stellen Sie generative KI‑Anwendungen und Agenten mithilfe von Microsoft Foundry bereit.
• automatisieren Sie CI/CD‑Pipelines mit GitHub Actions für kontinuierliches Trainieren, Testen und Ausrollen.
• beherrschen Sie die Anwendung von Infrastruktur als Code, um stabile und reproduzierbare ML‑Umgebungen mit Bicep und Azure CLI aufzubauen.
• überwachen und bewerten Sie ML‑Modelle sowie generative KI‑Workloads hinsichtlich Leistung, Qualität, Sicherheit und Kosten.
• Optimieren Sie bestehende KI‑Deployments mithilfe moderner Observability‑Tools und Best Practices.

Teil 1: Operationalisieren von Machine Learning-Modellen (MLOps)

Experiment with Azure Machine Learning
Preprocess data and configure featurization
Run an automated machine learning experiment
Evaluate and compare models
Configure MLflow for model tracking in notebooks
Train and track models in notebooks
Evaluate models with the Responsible AI dashboard
Exercise - Find the best classification model with Azure Machine Learning

Perform hyperparameter tuning with Azure Machine Learning
Define a search space
Configure a sampling method
Configure early termination
Use a sweep job for hyperparameter tuning
Exercise - Run a sweep job

Run pipelines in Azure Machine Learning
Create components
Create a pipeline
Run a pipeline job
Exercise - Run a pipeline job

Trigger Azure Machine Learning jobs with GitHub Actions
Understand the business problem
Explore the solution architecture
Use GitHub Actions for model training
Exercise

Trigger GitHub Actions with feature-based development
Understand the business problem
Explore the solution architecture
Trigger a workflow
Exercise

Work with environments in GitHub Actions
Understand the business problem
Explore the solution architecture
Set up environments
Exercise

Deploy a model with GitHub Actions
Understand the business problem
Explore the solution architecture
Model deployment
Exercise

Teil 2: Operationalize generative AI applications (GenAIOps)

Plan and prepare a GenAIOps solution
Explore use cases for GenAIOps
Select the right generative AI model
Understand the development lifecycle of a language model application
Explore available tools and frameworks to implement GenAIOps
Exercise - Compare language models from the model catalog

Manage prompts for agents in Microsoft Foundry with GitHub
Apply version control to prompts
Understand Microsoft Foundry agents and prompt versioning
Organize prompts in GitHub repositories
Develop safe prompt deployment workflows
Exercise - Develop prompt and agent versions

Evaluate and optimize AI agents through structured experiments
Design evaluation experiments
Apply Git-based workflows to optimization experiments
Apply evaluation rubrics for consistent scoring
Exercise - Evaluate and compare AI agent versions

Automate AI evaluations with Microsoft Foundry and GitHub Actions
Understand why automated evaluations matter
Align evaluators with human criteria
Create evaluation datasets
Implement batch evaluations with Python
Integrate evaluations into GitHub Actions
Exercise - Set up automated evaluations

Monitor your generative AI application
Why do you need to monitor?
Understand key metrics to monitor
Explore how to monitor with Azure
Integrate monitoring into your app
Interpret monitoring results
Exercise - Enable monitoring for a generative AI application

Analyze and debug your generative AI app with tracing
Why do you need to use tracing?
Identify what to trace in generative AI applications
Implement tracing in generative AI applications
Debug complex workflows with advanced tracing patterns
Make informed decisions with trace data analysis
Exercise - Enable tracing for a generative AI application
 

Data‑Science- und DevOps‑Teams sind nach diesem Training in der Lage, robuste KI‑Systeme erfolgreich in die Produktion zu überführen.

Dieses Training richtet sich an:

• Data Scientists
• Machine‑Learning‑Ingenieure
• KI‑Techniker
• DevOps‑Professionals

Nach diesem Training können Teilnehmende KI‑Modelle und generative KI‑Anwendungen zuverlässig, sicher und skalierbar in produktive Azure‑Umgebungen überführen. Es eignet sich ideal für alle, die operative Verantwortung für KI‑Systeme tragen oder MLOps/GenAIOps‑Workflows implementieren wollen.
 

 Für eine erfolgreiche Teilnahme empfehlen wir:

• Sicherer Umgang mit Python
• Grundlegendes Verständnis von Machine‑Learning‑Konzepten
• Erste Kenntnisse in DevOps‑Praktiken (z. B. Versionskontrolle, CI/CD, CLI‑Tools)
• Erfahrung mit Azure‑Diensten ist hilfreich