Modul 1: Erkunden von Compute- und Speicheroptionen für Datentechnikworkloads
Dieses Modul bietet eine Übersicht über die Optionen für Compute- und Speichertechnologien von Azure, die Datentechnikern zur Verfügung stehen, die analytische Workloads erstellen. In diesem Modul werden Methoden zum Strukturieren des Data Lake und zum Optimieren der Dateien für die Untersuchung, das Streaming und die Batchverarbeitung von Workloads vermittelt. Die Kursteilnehmer*innen erfahren, wie sie den Data Lake in Datenoptimierungsebenen organisieren, wenn sie Dateien durch Batch- und Streamverarbeitung transformieren. Anschließend lernen sie, wie sie Indizes für ihre Datasets erstellen (etwa CSV-, JSON- und Parquet-Dateien) und sie für potenzielle Abfrage- und Workloadbeschleunigung verwenden.
Lektionen
- Einführung in Azure Synapse Analytics
- Beschreiben von Azure Databricks
- Einführung in Azure Data Lake Storage
- Beschreiben der Delta Lake-Architektur
- Arbeiten mit Datenströmen mithilfe von Azure Stream Analytics
Nach Abschluss dieses Moduls werden die Teilnehmer*innen in der Lage sein:
- Beschreiben von Azure Synapse Analytics
- Beschreiben von Azure Databricks
- Beschreiben von Azure Data Lake Storage
- Beschreiben der Delta Lake-Architektur
- Beschreiben von Azure Stream Analytics
Modul 2: Ausführen interaktiver Abfragen mithilfe von serverlosen SQL-Pools von Azure Synapse Analytics
In diesem Modul erfahren die Kursteilnehmer*innen, wie sie mit in Data Lake und externen Dateiquellen gespeicherten Dateien arbeiten, indem sie T-SQL-Anweisungen verwenden, die von einem serverlosen SQL-Pool in Azure Synapse Analytics ausgeführt werden. Die Kursteilnehmer*innen fragen Parquet-Dateien ab, die in einem Data Lake gespeichert sind, sowie CSV-Dateien, die in einem externen Datenspeicher gespeichert sind. Als Nächstes erstellen sie Azure Active Directory-Sicherheitsgruppen und erzwingen den Zugriff auf Dateien im Data Lake über rollenbasierte Zugriffssteuerung (Role-Based Access Control, RBAC) und Zugriffssteuerungslisten (Access Control Lists, ACLs).
Lektionen
- Kennenlernen von serverlosen SQL-Pool-Funktionen in Azure Synapse
- Abfragen von Daten im Lake mit serverlosen SQL-Pools von Azure Synapse
- Erstellen von Metadatenobjekten in serverlosen SQL-Pools von Azure Synapse
- Schützen von Daten und Verwalten von Benutzern in serverlosen SQL-Pools von Azure Synapse
Nach Abschluss dieses Moduls werden die Teilnehmer*innen in der Lage sein:
- Verstehen der Funktionen von serverlosen SQL-Pools in Azure Synapse
- Abfragen von Daten im Lake mit serverlosen SQL-Pools von Azure Synapse
- Erstellen von Metadatenobjekten in serverlosen SQL-Pools von Azure Synapse
- Schützen von Daten und Verwalten von Benutzern in serverlosen SQL-Pools von Azure Synapse
Modul 3: Datenuntersuchung und -transformation in Azure Databricks
In diesem Modul erfahren Sie, wie Sie verschiedene Methoden für Apache Spark-Datenrahmen zum Untersuchen und Transformieren von Daten in Azure Databricks verwenden. Die Kursteilnehmer lernen, wie sie Standardmethoden für Datenrahmen zur Untersuchung und Transformation von Daten ausführen können. Sie lernen auch, wie man erweiterte Aufgaben ausführen, z. B. doppelte Daten entfernen, Datums- / Zeitwerte bearbeiten, Spalten umbenennen und Daten aggregieren kann.
Lektionen
- Beschreiben von Azure Databricks
- Lesen und Schreiben von Daten in Azure Databricks
- Arbeiten mit DataFrames in Azure Databricks
- Arbeiten mit erweiterten Methoden für Dataframes in Azure Databricks
Nach Abschluss dieses Moduls werden die Teilnehmer*innen in der Lage sein:
- Beschreiben von Azure Databricks
- Lesen und Schreiben von Daten in Azure Databricks
- Arbeiten mit DataFrames in Azure Databricks
- Arbeiten mit erweiterten Methoden für Dataframes in Azure Databricks
Modul 4: Untersuchen, Transformieren und Laden von Daten im Data Warehouse mithilfe von Apache Spark
In diesem Modul erfahren Sie, wie Sie in einem Data Lake gespeicherte Daten untersuchen, transformieren und in einen relationalen Datenspeicher laden. Die Kursteilnehmer werden Parkett- und JSON-Dateien untersuchen und Techniken verwenden, um JSON-Dateien mit hierarchischen Strukturen abzufragen und zu transformieren. Anschließend werden die Kursteilnehmer Apache Spark verwenden, um Daten in das Data Warehouse zu laden und Parquet-Daten im Data Lake mit Daten im dedizierten SQL-Pool zu verbinden.
Lektionen
- Grundlegendes zu Big-Data-Entwicklung mit Apache Spark in Azure Synapse Analytics
- Erfassen von Daten mit Apache Spark-Notebooks in Azure Synapse Analytics
- Transformieren von Daten mit Dataframes in Apache Spark-Pools in Azure Synapse Analytics
- Integrieren von SQL- und Apache Spark-Pools in Azure Synapse Analytics
Nach Abschluss dieses Moduls werden die Teilnehmer*innen in der Lage sein:
- Beschreiben von Big Data-Engineering mit Apache Spark in Azure Synapse Analytics
- Erfassen von Daten mit Apache Spark-Notebooks in Azure Synapse Analytics
- Transformieren von Daten mit Dataframes in Apache Spark-Pools in Azure Synapse Analytics
- Integrieren von SQL- und Apache Spark-Pools in Azure Synapse Analytics
Modul 5: Erfassen und Laden von Daten im Data Warehouse
In diesem Modul lernen die Kursteilnehmer, wie sie Daten mithilfe von T-SQL-Skripts und Synapse Analytics-Integrationspipelines im Data Warehouse erfassen. Die Kursteilnehmer lernen, wie sie Daten mit PolyBase und COPY unter Verwendung von T-SQL in dedizierte Synapse-SQL-Pools laden. Darüber hinaus erfahren die Kursteilnehmer, wie sie die Workloadverwaltung zusammen mit einer Copy-Aktivität in einer Azure Synapse-Pipeline für die Datenerfassung im Petabytebereich verwendet.
Lektionen
- Verwenden von bewährten Methoden zum Laden von Daten in Azure Synapse Analytics
- Datenerfassung im Petabytebereich mit Azure Data Factory
Nach Abschluss dieses Moduls werden die Teilnehmer*innen in der Lage sein:
- Verwenden von bewährten Methoden zum Laden von Daten in Azure Synapse Analytics
- Datenerfassung im Petabytebereich mit Azure Data Factory
Modul 6: Transformieren von Daten mit Azure Data Factory oder Azure Synapse-Pipelines
In diesem Modul lernen die Kursteilnehmer, wie sie Datenintegrationspipelines erstellen, um Daten aus mehreren Datenquellen zu erfassen, Daten mithilfe von Zuordnungsdatenflüssen zu transformieren und Daten in eine oder mehrere Datensenken zu verschieben.
Lektionen
- Datenintegration mit Azure Data Factory oder Azure Synapse-Pipelines
- Transformation ohne Code im großen Stil mit Azure Data Factory oder Azure Synapse-Pipelines
Nach Abschluss dieses Moduls werden die Teilnehmer*innen in der Lage sein:
- Ausführen der Datenintegration mit Azure Data Factory
- Ausführen der Transformation ohne Code im großen Stil mit Azure Data Factory
Modul 7: Orchestrieren der Datenverschiebung und -transformation in Azure Synapse-Pipelines
In diesem Modul erfahren Sie, wie Sie verknüpfte Dienste erstellen und die Datenverschiebung und -transformation mithilfe von Notebooks in Azure Synapse-Pipelines orchestrieren.
Lektionen
- Orchestrieren der Datenverschiebung und -transformation in Azure Data Factory
Modul 8: End-to-End-Sicherheit mit Azure Synapse Analytics
In diesem Modul erfahren die Kursteilnehmer, wie sie einen Synapse Analytics-Arbeitsbereich und die zugehörige unterstützende Infrastruktur schützen. Die Kursteilnehmer werden den SQL Active Directory-Administrator beobachten, IP-Firewall-Regeln verwalten, Geheimnisse mit Azure Key Vault verwalten und über einen mit Key Vault verknüpften Dienst und Pipelineaktivitäten auf diese Geheimnisse zugreifen. Die Kursteilnehmer lernen, wie sie Sicherheit auf Spaltenebene, Sicherheit auf Zeilenebene und dynamische Datenmaskierung bei Verwendung von dedizierten SQL-Pools implementieren.
Lektionen
- Schützen einer Data Warehouse-Datenbank in Azure Synapse Analytics
- Konfigurieren und Verwalten von Geheimnissen in Azure Key Vault
- Implementieren von Compliancekontrollen für vertrauliche Daten
Nach Abschluss dieses Moduls werden die Teilnehmer*innen in der Lage sein:
- Schützen einer Data Warehouse-Datenbank in Azure Synapse Analytics
- Konfigurieren und Verwalten von Geheimnissen in Azure Key Vault
- Implementieren von Compliancekontrollen für vertrauliche Daten
Modul 9: Unterstützen von Hybrid Transactional Analytical Processing (HTAP) mit Azure Synapse Link
In diesem Modul erfahren die Kursteilnehmer, wie Azure Synapse Link die nahtlose Konnektivität eines Azure Cosmos DB-Kontos mit einem Synapse-Arbeitsbereich ermöglicht. Die Teilnehmer lernen, wie sie Synapse Link aktivieren und konfigurieren und wie sie anschließend den Azure Cosmos DB-Analysespeicher mithilfe von Apache Spark und serverlosen SQL-Pools abfragen.
Lektionen
- Entwerfen der hybriden transaktionalen und analytischen Verarbeitung mithilfe von Azure Synapse Analytics
- Konfigurieren von Azure Synapse Link mit Azure Cosmos DB
- Abfragen von Azure Cosmos DB mit Apache Spark-Pools
- Abfragen von Azure Cosmos DB mit serverlosen SQL-Pools
Nach Abschluss dieses Moduls werden die Teilnehmer*innen in der Lage sein:
- Entwerfen der hybriden transaktionalen und analytischen Verarbeitung mithilfe von Azure Synapse Analytics
- Konfigurieren von Azure Synapse Link mit Azure Cosmos DB
- Abfragen von Azure Cosmos DB mit Apache Spark für Azure Synapse Analytics
- Abfragen von Azure Cosmos DB mit serverlosen SQL-Pools für Azure Synapse Analytics
Modul 10: Streamverarbeitung in Echtzeit mit Stream Analytics
In diesem Modul erfahren die Kursteilnehmer, wie Streamingdaten mit Azure Stream Analytics verarbeitet werden. Die Kursteilnehmer erfassen Fahrzeugtelemetriedaten in Event Hubs und verarbeiten diese Daten dann in Echtzeit mithilfe verschiedener Fensterfunktionen in Azure Stream Analytics. Die Daten werden in Azure Synapse Analytics ausgegeben. Schließlich lernen die Kursteilnehmer, wie sie den Stream Analytics-Auftrag skalieren, um den Durchsatz zu erhöhen.
Lektionen
- Aktivieren von zuverlässigem Messaging für Big Data-Anwendungen mithilfe von Azure Event Hubs
- Arbeiten mit Datenströmen mithilfe von Azure Stream Analytics
- Erfassen von Datenströmen mit Azure Stream Analytics
Nach Abschluss dieses Moduls werden die Teilnehmer*innen in der Lage sein:
- Aktivieren von zuverlässigem Messaging für Big Data-Anwendungen mithilfe von Azure Event Hubs
- Arbeiten mit Datenströmen mithilfe von Azure Stream Analytics
- Erfassen von Datenströmen mit Azure Stream Analytics
Modul 11: Erstellen einer Streamverarbeitungslösung mit Event Hubs und Azure Databricks
In diesem Modul erfahren die Kursteilnehmer, wie Streamingdaten im großen Stil mit Event Hubs und Spark Structured Streaming in Azure Databricks erfasst und verarbeitet werden. Die Kursteilnehmer lernen die wichtigsten Funktionen und Einsatzmöglichkeiten von Structured Streaming kennen. Die Teilnehmer implementieren Schiebefenster, um Datenblöcke zu aggregieren und wenden Wasserzeichen an, um veraltete Daten zu entfernen. Schließlich stellen die Kursteilnehmer eine Verbindung mit Event Hubs her, um Streams zu lesen und zu schreiben.
Lektionen
- Verarbeiten von Streamingdaten mit Structured Streaming in Azure Databricks
Nach Abschluss dieses Moduls werden die Teilnehmer*innen in der Lage sein:
- Verarbeiten von Streamingdaten mit Structured Streaming in Azure Databricks
