Künstliche Intelligenz (KI) unterstützt bereits zahlreiche Aufgaben im Berufsalltag. Ob beim Verfassen von E-Mails, beim Zusammenfassen von Dokumenten oder bei der Auswertung umfangreicher Informationen: KI-Anwendungen können Arbeitsprozesse erleichtern. Doch wie lässt sich KI sicher nutzen, ohne vertrauliche Daten preiszugeben, falsche Aussagen zu übernehmen oder Entscheidungen unkontrolliert an KI-Systeme abzugeben?
Genau mit diesen Fragen beschäftigt sich das ETC-Webinar „KI sicher nutzen – Responsible AI und Secure AI im Arbeitsalltag“. Anhand konkreter Praxisbeispiele zeigt ETC-Trainer Bernd Hamböck, welche Risiken beim Einsatz generativer KI entstehen können und worauf Anwender*innen achten sollten.
Wir haben die wichtigsten Erkenntnisse für Sie zusammengefasst. Die vollständigen Demonstrationen und weiterführenden Erklärungen finden Sie in der Webinaraufzeichnung.
KI-Anwendungen wie Microsoft Copilot oder ChatGPT können innerhalb weniger Sekunden Texte formulieren, Informationen strukturieren und Entscheidungsvorschläge erstellen. Die Ergebnisse wirken häufig überzeugend und sind sprachlich gut aufbereitet. Das bedeutet allerdings nicht automatisch, dass alle enthaltenen Informationen korrekt sind.
Besonders im Unternehmenskontext können fehlerhafte KI-Antworten weitreichende Folgen haben. Werden beispielsweise unbestätigte Liefertermine an Kund*innen kommuniziert oder falsche Angaben aus Produktunterlagen übernommen, können daraus Missverständnisse und geschäftliche Risiken entstehen.
Hinzu kommt die Frage nach dem Datenschutz. Wer vertrauliche Dokumente, personenbezogene Informationen oder interne Unternehmensdaten in KI-Anwendungen eingibt, muss wissen, welche Daten verarbeitet werden dürfen und welche Schutzmaßnahmen gelten.
Ein sicherer KI-Einsatz beginnt deshalb nicht erst bei der technischen Absicherung eines Systems. Auch Anwender*innen müssen verstehen, wie sie Informationen vorbereiten, Ergebnisse kontrollieren und Entscheidungen bewusst treffen.
Entscheidend ist, KI als Unterstützung einzusetzen, ohne die Verantwortung für das Ergebnis aus der Hand zu geben.
Beim verantwortungsvollen Umgang mit künstlicher Intelligenz spielen zwei Begriffe eine zentrale Rolle: Responsible AI und Secure AI. Beide verfolgen unterschiedliche Schwerpunkte, ergänzen einander jedoch beim sicheren Einsatz von KI-Systemen.
Responsible AI beschreibt den verantwortungsvollen Einsatz künstlicher Intelligenz. Im Mittelpunkt stehen unter anderem Fairness, Transparenz, Nachvollziehbarkeit und menschliche Verantwortung. KI-gestützte Entscheidungen sollen überprüfbar sein und Menschen nicht ungerechtfertigt benachteiligen.
Ein Beispiel dafür sind automatisierte Entscheidungsvorschläge. Wenn ein KI-System eine Empfehlung erstellt, sollten Mitarbeiter*innen nachvollziehen können, auf welchen Informationen diese beruht und ob relevante Kriterien angemessen berücksichtigt wurden.
Secure AI beschäftigt sich dagegen mit dem Schutz von KI-Systemen, Daten und Anwendungen vor Sicherheitsrisiken und Manipulation. Dazu gehören unter anderem der Umgang mit vertraulichen Informationen, die Absicherung von Schnittstellen und der Schutz vor manipulierten Eingaben.
Im Webinar zeigt Bernd Hamböck, warum beide Perspektiven wichtig sind und weshalb technische Sicherheitsmaßnahmen allein nicht ausreichen.
Denn auch ein gut geschütztes KI-System kann problematische Ergebnisse liefern, wenn Eingaben unklar formuliert sind, Informationen ungeprüft übernommen werden oder automatisierte Aktionen ohne ausreichende Kontrolle erfolgen.
Wer KI im Arbeitsalltag einsetzt, sollte drei grundlegende Fragen berücksichtigen. Sie bilden den roten Faden des ETC-Webinars und helfen dabei, typische Fehlerquellen frühzeitig zu erkennen.
Nicht jede Information gehört in einen KI-Prompt. Während öffentlich verfügbare Produktinformationen unter Beachtung der Nutzungsrechte häufig unproblematisch sind, erfordern interne Dokumente, Kundendaten und vertrauliche Unternehmensinformationen besondere Vorsicht.
Ein wichtiger Grundsatz lautet daher: Geben Sie nur jene Informationen weiter, die für die jeweilige Aufgabe tatsächlich notwendig und freigegeben sind.
In vielen Fällen lassen sich personenbezogene Angaben durch Platzhalter ersetzen. Für den Entwurf einer Kundenantwort benötigt ein KI-System beispielsweise nicht zwingend den vollständigen Namen, die Telefonnummer oder die Anschrift der betreffenden Person.
Welche Unterschiede zwischen öffentlichen, internen und besonders sensiblen Daten bestehen, wird in der Webinaraufzeichnung anhand einer konkreten Kundenanfrage demonstriert.
Eine sprachlich überzeugende Antwort ist noch kein Beleg für ihre Richtigkeit. Generative KI kann Informationen ergänzen, die in den ursprünglichen Unterlagen nicht enthalten sind. Solche fehlerhaften oder unbelegten Ausgaben werden häufig als KI-Halluzinationen bezeichnet.
Gerade bei technischen Daten, vertraglichen Zusagen oder geschäftlichen Entscheidungen ist deshalb eine Überprüfung erforderlich.
Im Webinar wird anhand eines fiktiven Produktdatenblatts gezeigt, wie unterschiedliche Formulierungen einer Anfrage zu unterschiedlichen Ergebnissen führen können.
Dabei wird deutlich, welchen Einfluss ein präziser Prompt auf die Qualität einer KI-Antwort hat und warum die Kontrolle anhand der Originalinformationen unverzichtbar bleibt.
KI-Anwendungen können zunehmend nicht nur Informationen aufbereiten, sondern auch weitere Arbeitsschritte vorbereiten oder auslösen. Dazu gehören beispielsweise das Versenden von Nachrichten oder das Anstoßen von Bestellprozessen.
Damit steigt die Bedeutung klar definierter Freigaben.
Das Prinzip Human in the Loop beschreibt die bewusste Einbindung eines Menschen in einen KI-gestützten Prozess. Besonders bei Entscheidungen mit finanziellen, rechtlichen oder organisatorischen Auswirkungen sollte nachvollziehbar geregelt sein, wer Ergebnisse kontrolliert und Handlungen freigibt.
Eine Freigabe sollte dabei mehr sein als das bloße Anklicken einer Schaltfläche. Entscheidend ist, dass Mitarbeiter*innen die zugrunde liegenden Informationen und möglichen Folgen tatsächlich prüfen können.
„Die KI mag natürlich die Antwort generieren, aber verantwortlich ist ja der Mensch, der dann ja diese Antwort auch hinausgibt.“
Bernd Hamböck | ETC-Trainer und Experte für Künstliche Intelligenz
Responsible AI bezeichnet den verantwortungsvollen Einsatz künstlicher Intelligenz. Dazu gehören insbesondere Fairness, Transparenz, Nachvollziehbarkeit und die Berücksichtigung möglicher Auswirkungen auf Menschen und Organisationen.
Responsible AI konzentriert sich auf den verantwortungsvollen Umgang mit AI und deren Auswirkungen. Secure AI beschäftigt sich mit dem Schutz von AI-Systemen, Daten und Anwendungen vor Sicherheitsrisiken und Manipulation.
Prüfen Sie vor der Eingabe, welche Daten verwendet werden dürfen, kontrollieren Sie wichtige AI-generierte Aussagen anhand verlässlicher Informationen und behalten Sie die Kontrolle über geschäftsrelevante Entscheidungen und Aktionen.
Eine Prompt Injection ist ein Manipulationsversuch, bei dem Anweisungen über fremde oder weniger vertrauenswürdige Inhalte in die Verarbeitung eines KI-Systems gelangen. Ziel ist es, das System von seinem ursprünglichen Auftrag abzubringen.
Über das bereitgestellte Formular können Sie die Webinaraufzeichnung anfordern. Nach dem Ausfüllen erhalten Sie Zugriff auf das vollständige Webinar.
Sie erfahren, wie Responsible AI und Secure AI zusammenhängen, welche Risiken bei AI-Anwendungen auftreten können und wie sich Eingaben, Ergebnisse und Freigaben anhand praktischer Beispiele bewusster gestalten lassen.
