Disclaimer: Die Inhalte dieses Blogs dienen ausschließlich allgemeinen Informationszwecken und stellen keine rechtliche Beratung dar. Obwohl wir uns bemühen, aktuelle und relevante Informationen bereitzustellen, können nicht alle möglichen Einzelfälle und speziellen rechtlichen Konstellationen berücksichtigt werden. Der Blog ersetzt keine individuelle Beratung durch einen qualifizierten Rechtsanwalt oder Datenschutzexperten. Für verbindliche Auskünfte und individuelle Lösungen empfehlen wir, professionellen rechtlichen Rat einzuholen.
Herzlich willkommen zu unserem ersten von insgesamt 3 Blogbeiträgen zum Thema Künstliche Intelligenz und alles, was speziell KMUs aus Datenschutz-Sicht dazu jedenfalls wissen sollten.
Drei kleine Spoiler gleich vorweg
- Nicht alles, was als „Künstliche Intelligenz“, „KI“ oder auch englisch „AI“ für „Artificial Intelligence“ bezeichnet wird, ist auch tatsächlich KI im Sinne des AI Act – reine statistische Hochrechnungen, die nunmehr IT-unterstützt erfolgen und Sie zB beim Finanzforecast unterstützen, sind zwar supereffektiv, aber typischerweise keine KI im Sinne der Definition.1 Das macht diese Tools deswegen nicht weniger interessant, es gelten nur die Bestimmungen des AI Act für diese nicht.
- Die meisten Herausforderungen im Zusammenhang mit dem AI Act gelten für KI-Entwickler und Unternehmen, die KI-Systeme in den Markt bringen, für Unternehmen, die KI-Systeme lediglich intern anwenden, um sich „das Leben zu erleichtern“, sind im Wesentlichen Transparenzpflichten relevant sowie weitere Aspekte, die wir nachfolgend kurz darstellen. Umso mehr sollten sich interessierte KMUs allerdings mit den Datenschutzaspekten im Einsatz von KI-Systemen auseinandersetzen, da die Datenschutzgrundverordnung (DSGVO) natürlich parallel weiter gilt und gerade für KMUs als reine Nutzer von KI-Systemen eine größere Relevanz hat als der AI Act selbst.
- Wenn Sie denken, dass Datenschutz Innovationen verhindert und Sie sich lieber nicht damit auseinander setzen sollten, weil Sie sonst nur Stoppschilder sehen, kann ich Sie auch hier „enttäuschen“: Datenschutz und KI ist zwar ein komplexes Thema, aber es ist nicht kompliziert – wenn Sie auf unsere fünf Schlüsselelemente achten, haben Sie schon sehr viel für einen stabilen Einsatz getan.
Worauf sollten Sie also achten, bevor Sie ein KI-System bei sich im Unternehmen ausrollen?
Je komplexer ein KI-System, desto komplexer natürlich auch die damit verbundenen Datenschutzaspekte. Lassen Sie uns jedoch für den Anfang mit einem einfachen fiktiven Beispiel beginnen, um Ihnen zu zeigen, auf welche 5 Schlüsselelemente Sie auf jeden Fall immer achten sollten.
Für eine bessere Übersicht haben wir Ihnen hier eine Grafik zur Verfügung gestellt, die die fünf Schlüsselelemente veranschaulicht und zugleich klärt, welches Element für welchen Stakeholder (Mitarbeiter / „Employees“, Dienstleister / „Service Providers“, Kunden / „Customers“) besondere Relevanz hat:
Stellen Sie sich aber nun vor, Sie sind ein KMU, das verschiedene Dienstleistungen für seine Kunden anbietet und für Reklamationen bzw. Reparaturanfragen und generell Kundenanfragen jeder Art eine Art Ticketsystem nutzt, mit dem die Kundennummer als auch der konkrete Sachverhalt eindeutig zugeordnet sind. Ihre internen Service- und Kundendienstmanager nutzen dieses Ticketsystem, um jeweils Änderungen im Bearbeitungsstand des Tickets zu dokumentieren, sodass bisweilen relativ viele Einträge zusammen kommen können pro Kunde. Damit bei telefonischen Anfragen Ihre Mitarbeiter rasch aussagefähig sind und der Prozess insgesamt auch effizienter gestaltet werden kann, überlegen Sie, auf dieses Ticketsystem eine KI aufzu“schalten“, die die Einträge pro Ticket konzise zusammenfasst, sodass Ihre Mitarbeiter sich nicht mehr durch endlose Ticketketten scrollen müssen.
Erstes Schlüsselelement: Das konkret gewünschte KI-Setup
Fangen wir bei der Auswahl Ihres gewünschten KI-Systems bzw. des Dienstleisters, der dieses KI-System anbietet und bei Ihnen intern implementieren kann, an – es geht also, erstes Schlüsselelement, um den konkreten Aufsatz Ihres KI-Systems:
Nachdem Sie selbst dieses KI-System in den meisten Fällen nicht direkt selbst bei sich im Unternehmen implementieren, sondern hierfür die Dienste eines externen Dienstleisters in Anspruch nehmen werden, lohnt sich ein Blick in den Vertrag mit diesem Dienstleister:
- Mit welchem KI-Anbieter arbeitet Ihr Dienstleister zusammen?
- Wie sieht der Vertrag zwischen Ihrem Dienstleister und dem KI-Anbieter aus? Ist sichergestellt, dass Ihr Dienstleister den KI-Anbieter offiziell als Subdienstleister anführt (und entsprechend dann auch für diesen haftet)?
- Wird die KI-Lösung in Europa gehostet oder ausschließlich in den USA?
- KI-Systeme werden typischerweise anhand von Trainingsdaten erstellt und weiter verbessert. Für unser konkretes Beispiel des Einsatzes eines Large Language Models (LLM), das die Tickets zusammenfasst mittels automatisierter Prompts und so Ihre Kundenservicemannschaft unterstützt, wird ein Training anhand Ihrer eigenen Daten nicht ausbleiben können, zumindest dann, wenn Sie in einem sehr spezifischen Bereich tätig sind und Sie Ihr LLM auf gewisse Begriffe und Abkürzungen in Ihrem Bereich erst „anlernen“ müssen. Hier sollten Sie zumindest 2 Dinge gewährleisten: Erstens, dass die Trainingsdaten, die Sie Ihrer LLM zur Verfügung stellen, auch tatsächlich für das Training herangezogen werden dürfen und keine Datenschutzbedenken dagegenstehen und zweitens sollten Sie in Ihrem eigenen Interesse sicherstellen, dass dann insbesondere der laufende Betrieb nicht für das weitere Training der LLM (ausschließlich zugunsten des KI-Anbieters) herangezogen wird, dies auch um den notwendigen Geschäftsgeheimnisschutz zu gewährleisten. Beides können Sie mit entsprechenden vertraglichen Klauseln üblicherweise stabil regeln.
- Und schließlich wollen Sie natürlich auch gerne eine Dokumentation zu den Sicherheitsmaßnahmen Ihres Dienstleisters haben und auch Gewähr dafür haben, dass der KI-Anbieter als Subdienstleister Ihres Dienstleisters von diesem ebenfalls dahingehend geprüft wurde. Sie können hierüber übrigens auch entsprechende Nachweise verlangen (und sollten das auch tun, zB aktuelle ISO 27001 oder SOC2-Zertifikate).
Für die Dokumentation der Auswahl eines geeigneten Dienstleisters stellen wir Ihnen auch sehr gerne unseren AI Data Privacy Questionnaire zur Verfügung. Kontaktieren Sie uns hierfür einfach gerne direkt!
Zweites Schlüsselelement: Herstellen von Transparenz
Nehmen wir weiter an, Sie haben alle wesentlichen Fragen zu Ihrer Zufriedenheit beantwortet und haben Sich für einen Dienstleister entschieden, mit dem Sie das Projekt weiter fortsetzen wollen. Hier kommt der zweite Schlüsselaspekt ins Spiel, Transparenz:
Aus Datenschutzsicht sind Sie gefordert, über Verarbeitungstätigkeiten Transparenz herzustellen, typischerweise im Rahmen von Datenschutzerklärungen, die sich an unterschiedliche Zielgruppen richten können, zum Beispiel Mitarbeiter, Geschäftspartner, Webseitenbesucher, App-Nutzer und vieles mehr. Der Begriff „Verarbeitung“ personenbezogener Daten im Sinne der DSGVO ist dabei sehr weit gefasst2 – für unser fiktives Beispiel findet jedenfalls eine Verarbeitung personenbezogener Daten im Kontext der Ticketbearbeitung statt: Erstens haben Sie Ihre Mitarbeiter aus dem Kundenservicebereich, die ihre Kommentare und Anmerkungen personalisiert ins Ticket schreiben (aus Revisionssicherheit und auch aus Gründen des Qualitätsmanagements ist typischerweise eine Nachvollziehbarkeit der jeweiligen Einträge gegeben), und zweitens sind die Tickets natürlich auch den jeweiligen Ansprechpartnern auf Kundenseite direkt zugeordnet. Sie sind daher verpflichtet, sowohl Ihre Mitarbeiter als auch Ihre Kunden über diese neue Datenverarbeitung aufzuklären – Sie tun dies am besten über eine Ergänzung Ihrer Datenschutzinformationen, die Sie im besten Fall auch flankieren mit einer entsprechenden kurzen direkten Kommunikation an diese. In diesem Zusammenhang sollten Sie auch prüfen, ob ggf. Ihre AGBs um entsprechende Passagen zu ergänzen sind bzw. auch laufende Verträge mit Ihren Kunden anzupassen sind.
Apropos Transparenz: Für den Fall, dass in Ihrem Unternehmen ein Betriebsrat existiert, sollten Sie in Ihre Projektplanung auch eine entsprechende rechtzeitige Information vorab an diesen mit aufnehmen; Sie sollten sicherheitshalber vorab auch prüfen, ob eine Betriebsvereinbarung (BV) für Ihren konkreten Use-Case abzuschließen ist – typischerweise darf in solchen Fällen eine Datenverarbeitung erst erfolgen, wenn eine solche BV vorliegt.
Drittes Schlüsselelement: Dokumentation der Verarbeitung (Verarbeitungsverzeichnis)
Der dritte Schlüsselaspekt umfasst die ordnungsgemäße interne Dokumentation: Bis auf wenige Ausnahmen, die in Art 30 Abs 5 DSGVO angeführt werden, besteht die Verpflichtung zur internen Dokumentation Ihrer Verarbeitungstätigkeiten in einem sogenannten „Verarbeitungsverzeichnis“ (VVZ), dieses ist neben der Vollständigkeit auch auf seine Aktualität hin abzusichern, will heißen, wenn Sie eine KI-Unterstützung neu einführen, sollten Sie auch Ihre Dokumentation dahingehend überprüfen, ob Aktualisierungen oder Ergänzungen nötig sind: Sie sollten jedenfalls Ihre Dokumentation in Bezug auf die verarbeiteten Datenkategorien um möglicherweise aus der KI-Anwendung hinzukommende Logfiles ergänzen, ebenso wie die Dokumentation der Rechtsgrundlage für die Datenverarbeitung. Darüber hinaus sollte das Löschkonzept ergänzt werden ebenso wie die Liste der Subdienstleister, da sich beides aufgrund der zusätzlichen Verarbeitung aufgrund der KI-Anwendung in den meisten Fällen ändert. Prüfen Sie zudem, ob sich an Ihrem Access Rights Concept etwas ändert, was ein Update erforderlich macht. Schließlich sollten Sie auch prüfen, ob ggf. eine sogenannte Datenschutzfolgenabschätzung erforderlich ist; sollten Sie zum Schluss kommen, dass dies nicht erforderlich ist, empfehlen wir, diese Entscheidung als auch die Gründe für diese in die Dokumentation im Verfahrensverzeichnis mit aufzunehmen.
Viertes Schlüsselelement: Funktionsweise des KI-Systems
Schon sind wir beim vierten Schlüsselaspekt, den technischen Herausforderungen, die sich im Einsatz von KI-Systemen stellt, insbesondere beim Einsatz von LLMs: LLMs „halluzinieren“, dh man muss im konkreten Einsatz eine gewisse Fehlerquote immer mitbedenken und darf sich nicht zu 100% auf die Richtigkeit der Angaben verlassen (auch wenn die Trefferquote bei guten Modellen wirklich hoch ist). Auf diesen Umstand und auch in Bezug darauf, wie das gewünschte KI-System zumindest in seinen Grundzügen funktioniert, müssen Sie Ihre Mitarbeiter hinweisen und sie auch entsprechend trainieren (lassen).
Fünftes Schlüsselelement: Berücksichtigung der Betroffenenrechte nach der DSGVO
Als fünften und letzten Schlüsselaspekt sollten Sie die Betroffenenrechte nach der DSGVO mit berücksichtigen: Neben der Informationspflicht, die weiter oben schon angesprochen wurde, sind hier insbesondere das Recht auf Auskunft nach Art. 15 DSGVO oder auch das Recht auf „Vergessenwerden“ nach Art. 17 DSGVO maßgeblich: Sie sollten prüfen, ob Ihr KI-System die Ausübung solcher Betroffenenrechte ermöglicht oder ob Sie nicht vielleicht interne workarounds benötigen, um dies zu bewerkstelligen.
In unserem nächsten Blogbeitrag zum Thema Datenschutz und KI werden wir uns mit den möglichen Risiken, oder besser, Herausforderungen beschäftigen, die u.a. mit dem Einsatz sogenannter Hochrisiko-KI einhergehen können. Seien Sie gespannt!
Gastbeitrag von Bettina Sterner:
Bettina Sterner, B.A. Bettina Sterner ist eine erfahrene Expertin im Datenschutzmanagement mit umfassender Praxis bei internationalen Großunternehmen. Neben ihrer fundierten Kenntnis des österreichischen Datenschutzrechts ist sie auch mit datenschutzrechtlichen Anforderungen in Nicht-EU-Ländern bestens vertraut. Darüber hinaus verfolgt sie aktuelle Entwicklungen in angrenzenden Technologiefeldern wie der Künstlichen Intelligenz. Ihre Expertise teilt sie regelmäßig in externen Vorträgen und durch Fachbeiträge auf ihrem Blog.
[*] Alle generierten Bilder wurden mittels https://ideogram.ai/ erstellt.
[1] Siehe Art 3 Z 1 AI Act: Ein AI System meint „ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie betrieben werden kann und nach der Bereitstellung Anpassungsfähigkeit zeigt, und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können.“
[2] Siehe Art 4 Z 2 DSGVO: „„Verarbeitung“ jeden mit oder ohne Hilfe automatisierter Verfahren ausgeführten Vorgang oder jede solche Vorgangsreihe im Zusammenhang mit personenbezogenen Daten wie das Erheben, das Erfassen, die Organisation, das Ordnen, die Speicherung, die Anpassung oder Veränderung, das Auslesen, das Abfragen, die Verwendung, die Offenlegung durch Übermittlung, Verbreitung oder eine andere Form der Bereitstellung, den Abgleich oder die Verknüpfung, die Einschränkung, das Löschen oder die Vernichtung.“
