KI und Datenschutz

In vielen Unternehmen werden KI-Tools wie ChatGPT bereits eingesetzt. Aber: Haben sie auch ihre Hausaufgaben gemacht und sich über KI und Datenschutz informiert? Falls nicht, könnte es Probleme geben…

Wir erklären, warum der Datenschutz bei der Nutzung von Künstlicher Intelligenz so wichtig ist.

KI-Tools eröffnen neue Möglichkeiten

Keine Frage: Anwendungen, die mit Künstlicher Intelligenz arbeiten, könnten sich für viele Unternehmen als extrem nützlich erweisen. Viele hegen die Hoffnung, dass ihre Mitarbeiter durch moderne KI-Tools nützliche Helferlein an ihrer Seite erhalten und dadurch einen erheblichen Boost für ihre Produktivität erhalten. Besonders optimistische KI-Befürworter wagen es sogar, in den neuen KI-Technologien eine Antwort auf den Fachkräftemangel zu sehen.

Tatsache ist, dass so manches Unternehmen KI-Tools bereits aktiv im Geschäftsalltag nutzt. Der Branchenverband Bitkom hat dazu bereits im Jahr 2022 eine Umfrage durchgeführt und herausgefunden, dass bereits 9 Prozent der befragten Unternehmen KI nutzen. Und im April 2023 plante bereits jedes sechste Unternehmen den Einsatz von generativer KI speziell zur Textgenerierung.

Aber so vielversprechend das Potenzial der Künstlichen Intelligenz auch erscheint: Unternehmen kommen nicht umhin, sich im Zuge einer Nutzung dem Thema KI und Datenschutz zu widmen. Hier gibt es noch viele offenen Fragen, für die teilweise die Datenschutzbehörden, teilweise jedes Unternehmen selbst eine Antwort finden müssen.

Technologieentwickler müssen sich Fragen zu KI und Datenschutz gefallen lassen. Bild: Unsplash/Levart_Photographer

KI und Datenschutz – was ist das Problem?

Das Problem von KI und Datenschutz liegt bereits in ihrem Ursprung: Künstliche Intelligenz soll menschliche Intelligenz und menschliches Handeln nachempfinden und muss dazu auch vom Menschen selbst lernen – beziehungsweise aus den Daten, die er produziert.

Die Large Language Models (LLMs), die in Form von neuronalen Netzwerken (ähnlich dem menschlichen Gehirn) hinter (generativer) KI stecken, werden mit riesigen Datensätzen trainiert, unter anderem aus Büchern, Artikeln, Bildern, Videos und Code. Jede noch so kleine Information fördert das Machine Learning oder auch das Deep Learning. Für die Weiterentwicklung der KI-Tools werden zudem Daten aus ihrer praktischen Anwendung herangezogen. ChatGPT und Google Bard beispielsweise lernen mit jeder geführten Unterhaltung dazu.

Problematisch ist all das, weil dabei auch jede Menge personenbezogene Daten involviert sind. Denn: Mit jeder Eingabe können Nutzer direkt oder indirekt teils sensible Informationen über sich und andere preisgeben – beispielsweise zu politischen, religiösen, weltanschaulichen oder wissenschaftlichen Fragen oder auch zur persönlichen Lebenssituation. Genau das ist der Knackpunkt. Denn genau solche Informationen gelten als besonders schützenswert.

Personenbezogene Daten stehen auf dem Spiel

Das zentrale Problem von KI und Datenschutz besteht also darin, dass personenbezogenen Daten mit im Spiel sind – oder wohlmöglich auf dem Spiel stehen. Es stellt sich nämlich unter anderem die Frage, wie sicher die gewonnenen Daten bei den Betreibern der Tools sind. Ist ein Schutz vor Datenlecks gewährleistet? Besteht die Gefahr eines Datendiebstahls durch Cyberkriminelle?

Auch die Transparenz der Datennutzung wird von Kritikern hinterfragt. Welche Daten werden genau erhoben und wie werden sie verwendet? Lassen sich Tools dazu bringen, sensible Informationen offenzulegen (Stichwort: Training Data Extraction Attack)? Besteht die Gefahr von Profiling, wenn personenbezogene Daten aus verschiedenen Quellen miteinander kombiniert werden? Welche Chance haben Nutzer, eine solche Datensammlung zu verhindern? Und was ist eigentlich mit dem Recht auf Vergessenwerden?

All das sind berechtigte Fragen, die zu KI und Datenschutz gestellt werden (müssen). Es gilt, angemessene Datenschutzbestimmungen und Ethikrichtlinien zu entwickeln und dadurch sicher zu stellen dass KI-Technologien im Einklang mit den Rechten und Bedürfnissen von Individuen stehen. Gefordert sind hierzu in erster Linie sowohl Technologieentwickler als auch Regulierungsbehörden.

Auch Google hat jetzt einen KI-Chatbot: Google Bard. Bild: Pexels/Ling App

Datenschutzbehörden prüfen KI-Tools

Natürlich sind die zuständigen Datenschutzbehörden längst dabei, sich mit dieser Problematik auseinanderzusetzen. Sie stellen den Technologieentwicklern umfangreiche Fragenkataloge, die sich unter anderem um die Transparenz der Datenverarbeitung, Rechtsgrundlagen, Altersgrenzen für die Nutzung, die Verwendung von Nutzungsdaten und Schutzmechanismen drehen. Abgeklärt werden soll damit vor allem, zu welchen Zwecken eingegebene Daten verarbeitet werden und aus welchem Datenpool die KI ihr Wissen speist – und ob dabei die datenschutzrechtlichen Grundprinzipien eingehalten werden.

Die Forderungen des Datenschutzes sollen aber nicht darauf abzielen, KI zu blockieren; vielmehr sollen sie KI und Datenschutz in Einklang bringen. Oder anders gesagt: Aus den neuen KI-Technologien soll sich größtmöglicher Nutzen ziehen lassen, gleichzeitig sollen aber auch Grundrechte und Datenschutzprinzipien bei der Verwendung von KI-Technologien geschützt und gefördert werden.

Wie das alles funktionieren kann, wird die kommende Zeit zeigen. Einen wichtigen ersten Schritt zur Regulierung von KI und Datenschutz hat das Europäische Parlament bereits gemacht: mit dem AI Act – dem weltweit ersten Gesetz zur Arbeit mit Künstlicher Intelligenz.

Nutzung von KI am Arbeitsplatz

Grundsätzlich gilt, dass jedes Unternehmen für sich selbst die (Datenschutz-)Risiken beim KI-Einsatz bewerten und abwägen muss. Aber wie kann eine datenschutzkonforme Nutzung von KI-Tools am Arbeitsplatz aussehen? Dazu einige Tipps:

• Generell sollten Unternehmen bei der Nutzung von KI-Tools vorsichtig sein und die Ergebnisse der Datenschutzaufsichtsbehörden beachten. Hier ist derzeit viel Bewegung – bleiben Sie bezüglich aktueller Entscheidungen und Entwicklungen am Ball!
• Stellen Sie klare Regeln zur Nutzung von KI-Tools im Unternehmen auf. Überlegen Sie dabei auch, für welche Zwecke Sie KI nutzen möchten. Für Recherchen ist die Nutzung beispielsweise weniger problematisch, denn dabei lassen sich höchstens Rückschlüsse auf (Unternehmens-)Interessen ziehen.
• Sie sollten unbedingt dafür sorgen, dass Mitarbeiter keine personenbezogenen und sensiblen Daten eingegeben! Möchten Sie beispielsweise ein Anschreiben an einen Kunden erstellen lassen, geben Sie nicht dessen Namen an, sondern arbeiten mit Pseudonymen wie Max Mustermann. Den KI-generierten Textentwurf können Sie später in Word oder Google Docs mit den tatsächlichen Daten anpassen.
• Erlauben Sie die Nutzung von KI-Tools lediglich zu Unternehmenszwecken. Eine private Nutzung sollte ausdrücklich verboten werden – nicht um Ihre Mitarbeiter zu ärgern, sondern um deren persönliche Daten zu schützen.
• Nehmen Sie die Einstellungen in KI-Tools so vor, dass sie größtmöglichen Schutz bieten. Sie können bei manchen Tools beispielsweise verhindern, dass Unterhaltungen in die Trainingsdaten der KI übernommen werden. Möglich ist teilweise auch, dass Suchverläufe nicht oder nur eine bestimmte Zeit lang gespeichert werden.
• Lassen Sie sich durch Experten zu KI und Datensicherheit schulen und bieten solche Schulungen auch für Ihre Mitarbeiter an, damit auch diese die internen Richtlinien verstehen und umsetzen.
• Beachten Sie, dass KI-Tools falsche Ergebnisse liefern können. Hier muss unbedingt eine Prüfung erfolgen!

Unternehmen müssen als Arbeitgeber den Umgang mit KI am Arbeitsplatz regeln. Sollte es aufgrund von KI-Tools zu einem Datenschutzvorfall kommen, müssen Betriebe schnell reagieren und die zuständige Datenschutzbehörde sowie betroffene Nutzer informieren.

IT-Experten unterstützen bei KI und Datenschutz

KI-Tools können ein Sicherheitsrisiko darstellen – sie müssen es aber nicht, wenn Unternehmen sorgsam damit umgehen. Aktuell ist vieles noch ungeklärt und auch eine Entscheidung dazu, ob sich ChatGPT datenschutzkonform einsetzen lässt, steht seitens der Datenschutzbehörden derzeit – Stand: 28. August 2023 – noch aus. Wie bereits erwähnt: Halten Sie sich dazu auf dem Laufenden, gern auch über unseren Blog, und halten Sie sich derweil an unsere Tipps. Vielleicht haben Sie auch Interesse, sich selbst und Ihre Mitarbeiter von einem externen IT-Experten zum Thema KI und Datenschutz oder allgemein zum Datenschutz schulen zu lassen?

Dann schauen Sie sich doch einmal bei unseren Experten aus dem IT-SERVICE.NETWORK um! Viele der IT-Dienstleister, die sich unserem bundesweiten Netzwerk angeschlossen haben, beschäftigen sich längst mit der ganzen Thematik und bieten entweder selbst Schulungen und Beratungen an oder können an einen Partner vermitteln, der sich noch intensiver damit befasst. Wir freuen uns auf Ihre Anfrage!

Weiterführende Links:
SECURITY INSIDER, BIGDATA INSIDER, SECURITY INSIDER, Spiegel

Geschrieben von

Janina Kröger

Seit Anfang 2019 ist Janina Kröger für den Blog des IT-SERVICE.NETWORK verantwortlich – anfangs in der Position der Online-Redakteurin und inzwischen als Content Marketing Managerin. Die studierte Germanistin/Anglistin und ausgebildete Redakteurin behält das Geschehen auf dem IT-Markt im Blick, verfolgt gespannt neue Trends und Technologien und beobachtet aktuelle Bedrohungen im Bereich des Cybercrime. Die relevantesten… Weiterlesen

Fragen zum Artikel? Frag den Autor