Digitalisierung

KI und Datenschutz

Wie können Unternehmen ChatGPT & Co. datenschutzgerecht nutzen?

von 28.08.2023
Zu sehen ist ein Laptop auf dem ChatGPT aufgerufen ist. Wie steht es um KI und Datenschutz? Bild: Unsplash/Emiliano Vittoriosi
In vielen Unternehmen werden Tools wie ChatGPT bereits genutzt. Aber wie steht es um KI und Datenschutz? Bild: Unsplash/Emiliano Vittoriosi

In vielen Unternehmen werden KI-Tools wie ChatGPT bereits eingesetzt. Aber: Haben sie auch ihre Hausaufgaben gemacht und sich über KI und Datenschutz informiert? Falls nicht, könnte es Probleme geben…

Wir erklären, warum der Datenschutz bei der Nutzung von Künstlicher Intelligenz so wichtig ist.

KI-Tools eröffnen neue Möglichkeiten

Keine Frage: Anwendungen, die mit Künstlicher Intelligenz arbeiten, könnten sich für viele Unternehmen als extrem nützlich erweisen. Viele hegen die Hoffnung, dass ihre Mitarbeiter durch moderne KI-Tools nützliche Helferlein an ihrer Seite erhalten und dadurch einen erheblichen Boost für ihre Produktivität erhalten. Besonders optimistische KI-Befürworter wagen es sogar, in den neuen KI-Technologien eine Antwort auf den Fachkräftemangel zu sehen.

Tatsache ist, dass so manches Unternehmen KI-Tools bereits aktiv im Geschäftsalltag nutzt. Der Branchenverband Bitkom hat dazu bereits im Jahr 2022 eine Umfrage durchgeführt und herausgefunden, dass bereits 9 Prozent der befragten Unternehmen KI nutzen. Und im April 2023 plante bereits jedes sechste Unternehmen den Einsatz von generativer KI speziell zur Textgenerierung.

Aber so vielversprechend das Potenzial der Künstlichen Intelligenz auch erscheint: Unternehmen kommen nicht umhin, sich im Zuge einer Nutzung dem Thema KI und Datenschutz zu widmen. Hier gibt es noch viele offenen Fragen, für die teilweise die Datenschutzbehörden, teilweise jedes Unternehmen selbst eine Antwort finden müssen.

Zu sehen ist ein HAndy, das auf einer Laptop-Tastatur liegt und auf dem das Logo von OpenAi zu sehen ist. Als Entwickler muss sich OpenAI Fragen zu KI und Datenschutz gefallen lassen. Bild: Unsplash/Levart_Photographer

Technologieentwickler müssen sich Fragen zu KI und Datenschutz gefallen lassen. Bild: Unsplash/Levart_Photographer

KI und Datenschutz – was ist das Problem?

Das Problem von KI und Datenschutz liegt bereits in ihrem Ursprung: Künstliche Intelligenz soll menschliche Intelligenz und menschliches Handeln nachempfinden und muss dazu auch vom Menschen selbst lernen – beziehungsweise aus den Daten, die er produziert.

Die Large Language Models (LLMs), die in Form von neuronalen Netzwerken (ähnlich dem menschlichen Gehirn) hinter (generativer) KI stecken, werden mit riesigen Datensätzen trainiert, unter anderem aus Büchern, Artikeln, Bildern, Videos und Code. Jede noch so kleine Information fördert das Machine Learning oder auch das Deep Learning. Für die Weiterentwicklung der KI-Tools werden zudem Daten aus ihrer praktischen Anwendung herangezogen. ChatGPT und Google Bard beispielsweise lernen mit jeder geführten Unterhaltung dazu.

Problematisch ist all das, weil dabei auch jede Menge personenbezogene Daten involviert sind. Denn: Mit jeder Eingabe können Nutzer direkt oder indirekt teils sensible Informationen über sich und andere preisgeben – beispielsweise zu politischen, religiösen, weltanschaulichen oder wissenschaftlichen Fragen oder auch zur persönlichen Lebenssituation. Genau das ist der Knackpunkt. Denn genau solche Informationen gelten als besonders schützenswert.

Personenbezogene Daten stehen auf dem Spiel

Das zentrale Problem von KI und Datenschutz besteht also darin, dass personenbezogenen Daten mit im Spiel sind – oder wohlmöglich auf dem Spiel stehen. Es stellt sich nämlich unter anderem die Frage, wie sicher die gewonnenen Daten bei den Betreibern der Tools sind. Ist ein Schutz vor Datenlecks gewährleistet? Besteht die Gefahr eines Datendiebstahls durch Cyberkriminelle?

Auch die Transparenz der Datennutzung wird von Kritikern hinterfragt. Welche Daten werden genau erhoben und wie werden sie verwendet? Lassen sich Tools dazu bringen, sensible Informationen offenzulegen (Stichwort: Training Data Extraction Attack)? Besteht die Gefahr von Profiling, wenn personenbezogene Daten aus verschiedenen Quellen miteinander kombiniert werden? Welche Chance haben Nutzer, eine solche Datensammlung zu verhindern? Und was ist eigentlich mit dem Recht auf Vergessenwerden?

All das sind berechtigte Fragen, die zu KI und Datenschutz gestellt werden (müssen). Es gilt, angemessene Datenschutzbestimmungen und Ethikrichtlinien zu entwickeln und dadurch sicher zu stellen dass KI-Technologien im Einklang mit den Rechten und Bedürfnissen von Individuen stehen. Gefordert sind hierzu in erster Linie sowohl Technologieentwickler als auch Regulierungsbehörden.

Zu sehen ist ein Laptop, der von einer Hand bedient wird und auf dem Google aufgerufen ist. Wie steht es bei Google Bard um KI und Datenschutz? Bild: Pexels/Ling App

Auch Google hat jetzt einen KI-Chatbot: Google Bard. Bild: Pexels/Ling App

Datenschutzbehörden prüfen KI-Tools

Natürlich sind die zuständigen Datenschutzbehörden längst dabei, sich mit dieser Problematik auseinanderzusetzen. Sie stellen den Technologieentwicklern umfangreiche Fragenkataloge, die sich unter anderem um die Transparenz der Datenverarbeitung, Rechtsgrundlagen, Altersgrenzen für die Nutzung, die Verwendung von Nutzungsdaten und Schutzmechanismen drehen. Abgeklärt werden soll damit vor allem, zu welchen Zwecken eingegebene Daten verarbeitet werden und aus welchem Datenpool die KI ihr Wissen speist – und ob dabei die datenschutzrechtlichen Grundprinzipien eingehalten werden.

Die Forderungen des Datenschutzes sollen aber nicht darauf abzielen, KI zu blockieren; vielmehr sollen sie KI und Datenschutz in Einklang bringen. Oder anders gesagt: Aus den neuen KI-Technologien soll sich größtmöglicher Nutzen ziehen lassen, gleichzeitig sollen aber auch Grundrechte und Datenschutzprinzipien bei der Verwendung von KI-Technologien geschützt und gefördert werden.

Wie das alles funktionieren kann, wird die kommende Zeit zeigen. Einen wichtigen ersten Schritt zur Regulierung von KI und Datenschutz hat das Europäische Parlament bereits gemacht: mit dem AI Act – dem weltweit ersten Gesetz zur Arbeit mit Künstlicher Intelligenz.

Nutzung von KI am Arbeitsplatz

Grundsätzlich gilt, dass jedes Unternehmen für sich selbst die (Datenschutz-)Risiken beim KI-Einsatz bewerten und abwägen muss. Aber wie kann eine datenschutzkonforme Nutzung von KI-Tools am Arbeitsplatz aussehen? Dazu einige Tipps:

  • Generell sollten Unternehmen bei der Nutzung von KI-Tools vorsichtig sein und die Ergebnisse der Datenschutzaufsichtsbehörden beachten. Hier ist derzeit viel Bewegung – bleiben Sie bezüglich aktueller Entscheidungen und Entwicklungen am Ball!
  • Stellen Sie klare Regeln zur Nutzung von KI-Tools im Unternehmen auf. Überlegen Sie dabei auch, für welche Zwecke Sie KI nutzen möchten. Für Recherchen ist die Nutzung beispielsweise weniger problematisch, denn dabei lassen sich höchstens Rückschlüsse auf (Unternehmens-)Interessen ziehen.
  • Sie sollten unbedingt dafür sorgen, dass Mitarbeiter keine personenbezogenen und sensiblen Daten eingegeben! Möchten Sie beispielsweise ein Anschreiben an einen Kunden erstellen lassen, geben Sie nicht dessen Namen an, sondern arbeiten mit Pseudonymen wie Max Mustermann. Den KI-generierten Textentwurf können Sie später in Word oder Google Docs mit den tatsächlichen Daten anpassen.
  • Erlauben Sie die Nutzung von KI-Tools lediglich zu Unternehmenszwecken. Eine private Nutzung sollte ausdrücklich verboten werden – nicht um Ihre Mitarbeiter zu ärgern, sondern um deren persönliche Daten zu schützen.
  • Nehmen Sie die Einstellungen in KI-Tools so vor, dass sie größtmöglichen Schutz bieten. Sie können bei manchen Tools beispielsweise verhindern, dass Unterhaltungen in die Trainingsdaten der KI übernommen werden. Möglich ist teilweise auch, dass Suchverläufe nicht oder nur eine bestimmte Zeit lang gespeichert werden.
  • Lassen Sie sich durch Experten zu KI und Datensicherheit schulen und bieten solche Schulungen auch für Ihre Mitarbeiter an, damit auch diese die internen Richtlinien verstehen und umsetzen.
  • Beachten Sie, dass KI-Tools falsche Ergebnisse liefern können. Hier muss unbedingt eine Prüfung erfolgen!

Unternehmen müssen als Arbeitgeber den Umgang mit KI am Arbeitsplatz regeln. Sollte es aufgrund von KI-Tools zu einem Datenschutzvorfall kommen, müssen Betriebe schnell reagieren und die zuständige Datenschutzbehörde sowie betroffene Nutzer informieren.

IT-Experten unterstützen bei KI und Datenschutz

KI-Tools können ein Sicherheitsrisiko darstellen – sie müssen es aber nicht, wenn Unternehmen sorgsam damit umgehen. Aktuell ist vieles noch ungeklärt und auch eine Entscheidung dazu, ob sich ChatGPT datenschutzkonform einsetzen lässt, steht seitens der Datenschutzbehörden derzeit – Stand: 28. August 2023 – noch aus. Wie bereits erwähnt: Halten Sie sich dazu auf dem Laufenden, gern auch über unseren Blog, und halten Sie sich derweil an unsere Tipps. Vielleicht haben Sie auch Interesse, sich selbst und Ihre Mitarbeiter von einem externen IT-Experten zum Thema KI und Datenschutz oder allgemein zum Datenschutz schulen zu lassen?

Dann schauen Sie sich doch einmal bei unseren Experten aus dem IT-SERVICE.NETWORK um! Viele der IT-Dienstleister, die sich unserem bundesweiten Netzwerk angeschlossen haben, beschäftigen sich längst mit der ganzen Thematik und bieten entweder selbst Schulungen und Beratungen an oder können an einen Partner vermitteln, der sich noch intensiver damit befasst. Wir freuen uns auf Ihre Anfrage!


Weiterführende Links:
SECURITY INSIDER, BIGDATA INSIDER, SECURITY INSIDER, Spiegel

Geschrieben von

Seit Anfang 2019 ist Janina Kröger für den Blog des IT-SERVICE.NETWORK verantwortlich – anfangs in der Position der Online-Redakteurin und inzwischen als Content Marketing Managerin. Die studierte Germanistin/Anglistin und ausgebildete Redakteurin behält das Geschehen auf dem IT-Markt im Blick, verfolgt gespannt neue Trends und Technologien und beobachtet aktuelle Bedrohungen im Bereich des Cybercrime. Die relevantesten… Weiterlesen

Fragen zum Artikel? Frag den Autor
0 Kommentare

Schreiben Sie einen Kommentar

Ihre E-Mail Adresse wird nicht veröffentlicht.


* = Pflichtfelder
Bitte beachten Sie unsere Datenschutzerklärung

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.

Aktuelle Themen zum Thema Digitalisierung

Digitalisierung

Pflicht zur E-Rechnung

So bereiten sich Unternehmen bis 2025 vor

von • 22.05.2024

Die verpflichtende Einführung der E-Rechnung ist beschlossene Sache. Im Zuge des Wachstumschancengesetzes müssen Unternehmen bis 2025 in der Lage sein, E-Rechnungen zu erhalten. Wir erklären, wa...

Weiterlesen
Digitalisierung

D21-Digital-Index 2023/2024

Digitalisierung für starken Wirtschaftsstandort unabdingbar

von • 21.02.2024

Seit mehr als zehn Jahren untersucht die Initiative D21 die Anpassungs- und Zukunftsfähigkeiten Deutschlands als Digitale Gesellschaft. Der D21-Digital-Index 2023/2024 zeigt einmal mehr: Ohne Digital...

Weiterlesen
Digitalisierung

AI Act: EU beschließt KI-Regulation

Was das neue KI-Gesetz für Unternehmen bedeutet

von • 13.12.2023

Zwei Jahre hat es vom Entwurf bis zum Gesetz gedauert, jetzt sind die Verhandlungen beendet: Mit dem AI Act stellt die EU Regeln für den Einsatz von Künstlicher Intelligenz auf und leistet damit Pio...

Weiterlesen