LLMs: Datenschutz und Sicherheit

Texte schreiben, programmieren, datenbasiertes Troubleshooting – mit der Nutzung von KI-basierten Sprachmodellen (LLMs) durch Unternehmen und Mitarbeitende eröffnen sich viele Potenziale. Dabei lohnt es sich, unterschiedliche Anwendungsmodelle genauer zu betrachten. Dies sowohl im Hinblick auf ihre Effektivität als auch auf ihre Sicherheit und den Datenschutz. Insbesondere cloudbasierte LLMs bergen neben Chancen auch Risiken im Bereich Datenschutz.


Narrowin entwickelt Frameworks und Prototypen für die sichere und vertrauenswürdige Nutzung von LLMs – sei es durch Anonymisierung oder durch den Betrieb von lokalen „On Prem“-Lösungen. Letztere erlauben es Unternehmen, die Hoheit über Ihre Daten zu behalten. Im Rahmen eines vom Bund (Innosuisse) geförderten Innovationsprojekts (‚Cyber Regulatory Co-Pilot‘) untersuchen wir zudem gemeinsam mit der FHNW die wesentlichen Probleme und Lösungen in diesem Zusammenhang. Durch die Bewältigung der Datenschutz- und Sicherheitsbedenken können Unternehmen das Vertrauen der Kund*innen stärken, Sicherheitsrisiken minimieren und die Einhaltung von Datenschutzbestimmungen sicherstellen.

Mitarbeitende, die KI-Tools wie ChatGPT verwenden, können für ein Unternehmen gewisse Risiken darstellen, selbst wenn sie Firmennamen und andere Kennungen entfernen. Einige Beispiele:

IP-Adressverfolgung: Während einzelne IP-Adressen ein Unternehmen möglicherweise nicht direkt identifizieren, können Muster in IP-Adressen mit bestimmten Organisationen korreliert werden, insbesondere wenn die IP-Adressen mit dem Büro oder VPN eines Unternehmens verknüpft sind.

Korrelation von Fragen und Daten: Selbst wenn Firmennamen entfernt werden, können Inhalt und Kontext der Fragen und Daten wichtige Hinweise auf das Unternehmen liefern. Spezifische Terminologie, Projektdetails oder branchenspezifische Informationen können ausreichen, um auf das Unternehmen oder den Sektor, in dem es tätig ist, zu schliessen.

Versehentliche Offenlegung vertraulicher Informationen: Mitarbeitende können versehentlich vertrauliche Informationen weitergeben oder Fragen stellen, die geschützte oder vertrauliche Details preisgeben. Dies könnte Strategien, interne Prozesse, Finanzinformationen oder geistiges Eigentum umfassen.

Datenaggregation: Im Laufe der Zeit können mehrere Abfragen desselben Unternehmens aggregiert werden, wodurch ein detailliertes Bild der Geschäftstätigkeit, Herausforderungen und Strategien des Unternehmens entsteht. Diese aggregierten Daten können wertvoll und vertraulich sein.

Sicherheitsrisiken: Es besteht immer das Risiko von Datenverletzungen oder Missbrauch der Informationen durch den Cloud-Dienstanbieter. Wenn die Systeme des Anbieters kompromittiert werden, könnten die von den Mitarbeitenden freigegebenen Daten offengelegt werden.


  • Interessierte Umsetzungspartner bitte melden via: info@narrowin.ch