Palantir – das Betriebssystem des Überwachungsstaats

Werkzeuge wie Palantir ermöglichen eine bislang beispiellose Integration und Auswertung riesiger, heterogener Datenmengen in Echtzeit.

Spätestens seit den Enthüllungen von Edward Snowden im Jahr 2013 ist bekannt, welches Ausmaß staatliche Datensammlungen annehmen können. Damals sprach man vom „permanent record“ – der dauerhaften Speicherung von Informationen über Menschen bei den US-amerikanischen Sicherheitsbehörden.

Was damals noch wie eine dystopische Vision wirkte, ist heute technische Realität: Dank flächendeckender Vernetzung, enormer Speicher- und Rechenleistung ist aus dem permanenten Datensatz ein permanenter Datenstrom geworden, der

„permanent data stream“

Massenüberwachung findet automatisiert und in Echtzeit statt.

Der Beitrag beleuchtet zunächst die Systematik von Datenintegration und Echtzeitverarbeitung und zeigt, wie solche Systeme zur Entscheidungsunterstützung eingesetzt werden. Anschließend werden rechtliche, ethische und demokratietheoretische Fragen diskutiert. Angesprcohen werden grundlegende Probleme automatisierter Entscheidungssysteme wie Automation Bias, algorithmische Diskriminierung und Chilling Effects.

Wissen über Menschen wird dabei zur Ressource staatlicher Macht – mit tiefgreifenden Folgen für Transparenz, individuelle Freiheit und Selbstbestimmung.

Zwar kann anlasslose Massenüberwachung punktuell zur Erhöhung der Sicherheit beitragen, da sie das staatliche Gewaltmonopol stärkt. Die damit verbundene gesellschaftliche Transformation ist jedoch mit Menschenrechten und demokratischen Grundprinzipien unvereinbar.

In einem Überwachungsstaat sind Meinungsfreiheit, Pressefreiheit und demokratische Teilhabe nicht möglich.

„Palantir – das Betriebssystem des Überwachungsstaats“ weiterlesen

Automatisierte Entscheidungsfindungen und ihre datenschutzrechtlichen Grenzen

Eingeladener Vortrag von Dr. Mattis Neiling auf der 12. DFN-Konferenz Datenschutz, Hamburg, 9.-10. Dezember 2025.

Weitere Informationen

Nachtrag

Wer nicht dabei sein konnte!
Den Vortrag halte ich als kostenloses Webinar bei Datenschutz am Mittag  der Stiftung Datenschutz am  10. Februar 2026, 13:00 Uhr:

Eine Anmeldung ist erforderlich. Der Vortrag wird aufgezeichnet und ist danach online abrufbar.

 

 

ChatGPT und das Hamburger Arbeitsgerichtsurteil

Worum geht es?

Eine Beteiligung des Betriebsrats ist bei der dienstlichen Nutzung privater ChatGPT-Accounts nicht erforderlich.

so die Entscheidung 24 BVGa 1/24 des Hamburger Arbeitsgerichts.

Das beklagte Unternehmen erlaubte, dass Beschäftigte private ChatGPT-Accounts über den Browser ihrer Dienstgeräte nutzen durften und zwar unabhängig davon, ob ihnen dadurch Kosten entstehen.

Können „frei verfügbare KI-Tools“ also dienstlich über den Browser genutzt werden?

Nein, das Urteil ist kein Freibrief für die dienstliche Nutzung im Internet verfügbarer Tools.

„ChatGPT und das Hamburger Arbeitsgerichtsurteil“ weiterlesen

The Kill Switch – a risky shutdown mechanism

Many IT systems and smart devices (IoT) have an emergency stop button or “kill switch” that lets them be shut down, sometimes even remotely.

Is this really a problem?

A kill switch can be useful, but it is also a security risk. If outsiders gain access, they could misuse it for blackmail or sabotage.
„The Kill Switch – a risky shutdown mechanism“ weiterlesen

Der Kill-Switch, eine unzulässige Abschalteinrichtung?

Viele IT-Systeme und vernetzte Geräte (im Internet der Dinge/Internet of Things „IoT“) verfügen über eine Not-Aus-Funktion, über die diese abgeschaltet werden können.

Häufig kann eine Abschaltung aus der Ferne erfolgen.

Kill-Switches sind potentielle Sicherheitslücken!

„Der Kill-Switch, eine unzulässige Abschalteinrichtung?“ weiterlesen

Neuaufstellung des Datenschutzes an der TU Berlin

Seit Mai 2025 besteht das Team Datenschutz nur noch aus einer Person. Wir bitten um Verständnis für die temporäre Einschränkung der Arbeitsfähigkeit.

Das Präsidium hat eine Neuaufstellung des Datenschutzes an der TU Berlin beschlossen.
Es erfolgt eine externe Vergabe des behördlichen Datenschutzes, da aufgrund der Sparvorgaben des Senats die bisherige Stelle nicht neu besetzt werden kann.

Dr. Mattis Neiling ist weiterhin stellvertretender behördlicher Datenschutzbeauftragter der TU Berlin.

Zur Information: Frau Hiller hat das Präsidium im Mai darum gebeten, von ihren Aufgaben als behördliche Datenschutzbeauftragte entpflichtet zu werden und steht nicht mehr für Datenschutzfragen zu Verfügung.

Weitere Informationen

Automatische Entscheidungsfindung und ein Prüfschema entsprechend Art. 22 DSGVO

Nicht nur Hochschulen automatisieren zunehmend datenintensive Prozesse. Der Einsatz Künstlicher Intelligenz (KI) wird die Automatisierung verstärken. Aber welche Konsequenzen ergeben sich daraus?

Im Beitrag von Dr. Mattis Neiling in den BvD-News 2/2025 werden Anwendungsfälle vorgestellt und geprüft, inwiefern eine automatische Entscheidungsfindung gemäß Art. 22 DSGVO vorliegt.

Das vorgestellte Prüfschema steht als Download zur eigenen Verwendung bereit.

Weitere Informationen

Nachtrag

Dr. Mattis Neiling ist „Invited Speaker“ bei der 12. DFN-Datenschutz-Konferenz am 9.-10. Dezember in Hamburg
Dr. Mattis Neiling

Automatische Entscheidungsfindungen und ihre datenschutzrechtlichen Grenzen.

Abstract

Mit zunehmender Digitalisierung werden Abläufe und Prozesse automatisiert. Werden künftig Maschinen über unser Leben bestimmen?

Der Artikel 22 DSGVO bildet den Rahmen für automatische Entscheidungsfindungen. Doch wo liegen die Grenzen des Zulässigen?

Es wird ein praxisbezogenes Prüfschema vorgestellt, das einfach anzuwenden ist. Zahlreiche Beispiele werden diskutiert:

  • KI-basierter Kundensupport, Navigationssysteme, Partnerbörsen,
  • elektronische Prüfungen, Zulassung & Immatrikulation an Hochschulen,
  • Sozialbetrugsprüfung, Blitzer- u.a. amtliche Bescheide,
  • E-Recruiting, medizinische Diagnostik,
  • biometrische Videoüberwachung, bewaffnete Drohnen und autonome Waffensysteme.

Es zeigt sich, dass der Artikel 22 nur für bestimmte Szenarien anwendbar ist. Selbst in diesen wenigen Fällen kann durch Anpassung der Verarbeitungstätigkeit eine automatische Entscheidungsfindung zulässig werden.

Palantir soll für Bundes- und Landespolizeien kommen

Dobrindts neues „Sicherheitspaket“ wird von allen Seiten kritisiert: Die geplante automatisierte Gesichtserkennung und die polizeiliche Datenanalyse fallen bei IT- und Menschenrechtsexperten durch. Das Innenministerium hat eingeräumt, Palantir-Software zu prüfen. Experten lassen auch daran kein gutes Haar, die Palantir-Nutzung sei die „schlechteste Wahl“.

Keine Verbesserungen bei der elektronischen Patientenakte (ePA)

Ein wesentlicher Kritikpunkt an der „ePA für alle“ ist, dass mit dem Stecken der Gesundheitskarte Zugriff auf alle Dokumente in der ePA gewährt wird.

Und das soll auch so bleiben:

„Eine Zugriffsbeschränkung für einzelne Behandlungsdokumente je Leistungserbringer
ist nicht vorgesehen“

Tino Sorge, Parlamentarischer Staatssekretär im Bundesgesundheitsministerium

„Keine Verbesserungen bei der elektronischen Patientenakte (ePA)“ weiterlesen

Es ist realitätsfern, personenbezogene Daten bei KI-Tools zu untersagen

Eigentlich ist es offensichtlich, dass personenbezogene Daten –zumindest in geringem Umfang– über  Prompts an KI-Tools übertragen werden.

Seien es E-Mails, die beantwortet, Texte deren Sprache verbessert oder Bilder, die mit Hilfe der KI bearbeitet werden sollen.

Mensch sollte es nicht
einfach verbieten!

Der Beitrag beleuchtet die Nutzung von KI-Tools im dienstlichen Kontext.

„Es ist realitätsfern, personenbezogene Daten bei KI-Tools zu untersagen“ weiterlesen