Entscheidungen basieren zunehmend auf KI-Systemen. Auch wenn letztlich ein Mensch entscheidet, die Systeme unterstützen nicht nur.
In der Praxis prägen sie Entscheidungen über Betroffene vor.
Anhand konkreter Beispiele wird die Bandbreite diskutiert. Sie reicht von Plagiatserkennung über medizinische Diagnostik und E-Recruiting bis hin zu Videoüberwachung und polizeilichen Informationssystemen wie Palantir. Die Frage ist, wie ihr Einfluss im Entscheidungsprozess rechtlich bewertet wird.
Für Hochrisiko-KI enthält die KI-Verordnung spezifische Vorgaben. Andere Entscheidungsunterstützungssysteme fallen jedoch nicht darunter. In diesen Fällen greifen allgemeinere Normen. Maßgeblich sind die EU-Grundrechtecharta und das Grundgesetz sowie das Datenschutz-, Arbeits- und Betriebsverfassungsrecht sowie weitere gesetzliche Regelungen zu Transparenz, Fairness und zur Verhinderung von Diskriminierung.
Der Vortrag zeigt exemplarisch auf, dass KI-basierte Entscheidungsunterstützung grundrechtskonform und rechtssicher gestaltet werden kann.
Vortrag des Datenschutzbeauftragten Dr. Mattis Neiling auf den BvD-Verbandstagen vom 5.-6. Mai in Berlin
Hinweis: Die Vortragsfolien werden im Nachgang an dieser Stelle bereitgestellt.