Generative KI-Tools werden an der TU breit genutzt.
Einige Tools wurden datenschutzrechtlich geprüft und werden TU-Mitgliedern „offiziell“ zur Verfügung gestellt.
Die „ungeregelte Nutzung“ webbasierter KI-Tools ist häufig problematisch, da dabei personenbezogene und andere vertrauliche Daten an den Anbieter übertragen und von ihm ausgewertet werden können; in manchen Fällen werden sie auch als Trainingsdaten genutzt.
Dies betrifft sowohl Daten der Nutzer*innen selbst, die zu Profilen aggregiert werden können als auch Daten über andere Personen, die über die Prompts eingegeben werden. Aber auch andere schützenswerte Informationen könnten dabei Dritten offenbart werden, z.B. Vertragstexte, Forschungsinformationen oder Patentbeschreibungen.
Das kann soweit gehen, dass die Nutzer*innen möglicherweise persönliche Risiken bei der Nutzung eingehen müssen (u.U. auch arbeits- und strafrechtlich relevante!), da die Nutzungsbedingungen von den Anbietern diktiert werden.
Auftragsverarbeitungsverträge abschliessen
Deshalb sollte generell eine vertragliche, zumeist kostenpflichtige Vereinbarung getroffen werden, die sicherstellt, dass die Daten datenschschutzkonform verarbeitetet werden und ausreichend geschützt sind.
Dieses leisten sogenannte Auftragsverarbeitungsverträge (AVV) bzw. Data Processing Agreements (DPA), die von der TU oder einem Bereich mit dem Anbieter abgeschlossen werden.
Je nach Vertragsausgestaltung können diese Tools dann auch für personenbezogene und vertrauliche Informationen verwendet werden, bspw. für Übersetzungen mit Deepl Pro.
Vor Abschluss eines Vertrags wird die Verarbeitung datenschutzrechtlich geprüft und es erfolgt -für die Nutzung durch Beschäftigte- eine Beteiligung der Personalräte.
Datenschutzrechtlich geprüfte KI- Tools
Es gibt mehrere zentrale und dezentrale Initiativen zu KI-Tools an der TU Berlin, bspw. um auch bei uns die HAWKI-Plattform an den Start zu bringen, die bereits an vielen Hochschulen einen datenschutzkonformen Zugang zu ChatGPT & Co. bietet, siehe https://www.hawk.de/de/forschung/transfer-und-kooperationen/hawki
Aktuell sind folgende von uns datenschutzrechtlich geprüfte KI-Tools an der TU verfügbar:
- KISS-KI / Chat AI der Gesellschaft für wissenschaftliche Datenverarbeitung mbH Göttingen (GWDG)
- KI-Anbindung via API (mit Auftragsverarbeitungsvertrag):
- Zugang mit dem TU-Account (DFN-AAI) zu Chat AI mit Open Source LLMs über die Academic Cloud: https://academiccloud.de/services/chatai/
- ISIS/Moodle bietet eine KI-Integration mit einem lokalen Large Language Model (LLM) an: https://isis.tu-berlin.de/
- Pilotprojekt ChatGPT EDU an der Fakultät Wirtschaft & Management (die Zugänge sind limitiert): https://www.tu.berlin/wm/services/it-services-und-software/pilotprojekt-chatgpt-edu
- Deepl Pro als Übersetzungssoftware (mit Auftragsverarbeitungsvertrag): https://www.deepl.com/de/pro
Weitere Informationen zu KI an der TU Berlin
- Einen guten Einstieg in generative KI bietet das Berliner Zentrum für Hochschullehre (BZHL): https://www.tu.berlin/bzhl/ressourcen-fuer-ihre-lehre/ressourcen-nach-themenbereichen/ki-in-der-hochschullehre
- Einen Überblick über die spannendsten Forschungsprojekte und neuesten Entwicklungen an der TU Berlin findet mensch auf der Themenseite zur Künstlichen Intelligenz: https://www.tu.berlin/news/kuenstliche-intelligenz
- Zahlreiche Infos der Zentraleinrichtung Wissenschaftliche Weiterbildung und Kommunikation (ZEWK, https://www.tu.berlin/zewk ):
- „Lebende“ KI-Leitlinien werden kollaborativ von der ZEWK erarbeitet https://digit.zewk.tu-berlin.de/wiki/doku.php?id=ki:richtlinien
- Vielfältige Schulungsangebote, z.B. die neue Kursreihe KI@TUB: https://programm.zewk.tu-berlin.de/s/KI-TUB
- Infos zu weiteren Tools, z.B.
- Transkriptionssoftware noScribe: https://digit.zewk.tu-berlin.de/wiki/doku.php?id=tools:datenerhebung#noscribe
- Einsatzszenarien für diverse Tools: https://digit.zewk.tu-berlin.de/wiki/doku.php?id=ki:einsatz
- Die Bibliothek Wirtschaft & Management bietet Informationen und Schulungen zu KI an: https://www.tu.berlin/wm/bibliothek/lernen-arbeiten/kuenstliche-intelligenz-tools-und-wissenschaftliches-arbeiten
- Das CIO-Office arbeitet an KI-Handreichungen und Schulungsunterlagen, die den Beschäftigten im Intranet zur Verfügung gestellt werden sowie Infos zur KI-Umfrage: https://www.tu.berlin/pa/cio