„Menschendaten. Die Maschine spricht – wer verantwortet KI?“ KI Woche vom 4. bis zum 6.10.2023:
Programm, Anmeldung und Livestream: https://lfdi-bw.de/ki-woche-2023
Kann es eine KI ohne Diskriminierung geben? Mittwoch, 4.10. ab 18 Uhr vor Ort beim LfDI und online
Künstliche Intelligenz (KI) kann Unmengen von Daten systematisieren und auswerten. Die Qualität der Analyse hängt wesentlich von der Qualität der Trainingsdaten und des programmierten Algorithmus ab. Das gilt auch für Prognosen. Hier jedoch stellt sich unter anderem die Frage, wie aus einem aktuellen Stand der Dinge eine Aussage zur Zukunft getroffen wird, wenn bereits auf der Ebene der Analyse Menschen unterschiedlich betrachtet beziehungsweise diskriminiert werden.
Wetterdaten können gut für Zukunftsaussagen genutzt werden, doch wie vergleicht man das Verhalten von Menschen heute und schließt daraus auf ihr zukünftiges Verhalten, ohne bestehende Diskriminierungen in die Zukunft zu übertragen und strukturell zu verfestigen? Wie werden Diskriminierungen in der KI abgebildet? Wer entscheidet, welche diskriminierenden Effekte in eine KI-Prognose einfließen?
Paola Lopez und Carten Orwat gehen beim Landesbeauftragten für den Datenschutz und die Informationsfreiheit Baden-Württemberg am Mittwoch, 4. Oktober diesen Fragen nach. Um 18 Uhr spricht Carten Orwat unter dem Titel „‘Fairness‘ als Antwort auf algorithmische Diskriminierungsrisiken ist nicht genug.“ Anschließend referiert Paola Lopez unter dem Titel „Bias: Ein Begriff voller Ambiguität.“ Darauf folgt eine Diskussion.
Über Paola Lopez und Carsten Orwat:
Paola Lopez ist studierte Mathematikerin. Sie ist wissenschaftliche Mitarbeiterin an der Fakultät für Rechtswissenschaften der Universität Wien und assoziierte Wissenschaftlerin am Weizenbaum-Institut für die vernetzte Gesellschaft in Berlin. In ihrer interdisziplinären Dissertation untersucht sie den staatlichen Einsatz von KI-Systemen in Bezug auf Individuen. Neben ihrer Dissertation hat sie eine Typologie von Bias-Formen in datenbasierten Systemen entwickelt, die erste Analyse des österreichischen AMS-Algorithmus und seinem Diskriminierungspotenzial publiziert und den Bias-Diskurs im Kontext von Twitters Image-Cropping-Algorithmus untersucht. Kürzlich wurde sie vom Deutschen Bundesministerium für Bildung und Forschung und der Deutschen Gesellschaft für Informatik zu einer der „KI-Newcomer_innen 2023“ ernannt.
Carsten Orwat ist Senior Researcher am KIT-ITAS und hat dort zahlreiche Projekte der Technikfolgenabschätzung zu Informations- und Kommunikationstechnologien durchgeführt. Zu den letzten Projekten zählen die BMBF-Begleitforschung zu Big Data, „Diskriminierungsrisiken durch Verwendung von Algorithmen“ für die Antidiskriminierungsstelle des Bundes und „Governance von und durch Algorithmen“ (BMBF) mit Schwerpunkt auf die Risikoregulierung der KI.
Für Presseanfragen erreichen Sie uns unter der Telefonnummer
0711/615541-23 und per E-Mail: pressestelle@lfdi.bwl.de
Weitere Informationen zu Datenschutz und Informationsfreiheit finden Sie im Internet unter www.baden-wuerttemberg.datenschutz.de oder unter www.datenschutz.de.