Datenschutzfreundliche KI für den öffentlichen Sektor

Press Release

Jun 22

Digital Society Institute der ESMT Berlin veröffentlicht gemeinsames Positionspapier mit dem Berliner KI-Unternehmen Xayn

KI-Strategie der Bundesregierung kann mit neuer DSGVO-konformer und leistungsfähiger Technologie zukunftsweisend umgesetzt werden
Öffentlicher Sektor kann von dezentraler KI (Masked Federated Learning) profitieren
Positionspapier erläutert Anwendungsbeispiele für öffentliches Gesundheitswesen und Strafverfolgung

BERLIN, 22. Juni 2021 – Um die KI-Strategie der Bundesregierung umzusetzen, benötigen wir leistungsfähige und gleichzeitig DSGVO-konforme Technologie für den öffentlichen Sektor. Das sogenannte Masked Federated Learning kann diesen hohen Anforderungen an Datenschutz, Vertrauenswürdigkeit und Leistungsfähigkeit entsprechen. In einem heute veröffentlichten Positionspapier beleuchten das Berliner Tech-Unternehmen Xayn und das Digital Society Institute (DSI) der ESMT deshalb die Potenziale dieses dezentralen neuen Ansatzes und nennen konkrete Anwendungsbeispiele aus dem Gesundheitssektor und der Strafverfolgung.

“Will Deutschland in Zukunft im globalen KI-Wettbewerb mitspielen, brauchen wir auch im öffentlichen Sektor effiziente und vor allem datenschutzfreundliche Technologien. Neue dezentrale Ansätze wie das Masked Federated Learning vereinen beides – und können so zu einem EU-Modell für die verantwortungsvolle KI-Nutzung werden”, erklärt Professor Michael Huth, Chief Research Officer bei Xayn, Dekan am Imperial College London und Ko-Autor der Stellungnahme.

“Auch in sensiblen Bereichen der Daseinsvorsorge wie dem Gesundheitswesen oder der öffentlichen Sicherheit hat Künstliche Intelligenz große Potentiale. Datenschutzfreundliche Technologien stehen dafür zur Verfügung”, betont Martin Schallbruch, Direktor des Digital Society Institute der ESMT Berlin und Ko-Autor der Stellungnahme.

Eckpunkte des gemeinsamen Positionspapiers

Masked Federated Learning ist eine dezentrale Technologie, die Datenschutz und Künstliche Intelligenz (KI) miteinander vereint. Die Rohdaten bleiben stets auf den Endgeräten der Nutzer und trainieren direkt vor Ort lokale KI-Modelle. Diese Modelle werden verschlüsselt zu einem globalen Modell aggregiert und zurückgespielt. Dadurch bleibt der Datenschutz zu jeder Zeit gewahrt, während gleichzeitig die DSGVO-konforme KI effizient trainiert wird.
Der öffentliche Gesundheitssektor kann vom Einsatz des föderierten Lernens maßgeblich profitieren – zum Beispiel bei der Prävention und Bekämpfung zukünftiger Pandemien. Dazu können sowohl geräte-übergreifende Anwendungen (z. B. Smartphone-Apps zur Einschätzung des persönlichen Risikos) mit silo-übergreifenden Anwendungen (z. B. Datenbanken der Gesundheitsämter zur aktuellen Infektionslage) kombiniert werden. Mit dieser kollaborativen, dezentralisierten Technik könnten Risiken schneller erkannt und eingedämmt werden, während gleichzeitig die hochsensiblen Nutzerdaten auf den Endgeräten verbleiben und so stets geschützt sind.
Für die öffentliche Sicherheit und Strafverfolgung könnte föderiertes Lernen eingesetzt werden, um Ermittlungen über verschiedene Polizeibehörden hinaus zu unterstützen. Polizeibehörden könnten so von dem Erfahrungswissen anderer Behörden profitieren, ohne die personenbezogenen Informationen miteinander zu teilen. Potenzielle Einsatzgebiete sind zum Beispiel Cybercrimes wie Identitätsdiebstahl oder Delikte mit Bildern sexualisierter Gewalt gegen Kinder und Jugendliche.
DSGVO-konforme, leistungsfähige KI kann die Effizienz steigern, das Vertrauen der Bürger*innen in die Verwaltung stärken und zu einem EU-Modell für die verantwortungsvolle Nutzung von KI werden.

Download:

Das gemeinsame Positionspapier “Künstliche Intelligenz für den öffentlichen Sektor: Masked Federated Learning als datenschutzfreundliche Lösung” können Sie hier herunterladen.

____________________

Zu den Autor*innen:

Professor Michael Huth ist Mitgründer von Xayn und lehrt seit 2001 Computer Science am Imperial College London. Seine Spezialgebiete sind Cybersecurity sowie Sicherheit und Datenschutz beim Machine Learning.

Martin Schallbruch ist Direktor des Digital Society Institute der ESMT Berlin und Lehrbeauftragter am Karlsruher Institut für Technologie. Zuvor war er u. a. Leiter der Abteilung Informationstechnik, Digitale Gesellschaft und Cybersicherheit im Bundesministerium des Innern.

Dr. Leif-Nissen Lundbæk ist Mitgründer und CEO von Xayn. Er studierte Mathematik und Software Engineering in Berlin, Heidelberg sowie Oxford und erhielt seinen Ph.D. am Imperial College London.

Dr. Clara Herdeanu ist Head of Communications von Xayn. Zuvor beriet sie Digitalunternehmen wie Mozilla, StackOverflow und OpenXchange und kommunizierte für den Weltmarktführer ebm-papst.

Lola Attenberger forscht am Digital Society Institute der ESMT Berlin zu Cybersecurity. Zuvor studierte sie an der Hochschule für Wirtschaft und Recht Berlin.

____________________

Über Xayn

Xayn macht KI für Unternehmen und Institutionen sicher, effizient und nachhaltig. Basierend auf aktueller Forschung entwickelt das europäische Startup (energie-)effiziente und datenschutzfreundliche KI “Made in Germany”. Mit seinem Retrieval Augmented Generative AI System erschließt es Organisationen die Vorteile (generativer) KI im großen Maßstab.

Xayn begann als Forschungsprojekt von Dr. Leif-Nissen Lundbæk und Professor Michael Huth an der University of Oxford und dem Imperial College London. Gemeinsam mit Felix Hahmann gründeten sie 2017 das Berliner Tech-Unternehmen, das zu mehr als 35% aus promovierten Wissenschaftler*innen besteht. Xayn entwickelt seine KI-Systeme auf Basis der europäischen Werte Transparenz, Nachhaltigkeit und Datenschutz als Open-Source-Technologie. Global Brain Corporation, KDDI Open Innovation Fund, Earlybird und Dominik Schiener investierten 19,5 Millionen EURO in das Start-up.

Downloads