Im Verlauf seines ersten Jahres hat das Exzellenznetzwerk ELSA (European Lighthouse on Secure and Safe AI) bedeutende Schritte unternommen, um die Europäische Union zu einem Vorreiter in sicherer und vertrauenswürdiger Künstlicher Intelligenz (KI) zu machen. Das Netzwerk widmet sich intensiv der Forschung, pflegt einen engen Austausch mit Vertreter:innen der Industrie, verfolgt eine strategische Forschungsausrichtung und bietet Politikberatung. Dabei werden sämtliche Dimensionen der drängenden Fragen, die sich im Zusammenhang mit künstlicher Intelligenz für die Gesellschaft ergeben, berücksichtigt.
„Ich bin begeistert von den Fortschritten, die wir bereits im ersten Jahr erzielt haben“, sagt Professor Dr. Mario Fritz, CISPA-Faculty und Koordinator von ELSA, beim Treffen des Konsortiums zum einjährigen Jubiläum Ende September. Dieses erste gemeinsame Jahr, in dem Expert:innen auf den Gebieten des maschinellen Lernens und der künstlichen Intelligenz ihr Wissen und ihre Erfahrung geteilt haben, ist erst der Auftakt. „Wir haben noch viel vor, um künstliche Intelligenz robuster, sicherer und vertrauenswürdiger zu machen und sie so zum Wohl der Gesellschaft einsetzen zu können“, sagt Fritz.
KI nachhaltig nutzen
Large Language Modelle sind ein Thema, das viele Forschende im ELSA-Netzwerk intensiv beschäftigt. Mit Veröffentlichung von ChatGPT und anderen Chatbots, wurden sie der breiten Öffentlichkeit zugänglich. Die moderne Lerntechnologie, die darin steckt, muss laut Fritz nachhaltig und sicher zum Erfolg gebracht werden. „Wie wir gesehen haben, haben die Modelle bislang aber noch enorme Schwächen.“
Fritz und sein Team konnten im Frühjahr zusammen mit CISPA-Faculty Prof. Dr. Thorsten Holz und dem Saarbrücker IT-Unternehmen sequire technology kritische Schwachstellen aufdecken. Die Veröffentlichung ihres Papers hat unter anderem dazu geführt, dass das deutsche Bundesamt für Sicherheit in der Informationstechnik (BSI) ein ausführliches Positionspapier zu dem Thema mit dem Titel “Große KI-Sprachmodelle – Chancen und Risiken für Industrie und Behörden” verfasste.
So wie in ELSA viele intelligente Köpfe ihre Kräfte bündeln, tun das auch die NoEs. Gemeinsam haben sie eine Joint Research Agenda verfasst, die aufzeigt, wie sie gemeinsam den Weg für den sicheren Einsatz künstlicher Intelligenz ebnen wollen.
ELSA fokussiert sich dabei auf drei große Herausforderungen. Hierzu zählen technisch robuste und sichere KI-Systeme sowie datenschutzfreundliches und robustes kollaboratives Lernen. Außerdem sind menschliche Kontrollmechanismen für den ethischen und sicheren Einsatz von KI zu entwickeln. Die konkreten Anwendungsfälle sind Gesundheit, autonomes Fahren, Robotik, Cybersicherheit, Medien und Dokumentenintelligenz. Das Netzwerk verfolgt dabei einen grundlegenden, transparenten und interdisziplinären Ansatz. Die im November veröffentlichte strategische Forschungsagenda gibt Interessierten eine Übersicht, wie ELSAs Arbeit an diesen Herausforderungen konkret aussehen wird.
KI sicher „auf die Straße bringen“
Um die von ELSA-Forschenden entwickelten Technologien und Methoden unter realen Bedingungen zu testen, hat ELSA 2023 eine Benchmarks-Plattform veröffentlicht. Über diese Plattform werden innerhalb des Netzwerks Daten und Metriken geteilt und sogenannte „Competitions“ zu den sechs ELSA USE-Cases veröffentlicht. Das sorgt dafür, dass das Netzwerk messbare Fortschritte erzielt und immer wieder die Forschungsaktivitäten mit realen Bedürfnissen und Anwendungen verknüpft werden.
Im Mai hat ELSA zudem kleine und mittelständische Unternehmen sowie innovative Startups aufgerufen, sich um Förderung zu bewerben und zusammen mit ELSA-Forschenden an Methoden, Benchmarks und Softwarelösungen zu arbeiten und diese in die industrielle Anwendung zu bringen. Sechs Startups wurden dazu kürzlich von einem Expert:innen-Gremium ausgewählt. Sie erhalten über ELSA jeweils rund 60.000 Euro EU-Förderung und werden zusammen mit ausgewählten Konsortiumsmitgliedern an konkreten Projekten arbeiten. Im Januar 2024 wird ELSA verkünden, welche jungen Unternehmen im Industry Call überzeugen konnten.
