Safeguards in the Wild: Die Grenzen von KI-Sicherheit

Beschreibung

Veranstaltungsort:
Cyberforum, Haid-und-Neu-Straße 18, 76131 Karlsruhe, Raum "Church" (EG) (Anreiseinformationen: https://www.cyberforum.de/footer/kontakt)

Vortrag:
Der Vortrag "Safeguards in the Wild: Die Grenzen von KI-Sicherheit" beleuchtet das Spannungsverhältnis zwischen der Weiterentwicklung der Fähigkeiten großer KI-Sprachmodelle und der Gewährleistung ihrer sicheren Nutzung. Obwohl diese Systeme zunehmend leistungsfähiger werden, erweisen sich ihre Sicherheitsmechanismen in der Praxis häufig als unzureichend. Wir diskutieren bestehende Schutzstrategien und untersuchen Situationen, bei denen Modelle feindlichen Angriffen ausgesetzt werden, um sowohl ihre Stärken als auch ihre Schwächen sichtbar zu machen. Der Vortrag gibt Einblicke in die Herausforderungen, die Fähigkeiten von KI-Systemen an der technologischen Grenze mit verlässlichen Sicherheitsstandards in Einklang zu bringen. Dabei wird deutlich, dass bestehende Sicherheitsverfahren häufig nicht ausreichen und weiterentwickelt werden müssen, um den Anforderungen eines realen Einsatzes gerecht zu werden.

Über den Vortragenden:
Dr. Lukas Struppek ist Research Scientist bei FAR.AI und beschäftigt sich mit dem Red Teaming und der Verbesserung der Robustheit großer Sprachmodelle. Er promovierte an der Technischen Universität Darmstadt zu generativer und multimodaler KI mit einem Schwerpunkt auf Sicherheit, Datenschutz und verantwortungsvoller Entwicklung. Vor seinem Wechsel zu FAR.AI war er als Senior Researcher am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) tätig. Vor seiner Promotion studierte er Wirtschaftsingenieurwesen am KIT und arbeitete als wissenschaftlicher Mitarbeiter am AIFB.

Wahl der neuen Regionalgruppenleitung:
Im Rahmen der Veranstaltung findet auch die offizielle Wahl der neuen Regionalgruppenleitung statt. Die Leitung übernehmen Andreas Fritsch als Sprecher (KIT, Institut AIFB) und Meike Ullrich (KIT, Institut AIFB) als stellvertretende Sprecherin. Darüber hinaus werden wir von einem diversen Team aus Forschung und Praxis im Leitungsgremium unterstützt. Teil des Leitungsgremiums sind: Demian Frister, Clemens Harnischmacher, Fabian Rybinski, Gökhan Özcan, Susanne Kaufmann, Nadja Kruse, Julia Seitz Sänger, Alexander Trümper, Thomas Schuster, Holger Bär, Johannes Freudenmann.