DLR Institut für KI-Sicherheit

NeMo.bil ist ganz sicher eines unserer 35 Lieblingsprojekte. Den KollegInnen vor Ort an der Uni Paderborn alles Gute für den Tag der Verkehrssicherheit. Ein Thema, was immer aktuell und wichtig ist und uns auch sehr am Herzen liegt. https://lnkd.in/e3_Gi8pi

//Wie aus Robotern lernende Partner im digitalen Ökosystem werden// KI-gesteuerte Roboter sind mehr als Werkzeuge: Sie agieren eigenständig, treffen Entscheidungen und lernen aus Erfahrung. Diese Autonomie wirft Fragen zu Sicherheit, Nachvollziehbarkeit und Kontrolle auf. Hier bündeln sich die KI-Kernkompetenzen des DLR Institut für KI-Sicherheit. Bei uns entwickeln Forschende Methoden, um KI-basierte Robotersysteme erklärbar, verlässlich und verantwortungsvoll zu gestalten. Ziel ist eine neue Generation von Robotern, die flexibel auf Veränderungen reagieren, sicher mit Menschen interagieren und gleichzeitig nachvollziehbar handeln. Ein zentraler Aspekt dieser Arbeit ist die Entwicklung sicherer, dezentraler Daten- und Dienste-Ökosysteme. So kann KI-gesteuerte Robotik über ihren gesamten Lebenszyklus hinweg begleitet und verbessert werden – vom ersten Einsatz bis zur kontinuierlichen Weiterentwicklung. Dabei spielen Datensouveränität, Nachhaltigkeit und Energieeffizienz eine entscheidende Rolle. Wie sich diese Prinzipien praktisch umsetzen lassen, zeigt das Projekt Digitales Ökosystem für KI-basierte Robotik (RoX). Gemeinsam mit Partnern aus Industrie und Forschung schaffen wir ein digitales Ökosystem, das Robotersysteme vernetzt, Erfahrungen teilt und Anwendungen skalierbar macht – von Produktion bis Logistik. Was RoX besonders macht: Statt zentralisierter KI-Systeme entstehen dezentrale Dateninfrastrukturen, die es Unternehmen ermöglichen, die Kontrolle über ihre Daten zu behalten und dennoch von gemeinsamen Lernprozessen zu profitieren. Das DLR Institut für KI-Sicherheit bringt seine Expertise in drei zentralen Bereichen ein: Wir entwickeln sichere und modulare Daten-Ökosysteme, arbeiten an der Standardisierung von Software-Schnittstellen für interoperable Robotik-Architekturen und fördern intelligente KI-Algorithmen für adaptive Steuerungs- und Planungsmethoden. Wir leiten die DLR-Beteiligung und koordinieren das Projekt gemeinsam mit ABB, Siemens und der Fraunhofer Gesellschaft. Ministerium für Wirtschaft, Arbeit und Tourismus Baden-Württemberg #DLR #KI #AI #RobotikSerieBW #Transfer

//DLR-Institut für KI-Sicherheit bei der Future Innovation Tech Expo 2025 in Daegu//   Vom 22. bis 23. Oktober 2025 nahm das DLR Institut für KI-Sicherheit unter Leitung von Prof. Frank Köster an der Future Innovation Tech Expo (FIX 2025) in Daegu, Südkorea, teil. Unter dem Motto „Data Space Collaboration Daegu & EU“ präsentierten lokale Unternehmen aus dem Daten- und Dienstleistungsökosystem Daegus gemeinsam mit dem DLR neue Ansätze und Projektideen zur internationalen Zusammenarbeit. Die Initiative wurde in enger Kooperation mit den geschätzten Kolleginnen und Kollegen des Daegu Digital Promotion agency (DIP) und Lokalen Unternehmen organisiert, mit denen bereits im vergangenen Jahr erste Proof-of-Concepts erfolgreich umgesetzt und bei der FIX Expo 2024 demonstriert wurden.   Am gemeinsamen Stand boten mehrere Beiträge spannende Einblicke: 🔹 Prof. Frank Köster stellte aktuelle Entwicklungen aus dem geplanten Ecosystem Mobility 4.0 vor – hierin spielen dezentrale Daten- und Dienste-Ökosysteme eine zentrale Rolle. Diese Kompetenzen unseres des Instituts in diesem Bereich spiegeln sich in Entwicklungen wie Base-X aus der Gaia-X 4 Future Mobility Projektfamilie wider. In nächsten Schritten steht nun die Skalierung solcher Technologien für den Bereich der Mobilität auf der Agenda. 🔹 Steffen Dean Turnbull gab einen Überblick über internationale Aktivitäten und Forschungsergebnisse zu Daten- und Dienste-Ökosystemen und darüber, welche Herausforderungen es aktuell noch zu bewältigen gilt. Ein besonderer Dank gilt allen beteiligten Partnerfirmen, der Stadt Daegu sowie der DIP für die exzellente Organisation, das Vertrauen und die Einladung. Gemeinsam möchten wir die Mehrwerte von Daten und interoperablen Technologien im Industrie- und Mobilitätsbereich zwischen Deutschland und Korea weiter stärken.   Am 24. Oktober schließt sich ein Besuch beim Research Team der Firma EGIS in Busan an. Dort leiten Prof. Frank Köster und Maximilian Stäbler, wissenschaftlicher Mitarbeiter am DLR-Institut, ein gemeinsames Seminar zum Transfer offener Technologien und zur Anwendung semantischer Modelle und Datenräume für moderne und interoperable Mobilitätslösungen. Ziel dieses Seminars ist die konkrete Planung der nächsten Kooperationsschritte und die Vorbereitung des Technologietransfers zwischen dem koreanischen Industriepartner, der Stadt Daegu und deutschen Partnern sowie der Stadt Hamburg. Wir als Institut für KI-Sicherheit stellen in dieser Zusammenarbeit die Grundlage für ein voll operatives Daten-/Dienste-Ökosystem bereit. #DLR #KI #AI #DataSpaces #MobilityInnovation #InternationalCooperation

//Sichere KI durch Human-in-the-Loop: #MenschMaschineInteraktion in der Robotik// Am DLR Institut für KI-Sicherheit erforschen wir, wie Menschen und KI-Roboter sicher und eng zusammenarbeiten können. Mit digitalen Zwillingen und Extended Reality (XR) entwickeln wir Human-in-the-Loop Ansätze für die Automatisierung in #Mobilität und #Logistik. Bei diesen Ansätzen ist der Mensch als Partner, Trainer und korrigierende Instanz eingebunden.   Virtuelle #Testumgebungen für reale Herausforderungen:  An unserem Ulmer Standort entwickeln wir digitale Zwillinge und Simulationen, um die Mensch-KI-Interaktion zu verbessern und die Auswirkungen der Zusammenarbeit von Mensch und KI in der Arbeitswelt zu ergründen. Digitale Zwillinge – also virtuelle Abbilder realer Systeme – erlauben es uns, Produktions- und Logistikprozesse wirklichkeitsgetreu zu simulieren. Dabei nutzen wir #VirtualReality (VR), #AugmentedReality (AR) und #MixedReality (MR) Simulationen. Ein Beispiel: die #KollaborativeMontage in der produzierenden Industrie, die ein Roboter und ein Mensch gemeinsam erledigen. In der Mixed-Reality Simulation sind z.B. Roboter und die Gegenstände real vor Ort, der Mensch nimmt jedoch nur virtuell an der Aktion teil. So können Robotik-Arbeitsplätze und Interaktionen getestet und immer weiter verbessert werden, ohne dass reale Menschen oder Maschinen Risiken ausgesetzt sind.   Wir erforschen systematisch, wie menschliche Expertise KI-Systeme #sicherer und #zuverlässiger macht. Durch eine gezielte Untersuchung von komplexen Anwendungsfällen aus der Industrie, ermöglichen wir eine effiziente, kostengünstige – und vor allem sichere – Verbesserung von KI-basierter #Robotik und Interaktion. KI-Tools helfen, sowohl das Potenzial als auch die Grenzen von KI-Systemen zu erkunden. Siehe auch: https://lnkd.in/eZMUkeWd KI Familie   Ministerium für Wirtschaft, Arbeit und Tourismus Baden-Württemberg  #DLR #KI #AI #RobotikSerieBW #Transfer #SafeAIEngineering #VR

//Grenzen überwinden für sichere KI: Internationale Forschungskooperation nimmt konkrete Formen an// Das DLR Institut für KI-Sicherheit und das Japan AI Safety Institute (AISI) intensivieren ihre Zusammenarbeit – mit konkreten Projekten im Gepäck. Nach zwei Besuchen japanischer KollegInnen in Deutschland im Frühjahr und Sommer 2025 ging es nun in die andere Richtung: Am 17. Oktober besuchte das Institut für KI-Sichertheit, vertreten durch Steffen Dean Turnbull das AISI in Akasaka, Tokio. Im Mittelpunkt des Austauschs mit Hiromu Kitamura und weiteren ExpertInnen des AISI standen konkrete Kooperationsmöglichkeiten zwischen beiden Instituten. Besonders vielversprechend: die Verknüpfung des Data Quality Toolkits des DLR mit den KI-Evaluations-Tools des japanischen Partnerinstituts. Denn die Qualität von Daten und die Bewertung von KI-Systemen sind eng miteinander verwoben – schlechte Datenqualität kann selbst ausgefeilte KI-Systeme unzuverlässig machen. Die Gespräche verdeutlichten, wie wichtig internationale Zusammenarbeit in diesem Bereich ist: KI-Systeme werden weltweit entwickelt und eingesetzt, entsprechend müssen auch die Sicherheitsstandards und Evaluierungsmethoden über Ländergrenzen hinweg abgestimmt werden. Beide Institute arbeiten daran, wissenschaftlich fundierte Beiträge zur globalen KI-Governance zu leisten und Methoden zu entwickeln, die die Vertrauenswürdigkeit von KI-Systemen nachweisbar erhöhen. Der Besuch war mehr als ein höflicher Austausch – es wurden konkrete nächste Schritte vereinbart, um die Zusammenarbeit mit Leben zu füllen. Die geografische Distanz zwischen Deutschland und Japan wird durch das gemeinsame Ziel überbrückt: KI-Systeme sicherer und vertrauenswürdiger zu machen. #DLR #KI #AI #Datenqualität #DataQuality #AISI #TrustedAI

// Wie Fahrzeugdaten unsere Mobilität von morgen prägen// Am 18. November 2025 lädt der Mobility Data Space (MDS) gemeinsam mit der Volkswagen Group Info Services AG zum Community Event nach Berlin ein. Unter dem Motto „Fahrzeugdaten in Bewegung – Wege in eine vernetzte Mobilitätszukunft“ kommen Experten aus Mobilität, Politik und Wissenschaft zusammen, um über den sicheren und vertrauensvollen Umgang mit Fahrzeugdaten zu sprechen. Das DLR Institut für KI-Sicherheit, vertreten durch Prof. Frank Köster, bringt dabei seine Expertise zur Cybersicherheit in Datenökosystemen ein. In der Paneldiskussion „Wege in eine skalierbare Mobilitätszukunft“ beleuchten wir gemeinsam mit Continental, HERE Technologies, Bosch Engineering GmbH und dem ITZ Institut für Trend und Zukunftsforschung GmbH die technologischen Grundlagen einer sicheren und vernetzten Mobilität. Vernetzte Mobilität braucht zuverlässige und geschützte Dateninfrastrukturen. Wir forschen daran, wie schützenswerte Daten in dezentralen Ökosystemen vertrauensvoll hinterlegt und KI-Algorithmen sowie Dienste vor Cyberangriffen geschützt werden können. Der Mobility Data Space ist dabei ein zentrales Beispiel für die praktische Umsetzung solcher sicheren Datenräume im Automobilsektor. Das Event im DRIVE. Volkswagen Group Forum bietet zudem zahlreiche Networking-Möglichkeiten – ein wichtiger Rahmen für den direkten Austausch zwischen Forschung und Industrie. Denn nur durch enge Zusammenarbeit entstehen KI-Lösungen, die in der Praxis funktionieren und anspruchsvollen Sicherheitsstandards genügen. 📅 18. November 2025 | 9:30–16:00 Uhr | DRIVE. Volkswagen Group Forum, Berlin #DLR #KI #AI #MDS #MobilityDataSpace #Cybersicherheit #Mobilität #Datenökosysteme

//Maus, Elefant und KI – ein Tag voller Staunen, Spielen und Lernen// Einmal mit der Maus und dem Elefanten durch eine virtuelle Fabrik – und dabei erleben, wie Mensch und KI zusammenarbeiten: Das war eins der Highlights beim diesjährigen „Türen auf mit der Maus“-Tag am DLR-Standort Ulm. Beim deutschlandweiten #TürenAufMitDerMaus-Event öffnete das DLR Institut für KI-Sicherheit erstmals gemeinsam mit dem DLR Institute of Quantum Technologies seine Türen. Unter dem Motto „Spielzeit“ drehte sich alles um das spielerische Erleben von Künstlicher Intelligenz und Quanten-Technologien. An insgesamt sechs interaktiven Stationen konnten Kinder und Eltern Forschung hautnah erleben – von der #QuantumArcade mit neuer Reaktionszeit-Challenge über den #Fahrsimulator mit KI-gestützter Fahrerzustandserkennung bis hin zum #Telepräsenzroboter, der per KI Personen erkennt und Unsicherheiten in Echtzeit misst. Und natürlich der virtuellen Fabrik. Das große Interesse und die Begeisterung der jungen Besucherinnen und Besucher zeigen: Forschung kann neugierig machen, inspirieren und spielerisch Brücken schlagen zwischen Wissenschaft und Alltag. Eine rundum gelungene „Spielzeit“ beim ersten „Türen auf mit der Maus“-Tag des DLR in Ulm! #DLR #KISicherheit #KI #AI #Forschung #Nachwuchs 

//Effiziente Crash-Test-Simulationen durch Quanten-Ersatzmodelle// Mithilfe von Quantencomputern verbessern wir die Simulation von Crash-Tests. Gemeinsam mit dem DLR Institut für Fahrzeugkonzepte haben wir eine Methode entwickelt, um Ersatzmodelle für komplexe Simulationen mit Quantenelementen zu erweitern. Quantencomputer arbeiten nach Rechenprinzipien der Quantenphysik, die sich stark von denen klassischer Computer unterscheiden – richtig eingesetzt, können sie enorme Vorteile bringen. Im Projekt Q-Surrogate entwickeln wir diese neuen Methoden weiter und erweitern den Einsatzbereich von der Crash-Simulation hin zu Strukturoptimierung und Sicherheitsanwendungen. Wer mehr über unsere aktuelle Forschung zu Quanten-KI und zukünftigen Projekten erfahren möchte: Besucht uns heute noch auf der Quantum Effects Messe am #QuantumBW Gemeinschaftsstand (Halle 2, Stand 2E17)! #dlr #quantenKI #quantumAI

Das DLR Institut für KI-Sicherheit war mit einem starken Team beim ersten übergreifenden Safe AI Engineering Projektmeeting vertreten. Prof. Frank Köster als Projektkoordinator, Dr.-Ing. Sven Hallerbach Hallerbach für die Projekt-Orchestrierung, Dr. Elena Hoemann als Prozessverantwortliche und Yannick Kees mit Expertise zu Informationsqualität & Normalisierung brachten unsere Forschungsperspektive in diese wichtige Industriekooperation ein. 80+ Experten aus dem Konsortium arbeiten gemeinsam daran, kamerabasierte KI-Wahrnehmungsfunktionen systematisch zu testen – ein entscheidender Schritt für die Zuverlässigkeit autonomer Systeme. Solche interdisziplinären Projekte zeigen: Sichere KI entsteht nur durch enge Verzahnung von Grundlagenforschung und Praxisanwendung.

Herzlichen Glückwunsch an die KollegInnen aus dem gemeinsamen NeMo.bil-Projekt für den erfolgreichen Auftritt auf der IAA Mobility 2025!