Erstellung eines Anforderungskatalogs zur Bewertung der Sicherheit und Vertrauenswürdigkeit von Reinforcement Learning (RL) basierten KI-Systemen für das BSI.

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) schreibt die Erarbeitung eines Anforderungskatalogs für Reinforcement Learning (RL) aus. Ziel ist die Bewertung der Sicherheit und Vertrauenswürdigkeit von KI-Anwendungen, wobei alle Techniken und Ausprägungen von RL, insbesondere generative Modelle wie RLHF und RLAIF, berücksichtigt werden sollen. Die Ergebnisse sollen als ergänzendes Modul zum BSI A5 aufbereitet werden und mit der SdT-Bibliothek des BSI kompatibel sein. Das Projekt umfasst eine Laufzeit von 15 Monaten und beinhaltet optionale Leistungen.

Das Projekt erarbeitet einen Katalog von Anforderungen zur Bewertung der Sicherheit und Vertrauenswürdigkeit von KI-Anwendungen, die Reinforcement Learning nutzen. Ziel ist die Erstellung eines ergänzenden Moduls zum BSI A5, das kompatibel zur SdT-Bibliothek des BSI ist.