Für eine vertrauenswürdige KI

Open-Source

Unsere Werkzeuge basieren auf etablierten Open-Source-Toolkits. Wir setzen modernste Software ein, die von führenden Forschungseinrichtungen entwickelt wurde, und optimieren diese, um Ihnen eine einfache Bedienung und perfektes Nutzererlebnis zu ermöglichen.

Fairness & Ethik

Wir analysieren sowohl Trainingsdaten als auch Vorhersagen von KI-Systemen im Hinblick auf mögliche Diskriminierung, unfaire Ungleichgewichte und Verzerrungen. Sie erhalten einen umfassenden Bericht und leicht verständliche Erklärungen zu den Ergebnissen.

Robustheit

Machine-Learning-Modelle können für sogenannte „Adversarial Attacks“ anfällig sein, bei denen sehr kleine (oft nicht wahrnehmbare) Störungen der Eingaben das Modell zu einer falschen Vorhersage veranlassen. Wir verwenden die von IBM entwickelte „Adversarial Robustness Toolbox“, um solche Angriffe zu simulieren und die Robustheit des KI-Systems zu testen.

DSGVO

Bislang gibt es keine etablierten Tools, die prüfen, ob Trainingsdaten personenbezogene Daten enthalten, die unter die Datenschutz-Grundverordnung (DSGVO) fallen. Unsere selbstentwickelten Tools scannen und markieren Daten, die möglicherweise personenbezogen sind, automatisiert.

Cybersicherheit

Cyberkriminalität ist eine große Herausforderung bei der Bewertung von KI-Systemen. Herkömmliche statische Prüfungen reichen hier nicht aus. Wir erforschen grundlegend neue sicherheitstechnische Konzepte, um einen kontinuierlichen Nachweis der Robustheit von KI-Systemen gegen Cyberattacken zu erhalten.