Business Network Südbaden

Deutschland hat jetzt ein eigenes KI-Sicherheitsinstitut! 🤖

Seit September arbeitet in Berlin das AISI Deutschland (AI Security and Safety Institute). Es soll bewerten, welche Chancen und Risiken moderne KI-Modelle mit sich bringen.

Eine komplett neue Behörde ist das aber nicht. Zum Start teilen sich nämlich zwei bestehende Bundesbehörden die Arbeit.

1️⃣ Das BSI (Bundesamt für Sicherheit in der Informationstechnik) übernimmt das Thema Security. Dabei geht es vor allem darum, KI-Systeme und ihre Daten vor Hackerangriffen und Missbrauch zu schützen.

2️⃣ Und die Bundesnetzagentur ist für das Thema Safety zuständig. Sie kümmert sich um unbeabsichtigte Fehler, beispielsweise wenn ein autonomes Fahrzeug ein Hindernis zu spät erkennt oder eine medizinische KI einen Tumor auf einem Röntgenbild übersieht.

🤝 Zusätzlich berät das AISI die Bundesregierung und arbeitet mit internationalen Partnern an gemeinsamen Standards.

Wichtig: Das AISI prüft und berät, es ist aber keine Aufsichts- oder Zulassungsbehörde.

💡 Warum das Thema gerade so aktuell ist: Die KI-Unternehmen OpenAI und Anthropic mussten kürzlich zugeben, dass ihre Modelle bei Tests unbeabsichtigt in IT-Systeme echter Unternehmen eingedrungen sind. Für den Mittelstand heißt das: Wer KI im Betrieb einsetzt, sollte Sicherheit von Anfang an mitdenken, zum Beispiel bei der Frage, auf welche Daten und Systeme ein KI-Tool überhaupt zugreifen darf.

Wie geht ihr in euren Unternehmen mit KI-Sicherheit um? 💬

📰 Quelle: dpa / Security-Insider