Zum Inhalt springen
Architektur & Kontrollen

Sicherheit, Governance & menschliche Aufsicht

Implementierte Kontrollen, Kontrollen in Entwicklung und die regulatorische Einordnung je Anwendungsfall

Diese Seite beschreibt Kontrollen konkret, anstatt Compliance zu behaupten. Jede Kontrolle ist entweder als heute in der GENIE-Plattform implementiert oder als für das institutionelle Deployment in Entwicklung gekennzeichnet. Das endgültige Kontrolldesign, die regulatorische Einordnung und die Rechenschaftsstruktur werden vom einsetzenden Institut festgelegt.

Prinzipien

  • Ein Mensch entscheidet. OmniGENIE erstellt Entwürfe und Empfehlungen. Jede schreibende oder transaktionale Aktion erfordert vor der Ausführung einen expliziten Freigabeschritt durch einen autorisierten Menschen.
  • Least Privilege. Der Assistent handelt innerhalb der Berechtigungen des anfragenden Nutzers und, im Zieldesign, innerhalb der je Institut gewährten Tool-Geltungsbereiche.
  • Von Grund auf überprüfbar. Quellen, Tool-Aufrufe, Freigaben und Ergebnisse werden als Vorgangsartefakte aufgezeichnet. Die interne Argumentation des Modells ist kein Audit-Artefakt.
  • Fail Closed, wo es darauf ankommt. Administrativer Zugriff ist deaktiviert, sofern keine Allowlist konfiguriert ist; der Freigabetoken-Mechanismus verweigert den Betrieb ohne sein Secret.
  • Keine regulierte Rolle wird übertragen. Verantwortlichkeiten für Registerführung, Verwahrung, Compliance, Beratung und Kredit verbleiben bei den lizenzierten oder rechenschaftspflichtigen Parteien.

Kontrollkatalog

Identität und Zugriff

KontrolleBeschreibungStatus
Authentifizierte KontenJede Anfrage ist an ein authentifiziertes Konto gebunden; die Anmeldung nutzt derzeit Google OAuth.Verfügbar
Kohorten-ZugangskontrolleDer Zugriff kann per Konfiguration auf eine genehmigte Kohorte beschränkt werden. Dies muss für jeden kontrollierten Piloten explizit konfiguriert werden; ohne Konfiguration ist der Zugriff offen.Verfügbar
Administrative AllowlistDie Administrationsoberfläche ist standardmäßig deaktiviert und wird nur für eine explizite, nicht leere Allowlist aktiviert; das Leeren der Liste deaktiviert sie sofort (manueller Notausschalter).Verfügbar
Enterprise-IdentitätsföderationAnmeldung über den Identitätsanbieter des Instituts (OpenID Connect oder SAML) mit institutionellen Rollen.In Entwicklung
Mandantentrennung auf InstitutsebeneIsolation je Organisation zusätzlich zur kontobezogenen Abgrenzung.In Entwicklung

Datenisolation und -schutz

KontrolleBeschreibungStatus
Kontobezogene AbgrenzungGedächtnis und Vorgangsdaten sind in jeder Abfrage auf das einzelne Konto abgegrenzt.Verfügbar
SensibilitätsstufenSensible Fakten erfordern vor dem Abruf eine höhere Relevanzschwelle; Tools tragen Sensibilitätsstufen.Verfügbar
Verschlüsselte Tokens DritterTokens für verbundene Workspace-Konten sind darauf ausgelegt, im Ruhezustand verschlüsselt gespeichert zu werden.Verfügbar
Schwärzungstor für eingereichten TextEin zweistufiges Tor (Mustererkennung plus ein Modell-Prüfdurchlauf) durchsucht von Nutzern eingereichten Feedback-Text auf personenbezogene Identifikatoren. Es wird nicht auf jeden Gesprächsbeitrag angewendet.Implementiert, nicht aktiviert
Pipeline-weite Data-Loss-PreventionErkennung und Behandlung personenbezogener Daten vor der Modellinferenz über alle Gesprächsbeiträge hinweg.In Entwicklung

Tool-Nutzung und Freigaben

KontrolleBeschreibungStatus
Tool-SensibilitätsstufenEine dreistufige Kennzeichnung von Tools steuert den Aufruf.Verfügbar
Abgestufte Routing-ErgebnisseEine Anfrage wird zu einem von: zulassen, mit Zusammenfassung zulassen, Freigabe erforderlich, blockieren, an einen Menschen eskalieren, geleitet.Implementiert, nicht aktiviert
Einmal-FreigabetokenKurzlebiges Einmal-Token, gebunden an den Hash der exakten Payload; verweigert den Betrieb ohne sein Secret. Heute nur für bestimmte Änderungsabläufe genutzt.Implementiert, nicht aktiviert
Deterministischer Vorfilter für Selbstmodell-ÄnderungenVorgeschlagene Änderungen am eigenen dauerhaften Profil des Assistenten durchlaufen vor einer menschlichen Prüfung einen regelbasierten Filter ohne jeden Modellaufruf; einige Kategorien können nie automatisch freigegeben werden.Implementiert, nicht aktiviert
Aktionsstufen für FinanzoperationenBeobachten, Entwerfen, Empfehlen, Ausführen mit Freigabe; automatische Ausführung für Finanzmarktaktionen deaktiviert.In Entwicklung
Freigabe über OmniPersonaMenschliche Freigabe vorbereiteter Aktionen über den bestehenden Proof-of-Action-Ablauf.In Entwicklung

Nachvollziehbarkeit und Überwachung

KontrolleBeschreibungStatus
Tool-AufrufprotokollTool-Name, Argument-Digest und Ergebnis je Aufruf; Rohargumente werden nicht gespeichert.Verfügbar
Administrative Audit-EreignisseAdministrative Aktionen werden aufgezeichnet.Verfügbar
Ereignisse zum Lebenszyklus von SprachsitzungenSitzungsstart, Beitritt, Verlassen, Absturz- und Fehlerereignisse für das Betriebsmonitoring.Verfügbar
Vollständiger Artefaktsatz je AktionEingabe, Kontext, Quellen, Versionen, Prüfungen, Freigaben, Ergebnis und Begründung je Aktion (siehe Architektur).In Entwicklung
Export in das institutionelle Log-ManagementStrukturierter Export von Vorgangsartefakten in das eigene Logging und Monitoring des Instituts.In Entwicklung

Robustheit und Resilienz

KontrolleBeschreibungStatus
Rahmung nicht vertrauenswürdiger InhalteText Dritter und Antworten anderer Agenten werden an bestimmten Grenzen als Daten gerahmt, mit expliziten Anweisungen, eingebettete Autoritätsansprüche zu ignorieren.Implementiert, nicht aktiviert
Sprach-Anbieter-FallbackAutomatischer Fallback zu einem sekundären Text-to-Speech-Anbieter.Verfügbar
Feature-SchalterFähigkeiten sind einzeln per Konfiguration umschaltbar, was als manueller Notausschalter je Funktion dient.Verfügbar
Automatischer Circuit BreakerAutomatischer Wechsel in den Nur-Lese-Modus bei anomalen Fehlerraten oder Tool-Aufrufmustern.In Entwicklung
Sprachmodell-Anbieter-FallbackAutomatisches Failover zwischen Modellanbietern.In Entwicklung
Evaluations- und Red-Teaming-ProgrammWiederkehrende Tests auf Prompt-Injection und Tool-Missbrauch mit dokumentierten Ergebnissen je Release.In Entwicklung

Modell der menschlichen Aufsicht

SituationWer entscheidetWas OmniGENIE tut
Lesen und Zusammenfassen autorisierten KontextsLäuft automatisch innerhalb der Berechtigungen des Nutzers.Zitiert Quellen und markiert Unsicherheit.
Entwürfe und EmpfehlungenDie verantwortliche Person.Kennzeichnet die Ausgabe als Entwurf oder Empfehlung.
Jede schreibende oder transaktionale Aktion in OmniAsset, OmniSafe oder OmniEagleDer autorisierte Nutzer, über den Freigabemechanismus der Komponente.Bereitet die Aktion vor und übergibt sie an den Freigabepfad; führt nicht aus.
Änderungen am eigenen Profil oder den Regeln des AssistentenEin benannter menschlicher Prüfer.Wendet einen deterministischen Vorfilter an; einige Kategorien können nie automatisch freigegeben werden.
Vorfälle oder anomales VerhaltenDie Administratoren des Betreibers.Feature-Schalter und die administrative Allowlist erlauben ein sofortiges manuelles Abschalten.

Rechenschaftsstruktur (in Entwicklung)

In Entwicklung — ein Ausgangspunkt für das eigene RACI des Instituts; das Institut legt die endgültige Struktur fest.

FunktionTypische Verantwortung
GeschäftsleitungVerantwortlich für die Deployment-Entscheidung und das geschäftliche Ergebnis.
Fach- oder ProzessverantwortlicherDefiniert Verwendungszweck, Anwendungsfälle, Ausschlüsse und Erfolgsmaße.
KI- oder Modellverantwortlicher (Anbieterseite)Modell-, Prompt- und Richtlinienversionen; Evaluationsergebnisse; Änderungsdokumentation.
InformationssicherheitIKT-Risikobewertung, Protokollierung, Vorfallbehandlung, Zugriffsdesign.
Compliance- und GeldwäschebeauftragterEignung des Anwendungsfalls, menschliche Entscheidungspunkte, Eskalation.
DatenschutzbeauftragterZweckbindung, Aufbewahrung, Löschung, Rechte der betroffenen Personen.
Interne RevisionUnabhängige Prüfung von Artefakten und Kontrollen.

Regulatorische Einordnung

Dieser Abschnitt ist eine Orientierung auf Dokumentationsebene, keine Rechtsberatung. Einordnung und Kontrolldesign hängen vom Verwendungszweck, den Daten, der Entscheidungswirkung, der Rolle des Betreibers und der Governance des einsetzenden Instituts ab.

  • EU-KI-Verordnung (AI Act). OmniGENIE wird als Gesamtprodukt keiner einzelnen Risikokategorie zugeordnet. Die Einordnung wird je Anwendungsfall und Verwendungszweck bewertet. Sprach- und Textschnittstellen sind darauf ausgelegt, die Transparenzpflicht zu unterstützen, wonach natürliche Personen darüber informiert werden, dass sie mit einem KI-System interagieren; die endgültige Compliance hängt von der Konfiguration und Offenlegungspraxis des Instituts ab. Ob ein Unterstützungs-Anwendungsfall unter eine Ausnahme für vorbereitende Tätigkeiten fällt, wird von der Rechts- und Compliance-Funktion des Instituts fallweise bewertet.
  • DORA. OmniGENIE stellt Protokolle, Rollen- und Berechtigungskontrollen sowie Monitoring-Hooks bereit, die Institute zur Unterstützung ihrer eigenen IKT-Risikomanagement- und Drittparteirisiko-Pflichten nutzen können. Ob OmniGENIE für ein gegebenes Institut ein kritischer oder wichtiger IKT-Dienst ist, wird durch die eigene Bewertung und das Register dieses Instituts bestimmt. OmniGENIE bescheinigt keine DORA-Konformität.
  • Auslagerung (MaRisk). Abhängig vom Hosting-Modell und dem Auslagerungsregister des Instituts kann die Nutzung extern gehosteter Inferenz für Auslagerungsbewertungen relevant sein; diese Feststellung trifft das Institut.
  • DSGVO. Personenbezogene Daten im Vorgangsgedächtnis werden nur für den definierten Vorgangszweck verarbeitet. Löschung wird unterstützt, vorbehaltlich gesetzlicher Aufbewahrungspflichten, die gegebenenfalls Vorrang haben; eine Legal-Hold-Überschreibung ist in Entwicklung und heute nicht implementiert.
  • Aufzeichnungspflichten. Wertpapierrechtliche Pflichten zur Anrufaufzeichnung verbleiben in der Verantwortung des einsetzenden Instituts und werden mit dessen eigener Aufzeichnungsinfrastruktur erfüllt.
  • Lizenzpflichtige Tätigkeiten. OmniGENIE führt keine Registrierung von Kryptowertpapieren oder Kryptoverwahrung durch. Diese Tätigkeiten werden ausschließlich von lizenzierten Partnern von ecrop durchgeführt.

Verwandt: OmniPersona (Identität und Proof-of-Action), Proof-of-Action-Mechanismus, OmniOmni-Sicherheit und -Compliance.