Trusted AI – Souveräne KI für Behörden, KRITIS & regulierte Unternehmen

Künstliche Intelligenz verändert die Art, wie Organisationen Daten erfassen, verarbeiten und Entscheidungen treffen. Doch für den öffentlichen Sektor, Sicherheitsbehörden und kritische Infrastrukturen gilt ein Grundsatz vor aller Effizienz: Vertrauen kommt vor Geschwindigkeit. HybridForms antwortet mit Trusted AI – einem Konzept, das KI-Leistungsfähigkeit mit absoluter Kontrolle über Daten, Infrastruktur und Entscheidungsprozesse verbindet.

Trusted AI bezeichnet ein KI-Konzept, bei dem jede Funktion erklärbar, kontrollierbar und vollständig regelkonform ist. Keine Black Box, keine unkontrollierten Datenflüsse zu externen Diensten, keine strukturelle Abhängigkeit von amerikanischen oder asiatischen Plattformanbietern.

In der Praxis bedeutet das: KI-Modelle und KI-Inferenz werden vollständig in der eigenen Infrastruktur betrieben – On-Premises, in einer privaten Cloud oder in einer souveränen europäischen Hosting-Umgebung. Die Datenkontrolle verbleibt beim Betreiber. Für hochregulierte Bereiche wie Polizei, Behörden, Gesundheitswesen und Unternehmen der kritischen Infrastruktur ist das keine Option, sondern eine Grundvoraussetzung: Einsatz- und Bürgerdaten dürfen die kontrollierte Umgebung zu keinem Zeitpunkt verlassen.

HybridForms implementiert Trusted AI über zwei zentrale technische Säulen:

Rein administrativ verwaltete Konfigurationsprofile steuern, welche (detaillierte Inferenz) KI-Funktionen in welchem Kontext aktiviert sind. Datenschutzstufen, Modelle und Ausgabefilter werden zentral festgelegt – und können von einzelnen Nutzern, aber selbst von Prozess-Designern nicht eingesehen (und damit auch nicht geändert) werden. Datenschutz ist damit erzwungen, nicht auf Vertrauensbasis erwartet.

Der integrierte AI Services Broker ist das Herzstück der Trusted AI-Architektur – eine Art intelligente Schaltzentrale zwischen HybridForms und den eingesetzten KI-Modellen. Diese Funktion ist hoch-administrativ und nur Nutzern mit der höchsten Sicherheitsstufe zugänglich. Er steuert Routing, Protokollierung, Zugriffsrechte sowie die Auswahl zulässiger Endpunkte – intern wie extern. Administratoren behalten damit jederzeit die volle Übersicht und Kontrolle über den gesamten KI-Einsatz einer Anwendung. Entscheidend: Verschiedene KI-Modelle können parallel betrieben und je nach Kontext ausgewählt werden. Wechselt die Organisation den KI-Anbieter oder führt neue Modelle ein, läuft HybridForms unterbrechungsfrei weiter. Es sind keine Anpassungen an Formularen, Prozessen oder Workflows notwendig.

Audit-Trail & Explainability
Jede KI-gestützte Aktion in mobilen Formularprozessen und digitalen Workflows ist lückenlos dokumentiert und nachvollziehbar. Für Behörden und regulierte Industrien ist diese Nachverfolgbarkeit eine unverzichtbare Compliance-Anforderung.

Rollenbasierte KI-Governance
KI-Zugang und KI-Berechtigungen folgen dem bestehenden Rollen- und Berechtigungsmodell von HybridForms. Einsatzkräfte vor Ort, Sachbearbeiter im Backoffice und Administratoren erhalten exakt die KI-Unterstützung, die ihrer Funktion und Sicherheitsstufe entspricht.

Die großen amerikanischen Cloud-Anbieter haben KI als Dienst demokratisiert. Für Organisationen, die unter DSGVO, BSI-Grundschutz, NIS2 oder branchenspezifischer Regulierung operieren, ist die Auslagerung sensibler Daten in externe Clouds jedoch häufig rechtlich unzulässig – und immer ein Souveränitätsverlust.

»Wer seine KI-Infrastruktur nicht kennt und nicht kontrolliert, kennt auch die Risiken nicht – und kann sie nicht verantworten.« Martin Bene, CTO & Geschäftsführer von icomedias über das HybridForms Trusted AI Prinzip

HybridForms ist so konzipiert, dass KI-Modelle und Inferenz vollständig auf eigenen Servern, in eigenen Rechenzentren oder in souveränen europäischen Cloud-Umgebungen betrieben werden. Keine Daten verlassen die Organisation unkontrolliert.

Trusted AI in HybridForms richtet sich an Organisationen, bei denen Datenpannen oder unkontrollierte KI-Nutzung existenzielle Konsequenzen hätten:

Trusted AI in HybridForms ist kein autonomes System – es ist ein Assistenzwerkzeug, das Expertinnen und Experten gezielt unterstützt, ohne ihre Kontrolle und Freigabe-Verantwortung zu ersetzen. KI-Funktionen werden ausschließlich aktiv und im direkten Bearbeitungskontext angefordert: Der Profi-Nutzer prüft, bewertet, ändert und gibt frei. Automatische Aussonderungen oder selbstständige Entscheidungen sind konzeptionell ausgeschlossen.

Dieses Konzept ist darauf ausgelegt, die Anforderungen an menschliche Aufsicht und Kontrolle nach EU AI Act zu erfüllen: KI agiert ausschließlich im direkt angeforderten Bearbeitungskontext durch Fachpersonal – ohne autonome Entscheidungen, ohne dynamische Vorschlagsmechanismen und vollständig auf eigenen Servern betreibbar.

In der Praxis stehen eine Reihe von assistiven Funktionen direkt im Formular- und Workflow-Kontext zur Verfügung, wie zum Beispiel:

Alle Funktionen laufen innerhalb der Sicherheitsarchitektur des AI Services Brokers – für den Nutzer nahtlos integriert, für den Administrator vollständig kontrolliert und über Secure AI Presets granular konfigurierbar. Dabei wird die Broker-Ebene auf höchster Ebene administriert und ist auch den Mandanten-Administratoren nicht zugänglich.

Die europäische KI-Regulierung nimmt Gestalt an. Der EU AI Act klassifiziert KI-Systeme in den Bereichen öffentliche Sicherheit, kritische Infrastruktur und Strafverfolgung als Hochrisiko-Systeme mit weitreichenden Anforderungen an Transparenz, Dokumentation und menschliche Aufsicht.

HybridForms Trusted AI ist von Grund auf für diese Anforderungen ausgelegt. Audit-Trail, granulare KI-Governance über den AI Services Broker und vollständige lokale Datenhaltung bilden die technische Grundlage für nachweisbare Compliance – nicht als nachträglicher Aufwand, sondern als integraler Bestandteil des Produktdesigns. Security by Design, Privacy by Design und Compliance by Design sind dabei keine Marketing-Versprechen, sondern architektonische Prinzipien, die in jeder Schicht der Plattform verankert sind.

Organisationen können damit nachweisen: KI-Systeme stehen unter menschlicher Kontrolle, Daten werden nicht unkontrolliert verarbeitet, und Entscheidungsprozesse in mobilen Formularprozessen wie auch in Backoffice-Workflows sind vollständig dokumentiert.

Unterstützte regulatorische Grundlagen (spezifisch nach Implementierung):

Digitale Souveränität ist keine ideologische Position mehr – sie ist eine strategische Notwendigkeit. Organisationen, die kritische Infrastruktur und Prozesse von wenigen globalen Anbietern abhängig gemacht haben, spüren zunehmend die Fragilität dieser Abhängigkeit: geopolitische Verschiebungen, Datenskandale oder veränderte Nutzungsbedingungen großer Plattformen.

HybridForms realisiert digitale Souveränität technisch und architektonisch – in mobilen Formularprozessen, in komplexen Prüf- und Freigabe-Workflows und in der KI-Schicht gleichermaßen. Wer KI einsetzen möchte, ohne die Kontrolle über die eigenen Daten abzugeben, findet in HybridForms eine Plattform, die diesen Anspruch konsequent umsetzt.

Made for Europe ist dabei eine Designentscheidung: für europäisches Datenschutzrecht, europäische Transparenz- und Rechenschaftsstandards und europäische technische Normen. In einer Welt, in der KI zum Bestandteil kritischer Infrastruktur wird, ist Vertrauen wichtiger als jede Frage nach dem Funktionsumfang.