Security in Agentic-KI-Workflows Thales & Google Cloud wollen KI-Agenten in Echtzeit absichern

Anbieter zum Thema

Thales und Google Cloud erweitern gemeinsam den Schutz agentenbasierter KI. Die Integration von AI Security Fabric und Gemini Enterprise soll Zugriffe, Datenaustausch und Aktionen von KI-Agenten transparent machen und in Echtzeit kontrollieren.

Die Thales AI Security Fabric soll Unternehmen dabei unterstützen, KI sicher zu skalieren. Dafür schafft sie Transparenz und Kontrolle darüber, wie KI-Systeme und -Agenten auf Daten zugreifen, miteinander interagieren und im Unternehmen handeln.

(Bild: Gemini / KI-generiert)

Thales gibt eine Ausweitung der Zusammenarbeit mit Google Cloud bekannt. Durch die Integration von Thales AI Security Fabric mit Google Cloud Gemini Enterprise sollen Unternehmen Sicherheit, Governance und Transparenz in Echtzeit auf alle Interaktionen zwischen Benutzern, Agenten, Modellen und Tools anwenden können. Ziel ist es, neue Herausforderungen in den Bereichen Sicherheit und Governance im Zusammenhang mit agentenbasierter KI zu bewältigen.

Eva Rudin ist Senior Vice President for Cybersecurity Products bei Thales

(Bild: Thales)

„Unternehmen stellen derzeit von KI-Assistenten auf KI-Agenten um, die eigenständig Maßnahmen ergreifen, Entscheidungen treffen und mit wichtigen Geschäftssystemen interagieren können. Das erfordert einen grundlegend anderen Sicherheitsansatz“, sagt Eva Rudin, Senior Vice President for Cybersecurity Products bei Thales. Mithilfe der Zusammenarbeit mit Google Cloud wolle Thales Unternehmen dabei unterstützen, „das notwendige Vertrauen aufzubauen – mit Sicherheit und Governance als Grundlage für die nächste Generation der Unternehmens-KI.“

Sicherheit für das Zeitalter der agentenbasierten KI

Wenn Unternehmen KI-Agenten mit sensiblen Geschäftssystemen und kritischen Daten verknüpfen, wächst die Angriffsfläche und wird dynamischer. Herkömmliche Sicherheitsarchitekturen können diese Risiken oft nur unzureichend abdecken.

Entsprechen können beispielsweise KI-Agenten, die mit der Abwicklung von Versicherungsansprüchen betraut sind, ihre Befugnisse überschreiten, indem sie personenbezogene Daten aus nicht genehmigten Quellen nutzen, um Auszahlungen zu beeinflussen Das kann Datenschutz- und Compliance-Risiken nach sich ziehen.

Die erweiterte Zusammenarbeit zwischen Thales und Google Cloud soll Unternehmen dabei unterstützen, Risiken im gesamten Lebenszyklus agentenbasierter KI zu bewältigen. Dazu zählen beispielsweise:

• Prompt Injection,

• das Durchsickern sensibler Daten,

• unsichere Ausgaben,

• unbefugte Aktionen

• und zunehmend komplexe Interaktionen zwischen Agenten.

Die Thales AI Security Fabric soll Datenzugriffe von KI-Agenten begrenzen und unzulässige Aktionen in Echtzeit blockieren. Zudem unterstützt sie die Durchsetzung von Richtlinien, die Erkennung von Bedrohungen und die Einhaltung von Governance-Vorgaben.

(ID:50975549)