News
IBM stellt die Software von Agentic Governance
Juni 2025 von LA REDACTION DE GS MAG
Angesichts der zunehmenden Verbreitung von KI-Agenten in Unternehmen kündigt IBM heute die branchenweit erste Software an, die Teams für KI-Sicherheit und KI-Governance zusammenbringt und einen einheitlichen Überblick über die Risikosituation eines Unternehmens ermöglicht.
Die neuen Funktionalitäten erweitern und integrieren watsonx.governance und Guardium AI Security, um Kunden dabei zu unterstützen, ihre KI-Systeme, einschließlich Agenten, sicher und verantwortungsbewusst zu gestalten. Watsonx.governance ist das End-to-End-Tool von IBM für die KI-Governance, während Guardium AI Security das Tool von IBM für die Sicherung von KI-Modellen, Daten und deren Nutzung ist.
Die heutigen neuen Angebote beinhalten:
Integration und Automatisierung von agentenbasierter KI-Sicherheit
IBM verbessert die Integration von IBM Guardium AI Security und watsonx.governance und bietet Unternehmen damit die erste einheitliche Lösung zur Verwaltung von Sicherheits- und Governance-Risiken im Zusammenhang mit KI-Anwendungsfällen. Die Integration unterstützt die Prozesse der Anwender hinsichtlich der Validierung von Compliance-Standards anhand von zwölf verschiedenen Rahmenwerken, darunter den EU AI Act und die Norm ISO 42001.
IBM führt außerdem in Zusammenarbeit mit AllTrue.ai neue Funktionalitäten für Guardium AI Security ein, darunter die Möglichkeit, neue KI-Anwendungsfälle in Cloud-Umgebungen, Code-Repositorys und eingebetteten Systemen zu erkennen und
so für umfassende Transparenz und Schutz in einem zunehmend dezentralisierten KI-Ökosystem zu sorgen. Sobald eine Bedrohung erkannt wurde, kann IBM Guardium AI Security automatisch geeignete Governance-Workflows über watsonx.governance auslösen.
Zu den jüngsten Updates von IBM Guardium AI Security gehören auch automatisiertes Red Teaming, mit dem Unternehmen Schwachstellen und Fehlkonfigurationen in KI-Anwendungsfällen erkennen und beheben können. Um Risiken wie Code-Injektionen, die Offenlegung sensibler Daten und Datenlecks zu minimieren, können Anwender mit dem Tool benutzerdefinierte Sicherheitsrichtlinien festlegen, die sowohl Eingabe- als auch Ausgabeprompts analysieren. Diese Funktionen sind ab sofort in IBM Guardium AI Security verfügbar, und ihre Integration in watsonx.governance wird im Laufe des Jahres erfolgen.
„Eine der größten Herausforderungen für Sicherheitsteams besteht darin, Vorfälle und Compliance-Verstöße in quantifizierbare Geschäftsrisiken umzuwandeln. Die rasche Etablierung von KI und agentenbasierter KI verstärkt dieses Problem zusätzlich.” erklärt Jennifer Glenn, Forschungsdirektorin der IDC Security and Trust Group. „Die Vereinheitlichung der KI-Governance mit KI-Sicherheit liefert Unternehmen den erforderlichen Kontext, um Risiken zu erkennen und zu priorisieren, sowie die notwendigen Informationen, um die Folgen einer Nichtbeachtung klar zu kommunizieren.“
Verbesserte Bewertung der agentenbasierten KI und Lebenszyklus-Governance
IBM watsonx.governance kann nun KI-Agenten über ihren gesamten Lebenszyklus hinweg überwachen und verwalten, von der Entwicklung bis zur Bereitstellung. Bewertungsknoten können direkt in Agenten integriert werden, sodass Benutzer Metriken wie Antwortrelevanz, Kontextrelevanz und Genauigkeit sorgfältig überwachen und die Ursache für schlechte Performance identifizieren können. Zu den geplanten zukünftigen Funktionalitäten gehören außerdem die Risikobewertung beim Onboarding von Agenten, Audit-Trails für Agenten und ein Agent-Tool-Katalog, die voraussichtlich ab 27. Juni verfügbar sein werden.
Standardmäßige Compliance-Funktionalitäten
IBM watsonx.governance Compliance Accelerators bieten ausgewählte vorinstallierte Regelungen, Standards und Rahmenwerke aus aller Welt, mit denen Benutzer relevante Verpflichtungen identifizieren und auf ihre eigenen KI-Anwendungsfälle abbilden können. Der Inhalt umfasst wichtige Vorschriften wie den EU AI Act, die U.S. Federal Reserves SR 11-7 und das New York City Local Law 144, sowie globale Normen wie die ISO/IEC 42001 und Rahmenwerke wie das NIST AI RMF. Watsonx.governance Compliance Accelerators ist ab sofort als Add-on verfügbar.
Expertise zur verantwortungsvollen Skalierung von AI
Um Kunden bei der verantwortungsvollen Skalierung von KI zu unterstützen, führt IBM Consulting Cybersecurity Services eine neue Reihe von Services ein, die Datensicherheitsplattformen wie IBM Guardium AI Security mit tiefgreifender KI-Technologie und Fachberatungsexpertise verbinden. Die neuen Services unterstützen Unternehmen auf ihrem Weg zur KI-Transformation: von der Erkennung aller KI-Implementierungen und potenzieller Schwachstellen über die Implementierung von „Secure-by-Design“-Praktiken auf allen KI-Ebenen bis hin zu Governance-Anleitungen für eine sich ständig weiterentwickelnde regulatorische Landschaft. Die neuen Services bauen auf der Erfahrung von IBM Consulting auf, die Hunderte von Kunden weltweit bei der KI-Strategie und -Governance unterstützt hat, darunter Nationwide Building Society und e&.
Um AWS-Kunden einen Mehrwert und zusätzlichen Bedienkomfort zu bieten, ist watsonx.governance nun auch im AWS-Rechenzentrum in Indien mit erweiterten Funktionen zur Modellüberwachung verfügbar.
Die neuen Funktionalitäten und Integrationen bieten Unternehmen die umfassende Governance und Sicherheit, die sie benötigen, um im Zeitalter der agentenbasierten KI wettbewerbsfähig zu bleiben. Die Innovationen fügen sich nahtlos in die umfassende Suite von IBM an IBM watsonx-Lösungen ein, die Unternehmen dabei unterstützen, die Vorteile generativer KI verantwortungsbewusst und sicher zu nutzen.
