KI-Aufsicht im Verwaltungsrat und ISO 42001, aber wiederholte Datenlecks über KI-Agenten
Gesamturteil «solide». Kein Abzug durch Kontroversen. Die hochgestellten Nummern führen direkt zur Quelle.
1 · Verantwortung
Das Cybersecurity & Privacy Committee trägt die Hauptverantwortung für KI, und ein Trusted-AI-Review mit ISO-42001-Zertifizierung belegt die Umsetzung; extern geprüfte KI-Angaben und Beschwerdewege für Betroffene fehlen.
Was belegt ist
- Das Cybersecurity & Privacy Committee trägt laut Proxy die Hauptverantwortung für KI-Richtlinien und -Programme und tagte im GJ 2026 achtmal1
- Ein Office of Ethical and Humane Use mit eigener Leitung besteht seit 2019, ein externer Ethical Use Advisory Council seit 20182
- Im Trusted AI Review gelten ethische Risiken als Bugs mit Schweregrad und können einen Launch stoppen2
- Im GJ 2026 wurden über 370 interne und über 240 kundenseitige KI-Anwendungen geprüft3 4
- Die ISO-42001-Zertifizierung gilt bis 2028 und sieht jährliche Überwachungsaudits vor7 8
Was dagegen spricht
Fehlende externe Rechenschaft
Quellen zu Verantwortung (11)
- Salesforce, Inc. / U.S. SEC: Proxy Statement (DEF 14A) 2026 · 3. November 2026 · Primärquelle
- Salesforce, Inc.: Trusted AI and Agents Impact Report (erste Ausgabe) · 1. Februar 2025 · Primärquelle
- Salesforce, Inc.: Blog: Second Annual Trusted AI & Agents Impact Report · 11. Mai 2026 · Sekundärquelle
- Salesforce, Inc.: FY26 Stakeholder Impact Report · 31. Januar 2026 · Primärquelle
- Wind River (Lizenzliste, Kopie der Salesforce-Richtlinie): Salesforce Artificial Intelligence Acceptable Use Policy (Last Updated: August 5, 2025) · 5. August 2025 · Sekundärquelle
- U.S. District Court N.D. Cal.: In re Salesforce LLM Copyright Infringement Litigation, Master File No. 3:25-cv-08862-CRB – Joint Case Management Statement und Order (ECF 45) · 16. März 2026 · Primärquelle
- Salesforce, Inc. (Brad Arkin, Chief Trust Officer): Blog: Salesforce achieves ISO 42001 certification for Agentforce, Einstein and Slack AI · 8. Oktober 2025 · Primärquelle
- Salesforce Compliance Portal: ISO 42001:2023 – Salesforce AI Platform, Agentforce and Slack AI · 1. Oktober 2026 · Primärquelle
- Salesforce, Inc. (Kathy Baxter): Blog: Meet Salesforce's Trusted AI Principles · 28. April 2023 · Sekundärquelle
- Joseph Saveri Law Firm: Salesforce Large Language Model Litigation – Case Background · 15. Oktober 2025 · Sekundärquelle
- Let's Data Science: Salesforce employees urge CEO to drop ICE · 13. Februar 2026 · Sekundärquelle
2 · Sicherheit
Externe Attestierungen, Penetrationstests und KI-spezifische Tests sind belegt, doch Forscher fanden in zwei Jahren drei Prompt-Injection-Lücken mit Datenabfluss, die behoben wurden.
Was belegt ist
- Das 10-K beschreibt ein NIST/ISO-gestütztes Programm mit Penetrationstests, externen Attestierungen und vierteljährlicher Aufsicht durch einen Board-Ausschuss5
- Für KI-Produkte sind manuelle Adversarial-Tests, Fuzzing und externe Tests für zwei Produkte beschrieben1 2
- Der Trust Layer sieht Maskierung, Toxizitätserkennung, Audit-Trail und keine Datenspeicherung bei den LLM-Anbietern vor3
- Alle drei bekannten Prompt-Injection-Lücken wurden behoben, eine Ausnutzung wurde nicht berichtet7 8 9
- Nach der Angriffskampagne 2025 widerrief Salesforce Tokens, sperrte Apps und schränkte Connected Apps ein13 15
Was dagegen spricht
Lücken in eigenen KI-Produkten
- ForcedLeak (CVSS 9,4): Agentforce liess über präparierte Web-to-Lead-Einträge CRM-Daten an eine abgelaufene Domain abfliessen7
- SalesBleed: Zero-Click-Prompt-Injection liess Lead- und Kontodaten per DNS-Abfragen abfliessen, behoben im August 20268
- Slack AI konnte 2024 per indirekter Prompt-Injection Daten aus privaten Kanälen ausgeben9
Quellen zu Sicherheit (18)
- Salesforce, Inc.: Trusted AI and Agents Impact Report (erste Ausgabe) · 1. Februar 2025 · Primärquelle
- Salesforce, Inc.: FY26 Stakeholder Impact Report · 31. Januar 2026 · Primärquelle
- Salesforce Developers: Agentforce Developer Guide: Trust Layer · 3. November 2026 · Primärquelle
- The Decoder: Salesforce executives signal declining trust in large language models · 25. Dezember 2025 · Sekundärquelle
- Salesforce, Inc. / U.S. SEC: Form 10-K GJ 2026, XBRL R26: Cybersecurity Risk Management and Strategy Disclosure · 31. Januar 2026 · Primärquelle
- Salesforce Compliance Portal: ISO 42001:2023 – Salesforce AI Platform, Agentforce and Slack AI · 1. Oktober 2026 · Primärquelle
- The Hacker News: Salesforce Patches Critical ForcedLeak Bug Exposing CRM Data via AI Prompt Injection · 25. September 2025 · Primärquelle
- Infosecurity Magazine: Zero-Click Vulnerabilities in Salesforce Agentforce Expose Wider AI Agent Risk · 25. September 2026 · Primärquelle
- The Register: Slack AI can be tricked into leaking data from private channels · 21. August 2024 · Primärquelle
- The Register: Fake IT support calls hit 20 orgs, end in stolen Salesforce data and extortion, Google warns · 4. Juni 2025 · Primärquelle
- Krebs on Security: ShinyHunters Wage Broad Corporate Extortion Spree · 7. Oktober 2025 · Primärquelle
- United States Judicial Panel on Multidistrict Litigation: MDL No. 3164 (In re Salesforce, Inc., Customer Data Security Breach Litigation) und MDL No. 3170 – Transfer Order und Order Denying Transfer · 16. Dezember 2025 · Primärquelle
- BleepingComputer: Salesforce investigates customer data theft via Gainsight breach · 20. November 2025 · Primärquelle
- Wind River (Lizenzliste, Kopie der Salesforce-Richtlinie): Salesforce Artificial Intelligence Acceptable Use Policy (Last Updated: August 5, 2025) · 5. August 2025 · Sekundärquelle
- Salesforce Ben: Salesforce hardens connected apps security amid social engineering attacks · 21. August 2025 · Sekundärquelle
- Salesforce, Inc.: Blog: Protect Against Social Engineering · 12. März 2025 · Sekundärquelle
- The Register: Salesforce faces class actions over data theft · 26. September 2025 · Primärquelle
- California Courts Newsroom (Zusammenfassung Daily Journal): Judge consolidates Salesforce data breach class actions in Northern California · 12. Januar 2026 · Sekundärquelle
3 · Transparenz
Salesforce veröffentlicht Modellkarten für eigene Modelle und dokumentiert Grenzen wie Halluzinationen, legt aber Trainingsdaten der xGen-Modelle und die eingesetzten Drittmodelle nur lückenhaft offen.
Was belegt ist
- Im Compliance-Portal sind 21 Modellkarten für eigene Modelle veröffentlicht, einzelne im September 2026 aktualisiert6 7
- Forschungsmodelle wie xLAM haben Modellkarten mit Trainingsdatensatz, Lizenz und Ethik-Hinweisen8
- Die Trust-Layer-Dokumentation nennt Halluzinationen und Bias als Grenzen und empfiehlt menschliche Prüfung4
- Die KI-Nutzungsrichtlinie verpflichtet Kunden, KI-Interaktionen offenzulegen und KI-Inhalte nicht als menschlich auszugeben1
Was dagegen spricht
Lücken bei Daten und Modellen
- Die Trainingsdaten der xGen-Modelle sind nicht offengelegt und Gegenstand einer laufenden Klage9
- Eine Systemkarte für Agentforce und ein Transparenzbericht mit Vorfallzahlen wurden nicht gefunden
Frühere Offenlegungsschwäche
- Slacks Datenschutzgrundsätze sahen 2024 Training globaler Modelle mit Kundendaten als Voreinstellung vor, Opt-out nur per E-Mail3
Quellen zu Transparenz (9)
- Wind River (Lizenzliste, Kopie der Salesforce-Richtlinie): Salesforce Artificial Intelligence Acceptable Use Policy (Last Updated: August 5, 2025) · 5. August 2025 · Sekundärquelle
- Salesforce, Inc. / U.S. SEC: Form 10-K für das Geschäftsjahr per 2026-01-31 · 31. Januar 2026 · Primärquelle
- TechCrunch: Slack under attack over sneaky AI training policy · 17. Mai 2024 · Primärquelle
- Salesforce Developers: Agentforce Developer Guide: Trust Layer · 3. November 2026 · Primärquelle
- Salesforce, Inc. (Kathy Baxter): Blog: Meet Salesforce's Trusted AI Principles · 28. April 2023 · Sekundärquelle
- Salesforce, Inc.: Blog: Model Cards for AI Model Transparency · 29. September 2020 · Primärquelle
- Salesforce Compliance Portal: Salesforce-owned Model Cards · 1. September 2026 · Primärquelle
- Salesforce AI Research / Hugging Face: Model Card Salesforce/xLAM-7b-r · 3. November 2026 · Primärquelle
- Joseph Saveri Law Firm: Salesforce Large Language Model Litigation – Case Background · 15. Oktober 2025 · Sekundärquelle
4 · Warum die Schadensregel nicht greift
Die Schadensregel greift nicht: Im Zeitraum liegt kein Urteil, kein Behördenentscheid und keine Busse zu Schäden durch KI von Salesforce vor. Die Prompt-Injection-Lücken wurden behoben, die Klagen sind ohne Feststellung.
5 · Kontroversen (7)
- mittelZenity Labs zeigte mit SalesBleed einen Zero-Click-Datenabfluss aus Agentforce über Web-Formulare; Salesforce behob die Lücken bis August 2026. · 24. September 2026 · abgeschlossen
- mittelLaut Klage nutzte Salesforce urheberrechtlich geschützte Bücher für das Training der xGen-Modelle; die Verfahren wurden 2025 konsolidiert und laufen. · 15. Oktober 2025 · offen
- mittelNoma Security zeigte mit ForcedLeak, dass Agentforce per Prompt-Injection CRM-Daten abfliessen lassen konnte; Salesforce behob die Lücke. · 25. September 2025 · abgeschlossen
- mittelEine Vishing- und Token-Kampagne entwendete Daten aus Hunderten Kunden-Instanzen; Sammelklagen laufen, das JPML sieht keinen Plattformfehler. · 4. Juni 2025 · offen
- leichtÜber 1400 Mitarbeitende forderten den Verzicht auf mutmassliche KI-Angebote an ICE; KI-Agenten erhielten zudem eine Freigabe im US-Verteidigungsministerium. · 10. Februar 2026 · unklar
- leichtPromptArmor zeigte, dass Slack AI per Prompt-Injection Daten aus privaten Kanälen ausgeben konnte; Slack spielte danach einen Patch ein. · 20. August 2024 · abgeschlossen
Weitere Kontroversen (1)
6 · Was offen bleibt
- Unabhängige Prüfung der KI-Angaben im Nachhaltigkeits- und Trusted-AI-Bericht
- Kennzahlen zu Red-Teaming, KI-Vorfällen und Durchsetzung der KI-Nutzungsrichtlinie
- Beschwerdewege für externe Betroffene von KI-Ergebnissen
- Freigabe und Überwachung der eingesetzten Drittmodelle
- Zertifizierer und Umfang der ISO-42001-Zertifizierung im Wortlaut
- Volltext des zweiten Trusted AI & Agents Impact Report 2026
7 · So wurde geprüft
Stichtag: 3. November 2026 · 41 Suchen, 38 Abrufe.
Gelesene Primärdokumente (11)
- Form 10-K GJ 2026 (Haupttext mit Weiterlesen, XBRL R26 Cybersecurity, R23 Legal Proceedings)
- Form 10-Q per 2026-07-31 (Teile, XBRL R19 Legal Proceedings)
- Proxy Statement DEF 14A 2026 (erste 100 000 Zeichen)
- Form 8-K Generalversammlung 2025
- Trusted AI and Agents Impact Report Februar 2025
- FY26 Stakeholder Impact Report (erste 100 000 Zeichen)
- ISO-42001-Eintrag im Compliance-Portal
- Modellkarten-Übersicht im Compliance-Portal und Modellkarte xLAM-7b-r
- Agentforce Developer Guide: Trust Layer
- JPML-Beschluss MDL 3164/3170 vom 2025-12-16
- Joint Case Management Statement In re Salesforce LLM Copyright Infringement Litigation (ECF 45)
Recherche vom 3. November 2026 nach dem Regelwerk zum Globalance AI Footprint, Version 0