Geprüfte Diagnoseplattformen, aber keine belegte KI-Aufsicht im Verwaltungsrat
Gesamturteil «begrenzt». Kein Abzug durch Kontroversen. Die hochgestellten Nummern führen direkt zur Quelle.
1 · Verantwortung
Die Konzernleitung hat KI-Ethik-Grundsätze verabschiedet, doch die Ausschüsse des Verwaltungsrats nennen weder KI noch Daten oder Cybersicherheit.
Was belegt ist
- Die Konzernleitung verabschiedete die KI-Ethik-Grundsätze am 20. Dezember 2023 und aktualisierte sie 20251
- Die Grundsätze verlangen Verantwortung über den ganzen Lebenszyklus inklusive Drittsystemen und menschliche Kontrolle1
- Datenethik-Grundsätze und eine KI-Klausel im Verhaltenskodex ergänzen die KI-Grundsätze11 6
- Die Chief Digital and Technology Officer ist seit 2025 Mitglied der erweiterten Konzernleitung2 3
- Speak-up-Kanäle über einen externen Anbieter erlauben anonyme Meldungen und eskalieren bis zu Ausschüssen des Verwaltungsrats6
Was dagegen spricht
Aufsicht nicht belegt
Quellen zu Verantwortung (11)
- F. Hoffmann-La Roche Ltd: Roche Artificial Intelligence (AI) Ethics Principles · 1. April 2025 · Sekundärquelle
- Roche Holding AG: Annual Report 2025 (englisch) · 29. Januar 2026 · Sekundärquelle
- Roche Holding AG: Wafaa Mamilli (Leadership-Profil) · 3. November 2026 · Sekundärquelle
- CIO.com (Martha Heller): How Roche drives AI outcomes in a changing world (Interview mit Wafaa Mamilli) · 16. September 2026 · Sekundärquelle
- Roche Holding AG: Board Committees (Webseite) · 3. November 2026 · Primärquelle
- F. Hoffmann-La Roche Ltd, Group Legal Compliance: Roche Group Code of Conduct (© 2025) · 3. November 2026 · Sekundärquelle
- Roche Holding AG: Risk and opportunity management (Webseite) · 3. November 2026 · Sekundärquelle
- Built In London (Stelleninserat Roche): Senior Procurement AI Governance Manager · 17. August 2026 · Sekundärquelle
- KPMG AG: Independent assurance report on selected sustainability information 2025 · 27. Januar 2026 · Primärquelle
- Roche Holding AG: Roche Generalversammlung 2026 (Medienmitteilung) · 10. März 2026 · Primärquelle
- F. Hoffmann-La Roche Ltd: Roche Data Ethics Principles · 1. März 2025 · Sekundärquelle
2 · Sicherheit
Roche belegt Zulassungen, eine ISO-Zertifizierung und eine koordinierte Offenlegung von Schwachstellen, während KI-spezifische Tests und ein offener Rückruf dagegenstehen.
Was belegt ist
- Roche Digital Pathology Dx erhielt eine FDA-510(k)-Freigabe mit Genauigkeitsstudie; sie betrifft das Bildsystem, nicht die KI-Algorithmen1 2
- Der Kidney-Klinrisk-Algorithmus trägt eine CE-Kennzeichnung nach IVDR und ist in einer begutachteten Studie des Modellentwicklers validiert3 4
- BSI zertifizierte Roche Diagnostics International nach ISO/IEC 27001:2022 für die navify-Plattform, gültig bis Juni 202710
- Roche nennt weitere ISO-Normen sowie interne und externe Penetrationstests11 12
- Roche betreibt einen öffentlichen Meldeweg für Sicherheitsforschende und veröffentlicht datierte Hinweise, auch zu KI-Plattformkomponenten14
Was dagegen spricht
Rückruf und Schwachstellen
- Die FDA stufte einen Rückruf der Software navify Digital Pathology 2.5 als Klasse 2 ein, weil Bilder falschen Proben zugeordnet werden konnten; er ist offen15
- In navify Digital Pathology bestand eine hoch eingestufte Schwachstelle wegen ausgelieferter Standardzugangsdaten; ein Abhilfehinweis ist veröffentlicht14
Fehlende KI-Prüfung
- Das KI-gestützte TROP2-Companion-Diagnostic hat nur eine Breakthrough-Designation der FDA, keine Zulassung5
- Für Accu-Chek SmartGuide wurden im gelesenen Material keine Genauigkeitsdaten veröffentlicht6
- Red-Teaming, Tests generativer KI und Validierungsdaten der eigenen Algorithmen wurden nicht gefunden
Quellen zu Sicherheit (19)
- U.S. Food and Drug Administration: 510(k) Summary K232879 – Roche Digital Pathology Dx (VENTANA DP 200) · 18. Juni 2024 · Primärquelle
- Roche Diagnostics: Roche receives FDA clearance on its digital pathology solution for diagnostic use (Medienmitteilung) · 18. Juni 2024 · Sekundärquelle
- Roche Holding AG: Roche receives CE mark for AI-based Kidney Klinrisk Algorithm (Medienmitteilung) · 6. Oktober 2025 · Sekundärquelle
- Tangri N. et al. (Clinical Kidney Journal, via CiteDrive): Validation of the Klinrisk chronic kidney disease progression model in the FIDELITY population · 1. Januar 2024 · Primärquelle
- Fierce Biotech: Roche receives FDA breakthrough label for AI-powered lung cancer companion diagnostic test · 3. November 2026 · Sekundärquelle
- MedTech Dive: Roche CE mark CGM Accu-Chek SmartGuide · 10. Juli 2024 · Sekundärquelle
- Roche Diagnostics: Image analysis algorithms (Produktseite digitale Pathologie) · 3. November 2026 · Sekundärquelle
- U.S. Food and Drug Administration: Artificial Intelligence-Enabled Medical Devices (Liste) · 4. September 2026 · Primärquelle
- Roche Holding AG: Annual Report 2025 (englisch) · 29. Januar 2026 · Sekundärquelle
- BSI Assurance UK Limited: Zertifikat ISO/IEC 27001:2022 IS 806759 für Roche Diagnostics International Ltd · 20. September 2024 · Primärquelle
- Roche Diagnostics (navify): Digital trust – Certifications (Webseite) · 3. November 2026 · Sekundärquelle
- Roche Diagnostics (navify): Digital trust – Penetration testing (Webseite) · 3. November 2026 · Sekundärquelle
- Roche Holding AG: Genentech and NVIDIA enter into strategic AI research collaboration (Investor Update) · 21. November 2023 · Sekundärquelle
- Roche Diagnostics: Product Security Advisory (Webseite) · 30. Juni 2026 · Primärquelle
- U.S. Food and Drug Administration: Class 2 Device Recall navify Digital Pathology (Z-2913-2026) · 7. August 2026 · Primärquelle
- F. Hoffmann-La Roche Ltd: Roche Data Ethics Principles · 1. März 2025 · Sekundärquelle
- F. Hoffmann-La Roche Ltd: Roche Artificial Intelligence (AI) Ethics Principles · 1. April 2025 · Sekundärquelle
- Abington Cole + Ellery (Anwaltskanzlei): Genentech (Cencora / Lash Group) Data Breach · 22. Mai 2024 · Sekundärquelle
- Board Cybersecurity (Incident Tracker): Genentech cybersecurity incident · 6. April 2026 · Sekundärquelle
3 · Transparenz
Produktseiten kennzeichnen KI-Funktionen und Zulassungsstatus, doch Modell- oder Systemdokumentation und Trainingsdaten der eigenen Algorithmen wurden nicht gefunden.
Was belegt ist
- Die KI-Grundsätze sagen zu, KI-fähige Funktionen und die Rolle des Menschen offenzulegen und Annahmen, Grenzen und Datenquellen zu dokumentieren1
- Produktseiten kennzeichnen Klinrisk als ML-basiert, SmartGuide mit KI-basierten Vorhersagen und den Zulassungsstatus der Pathologie-Algorithmen2 3 4
- Die Pathologie-Algorithmen sind als Hilfsmittel beschrieben; die Ergebnisprüfung bleibt bei der Pathologin oder dem Pathologen2
- Die Datenethik-Grundsätze fordern Angaben zu Herkunft und Qualität der Daten6
Was dagegen spricht
Fehlende Modellinformation
- Modell- oder Systemkarten, Angaben zu Trainingsdaten und Transparenzberichte zu den eigenen Algorithmen wurden nicht gefunden
- Die einzige begutachtete Leistungsstudie betrifft das Klinrisk-Modell, das KlinRisk Inc. entwickelt und Roche nur vertreibt5
Grenzen nicht beschrieben
- Für Klinrisk sind Zielgruppe und Zweck genannt, aber keine Grenzen3
- Leistungsgrenzen, Fehlerraten und Erklärungen der Vorhersagen von SmartGuide und TROP2 sind nicht dokumentiert
Quellen zu Transparenz (6)
- F. Hoffmann-La Roche Ltd: Roche Artificial Intelligence (AI) Ethics Principles · 1. April 2025 · Sekundärquelle
- Roche Diagnostics: Image analysis algorithms (Produktseite digitale Pathologie) · 3. November 2026 · Sekundärquelle
- Roche Holding AG: Roche receives CE mark for AI-based Kidney Klinrisk Algorithm (Medienmitteilung) · 6. Oktober 2025 · Sekundärquelle
- MedTech Dive: Roche CE mark CGM Accu-Chek SmartGuide · 10. Juli 2024 · Sekundärquelle
- Tangri N. et al. (Clinical Kidney Journal, via CiteDrive): Validation of the Klinrisk chronic kidney disease progression model in the FIDELITY population · 1. Januar 2024 · Primärquelle
- F. Hoffmann-La Roche Ltd: Roche Data Ethics Principles · 1. März 2025 · Sekundärquelle
4 · Warum die Schadensregel nicht greift
Die Schadensregel greift nicht: Im 36-Monats-Fenster wurden kein Urteil, kein Behördenentscheid, keine Busse und kein Muster schwerer Vorfälle mit KI-Systemen von Roche gefunden. Die FDA-Rückrufe betreffen Software ohne KI-Bezug.
5 · Kontroversen (2)
- leichtVentana Medical Systems startete einen von der FDA als Klasse 2 eingestuften Rückruf der Software navify Digital Pathology 2.5, weil Bilder oder Metadaten in Mehrproben-Fällen falschen Proben- und Präparatebeschriftungen zugeordnet werden konnten. Betroffen sind 190 Einheiten weltweit; ein KI-Bezug wird nicht genannt. · 20. April 2026 · offen
- leichtLaut einer Kanzlei-Mitteilung wurde dem Generalstaatsanwalt von Texas ein Datenvorfall mit medizinischen Daten von über 5800 Personen gemeldet, der Genentech zugeordnet wird und wahrscheinlich Teil des Vorfalls beim Dienstleister Cencora/Lash Group ist. Eine Busse oder Klage wurde nicht gefunden. · 22. Mai 2024 · unklar
6 · Was offen bleibt
- Aufsicht des Verwaltungsrats über KI und Cybersicherheit; der Corporate-Governance-Teil war nicht lesbar
- KI-Richtlinie mit Risikoklassifizierung und Freigabeverfahren für eigene und eingekaufte KI
- Validierungs-, Überwachungs- und Leistungsdaten der eigenen KI-Algorithmen
- Zulassungsstand des TROP2-Companion-Diagnostic und Vollzugsstand der PathAI-Übernahme zum Stichtag
- Anbieter und Kontrollen der intern genutzten generativen KI
- Ursache, Umfang und Zuordnung des Genentech-Datenvorfalls 2024
7 · So wurde geprüft
Stichtag: 3. November 2026 · 43 Suchen, 42 Abrufe.
Gelesene Primärdokumente (12)
- Roche Annual Report 2025 (englisch, bis ca. S. 67) und Geschäftsbericht 2025 (deutsch, S. 1–43)
- Roche Finance Report 2025 (bis S. 41)
- Roche AI Ethics Principles (Fassung 2025-04-01)
- Roche Data Ethics Principles (Fassung März 2025)
- Roche Group Code of Conduct (© 2025, vollständig mit Weiterlesen)
- Roche Board Committees und Risk and opportunity management (Webseiten)
- KPMG Independent assurance report 2025
- FDA 510(k) Summary K232879
- FDA-Rückrufe Z-2913-2026 und Z-1476-2026
- BSI-Zertifikat ISO/IEC 27001:2022 IS 806759
- Roche Diagnostics Product Security Advisory
- Roche-Medienmitteilungen zu Klinrisk, PathAI, Generalversammlung 2026, Genentech-NVIDIA, FDA-Freigabe digitale Pathologie
Recherche vom 3. November 2026 nach dem Regelwerk zum Globalance AI Footprint, Version 0