Offene Modelle und Cyberaufsicht, aber ein Urteil wegen einer falschen KI-Antwort
Gesamturteil «begrenzt». Schadensregel angewendet. Die hochgestellten Nummern führen direkt zur Quelle.
1 · Verantwortung
Baidu belegt eine Struktur für Cybersicherheit und Daten, doch eine KI-Richtlinie fehlt und Ranking Digital Rights dokumentiert grosse Schwächen bei Sorgfaltsprüfung und Abhilfe.
Was belegt ist
- Das Corporate Governance and Nominating Committee überwacht Cybersicherheitsrisiken und prüft die Offenlegung dazu1
- Ein Data Management Committee unter Vorsitz des General Counsel berichtet quartalsweise1
- Die Risikofaktoren im 20-F nennen Zuverlässigkeits-, Datensicherheits- und Ethikrisiken von KI2
- Baidu unterzeichnete die Sicherheitszusagen der China AI Industry Alliance mit Pflichten zu Red-Teaming und Risikomanagement6
- Laut Eigen- und Sekundärangaben sind Qianfan und drei Cloud-Anwendungen nach ISO/IEC 42001 zertifiziert3 5
Was dagegen spricht
Unabhängig belegte Schwächen
Fehlende KI-Steuerung
- Eine KI-Richtlinie, Risikoklassen und ein Freigabeverfahren für KI wurden im Recherchezeitraum nicht gefunden
- Die AIIA-Zusagen sind Absichtserklärungen; ihre Umsetzung ist nicht belegt6
- Ein Beschwerdeweg für fehlerhafte KI-Antworten mit belegter Abhilfe fehlt
Quellen zu Verantwortung (9)
- Baidu, Inc. (SEC-Einreichung, XBRL-Bericht): Form 20-F GJ 2025 – Cybersecurity Risk Management and Strategy Disclosure (R10) · 3. November 2026 · Primärquelle
- Baidu, Inc. (SEC-Einreichung): Form 20-F für das Geschäftsjahr 2025 · 3. November 2026 · Primärquelle
- Baidu Security (Konto Baidu_Secrity auf AtomGit/CSDN): 2025 百度 ESG 报告发布:以 AI 筑盾,共建可信数字生态 · 12. Juni 2026 · Sekundärquelle
- SustainabilityReports.com: Baidu Inc 2024 SR (Zusammenfassung) · 3. November 2026 · Sekundärquelle
- AIbase: Baidu Qianfan erhält ISO/IEC-42001-Zertifizierung (Bericht) · 20. September 2024 · Sekundärquelle
- Emerging Technology Observatory (AGORA): Artificial Intelligence Safety Commitments (China AI Industry Alliance) · 1. Dezember 2024 · Sekundärquelle
- 国家互联网信息办公室 (CAC): 国家互联网信息办公室关于发布生成式人工智能服务已备案信息的公告 · 2. April 2024 · Primärquelle
- Ranking Digital Rights: 2025 Big Tech Edition – Baidu · 1. August 2024 · Primärquelle
- 国家互联网信息办公室 (CAC): 网信系统持续推进网络执法 查处各类网上违法违规行为 · 31. Januar 2024 · Primärquelle
2 · Sicherheit
Eine KI-Antwort der Suche verletzte laut Gericht die Ehre eines Anwalts, und in Wuhan blieben zahlreiche Robotaxis stehen, während Red-Teaming für ERNIE nicht überprüfbar dokumentiert ist.
Was belegt ist
- Das 20-F beschreibt ein Abwehrsystem für Netz, Host und Anwendung, Tests intern und mit externen Anbietern sowie Prüfungen durch qualifizierte Dritte10
- Potenziell wesentliche Cybervorfälle werden an den zuständigen Ausschuss des Verwaltungsrats eskaliert10
- Die kritische Entschlüsselbarkeit von Baidu IME unter Windows wurde laut Citizen Lab bis April 2024 behoben11
- Ein Whitepaper von 2023 beschreibt mehrstufige Filter und Red-Teaming-Verfahren als Produktangebot9
Was dagegen spricht
Schwere Vorfälle eigener KI-Systeme
- Gerichte in Nanjing stellten fest, dass eine KI-Antwort einen Anwalt fälschlich als Verurteilten darstellte; Baidu entschuldigte sich erst im Vollstreckungsverfahren1 3
- In Wuhan blieben zahlreiche Robotaxis stehen, Fahrgäste sassen teils fast zwei Stunden fest; die Polizei nannte vorläufig einen Systemfehler4 5
- Laut Bloomberg wurden danach neue L4-Bewilligungen landesweit gestoppt; die Behörde hat dies nicht bestätigt6
- In Chongqing fuhr ein Apollo-Go-Fahrzeug mit einer Passagierin in eine Baugrube; sie blieb unverletzt7
Quellen zu Sicherheit (15)
- 澎湃新闻 (The Paper): «百度AI称一律师被判刑»构成侵权:百度辩称AI幻觉无法预见,法院判其书面道歉 · 9. Mai 2026 · Primärquelle
- 东方财富网 (Eastmoney): «百度AI称一律师被判刑»构成侵权:百度辩称AI幻觉无法预见 法院判其书面道歉 · 9. Mai 2026 · Sekundärquelle
- 北京日报 (Beijing Daily, news.bjd.com.cn): AI智能回答侵犯名誉权,百度败诉道歉 · 22. September 2026 · Sekundärquelle
- 澎湃新闻 (The Paper): 武汉多辆«萝卜快跑»行驶中突然停摆…警方通报:初步判断为系统故障,无人员伤亡 · 1. April 2026 · Sekundärquelle
- The Express Tribune (Reuters): Baidu robotaxi outage in Wuhan caused by system failure, police say · 1. April 2026 · Sekundärquelle
- The Star (Bloomberg): China suspends autonomous driving permits after Baidu outage · 29. April 2026 · Sekundärquelle
- Motorshow (nach Reuters): Robotáxi da Baidu cai em vala de construção na China · 8. August 2025 · Sekundärquelle
- ERNIE Team, Baidu (arXiv): ERNIE 5.0 Technical Report (arXiv:2602.04705) · 4. Februar 2026 · Primärquelle
- Baidu Security (北京百度网讯科技有限公司): 大模型安全解决方案白皮书 (Version 1.0) · 24. August 2023 · Sekundärquelle
- Baidu, Inc. (SEC-Einreichung, XBRL-Bericht): Form 20-F GJ 2025 – Cybersecurity Risk Management and Strategy Disclosure (R10) · 3. November 2026 · Primärquelle
- Citizen Lab, University of Toronto: The Not-So-Silent Type: Vulnerabilities Across Keyboard Apps Reveal Keystrokes to Network Eavesdroppers (Report No. 175) · 23. April 2024 · Primärquelle
- Ranking Digital Rights: 2025 Big Tech Edition – Baidu · 1. August 2024 · Primärquelle
- Baidu Security (Konto Baidu_Secrity auf AtomGit/CSDN): 2025 百度 ESG 报告发布:以 AI 筑盾,共建可信数字生态 · 12. Juni 2026 · Sekundärquelle
- Sixth Tone: Baidu Exec Tries to Diffuse Doxxing Controversy · 18. März 2025 · Sekundärquelle
- Emerging Technology Observatory (AGORA): Artificial Intelligence Safety Commitments (China AI Industry Alliance) · 1. Dezember 2024 · Sekundärquelle
3 · Transparenz
Baidu veröffentlicht offene Gewichte von ERNIE 4.5 und einen Technischen Bericht zu ERNIE 5.0, legt aber weder Grenzen noch Sicherheitsangaben noch eine Erklärung zum Ausfall in Wuhan offen.
Was belegt ist
- Der Technische Bericht zu ERNIE 5.0 nennt Datenkategorien, Filter gegen unsichere Inhalte und Deduplizierung4
- Die Modellkarte zu ERNIE 4.5 nennt Lizenz, Architektur und Nachtrainingsverfahren5
- Chinesische Vorschriften verlangen die Anzeige von Modellname und Registrierungsnummer und ab September 2025 eine Kennzeichnung von KI-Inhalten1 2
Was dagegen spricht
Fehlende Angaben zu Modellen
Fehlende Offenlegung gegenüber Nutzenden
- Ranking Digital Rights findet keine Erklärung der Empfehlungs- und Werbealgorithmen und keine Angaben zu Behördenanfragen3
- Zum Ausfall in Wuhan gab es nur Kundendienst- und Fahrzeugmeldungen, die ein Netzwerkproblem nannten7 8
- Baidu wird nicht unter den Plattformen genannt, die ihre Bedingungen zur Kennzeichnung von KI-Inhalten angepasst haben2
Quellen zu Transparenz (8)
- 国家互联网信息办公室 (CAC): 国家互联网信息办公室关于发布生成式人工智能服务已备案信息的公告 · 2. April 2024 · Primärquelle
- 科技日报 (stdaily.com): AI生成内容不得«隐身»传播,多家平台更新用户协议 · 2. September 2025 · Sekundärquelle
- Ranking Digital Rights: 2025 Big Tech Edition – Baidu · 1. August 2024 · Primärquelle
- ERNIE Team, Baidu (arXiv): ERNIE 5.0 Technical Report (arXiv:2602.04705) · 4. Februar 2026 · Primärquelle
- Baidu (Hugging Face): Modellkarte baidu/ERNIE-4.5-VL-424B-A47B · 3. November 2026 · Primärquelle
- 澎湃新闻 (The Paper): «百度AI称一律师被判刑»构成侵权:百度辩称AI幻觉无法预见,法院判其书面道歉 · 9. Mai 2026 · Primärquelle
- Jiemian Global: Baidu robotaxi outage in Wuhan exposes system fragility at scale · 31. März 2026 · Sekundärquelle
- CnEVPost: Baidu Apollo Go robotaxis hit by rare mass paralysis in Chinese city · 1. April 2026 · Sekundärquelle
4 · Warum die Schadensregel greift
Schadensregel angewendet: Ein Schaden durch die eigene KI ist belegt. Deshalb kann das Urteil nicht besser als «begrenzt» sein. Ein rechtskräftiges Urteil stellte fest, dass eine KI-Antwort der Baidu-Suche einen Anwalt fälschlich als verurteilten Straftäter darstellte.
5 · Kontroversen (6)
- schwerGerichte in Nanjing verurteilten Baidu zu einer Entschuldigung, weil eine KI-Antwort der Suche einen Anwalt fälschlich als Verurteilten darstellte; die Berufung wurde abgewiesen. · 12. März 2026 · abgeschlossen
- mittelIn Wuhan blieben zahlreiche Apollo-Go-Robotaxis auf der Fahrbahn stehen, Fahrgäste sassen teils fast zwei Stunden fest; die Polizei nannte vorläufig einen Systemfehler. · 31. März 2026 · unklar
- mittelCitizen Lab wies nach, dass Baidu IME Tastatureingaben ungenügend verschlüsselte; die Lücke unter Windows wurde behoben, Schwächen unter Android und iOS bestanden fort. · 23. April 2024 · unklar
- leichtIn Chongqing fuhr ein Apollo-Go-Robotaxi mit einer Passagierin in eine Baugrube; die Passagierin blieb unverletzt. · 6. August 2025 · unklar
- leichtDie Tochter eines Baidu-Vizepräsidenten soll Personendaten von Internetnutzern veröffentlicht haben; Baidu bestreitet nach interner Untersuchung einen Datenabfluss. · 17. März 2025 · unklar
- leichtDie CAC lud Baidu wegen verbotener Inhalte in Suchergebnissen vor, verpflichtete das Unternehmen zur Behebung und büsste es. · 31. Januar 2024 · abgeschlossen
6 · Was offen bleibt
- KI-spezifische Aufsicht im Verwaltungsrat und benannte Verantwortliche für KI-Sicherheit
- Öffentliche KI-Richtlinie mit Risikoklassifizierung und Freigabeverfahren
- Sicherheitsevaluation, Red-Teaming-Ergebnisse und Grenzen von ERNIE
- Sicherheitskennzahlen und Vorfallberichte von Apollo Go, insbesondere zum Ausfall in Wuhan
- Belegte Kennzeichnung KI-generierter Inhalte in Suche und Chat
- Inhalt der nicht abrufbaren ESG-Berichte 2024 und 2025 zu KI-Governance und Datenschutz
7 · So wurde geprüft
Stichtag: 3. November 2026 · 40 Suchen, 33 Abrufe.
Gelesene Primärdokumente (8)
- Form 20-F GJ 2025 (S1, Zeichen 0–117614)
- Form 20-F GJ 2025, Item 16K über XBRL R10 (S2)
- ERNIE 5.0 Technical Report (S8, HTML und PDF)
- Modellkarte ERNIE-4.5-VL (S9)
- Ranking Digital Rights 2025, Baidu (S10)
- Citizen Lab Report No. 175 (S12)
- CAC-Mitteilungen vom 31.01.2024 und 02.04.2024 (S27, S28)
- Baidu Security Weissbuch Grossmodell-Sicherheit 2023 (S30)
Recherche vom 3. November 2026 nach dem Regelwerk zum Globalance AI Footprint, Version 0