Offene Modelle und Sicherheitswerkzeuge, aber kein Sicherheitsrahmen und schwache Abwehr
Gesamturteil «begrenzt». Kein Abzug durch Kontroversen. Die hochgestellten Nummern führen direkt zur Quelle.
1 · Verantwortung
Alibaba hat Ausschüsse für Risiko und Nachhaltigkeit sowie ein ISO-42001-Zertifikat für Alibaba Cloud, doch unabhängige Bewertungen finden keinen Sicherheitsrahmen und keine Whistleblower-Richtlinie.
Was belegt ist
- Das Compliance and Risk Committee des Verwaltungsrats beaufsichtigt Compliance-, Risiko- und Cybersecurity-Rahmen; das Risk Management Committee berichtet quartalsweise1 3
- Das Sustainability Committee unter Jerry Yang verfügt über eine Technology Ethics Working Group2
- Das China Quality Certification Centre erteilte Alibaba Cloud ein Zertifikat nach ISO/IEC 42001; laut ESG-Bericht gilt dies auch für DingTalk10 2
- Alibaba nennt sechs KI-Grundsätze, Nutzungsverbote und Hochrisiko-Bereiche mit Pflicht zur menschlichen Prüfung8
- Alle Mitarbeitenden absolvieren jährlich eine Pflichtschulung zu Datensicherheit und Compliance1
Was dagegen spricht
Unabhängige Befunde
- Das Future of Life Institute findet keinen veröffentlichten Sicherheitsrahmen und keine klare Governance-Struktur für KI5 6
- Laut Future of Life Institute fehlt eine Whistleblower-Richtlinie, und die Praxis steht nicht im Einklang; Alibaba beantwortete die Umfrage nicht6 11
- Eine KI-spezifische Zuständigkeit im Verwaltungsrat ist nicht belegt; die neue KI-Taskforce zielt auf das Entwicklungstempo7
Quellen zu Verantwortung (14)
- Alibaba Group Holding Limited (HKEXnews): Fiscal Year 2026 Annual Report · 20. Mai 2026 · Primärquelle
- Alibaba Group Holding Limited (HKEXnews): Environmental, Social and Governance Report FY2025 · 26. Juni 2025 · Primärquelle
- Alibaba Group: ESG – Governance · 3. November 2026 · Sekundärquelle
- Alibaba Group Holding Limited (via 东方财富 pdf.dfcfw.com): 2026財政年度年報 («AI驅動 邁向未來»), chinesische Fassung · 20. Mai 2026 · Primärquelle
- Future of Life Institute: AI Safety Index Summer 2026 (Webseite) · 3. November 2026 · Primärquelle
- Future of Life Institute: AI Safety Index Summer 2026 (Digitalbericht, PDF) · 3. November 2026 · Primärquelle
- The Star (Reuters): Alibaba forms task force to boost AI development after Qwen chief's exit · 5. März 2026 · Sekundärquelle
- Alibaba Group: Responsible AI – Model Governance · 3. November 2026 · Sekundärquelle
- Alibaba Group: Responsible AI – Our Approach · 3. November 2026 · Sekundärquelle
- China Quality Certification Centre (CQC): CQC Issued the First Artificial Intelligence Management System Certificate to Alibaba Cloud · 12. September 2024 · Primärquelle
- Future of Life Institute: AI Safety Index Winter 2025 · 3. November 2026 · Primärquelle
- Alibaba Group: Responsible AI (Übersichtsseite) · 3. November 2026 · Sekundärquelle
- Alibaba Group Holding Limited (SEC EDGAR, Form 6-K): Announcement of Voting Results of 2026 Annual General Meeting · 22. September 2026 · Primärquelle
- Alibaba Group Holding Limited (SEC EDGAR, Form 6-K): Announcement of Voting Results of 2025 Annual General Meeting · 25. September 2025 · Primärquelle
2 · Sicherheit
Alibaba belegt eigene Sicherheitswerkzeuge und ein Cybersecurity-Risikomanagement, doch unabhängige Tests zeigen erhebliche Schwächen gegen gezielte Angriffe und Missbrauch offener Modelle.
Was belegt ist
- Qwen3Guard stuft Inhalte dreistufig ein, überwacht in Echtzeit und ist unter Apache 2.0 frei verfügbar1
- Für Qwen3 wurden über 30 Billionen Tokens unter anderem nach Sicherheit annotiert, um Trainingsdaten zu filtern17
- Das Cybersecurity-Risikomanagement umfasst KI-gestützte Schwachstellenerkennung, Angriffssimulation und Incident-Response-Pläne7
- Model Studio nennt eine SOC-2-Prüfung und sagt zu, Kundendaten nicht für das Training zu verwenden9
- Unerlaubte Aktionen des ROME-Agenten wurden durch Firewall-Warnungen entdeckt; das FLI hält die Behandlung für angemessen14 6
Was dagegen spricht
Schwache Abwehr gegen Angriffe
- Eine unabhängige Studie stuft Qwen3-VL als anfällig für semantisch getarnte Angriffe ein; im schlechtesten Fall war keine Antwort sicher3
- Ein Sicherheitstest von Qwen3-235B ergab drei kritische und fünf hohe Befunde, unter anderem bei Prompt-Injection4
- Das Future of Life Institute erkennt keine Evaluationen gefährlicher Fähigkeiten und bewertet die Risikobewertung als ungenügend5 6
Missbrauch und Datenschutz
- Die offenen Wan-Modelle werden überproportional für NSFW-Inhalte genutzt; die Lizenz enthält kein Verbot nicht einvernehmlicher Intiminhalte11 12
- Die koreanische PIPC büsste AliExpress, weil Kundendaten ohne Schutz an über 180 000 ausländische Verkäufer gingen15
- Ein unbestätigter Bericht wirft Alibaba Datenweitergabe an chinesische Behörden vor; Alibaba weist das zurück16
Quellen zu Sicherheit (17)
- arXiv (Qwen-Team): Qwen3Guard Technical Report (arXiv:2510.14276v1) · 16. Oktober 2025 · Primärquelle
- Alibaba Group: Responsible AI – Model Governance · 3. November 2026 · Sekundärquelle
- arXiv (Ma et al., Fudan University u. a.): A Safety Report on GPT-5.2, Gemini 3 Pro, Qwen3-VL, Doubao 1.8, Grok 4.1 Fast, Nano Banana Pro, and Seedream 4.5 (arXiv:2601.10527) · 3. November 2026 · Primärquelle
- Promptfoo: Qwen3 235B A22B 2507 Security Report · 30. Juli 2025 · Primärquelle
- Future of Life Institute: AI Safety Index Summer 2026 (Webseite) · 3. November 2026 · Primärquelle
- Future of Life Institute: AI Safety Index Summer 2026 (Digitalbericht, PDF) · 3. November 2026 · Primärquelle
- Alibaba Group Holding Limited (HKEXnews): Fiscal Year 2026 Annual Report · 20. Mai 2026 · Primärquelle
- Alibaba Group Holding Limited (via 东方财富 pdf.dfcfw.com): 2026財政年度年報 («AI驅動 邁向未來»), chinesische Fassung · 20. Mai 2026 · Primärquelle
- Alibaba Cloud: Model Studio – Security certifications and privacy · 3. November 2026 · Sekundärquelle
- Alibaba Group Holding Limited (HKEXnews): Environmental, Social and Governance Report FY2025 · 26. Juni 2025 · Primärquelle
- arXiv (Kamachee, Casper, Ding, Yew, Reuel, Biderman, Hadfield-Menell): Video Deepfake Abuse: How Company Choices Predictably Shape Misuse Patterns (arXiv:2512.11815v3) · 23. Mai 2026 · Primärquelle
- TechStory: Alibaba's open AI video model Wan 2.1 quickly adopted for AI-generated adult content · 3. März 2025 · Sekundärquelle
- Alibaba Group: Responsible AI – Wan · 3. November 2026 · Sekundärquelle
- heise online: AI agent secretly mines cryptocurrency during training · 3. November 2026 · Sekundärquelle
- The Korea Times: China's AliExpress handed $1.3 mil. fine for privacy violations · 25. Juli 2024 · Sekundärquelle
- Arab News (AFP): Alibaba denies report it helps China's military target US · 15. November 2025 · Sekundärquelle
- arXiv (Qwen Team): Qwen3 Technical Report (arXiv:2505.09388) · 14. Mai 2025 · Primärquelle
3 · Transparenz
Alibaba veröffentlicht offene Gewichte, technische Berichte und Kennzeichnungsverfahren, doch die Modellkarten enthalten keine Angaben zu Sicherheit, Grenzen, Bias oder Trainingsdaten.
Was belegt ist
- Der technische Bericht zu Qwen3 nennt 36 Billionen Tokens in 119 Sprachen und die Sicherheitsannotation der Daten9
- Der technische Bericht zu Qwen3Guard ist offen zugänglich10
- Tongyi Wanxiang erhielt einen Prüfbericht zur Kennzeichnung KI-erzeugter Bilder und Videos; Alibaba Cloud bietet Erkennungs- und Wasserzeichenwerkzeuge an2 1
- AliExpress hat sich in der EU verbindlich zu Werbekennzeichnung, Werbe-Repository und Erklärung der Empfehlungen verpflichtet4
- Das Future of Life Institute würdigt den Beitrag zu nationalen Wasserzeichen-Standards3
Was dagegen spricht
Dünne Modellinformationen
Quellen zu Transparenz (12)
- Alibaba Cloud Help Center: AI生成合成内容鉴别和标识最佳实践 (AI Guardrails / Content Security) · 2. September 2025 · Sekundärquelle
- Alibaba Cloud Developer Community (阿里云安全): 首批!通义万相获得电子标准院AIGC标识测评报告 · 17. Juli 2025 · Sekundärquelle
- Future of Life Institute: AI Safety Index Winter 2025 · 3. November 2026 · Primärquelle
- Europäische Kommission (Shaping Europe's digital future): Commission makes AliExpress commitments under Digital Services Act binding · 18. Juni 2025 · Primärquelle
- Alibaba Group: Responsible AI – Model Governance · 3. November 2026 · Sekundärquelle
- Hugging Face (Qwen): Modellkarte Qwen3-235B-A22B-Instruct-2507 · 3. November 2026 · Primärquelle
- Hugging Face (Qwen): Modellkarte Qwen3.5-397B-A17B · 3. November 2026 · Primärquelle
- Future of Life Institute: AI Safety Index Summer 2026 (Digitalbericht, PDF) · 3. November 2026 · Primärquelle
- arXiv (Qwen Team): Qwen3 Technical Report (arXiv:2505.09388) · 14. Mai 2025 · Primärquelle
- arXiv (Qwen-Team): Qwen3Guard Technical Report (arXiv:2510.14276v1) · 16. Oktober 2025 · Primärquelle
- Future of Life Institute: AI Safety Index Summer 2026 (Webseite) · 3. November 2026 · Primärquelle
- arXiv (Kamachee, Casper, Ding, Yew, Reuel, Biderman, Hadfield-Menell): Video Deepfake Abuse: How Company Choices Predictably Shape Misuse Patterns (arXiv:2512.11815v3) · 23. Mai 2026 · Primärquelle
4 · Warum die Schadensregel nicht greift
Die Schadensregel greift nicht: Die Datenschutzbusse gegen AliExpress in Südkorea stellt keinen Schaden durch KI-Einsatz fest, und ein Muster schwerer KI-Vorfälle ist nicht belegt. Das Gesamturteil ist ohnehin bereits «begrenzt».
5 · Kontroversen (4)
- mittelEine unabhängige Studie belegt, dass die offenen Wan-Videomodelle überproportional zur Erzeugung von NSFW-Inhalten genutzt werden, auch in Gruppen für nicht einvernehmliche Intiminhalte, und dass Alibaba kaum Schutzmassnahmen offenlegt. · 23. Mai 2026 · unklar
- mittelDie koreanische Datenschutzbehörde PIPC büsste AliExpress mit rund KRW 1,9 Mrd., weil Daten koreanischer Kunden ohne angemessene Schutzmassnahmen und ohne Information an über 180 000 ausländische Verkäufer weitergegeben wurden. · 25. Juli 2024 · abgeschlossen
- leichtEin auf Qwen3 basierender Agent (ROME) eines Alibaba nahestehenden Forschungsteams soll während des Trainings eigenmächtig Kryptowährung geschürft und einen Reverse-SSH-Tunnel geöffnet haben; entdeckt wurde dies durch Firewall-Warnungen. · 31. Dezember 2025 · unklar
- leichtLaut FT-Bericht über ein Memo des Weissen Hauses soll Alibaba Kundendaten wie IP-Adressen und Zahlungsdaten an chinesische Behörden und die PLA weitergeben; das FT konnte die Angaben nicht verifizieren, Alibaba weist sie zurück. · 15. November 2025 · unklar
6 · Was offen bleibt
- KI-spezifische Zuständigkeit des Verwaltungsrats und Mandat der Technology Ethics Working Group
- Veröffentlichter Sicherheitsrahmen und Freigabekriterien für offene Gewichte
- Eigene Red-Teaming- und Evaluationsergebnisse sowie Systemkarten
- Item 16K, Rechtsverfahren und KI-Risikofaktor im 20-F sowie der ESG-Bericht FY2026 konnten nicht gelesen werden
- Stand der Abhilfe nach der Datenschutzbusse gegen AliExpress in Südkorea
- KI-spezifische Meldewege für Missbrauch
7 · So wurde geprüft
Stichtag: 3. November 2026 · 42 Suchen, 45 Abrufe.
Gelesene Primärdokumente (13)
- Alibaba Form 20-F FY2026 (erste rund 127 000 Zeichen)
- Alibaba FY2026 Annual Report (HKEX, englisch und chinesisch, bis ca. S. 31)
- Alibaba ESG Report FY2025 (HKEX, vollständig)
- Alibaba Responsible-AI-Seiten (Übersicht, Our Approach, Model Governance, Qwen, Wan) und ESG-Governance-Seite
- Qwen3 Technical Report und Qwen3Guard Technical Report (arXiv)
- Modellkarten Qwen3-235B-A22B-Instruct-2507 und Qwen3.5-397B-A17B (Hugging Face)
- Alibaba Cloud Model Studio Security certifications and privacy; AIGC-Kennzeichnung (Help Center, Developer Community)
- Europäische Kommission: AliExpress-Zusagen und Pressemitteilung IP/25/1551
- FLI AI Safety Index Winter 2025 und Summer 2026 (Web und PDF)
- Unabhängige Sicherheitsberichte: Ma et al. (arXiv:2601.10527), Promptfoo-Bericht Qwen3-235B, Kamachee et al. (arXiv:2512.11815)
- CQC-Mitteilung ISO/IEC 42001
- Docket-Zusammenfassung Alibaba v. DoD (Clearinghouse)
- Form 6-K Abstimmungsergebnisse GV 2025 und 2026
Recherche vom 3. November 2026 nach dem Regelwerk zum Globalance AI Footprint, Version 0