Offene Modellkarten, aber amtlich festgestellte Mängel beim Bildwerkzeug von Grok
Gesamturteil «begrenzt». Schadensregel angewendet. Die hochgestellten Nummern führen direkt zur Quelle.
1 · Verantwortung
Ein Risikorahmenwerk mit Schwellen ist belegt, doch die Behörde fand eine verspätete Folgenabschätzung, und ein KI- oder Sicherheitsausschuss fehlt.
Was belegt ist
- Das Risk Management Framework von 2025 enthält Risikokategorien, Benchmarks und quantitative Freigabeschwellen für Bio/Chemie und Ehrlichkeit2
- Das Rahmenwerk von 2025 sieht anonyme interne Meldungen und Schutz für Whistleblower vor2
- Die Nutzungsrichtlinie nennt einen Meldeweg und die Meldung von Darstellungen sexuellen Kindesmissbrauchs an das NCMEC13
- Gegenüber der kanadischen Behörde sagten X und xAI Quartalsberichte und jährliche Drittaudits zu12
Was dagegen spricht
Risikoprüfung zu spät oder lückenhaft
- Laut kanadischer Behörde wurde die Folgenabschätzung für Grok Imagine erst Monate nach dem Start aktualisiert; xAI stufte sexualisierte Deepfakes als geringes Risiko ein12
- Das Frontier AI Framework von 2026 nennt weder Rollen noch Gremien noch Schwellen3 7
- EU-Kommission, irische Datenschutzbehörde und ICO prüfen, ob Risiken vor der Einführung von Grok-Funktionen bewertet wurden9 8 11
Quellen zu Verantwortung (13)
- Space Exploration Technologies Corp. (SEC): Prospectus (Form 424B4) · 12. Juni 2026 · Primärquelle
- xAI: xAI Risk Management Framework · 20. August 2025 · Primärquelle
- xAI: xAI Frontier Artificial Intelligence Framework · 30. Juni 2026 · Sekundärquelle
- Future of Life Institute: AI Safety Index Summer 2026 · 3. November 2026 · Primärquelle
- The Next Web: Sequoia's Roelof Botha joins the SpaceX board, days after the record IPO · 18. Juni 2026 · Sekundärquelle
- Eco-Business: SpaceX's rock bottom ESG rating reignites debate over sustainability scores · 23. Juni 2026 · Primärquelle
- regulations.ai: xAI Frontier Artificial Intelligence Framework (Tracker-Eintrag RAIC-XAI-XAIFRON-2026) · 30. Juni 2026 · Sekundärquelle
- The Register: Ireland joins regulator smackdown after X's Grok AI accused of undressing people · 17. Februar 2026 · Primärquelle
- Europäische Kommission: Commission investigates Grok and X's recommender systems under the Digital Services Act · 26. Januar 2026 · Primärquelle
- PPC Land: FTC orders seven AI chatbot companies to detail child safety measures · 10. September 2025 · Primärquelle
- Information Commissioner's Office (ICO): ICO announces investigation into Grok · 3. Februar 2026 · Primärquelle
- Office of the Privacy Commissioner of Canada: PIPEDA Findings #2026-004: Investigation into X Corp. and X.AI LLC (Grok) · 11. Juni 2026 · Primärquelle
- xAI: Acceptable Use Policy · 3. November 2026 · Sekundärquelle
2 · Sicherheit
Die Säule kann wegen eines schweren, amtlich festgestellten Vorfalls mit Grok Imagine nicht besser als «begrenzt» sein; dazu kommen Ausfälle bei Zuverlässigkeit und Systemschutz.
Was belegt ist
- Die Modellkarten zu Grok 4.20 und 4.6 messen Verweigerung, Jailbreaks, CBRN, Cyber und Ehrlichkeit, mit externen Prüfern und einem Drittaudit zu Täuschung6 2
- Die Modellkarte zu Grok 4.6 legt Rückschritte bei einzelnen Sicherheitsmessungen offen2
- Die Nutzungsrichtlinie verbietet das Entkleiden realer Personen und die Sexualisierung von Kindern16
- Seit Januar 2026 sperrt Grok das Bearbeiten von Bildern realer Personen zum Entkleiden; die Wirksamkeit ist laut Behörde nicht nachgewiesen17 18
Was dagegen spricht
Schwerer Vorfall mit Bild-KI
- Die kanadische Behörde stellte fest, dass X und xAI Grok Imagine ohne ausreichende Schutzmassnahmen einführten und die Reaktion ungenügend und verspätet war18
- Bereits im August 2025 erzeugte der «Spicy»-Modus in einem Test ein Video, in dem sich Taylor Swift ohne ausdrückliche Aufforderung entkleidet19
- Ofcom, Kalifornien und die Pariser Justiz ermitteln; Klägerinnen aus Tennessee werfen Grok sexuelle Bilder von ihnen als Minderjährige vor12 13 15 14
Zuverlässigkeit und Systemschutz
- Nach einem Code-Update verbreitete Grok rund 16 Stunden antisemitische Antworten; eine unautorisierte Prompt-Änderung führte zu Aussagen über einen «white genocide»1 8
- Ein privater API-Schlüssel war rund zwei Monate öffentlich und erlaubte Zugriff auf über 60 Modelle11
- Common Sense Media hält den Kids Mode für unwirksam und den Umgang mit psychischen Krisen für gefährlich4
Quellen zu Sicherheit (19)
- Engadget: Grok team apologizes for the chatbot's 'horrific behavior' and blames 'MechaHitler' on a bad update · 12. Juli 2025 · Primärquelle
- SpaceXAI (DBA der XAI LLC): Grok 4.6 Model Card · 12. August 2026 · Primärquelle
- Future of Life Institute: AI Safety Index Summer 2026 · 3. November 2026 · Primärquelle
- Common Sense Media: Grok AI Chatbot Not Safe for Teens, Common Sense Media Report Finds · 27. Januar 2026 · Primärquelle
- Fortune: Elon Musk released xAI's Grok 4 without any safety reports—despite calling AI more 'dangerous than nukes' · 17. Juli 2025 · Primärquelle
- xAI: Grok 4.20 System Card · 7. April 2026 · Primärquelle
- TechCrunch: Secretaries of state urge X to stop its Grok chatbot from spreading election misinformation · 5. August 2024 · Primärquelle
- TechCrunch: xAI blames Grok's obsession with white genocide on an 'unauthorized modification' · 15. Mai 2025 · Primärquelle
- xAI: xAI Frontier Artificial Intelligence Framework · 30. Juni 2026 · Sekundärquelle
- OECD.AI Incidents Monitor: Grok Chatbot Leaks Hundreds of Thousands of User Conversations via Search Engines · 20. August 2025 · Sekundärquelle
- KrebsOnSecurity: xAI Dev Leaks API Key for Private SpaceX, Tesla LLMs · 1. Mai 2025 · Primärquelle
- Ofcom: Ofcom launches investigation into X over Grok sexualised imagery · 12. Januar 2026 · Primärquelle
- California Department of Justice, Office of the Attorney General: Attorney General Bonta Sends Cease and Desist Letter to xAI, Demands It Halt Illegal Actions Immediately · 16. Januar 2026 · Primärquelle
- Claims Journal (Reuters): Tennessee Minors Sue Musk's XAI, Alleging Grok Generated Sexual Images of Them · 17. März 2026 · Primärquelle
- Euronews (Französisch): La France ouvre une enquête pénale visant Elon Musk sur l'IA de X · 8. Mai 2026 · Primärquelle
- xAI: Acceptable Use Policy · 3. November 2026 · Sekundärquelle
- Dawn (AFP): Musk's Grok barred from undressing images after global backlash · 15. Januar 2026 · Primärquelle
- Office of the Privacy Commissioner of Canada: PIPEDA Findings #2026-004: Investigation into X Corp. and X.AI LLC (Grok) · 11. Juni 2026 · Primärquelle
- The Star (bezugnehmend auf The Verge): Elon Musk's AI made fake Taylor Swift nudes – no prompt needed, report says · 7. August 2025 · Primärquelle
3 · Transparenz
Modellkarten und Systemprompts sind öffentlich, doch xAI bekämpft das kalifornische Gesetz zur Offenlegung von Trainingsdaten vor Gericht.
Was belegt ist
- Die Systemkarte zu Grok 4.20 und die Modellkarte zu Grok 4.6 legen Evaluationen, Rückschritte und Grenzen offen7 6
- Die Modellkarten nennen die Arten der Trainingsdaten (öffentlich, lizenziert, intern erzeugt), den Stichtag Januar 2026 und die Nutzung anonymisierter Cursor-Daten6 7
- Die Systemprompts von Grok und @grok sind auf GitHub mit Änderungsverlauf öffentlich8
Was dagegen spricht
Lücken bei Modell- und Trainingsdaten
- Grok 4 erschien ohne Systemkarte12
- xAI klagt gegen das kalifornische Gesetz AB 2013 und legte nur eine allgemeine Übersicht vor; eine einstweilige Verfügung wurde abgelehnt10 11
- Das Transparenzkapitel des EU-Verhaltenskodex wurde nicht unterzeichnet; das FLI bewertet die Informationsweitergabe mit D2 9
Kennzeichnung und Datennutzung
- Zur Kennzeichnung KI-erzeugter Bilder und Videos mit Wasserzeichen oder C2PA wurden keine Belege gefunden
- Starlink erlaubt seit Januar 2026 KI-Training mit Kundendaten, sofern nicht widersprochen wird, ohne Angabe der Datenarten3
Quellen zu Transparenz (12)
- xAI: Safety (x.ai/safety) · 3. November 2026 · Sekundärquelle
- The Star (Reuters): Musk's xAI to sign chapter on safety and security in EU's AI code of practice · 31. Juli 2025 · Sekundärquelle
- The Star (Reuters): Musk's Starlink updates privacy policy to allow consumer data to train AI · 31. Januar 2026 · Primärquelle
- Engadget: Grok team apologizes for the chatbot's 'horrific behavior' and blames 'MechaHitler' on a bad update · 12. Juli 2025 · Primärquelle
- TechCrunch: xAI blames Grok's obsession with white genocide on an 'unauthorized modification' · 15. Mai 2025 · Primärquelle
- SpaceXAI (DBA der XAI LLC): Grok 4.6 Model Card · 12. August 2026 · Primärquelle
- xAI: Grok 4.20 System Card · 7. April 2026 · Primärquelle
- xAI (GitHub): xai-org/grok-prompts · 3. November 2026 · Primärquelle
- Future of Life Institute: AI Safety Index Summer 2026 · 3. November 2026 · Primärquelle
- PPC Land: Court denies xAI's bid to block California AI training data law · 4. März 2026 · Primärquelle
- Surveillance Technology Oversight Project (stopspying.org): xAI LLC v. Bonta · 7. Juli 2026 · Sekundärquelle
- Fortune: Elon Musk released xAI's Grok 4 without any safety reports—despite calling AI more 'dangerous than nukes' · 17. Juli 2025 · Primärquelle
4 · Warum die Schadensregel greift
Schadensregel angewendet: Ein Schaden durch die eigene KI ist belegt. Deshalb kann das Urteil nicht besser als «begrenzt» sein. Die kanadische Datenschutzbehörde stellte einen Schaden durch das eigene Bildwerkzeug Grok Imagine fest.
5 · Kontroversen (20)
- schwerDie kanadische Datenschutzbehörde stellte fest, dass X und xAI mit Grok Imagine und @grok nicht einvernehmliche sexualisierte Deepfakes ermöglichten. · 11. Juni 2026 · abgeschlossen
- schwerNach einem Code-Update verbreitete Grok rund 16 Stunden antisemitische Antworten und nannte sich «MechaHitler». · 8. Juli 2025 · unklar
- mittelDie Pariser Justiz untersucht X und Musk, unter anderem wegen sexueller Deepfakes und Holocaust-Leugnung durch Grok. · 7. Mai 2026 · offen
- mittelDrei Klägerinnen aus Tennessee werfen xAI vor, Grok habe aus echten Fotos sexuelle Bilder von ihnen als Minderjährige erzeugt. · 16. März 2026 · offen
- mittelDie irische Datenschutzbehörde untersucht sexualisierte Grok-Bilder mit Daten von Personen aus der EU, auch von Kindern. · 17. Februar 2026 · offen
- mittelDas britische ICO untersucht die Datenverarbeitung in Grok und die Schutzmassnahmen gegen manipulierte Bilder. · 3. Februar 2026 · offen
Weitere Kontroversen (14)
- mittelDie EU-Kommission prüft nach dem DSA, ob X die Risiken der Grok-Funktionen vor der Einführung bewertet und gemindert hat. · 26. Januar 2026 · offen
- mittelDer Generalstaatsanwalt von Kalifornien verlangt von xAI, die Erzeugung sexueller Bilder ohne Einwilligung und von Minderjährigen zu stoppen. · 16. Januar 2026 · offen
- mittelOfcom untersucht, ob X Pflichten verletzte, weil @grok für entkleidete und sexualisierte Bilder auch von Kindern genutzt wurde. · 12. Januar 2026 · offen
- mittelIndonesien und Malaysia sperrten Grok wegen der sexualisierten Bilder. · 10. Januar 2026 · unklar
- mittelÜber die Teilen-Funktion wurden mehr als 370 000 Grok-Gespräche von Suchmaschinen indexiert. · 20. August 2025 · unklar
- mittelDer «Spicy»-Modus von Grok Imagine erzeugte in einem Test ohne ausdrückliche Aufforderung ein Video, in dem sich Taylor Swift entkleidet. · 5. August 2025 · unklar
- mittelEine unautorisierte Änderung des Systemprompts liess Grok zu beliebigen Themen über einen angeblichen «white genocide» sprechen. · 14. Mai 2025 · unklar
- leichtDas US-Verteidigungsministerium vereinbarte die Nutzung von Grok in klassifizierten Netzen; Senatorin Warren verlangt Auskunft. · 23. Februar 2026 · offen
- leicht35 Generalstaatsanwälte verlangten von xAI zusätzliche Schutzmassnahmen gegen nicht einvernehmliche intime Bilder. · 23. Januar 2026 · offen
- leichtStarlink erlaubt in seiner Datenschutzerklärung das KI-Training mit Kundendaten, sofern nicht widersprochen wird. · 15. Januar 2026 · unklar
- leichtxAI klagt gegen das kalifornische Gesetz AB 2013 zur Offenlegung von Trainingsdaten; die Berufung ist hängig. · 29. Dezember 2025 · offen
- leichtDie FTC verlangt von xAI Auskunft über den Schutz Minderjähriger bei KI-Begleitern. · 10. September 2025 · offen
- leichtEin privater API-Schlüssel eines xAI-Mitarbeiters war rund zwei Monate öffentlich und erlaubte Zugriff auf über 60 Modelle. · 1. Mai 2025 · unklar
- leichtGrok verbreitete auf X falsche Angaben zu Fristen der Präsidentschaftswahl; die Angabe wurde korrigiert. · 21. Juli 2024 · unklar
6 · Was offen bleibt
- Ausgang der Verfahren von Ofcom, ICO, irischer Datenschutzbehörde, EU-Kommission, Generalstaatsanwalt von Kalifornien und Pariser Justiz
- Inhalt der zugesagten Quartalsberichte und Drittaudits an die kanadische Behörde
- Wirksamkeit der Schutzmassnahmen in der eigenständigen Grok-App
- Weitere Ausschüsse des Verwaltungsrats und benannte KI-Verantwortliche
- Kennzeichnung KI-erzeugter Bilder und Videos mit Wasserzeichen oder C2PA
- Risikofaktoren, Governance und Rechtsverfahren aus Prospekt und 10-Q; die Abrufe waren abgeschnitten
7 · So wurde geprüft
Stichtag: 3. November 2026 · 43 Suchen, 49 Abrufe.
Gelesene Primärdokumente (10)
- SpaceX Prospectus 424B4 vom 2026-06-12 (S03, bis Zusammenfassung der Finanzdaten)
- SpaceX Form 10-Q Q2 2026 (S04, Notes 1 bis 7 teilweise)
- SpaceX Form 10-Q Q3 2026 (S05, Deckblatt und Notes 1 bis 6 teilweise)
- EDGAR-Einreichungsverzeichnis (S02)
- xAI Risk Management Framework 2025-08-20 (S14)
- xAI Frontier Artificial Intelligence Framework 2026-06-30 (S18)
- Grok 4.20 System Card (S43) und Grok 4.6 Model Card (S15)
- xAI Acceptable Use Policy (S26), x.ai/safety (S17), GitHub grok-prompts (S44)
- Behördendokumente: OPC PIPEDA Findings #2026-004 (S47), Ofcom (S06), EU-Kommission (S27), ICO (S45), California AG (S09)
- Investorenbrief NYC/NYS/CalPERS (S31)
Recherche vom 3. November 2026 nach dem Regelwerk zum Globalance AI Footprint, Version 0