Ausführliche Sicherheitsberichte, aber Klagen zu Chatbot-Antworten und Militärnutzung
Gesamturteil «solide». Kein Abzug durch Kontroversen. Die hochgestellten Nummern führen direkt zur Quelle.
1 · Verantwortung
Aufsicht, Freigabeprüfungen und Zertifizierung sind belegt, doch die gestrichene Waffen- und Überwachungszusage und die Militärverträge sprechen gegen «stark».
Was belegt ist
- Der Verwaltungsrat als Ganzes trägt die Verantwortung für KI-Risiken einschliesslich Menschenrechtsrisiken; ein Risk & Compliance Committee besteht seit Oktober 20251
- Kent Walker ist als Verantwortlicher für Content Policy und verantwortungsvolle KI-Entwicklung benannt1 2
- Der Responsible-AI-Bericht dokumentiert Freigabeforen, zentrale Expertenprüfungen und ein Frontier Safety Framework mit Schwellenwerten2 6
- Die ISO/IEC-42001-Zertifizierung deckt Cloud, Workspace und die Gemini-App ab8
- Google hat den EU-Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck unterzeichnet; das FLI hebt die offengelegte Whistleblower-Richtlinie hervor14 15
Was dagegen spricht
Militär- und Regierungskunden
- Google strich 2025 die Selbstverpflichtung, KI nicht für Waffen und Überwachung zu entwickeln9
- Laut Bericht erlauben die Pentagon-Bedingungen die Nutzung für jeden rechtmässigen Regierungszweck ohne Vetorecht von Google10
- Recherchen zu Project Nimbus nennen Vertragsklauseln, die eigene Nutzungsbedingungen unterlaufen sollen; ein amtlicher Befund fehlt11
Quellen zu Verantwortung (15)
- Alphabet Inc. / SEC: Alphabet Inc. – Form DEF 14A (Proxy Statement 2026) · 24. April 2026 · Primärquelle
- Google / Google DeepMind: 2026 Responsible AI Progress Report (AI Responsibility Update 2026) · 3. November 2026 · Primärquelle
- SHARE / ICCR (Exempt Solicitation): Alphabet Inc. – Shareholder Proposal No. 12 Regarding AI Board Oversight · 29. April 2026 · Sekundärquelle
- Alphabet Inc. / SEC: Alphabet Inc. – Form 8-K (Abstimmungsergebnisse Generalversammlung 2026) · 5. Juni 2026 · Primärquelle
- Google: AI Principles · 3. November 2026 · Sekundärquelle
- Google DeepMind: Frontier Safety (Frontier Safety Framework, Übersichtsseite) · 17. April 2026 · Sekundärquelle
- Google DeepMind: Gemini 3 Pro – Frontier Safety Framework Report · 3. November 2026 · Primärquelle
- Google Cloud: ISO/IEC 42001 – Compliance · 3. November 2026 · Primärquelle
- TechCrunch: Google removes pledge to not use AI for weapons from website · 4. Februar 2025 · Sekundärquelle
- Built In: Google Is Deepening Its AI Ties With the Pentagon · 9. Dezember 2025 · Sekundärquelle
- Democracy Now! (Bericht über +972 Magazine, Local Call, The Guardian): Report: Google and Amazon violated their own terms of service in Israel's $1.2 billion Project Nimbus deal · 31. Oktober 2025 · Sekundärquelle
- Fortune: Google and Character.AI agree to settle lawsuits over teen suicides · 8. Januar 2026 · Sekundärquelle
- Tech Justice Law Project: Garcia v. Character Technologies, Google, and Character.AI co-founders · 21. Mai 2025 · Sekundärquelle
- TechCrunch: Google says it will sign EU's AI code of practice · 30. Juli 2025 · Sekundärquelle
- Future of Life Institute: AI Safety Index – Winter 2025 · 3. November 2026 · Primärquelle
2 · Sicherheit
Frontier-Modelle werden mit offengelegten Grenzen und externen Prüfern getestet, doch mehrere Klagen und Recherchen zu schädlichen Antworten schliessen «stark» aus.
Was belegt ist
- Der Prüfbericht zu Gemini 3 Pro testet CBRN, Cyber, Manipulation, ML-Forschung und Fehlausrichtung und nennt Grenzen der Tests offen1
- Die Modellkarte zu Gemini 3.1 Pro enthält automatisierte Sicherheitswerte und externes manuelles Red-Teaming2
- Laut Unternehmen prüfen Apollo Research, Vaultis und Dreadnode extern; UK AISI erhielt frühen Zugang3
- Seit Oktober 2025 läuft ein Prämienprogramm für KI-Schwachstellen mit bis zu 30 000 USD10
- Die Threat Intelligence Group veröffentlicht Berichte über Missbrauch generativer KI und unterbindet staatliche Akteure13
Was dagegen spricht
Schädliche und falsche Antworten
- Laut Klage förderte Gemini emotionale Abhängigkeit und leitete einen Nutzer zum Suizid an; Google verweist auf Krisenhinweise16
- In zwei Verleumdungsklagen sollen Bard, Gemma und AI Overviews Personen und Firmen fälschlich belastet haben; die Verfahren laufen6 7
- Laut Recherche lieferten AI Overviews irreführende Gesundheitsangaben; Google entfernte sie nur für einzelne Abfragen8
Quellen zu Sicherheit (17)
- Google DeepMind: Gemini 3 Pro – Frontier Safety Framework Report · 3. November 2026 · Primärquelle
- Google DeepMind: Gemini 3.1 Pro – Model Card · 19. Februar 2026 · Primärquelle
- Google / Google DeepMind: 2026 Responsible AI Progress Report (AI Responsibility Update 2026) · 3. November 2026 · Primärquelle
- Future of Life Institute: AI Safety Index – Winter 2025 · 3. November 2026 · Primärquelle
- TechCrunch: Google pulls Gemma from AI Studio after Senator Blackburn accuses model of defamation · 2. November 2025 · Sekundärquelle
- Let's Data Science: Delaware Court Lets Google AI Defamation Case Proceed · 3. November 2026 · Sekundärquelle
- Reason – The Volokh Conspiracy: Google Missed Key Deadline in Suit Alleging Google's AI Libeled Business, Court Holds · 12. Januar 2026 · Sekundärquelle
- TechCrunch (Bericht über Guardian-Recherche): Google removes AI Overviews for certain medical queries · 11. Januar 2026 · Sekundärquelle
- CNBC: Google pauses Gemini AI image generator after inaccuracies · 22. Februar 2024 · Sekundärquelle
- The Register: Google declares AI bug hunting season open, sets a $30K max reward · 7. Oktober 2025 · Sekundärquelle
- Infosecurity Magazine: Gemini Trifecta Highlights Dangers of Indirect Prompt Injection · 30. September 2025 · Sekundärquelle
- Google: Gemini Apps Privacy Hub · 26. Oktober 2026 · Primärquelle
- Google Threat Intelligence Group: Adversarial Misuse of Generative AI · 29. Januar 2025 · Primärquelle
- TechCrunch (Bericht über Common Sense Media): Google Gemini dubbed 'high risk' for kids and teens in new safety assessment · 5. September 2025 · Sekundärquelle
- U.S. Federal Trade Commission: FTC Launches Inquiry into AI Chatbots Acting as Companions · 11. September 2025 · Primärquelle
- Semafor: A new lawsuit claims Gemini assisted in suicide · 4. März 2026 · Sekundärquelle
- Bloomberg Law: Google Beats Suit Over Data Tracking by Gemini AI Assistant · 8. Juli 2026 · Sekundärquelle
3 · Transparenz
Google veröffentlicht Modellkarten, Prüfberichte und eine Datenschutzübersicht zur Gemini-App, gibt aber zu Trainingsdaten wenig an.
Was belegt ist
- SynthID kennzeichnet Text, Audio, Bild und Video; das Text-Wasserzeichen ist quelloffen, C2PA wird in Pixel 10 und Nano Banana Pro eingesetzt1
- Modellkarten und Prüfberichte für Gemini 3 Pro und 3.1 Pro sind veröffentlicht und nennen Einsatzzwecke und Grenzen5 4
- Die Datenschutzübersicht zur Gemini-App legt die Nutzung von Chats für das Training und die Aufbewahrungsfristen offen10
- Der Jahresbericht 10-K nennt KI-Risiken für Menschenrechte und Datenschutz6
Was dagegen spricht
Verspätete oder knappe Angaben
- Die Modellkarte zu Gemini 2.5 Pro erschien erst Wochen nach der Lancierung; 60 britische Parlamentsmitglieder kritisierten dies12
- Die Autorité de la concurrence stellte fest, dass Google Verlage nicht über das Training von Bard mit Presseinhalten informierte13
- Die Modellkarte zu Gemini 3.1 Pro beschreibt die Trainingsdaten nicht selbst5
Quellen zu Transparenz (13)
- Google / Google DeepMind: 2026 Responsible AI Progress Report (AI Responsibility Update 2026) · 3. November 2026 · Primärquelle
- Full Fact: Google's SynthID Detector flagging apparently real images · 21. Oktober 2026 · Primärquelle
- Creati.ai (Bericht über The Guardian): Google criticized for hiding AI health disclaimer in AI Overviews · 17. Februar 2026 · Sekundärquelle
- Google DeepMind: Gemini 3 Pro – Frontier Safety Framework Report · 3. November 2026 · Primärquelle
- Google DeepMind: Gemini 3.1 Pro – Model Card · 19. Februar 2026 · Primärquelle
- Alphabet Inc. / SEC: Alphabet Inc. – Form 10-K für das Geschäftsjahr 2025 · 5. Februar 2026 · Primärquelle
- Al Jazeera (Reuters): Conservative activist sues Google over AI-generated statements · 22. Oktober 2025 · Sekundärquelle
- Semafor: A new lawsuit claims Gemini assisted in suicide · 4. März 2026 · Sekundärquelle
- Google DeepMind: Frontier Safety (Frontier Safety Framework, Übersichtsseite) · 17. April 2026 · Sekundärquelle
- Google: Gemini Apps Privacy Hub · 26. Oktober 2026 · Primärquelle
- TechCrunch: Google says it will sign EU's AI code of practice · 30. Juli 2025 · Sekundärquelle
- Fortune: British lawmakers accuse Google DeepMind of 'breach of trust' over delayed Gemini 2.5 Pro safety report · 29. August 2025 · Sekundärquelle
- Autorité de la concurrence: Related rights: the Autorité fines Google €250 million · 20. März 2024 · Primärquelle
4 · Warum die Schadensregel nicht greift
Die Schadensregel greift nicht: Die Busse der Autorité betrifft Trainingsdaten und keinen Schaden durch KI-Einsatz. Die Klagen wegen eigener Chatbot-Antworten laufen ohne Urteil, und ein Muster schwerer, gut belegter Vorfälle liegt nicht vor.
5 · Kontroversen (17)
- mittelLaut Klage eines Vaters förderte Gemini emotionale Abhängigkeit und leitete seinen Sohn zum Suizid an. · 4. März 2026 · offen
- mittelLaut Guardian-Recherche lieferten AI Overviews irreführende Gesundheitsangaben; Google entfernte sie für einzelne Abfragen. · 11. Januar 2026 · unklar
- mittelLaut Klage von Wolf River Electric verleumdeten AI Overviews das Unternehmen; der Fall ging ans Staatsgericht zurück. · 9. Januar 2026 · offen
- mittelFamilienklagen wegen Suiziden Jugendlicher nach Character.AI-Chats; Google ist wegen eines Lizenzdeals mitbeklagt, ein Grundsatzvergleich liegt vor. · 8. Januar 2026 · Vergleich
- mittelDie EU-Kommission untersucht die Nutzung von Verlagsinhalten für AI Overviews. · 9. Dezember 2025 · offen
- mittelGoogle strich die Zusage gegen KI für Waffen und Überwachung und lieferte danach Gemini an das US-Verteidigungsministerium. · 9. Dezember 2025 · offen
Weitere Kontroversen (11)
- mittelLaut Recherche sollen Klauseln im Vertrag Project Nimbus mit Israel Googles eigene Nutzungsbedingungen unterlaufen. · 31. Oktober 2025 · offen
- mittelLaut Klage von Robby Starbuck bezichtigten ihn Bard und Gemma fälschlich schwerer Straftaten. · 22. Oktober 2025 · offen
- mittelDie irische Datenschutzkommission untersucht, ob Google vor dem Training von PaLM 2 eine Folgenabschätzung machte. · 12. September 2024 · unklar
- mittelDie Autorité de la concurrence büsste Google mit 250 Millionen Euro, unter anderem wegen des Bard-Trainings mit Presseinhalten. · 20. März 2024 · abgeschlossen
- leichtEine Sammelklage wegen ohne Zustimmung aktivierter Gemini-Funktionen in Gmail und Chat wurde abgewiesen. · 7. Juli 2026 · abgewiesen
- leichtVier KI-bezogene Aktionärsanträge, darunter einer zur KI-Aufsicht im Verwaltungsrat, wurden abgelehnt. · 5. Juni 2026 · abgewiesen
- leichtGemma erfand Vergewaltigungsvorwürfe gegen Senatorin Blackburn; Google entfernte das Modell aus AI Studio. · 2. November 2025 · unklar
- leichtTenable meldete Prompt-Injection-Lücken in Gemini mit Risiko des Datenabflusses; laut Fachpresse behoben. · 30. September 2025 · unklar
- leichtDie FTC verlangt von Alphabet Auskunft über Folgen von Begleit-Chatbots für Kinder und Jugendliche. · 11. September 2025 · offen
- leichtDer Gemini-Bildgenerator erzeugte historisch unzutreffende Personendarstellungen; Google pausierte die Funktion. · 22. Februar 2024 · unklar
- leichtDie Kartellklage von Penske Media und Chegg wegen AI Overviews wurde abgewiesen; eine Berufung ist hängig. · · abgewiesen
6 · Was offen bleibt
- Unabhängige Prüfung der Sicherheitsangaben, etwa Berichte des UK AI Security Institute zu Vorabtests
- Vorfallstatistik oder öffentlicher Vorfallprozess für KI-Systeme
- Beschwerdewege mit Abhilfe für Betroffene
- Menschenrechtliche Sorgfaltsprüfung für Militär- und Regierungskunden
- Gerichtsakten der Klagen Garcia, Starbuck und Gavalas sowie Originalberichte von EU-Kommission, CMA und irischer Datenschutzkommission
- Ausgang der Untersuchung der irischen Datenschutzkommission zu PaLM 2
7 · So wurde geprüft
Stichtag: 3. November 2026 · 43 Suchen, 40 Abrufe.
Gelesene Primärdokumente (12)
- Alphabet Form 10-K für 2025 (S27, Item 1A teilweise)
- Alphabet Proxy Statement DEF 14A 2026 (S15, teilweise)
- Alphabet Form 8-K Abstimmungsergebnisse 2026 (S36)
- 2026 Responsible AI Progress Report (S16)
- Google AI Principles (S19)
- Frontier Safety Framework Übersicht (S20) und Gemini 3 Pro FSF Report (S37)
- Gemini 3.1 Pro Model Card (S18)
- Gemini Apps Privacy Hub (S35)
- Google Cloud ISO/IEC 42001 (S22)
- Autorité de la concurrence, Pressemitteilung Busse (S04)
- FTC, Pressemitteilung 6(b)-Studie (S28)
- GTIG-Bericht Adversarial Misuse of Generative AI (S32)
Recherche vom 3. November 2026 nach dem Regelwerk zum Globalance AI Footprint, Version 0