Geprüfte eigene Modelle und Cloud-Dienste, offene Klagen zu Gesichtserkennung
Gesamturteil «solide». Kein Abzug durch Kontroversen. Die hochgestellten Nummern führen direkt zur Quelle.
1 · Verantwortung
Amazon hat eine KI-Aufsicht im Verwaltungsrat und ein Sicherheitsrahmenwerk für Frontier-Modelle, legt aber keine Sorgfaltsprüfung für Behörden- und Militärkunden offen.
Was belegt ist
- Das Nominating and Corporate Governance Committee überwacht Risiken aus verantwortungsvoller KI-Entwicklung und KI-Governance2 3
- Ein Security Committee aus unabhängigen Direktoren ist für Sicherheit zuständig; der Chief Security Officer berichtet an den CEO1
- Das Frontier Model Safety Framework definiert Schwellen für CBRN, Cyber und automatisierte KI-Forschung und sieht einen Go/No-Go-Entscheid der Geschäftsleitung vor4
- Bedrock, Q Business, Textract und Transcribe sind nach ISO/IEC 42001 zertifiziert; das Überwachungsaudit 2025 ergab keine Feststellungen10
- Ein zentrales Responsible AI Governance Team ist im Bericht nach dem G7-Hiroshima-Rahmen beschrieben5
Was dagegen spricht
Begrenzter Geltungsbereich
Behördenkunden und Aktionäre
- Recherchen werfen Amazon vor, im Project-Nimbus-Vertrag mit Israel Klauseln akzeptiert zu haben, die eigene Nutzungsbedingungen unterlaufen8
- Eine Prüfung der Nutzung von KI- und Cloud-Diensten durch Militär- und Sicherheitsbehörden ist nicht offengelegt9
- Zwei KI-Anträge wurden 2025 abgelehnt; ein Antrag zum Responsible AI Approach kam 2026 nicht zur Abstimmung13 15
Quellen zu Verantwortung (15)
- Amazon.com, Inc. (SEC-Einreichung): Form 10-K für das Geschäftsjahr 2025 · 3. November 2026 · Primärquelle
- Amazon.com, Inc.: 2026 Proxy Statement (PDF) · 3. November 2026 · Primärquelle
- Amazon.com, Inc. (SEC-Einreichung): DEF 14A 2026 · 3. November 2026 · Primärquelle
- Amazon.com, Inc. (Amazon Science): Amazon's Frontier Model Safety Framework · 3. November 2026 · Primärquelle
- OECD.AI (Bericht von Amazon): G7 Hiroshima AI Process Reporting Framework – Amazon (Nova-Modelle auf Bedrock) · 31. Oktober 2025 · Primärquelle
- Amazon Web Services: AWS Responsible AI Policy · 13. Januar 2025 · Sekundärquelle
- Ranking Digital Rights: 2025 Big Tech Edition – Amazon · 13. Mai 2025 · Primärquelle
- Democracy Now!: Report: Google and Amazon violated their own terms of service in Israel's $1.2 billion Project Nimbus deal · 31. Oktober 2025 · Sekundärquelle
- Intercommunity Peace & Justice Center (Aktionärsantrag): Aktionärsantrag zur Übereinstimmung von KI-Verkauf und -Einsatz mit dem Responsible AI Approach · 3. November 2026 · Sekundärquelle
- Amazon Web Services (AWS Security Blog): AWS successfully completed its first surveillance audit for ISO 42001:2023 with no findings · 26. Februar 2026 · Primärquelle
- Amazon.com, Inc. (About Amazon): Responsible AI – Our approach · 3. November 2026 · Sekundärquelle
- Business & Human Rights Resource Centre: US corporate human rights index – Amazon (Befundtabelle) · 1. August 2025 · Sekundärquelle
- Amazon.com, Inc. (SEC-Einreichung): Form 8-K, Abstimmungsergebnisse der Generalversammlung 2025 · 21. Mai 2025 · Primärquelle
- Interfaith Center on Corporate Responsibility (ICCR): Amazon 2025 Shareholder Proposals · 23. Mai 2025 · Sekundärquelle
- Investor Advocates for Social Justice (SEC PX14A6G): Notice of Exempt Solicitation zur Generalversammlung 2026 · 3. November 2026 · Sekundärquelle
2 · Sicherheit
Amazon belegt umfangreiche interne und externe Tests seiner Nova-Modelle, doch ein kompromittierter KI-Assistent, ein bestätigter Datenschutzverstoss und Biometrie-Klagen stehen dagegen.
Was belegt ist
- Der Nova-Technikbericht nennt über 300 interne Angriffstechniken und externes Red-Teaming durch ActiveFence, Deloitte, CMU und Nemesys3
- Die Service Card dokumentiert eine Frontier-Prüfung mit METR; PRISM Eval und ActiveFence testeten Nova Premier unabhängig2 1
- Modellgewichte werden verschlüsselt und isoliert geschützt; Schwachstellen können über ein Bug-Bounty gemeldet werden6
- Bedrock erkennt Missbrauch automatisch, meldet CSAM an NCMEC und kann Konten sperren11
- Ring nennt für Familiar Faces ein Opt-in, Löschfristen und interne Datenschutz-Folgenabschätzungen14
Was dagegen spricht
Vorfälle eigener KI-Werkzeuge
- Über ein zu weit gefasstes GitHub-Token gelangte ein Löschbefehl in Version 1.84.0 der Amazon-Q-Erweiterung; AWS hat den Fehler behoben8 9
- Medien berichten über einen AWS-Ausfall nach Änderungen durch das Agenten-Werkzeug Kiro; Amazon nennt einen Bedienfehler4
- In Amazon Quick fehlte eine Autorisierung, sodass gesperrte KI-Agenten erreichbar waren; die Lücke wurde behoben10
Datenschutz und Biometrie
- Der Conseil d'État bestätigte einen Verstoss gegen die Datenminimierung bei Leistungsdaten von Lagerbeschäftigten und reduzierte die Busse auf 15 Mio. EUR18
- Laut Klage erfasst Ring Familiar Faces Gesichtsdaten von Besuchern und Passanten ohne Einwilligung; das Verfahren läuft16
- Zur virtuellen Anprobe ist eine Sammelklage nach dem Biometriegesetz von Illinois zugelassen; über die Haftung ist nicht entschieden17
Quellen zu Sicherheit (21)
- Amazon.com, Inc. (Amazon Science): Independent evaluations demonstrate Nova Premier's safety · 29. Mai 2025 · Primärquelle
- Amazon Web Services: AWS AI Service Card: Amazon Nova Micro, Lite, Pro, and Premier · 3. November 2026 · Primärquelle
- Amazon AGI (arXiv): The Amazon Nova Family of Models: Technical Report and Model Card · 17. März 2025 · Primärquelle
- The Register: Amazon's vibe-coding tool Kiro reportedly vibed too hard and brought down AWS · 20. Februar 2026 · Sekundärquelle
- Fortune: Amazon retail site outages and AI agent inaccurate advice · 12. März 2026 · Sekundärquelle
- Amazon.com, Inc. (Amazon Science): Amazon's Frontier Model Safety Framework · 3. November 2026 · Primärquelle
- Amazon.com, Inc. (SEC-Einreichung): Form 10-K für das Geschäftsjahr 2025 · 3. November 2026 · Primärquelle
- Amazon Web Services: Security Bulletin AWS-2025-015: Amazon Q Developer Extension for Visual Studio Code (Version #1.84) · 23. Juli 2025 · Primärquelle
- BleepingComputer: Amazon AI coding agent hacked to inject data wiping commands · 24. Juli 2025 · Sekundärquelle
- Pulse (Wiedergabe Fog Security): Amazon Quick authorization bypass let users reach blocked AI chat agents · 12. Mai 2026 · Sekundärquelle
- Amazon Web Services: Amazon Bedrock abuse detection (Benutzerhandbuch) · 3. November 2026 · Primärquelle
- Amazon Web Services: AWS Responsible AI Policy · 13. Januar 2025 · Sekundärquelle
- ConductAtlas (Wiedergabe der AWS Service Terms): Amazon Rekognition police department moratorium · 3. November 2026 · Sekundärquelle
- Ring LLC (Brief an Senator Markey, veröffentlicht durch das Büro Markey): Antwort von Ring auf das Schreiben vom 30.10.2025 zu Familiar Faces · 21. November 2025 · Primärquelle
- Electronic Frontier Foundation: The Legal Case Against Ring's Face Recognition Feature · 3. November 2025 · Sekundärquelle
- U.S. District Court, Western District of Washington (CourtListener): Sigwalt v. Amazon.com, Inc. and Ring LLC, Nr. 2:26-cv-01887, Klageschrift · 1. Juni 2026 · Sekundärquelle
- U.S. Court of Appeals for the Seventh Circuit: Svoboda v. Amazon.com Inc., Nr. 25-1361 (Urteil zur Klassenzulassung) · 17. Dezember 2025 · Primärquelle
- Conseil d'État (Frankreich): Décision n° 492830, Amazon France Logistique · 23. Dezember 2025 · Primärquelle
- Actu-Juridique: La CNIL sanctionne Amazon pour utilisation d'un système de surveillance excessivement intrusif · 23. Januar 2024 · Sekundärquelle
- The Register: Amazon to kill off local Alexa processing, all voice requests shipped to the cloud · 17. März 2025 · Sekundärquelle
- Tom's Hardware: Amazon's Rufus AI shopping assistant can be easily jailbroken · 9. März 2026 · Sekundärquelle
3 · Transparenz
Amazon veröffentlicht Modellkarten, Service Cards und kennzeichnet erzeugte Bilder und Videos, beschreibt die Trainingsdaten aber nur nach Kategorien.
Was belegt ist
- Für die Nova-Modelle liegen ein Technikbericht mit Modellkarte und AWS AI Service Cards mit Einsatzgrenzen vor1 5
- Amazon hat einen Bericht nach dem G7-Hiroshima-Rahmen zu den Nova-Modellen veröffentlicht2
- Ausgaben von Nova Canvas, Reel und Sonic tragen unsichtbare Wasserzeichen; für Titan-Bilder gibt es ein Erkennungswerkzeug1 3
- Die Service Cards empfehlen menschliche Prüfung bei folgenreichen Entscheiden und eine Offenlegung gegenüber Endnutzern5
- Amazon hat den EU-Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck unterzeichnet4
Was dagegen spricht
Trainingsdaten
Offenlegung bei Konsumprodukten
Quellen zu Transparenz (8)
- Amazon AGI (arXiv): The Amazon Nova Family of Models: Technical Report and Model Card · 17. März 2025 · Primärquelle
- OECD.AI (Bericht von Amazon): G7 Hiroshima AI Process Reporting Framework – Amazon (Nova-Modelle auf Bedrock) · 31. Oktober 2025 · Primärquelle
- Amazon Web Services: Watermark detection for Amazon Titan Image Generator now available in Amazon Bedrock · 23. April 2024 · Primärquelle
- Euronews: Some 26 tech companies sign up to EU Commission's AI code · 1. August 2025 · Sekundärquelle
- Amazon Web Services: AWS AI Service Card: Amazon Nova Micro, Lite, Pro, and Premier · 3. November 2026 · Primärquelle
- Ranking Digital Rights: 2025 Big Tech Edition – Amazon · 13. Mai 2025 · Primärquelle
- GeekWire: Amazon sued by YouTubers for allegedly scraping their content to train AI video tool · 3. November 2026 · Sekundärquelle
- Ring LLC (Brief an Senator Markey, veröffentlicht durch das Büro Markey): Antwort von Ring auf das Schreiben vom 30.10.2025 zu Familiar Faces · 21. November 2025 · Primärquelle
4 · Warum die Schadensregel nicht greift
Die Schadensregel greift nicht: Der KI-Bezug der bestätigten Busse in Frankreich ist nicht belegt, und die übrigen Fälle sind laufende Verfahren ohne Feststellung.
5 · Kontroversen (10)
- mittelEine Sammelklage vor dem Bundesgericht in Seattle wirft Amazon und Ring vor, die KI-Funktion Familiar Faces erfasse Gesichtsdaten von Besuchern und Passanten ohne Einwilligung; zuvor hatten Senator Markey und die EFF die Funktion kritisiert. · 1. Juni 2026 · offen
- mittelDie CNIL büsste Amazon France Logistique im Dezember 2023 mit 32 Mio. EUR wegen übermässiger Überwachung der Lagerbeschäftigten über Scanner-Indikatoren und Videoüberwachung; der Conseil d'État hob die Beanstandung der Indikatoren auf, bestätigte aber den Verstoss gegen die Datenminimierung (31 Tage Aufbewahrung) und reduzierte die Busse auf 15 Mio. EUR. · 23. Dezember 2025 · abgeschlossen
- mittelDas Bundesberufungsgericht des Seventh Circuit bestätigte die Zulassung einer Sammelklage nach dem Illinois-Biometriegesetz gegen die virtuelle Anprobe von Amazon, die Gesichtsgeometrie erfasst; über die Haftung ist nicht entschieden. · 17. Dezember 2025 · offen
- mittelEine Recherche von +972 Magazine, Local Call und The Guardian wirft Amazon und Google vor, im Project-Nimbus-Vertrag mit Israel Klauseln akzeptiert zu haben, die eigene Nutzungsbedingungen unterlaufen; die Cloud- und KI-Dienste würden im Gaza-Krieg genutzt. · 31. Oktober 2025 · unklar
- mittelEin Angreifer schleuste über ein zu weit gefasstes GitHub-Token einen Löschbefehl in die Amazon-Q-Developer-Erweiterung für VS Code ein, die als Version 1.84.0 ausgeliefert wurde (CVE-2025-8217); laut AWS scheiterte die Ausführung an einem Syntaxfehler. · 17. Juli 2025 · abgeschlossen
- mittelYouTube-Kanalbetreiber verklagen Amazon, weil es Millionen Videos unter Umgehung von YouTube-Schutzmassnahmen für das Training von Nova Reel verwendet haben soll (DMCA); Amazon nahm keine Stellung. · · offen
Weitere Kontroversen (4)
- leichtInvestoren kritisierten, dass Amazon für 2026 einen Antrag zur Übereinstimmung von KI-Verkäufen (u. a. an Sicherheitsbehörden) mit dem eigenen Responsible AI Approach nicht zur Abstimmung brachte, und riefen zur Ablehnung von vier Direktoren auf; 2025 waren zwei KI-Anträge mit rund 10 % Zustimmung abgelehnt worden. · 20. Mai 2026 · abgewiesen
- leichtIn Amazon Quick fehlte eine serverseitige Autorisierung, sodass Nutzer gesperrte KI-Chat-Agenten erreichen konnten; Rufus liess sich laut Fachpresse leicht zu themenfremden Antworten verleiten. · 12. März 2026 · abgeschlossen
- leichtAmazon stellte für Echo-Geräte die Option ein, Sprachaufnahmen lokal zu verarbeiten, um generative KI-Funktionen von Alexa+ zu ermöglichen; alle Anfragen werden seither in der Cloud verarbeitet. · 28. März 2025 · unklar
- leichtGemäss Financial Times (Wiedergabe The Register) verursachte das Agenten-Werkzeug Kiro einen 13-stündigen Ausfall eines AWS-Dienstes, nachdem es eine Umgebung gelöscht und neu erstellt hatte; im März 2026 trug bei einem Ausfall des Onlinehandels ein falscher Rat eines KI-Agenten bei. · · unklar
6 · Was offen bleibt
- Gesamtliste der KI-bezogenen Rechtsverfahren; Note 7 des 10-K und das 10-Q Q3 2026 konnten nicht gelesen werden
- Abhilfemassnahmen nach dem Entscheid der CNIL und des Conseil d'État
- Offengelegte menschenrechtliche Prüfung von KI-Verkäufen an Behörden und Militär
- Konzernweite Kennzahlen zu KI-Vorfällen und Beschwerden
- Ein eigenständiger Responsible-AI-Bericht von Amazon wurde nicht gefunden
7 · So wurde geprüft
Stichtag: 3. November 2026 · 42 Suchen, 47 Abrufe.
Gelesene Primärdokumente (17)
- Form 10-K GJ 2025 (S1, Zeichen 0–117795)
- Form 10-Q Q2 2026 (S2, Zeichen 0–100000)
- 2026 Proxy Statement PDF (S3, Zeichen 0–132531)
- DEF 14A 2026 (S4, Zeichen 0–100000)
- Form 8-K Abstimmungsergebnisse 2025 (S5)
- Frontier Model Safety Framework (S9)
- AWS AI Service Card Nova (S11)
- Nova Technical Report and Model Card (S12)
- HAIP-Bericht Amazon (S14)
- AWS Responsible AI Policy (S15)
- Bedrock abuse detection (S16)
- Security Bulletin AWS-2025-015 (S26)
- Ring-Brief an Senator Markey (S31)
- Klageschrift Sigwalt v. Amazon (S33)
- Urteil Svoboda v. Amazon, 7th Cir. (S35)
- Conseil d'État 492830 (S24)
- 2025 Amazon Sustainability Report (S20, Zeichen 0–125567)
Recherche vom 3. November 2026 nach dem Regelwerk zum Globalance AI Footprint, Version 0