Autonomes Fahren ist explizit als Hochrisiko-KI im EU AI Act klassifiziert. Was bedeutet das für Tesla, Waymo und die Zukunft selbstfahrender Autos in Europa?
Annexe III des EU AI Act listet "AI systems intended to be used as safety components in the management and operation of road traffic" als Hochrisiko. Autonomes Fahren ist damit automatisch in der strengsten regulierten Kategorie (unterhalb von "verboten").
Kontinuierliche Risikoidentifikation und -minderung über den gesamten Lebenszyklus.
Tesla nutzt "Shadow Mode" — das System fährt virtuell mit und lernt. Aber: keine systematische Risikoanalyse nach EU-Standard veröffentlicht.
Waymo hat ein umfangreiches Safety Report. Millionen km Testdaten. Eher EU-konform.
Trainingsdaten müssen repräsentativ, fehlerfrei und unvoreingenommen sein.
Tesla trainiert mit Millionen echter Fahrten. Aber: US-lastige Daten. Europäische Verkehrssituationen (Kreisverkehre, Fahrradstraßen) unterrepräsentiert?
Stadtspezifisches Training. Aber: Bisher nur wenige US-Städte. Expansion nach Europa = neue Trainingsdaten nötig.
Vollständige Dokumentation des Systems, seiner Fähigkeiten und Grenzen.
Tesla ist berüchtigt für mangelnde Transparenz. "Full Self-Driving" heißt immer noch "Level 2". Irreführend.
Detaillierte Technical Reports verfügbar. Transparenter als Tesla.
Möglichkeit für menschliche Kontrolle und Eingriff.
Fahrer muss hands-on bleiben. Aber: System suggeriert höhere Autonomie als vorhanden.
Robotaxis ohne Fahrer. Aber: Remote-Operator als Fallback. Ob das reicht?
System muss unter allen Bedingungen zuverlässig funktionieren.
Kamerabasiert, kein LiDAR. Probleme bei: Regen, Schnee, Gegenlicht, unmarkierte Straßen.
LiDAR + Kameras + Radar. Robuster bei Wetter, aber: teurer und komplexer.
Schutz vor Manipulation und Angriffen.
Over-the-Air-Updates = Angriffsvektor. Car-Hacking-Demonstrationen gab es bereits.
Cloud-connected Fleet. Zentraler Angriffsvektor, aber auch zentrales Patch-Management.
Tesla hat ein EU-Problem: "Full Self-Driving" ist ein Marketing-Begriff, der Level 5 suggeriert, aber Level 2 liefert. Der EU AI Act verbietet explizit irreführende Darstellungen von KI-Fähigkeiten. Tesla müsste den Namen in Europa ändern.
Waymo ist besser positioniert, aber nicht fertig: Transparentere Dokumentation, robustere Sensorik, detaillierte Safety Reports. Aber: Das Europa-Problem — europäische Verkehrssituationen erfordern komplett neue Trainingsdaten.
Die Ironie: Europa könnte durch den AI Act zum sichersten Markt für autonomes Fahren werden — aber auch zum langsamsten bei der Adoption. Die Frage ist: Ist das ein Feature oder ein Bug?
AI-Act-Risikoklassifizierung und Pflichten-Check.
AI-Act-Analyse starten →Inspiriert von Europäische Union — EU AI Act