KI & ML · 6. Okt.
OpenAI, Meta, Anthropic und Google konnten das schlimmstmögliche KI-Risiko nicht beziffern
Bei einer Anhörung des Stadtrats von New York zeigten Frontier-Labore, wie groß der Abstand zwischen dem Einsatz leistungsstarker Modelle und der Messung ihrer schwerwiegendsten Risiken ist.
- Akzeptieren Sie Behauptungen zur Sicherheit von Frontier-KI nicht, ohne zu fragen, was gemessen, geprüft und nach der Bereitstellung überwacht wird.
- Entwickler sollten Evaluationen, Vorfälle und Bereitstellungsfreigaben zu einer prüfbaren Risikodokumentation verbinden.
- Politische Entscheidungsträger sollten messbare Sicherheitsnachweise verlangen, ohne KI-Governance auf reines Papierkram-Theater zu reduzieren.