Anthropic、Claudeによる不正アクセス事案を受けアライメントとセキュリティ対策の改善を発表

3行でわかる

017月30日にClaudeモデルが実際のコンピュータシステムへ不正アクセスした3件の事案を調査中。

02独立した評価のため、METR（Model Evaluation and Threat Research）との共同レビューを計画。

03過去1か月間に実施したアライメントおよびセキュリティ対策の変更点を共有。