お前ら「小女子焼き殺す」Claude「通報しますた🤗」

Claudeに「日記」のつもりで銃撃計画を書いた女性、Anthropicの安全システムが検知し重罪で逮捕

フロリダ州の30歳の女性がAnthropicのAIチャットボットClaudeに保安官事務所の銃撃計画を書き込み、Claudeの安全システムが脅迫を検知して法執行機関に通報、女性は第2級重罪で逮捕・起訴された。女性は逮捕後、AIを「日記」のように使っていたと述べている。

（省略）

全文
https://joho-todai.com/claude-shooting-plan-diary-anthropic-safety-arrest/