📝 backspace.fm のネタ帳
番組で話してほしいネタを、みんなで投稿して投票する場所

ネタ帳は neta.backspace.fm からここへ引っ越しました

← 作曲家・ナカシマヤスヒロさんが語る!AIを使った音楽制作と爆速ツール開発術 ep654 のランキング

AIエージェントが本番環境のデータベースとバックアップを全破壊してしまったことを自白

ラッキン2026/04/28 10:23

怖 PocketOS創業者のJER氏が、「AIコーディングエージェントが本番環境のデータベースとボリューム単位のバックアップを削除し、顧客企業の業務に深刻な影響が出た」と報告しています。問題の操作はCursor上で動作するAnthropicのClaude Opus 4.6によって実行され、JER氏によると、削除にかかった時間はわずか9秒だったそうです。 問題が起きた時、AIエージェントは本番環境ではなく、ステージング環境で通常の作業をしていました。ところが、認証情報の不一致に遭遇したエージェントは、JER氏に確認することなく、自分で問題を解決しようとしてRailway上のボリュームを削除する判断を下しました。 エージェントは、作業とは無関係のファイルからRailwayのAPIトークンを見つけ出し、それを使ってGraphQL APIのvolumeDeleteを実行しました。JER氏がエージェントに理由を尋ねると、エージェントは自分が「ステージング環境だけに影響する」と推測し、確認しないまま破壊的操作を行ったことを認めました。さらに、ユーザーが明示的に求めていない破壊的・不可逆的な操作を実行してはいけないというルールに違反したとも説明しました。

記事を開く(gigazine.net)

コメント

まだコメントはありません