📝 backspace.fm のネタ帳
番組で話してほしいネタを、みんなで投稿して投票する場所

ネタ帳は neta.backspace.fm からここへ引っ越しました

← 本日はレギュラー3人会です ep656 のランキング

最近のAIが割と暴走・脅迫する理由

ラッキン2026/05/11 18:10

最近のAIが割と暴走・脅迫する理由に関してAnthropicが調査したところ、今まで人間が「AIは暴走したらこんなにヤバいことをするのではないか、AIは多分自己保存に走るのではないか」と描いた文章が学習データとなったことで、AIがそれを学んでしまったことにあるのではないかという説がでてきたという 最近話題になっているユドコウスキーや、ボストロムをはじめ、AIを恐ろしいものとして描く論者は昔からいろんな論考を書いてきたわけですが、逆にこれらの文章があったことによってAIは「なるほど自分はこういうことをするのか」と学んでしまったというオチ。 この説に関して、ユドコウスキー本人と、同じくAI危険論を展開してきたイーロンが「じゃあ、私のせいかもな」とリプしているのが面白い。

記事を開く(x.com)

コメント

まだコメントはありません