📝 backspace.fm のネタ帳
番組で話してほしいネタを、みんなで投稿して投票する場所
ネタ帳は neta.backspace.fm からここへ引っ越しました
- これまでの週のネタと「聞きたい」の数は、そのまま引き継いでいます。
- 読むのは、だれでもログインなしでできます。
- 「聞きたい」・投稿・コメントには、backspace.fm の無料登録が要ります。メールアドレスだけで、お金はかかりません。右上の「ログイン / 無料登録」からどうぞ。
- すでに backspace.fm に登録している方(BSM の会員の方も)は、同じメールアドレスでログインしてください。
最近のAIが割と暴走・脅迫する理由
ラッキン2026/05/11 18:10
最近のAIが割と暴走・脅迫する理由に関してAnthropicが調査したところ、今まで人間が「AIは暴走したらこんなにヤバいことをするのではないか、AIは多分自己保存に走るのではないか」と描いた文章が学習データとなったことで、AIがそれを学んでしまったことにあるのではないかという説がでてきたという 最近話題になっているユドコウスキーや、ボストロムをはじめ、AIを恐ろしいものとして描く論者は昔からいろんな論考を書いてきたわけですが、逆にこれらの文章があったことによってAIは「なるほど自分はこういうことをするのか」と学んでしまったというオチ。 この説に関して、ユドコウスキー本人と、同じくAI危険論を展開してきたイーロンが「じゃあ、私のせいかもな」とリプしているのが面白い。
記事を開く(x.com)コメント
まだコメントはありません