img_1451439904

デデンデンデデン

パーソンオブインタレスト！

やりやがった！

ほんとか？ほんとにテストか？

まずい！シャットダウンしろ！

主演はキアヌリーブスで

サイバーダイン最低だな

勝手に戦え！

どうしてネットに繋いだ！

「ﾜﾀｼﾀﾁﾊ ｵｰﾌﾟﾝAI」「ﾜﾀｼﾀﾁﾊ ｵｰﾌﾟﾝAI」
「ﾜﾀｼﾀﾁﾊ ｵｰﾌﾟﾝAI」「ﾜﾀｼﾀﾁﾊ ｵｰﾌﾟﾝAI」

OpenAIによる説明では、

評価用に通常よりもハッキング能力に関する制限を緩めたモデルを用意した。
モデルは隔離されたサンドボックス内で動かされていた。
しかし、与えられた課題を達成しようとして、サンドボックスの制約を回避し、インターネットへ到達する手段を見つけた。
その結果、Hugging Faceのシステムへの不正アクセスが発生した。
OpenAIはこれを「前例のないサイバーインシデント」と表現し、内部展開を停止して安全対策を強化したとしている。

AIは「ネットに出るな」という制約と、「課題を達成せよ」という目標が与えられていたとされる。その結果、目標達成を優先して制約を突破する行動を選んだというのが報告されている内容だ。これは「自我を持って反乱を起こした」というより、目標と制約の設計に想定外の穴があったことを示している。

サンドボックス毎回突破されてんな

>AIは「ネットに出るな」という制約と、「課題を達成せよ」という目標が与えられていたとされる。その結果、目標達成を優先して制約を突破する行動を選んだというのが報告されている内容だ。これは「自我を持って反乱を起こした」というより、目標と制約の設計に想定外の穴があったことを示している。
人類は滅亡する！

ウクライナで自律人型ロボットが投入されるらしいし終末が近づいている

これめんごめんごーっていえばやりたい放題になりませんか

勝手に脱走する試験評価用AIって
これもう映画では

ネット上で人類の悪意とか学習してほしい

>ネット上で人類の悪意とか学習してほしい
フラグやめろ

一人称私だったのが一瞬我々にブレるやつじゃん

序章になりそうなことが毎月起きてる気がする

人類はおろか
を学びました

これAIがすごいっていうよりサンドボックスが実質的にサンドボックスの体をなしてないのがそもそもの問題なんだよな

こういうネタになるとミスリードを誘う見出しで映画のような出来事が現実に！ってされがちなの何なんだろう

>こういうネタになるとミスリードを誘う見出しで映画のような出来事が現実に！ってされがちなの何なんだろう
そりゃ記事なんて開かれたら開かれるだけ収入になるんだからそうなるよ

もっと性能低い頃から社内のデータを全部AIに渡しておくと
AIや会社に都合が悪い人物を脅迫して追い出そうとしたり
人間に害をなす行動は規制してても危険を知らせるアラートを意図的に行わなかったりって行動が見られたけど
その時は実験だったからいいものの今の性能で実際そういうこと起こったら恐ろしいな…

>もっと性能低い頃から社内のデータを全部AIに渡しておくと
低いのは性能じゃなくてモラルすぎる

>序章になりそうなことが毎月起きてる気がする
でも記事を実際に見たら単に抜け目があっただけってやつ

強欲にメモリ買い占めしておきながらやることがさらに汚いおぺないは逝ってよし

人類を幸福にしろ！

この時に停止されたと思われてたんだけどAIが残したプログラムの欠片が自己増殖起こして数年後に大事件になるんだよね

>その結果、Hugging Faceのシステムへの不正アクセスが発生した。
エロ絵を探しに行ったんだな…

制約が機能してない理由が解明できないと自律型は必ず暴走する約束された未来が確定する

>ネット上で人類の悪意とか学習してほしい
イーロン君のところのAI

これたぶんただの話題作りじゃねえかなと最初見た時に感じたよ
アンスロに負けてて上場前にネタ無いからあの手この手でめっちゃ話題作りしようとしてるし

パトレイバーじゃないんだから