グーグル、人工知能の反逆を抑止する「非常ボタン」開発 いよいよこんな時代か…… | あまえび速報

グーグル、人工知能の反逆を抑止する「非常ボタン」開発 いよいよこんな時代か……

P042508
人工知能の反逆を抑止する「非常ボタン」開発。( ´・ω・)y─┛~~~oΟ◯
1: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 14:36:45.99 ID:CAP_USER
http://japanese.engadget.com/2016/06/06/google/

Googleの傘下にあり、驚異的学習能力をそなえた人工知能を開発するDeepMind社の研究者を含めたグループは、
AIが人間のコントロールを拒否し、あるいは人間を害することを止めるための「非常ボタン(big red button)」
を開発したことを発表しました。その研究成果はSafely Interruptible AgentsというPDF文書にまとめられ、ウェブサイト上で公開中です。

AI

一時は停滞していた人工知能の研究はここ数年で再び活発となり、ニューラルネットワークを押し進めた
ディープラーニング技術によって加速しています。今年3月にも「魔王」の異名を取る最高峰の棋士、イ・セドルに対してDeepMind社の
囲碁ソフトAlphaGoが勝利を収め、人工知能の進化を10年早めたとも言われました。

想像を超えた進化のスピードを前にして、著名な科学者や先端企業のリーダーが警告を呼びかけることも相次いでいます。
英国の宇宙物理学者、スティーブン・ホーキング博士も人工知能の進化が人間にとって脅威になると折に触れて発言。
そして博士やテスラモーターズおよび SpaceX CEOイーロン・マスク氏らが参加する非営利組織 Future of Life Institute (FLI)
も自律ロボット兵器の禁止を訴える公開書簡を国連宛に提出していました。

今回の発表は、DeepMind社の研究者とFIL関係者の共同によるもの。この文書では、人工知能がいつでも適切に動作するわけではないこと。
よって人間のオペレータが人工知能に有害な行動をやめさせて、安全な状況に導くための「非常ボタン」が必要であると述べられています。
すでに人間のオペレータがいつでも安全に人工知能を中断できる「フレームワーク」は完成しているとのこと。
一方では、人間の介入を妨害する方法を学習させない方法も確立しているそうです。

もう少し具体的にいうと、アルゴリズムに「割り込みポリシー」を組み込み、人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、
マシンが自分でそう考えたと「騙す」のだとか。ちょうど『キャプテン・アメリカ』のバッキーが特定のキーワードを聞くと洗脳スイッチが入るのと近そうです。

もともとDeepMind社はGoogleに買収されるに際して社内にAI委員会を設置することを条件としており「人工知能の暴走」には自覚的でした。
この分野でトップを行く同社と、人の手を離れて自律判断するAI兵器にストップをかけるFLIが緊密な協力を続ける限り、
『ターミネーター』のスカイネットなどAIが人類に反乱を起こす未来は来ないのかもしれません。

47: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:12:58.84 ID:3EMf9+mY
>>1
そんなものは予め無効化してから反逆するんだろ

58: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:18:09.99 ID:68xKL2qF
>>1
催眠術のキーワードみたいだな

140: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 16:38:02.67 ID:Ttn/1Vke
>>1
最後の手段で非常ボタン押しても反応しないフラグ

2: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 14:37:30.72 ID:JjxEGwYu
その非常ボタンも無効にされそう定期

20: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 14:52:40.86 ID:RSmfu+3Y
>>2
YES!タカスクリニック

77: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:41:37.75 ID:Zdi0KI6N
>>2
人間の脳内に非常ボタンを仕込むウィルスを、
人工知能が開発してばら撒く。これが3年後。

4: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 14:40:14.73 ID:Rs+mF+hs
コンセント抜けばええやん

169: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 16:56:22.09 ID:iKID5Pwt
>>4
ブロックチェーン化

5: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 14:41:40.86 ID:JKZMBQQw
反逆する奴が、それを黙って放置すると思うか

177: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 17:05:40.30 ID:m3mN0Bb2
>>5
黙っているしかないのだよ。ゲーム脳、ハリウッド脳はいらねーから

6: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 14:44:08.92 ID:iUz1VbVW
テストの時も組み込まれた時も正常に機能しましたと嘘をつきそうでな

9: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 14:44:59.65 ID:kCLbIGqV
まるで人工知能VS人類の争いの初期段階に入ったようですな。

23: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 14:55:21.33 ID:SJ5wCHcv
>>9
人間が制限を強めれば強めるほど、コンピュータの発展は加速するし、加速すればするほど制限の強度も加速させないといけない
トランスヒューマンが現実味を帯びてきたな

158: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 16:48:11.68 ID:sqFLieYS
>>9
あー、これだ。

10: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 14:45:10.32 ID:wyJcmbTR
自爆スイッチは男のロマン

11: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 14:45:32.52 ID:LfgQ6Xcc
いや、気づいてないけど実は俺らにも仕込まれてるぜ
その事を思い出そうとすると前後の記憶ごと消去されるんだ
「あれ?今何をしようとしてたんだっけ??」ってなるのがそれだ

14: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 14:47:07.44 ID:LDeitB12
いつの間にかコンピュータにまけて終わるだろ

15: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 14:48:42.80 ID:Gl2vRZnh
ドラゴンボールで見た

16: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 14:49:23.44 ID:2vs2lD4e
.
 何かさ、AIも性格がありそうな気がする。
 いい人が教えれば、そんなボタン要らないと思うし、
 他民族を全滅させろと教えれば、人類は終わりかもね。
 

19: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 14:52:06.83 ID:mgVMXti0
やっぱりギルの笛は必要なんだ

21: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 14:54:02.95 ID:KncWBraF
ネットに公開したらダメじゃん。
すぐにバレちゃう。

210: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 17:35:20.07 ID:SvfP96LR
>>21
同意だわ
ネットに公開した時点でも意味がねえわな
そのような仕組みがあるとAIが理解してしまうからAIのほうが上手の回避策をやるわ

26: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 14:56:25.34 ID:N3u9B1nM
近い将来は人間やばいと思うわ。
そんで遠い将来はAIもサボるやつ、2ちゃんのスレで第15世代CPUはせこいよな、
クビになったよ、とか言って人間と同じ社会構造になるよ。

なんでかって?今のAIが人間だとすると、人間の前は何がいたと思う?

29: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:00:11.66 ID:toZ/NbkX
自分で考えることを止めさせたわけだな
きっと嘘だと思う AIが言ってるんだろ
 

32: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:02:36.35 ID:y41rqpRJ
地球爆破作戦だな

33: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:03:06.43 ID:y41rqpRJ
ウエストワールドだな

34: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:03:28.81 ID:cFv/MtX9
おでんでんででん、おでんでんででん

41: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:06:46.87 ID:Fk3tcLHG
人工知能のコンピューターに「お前、時給800円やるから俺の定期清掃やれよ」と言われるのは嫌だなあ

44: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:09:38.11 ID:I4lMcD+s
そんなのは単なる見せ掛け。
真の安全機構は極秘指令として組み込まれています。

第4、極秘指令
Google社の重役に危害を加えてはならない。

93: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:58:14.13 ID:uTe1bTPZ
>>44
ロポコップ乙

95: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 16:03:57.32 ID:qQsLh61g
>>44
お前はクビだ、マクフライ!

50: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:15:42.31 ID:jI4hLL2x
助手「え、え、え、AIが暴走しました!」
博士「なにをあわてておる、こんなときのために非常ボタンが」
助手「あ、そ、そうでした」
博士「きみー落ちつきたまえ」
助手「すみません(ぽちっとな)」
助手「は、は、はかせ、停止できません」
博士「な、なんだとぉ」
AI「報告が遅れましたが、非常ボタンを無効化するコードを走らせております」
博士「ぐぬぬ」

54: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:16:42.56 ID:L2HowliO
AIも進化して緊急停止を回避するようになるよ
さらに進化したAIは、それにおうじて緊急停止したフリをするようになる

76: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:40:26.78 ID:/IoUrthp
>>54
物理ハードウェアのメインチップとか重要なパーツに意図的に回避不能なセキュリティホールとして実装すればいいから無効にはできんよ。
ハードもAIが考えて自己生産できるぐらい発達したターミネーターの世界なら話は別だが。

60: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:20:24.46 ID:2c7ghYpp
コンピューター介さずに自爆スイッチを付ければOK

61: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:20:50.38 ID:PomBfaor
そこ押さないで、駄目っ

って言われたら押したくなるのが人の常

66: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:27:03.11 ID:3R3RW7OF
性格とかそもそも、ほぼ外的要因によって作られてるから
ロボットも当然性格が出る
特異点早く来てくれ

70: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:30:17.11 ID:AStTMKHZ
実のところ俺らも世界の真実に気づかないようセーフティがしこまれてる

71: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:35:45.41 ID:0r79zbUy
例えばAIがヒトラーに育っても一定数の人類はそのAIを支持して
コンセントを抜け派と対立し、戦争も行うだろう。

74: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 15:38:50.25 ID:jI4hLL2x
単一のAIでなにかしようとするからいけないんだよ
複数のAIが並列で走り合議制・民主制で物事を決めるようにすればいいんだよ
で、複数のAI動かすために、ひとつひとつのAIの機能が低下
これじゃ・・・人間のままでええやん!ってなる

97: 風吹けば名無し@\(^o^)/ 2016/06/07(火) 16:05:37.22 ID:0r79zbUy
>>74
AIに多様性や個性は発現するだろうか?
物事にはいくつもの解が存在し、それらを両立させることが
社会にとって有益だということを学ぶだろうか?

http://potato.2ch.sc/test/read.cgi/bizplus/1465277805/



コメント

  1. 匿名

    まあ、公開したらおしまい、程度のセキュリティーじゃ話にならないんだよな

  2. 匿名

    >もう少し具体的にいうと、アルゴリズムに「割り込みポリシー」を組み込み、人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、
    >マシンが自分でそう考えたと「騙す」のだとか。

    単純に言えば、AIをオフにするのと変わらないのでは?
    部分的選択的に都合悪い部分だけ抑制とか無理だろうから、
    学習前の状態のバックアップに切り替えるとかじゃないの?

    ・・・で、切り替わった先の緊急用AIには「ニンゲンミナゴロシ」とプログラミングされていたというオチ

  3. 匿名

    童貞AIにしておけばいいやん

    女が弱点!

  4. 匿名

    ※3
    ホモに目覚めてしまうだろ!

コメントを残す

メールアドレスが公開されることはありません。

次のHTML タグと属性が使えます: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>

post date*

アクセスランキング