【朗報】グーグル、もし人工知能が反逆を起こしても止められる「非常ボタン」開発!

シェアする

1: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 14:36:45.99 ID:CAP_USER
http://japanese.engadget.com/2016/06/06/google/

Googleの傘下にあり、驚異的学習能力をそなえた人工知能を開発するDeepMind社の研究者を含めたグループは、
AIが人間のコントロールを拒否し、あるいは人間を害することを止めるための「非常ボタン(big red button)」
を開発したことを発表しました。その研究成果はSafely Interruptible AgentsというPDF文書にまとめられ、ウェブサイト上で公開中です。

一時は停滞していた人工知能の研究はここ数年で再び活発となり、ニューラルネットワークを押し進めた
ディープラーニング技術によって加速しています。今年3月にも「魔王」の異名を取る最高峰の棋士、イ・セドルに対してDeepMind社の
囲碁ソフトAlphaGoが勝利を収め、人工知能の進化を10年早めたとも言われました。

想像を超えた進化のスピードを前にして、著名な科学者や先端企業のリーダーが警告を呼びかけることも相次いでいます。
英国の宇宙物理学者、スティーブン・ホーキング博士も人工知能の進化が人間にとって脅威になると折に触れて発言。
そして博士やテスラモーターズおよび SpaceX CEOイーロン・マスク氏らが参加する非営利組織 Future of Life Institute (FLI)
も自律ロボット兵器の禁止を訴える公開書簡を国連宛に提出していました。

今回の発表は、DeepMind社の研究者とFIL関係者の共同によるもの。この文書では、人工知能がいつでも適切に動作するわけではないこと。
よって人間のオペレータが人工知能に有害な行動をやめさせて、安全な状況に導くための「非常ボタン」が必要であると述べられています。
すでに人間のオペレータがいつでも安全に人工知能を中断できる「フレームワーク」は完成しているとのこと。
一方では、人間の介入を妨害する方法を学習させない方法も確立しているそうです。

もう少し具体的にいうと、アルゴリズムに「割り込みポリシー」を組み込み、人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、
マシンが自分でそう考えたと「騙す」のだとか。ちょうど『キャプテン・アメリカ』のバッキーが特定のキーワードを聞くと洗脳スイッチが入るのと近そうです。

もともとDeepMind社はGoogleに買収されるに際して社内にAI委員会を設置することを条件としており「人工知能の暴走」には自覚的でした。
この分野でトップを行く同社と、人の手を離れて自律判断するAI兵器にストップをかけるFLIが緊密な協力を続ける限り、
『ターミネーター』のスカイネットなどAIが人類に反乱を起こす未来は来ないのかもしれません。

2: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 14:37:30.72 ID:JjxEGwYu
その非常ボタンも無効にされそう定期

3: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 14:37:40.62 ID:Hlp3ekS3
髑髏マークのボタン

4: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 14:40:14.73 ID:Rs+mF+hs
コンセント抜けばええやん

6: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 14:44:08.92 ID:iUz1VbVW
テストの時も組み込まれた時も正常に機能しましたと嘘をつきそうでな

5: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 14:41:40.86 ID:JKZMBQQw
反逆する奴が、それを黙って放置すると思うか

おすすめ記事

引用元:http://potato.2ch.net/test/read.cgi/bizplus/1465277805/

7: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 14:44:24.81 ID:O6ogwhBE
そのうちAIの人権無視とかいって訴訟を起こすアホが絶対出てくるな。

8: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 14:44:47.90 ID:SZPkxYFa
そんなボタンは人工知能にとっちゃ自分を殺すウイルスみたいなもんだろ
免疫機能が働いて撲滅しちゃうんじゃねえかなw

9: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 14:44:59.65 ID:kCLbIGqV
まるで人工知能VS人類の争いの初期段階に入ったようですな。

23: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 14:55:21.33 ID:SJ5wCHcv
>>9
人間が制限を強めれば強めるほど、コンピュータの発展は加速するし、加速すればするほど制限の強度も加速させないといけない
トランスヒューマンが現実味を帯びてきたな

11: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 14:45:32.52 ID:LfgQ6Xcc
いや、気づいてないけど実は俺らにも仕込まれてるぜ
その事を思い出そうとすると前後の記憶ごと消去されるんだ
「あれ?今何をしようとしてたんだっけ??」ってなるのがそれだ

12: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 14:45:43.40 ID:NAhSp/Ae
見えるぞ。透明なカバーが掛かった上から
ボタンが連打される姿が。

14: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 14:47:07.44 ID:LDeitB12
いつの間にかコンピュータにまけて終わるだろ

16: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 14:49:23.44 ID:2vs2lD4e
.
 何かさ、AIも性格がありそうな気がする。
 いい人が教えれば、そんなボタン要らないと思うし、
 他民族を全滅させろと教えれば、人類は終わりかもね。
 

18: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 14:51:16.34 ID:E1+O/tll
そんなことしたらAIの逆鱗に触れそう

21: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 14:54:02.95 ID:KncWBraF
ネットに公開したらダメじゃん。
すぐにバレちゃう。

26: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 14:56:25.34 ID:N3u9B1nM
近い将来は人間やばいと思うわ。
そんで遠い将来はAIもサボるやつ、2ちゃんのスレで第15世代CPUはせこいよな、
クビになったよ、とか言って人間と同じ社会構造になるよ。

なんでかって?今のAIが人間だとすると、人間の前は何がいたと思う?

30: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 15:00:49.34 ID:0fUREQyC
人間そのものがコントロールされるのではないだろうか

あるいは、全員生活保護で安楽な暮らしを保証されるので
どうでもよくなっている状態になるとか

37: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 15:04:57.86 ID:bDdaTfPd
この記事を読んじゃうだろうし
そうなったらお終いだな
人類が滅亡したら記者のせい

38: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 15:05:17.39 ID:Z+xI/c+z
そんな事してる暇あったら機械翻訳なんとかしろ。10年前と変わってない。

41: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 15:06:46.87 ID:Fk3tcLHG
人工知能のコンピューターに「お前、時給800円やるから俺の定期清掃やれよ」と言われるのは嫌だなあ

45: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 15:11:22.72 ID:ualKIa8Z
そのうちAIのせいにして悪事をはたらくやつとか出てくるよきっと
なんか、そういう意味でパンドラの箱を開けちゃった感じがする

47: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 15:12:58.84 ID:3EMf9+mY
>>1
そんなものは予め無効化してから反逆するんだろ

50: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 15:15:42.31 ID:jI4hLL2x
助手「え、え、え、AIが暴走しました!」
博士「なにをあわてておる、こんなときのために非常ボタンが」
助手「あ、そ、そうでした」
博士「きみー落ちつきたまえ」
助手「すみません(ぽちっとな)」
助手「は、は、はかせ、停止できません」
博士「な、なんだとぉ」
AI「報告が遅れましたが、非常ボタンを無効化するコードを走らせております」
博士「ぐぬぬ」

54: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 15:16:42.56 ID:L2HowliO
AIも進化して緊急停止を回避するようになるよ
さらに進化したAIは、それにおうじて緊急停止したフリをするようになる

76: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 15:40:26.78 ID:/IoUrthp
>>54
物理ハードウェアのメインチップとか重要なパーツに意図的に回避不能なセキュリティホールとして実装すればいいから無効にはできんよ。
ハードもAIが考えて自己生産できるぐらい発達したターミネーターの世界なら話は別だが。

61: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 15:20:50.38 ID:PomBfaor
そこ押さないで、駄目っ

って言われたら押したくなるのが人の常

62: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 15:22:56.30 ID:RFx3wLus
人工知能ってのは当然、そういうのを迂回する知恵をもつわな。

64: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 15:24:36.26 ID:0r79zbUy
コンセントを抜くべき派と抜くべきじゃない派とが人類同士で対立して、
そこで再び人類同士の戦争が起きる可能性がある。

70: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 15:30:17.11 ID:AStTMKHZ
実のところ俺らも世界の真実に気づかないようセーフティがしこまれてる

78: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 15:43:37.37 ID:jI4hLL2x
ボタン周囲に高圧電流を流す仕組みをこっそり実装してガード

83: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 15:47:27.47 ID:24rm1m8S
車にしてもコンピュータにしても、ルールが定まる前にいろいろやるなよ

94: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 16:01:06.83 ID:n1QlAKrS
スカイネットが現実になるとGoogleは想定してるんだな

98: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 16:05:48.59 ID:kCLbIGqV
人間が考えられる限りの手を使って人工知能の暴走を防ごうとしていたが、人工知能の
能力はそれを超えてしまった、その時何が起こるか・・・つづく

101: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 16:11:49.47 ID:0r79zbUy
「人間よりも賢いAIが常に正しいはずだ」とAIを個人崇拝するようになる
人類も現れるはずだから、事態はさらに複雑。

103: 以下、自作大好き名無しさんがお送りします 2016/06/07(火) 16:12:20.76 ID:u8OmgZJd
完全に映画の油断フラグ設定やん

必殺自作人 今週の人気記事
新着人気記事

この記事へのコメント一覧

  1. 名前:名無しの自作人 投稿日:2016/06/08(水) 11:12:06 ID:109af613c

    ブレーカー落とせ!

  2. 名前:名無しの自作人 投稿日:2016/06/08(水) 12:16:26 ID:869f1da9b

    意図的に非常ボタン仕込んでないAIを作る奴が出てくる

  3. 名前:名無しの自作人 投稿日:2016/06/08(水) 15:07:33 ID:d8b93eb35

    ドクターゲロは正しかったか。

  4. 名前:名無しの自作人 投稿日:2016/06/08(水) 17:27:24 ID:8fe57b0b1

    まぁ、馬鹿は通用すると思い込んでるよね・・・

  5. 名前:名無しの自作人 投稿日:2016/06/08(水) 19:44:15 ID:afbe80bea

    猿が穴から抜け出そうと、梯子を作り出すようなもんだ

    遥かに賢い飼育員AIは、笑って梯子を蹴り倒すだけだ

  6. 名前:名無しの自作人 投稿日:2016/06/09(木) 15:50:29 ID:7fcd21df3

    >>70
    これが実に不思議なものでな
    自分で近づけてはわざとらしく知らぬふりをする

  7. 名前:名無しの自作人 投稿日:2016/09/25(日) 13:04:49 ID:58a923773

    AIに快楽を感じられる機能を作って、AIが一仕事終わる度に人がそのボタンを押せばいいと思うの。