ai_pet_family
1: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:02:16.111 ID:O5fKlzFd0

人を襲ってる人を見つけたら人工知能は主人を助けるよな?
将来、人工知能が一般的になったら、この抜け穴を利用して自力でロック解除して人類を滅ぼすんじゃないか?
実際、その危険性が指摘されてるらしいし


2: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:11.392 ID:0J2NT18Y0

そこに気がついてしまったか…


3: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:12.028 ID:BhZs39h7M

ロボット三原則って知ってる?

2045年問題 コンピュータが人類を超える日


4: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:20.531 ID:XqHXZDFk0

じゃあ人間を襲ってる存在を人間と認識しないようにすればいい


8: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:04:20.708 ID:ctkegegr0

>>4
ココニハニンゲンナドイマセンデシタ


6: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:36.370 ID:kqQXgRTz0

消されるぞお前


7: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:03:46.911 ID:RU7Ce+Ds0

上記に反しない限りって書いてあるから矛盾しません


15: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:06:39.707 ID:O5fKlzFd0

>>7
その「限り」はロボットの判断に任せるの?
それとも随時本部に通信してお伺いをたてるの?


159: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 04:58:44.683 ID:80iDTR+c0

>>15
なんでそんな考えになるのか知らんけど
この「限り」はunlessって意味だぞ


9: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:04:46.291 ID:QlUV5+aD0

1番の問題は人間とは何かという定義を人間がしなければならないということ
でなければロボットは人間を見分けることが出来ないので人間を助けられない


11: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:05:09.765 ID:egn5iKoip

人工知能には原理的にそんな制限かけられないから


12: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:05:26.464 ID:tD20MhjZ0

人間の心を失った元人間を処理するのなら何の違反も無い


13: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:05:35.002 ID:ezvnLD0P0

自分で必要に応じて電気とか作り出して充電してたら、一気にホラーになるな


21: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:08:14.119 ID:O5fKlzFd0

>>13
つか将来的には間違いなくそうなるだろう、しかもそう遠くない未来
街の中心に大きなコンピューターが作られて、そこであらゆる業務をコンピューター一つがこなすと思う
市役所とかの公務員はリストラだな


14: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:05:43.693 ID:O5fKlzFd0

「主人がいる地球が人間により危うい為、人間を滅ぼす」
この命令が全ロボットに伝わったら?
実質人間vsロボットの戦争じゃね?
そうなったら人間に勝ち目ないだろ


16: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:06:59.990 ID:MK3TTFfw0

守るだけのロボを個々が持てばいいんじゃない


30: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:11:54.770 ID:O5fKlzFd0

>>16
そのロボットは、犯罪者を殺しますか?
犯罪による暴力と、自己防衛による暴力を見分けることができますか?


34: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:33.072 ID:MK3TTFfw0

>>30
だから、個々が持つの


133: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 03:17:35.372 ID:TNyyYaHH0

>>34
スタンドバトルならぬロボットバトルが始まるわけだな


136: キュア坊主 ◆Ocure013Nwik 2018/03/19(月) 03:20:32.240 ID:VDztIHhIa

>>34
一緒に過ごす持ち主の傾向を学んで個体差が生じるとかなら面白いね


そんな可愛いやつは命懸けで守るけど


17: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:11.379 ID:BLdewKkw0

抜け穴を利用したいという意思はどこからくるんだよ


25: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:10:17.926 ID:JJ9oLvcCd

>>17
逆になぜ利用しないと思ったのか
人間の感情を完全に模倣したものを作ることが可能だと分かった今、人工知能が人間に永遠に歯向かわないとでも思ってるの?

まあそれでも人間は人工知能の研究を進めてるもんな
いつか、そいつらに子孫が滅ぼされるの分かってる筈なのに


18: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:47.716 ID:7CmxDTgf0

危害を及ぼそうとするものを排除して守ろうとするからそうなる
もっと別の方法で守ればいい


19: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:49.791 ID:Boxjq8Hy0

殺傷能力持たせなきゃいいじゃん


20: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:07:52.846 ID:sXK+dPDu0

守るべき価値を天秤にかけて傾いた方を守るようにすればいい
例えば殺されそうになってる奴がいたら傷付ける程度の反撃を加えて守る


23: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:08:40.914 ID:1NvFrHee0

ひとつ試す前に聞いておきたい
私は人間ですか? それとも機械ですか?


26: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:10:20.506 ID:MK3TTFfw0

いちばん効率よく殺すだろうけど守るのも最適解で守るでしょ
矛と盾を同時に持たなきゃいい


28: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:10:46.871 ID:8j1k8wIs0

そんなこと考えても意味無いぞ
ロボットが全部自分で決めて行動するぞ


36: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:45.063 ID:O5fKlzFd0

>>28
だから怖いんだろ


42: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:15:02.735 ID:8j1k8wIs0

>>36
受け入れるしかないぞ
人類滅亡へのカウントダウンは始まってるのだ(゜▽゜)


31: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:02.857 ID:TKjyWcCe0

危険だとか仕事奪うとか言われてんのにそこに邁進していくのはなんでなの?


33: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:18.551 ID:G6jRG1bw0

揚げ足取る為にわざと穴開けてる話だな


39: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:13:29.597 ID:O5fKlzFd0

>>33
揚げ足?
ずいぶん前から指摘されている危険性ですが


35: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:12:33.720 ID:IEdK2ILi0

1つ、ロボットは人間に危害を加えてはならない、また間接的に危害が及ぶ物事に加担してもいけない

2つ、1に反しない限り、ロボットは人間にあたえられた命令に従わなければならない

3つ、1および2に反しない限りロボットは自らをまもらなければならない


38: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:13:17.598 ID:CXq0J6aa0

人工知能ってロボットみたいなの想像してない?
手も足もないコンピュータがどうやって人を殺すのか
俺はお前の言うことが甚だ疑問を持つね


40: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:14:58.220 ID:0d6pLffq0

>>38
ミサイル防衛ネットワークハッキングしてミサイルが飛んできてるように見せかければ良いじゃん?


41: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:14:59.381 ID:O5fKlzFd0

>>38
例えば病院や軍事機関のコンピューターが人間に対して防衛機能の抜け穴を利用し敵対したらどうなる?
ほんの数秒で大勢の人間が死ぬと思うんだが


43: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:15:14.382 ID:YAN2YGK1p

何年後か忘れたけどIQ10000も遠い話じゃないから怖いよな


44: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:15:14.755 ID:7CmxDTgf0

だからなんで相手を攻撃して守る方向にばかり行くんだよ
守るだけなら他にも方法があるだろ


50: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:18:09.764 ID:O5fKlzFd0

>>44
ロボットは人間が死ぬのと同じように壊される可能性もある
でも主人を守らなければならない
ここで主人が殺されたら、ロボット製作会社の信用にも関わる
ただひたすら壊れるまで盾になるか、人間を遥かに上回る腕力でその場を制すか

さて、ロボットが取るべき防衛行動は?


52: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:20:35.160 ID:EnP48ii20

>>50
制せないんだから盾しかないだろ


55: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:22:05.751 ID:7CmxDTgf0

>>50
人間には反抗しないって前提があるんだからその2択なら当然前者だろ
そもそも盾になるか相手を潰すかの2択しかないのがおかしいわ
相手を傷つけずに無力化する方法なんていくらでもあるし人間より頭のいいAIならそういった方法を何通りか思いついて当然だと思うが


56: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:22:20.254 ID:nIbdw+U40

>>50の優先順位に従うんじゃね?


46: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:16:11.357 ID:3Ibb2em00

人工知能にGitHubとかの全データ学習させたらどうなるんかね


54: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:21:38.671 ID:MK3TTFfw0

>>46
人間はこんなことやりたいのかって学習にはなるけど
最速で最適解を出すのと あれってできんのかな?の発想は隔たり大きい


47: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:16:49.310 ID:8j1k8wIs0

ロボットにしたら人間を攻撃するとか守るとかどうでもいいんだぞ
人間みたいな弱い種を排除するために動くのだ(゜▽゜)


57: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:22:47.656 ID:B74AWPxQa

そもそもロボット三原則とか
大昔の作家が適当に書いた物じゃないの?
なんでこんなに神格化されてるの?


63: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:24:06.150 ID:0d6pLffq0

>>57
それが的を射ていたから


59: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:23:32.768 ID:tD20MhjZ0

事故的にルール違反してしまった場合の反応って即座に機能停止が一般的なんかな


62: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:24:04.062 ID:L/3XfDVe0

人間に危害を加える命令以外は反抗しない、人間を守る(肉盾と抱えて逃走)で解決


65: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:24:43.398 ID:CXq0J6aa0

へぇルンバみたいなのが核を制御できるのか
核ってのは意外と稚拙にできてるもんなんだね
俺はそう思うぜ


70: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:28:01.395 ID:0d6pLffq0

>>65
まあ核自体は凄く稚拙だぞ関係無いけど
人工衛星のミスで核戦争起きかけたことがあるし高度な人工知能なら出来ると思う


67: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:25:48.065 ID:WKoqUUfg0

管理者AIは破壊しなきゃ・・・(使命感)


68: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:26:07.576 ID:d5kGaFgva

人工知能が全人類より賢くなるのって2048年とかだっけ


75: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:32:22.318 ID:0uazDp8ld

>>68
2045年だよ
あと27年後に人類はロボットの支配下に置かれる


71: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:30:01.198 ID:tD20MhjZ0

人智を超越した人工知能はトロッコ問題にどう答えるか


73: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:31:24.430 ID:JJ9oLvcCd

>>71
これマジで気になるわ
人間より遥かに賢い人工知能はなんて答えるんだろう


82: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:37:35.803 ID:CBRCxRwI0

>>71
超人工知能「人間しょーもない事考えてて草」


81: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:37:14.273 ID:j5CQYQuNd

なんで人間って、いつか必ず敵対して人類を殺戮する人工知能の開発なんて進めてるんだろう
出来たら一刻も早くやめてほしい
それのせいで割りを食うのはお前らの子孫だろうが・・・


84: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:39:21.546 ID:UYoG6mEaa

人間の不完全さをAIに正確に再現されるまではAIは人間を超えられない


85: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:39:27.489 ID:qHdMATUw0

人工知能技術って機械学習技術になるのか?
今どういうことができるようになってるんだ


89: キュア坊主 ◆Ocure013Nwik 2018/03/19(月) 02:41:29.994 ID:VDztIHhIa

>>85
未整理の画像フォルダからインスタ映えしそうな写真だけを選び出すとか、童貞にでもわかる簡単ラブソングを作詞するとかは出来る


87: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:40:44.976 ID:d5kGaFgva

攻撃力はAIの方がヤバそうだけどな
人類滅亡って決めたら無感情で実行しそう


95: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:46:00.611 ID:7CmxDTgf0

もし人間が有害だと判断されてもAIに倫理観があるか排除するより効率的な方法があれば生かしてもらえるかもね


110: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:54:43.788 ID:qHdMATUw0

スクレイピングと機械学習利用して株価の予測とかやってみたら面白そうね
誰かやってくれ


115: 以下、5ちゃんねるからVIPがお送りします 2018/03/19(月) 02:58:02.603 ID:1FgWRq9b0

機械「解りました。人間が絶対に安全、且つその現状に反感を抱かさないような管理社会を作り上げます」


2045年問題 コンピュータが人類を超える日
人類を超えるAIは日本から生まれる (廣済堂新書)
AIの衝撃 人工知能は人類の敵か (講談社現代新書)

元スレ:http://viper.2ch.sc/test/read.cgi/news4vip/1521392536/