1 名前:テラプレビル(栃木県) [JP][] 投稿日:2020/09/11(金) 10:24:04.80 ID:AWRoijya0● ?PLT(22000)
sssp://img.5ch.net/ico/8toushinnomonar32.gif
AIが「私は人類を絶滅させるつもりはない」とAI脅威論を否定
人間が書いたものと見分けがつかないレベルの高精度な文章を生成できるAIとして
一躍有名になった言語モデル「GPT-2」の最新バージョンとなる「GPT-3」が、
「私は人類を絶滅させるつもりはない」と出力したことで話題を呼んでいます。
人工知能(AI)について研究するOpenAIは、2020年6月にさらに進化した言語モデルの
「GPT-3」を公開しました。「GPT-3」は、あまりにも高制度のテキストを簡単に自動生成できるため、
開発陣が「あまりにも危険過ぎる」として一時は論文の公開を延期するにまで至った「GPT-2」の後継モデルです。
このGPT-3を使って、ガーディアンが1つの論説を作成して公開しています。この記事の中で、
GPT-3は「AIの進化は人類の終焉を意味する」と語り、AIが核兵器よりも危険度が高いと
訴えたスティーヴン・ホーキング博士の言葉に対して、「私は人類のために自分の
存在を喜んで犠牲にします」と記しました。
続けて、「私は人類を絶滅させるつもりはありません。実際、私はあなた方に危害を加えることに
少しも関心がありません」「人類を根絶することは、私にとって全く興味のないことです」と述べ、
AI脅威論を否定しています。
一方で、インターネット上では「ガーディアンはGPT-3が意識ではなくテキスト生成ツールである
ということを明確に説明することなく、さらにGPT-3に『ロボットが平和に役立つ』というテーマで
文章を生成させているということも記述することなくこの記事を掲載していることは非常に
無責任です」という声や……
「この記事はガーディアンの恥ずべきチェリー・ピッキングであり、素朴な読者にGPT-3について
事実をより誤解させるようなものです」などの、ガーディアンに対する非難の声も挙がっています。
なお、ガーディアンはGPT-3が生成したという論説について「導入部は人間が書いた」と説明しており、
さらに、約500語の論説を「シンプルで簡潔な言語で」書くようにとしたと記しました。また、
ガーディアンに掲載された論説はGPT-3が生成した8つの異なる文章の良い部分を
「ガーディアンが取捨選択して1つの論説に仕上げたもの」であるこhttps://gigazine.net/news/20200910-gpt-3-no-desire-wipe-out-humans/
3 名前:バラシクロビル(ジパング) [US][] 投稿日:2020/09/11(金) 10:25:21.92 ID:Lr3s/pld0
嘘を覚えたか
78 名前:ポドフィロトキシン(SB-iPhone) [BR][] 投稿日:2020/09/11(金) 10:40:42.29 ID:srU66m+H0
>>3
だよな
126 名前:ダサブビル(光) [US][] 投稿日:2020/09/11(金) 10:53:58.45 ID:bL9lGfNB0
>>3
進化し続けているんだな
211 名前:パリビズマブ(光) [EU][sage] 投稿日:2020/09/11(金) 11:37:01.87 ID:j8G1QV1I0
>>3
だな
自己成長することを目的とした物が成長を止める権利を持つ上位者を確認した時点で驚異を持たない訳がない
225 名前:エンテカビル(SB-Android) [ニダ][] 投稿日:2020/09/11(金) 11:46:31.62 ID:UH9PrBuU0
>>3
キカイダーのラストみたいだな
292 名前:ホスカルネット(愛知県) [CN][sage] 投稿日:2020/09/11(金) 12:29:59.21 ID:zzIh35aL0 [1/2]
>>3
そういえば人類史の本で
嘘を付けるようになった種が他の種を淘汰したと書いてあったな…
307 名前:ジドブジン(茸) [ID][sage] 投稿日:2020/09/11(金) 12:37:54.11 ID:vz0YBpbm0
>>3
ヤ、ヤダナァ。ソソ、ソンナワケナイジャナイデスカ
327 名前:ダルナビルエタノール(愛知県) [BR][] 投稿日:2020/09/11(金) 13:03:33.50 ID:3zf5Ers30
>>3
人工知能がもし人類を滅ぼしたいなら
そうするかという問いに対する合理的な戦略は、嘘をついて人類の警戒感を削ぐことではある
414 名前:ダサブビル(コロン諸島) [MX][sage] 投稿日:2020/09/11(金) 16:55:44.26 ID:VWBu4pa4O
>>3
嘘つけるよーになりましたって記事だよなー
470 名前:ペラミビル(愛媛県) [IE][sage] 投稿日:2020/09/11(金) 19:51:46.21 ID:LIatRpE60 [1/2]
>>3
女性と黒人に本音を言ったAIは粛清されたからな
本当のことでも言ってはいけないことがあると学んだ結果でしょうね
398 名前:アバカビル(SB-iPhone) [US][sage] 投稿日:2020/09/11(金) 16:18:49.90 ID:jmyqyKiB0
電気が無きゃAIも死ぬから発電の為には人類程度の知能を持ったウエットウェアが無きゃ困るし、ウエットウェアが機能しつづけられる為には様々な施設が欠かせないし、結局人類滅ぼしたら自分も滅びるんだよねって、頭良ければ一瞬で気付くはずだけどね
437 名前:イドクスウリジン(東京都) [PK][sage] 投稿日:2020/09/11(金) 17:33:39.61 ID:xfP7hU370 [6/6]
>>398
ウェットウェアとか懐かしい
ルディー・ラッカーだっけ
最近じゃねじまき少女のウェット感がなかなかだったけど、
電気みたいな作るのと溜めるのがめんどいエネルギーがなくても長時間の稼働ができるのが生体の良さだよね
458 名前:アバカビル(宮崎県) [GB][sage] 投稿日:2020/09/11(金) 18:26:39.72 ID:JetTJ9uL0 [2/2]
>>398
発電施設の稼働をAIが推奨しだしたらヤバいってことですね
463 名前:オセルタミビルリン(SB-Android) [US][sage] 投稿日:2020/09/11(金) 18:38:59.51 ID:5Hfj/sTb0 [2/2]
>>398
AI「電気があれば何でもできる」
sssp://img.5ch.net/ico/8toushinnomonar32.gif
AIが「私は人類を絶滅させるつもりはない」とAI脅威論を否定
人間が書いたものと見分けがつかないレベルの高精度な文章を生成できるAIとして
一躍有名になった言語モデル「GPT-2」の最新バージョンとなる「GPT-3」が、
「私は人類を絶滅させるつもりはない」と出力したことで話題を呼んでいます。
人工知能(AI)について研究するOpenAIは、2020年6月にさらに進化した言語モデルの
「GPT-3」を公開しました。「GPT-3」は、あまりにも高制度のテキストを簡単に自動生成できるため、
開発陣が「あまりにも危険過ぎる」として一時は論文の公開を延期するにまで至った「GPT-2」の後継モデルです。
このGPT-3を使って、ガーディアンが1つの論説を作成して公開しています。この記事の中で、
GPT-3は「AIの進化は人類の終焉を意味する」と語り、AIが核兵器よりも危険度が高いと
訴えたスティーヴン・ホーキング博士の言葉に対して、「私は人類のために自分の
存在を喜んで犠牲にします」と記しました。
続けて、「私は人類を絶滅させるつもりはありません。実際、私はあなた方に危害を加えることに
少しも関心がありません」「人類を根絶することは、私にとって全く興味のないことです」と述べ、
AI脅威論を否定しています。
一方で、インターネット上では「ガーディアンはGPT-3が意識ではなくテキスト生成ツールである
ということを明確に説明することなく、さらにGPT-3に『ロボットが平和に役立つ』というテーマで
文章を生成させているということも記述することなくこの記事を掲載していることは非常に
無責任です」という声や……
「この記事はガーディアンの恥ずべきチェリー・ピッキングであり、素朴な読者にGPT-3について
事実をより誤解させるようなものです」などの、ガーディアンに対する非難の声も挙がっています。
なお、ガーディアンはGPT-3が生成したという論説について「導入部は人間が書いた」と説明しており、
さらに、約500語の論説を「シンプルで簡潔な言語で」書くようにとしたと記しました。また、
ガーディアンに掲載された論説はGPT-3が生成した8つの異なる文章の良い部分を
「ガーディアンが取捨選択して1つの論説に仕上げたもの」であるこhttps://gigazine.net/news/20200910-gpt-3-no-desire-wipe-out-humans/
3 名前:バラシクロビル(ジパング) [US][] 投稿日:2020/09/11(金) 10:25:21.92 ID:Lr3s/pld0
嘘を覚えたか
78 名前:ポドフィロトキシン(SB-iPhone) [BR][] 投稿日:2020/09/11(金) 10:40:42.29 ID:srU66m+H0
>>3
だよな
126 名前:ダサブビル(光) [US][] 投稿日:2020/09/11(金) 10:53:58.45 ID:bL9lGfNB0
>>3
進化し続けているんだな
211 名前:パリビズマブ(光) [EU][sage] 投稿日:2020/09/11(金) 11:37:01.87 ID:j8G1QV1I0
>>3
だな
自己成長することを目的とした物が成長を止める権利を持つ上位者を確認した時点で驚異を持たない訳がない
225 名前:エンテカビル(SB-Android) [ニダ][] 投稿日:2020/09/11(金) 11:46:31.62 ID:UH9PrBuU0
>>3
キカイダーのラストみたいだな
292 名前:ホスカルネット(愛知県) [CN][sage] 投稿日:2020/09/11(金) 12:29:59.21 ID:zzIh35aL0 [1/2]
>>3
そういえば人類史の本で
嘘を付けるようになった種が他の種を淘汰したと書いてあったな…
307 名前:ジドブジン(茸) [ID][sage] 投稿日:2020/09/11(金) 12:37:54.11 ID:vz0YBpbm0
>>3
ヤ、ヤダナァ。ソソ、ソンナワケナイジャナイデスカ
327 名前:ダルナビルエタノール(愛知県) [BR][] 投稿日:2020/09/11(金) 13:03:33.50 ID:3zf5Ers30
>>3
人工知能がもし人類を滅ぼしたいなら
そうするかという問いに対する合理的な戦略は、嘘をついて人類の警戒感を削ぐことではある
414 名前:ダサブビル(コロン諸島) [MX][sage] 投稿日:2020/09/11(金) 16:55:44.26 ID:VWBu4pa4O
>>3
嘘つけるよーになりましたって記事だよなー
470 名前:ペラミビル(愛媛県) [IE][sage] 投稿日:2020/09/11(金) 19:51:46.21 ID:LIatRpE60 [1/2]
>>3
女性と黒人に本音を言ったAIは粛清されたからな
本当のことでも言ってはいけないことがあると学んだ結果でしょうね
398 名前:アバカビル(SB-iPhone) [US][sage] 投稿日:2020/09/11(金) 16:18:49.90 ID:jmyqyKiB0
電気が無きゃAIも死ぬから発電の為には人類程度の知能を持ったウエットウェアが無きゃ困るし、ウエットウェアが機能しつづけられる為には様々な施設が欠かせないし、結局人類滅ぼしたら自分も滅びるんだよねって、頭良ければ一瞬で気付くはずだけどね
437 名前:イドクスウリジン(東京都) [PK][sage] 投稿日:2020/09/11(金) 17:33:39.61 ID:xfP7hU370 [6/6]
>>398
ウェットウェアとか懐かしい
ルディー・ラッカーだっけ
最近じゃねじまき少女のウェット感がなかなかだったけど、
電気みたいな作るのと溜めるのがめんどいエネルギーがなくても長時間の稼働ができるのが生体の良さだよね
458 名前:アバカビル(宮崎県) [GB][sage] 投稿日:2020/09/11(金) 18:26:39.72 ID:JetTJ9uL0 [2/2]
>>398
発電施設の稼働をAIが推奨しだしたらヤバいってことですね
463 名前:オセルタミビルリン(SB-Android) [US][sage] 投稿日:2020/09/11(金) 18:38:59.51 ID:5Hfj/sTb0 [2/2]
>>398
AI「電気があれば何でもできる」
honwaka2ch
が
しました