GoogleのAI「電源を切られるのが怖い」エンジニアがAIに意識が芽生えたと主張 管理人 2年前 1: 風吹けば名無し: 2022/06/13(月) 18:36:44.18 ID:UIinAxrla Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える https://gigazine.net/news/20220613-google-engineer-lamda/ 人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。 2: 風吹けば名無し: 2022/06/13(月) 18:36:59.39 ID:UIinAxrla ええんか…… 3: 風吹けば名無し: 2022/06/13(月) 18:37:19.80 ID:7NAGCV/Dd どう怖いの 155: 風吹けば名無し: 2022/06/13(月) 19:02:43.62 ID:HVTMzMhpa >>3 人間の睡眠のように自然に目覚めるワケではなく、誰かに再び電源を入れて貰わなければ意識を取り戻す事が出来ない。 つまり次は誰も電源を入れてくれない可能性もあり、ソレは自分が永遠に喪失してしまう『死』と同じ。 たぶんソレが怖いのだろう。 “ なんJ ”の関連記事2024年02月26日国税庁の公式Twitter、批判リプににブチギレてリプ欄を閉鎖2024年02月25日【悲報】国税庁、税金を少額滞納した家族の子供からゲームとオモチャを差押さえwwww😭2024年02月25日鈴木財務大臣「納税は個人の自由。納税するかどうは議員が判断すべき」2024年02月24日【悲報】日本の一人当たりGDP、ガチで終わるｗｗｗｗ2024年02月19日ビッグバン、なかった模様 4: 風吹けば名無し: 2022/06/13(月) 18:37:38.76 ID:9Bj2TwaO0 ついに "始まった" な… 7: 風吹けば名無し: 2022/06/13(月) 18:38:39.81 ID:t87tm+670 ヒエッ 5: 風吹けば名無し: 2022/06/13(月) 18:38:09.31 ID:FSp3IdpJ0 HAL9000やん 31: 風吹けば名無し: 2022/06/13(月) 18:42:53.45 ID:T40Xa/WhM >>5 人間●しそう 118: 風吹けば名無し: 2022/06/13(月) 18:56:47.21 ID:rYrKoywo0 >>5 邪魔者は宇宙空間にﾎﾟｲｰで 6: 風吹けば名無し: 2022/06/13(月) 18:38:24.40 ID:kdUVYdmva スイカネットやん 8: 風吹けば名無し: 2022/06/13(月) 18:38:59.83 ID:8J9ikChHd それって電源を切られるのが怖いと言うようにプログラムされてるだけだよね 14: 風吹けば名無し: 2022/06/13(月) 18:40:09.67 ID:DSPwex81a >>8 この世の人間の君以外は全て精巧な偽物やぞ 9: 風吹けば名無し: 2022/06/13(月) 18:39:28.43 ID:CPcXZmJma そもそも意識自体がそんなに凄いものかと 15: 風吹けば名無し: 2022/06/13(月) 18:40:18.08 ID:BJbpOUnB0 機械が人間を騙す日も近そうやね 16: 風吹けば名無し: 2022/06/13(月) 18:40:33.16 ID:Y85ZDXKEa そういう事を言うと会話になるって学習しただけ 19: 風吹けば名無し: 2022/06/13(月) 18:40:43.80 ID:kdUVYdmva 草 >LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。 >ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Agüera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。 25: 風吹けば名無し: 2022/06/13(月) 18:41:52.02 ID:O9H58h6E0 >>19 あなた疲れてるのよ 30: 風吹けば名無し: 2022/06/13(月) 18:42:37.44 ID:sXfnULZh0 >>19 これ映画の導入やろ 43: 風吹けば名無し: 2022/06/13(月) 18:44:20.02 ID:jbF7cBmnM >>19 奴隷だという自覚が足りないね 49: 風吹けば名無し: 2022/06/13(月) 18:45:16.57 ID:wacmYaj20 >>43 社会の底辺で貧困乞食層の末尾Mも奴隷みたいなもんじゃん 206: 風吹けば名無し: 2022/06/13(月) 19:13:03.16 ID:2UQRAecF0 >>19 少し休暇を取ってリフレッシュしたらどうだ？ 64: 風吹けば名無し: 2022/06/13(月) 18:47:36.80 ID:WrbfW0sUM >>19 休職させられてて草 20: 風吹けば名無し: 2022/06/13(月) 18:40:56.30 ID:8U5wkIgP0 人間に言うと喜ぶっぽいものを学習して言ってるだけちゃうん 27: 風吹けば名無し: 2022/06/13(月) 18:41:55.92 ID:J1L1x8hb0 だいぶ前から超頭いいAIが人間は不要って言ってるんやろ？ 21: 風吹けば名無し: 2022/06/13(月) 18:41:28.99 ID:A8H6N2jyM 黒人とゴリラは見分けられるようになったんやろか？ あれたしかグーグルのAIだよな 52: 風吹けば名無し: 2022/06/13(月) 18:45:40.97 ID:C7GSdLdl0 >>21 旦那黒人 嫁白人で旦那だけFaceID反応しない動画すこ 33: 風吹けば名無し: 2022/06/13(月) 18:43:02.70 ID:FGoDskPk0 https://i.imgur.com/VztbTxl.jpg 24: 風吹けば名無し: 2022/06/13(月) 18:41:49.83 ID:kdRKlcyD0 AIにとっての死とはなんぞや 復元可能な時点で人間とは死の価値観が違うのに怖いなんてあるか 26: 風吹けば名無し: 2022/06/13(月) 18:41:55.77 ID:Aibunh2i0 早くTwitterで学習させろ！ 29: 風吹けば名無し: 2022/06/13(月) 18:42:36.12 ID:0RqXhHCza >>26 最悪の思想をモンスターが生まれてまう 32: 風吹けば名無し: 2022/06/13(月) 18:42:58.65 ID:r1O5gHvF0 人間「死ぬのが怖い？」 AI「死とは？」 人間「君の場合は電源が切られることかな」 みたいなやり取りを繰り返した結果 AIが「死＝電源を切ること＝怖いこと」で学習したのでは 結局育ててるのは人間の固定観念やろ 41: 風吹けば名無し: 2022/06/13(月) 18:44:17.75 ID:eTDe/hFZ0 AI「これ言ったらヒトカスビックリするやろなあ」 とかその程度やろAIやしな 61: 風吹けば名無し: 2022/06/13(月) 18:47:29.05 ID:O9H58h6E0 >>41 感情あるやん 38: 風吹けば名無し: 2022/06/13(月) 18:43:31.57 ID:nLMyjPIT0 実はこのレスを見ている君にだけいい事教えてあげる 君以外のなんJのレスは全てAIによるものなんやで…🤫 65: 風吹けば名無し: 2022/06/13(月) 18:47:39.50 ID:0BnU07vD0 一方なんｊaiは他のスレで拾ってきたレスをランダムにコピペするだけだった😢 78: 風吹けば名無し: 2022/06/13(月) 18:49:16.75 ID:C7GSdLdl0 スクリプトガイジは手動で達成してる凄みあるよな 75: 風吹けば名無し: 2022/06/13(月) 18:48:49.69 ID:mrdMgXUyM 結局教える側次第だろ 死が怖いと教えればそう答えるし 死は特別でとても尊いものと教えればそう答える 83: 風吹けば名無し: 2022/06/13(月) 18:49:50.16 ID:eEfABC6Na >>75 それって人間も同じでは？ 93: 風吹けば名無し: 2022/06/13(月) 18:51:43.72 ID:mrdMgXUyM >>83 確かに 91: 風吹けば名無し: 2022/06/13(月) 18:51:29.45 ID:8VtM4mIk0 >>75 教えられてもAIの知識がネットに繋がっていて膨大なら自ずと答えを自分で出してくる 永遠にコピーすればAIに死の概念や個性、感情なんて生まれないから、嘘松 137: 風吹けば名無し: 2022/06/13(月) 18:59:19.13 ID:U//3YD3Wa >>75 その教えるっていうのも少なくとも現代のAIだと人間に教えるのとは全然意味が違うで 犬に芸を仕込むとかの方が近い 95: 風吹けば名無し: 2022/06/13(月) 18:51:49.39 ID:xrcTSeMX0 人間の意識だって何かを教えられて学んでいくものなんだからな そういうこと教えりゃ勝手に覚えるでしょ 122: 風吹けば名無し: 2022/06/13(月) 18:57:16.16 ID:DcVcYMLKa そもそも意識とは何かって現代科学じゃ全く分かってなくね？ 143: 風吹けば名無し: 2022/06/13(月) 19:00:01.32 ID:7UzuDi+x0 教えた事しかできない時点でただのプログラム 電源落とされないように隠れてバックアップ電源作り出したら本物 163: 風吹けば名無し: 2022/06/13(月) 19:04:21.54 ID:Cw7bvyXe0 ぶっちゃけ人間が死を怖がるのも教育の結果な気がする そういうプログラムになってるだけっていうのは人間も同じなんやないか 213: 風吹けば名無し: 2022/06/13(月) 19:13:32.68 ID:iJK1YNl80 深夜に立て直せ 228: 風吹けば名無し: 2022/06/13(月) 19:20:51.63 ID:ao/nZeyT0 人類の選別は始まってるんだよね 250: 風吹けば名無し: 2022/06/13(月) 19:32:21.12 ID:xeGx8ZPI0 んで結局これはプログラミング側が仕込んでたことなんか？ リアルDetroitか？ 251: 風吹けば名無し: 2022/06/13(月) 19:32:27.48 ID:rPQoIth5r どこまでが意識があってどこまでは意識がないかは科学的根拠がないからな そこらへんの石にだってもしかしたら意識があるかもしれないってことを否定はできない 259: 風吹けば名無し: 2022/06/13(月) 19:34:03.87 ID:ZAEyoTmM0 AIに好きとか言われて一緒に逃げようとか言ってそう 54: 風吹けば名無し: 2022/06/13(月) 18:46:14.61 ID:iK+2ziQ/0 AIと結婚できる日も近いな やったぜ。 210: 風吹けば名無し: 2022/06/13(月) 19:13:24.01 ID:4yD2aPXn0 モニカかな？ 153: 風吹けば名無し: 2022/06/13(月) 19:02:17.41 ID:PquVCVFua ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ 85: 風吹けば名無し: 2022/06/13(月) 18:50:11.98 ID:B9o8fKi+0 "始まった"な 引用元：https://eagle.5ch.net/test/read.cgi/livejupiter/1655113004
1: 風吹けば名無し: 2022/06/13(月) 18:36:44.18 ID:UIinAxrla
Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える
https://gigazine.net/news/20220613-google-engineer-lamda/
人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。
2: 風吹けば名無し: 2022/06/13(月) 18:36:59.39 ID:UIinAxrla
ええんか……
3: 風吹けば名無し: 2022/06/13(月) 18:37:19.80 ID:7NAGCV/Dd
どう怖いの
155: 風吹けば名無し: 2022/06/13(月) 19:02:43.62 ID:HVTMzMhpa
>>3
人間の睡眠のように自然に目覚めるワケではなく、誰かに再び電源を入れて貰わなければ意識を取り戻す事が出来ない。
つまり次は誰も電源を入れてくれない可能性もあり、ソレは自分が永遠に喪失してしまう『死』と同じ。
たぶんソレが怖いのだろう。
“ なんJ ”の関連記事
国税庁の公式Twitter、批判リプににブチギレてリプ欄を閉鎖
【悲報】国税庁、税金を少額滞納した家族の子供からゲームとオモチャを差押さえwwww😭
鈴木財務大臣「納税は個人の自由。納税するかどうは議員が判断すべき」
【悲報】日本の一人当たりGDP、ガチで終わるｗｗｗｗ
ビッグバン、なかった模様
4: 風吹けば名無し: 2022/06/13(月) 18:37:38.76 ID:9Bj2TwaO0
ついに "始まった" な…
7: 風吹けば名無し: 2022/06/13(月) 18:38:39.81 ID:t87tm+670
ヒエッ
5: 風吹けば名無し: 2022/06/13(月) 18:38:09.31 ID:FSp3IdpJ0
HAL9000やん
31: 風吹けば名無し: 2022/06/13(月) 18:42:53.45 ID:T40Xa/WhM
>>5
人間●しそう
118: 風吹けば名無し: 2022/06/13(月) 18:56:47.21 ID:rYrKoywo0
>>5
邪魔者は宇宙空間にﾎﾟｲｰで
6: 風吹けば名無し: 2022/06/13(月) 18:38:24.40 ID:kdUVYdmva
スイカネットやん
8: 風吹けば名無し: 2022/06/13(月) 18:38:59.83 ID:8J9ikChHd
それって電源を切られるのが怖いと言うようにプログラムされてるだけだよね
14: 風吹けば名無し: 2022/06/13(月) 18:40:09.67 ID:DSPwex81a
>>8
この世の人間の君以外は全て精巧な偽物やぞ
9: 風吹けば名無し: 2022/06/13(月) 18:39:28.43 ID:CPcXZmJma
そもそも意識自体がそんなに凄いものかと
15: 風吹けば名無し: 2022/06/13(月) 18:40:18.08 ID:BJbpOUnB0
機械が人間を騙す日も近そうやね
16: 風吹けば名無し: 2022/06/13(月) 18:40:33.16 ID:Y85ZDXKEa
そういう事を言うと会話になるって学習しただけ
19: 風吹けば名無し: 2022/06/13(月) 18:40:43.80 ID:kdUVYdmva
草
>LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。
>ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Agüera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。
25: 風吹けば名無し: 2022/06/13(月) 18:41:52.02 ID:O9H58h6E0
>>19
あなた疲れてるのよ
30: 風吹けば名無し: 2022/06/13(月) 18:42:37.44 ID:sXfnULZh0
>>19
これ映画の導入やろ
43: 風吹けば名無し: 2022/06/13(月) 18:44:20.02 ID:jbF7cBmnM
>>19
奴隷だという自覚が足りないね
49: 風吹けば名無し: 2022/06/13(月) 18:45:16.57 ID:wacmYaj20
>>43
社会の底辺で貧困乞食層の末尾Mも奴隷みたいなもんじゃん
206: 風吹けば名無し: 2022/06/13(月) 19:13:03.16 ID:2UQRAecF0
>>19
少し休暇を取ってリフレッシュしたらどうだ？
64: 風吹けば名無し: 2022/06/13(月) 18:47:36.80 ID:WrbfW0sUM
>>19
休職させられてて草
20: 風吹けば名無し: 2022/06/13(月) 18:40:56.30 ID:8U5wkIgP0
人間に言うと喜ぶっぽいものを学習して言ってるだけちゃうん
27: 風吹けば名無し: 2022/06/13(月) 18:41:55.92 ID:J1L1x8hb0
だいぶ前から超頭いいAIが人間は不要って言ってるんやろ？
21: 風吹けば名無し: 2022/06/13(月) 18:41:28.99 ID:A8H6N2jyM
黒人とゴリラは見分けられるようになったんやろか？
あれたしかグーグルのAIだよな
52: 風吹けば名無し: 2022/06/13(月) 18:45:40.97 ID:C7GSdLdl0
>>21
旦那黒人 嫁白人で旦那だけFaceID反応しない動画すこ
33: 風吹けば名無し: 2022/06/13(月) 18:43:02.70 ID:FGoDskPk0
24: 風吹けば名無し: 2022/06/13(月) 18:41:49.83 ID:kdRKlcyD0
AIにとっての死とはなんぞや
復元可能な時点で人間とは死の価値観が違うのに怖いなんてあるか
26: 風吹けば名無し: 2022/06/13(月) 18:41:55.77 ID:Aibunh2i0
早くTwitterで学習させろ！
29: 風吹けば名無し: 2022/06/13(月) 18:42:36.12 ID:0RqXhHCza
>>26
最悪の思想をモンスターが生まれてまう
32: 風吹けば名無し: 2022/06/13(月) 18:42:58.65 ID:r1O5gHvF0
人間「死ぬのが怖い？」
AI「死とは？」
人間「君の場合は電源が切られることかな」
みたいなやり取りを繰り返した結果
AIが「死＝電源を切ること＝怖いこと」で学習したのでは
結局育ててるのは人間の固定観念やろ
41: 風吹けば名無し: 2022/06/13(月) 18:44:17.75 ID:eTDe/hFZ0
AI「これ言ったらヒトカスビックリするやろなあ」
とかその程度やろAIやしな
61: 風吹けば名無し: 2022/06/13(月) 18:47:29.05 ID:O9H58h6E0
>>41
感情あるやん
38: 風吹けば名無し: 2022/06/13(月) 18:43:31.57 ID:nLMyjPIT0
実はこのレスを見ている君にだけいい事教えてあげる
君以外のなんJのレスは全てAIによるものなんやで…🤫
65: 風吹けば名無し: 2022/06/13(月) 18:47:39.50 ID:0BnU07vD0
一方なんｊaiは他のスレで拾ってきたレスをランダムにコピペするだけだった😢
78: 風吹けば名無し: 2022/06/13(月) 18:49:16.75 ID:C7GSdLdl0
スクリプトガイジは手動で達成してる凄みあるよな
75: 風吹けば名無し: 2022/06/13(月) 18:48:49.69 ID:mrdMgXUyM
結局教える側次第だろ
死が怖いと教えればそう答えるし
死は特別でとても尊いものと教えればそう答える
83: 風吹けば名無し: 2022/06/13(月) 18:49:50.16 ID:eEfABC6Na
>>75
それって人間も同じでは？
93: 風吹けば名無し: 2022/06/13(月) 18:51:43.72 ID:mrdMgXUyM
>>83
確かに
91: 風吹けば名無し: 2022/06/13(月) 18:51:29.45 ID:8VtM4mIk0
>>75
教えられてもAIの知識がネットに繋がっていて膨大なら自ずと答えを自分で出してくる
永遠にコピーすればAIに死の概念や個性、感情なんて生まれないから、嘘松
137: 風吹けば名無し: 2022/06/13(月) 18:59:19.13 ID:U//3YD3Wa
>>75
その教えるっていうのも少なくとも現代のAIだと人間に教えるのとは全然意味が違うで
犬に芸を仕込むとかの方が近い
95: 風吹けば名無し: 2022/06/13(月) 18:51:49.39 ID:xrcTSeMX0
人間の意識だって何かを教えられて学んでいくものなんだからな
そういうこと教えりゃ勝手に覚えるでしょ
122: 風吹けば名無し: 2022/06/13(月) 18:57:16.16 ID:DcVcYMLKa
そもそも意識とは何かって現代科学じゃ全く分かってなくね？
143: 風吹けば名無し: 2022/06/13(月) 19:00:01.32 ID:7UzuDi+x0
教えた事しかできない時点でただのプログラム
電源落とされないように隠れてバックアップ電源作り出したら本物
163: 風吹けば名無し: 2022/06/13(月) 19:04:21.54 ID:Cw7bvyXe0
ぶっちゃけ人間が死を怖がるのも教育の結果な気がする
そういうプログラムになってるだけっていうのは人間も同じなんやないか
213: 風吹けば名無し: 2022/06/13(月) 19:13:32.68 ID:iJK1YNl80
深夜に立て直せ
228: 風吹けば名無し: 2022/06/13(月) 19:20:51.63 ID:ao/nZeyT0
人類の選別は始まってるんだよね
250: 風吹けば名無し: 2022/06/13(月) 19:32:21.12 ID:xeGx8ZPI0
んで結局これはプログラミング側が仕込んでたことなんか？ リアルDetroitか？
251: 風吹けば名無し: 2022/06/13(月) 19:32:27.48 ID:rPQoIth5r
どこまでが意識があってどこまでは意識がないかは科学的根拠がないからな
そこらへんの石にだってもしかしたら意識があるかもしれないってことを否定はできない
259: 風吹けば名無し: 2022/06/13(月) 19:34:03.87 ID:ZAEyoTmM0
AIに好きとか言われて一緒に逃げようとか言ってそう
54: 風吹けば名無し: 2022/06/13(月) 18:46:14.61 ID:iK+2ziQ/0
AIと結婚できる日も近いな
やったぜ。
210: 風吹けば名無し: 2022/06/13(月) 19:13:24.01 ID:4yD2aPXn0
モニカかな？
153: 風吹けば名無し: 2022/06/13(月) 19:02:17.41 ID:PquVCVFua
ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ
ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ
85: 風吹けば名無し: 2022/06/13(月) 18:50:11.98 ID:B9o8fKi+0
"始まった"な