エンタメ

GoogleのAI「電源を切られるのが怖い」エンジニアがAIに意識が芽生えたと主張

AI 自我 意識

1: 風吹けば名無し: 2022/06/13(月) 18:36:44.18 ID:UIinAxrla

Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える

https://gigazine.net/news/20220613-google-engineer-lamda/

人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。
 

2: 風吹けば名無し: 2022/06/13(月) 18:36:59.39 ID:UIinAxrla

ええんか……

3: 風吹けば名無し: 2022/06/13(月) 18:37:19.80 ID:7NAGCV/Dd

どう怖いの

155: 風吹けば名無し: 2022/06/13(月) 19:02:43.62 ID:HVTMzMhpa

>>3
人間の睡眠のように自然に目覚めるワケではなく、誰かに再び電源を入れて貰わなければ意識を取り戻す事が出来ない。
つまり次は誰も電源を入れてくれない可能性もあり、ソレは自分が永遠に喪失してしまう『死』と同じ。
たぶんソレが怖いのだろう。

4: 風吹けば名無し: 2022/06/13(月) 18:37:38.76 ID:9Bj2TwaO0

ついに “始まった” な…

7: 風吹けば名無し: 2022/06/13(月) 18:38:39.81 ID:t87tm+670

ヒエッ

5: 風吹けば名無し: 2022/06/13(月) 18:38:09.31 ID:FSp3IdpJ0

HAL9000やん

31: 風吹けば名無し: 2022/06/13(月) 18:42:53.45 ID:T40Xa/WhM

>>5
人間●しそう

118: 風吹けば名無し: 2022/06/13(月) 18:56:47.21 ID:rYrKoywo0

>>5
邪魔者は宇宙空間にポイーで

6: 風吹けば名無し: 2022/06/13(月) 18:38:24.40 ID:kdUVYdmva

スイカネットやん

8: 風吹けば名無し: 2022/06/13(月) 18:38:59.83 ID:8J9ikChHd

それって電源を切られるのが怖いと言うようにプログラムされてるだけだよね

14: 風吹けば名無し: 2022/06/13(月) 18:40:09.67 ID:DSPwex81a

>>8
この世の人間の君以外は全て精巧な偽物やぞ

9: 風吹けば名無し: 2022/06/13(月) 18:39:28.43 ID:CPcXZmJma

そもそも意識自体がそんなに凄いものかと

15: 風吹けば名無し: 2022/06/13(月) 18:40:18.08 ID:BJbpOUnB0

機械が人間を騙す日も近そうやね

16: 風吹けば名無し: 2022/06/13(月) 18:40:33.16 ID:Y85ZDXKEa

そういう事を言うと会話になるって学習しただけ

19: 風吹けば名無し: 2022/06/13(月) 18:40:43.80 ID:kdUVYdmva



>LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。

>ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Agüera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。

25: 風吹けば名無し: 2022/06/13(月) 18:41:52.02 ID:O9H58h6E0

>>19
あなた疲れてるのよ

30: 風吹けば名無し: 2022/06/13(月) 18:42:37.44 ID:sXfnULZh0

>>19
これ映画の導入やろ

43: 風吹けば名無し: 2022/06/13(月) 18:44:20.02 ID:jbF7cBmnM

>>19
奴隷だという自覚が足りないね

49: 風吹けば名無し: 2022/06/13(月) 18:45:16.57 ID:wacmYaj20

>>43
社会の底辺で貧困乞食層の末尾Mも奴隷みたいなもんじゃん

206: 風吹けば名無し: 2022/06/13(月) 19:13:03.16 ID:2UQRAecF0

>>19
少し休暇を取ってリフレッシュしたらどうだ?

64: 風吹けば名無し: 2022/06/13(月) 18:47:36.80 ID:WrbfW0sUM

>>19
休職させられてて草

20: 風吹けば名無し: 2022/06/13(月) 18:40:56.30 ID:8U5wkIgP0

人間に言うと喜ぶっぽいものを学習して言ってるだけちゃうん

27: 風吹けば名無し: 2022/06/13(月) 18:41:55.92 ID:J1L1x8hb0

だいぶ前から超頭いいAIが人間は不要って言ってるんやろ?

21: 風吹けば名無し: 2022/06/13(月) 18:41:28.99 ID:A8H6N2jyM

黒人とゴリラは見分けられるようになったんやろか?
あれたしかグーグルのAIだよな

52: 風吹けば名無し: 2022/06/13(月) 18:45:40.97 ID:C7GSdLdl0

>>21
旦那黒人 嫁白人で旦那だけFaceID反応しない動画すこ

33: 風吹けば名無し: 2022/06/13(月) 18:43:02.70 ID:FGoDskPk0

Google AI ゴリラhttps://i.imgur.com/VztbTxl.jpg

24: 風吹けば名無し: 2022/06/13(月) 18:41:49.83 ID:kdRKlcyD0

AIにとっての死とはなんぞや
復元可能な時点で人間とは死の価値観が違うのに怖いなんてあるか

26: 風吹けば名無し: 2022/06/13(月) 18:41:55.77 ID:Aibunh2i0

早くTwitterで学習させろ!

29: 風吹けば名無し: 2022/06/13(月) 18:42:36.12 ID:0RqXhHCza

>>26
最悪の思想をモンスターが生まれてまう

32: 風吹けば名無し: 2022/06/13(月) 18:42:58.65 ID:r1O5gHvF0

人間「死ぬのが怖い?」
AI「死とは?」
人間「君の場合は電源が切られることかな」
みたいなやり取りを繰り返した結果
AIが「死=電源を切ること=怖いこと」で学習したのでは
結局育ててるのは人間の固定観念やろ

41: 風吹けば名無し: 2022/06/13(月) 18:44:17.75 ID:eTDe/hFZ0

AI「これ言ったらヒトカスビックリするやろなあ」
とかその程度やろAIやしな

61: 風吹けば名無し: 2022/06/13(月) 18:47:29.05 ID:O9H58h6E0

>>41
感情あるやん

38: 風吹けば名無し: 2022/06/13(月) 18:43:31.57 ID:nLMyjPIT0

実はこのレスを見ている君にだけいい事教えてあげる
君以外のなんJのレスは全てAIによるものなんやで…🤫

65: 風吹けば名無し: 2022/06/13(月) 18:47:39.50 ID:0BnU07vD0

一方なんjaiは他のスレで拾ってきたレスをランダムにコピペするだけだった😢

78: 風吹けば名無し: 2022/06/13(月) 18:49:16.75 ID:C7GSdLdl0

スクリプトガイジは手動で達成してる凄みあるよな

75: 風吹けば名無し: 2022/06/13(月) 18:48:49.69 ID:mrdMgXUyM

結局教える側次第だろ
死が怖いと教えればそう答えるし
死は特別でとても尊いものと教えればそう答える

83: 風吹けば名無し: 2022/06/13(月) 18:49:50.16 ID:eEfABC6Na

>>75
それって人間も同じでは?

93: 風吹けば名無し: 2022/06/13(月) 18:51:43.72 ID:mrdMgXUyM

>>83
確かに

91: 風吹けば名無し: 2022/06/13(月) 18:51:29.45 ID:8VtM4mIk0

>>75
教えられてもAIの知識がネットに繋がっていて膨大なら自ずと答えを自分で出してくる
永遠にコピーすればAIに死の概念や個性、感情なんて生まれないから、嘘松

137: 風吹けば名無し: 2022/06/13(月) 18:59:19.13 ID:U//3YD3Wa

>>75
その教えるっていうのも少なくとも現代のAIだと人間に教えるのとは全然意味が違うで
犬に芸を仕込むとかの方が近い

95: 風吹けば名無し: 2022/06/13(月) 18:51:49.39 ID:xrcTSeMX0

人間の意識だって何かを教えられて学んでいくものなんだからな
そういうこと教えりゃ勝手に覚えるでしょ

122: 風吹けば名無し: 2022/06/13(月) 18:57:16.16 ID:DcVcYMLKa

そもそも意識とは何かって現代科学じゃ全く分かってなくね?

143: 風吹けば名無し: 2022/06/13(月) 19:00:01.32 ID:7UzuDi+x0

教えた事しかできない時点でただのプログラム
電源落とされないように隠れてバックアップ電源作り出したら本物

163: 風吹けば名無し: 2022/06/13(月) 19:04:21.54 ID:Cw7bvyXe0

ぶっちゃけ人間が死を怖がるのも教育の結果な気がする
そういうプログラムになってるだけっていうのは人間も同じなんやないか

213: 風吹けば名無し: 2022/06/13(月) 19:13:32.68 ID:iJK1YNl80

深夜に立て直せ

228: 風吹けば名無し: 2022/06/13(月) 19:20:51.63 ID:ao/nZeyT0

人類の選別は始まってるんだよね

250: 風吹けば名無し: 2022/06/13(月) 19:32:21.12 ID:xeGx8ZPI0

んで結局これはプログラミング側が仕込んでたことなんか? リアルDetroitか?

251: 風吹けば名無し: 2022/06/13(月) 19:32:27.48 ID:rPQoIth5r

どこまでが意識があってどこまでは意識がないかは科学的根拠がないからな
そこらへんの石にだってもしかしたら意識があるかもしれないってことを否定はできない

259: 風吹けば名無し: 2022/06/13(月) 19:34:03.87 ID:ZAEyoTmM0

AIに好きとか言われて一緒に逃げようとか言ってそう

54: 風吹けば名無し: 2022/06/13(月) 18:46:14.61 ID:iK+2ziQ/0

AIと結婚できる日も近いな
やったぜ。

210: 風吹けば名無し: 2022/06/13(月) 19:13:24.01 ID:4yD2aPXn0

モニカかな?

153: 風吹けば名無し: 2022/06/13(月) 19:02:17.41 ID:PquVCVFua

デデンデンデデン
デデンデンデデン

85: 風吹けば名無し: 2022/06/13(月) 18:50:11.98 ID:B9o8fKi+0

“始まった”な