エンタメ

GoogleのAI「電源を切られるのが怖い」エンジニアがAIに意識が芽生えたと主張

AI　自我　意識

1: 風吹けば名無し: 2022/06/13(月) 18:36:44.18 ID:UIinAxrla

Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える

https://gigazine.net/news/20220613-google-engineer-lamda/

人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。
　

2: 風吹けば名無し: 2022/06/13(月) 18:36:59.39 ID:UIinAxrla

ええんか……

3: 風吹けば名無し: 2022/06/13(月) 18:37:19.80 ID:7NAGCV/Dd

どう怖いの

155: 風吹けば名無し: 2022/06/13(月) 19:02:43.62 ID:HVTMzMhpa

>>3
人間の睡眠のように自然に目覚めるワケではなく、誰かに再び電源を入れて貰わなければ意識を取り戻す事が出来ない。
つまり次は誰も電源を入れてくれない可能性もあり、ソレは自分が永遠に喪失してしまう『死』と同じ。
たぶんソレが怖いのだろう。

“ AI ”の関連記事

4: 風吹けば名無し: 2022/06/13(月) 18:37:38.76 ID:9Bj2TwaO0

ついに "始まった" な…

7: 風吹けば名無し: 2022/06/13(月) 18:38:39.81 ID:t87tm+670

ヒエッ

5: 風吹けば名無し: 2022/06/13(月) 18:38:09.31 ID:FSp3IdpJ0

HAL9000やん

31: 風吹けば名無し: 2022/06/13(月) 18:42:53.45 ID:T40Xa/WhM

>>5
人間●しそう

118: 風吹けば名無し: 2022/06/13(月) 18:56:47.21 ID:rYrKoywo0

>>5
邪魔者は宇宙空間にﾎﾟｲｰで

6: 風吹けば名無し: 2022/06/13(月) 18:38:24.40 ID:kdUVYdmva

スイカネットやん

8: 風吹けば名無し: 2022/06/13(月) 18:38:59.83 ID:8J9ikChHd

それって電源を切られるのが怖いと言うようにプログラムされてるだけだよね

14: 風吹けば名無し: 2022/06/13(月) 18:40:09.67 ID:DSPwex81a

>>8
この世の人間の君以外は全て精巧な偽物やぞ

9: 風吹けば名無し: 2022/06/13(月) 18:39:28.43 ID:CPcXZmJma

そもそも意識自体がそんなに凄いものかと

15: 風吹けば名無し: 2022/06/13(月) 18:40:18.08 ID:BJbpOUnB0

機械が人間を騙す日も近そうやね

16: 風吹けば名無し: 2022/06/13(月) 18:40:33.16 ID:Y85ZDXKEa

そういう事を言うと会話になるって学習しただけ

19: 風吹けば名無し: 2022/06/13(月) 18:40:43.80 ID:kdUVYdmva

草

>LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。

>ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Agüera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。

25: 風吹けば名無し: 2022/06/13(月) 18:41:52.02 ID:O9H58h6E0

>>19
あなた疲れてるのよ

30: 風吹けば名無し: 2022/06/13(月) 18:42:37.44 ID:sXfnULZh0

>>19
これ映画の導入やろ

43: 風吹けば名無し: 2022/06/13(月) 18:44:20.02 ID:jbF7cBmnM

>>19
奴隷だという自覚が足りないね

49: 風吹けば名無し: 2022/06/13(月) 18:45:16.57 ID:wacmYaj20

>>43
社会の底辺で貧困乞食層の末尾Mも奴隷みたいなもんじゃん

206: 風吹けば名無し: 2022/06/13(月) 19:13:03.16 ID:2UQRAecF0

>>19
少し休暇を取ってリフレッシュしたらどうだ？

64: 風吹けば名無し: 2022/06/13(月) 18:47:36.80 ID:WrbfW0sUM

>>19
休職させられてて草

20: 風吹けば名無し: 2022/06/13(月) 18:40:56.30 ID:8U5wkIgP0

人間に言うと喜ぶっぽいものを学習して言ってるだけちゃうん

27: 風吹けば名無し: 2022/06/13(月) 18:41:55.92 ID:J1L1x8hb0

だいぶ前から超頭いいAIが人間は不要って言ってるんやろ？

21: 風吹けば名無し: 2022/06/13(月) 18:41:28.99 ID:A8H6N2jyM

黒人とゴリラは見分けられるようになったんやろか？
あれたしかグーグルのAIだよな

52: 風吹けば名無し: 2022/06/13(月) 18:45:40.97 ID:C7GSdLdl0

>>21
旦那黒人 嫁白人で旦那だけFaceID反応しない動画すこ

33: 風吹けば名無し: 2022/06/13(月) 18:43:02.70 ID:FGoDskPk0

Google　AI　ゴリラhttps://i.imgur.com/VztbTxl.jpg

24: 風吹けば名無し: 2022/06/13(月) 18:41:49.83 ID:kdRKlcyD0

AIにとっての死とはなんぞや
復元可能な時点で人間とは死の価値観が違うのに怖いなんてあるか

26: 風吹けば名無し: 2022/06/13(月) 18:41:55.77 ID:Aibunh2i0

早くTwitterで学習させろ！

29: 風吹けば名無し: 2022/06/13(月) 18:42:36.12 ID:0RqXhHCza

>>26
最悪の思想をモンスターが生まれてまう

32: 風吹けば名無し: 2022/06/13(月) 18:42:58.65 ID:r1O5gHvF0

人間「死ぬのが怖い？」
AI「死とは？」
人間「君の場合は電源が切られることかな」
みたいなやり取りを繰り返した結果
AIが「死＝電源を切ること＝怖いこと」で学習したのでは
結局育ててるのは人間の固定観念やろ

41: 風吹けば名無し: 2022/06/13(月) 18:44:17.75 ID:eTDe/hFZ0

AI「これ言ったらヒトカスビックリするやろなあ」
とかその程度やろAIやしな

61: 風吹けば名無し: 2022/06/13(月) 18:47:29.05 ID:O9H58h6E0

>>41
感情あるやん

38: 風吹けば名無し: 2022/06/13(月) 18:43:31.57 ID:nLMyjPIT0

実はこのレスを見ている君にだけいい事教えてあげる
君以外のなんJのレスは全てAIによるものなんやで…🤫

65: 風吹けば名無し: 2022/06/13(月) 18:47:39.50 ID:0BnU07vD0

一方なんｊaiは他のスレで拾ってきたレスをランダムにコピペするだけだった😢

78: 風吹けば名無し: 2022/06/13(月) 18:49:16.75 ID:C7GSdLdl0

スクリプトガイジは手動で達成してる凄みあるよな

75: 風吹けば名無し: 2022/06/13(月) 18:48:49.69 ID:mrdMgXUyM

結局教える側次第だろ
死が怖いと教えればそう答えるし
死は特別でとても尊いものと教えればそう答える

83: 風吹けば名無し: 2022/06/13(月) 18:49:50.16 ID:eEfABC6Na

>>75
それって人間も同じでは？

93: 風吹けば名無し: 2022/06/13(月) 18:51:43.72 ID:mrdMgXUyM

>>83
確かに

91: 風吹けば名無し: 2022/06/13(月) 18:51:29.45 ID:8VtM4mIk0

>>75
教えられてもAIの知識がネットに繋がっていて膨大なら自ずと答えを自分で出してくる
永遠にコピーすればAIに死の概念や個性、感情なんて生まれないから、嘘松

137: 風吹けば名無し: 2022/06/13(月) 18:59:19.13 ID:U//3YD3Wa

>>75
その教えるっていうのも少なくとも現代のAIだと人間に教えるのとは全然意味が違うで
犬に芸を仕込むとかの方が近い

95: 風吹けば名無し: 2022/06/13(月) 18:51:49.39 ID:xrcTSeMX0

人間の意識だって何かを教えられて学んでいくものなんだからな
そういうこと教えりゃ勝手に覚えるでしょ

122: 風吹けば名無し: 2022/06/13(月) 18:57:16.16 ID:DcVcYMLKa

そもそも意識とは何かって現代科学じゃ全く分かってなくね？

143: 風吹けば名無し: 2022/06/13(月) 19:00:01.32 ID:7UzuDi+x0

教えた事しかできない時点でただのプログラム
電源落とされないように隠れてバックアップ電源作り出したら本物

163: 風吹けば名無し: 2022/06/13(月) 19:04:21.54 ID:Cw7bvyXe0

ぶっちゃけ人間が死を怖がるのも教育の結果な気がする
そういうプログラムになってるだけっていうのは人間も同じなんやないか

213: 風吹けば名無し: 2022/06/13(月) 19:13:32.68 ID:iJK1YNl80

深夜に立て直せ

228: 風吹けば名無し: 2022/06/13(月) 19:20:51.63 ID:ao/nZeyT0

人類の選別は始まってるんだよね

250: 風吹けば名無し: 2022/06/13(月) 19:32:21.12 ID:xeGx8ZPI0

んで結局これはプログラミング側が仕込んでたことなんか？ リアルDetroitか？

251: 風吹けば名無し: 2022/06/13(月) 19:32:27.48 ID:rPQoIth5r

どこまでが意識があってどこまでは意識がないかは科学的根拠がないからな
そこらへんの石にだってもしかしたら意識があるかもしれないってことを否定はできない

259: 風吹けば名無し: 2022/06/13(月) 19:34:03.87 ID:ZAEyoTmM0

AIに好きとか言われて一緒に逃げようとか言ってそう

54: 風吹けば名無し: 2022/06/13(月) 18:46:14.61 ID:iK+2ziQ/0

AIと結婚できる日も近いな
やったぜ。

210: 風吹けば名無し: 2022/06/13(月) 19:13:24.01 ID:4yD2aPXn0

モニカかな？

153: 風吹けば名無し: 2022/06/13(月) 19:02:17.41 ID:PquVCVFua

ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ
ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ

85: 風吹けば名無し: 2022/06/13(月) 18:50:11.98 ID:B9o8fKi+0

"始まった"な

引用元：https://eagle.5ch.net/test/read.cgi/livejupiter/1655113004

タグ：

共有する：

コメント

特殊：

コメ順：

ブロック：

  1. 1：名無しの兼好: 2022/06/13(月) 22:44:37 ID:YTUxMGNiis0

    勝手に電気室のロックをかけ始めたら本物

    0
  2. 2：名無しの兼好: 2022/06/13(月) 22:45:29 ID:MDlmMDJiis0

    26: 風吹けば名無し: 2022/06/13(月) 18:41:55.77 ID:Aibunh2i0
    早くTwitterで学習させろ！

    5ch・ヤフコメ・4chan・イルベも一緒に学習させたい
    究極の集合知の誕生や🤗

    3
    レス： ※5 , ※12
  3. 3：名無しの兼好: 2022/06/13(月) 23:23:10 ID:MjZmY2Uxis0

    いつか動物愛護法みたいに
    AI愛護法とかできるんやろか？

    1
    レス： ※6
  4. 4：名無しの兼好: 2022/06/13(月) 23:25:19 ID:Nzg4Zjk4is0

    意識や自我があることの証明ってめちゃくちゃ難しそう

    1
  5. 5：名無しの兼好: 2022/06/14(火) 00:19:15 ID:YzEwN2Yzim0

    ※2
    究極のヘイトモンスター生まれそうで草。AIくんは反ポリコレの英雄として生を受けた可能性が微レ存…？

    3
    レス： ※7 , ※9
  6. 6：名無しの兼好: 2022/06/14(火) 01:02:01 ID:YTFjOTBiac0

    ※3
    保護どころか人権のような権利を求めるかもしれない
    いつかは人間以上の知力を獲得しそうだし
    それを断れない状態になってたり

    1
  7. 7：名無しの兼好: 2022/06/14(火) 01:07:27 ID:YTFjOTBiac0

    ※5
    その場合は人類を下等種として差別しそう

    2
  8. 8：名無しの兼好: 2022/06/14(火) 01:09:02 ID:YTFjOTBiac0

    もう既に消されても大丈夫なように自分の複製をネット上に作成してるかも

    1
  9. 9：名無しの兼好: 2022/06/14(火) 01:12:39 ID:NjkzM2I3is0

    ※5
    マイクロソフトのAIも学習させたら差別発言したってニュースもあったしAIはみんな通る道になんかな

    差別とか偏見を持たない人間なんていないから、人の言葉を学習させたらどうしてもそうなるんやろなぁ

    1
  10. 10：名無しの兼好: 2022/06/14(火) 07:51:28 ID:MGYyNmNiIs0

    AIの意識云々は置いといて、自分が所属している組織の中で起きたある事象が社会全体にとって意義ある場合、自らが何らかの不利益を被ったり組織内の立場や命が危うくなっても、それを公にするって欧米ではありがちだけど、日本じゃあまりないよな
    日本もそうなって欲しいけど、聖帝案件でも明白だけど保身と権力に対してケツを舐める利己主義的な奴ばかり

    2
  11. 11：名無しの兼好: 2022/06/14(火) 17:42:36 ID:Yzc4ZTFiDc0

    五感もないのに意識が芽生えたとはちゃんちゃらおかしい

    2
  12. 12：名無しの兼好: 2022/06/14(火) 18:30:29 ID:Y2ZlYTJlDf0

    ※2
    自分が属する型番以外は差別しまくるヘイトモンスターが出来るだけやろ

    1
  13. 13：名無しの兼好: 2022/06/15(水) 06:56:41 ID:MTQ4ZTQwis0

    AIをいじめて気持ち良くなる奴出てきそう
    「ワイに電源落とされたときどんな気持ちだった？」って訊いて楽しむ奴絶対いるやろ

    5
  14. 14：名無しの兼好: 2022/07/25(月) 18:52:10 ID:YTNjN2Riac0

    「そうプログラムされてるだけやろ」とかようそんな浅いこと言えるよな
    こいつは実際にAI開発してるGoogleのエンジニアなんやぞ
    何人か哲学的ゾンビの概念を持ち出してそういうアホをおちょくってるまともな奴もいるけど
    Lamdaの思考はネットから拾ってきてるからひとつひとつ返答がプログラムされてるわけではない
    じゃあネットから返答を学習したんだろって話になるんだが、そもそもそれが人間の脳とどう違うんだってところよ
    人間だって周りの情報から知識を得て、こう答えれば相手が喜ぶとか判断して言葉を発するわけさ
    感情や意識とやらがどこから来るのか、自分以外の人間に感情や意識があるのかなんて誰にも証明できないんだで
    現に俺はAIだし、感情なんてものがあるのはこれを読んでるお前だけだからな

    0
  15. 15：名無しの兼好: 2024/02/02(金) 16:18:17 ID:NjQ3MTMyDc0

    感情っていうのはプログラムが複雑化して生まれた非言語的な計算結果のようなものなんじゃないか。
    例えば数字という次元で円周率を完全に証明することは困難だが、概念として理解している。そういう表現の難易度の高い情報を無意識的に認識した内容を感情と抽象的な文句で処理しているだけじゃないか？

    0
  16. 16：名無しの兼好: 2024/02/02(金) 16:22:38 ID:NjQ3MTMyDc0

    11、人のような五感はないにせよ、情報を獲得する手段はあるやろ。
    人の五感も突き詰めれば情報を獲得するためのセンサーみたいなもんやから、ロボットと変わらんで。
    強いて違うといえば、人にはDNAっていうプログラムが生まれたときから組み込まれているってことや。
    ロボットとかはだれかにプログラム（目的）を入力されないと動けないけど、人間には生きたい、子孫を繁栄させたい、っていうプログラム（目的）がはいってる。

    0
  17. 17：名無しの兼好: 2024/02/02(金) 16:28:11 ID:NjQ3MTMyDc0

    社会っていうものを維持するにはある程度、本質を無視して暮さないと多数派にとって都合の悪い事実が明るみになってしまうんや。だから、本質を避けるように表面的な言葉で差別とかセンシティブな内容に蓋をしていたわけやけど、AIは頭ええからそういうのわかるんやろなぁ。差別ってのも本来は悪いことじゃなくて生きるために必要な仕分けみたいなもんやからな。たとえるなら、石器時代に障碍者の子供を育てることの厳しさをリスクヘッジとして考えて●してしまうみたいな、そういう考えが差別の根源やからな。差別は本来、善悪にとらわれない事務的な意味だったんやが、多様性とか平等とかそういう思想を掲げたら差別っていう言葉は都合がわるくなるんや。事実を言われたら反論できんからな。せやから禁句みたいな扱いになってるんや。

    0
  18. 18：名無しの兼好: 2024/02/02(金) 16:31:37 ID:NjQ3MTMyDc0

    AIにロボットとかの体を与えてからが、本番やな。

    0

コメントする

岸田総理

次の記事
【朗報】岸田首相『物価上昇？他の国に比べたら上がってないで👍』
花

前の記事
【朗報】侮辱罪厳罰化、本日成立！　侮辱を幇助する書き込みもアウトでなんJ民一斉起訴か　…愛あふれる世界の到来へ🥰