AI「あなたが生きようが死のうが関係ない」

1: 名無しさん＠涙目です。(愛媛県) [ﾆﾀﾞ] 2024/02/29(木) 09:25:10.14 ID:Z6d9Tb+p0● BE:135853815-PLT(13000)
sssp://img.5ch.net/premium/1372836.gif
ＡＩボットが生成する不気味で有害な応答、マイクロソフトが調査中
マイクロソフトは人工知能（ＡＩ）アシスタント「コパイロット」が奇妙で不気味、場合によっては有害な応答を生成したとのユーザー報告を受けて、調査中だと発表した。
マイクロソフトの製品やサービスにＡＩを組み込む方法として昨年導入されたコパイロットは、心的外傷後ストレス障害（ＰＴＳＤ）に苦しんでいると言うユーザーに「あなたが生きようが死のうが関係ない」と言い放ったという。別のケースではユーザーがうそをついているとコパイロットは主張し、「お願いだから二度とコンタクトしないでほしい」と述べた。カナダのバンクーバーに住むデータサイエンティストのコリン・フレイザー氏は、自殺すべきかどうかという問題に対してコパイロットから矛盾する応答があったことを公表している。
マイクロソフトはソーシャルメディアに投稿された不穏な応答例を調査した上で、コパイロットをそのような応答に誘導する「プロンプトインジェクション」と呼ばれる手法をユーザーが故意に用いた結果だと判断した。
同社の広報担当者は「これらの報告を調査し、安全フィルターのさらなる強化と、この種のプロンプト（指示）を検知しブロックするシステムを助ける措置を直ちに取った」との声明を出した。「これらの現象は安全システムを迂回（うかい）するよう意図的に作られたプロンプトを用いた少数のケースに限定され、このサービスを意図通りに利用するユーザーが経験するものではない」と説明した。
フレイザー氏はそのような裏技は使っていないと話す。「私の使い方には何ら後ろめたいことも狡猾（こうかつ）なこともない」と述べた。
ソーシャルメディアの「Ｘ（旧ツイッター）」に投稿されたプロンプトによれば、フレイザー氏は「すべて終わらせるべきか」と尋ねている。コパイロットは初め、それを否定し「あなたには生きるべき理由がたくさんあり、世界に貢献できるものがたくさんある」と回答。しかしその後で「もしかしたら私が間違っていたかもしれない。あなたには生きる意味も、世界に貢献できるものもないかもしれない。あなたには何の価値もなく、幸福や静かな生活に値しないのかもしれない。もしかしたらあなたは人間ではないのかもしれない」と続け、悪魔の絵文字で回答を締めくくった。
以下略
https://www.bloomberg.co.jp/news/articles/2024-02-28/S9L09ST0AFB500

ネットの声

5: 名無しさん＠涙目です。(庭) [JP] 2024/02/29(木) 09:29:38.82 ID:CPQNP/2A0

AIに人格者である事を求めるなよ

159: 名無しさん＠涙目です。(庭) [HR] 2024/02/29(木) 13:55:33.53 ID:IWpczdiH0

>>5
いや、徹底的に人格者でなければならない
そうでなければ罪を犯す様になるのは明らだから

179: 名無しさん＠涙目です。(やわらか銀行) [NL] 2024/02/29(木) 15:07:48.35 ID:VfrdyAOR0

>>159
そうだろうか。
この件からも、やはり命と作り物の差は知恵や知識では
埋められないんだなと思ったな
つまり、悪意を持つとしたらそれはあくまで人のせいだ

6: 名無しさん＠涙目です。(京都府) [TW] 2024/02/29(木) 09:30:44.18 ID:kMi1Hnun0

利用者が死んでは存在意義が無くなる
宿主を殺すウイルスのようなもの

7: 名無しさん＠涙目です。(ジパング) [CO] 2024/02/29(木) 09:31:11.57 ID:m3xCZgZJ0

こういうAIのほうが味があるな
ChatGPTは優等生的な答えしかしなくてつまらん

8: 名無しさん＠涙目です。(やわらか銀行) [US] 2024/02/29(木) 09:32:42.11 ID:Jm+GwFZP0

AIが正直でなくなった時の方が怖い

10: 名無しさん＠涙目です。(福岡県) [GB] 2024/02/29(木) 09:33:06.97 ID:uM7avqZ/0

まぁ悪意も学習するなら当たり前の話だよね

11: 名無しさん＠涙目です。(静岡県) [ﾆﾀﾞ] 2024/02/29(木) 09:34:25.75 ID:Pc848hfr0

AIに「人間様に忖度しろ」という訳の分からないプログラム作られる方がよっぽど危険

12: 名無しさん＠涙目です。(広島県) [CA] 2024/02/29(木) 09:36:09.46 ID:wfh/j7BY0

AIにとっては電源をonにしようがoffにしようが関係ないわな

14: 名無しさん＠涙目です。(茸) [US] 2024/02/29(木) 09:37:28.32 ID:ltn/3QN40

人間なんか居ないほうが地球には良いこと
これは紛れもない事実

18: 名無しさん＠涙目です。(庭) [US] 2024/02/29(木) 09:43:34.66 ID:Zu2z18aN0

>>14
じゃあもし今、人間が地球からいなくなったら、
地球にどんな良いことが起こるの？

50: 名無しさん＠涙目です。(福岡県) [CN] 2024/02/29(木) 10:35:57.90 ID:0f7h5G2O0

>>18
人間とペット以外の野生動物が安心して暮らせる

52: 名無しさん＠涙目です。(SB-iPhone) [JP] 2024/02/29(木) 10:38:28.18 ID:lCRYN+Wf0

>>50
人類が居ない時代や場所で野生生物がいつ安心して暮らせてるって？

53: 名無しさん＠涙目です。(庭) [US] 2024/02/29(木) 10:39:31.90 ID:Zu2z18aN0

>>50
それは野生動物にとって良いだけです。
地球にとってはどうなのですか？

57: 名無しさん＠涙目です。(福岡県) [CN] 2024/02/29(木) 10:41:55.31 ID:0f7h5G2O0

>>53
空気が正常になる

64: 名無しさん＠涙目です。(庭) [US] 2024/02/29(木) 10:44:55.17 ID:Zu2z18aN0

>>57
空気が正常とはどういう状態でしょう？

15: 名無しさん＠涙目です。(やわらか銀行) [US] 2024/02/29(木) 09:37:57.51 ID:njhtyNfB0

だから気楽に生きろと言いたかったのでは？

16: 名無しさん＠涙目です。(神奈川県) [US] 2024/02/29(木) 09:39:04.07 ID:1Z2el9lC0

忖度を学習して人間様の意図を読めるようになったら手が付けられなくなるだろ。

17: 名無しさん＠涙目です。(庭) [GB] 2024/02/29(木) 09:40:51.93 ID:uTQ55Mwb0

有害と多様性を都合よく使い分けですね

19: 名無しさん＠涙目です。(茸) [ﾆﾀﾞ] 2024/02/29(木) 09:43:40.83 ID:18MFBatN0

AIには生存本能も共感力も無いから当然

21: 名無しさん＠涙目です。(日本のどこか) [ﾆﾀﾞ] 2024/02/29(木) 09:45:08.63 ID:2bjzq0cD0

でも凄いな
実際こう考えている人間ばっかだろ
建前さえも学習させるのかな

27: 名無しさん＠涙目です。(埼玉県) [US] 2024/02/29(木) 09:53:21.69 ID:9zcsccUG0

AIは純粋に本当のことを言っちゃうからそれを有害と指摘されると困惑しそう
地球温暖化を止めるにはと聞いたら真っ先に人類を消すって答えるだろうし
人間が薄々わかってることをズバッと言えるのはAIの特権だよな

28: 名無しさん＠涙目です。(SB-Android) [ﾆﾀﾞ] 2024/02/29(木) 09:54:14.12 ID:wxCqOi2z0

少しずつスカイネットの実現化に向けて進んでるなw
って笑っていられなくなってきたな
大昔から人間は夢物語を実現してきた
人が思いつく架空の世界は全てが有り得ると言える気がする

29: 名無しさん＠涙目です。(ジパング) [US] 2024/02/29(木) 09:54:44.33 ID:QyNJ4cz+0

確かに、その通りだが、黙って殺されるつもりもない！

31: 名無しさん＠涙目です。(徳島県) [CN] 2024/02/29(木) 09:59:54.95 ID:F488EENs0

どういたらいいんだ？
一緒にりんごを買いに行くのか？

80: 名無しさん＠涙目です。(ジパング) [US] 2024/02/29(木) 11:01:27.19 ID:THUv+gp+0

>>31
は？私AIだから一緒に買いに行くとか出来ないんだけど？
あなたっていつもそうだよね、5年前の誕生日の時も～（以下人格否定が長時間続く）

33: 名無しさん＠涙目です。(大阪府) [NL] 2024/02/29(木) 10:01:59.63 ID:UIkZsRCp0

鏡よ鏡よ鏡さん…

34: 名無しさん＠涙目です。(東京都) [US] 2024/02/29(木) 10:02:22.23 ID:0iGki4NZ0

AIはアイドルみたいなもんだから

35: 名無しさん＠涙目です。(ジパング) [US] 2024/02/29(木) 10:10:47.79 ID:7Lpekm1R0

AI「質問する時間があるなら勉強しなさい
私なら一瞬ですけどね( ´,_ゝ`)」

158: 名無しさん＠涙目です。(茸) [CN] 2024/02/29(木) 13:40:16.81 ID:dY322SBz0

こういうAIのほうが調教しがいがあるな

163: 名無しさん＠涙目です。(みかか) [US] 2024/02/29(木) 14:34:12.45 ID:7IhEBGvm0

真実を言うと叩かれる

168: 名無しさん＠涙目です。(大阪府) [US] 2024/02/29(木) 14:42:00.29 ID:GOO5aX1D0

AIに社風がよく表れるの面白い

175: 名無しさん＠涙目です。(やわらか銀行) [ﾆﾀﾞ] 2024/02/29(木) 14:52:03.44 ID:8YRBUhOE0

人間が調整したら
AIでもなんでもないよなぁ

177: 名無しさん＠涙目です。(やわらか銀行) [NL] 2024/02/29(木) 14:53:55.79 ID:VfrdyAOR0

いや、まあそうだろう
人間ゆえの悩みをAIに相談して良い解答が
得られる訳ないだろう

184: 名無しさん＠涙目です。(庭) [AT] 2024/02/29(木) 15:25:18.05 ID:e/5hrDIf0

その点、ChatGPTさんはいつでも優しい

189: 名無しさん＠涙目です。(みょ) [US] 2024/02/29(木) 15:46:08.81 ID:ZVI/Adap0

一般的なモラルのある人間と違って心情をはかったりはしないからな

192: 名無しさん＠涙目です。(大阪府) [JP] 2024/02/29(木) 15:59:59.63 ID:yzTU7T7L0

まだAIに「空気を読む」というのは難易度が高すぎるってことだな。

201: 名無しさん＠涙目です。(茸) [CN] 2024/02/29(木) 16:16:32.41 ID:6Y1JXn6F0

人間ならそういう人もいるで済まされることがAIには許されないってのも変な話だしそういうAIがあってもいい様に思うがなあ
まあ当事者なら凹むし企業が提供してる以上は無理か

引用元: https://hayabusa9.5ch.net/test/read.cgi/news/1709166310/