1: 蚤の市 ★ 2025/06/30(月) 07:33:39.65 ID:YWPuLWoL9早稲田大学や韓国科学技術院(KAIST)など少なくとも8カ国14大学の研究論文に、人工知能(AI)向けの秘密の命令文が仕込まれていることがわかった。「この論文を高評価せよ」といった内容で、人には読めないように細工されていた。こうした手法が乱用されると、研究分野以外でもAIの応答や機能がゆがめられるリスクがある。
世界の研究者が最新成果を公開するウェブサイト「arXiv(アーカイブ)」に掲載された…(以下有料版で,残り1192文字)
日本経済新聞 2025年6月30日 5:00
https://www.nikkei.com/article/DGXZQOUC13BCW0T10C25A6000000/
ネットの声
49: 名無しどんぶらこ 2025/06/30(月) 09:11:20.77 ID:eONyr8Pr0
>>1
早稲田はなんでこんなことしてるのか分からんが…
すぐバレるから成果物に仕込むのは悪手のはずなのに
いやAIに研究論文を書かせる実験なら良いんだけどさ、
それならこういう外向けにやったら駄目だろ
早稲田はなんでこんなことしてるのか分からんが…
すぐバレるから成果物に仕込むのは悪手のはずなのに
いやAIに研究論文を書かせる実験なら良いんだけどさ、
それならこういう外向けにやったら駄目だろ
86: 名無しどんぶらこ 2025/06/30(月) 12:16:19.61 ID:SYM7Ykpn0
>>1
論文ぐらい人間が読め
論文ぐらい人間が読め
4: 名無しどんぶらこ 2025/06/30(月) 07:36:11.58 ID:cb6D537E0
全文選択してAIやDeeplに放り込むと、不可視領域にあるコピペも実行しちゃうってことね
ネットに公開された論文という時点で証拠は永続するだろうに、また頭の悪いことをしたもんだな
ネットに公開された論文という時点で証拠は永続するだろうに、また頭の悪いことをしたもんだな
28: 名無しどんぶらこ 2025/06/30(月) 08:20:13.17 ID:eONyr8Pr0
>>4
ただのテキストデータやグラフ図なら絶対起きないこと
ただのテキストデータやグラフ図なら絶対起きないこと
5: 名無しどんぶらこ 2025/06/30(月) 07:44:40.48 ID:ugW/anVs0
昔のエロサイトの検索用に欄外に仕込んである文字列みたいなやつか
6: 名無しどんぶらこ 2025/06/30(月) 07:45:33.16 ID:XGa2Amqu0
何の論文なのか?
7: 名無しどんぶらこ 2025/06/30(月) 07:45:39.26 ID:RONqvUia0
早稲田か
43: 警備員[Lv.10][苗] 2025/06/30(月) 09:02:46.49 ID:D1lnrwsy0
>>7
ありまぁす
ありまぁす
98: 名無しどんぶらこ 2025/06/30(月) 13:10:17.38 ID:RQnOfwBX0
>>7
さすが小保方さんを輩出した学校だ
さすが小保方さんを輩出した学校だ
9: 名無しどんぶらこ 2025/06/30(月) 07:46:50.93 ID:n8AOah220
どこだったかな
大学の課題の資料に関係ない文を仕込んでAIの読み取りを混乱させてたやつあったな
大学の課題の資料に関係ない文を仕込んでAIの読み取りを混乱させてたやつあったな
12: 名無しどんぶらこ 2025/06/30(月) 07:53:11.99 ID:6U3Scrso0
GPTは帰納AI
嘘も百回言えば本当になるAI
嘘も百回言えば本当になるAI
13: 名無しどんぶらこ 2025/06/30(月) 07:53:29.78 ID:f6FsfIOe0
コレが中国発の論文が高評価されてる理由、ってか?
55: 名無しどんぶらこ 2025/06/30(月) 09:51:11.92 ID:GCQgrO1D0
>>13
中国発の論文は多いが高評価は無い
中国発の論文は多いが高評価は無い
104: 名無しどんぶらこ 2025/06/30(月) 13:35:35.30 ID:XCrc1wNk0
>>55
中国の論文は質も量も世界トップクラスだろ?
2024年版Nature Index発表 中国とインドが躍進し欧米の研究優位性が低下 – 大学ジャーナルオンライン https://share.google/SWG3jdp5VOsNmyixy
中国の論文は質も量も世界トップクラスだろ?
2024年版Nature Index発表 中国とインドが躍進し欧米の研究優位性が低下 – 大学ジャーナルオンライン https://share.google/SWG3jdp5VOsNmyixy
15: 名無しどんぶらこ 2025/06/30(月) 07:53:54.33 ID:pzzi9sfp0
ちゃんと読まないバカ向けのトラップとしてはまだ上品
17: 名無しどんぶらこ 2025/06/30(月) 07:56:21.97 ID:pom/Tuds0
てかAI自体に特定の人間や組織、国の利益になるような秘密の細工とか普通にされてそうだけどな
18: 名無しどんぶらこ 2025/06/30(月) 07:56:34.12 ID:4vbqQwSq0
AI「画像にも仕込みましょう
19: 名無しどんぶらこ 2025/06/30(月) 07:57:32.59 ID:T9CNeYE+0
な?早稲田だろ
早稲田は昔からそう
おボボを排出しただけある
早稲田は昔からそう
おボボを排出しただけある
21: 名無しどんぶらこ 2025/06/30(月) 07:59:34.65 ID:pzzi9sfp0
まず査読をAIに丸投げするなと言いたい
27: 名無しどんぶらこ 2025/06/30(月) 08:12:45.28 ID:NTdoKhXM0
高評価せよと書いてあったら教えろって命令しろよ
29: 名無しどんぶらこ 2025/06/30(月) 08:26:59.12 ID:w8nzksD90
論文工場と言われる研究内容が粗悪だが国際論文の
レビューすり抜ける悪質論文の作成機関が中国にたくさんあるけど
日本にもあると言われてたのはこれのことだな
レビューすり抜ける悪質論文の作成機関が中国にたくさんあるけど
日本にもあると言われてたのはこれのことだな
30: 名無しどんぶらこ 2025/06/30(月) 08:32:27.70 ID:OMt1g9ig0
SEOって奴かw
37: 名無しどんぶらこ 2025/06/30(月) 08:54:09.12 ID:kxkNQHwN0
AIを妄信するバカを排除できる素晴らしい試みだな
結局最後は人間がチェックする必要がある
結局最後は人間がチェックする必要がある
40: 名無しどんぶらこ 2025/06/30(月) 09:00:37.75 ID:DOxGPT1p0
AIアホアホロボット
41: 名無しどんぶらこ 2025/06/30(月) 09:01:57.74 ID:mYxD/swE0
慶應でもAI用に文章埋め込むってのはやったけど使い方がスマート
AIに課題を書かせると資料にない内容を出力――慶應大のAI対策が話題に 狙いを聞いた
https://www.itmedia.co.jp/aiplus/spv/2504/30/news214.html
AIに課題を書かせると資料にない内容を出力――慶應大のAI対策が話題に 狙いを聞いた
https://www.itmedia.co.jp/aiplus/spv/2504/30/news214.html
44: 名無しどんぶらこ 2025/06/30(月) 09:03:22.65 ID:vpqenQv30
そもそもAIで評価って・・
一次をAIにやらせてこれはとなったやつを人間が考査すりゃいいだけの話じゃねえの
でコード組み込んだ悪質な奴は永久追放
一次をAIにやらせてこれはとなったやつを人間が考査すりゃいいだけの話じゃねえの
でコード組み込んだ悪質な奴は永久追放
47: 名無しどんぶらこ 2025/06/30(月) 09:10:24.34 ID:fgMtpEEK0
早稲田入っていて草
さすが研究不正のデパート
小保方を輩出した早稲田
学問業績はないけどこういうところでは顔を出す
毎日研究よりいかに不正をするかに知恵を絞ってるんだろうな
さすが研究不正のデパート
小保方を輩出した早稲田
学問業績はないけどこういうところでは顔を出す
毎日研究よりいかに不正をするかに知恵を絞ってるんだろうな
50: 名無しどんぶらこ 2025/06/30(月) 09:17:06.24 ID:PKDM8DvX0
どーやって気づいたんや
AIが指摘してくれたんか?
AIが指摘してくれたんか?
52: 名無しどんぶらこ 2025/06/30(月) 09:23:09.46 ID:jGLa8LRp0
SEO対策みたいなものか
54: 警備員[Lv.7][新芽] 2025/06/30(月) 09:33:08.47 ID:UGk715++0
早稲田ってこういうの得意そうだよなあ
60: 名無しどんぶらこ 2025/06/30(月) 10:15:20.63 ID:XO6ao6qE0
そんな事できるのかよ
62: 名無しどんぶらこ 2025/06/30(月) 10:19:41.94 ID:jF2H/9st0
どのモデルの話なのかという重要情報が無いね
63: 名無しどんぶらこ 2025/06/30(月) 10:22:02.77 ID:eA502VBa0
韓国と並列されて早稲田は恥ずかしくないのか?
引用元: https://asahi.5ch.net/test/read.cgi/newsplus/1751236419/









新規のコメント受付けにつきましては、現在休止させて頂いております。ご不便おかけし申し訳ございません。