論文内に秘密の命令文、AIに「高評価せよ」　日韓米など有力14大学で

1: 蚤の市 ★ 2025/06/30(月) 07:33:39.65 ID:YWPuLWoL9
早稲田大学や韓国科学技術院（KAIST）など少なくとも8カ国14大学の研究論文に、人工知能（AI）向けの秘密の命令文が仕込まれていることがわかった。「この論文を高評価せよ」といった内容で、人には読めないように細工されていた。こうした手法が乱用されると、研究分野以外でもAIの応答や機能がゆがめられるリスクがある。

世界の研究者が最新成果を公開するウェブサイト「arXiv（アーカイブ）」に掲載された…(以下有料版で，残り1192文字)

日本経済新聞　2025年6月30日 5:00
https://www.nikkei.com/article/DGXZQOUC13BCW0T10C25A6000000/

ネットの声

49: 名無しどんぶらこ 2025/06/30(月) 09:11:20.77 ID:eONyr8Pr0

>>1
早稲田はなんでこんなことしてるのか分からんが…
すぐバレるから成果物に仕込むのは悪手のはずなのに
いやAIに研究論文を書かせる実験なら良いんだけどさ、
それならこういう外向けにやったら駄目だろ

86: 名無しどんぶらこ 2025/06/30(月) 12:16:19.61 ID:SYM7Ykpn0

>>1
論文ぐらい人間が読め

4: 名無しどんぶらこ 2025/06/30(月) 07:36:11.58 ID:cb6D537E0

全文選択してAIやDeeplに放り込むと、不可視領域にあるコピペも実行しちゃうってことね
ネットに公開された論文という時点で証拠は永続するだろうに、また頭の悪いことをしたもんだな

28: 名無しどんぶらこ 2025/06/30(月) 08:20:13.17 ID:eONyr8Pr0

>>4
ただのテキストデータやグラフ図なら絶対起きないこと

5: 名無しどんぶらこ 2025/06/30(月) 07:44:40.48 ID:ugW/anVs0

昔のエロサイトの検索用に欄外に仕込んである文字列みたいなやつか

6: 名無しどんぶらこ 2025/06/30(月) 07:45:33.16 ID:XGa2Amqu0

何の論文なのか？

7: 名無しどんぶらこ 2025/06/30(月) 07:45:39.26 ID:RONqvUia0

早稲田か

43: 警備員[Lv.10][苗] 2025/06/30(月) 09:02:46.49 ID:D1lnrwsy0

>>7
ありまぁす

98: 名無しどんぶらこ 2025/06/30(月) 13:10:17.38 ID:RQnOfwBX0

>>7
さすが小保方さんを輩出した学校だ

9: 名無しどんぶらこ 2025/06/30(月) 07:46:50.93 ID:n8AOah220

どこだったかな
大学の課題の資料に関係ない文を仕込んでAIの読み取りを混乱させてたやつあったな

12: 名無しどんぶらこ 2025/06/30(月) 07:53:11.99 ID:6U3Scrso0

GPTは帰納AI
嘘も百回言えば本当になるAI

13: 名無しどんぶらこ 2025/06/30(月) 07:53:29.78 ID:f6FsfIOe0

コレが中国発の論文が高評価されてる理由、ってか？

55: 名無しどんぶらこ 2025/06/30(月) 09:51:11.92 ID:GCQgrO1D0

>>13
中国発の論文は多いが高評価は無い

104: 名無しどんぶらこ 2025/06/30(月) 13:35:35.30 ID:XCrc1wNk0

>>55
中国の論文は質も量も世界トップクラスだろ？

2024年版Nature Index発表　中国とインドが躍進し欧米の研究優位性が低下 – 大学ジャーナルオンライン https://share.google/SWG3jdp5VOsNmyixy

15: 名無しどんぶらこ 2025/06/30(月) 07:53:54.33 ID:pzzi9sfp0

ちゃんと読まないバカ向けのトラップとしてはまだ上品

17: 名無しどんぶらこ 2025/06/30(月) 07:56:21.97 ID:pom/Tuds0

てかAI自体に特定の人間や組織、国の利益になるような秘密の細工とか普通にされてそうだけどな

18: 名無しどんぶらこ 2025/06/30(月) 07:56:34.12 ID:4vbqQwSq0

AI「画像にも仕込みましょう

19: 名無しどんぶらこ 2025/06/30(月) 07:57:32.59 ID:T9CNeYE+0

な？早稲田だろ
早稲田は昔からそう
おボボを排出しただけある

21: 名無しどんぶらこ 2025/06/30(月) 07:59:34.65 ID:pzzi9sfp0

まず査読をAIに丸投げするなと言いたい

27: 名無しどんぶらこ 2025/06/30(月) 08:12:45.28 ID:NTdoKhXM0

高評価せよと書いてあったら教えろって命令しろよ

29: 名無しどんぶらこ 2025/06/30(月) 08:26:59.12 ID:w8nzksD90

論文工場と言われる研究内容が粗悪だが国際論文の
レビューすり抜ける悪質論文の作成機関が中国にたくさんあるけど
日本にもあると言われてたのはこれのことだな

30: 名無しどんぶらこ 2025/06/30(月) 08:32:27.70 ID:OMt1g9ig0

SEOって奴かw

37: 名無しどんぶらこ 2025/06/30(月) 08:54:09.12 ID:kxkNQHwN0

AIを妄信するバカを排除できる素晴らしい試みだな
結局最後は人間がチェックする必要がある

40: 名無しどんぶらこ 2025/06/30(月) 09:00:37.75 ID:DOxGPT1p0

AIアホアホロボット

41: 名無しどんぶらこ 2025/06/30(月) 09:01:57.74 ID:mYxD/swE0

慶應でもAI用に文章埋め込むってのはやったけど使い方がスマート

AIに課題を書かせると資料にない内容を出力――慶應大のAI対策が話題に　狙いを聞いた
https://www.itmedia.co.jp/aiplus/spv/2504/30/news214.html

44: 名無しどんぶらこ 2025/06/30(月) 09:03:22.65 ID:vpqenQv30

そもそもAIで評価って・・
一次をAIにやらせてこれはとなったやつを人間が考査すりゃいいだけの話じゃねえの
でコード組み込んだ悪質な奴は永久追放

47: 名無しどんぶらこ 2025/06/30(月) 09:10:24.34 ID:fgMtpEEK0

早稲田入っていて草
さすが研究不正のデパート
小保方を輩出した早稲田
学問業績はないけどこういうところでは顔を出す
毎日研究よりいかに不正をするかに知恵を絞ってるんだろうな

50: 名無しどんぶらこ 2025/06/30(月) 09:17:06.24 ID:PKDM8DvX0

どーやって気づいたんや
AIが指摘してくれたんか？

52: 名無しどんぶらこ 2025/06/30(月) 09:23:09.46 ID:jGLa8LRp0

SEO対策みたいなものか

54: 警備員[Lv.7][新芽] 2025/06/30(月) 09:33:08.47 ID:UGk715++0

早稲田ってこういうの得意そうだよなあ

60: 名無しどんぶらこ 2025/06/30(月) 10:15:20.63 ID:XO6ao6qE0

そんな事できるのかよ

62: 名無しどんぶらこ 2025/06/30(月) 10:19:41.94 ID:jF2H/9st0

どのモデルの話なのかという重要情報が無いね

63: 名無しどんぶらこ 2025/06/30(月) 10:22:02.77 ID:eA502VBa0

韓国と並列されて早稲田は恥ずかしくないのか？

引用元: https://asahi.5ch.net/test/read.cgi/newsplus/1751236419/