Wikipedia

利用者:舌先現象になります/生成AI・LLM使用が疑われるページの調査

< 利用者:舌先現象になります
このページは、生成AIに関する方針策定を目的とし、将来的なガイドライン整備や管理で役立つ可能性を考慮してAI生成に関する先行事例を収集しています。このページについて提案や質問・生成AI記事に関する情報提供がある場合は、このページのノート・会話ページにてお知らせお願いします。議論保存のためにノートに移動する場合があります。

LLM生成の疑いがある記事・AI生成物として削除された記事を調査する目的で作成。

実際に出力した記事の保管場所「/LLM使用例」も参考になるかもしれません。現状、どのようにしてAI生成の記事が作成されているのか分りません。（作成者に聞くべきなのか..）

この記事で使用する用語

編集

明確な定義があるわけではないが、区別するために使用。

  • 生成AI - 生成する人工知能システム。出力してくれるシステム本体のほう。
  • AI生成 - AI生成物。「AIが生成したもの」生成する人工知能システムが出力した物自体を指す。
  • LLM - 生成AIの一種で「自然言語処理に特化している」。最近熱いのはこちら。

データ収集の目的

編集

このページは、生成AIに関する方針策定を目的とし、将来的なガイドライン整備や管理で役立つ可能性を考慮して、事例を収集しています。疑いのある編集を行った加筆者・作成者を晒す目的は一切なく、編集者の傾向などを知る一つの手がかりとして掲載してます。

現時点ではAI生成文章を技術的に確実な識別方法が存在しないため、暫定的に主観に基づく判断を採用せざるを得ない状況です。そのため、編集者の判断に基づき、幅広くデータを収集する方針をこのページは採用しています。客観的に判断できる特徴・技術ができた場合は早急にこのページの方針を変更します。

現在あるガイドライン・方針

編集

生成AIで出力された文章の扱い

編集

Wikipedia:大規模言語モデルの利用より引用。 基本的にLLMで作成したと思われるコンテンツは、事実であることが証明されない限り、捏造された情報として扱われます。AIモデルは本、論文やウェブページなどの出典を作り上げることが知られているため、まずは出典にある情報源が実在するかを確かめ、その後本当に情報源の記載に沿っているかを検証する必要があります。以上の証明が不可能である場合は、対話の結果によってLLM生成のコンテンツは除去されます。

生成AI使用疑惑で参考になるかも知れないページ

編集

現状考えられるAI生成の特徴

編集

個人的主観

編集

個人的に思うAI生成を利用していると考えられる特徴をあげる。なお、出典によるものではなく経験によるもの。

  • 「"は以下の通りです："」「"は以下の目的で使用されます："」 - AI生成で説明される際に、「"～～は以下の××です："」と書いてから箇条書きで説明される。そしてタイトルにはコロン（：）を使用し、箇条書きは「1. 〇〇。」「」などで出力される。これは英語表現で順番関係ない箇条書きを表す際に、箇条書きのタイトルとなる文章は「：（コロン）」で結ぶのが要因だと考えられる。「日本語 | ログイン 🇯🇵」の場合は半角のコロン「:」が使用される。
  • 見出しと"出だしの主語"が同じ - 節の見出しはその節の内容を表すため、本来、見出しに出た用語をわざわざ節の冒頭で再び主語として使用する必要はない。しかし、AI生成の場合、どこにかかっているのか確実なものにするためにわざわざ見出しで出た用語をそのまま最初の主語にしていることが多い。
  • 「utm_source=chatgpt.com」がついた出典を使用 - chatgptを使用した痕跡が残っており、文章を転載した可能性がほかのものよりも存在する。なお、出典探しだけに使用した可能性も捨てきれない

AI生成の疑いで出された議論

編集
  • Wikipedia:コメント依頼/Shohei KIMURA - chatgptを使用していたことを公言。Apple Neural Engineを除く全ての作成記事は全般8で即時削除された。
  • Wikipedia:コメント依頼/Yukimaru11 - 作成記事が実在する事象ではあるものの、記事の内容に虚偽が混ぜられているためコメント依頼。一部の記事で虚偽出典・虚偽情報を掲載している疑いがわかったものの、すべての記事を精査するのに長時間かかっている。

LLM生成の疑いがある記事（主観）

編集

AI生成と確定できなくても、文章構成が明らかに不自然・AI生成の特徴があると感じた場合には、データ収集対象として記載してください。AI生成かどうか判別するツールは、信頼性がないため、参考程度にとどめ最終的には主観で判断してください。データを集めることが重要なので疑いが少しでもある場合は記載してください。

特徴が見られる記事一覧

編集

生成AIを使用したと思われる根拠も追記。 問題が解決したものは   を先頭に貼り付ける。

  •  Wikipedia:削除依頼/AIによるライフル記事 - 依頼で挙げられている3つの記事の出典として「ChatGPT」と記載されており、生成AIを用いて執筆された記事である疑いがある。削除された。
  •  サザエさん (テレビアニメ)のエピソード一覧 - 再作成時に、要約欄で「ついにChatGPTを使ったリスト制作作業で完成させましたが、さすがに情報のないものについては穴あきしています」と発言した点。「無出典でAI使用では正確性もあやしく、削除依頼で指摘されていることが改善されているとはいえないため。」として全般5で削除
  •  西島衛治 - 宣伝目的で生成AIを使用して作成したと思われる。全般4として削除済み。
  •  GameMaker: Studio - 版の要約欄に「AI」とあるよう、「GameMaker: Studio」でGoogle検索して「AIによる概要」として出てくる内容と同じ。全般3で削除。
  •  ジャパニカ種 - Googleで「ピッツァイオーロとは」で検索してAIによる概要で出てくる文章の丸写し。全般3で削除。
  •  アッシュ (日本のバンド) - 出典におけるURLパラメータ等【utm_source=chatgpt.com 】が含まれているため、生成AIを使用した疑いがあり。「削除依頼」で該当版は削除。その後、生成AIを使用しない形で作成されている。
  •  ピッツァイオーロ - Googleで「ジャポニカ米とは」でGoogle検索して「AIによる概要」で出てくる文章の丸写し。著作権侵害として全般9で削除。

虚偽の可能性がある記事

編集

AI生成の特徴が見られないものの、実在や実態が確認できない記事。虚偽または誤解を招く情報を事実として提示する応答によって作成された疑いがあるため（ハルシネーション (人工知能)）、将来的に識別できる可能性を考慮してAI生成の特徴が見られなくとも掲載する。 掲載する場合は

  1. チャットGPTが出始めた2022年12月以降に加筆された内容[注釈 1]
  2. 実在を確認できない・加筆者に問い合わせても出典が提示されないもの[注釈 2]

とする。

似た記事

編集

AI生成の特徴に似ているの記事。AI生成したものと人力によるものを見分けれるように掲載。英語版の方の問題・舌先がAI生成との見分け方が分かっていない可能性がある

AI生成文章を転載した編集の一覧

編集

加筆や除去など、記事作成ではないがLLMの文章を貼り付けた編集の可能性が高いもの。管理行為においての事例を集めるために収集。

未分類

編集

生成AIを議論に使用した例

編集

議論に生成AIを使用した方がいた事例。

  • [[]]

外部リンク

編集

脚注

編集

注釈

編集
  1. ^ それ以降に追加された虚偽情報は、ハルシネーションされた疑いがあるため
  2. ^ ネット上にはない出版された書籍に掲載されている場合があるため

出典

編集
「https://ja.wikipedia.org/w/index.php?title=利用者:舌先現象になります/生成AI・LLM使用が疑われるページの調査&oldid=104923602」から取得