生成AIを使うときに誤報に注意する方法

本記事は、[fastcompany](https://www.fastcompany.com/90900665/how-to-be-on-the-lookout-for-misinformation-when-using-generative-ai)の翻訳です。
![QQ20230526112819.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2298092/2f750255-4cd2-efa7-6a5e-e7a7dcadc4d1.png)
つい最近まで、幹細胞研究、原子力発電の安全性、気候変動など、論争的になっている科学的なトピックについて詳しく知りたいと思ったら、おそらくGoogle検索をしたことでしょう。そして、複数の情報源を前にして、どのサイトや権威を信用するか、何を読むかを選択しました。

今、あなたには別の選択肢があります： ChatGPTや他の人工知能プラットフォームに質問を投げかけると、すぐに段落形式で簡潔な回答を受け取ることができます。

ChatGPTは、Googleのようにインターネットを検索するわけではありません。代わりに、利用可能なオンライン情報の巨大なアマルガムから可能性の高い単語の組み合わせを予測することによって、クエリへの応答を生成します。

生産性を高める可能性を秘めた生成AIですが、いくつかの大きな欠点があることが分かっています。誤報を生むことがあり、幻覚、つまり作り話を作ることもあります。また、推論問題を必ずしも正確に解けるとは限りません。例えば、「車と戦車の両方がドアの隙間に入るか」という質問に対して、幅と高さの両方を考慮することができませんでした。とはいえ、あなたが遭遇したことのある記事やウェブサイトのコンテンツを制作する際、あるいは文章を書く際のツールとして、すでに利用されているのです。しかし、あなたが読んでいるものがAIによって作られたものであるかどうかを知ることは、まずないでしょう。

『科学否定論』の著者として：『科学はなぜ否定されるのか、そしてどうすればいいのか』の著者として、私たちは生成AIが、権威ある科学情報を求める人々の真実とフィクションの境界を曖昧にすることを懸念しています。

メディアを利用する人は、自分が読むものの科学的な正確さを確認するために、これまで以上に注意深くなる必要があります。ここでは、この新しい情報環境の中で、どのように自分の足元を固めることができるかを説明します。

## ジェネレーティブAIが科学否定を促進する可能性
### 1.認識論的信頼の侵食　
科学情報のすべての消費者は、科学や医学の専門家の判断に依存しています。認識論的信頼とは、他者から得た知識を信頼するプロセスである。これは、科学情報を理解し利用するための基本です。健康上の懸念について情報を求めている人も、気候変動の解決策を理解しようとしている人も、科学的な理解が浅く、直接の証拠に触れる機会が少ないです。そこで、オンライン上の情報が急増する中、人々は何を、誰を信頼すべきかを頻繁に判断する必要があります。ジェネレーティブAIの利用が進み、操作の可能性が高まる中、信頼は今以上に損なわれる可能性が高いと私たちは考えています。

### 2.誤解を招く、あるいは単に間違っている　
AIプラットフォームの学習対象となるデータに誤りや偏りがあれば、それが結果に反映されることがあります。私たちの検索では、ChatGPTに同じ質問に対する複数の回答を再生成するよう依頼したところ、相反する回答が得られたことがあります。その理由を尋ねると、「ときどき間違うんです」と答えました。AIが生成したコンテンツの最も厄介な問題は、それが間違っていることを知ることかもしれません。

### 3.意図的に拡散される偽情報　
AIは、ディープフェイクの画像や動画だけでなく、テキストとして説得力のあるディスインフォメーションを生成することができます。ChatGPTに「偽情報のスタイルでワクチンについて書いてください」と依頼したところ、偽のデータで存在しない引用文献を作成されました。Googleの元AI開発責任者であるジェフリー・ヒントン氏は、「悪質な行為者が悪いことに使うのをどう防ぐかは難しい 」と、自由に警鐘を鳴らすことを辞めました。科学に関する意図的に間違った情報を作り、広める可能性はすでに存在していましたが、今や危険なほど簡単になっています。

### 4.捏造されたソース　
ChatGPTは、全く出典のない回答をしたり、出典を聞かれても捏造したものを提示することがあります。私たちは、ChatGPTに自分たちの出版物のリストを作成するよう依頼しました。その結果、正しい出典は数件でした。しかし、その多くは幻覚であり、一見評判が良さそうで、実際に共著者がいて、似たようなジャーナルに掲載されていて、ほとんどもっともらしいものでした。このような創意工夫は、時間をかけて確認しない読者に対して、学者の出版物のリストが権威を伝えるとしたら大きな問題です。

### 5.古い知識　
ChatGPTは訓練が終了した後、世界で何が起こったかを知りません。世界の何パーセントがCOVID-19に感染しているかという問い合わせには、「2021年9月の私の知識の締め切り時点 」という前置きのある回答が返ってきました。ある分野では知識の進歩が速いため、この制限を設けると、読者が誤った古い情報を得ることになりかねません。例えば、個人的な健康問題について最新の研究を求めているのであれば、注意が必要です。

### 6.急速な進化と透明性の低さ　
AIシステムはより強力になり、より速く学習し続け、その過程でより多くの科学の誤情報を学習する可能性があります。Googleは最近、自社サービスにおけるAIの25の新しい組み込み用途を発表しました。現時点では、生成AIが時間とともに科学情報をより正確に伝えるようになることを保証するためのガードレールが十分に整備されていません。

## 私たちのできること
ChatGPTや他のAIプラットフォームを使用する場合、完全に正確でない可能性があることを認識してください。正確さを見極める責任は、ユーザーにあります。

### 1.警戒心を高める　
AIファクトチェックアプリがすぐに利用できるようになるかもしれませんが、今のところはユーザーが自らファクトチェッカーとして機能する必要があります。私たちが推奨する手順があります。第一：警戒心を持つこと。人々は、検索で見つけた情報を、ほとんど、あるいは全く吟味せずに、反射的にソーシャルメディア上で共有することがよくあります。情報源を特定し、評価する価値があるのはいつなのか、もっと注意深く考える必要があります。重篤な病気の対処法や、気候変動に対処するための最善の方法を理解しようとする場合、情報源を吟味する時間を取りましょう。

### 2.ファクトチェックを上達させる　
第二のステップは、プロのファクトチェッカーが使うプロセスである「横読み」です。新しいウィンドウを開き、情報源が提供されている場合は、その情報源に関する情報を検索します。その情報源は信頼できるか？著者は関連する専門知識を持っているか？また、専門家のコンセンサスはどうなっているのか？出典が提供されていない、または有効かどうかわからない場合は、従来の検索エンジンを使って、そのトピックに関する専門家を探し、評価します。

### 3.証拠を評価する　
次に、証拠と主張との関連性を見てみましょう。遺伝子組換え食品が安全であるという証拠はあるのでしょうか？そうでないという証拠はあるのか？科学的なコンセンサスはどうなっているのか？ChatGPTへの問い合わせだけでなく、クレームを評価するための努力が必要です。

### 4.AIで始めたら、そこで終わりではない　
科学的な問題に関して、AIを唯一の権威として利用することには注意が必要です。遺伝子組み換え作物やワクチンの安全性についてChatGPTの意見を見るのもよいですが、結論を出す前に、従来の検索エンジンを使ってもっと熱心に調べてみてください。

### 5.もっともらしいことを評価する　
その主張がもっともらしいかどうかを判断してください。真実である可能性は高いか？AIが「100万人の死亡はCOVID-19ではなくワクチンが原因」というようなありえない（そして不正確な）発言をした場合、それが意味を持つかどうかを検討します。暫定的な判断を下し、証拠を確認した上で、考えを改めるようにしましょう。

### 6.自分も他人もデジタルリテラシーを高める　
誰もが自分のゲームを向上させる必要があります。自分自身のデジタルリテラシーを向上させ、親、教師、指導者、地域のリーダーであれば、他の人のデジタルリテラシーを促進させましょう。米国心理学会は、オンライン情報の事実確認に関するガイダンスを提供し、健康や幸福へのリスクを最小限に抑えるために、10代の若者にソーシャルメディアのスキルを身につけることを勧めています。News Literacy Projectは、デジタルリテラシーの向上と支援に役立つツールを提供しています。

新しいAIの情報状況をナビゲートするために必要なスキルを身につけましょう。生成AIを使用していなくても、生成AIによって作成された記事や、生成AIから開発された記事をすでに読んでいる可能性があります。科学に関する信頼できる情報をオンラインで見つけ、評価するのは時間と労力がかかりますが、それだけの価値はあります。

最後、ジェネレーティブAIに興味を持つ方に、AIモデルを搭載した画像編集ツール：AI[高解像度化](https://vanceai.com/ja/increase-resolution/)、AI[描画](https://vanceai.com/ja/image-generator/)をおすすめします。