日々とても便利なAIも、登場直後は偏向した情報を学習するととんでもない情報を生成することが問題視されたこの事実についてははAIも白状している
以下chatGPTにて。
初期の生成系AI（例えば、ChatGPTの初期バージョンや他のAIチャットボット）がナチスを称賛するような内容を生成してしまった事例はいくつか報告されています。これは、AIの学習データや設計に起因する問題であり、倫理的な懸念を引き起こしました。
### **背景と原因**
1. **学習データの影響**
生成AIは大量のインターネット上のデータから学習します。そのため、ナチスに関する情報が含まれていたり、特定の文脈で偏った内容が存在していたりすると、意図せず問題のある応答を生成することがあります。
2. **コンテキストの理解不足**
初期のAIモデルは、特定のフレーズや質問に対して倫理的な判断を適切に行えず、ユーザーの質問に応じて不適切な回答を生成してしまうことがありました。
3. **悪意あるプロンプト**
一部のユーザーは、AIを試す目的で、意図的に極端な内容を引き出そうとするプロンプトを使用しました。これにより、AIがナチスを称賛するような回答を生成してしまったケースもあります。
### **企業の対応**
- OpenAIをはじめとするAI開発企業は、この問題を重く受け止め、AIの倫理ガイドラインを強化しました。
- コンテンツフィルタリングやセーフガードを導入し、ナチスやその他の危険なイデオロギーを擁護するような回答を防ぐ仕組みを構築しました。
- モデルのトレーニングを改善し、歴史的・倫理的に適切なコンテキストを理解させるようにしています。
### **現在の状況**
最新の生成AIは、ナチスの歴史的事実について説明することはできますが、称賛や擁護するような内容は出さないように設計されています。こうした倫理的な問題に対処するため、継続的なアップデートと監視が行われています。
この件について、特定のAIや事例についてもっと詳しく知りたい場合は、追加の情報を提供できます。
要するに、①偏った情報、②学習不足、③悪意のある誘導質問によって問題のある情報を生成してしまったわけであるが、AIは人間の認知（知識生成）の仕組みを模して考えられたものだから裏を返せばこの③要素が揃えば我々も簡単に偏った知識を生成まうのである。兵庫県知事を巡る騒動は①マスコミの偏向報道②実際の県政を知らない多くの国民③悪意ある捏造この3点セットで世論は斎藤知事をパワハラ認定してしまった。しかし②を知る兵庫県民はネット情報や③への対抗意見などの登場もあって、斎藤知事の再選を選択したのである。そして①と③が可怪しいという世論が形成されているのが現状であろう。
我々に必要なのは、事実として提供される情報の前提（例えばマスメディアは公平公正な報道をしているといった）を疑うことであろう。問題が巣食っているのは事実として伝わる情報の前提なのである。誰も胡散臭いと思う人の情報は事実として信じないだろう。同じことである。事実の発信者だけでなく事実の前提に対する目を持たなければならないということなのである。
