AI（人工知能）が世の中に登場して、目覚ましい発展を遂げています。もうSF世界の存在だけではありません。今やビジネス業界においても、重要な役割を果たすようになりました。
特に生成AIの活躍は著しいものがありますね。しかし、その一方で生成AIを利用する際にリスクが伴うことも忘れてはなりません。この記事では、生成AIに潜むリスクとその傾向・対処法について解説していきます。
生成AIは新しいデータを生成する技術
最近、”ChatGPT”が世の中を騒がせていますが、これも生成AIの1つ。「生成AI」とは、深層学習（ディープラーニング）というAI独自の学習機能により、新たな情報・コンテンツを作り出す技術を指しています。
これまでのAIは予め人が必要な情報を機械側に与えて、決められた範囲内で結果を即座に判断するものでした。しかし、生成AIは人が専門的な知識を持っていなくても、プロンプトと呼ばれる箇所に知りたい内容の文字（テキスト）を入れるだけで、必要なテキストや画像・動画・音声を生成してくれるのです。
生成AIが及ぼす5つのリスク
では、生成AIはどのようなリスクを及ぼすのでしょうか？考えられるものは、「法的なリスク」「倫理的なリスク」「創造性のリスク」「悪用されるリスク」「誤った情報のリスク」です。
具体的には以下のようなものになります。
1.法的なリスク
生成AIにおける「法的なリスク」とは「生成AIが作り出したコンテンツが著作権に抵触する恐れがある」ということです、AIは膨大な情報を学習して、新たなコンテンツを導き出しますが、その内容が著作権に触れる可能性があるかもしれません。そのことを念頭において、生成AIを利用しなければならないのです。
2.倫理的なリスク
2つ目に考えられる「倫理的なリスク」ですが、導き出されたコンテンツの中に差別的な内容が含まれている可能性があります。最近では”LGBTQ”をテーマにした考え方や活動が盛んになりましたが、これらのことに対して、生成AIが偏見に満ちた情報を生成してしまうことがあるのです。
3.創造性のリスク
生成AIは人よりも品質の高いコンテンツを作り出してくれます。これまでルーティンワークのような繰り返し作業において力を発揮してきたAIですが、生成AIは新たな情報を作ることができるため、芸術や音楽など、人間しかできなかったクリエイティブな仕事さえ、生成AIが奪ってしまう恐れがあるのです。
4.悪用されるリスク
4つ目の「悪用されるリスク」とは、悪用目的で生成AI側に作ったコンテンツをSNSや成り済ましメールで、広げてしまう恐れがあることです。これらの行為によって、フィッシング詐欺などの被害が広まる恐れがあります。
5.誤った情報のリスク
誤情報を生成AIが生み出す恐れもありますね。生成AIは人が作ったものと判別できないほどのクオリティを持つ情報を生成します。その内容を詳しく吟味すると、間違った内容になっていることもあるため、正しくない情報を拡散してしまう恐れがあるのです。
実際に筆者もあるIT企業が扱うサービスのプレゼン資料を作る必要があったので、生成AIのChatGPTを利用したことがありました。生成されたテキストは、もっともらしい表現になっていたのですが、サービス内容を詳しく調べてみると、至るところで誤った点が散見されました。
生成AIが及ぼすリスクは扱う人によっても3種類のリスクがある
生成AIが及ぼすリスクは、AIやAIが生成したコンテンツを扱う人によっても、3種類のリスクがあります。具体的には「生成AIを利用する人のリスク」「生成AIサービスを提供する人のリスク」「生成AIに巻き込まれる社会のリスク」の3つです。
生成AIが作り出したコンテンツを利用することで、どんなリスクがあるのか？あるいは生成AIのサービスがツールを提供している人（事業者も含む）や生成AIのコンテンツの影響を受ける社会までもが、色々な危険にさらされるかもしれません。
ここからはこれら3つのリスクについて、詳しく見ていきましょう。
生成AIを利用する人のリスク
リスクの中には「生成AIを利用する人のリスク」があります。これは実際に生成AIのツールやサービスを使って、新たなコンテンツを求める人と言ってもいいでしょう。「プロンプト」と呼ばれる入力エリアに必要なキーワードであるテキスト・画像などをインプットして、必要な情報（コンテンツ）を導こうとします。
指示されたテキストなどの条件をもとに生成AIが、利用者に必要なコンテンツを生み出して、提示するのですが、その中には著作権を侵害するものやインシデントとなる情報漏えいなどのリスクが含まれている可能性があるのです。
特に前述したコンテンツの中身が誤情報だった場合、利用者はアウトプットされた結果を正しいものと思い込んでしまい、2次的なトラブル（情報漏えい・誤情報・著作権侵害）を引き起こす恐れがあります。
生成AIサービスを提供する人のリスク
2つ目のリスクは、「生成AIのサービスを提供する側のリスク」です。「生成AIのツールやサービスを提供しているベンダーにかかるリスク」ということですね。
生成ツールやサービスを利用してもらうことがベンダーのビジネスモデルですが、利便性を信じて利用者が間違ったコンテンツを作る機会を与えてしまうわけです。AIツールを利用せずに自らが必要な情報を収集して、コンテンツを作るなら、そこで集めた情報が正しいのか確認するでしょう。また、著作権の抵触や法令違反、あるいは倫理に反したコンテンツを作るきっかけとなった生成AIを有料で提供しているものの、それが原因で訴訟を受ける可能性があるのです。
生成AIに巻き込まれる人・社会のリスク
3点目は、「生成AIに巻き込まれる人・社会のリスク」です。これは「生成AIに関係のない人や社会が受けるリスク」と思ってください。対象となる人は自分が生成AIを使うわけではありません。
第三者が生成AIを使って作り出したコンテンツによって、犯罪などに巻き込まれる恐れがあるということですね。第三者が悪しき目的で誤ったコンテンツを拡散させて、その情報を鵜呑みにしてしまい、トラブルや被害に巻き込まれてしまうのです。
生成AIを利用する際に注意すべき7つのポイント
生成AIは、これまで人間が時間と労力をかけて必要なデータやコンテンツを作り出す手間を大幅に削減することを実現してきました。しかし、生成AIを利用する際に注意しなくてならないことがあります。
ここからは、そのポイントを説明していきましょう。
1.著作権に抵触する恐れがある
何度も触れてきましたが生成AIの利用で最も注意しなくてはならないことは、「著作権に抵触する恐れがある」ということです。いわゆる「権利の侵害」ですね。生成AIが学習したデータの中に、Webサイトの情報や小説・映像・音楽などが含まれていることがあります。
それをもとにコンテンツを生成するわけですが、肖像権や著作権を侵害する恐れがあるのです。
2.生成ロジックがハッキリしていない
2点目は「AIの生成ロジックがハッキリしていない」という恐れです。利用者がプロンプトに入力した情報に基づき、新たなコンテンツを生成する場合、どのようなロジックで回答を導き出しているのかは、ハッキリしていないことが少なくありません。
特にビジネス業界においては、取引先に使うプレゼン資料などの生成AIに依存した場合、その内容に信憑性があるのか非常に懐疑的なことがあります。そのためどうしても情報の正当性や精度の高さをチェックする必要があるのです。
3. 生成AIのアウトプットに一貫性がない
3点目は、「生成AIのアプトプットに一貫性がない」ということです。生成AIの中には、ランダム的な要素を持つ側面があります。そのため同じ条件入力でも、出力されたコンテンツの内容が前回と全く異なる場合があるのです。
出力結果が異なることは、見方によっては多様性のあるコンテンツを生み出すことになりますが、一貫性がないという欠点もあります。
4. 誤情報を生成することがある
誤った情報を作り出す危険性もありますね。これは客観的に見て、事実とは大きく乖離した情報を生成するということ。ケースによっては、一部の誤情報が含まれているだけでなく、「全て間違っていた」ということも。いくら生成AIが便利だとは言っても、過度に信用することは非常に危険です。
5. 古い情報に基づきコンテンツが生成される可能性がある
5点目は、「古い情報に基づきコンテンツが生成される」というもの。生成AIはディープランニングをベースに学習を繰り返していますが、新しい情報を学習せずに古い情報をもとに新たなコンテンツを生み出すことがあります。
6.倫理的な問題に触れるコンテンツの恐れがある
倫理的な問題をはらんだコンテンツを作り出す恐れもあります。人なら社会常識に照らし合わせて、物事の善悪・良し悪しを判断できますが、生成AIには倫理的な判断基準がありません。そのため差別的結果を出力してしまうことも少なくありません。
7.情報漏えいのリスクの可能性
7点目は情報漏えい。セキュリティ対策が最重要項目の1つになるビジネス業界では、注意しなければならないことです。人が生成AIを利用する場合、社員のプロフィール情報や取引先情報などをAIに与えると、それが情報漏えいやプライバシー侵害に発展していく恐れがあるのです。
生成AIを利用する際のリスク対策
ここまで説明してきた生成AIには利用する上でリスクが背中合わせになっていることが、お分かり頂けたかと思います。しかし、これからビジネス上だけでなく、プライベートにおいても、さらに生成AIのニーズが高まってくるでしょう。
そのため、無用なトラブルを引き起こしたり、巻き込まれたりしないようにするためには、次のようなリスク対策を講じることが重要になってきます。
生成AI運用ルールを明確にする
生成AIをビジネス上で利用する時は、情報セキュリティや著作侵害などのリスクがつきまとうがあることを忘れてはなりません。そのためには、生成AIの運用ルールをしっかり定めておくことが重要です。
社員のセキュリティに対する理解度を上げていく
運用ルールを決めると同時に徹底しなければならないことは、社員のセキュリティに対する理解度を上げていくことも徹底することです。
そのためには情報セキュリティの研修を定期的に実施することも有効な手段。企業の中には、イントラ内で定期的に研修映像コンテンツを全社員に視聴させて、eテストを行っているところもあります。そのテストで全問正解するまで何度もテストを繰り返すことで、社員のリテラシーを高めているのですが、継続的に実践し続けることが大切です。
まとめ
生成AIは、これから新たな価値を見い出す重要なツールになっていくでしょう。しかし、生成AIニーズ潜むリスクの可能性を正しく理解して業務の中に取り込んで行くことが、各企業に求められていくのです。
