ChatGPTの危険性とは？悪用されるリスクや5つの対策も解説

ChatGPT（チャットGPT）の危険性7つ

ChatGPTをビジネスに活用する場合、主な危険性には以下のものがあります。

1.入力したデータの情報漏えい

2.誤った情報の出力

3.従業員のスキルや思考力の低下

4.ユーザーによって出力結果が変わる

5.著作権の侵害

6.セキュリティホールがあるプログラムの生成

7.使用環境が変化する可能性

どのような弊害につながるのか、ひとつずつ見ていきましょう。

1.入力したデータの情報漏えい

ChatGPTの利用規約には、「API経由（※）で入力した情報はAI学習の対象に含まれない」と記載されています。一方で、API以外の利用方法については同様の記載がないため、入力した情報が学習データとして使われる可能性があります。

（※）別のアプリケーションやシステムからChatGPTにアクセスすること。

たとえば、自社のデータをChatGPTに入力すると、ほかのユーザーが自社を調べたときに機密情報が表示されるかもしれません。機密情報の流出は、ビジネスチャンスの喪失や信用性の低下といった二次被害を引き起こす場合があります。

なお、マイクロソフト社が提供する「Azure OpenAI Service」を利用すると、入力した情報が学習されることを防げます。Azure OpenAI Serviceはクラウド上で生成系AIを利用できるサービスであり、API経由でChatGPTにアクセスできます。

当社が提供する「Safe AI Gateway」や「AIデジタルスタッフ」も、Azure OpenAI Serviceを使用したサービスです。情報漏えいのリスクを抑えられるため、安全にAIを導入したい企業様はぜひご検討ください。

2.誤った情報の出力

ChatGPTに限らず、生成系AIは誤った情報を出力することがあります。また、難解な質問をしたときに「わからない」ではなく、強引に回答を生成する場合もあるので、出力結果を全面的に信用することは危険です。

前述の通り、ChatGPTはほかのユーザーが入力したデータを学習する可能性があります。そのデータが間違っている場合は、誤った情報を正しいものとして認識しているかもしれません。

3.従業員のスキルや思考力の低下

ChatGPTに多くの業務を任せると、従業員の能力低下を招く危険性があります。

ChatGPTは質疑応答や文章作成のほか、データの収集や分析、アイデアだしなども得意分野です。さまざまな業務に活用できますが、導入範囲を広げるほど従業員の仕事を奪う形となるため、以下のようなスキルが失われるかもしれません。

・必要なデータを迅速に収集する能力

・顧客データなどを分析する能力

・端末（パソコンなど）の操作スキル

・アイデアや解決策を考える思考力

従業員の能力が下がると、ネット環境が利用できなくなった場合や、AIに任せられない仕事が生じたときに、業務が滞ってしまう可能性もあります。

4.ユーザーによって出力結果が変わる

ChatGPTの出力結果は、入力するテキストやデータによって変わります。表現の違いで結果が変わる場合もあるので、ユーザーによって業務の質が異なるかもしれません。

また、同じ質問を繰りかえしたときに、内容によっては回答結果が変わる点も危険性のひとつです。最初は理想の出力結果を得られたとしても、少しずつ誤った回答が増えてくることも考えられます。

5.著作権の侵害

ChatGPTが生成したテキストや画像は、著作権違反にあたる場合があります。出力されたものをそのまま使うこと自体は問題ありませんが、すでに類似したコンテンツが存在する場合は、法的トラブルに巻きこまれる可能性があるでしょう。

AI自身に著作権を判定させる方法も考えられますが、正しい回答が返ってくるとは限りません。ビジネスに活用する場合は、ほかにも特許権や実用新案権、意匠権、商標権などの侵害に注意する必要があります。

6.セキュリティホールがあるプログラムの生成

セキュリティホールとは、プログラムに潜んでいる脆弱性のことです。ChatGPTはコーディングをサポートしてくれますが、指示内容によっては機能性のみを重視し、セキュリティ面を軽視する可能性があります。

セキュリティホールがあるプログラムは、機密情報の漏えいやシステムの停止、アカウントの乗っ取りといった危険性につながります。

7.使用環境が変化する可能性

ChatGPTには悪用されるリスクもあることから、各国で法整備が進められています。欧州連合のEUでは、2024年5月にAIの包括的な規制法案が承認され、使用者の義務が明確化されました。

法整備によって使用環境が変化すると、ChatGPTの導入効果やコストも変わることが予想されます。特に先進国の法案は世界基準になる可能性があるので、常に最新の情報を追うことが望ましいでしょう。

また、開発元であるOpenAI社の動向も、ChatGPTの使用環境を左右すると考えられます。

ChatGPT（チャットGPT）が悪用されるリスク

ChatGPTの危険性を抑えるには、悪用リスクについても理解しておく必要があります。十分な知識がないまま利用すると、意図せずに悪用してしまったり、被害者になったりする可能性もあるためです。

どのような悪用が見られるのか、以下では代表的なものを紹介します。

フェイクニュースの発信

フェイクニュースとは、他者の評判を落としたり注目を集めたりする目的で、虚偽の情報を発信することです。ChatGPTに「○○のニュースを作成してください」と指示をだすと、フェイクニュースは誰でも簡単に作成できます。

特にメディアを運営している企業は、意図せずフェイクニュースになってしまう現象に注意しなければなりません。ChatGPTに情報を要約させる場合も、事実との相違がないか確認する必要があります。

フィッシング詐欺の文面作成

ChatGPTの文章作成機能は、フィッシング詐欺にも悪用されるリスクがあります。フィッシング詐欺とは、信用性の高い組織や企業などの名を騙って、個人情報や現金をだましとろうとする手口です。

OpenAI社も対策を進めていますが、指示内容によってはフィッシング詐欺に近い文面が生成されてしまいます。現状では、詐欺につながる出力をすべて防ぐことは難しいため、ウェブを利用するユーザー側もセキュリティ意識を高める必要があるでしょう。

マルウェアや詐欺サイトの構築

コーディングをサポートできる点はChatGPTの強みですが、マルウェアや詐欺サイトの構築に悪用されるリスクがあります。ほかのサイバー攻撃にも悪用される可能性があるため、企業にとっては深刻な脅威になるかもしれません。

特に大規模なシステムやウェブサイトを運営している企業は、強固なセキュリティ体制を築くことが重要です。

ChatGPT（チャットGPT）の危険性を抑える対策

ChatGPTの危険性やリスクを抑えるには、どのような点を意識すればよいでしょうか。ここからは、安全性を高めるための主な対策を紹介します。

入力内容を学習しない設定にする

外部への情報漏えいを防ぎたい場合は、入力内容を学習しない設定に変えましょう。ChatGPTにログインして以下の手順を行うと、入力内容の学習データ化をオフにできます。

手順1：画面右上のアイコンを選択する

手順2：「設定（Settings）」を選択する

手順3：「データコントロール（Data Controls）」を選択する

手順4：「すべての人のためにモデルを改善する（Chat History & Training）」をオフにする

なお、API経由ではもともと学習データには活用されないため、特別な設定は必要ありません。

入力するデータの範囲を絞る

入力内容の学習データ化をオフにすると、特定の業務を継続して任せたときに、出力内容が改善されない可能性も考えられます。この点を懸念している場合は、ChatGPTに入力するデータの範囲を絞りましょう。

たとえば、機密情報を入力しないようにするだけで、深刻な情報漏えいは防げる可能性があります。また、一部の業務や現場にのみ導入する方法でも、同じような効果が期待できるでしょう。

生成された内容の真偽をチェックする

ChatGPTの出力内容は、人間によるチェックが必須です。テキストの信ぴょう性はもちろん、画像についても著作権侵害にあたらないかを確認する必要があります。

出力内容の信ぴょう性については、できるだけ一次情報で確認しましょう。一般的なウェブサイトで公開されている情報は、二次情報や三次情報の可能性もあるので注意してください。

なお、ChatGPTに「出典元を教えてほしい」などと伝えると、直前の出力内容に関するソースを教えてくれる場合があります。ただし、この場合も確実な出典元とは限らないので、基本的には自身で真偽をチェックすることが重要です。

社内教育でセキュリティへの意識を高める

社内全体でChatGPTを安全に使うには、従業員への教育も必要です。本記事の内容をひとり一人が理解するだけでも、情報漏えいや著作権侵害などのリスクは抑えられます。

また、導入範囲を踏まえた利用ポリシーを策定し、ガイドラインとして社内に共有する方法も有効でしょう。利用ポリシーの策定では、特に以下の点を明確にすることが重要です。

・どの業務にChatGPTを導入するか

・どのような指示（プロンプト）で業務をサポートさせるか

・出力内容をどのように活用または管理するか

上記とあわせて、入力するデータの範囲や出力内容のチェック体制まで明確にすると、セキュリティに配慮した使用環境を整えられるでしょう。

セキュリティが強固なツール・サービスを使う

ChatGPTには、セキュリティ面に配慮された派生ツールやサービスがあります。このようなツール・サービスでは、入力内容が学習されない仕様になっていたり、データが厳重に保管されたりするため、専門知識がないユーザーでも安全に使える可能性が高まります。

具体例として、以下では当社が提供しているサービスを紹介します。

＜Safe AI Gateway＞

Safe AI Gatewayは、各企業専用の運用環境を提供することで、ChatGPTを安全かつ簡単に利用できるようにしたサービスです。入力画面についても専用のUIを構築できるため、チャットボットに不慣れなユーザーでも使いこなしやすい特徴があります。

また、自社情報を安心してアップロードできるように、データ保管の安全性にも配慮しています。

参考：ソフトクリエイト「Safe AI Gateway - 生成AIを「安全・簡単」に」

＜AIデジタルスタッフ＞

AIデジタルスタッフは、ECサイトを利用するユーザーの問い合わせに対して、高度な情報検索機能で回答を自動生成するサービスです。24時間365日の顧客対応が可能になるだけではなく、問い合わせデータを蓄積する機能もあるため、顧客ニーズを把握したい場合にも役立ちます。

マイクロソフト社の「Azure OpenAI Service」を活用することで、エンタープライズレベルのセキュリティ性を実現している点もAIデジタルスタッフの特徴です。コーポレートサイトやブランドサイトにも導入できるため、ウェブサイトを運営している企業様はぜひご検討ください。

参考：ecbeing「AIデジタルスタッフ」

メリットが危険性を上回るなら導入の選択肢も

ChatGPTにはさまざまな危険性があるものの、導入範囲によっては対処が不要になるリスクもあります。

たとえば、プログラムのソースコードが流出したとしても、現場の生産性が大きく向上する場合は、深刻なダメージには至らないかもしれません。メリットが危険性を上回る場合は、リスクから生じる不利益より導入効果のほうが大きくなることもあるでしょう。

なお、コーディング分野に生成系AIを導入する場合は、GitHub Copilotも選択肢になります。GitHub Copilotは、コードを書いている最中にAIが保管してくれるサービスであり、当社では8割の従業員が効果を実感しています。

モデルのトレーニングに公開されているソースを使用するなど、入力したコードが流出するリスクにも配慮されています。

危険性を理解してChatGPTを使いこなそう

ChatGPTにはいくつか危険性があるものの、使用環境によってはリスクを抑えられます。機能としては大きな可能性を秘めているため、対策を考えずに利用を諦めることは得策ではありません。

セキュリティが強固な派生ツール・サービスも登場しているので、導入できる業務や現場について一度検討をしてみましょう。