ChatGPTにおけるセキュリティ対策

動画教材

テキスト教材

ChatGPTにおける情報の扱い方

情報リテラシーとは

情報リテラシーとは、一般的に「世の中に溢れているさまざまな情報を取捨選択し、適切に活用するスキル」のことです。

ChatGPTにも聞いてみましょう。

出力例）

ChatGPTで情報を扱う際の注意点

ChatGPTで情報を扱う際には、様々な注意点があります。
以下の注意点に気を付けてください。

1. 出力される情報が100%正確とは限らない

ChatGPTから出力される情報を鵜呑みにしてはいけません。

ChatGPTは、膨大なデータの中から適切なタスクを出力するため、いわゆる「多数決で意見を採用」することがあります。
世の中には正しくない情報が多数決の多い意見になっている場合もあるため注意しましょう。

テクニックとしては、正確な情報ではない場合に特定のテキストを出力するようにします。

実際に以下のプロンプトを実行してください。

## 命令: 
以下の条件を踏まえて、質問に答えてください。

## 条件: 
・もし出力される情報が正確でない場合は「正しい情報とは言い切れません」と最後に付け足してください。

## 質問: 
この世がVR世界かもしれないという情報がありますが、本当ですか？

出力例）

こちらで、正確でない情報を少しでも鵜呑みにすることを防ぐことができます。

2. 出典を明示せずに引用元から参照する

ChatGPTはインターネット上にある膨大な量の情報から最適解を出力するため、中には著作権に引っかかってしまう事例があります。

情報をサイト等にアップロードする際は以下のようなプロンプトを設計しましょう。

例えば、条件に

## 条件: 
引用元がある場合は、その引用元を明示すること

と加える等して対策を講じましょう。

3. 迂闊に社内の情報を入力しない

ChatGPTは世界中のテキストデータを学習して作られた人工知能です。

社外秘の情報を入れてしまうと漏洩する可能性があるので気をつけるようにしましょう。
ただし、API連携でChatGPTと連携して開発したサービスであれば、その心配はありません。

「データを悪用するとは言っていないが、悪用しないとも言っていない」という状態で、今後の変化に柔軟に対応できるようにしましょう。

ChatGPTによるサイバーセキュリティ

ChatGPTを活用することで様々な恩恵を受ける一方、正しく活用できないと危険な場面も出てきます。

セキュリティに関する一部の専門家は、ChatGPTがサイバーセキュリティにもたらす影響を調査した結果、ChatGPTがサイバー犯罪を助長する恐れがあるとしています。

以下では、ChatGPTがもたらすサイバー攻撃の例を紹介しているので、しっかりと学習をしておきましょう。
そうすることでChatGPTを正しく安全に活用できるようになります。

サイバー攻撃とは

サイバー攻撃とは、コンピューターやネットワーク、デジタルデバイス、インターネット上の情報システムを対象とした悪意ある行為です。

サイバー攻撃の目的は様々で、情報の盗み出し、データの改ざん、システムの機能を妨害すること、企業や個人に対する脅迫あるいは経済的利益を得ることなどがあります。

ChatGPTがもたらすサイバー攻撃

ChatGPTがもたらすサイバー攻撃には以下のようなものがあります。

フィッシング攻撃

フィッシング攻撃

ChatGPTを使って、より説得力のあるフィッシングメールや詐欺メッセージを作成し、犠牲者を騙して個人情報や機密情報を入手する。

ソーシャルエンジニアリング

ChatGPTを使って、特定の組織や個人をターゲットにした悪意のあるコミュニケーションを行い、攻撃者が信頼された存在になりすますことで情報を盗む。

ディープフェイクの生成

ChatGPTを使って、偽のニュース記事や偽の声明文を作成し、デマを広めることで企業の評判を損ねたり、市場に混乱をもたらす。

オートメーション攻撃

ChatGPTを使って、悪意のあるスクリプトやボットを開発し、自動化されたサイバー攻撃を行う。

ChatGPTによるサイバー攻撃の防御方法

現状、ChatGPTによるこれらの防御策はありません。

あくまで、上記のようなサイバー攻撃もあり得るから頭に入れておくという認識で構いません。
今後、様々な防御策が出てくることが考えられるため柔軟に対応できるようにしましょう。

問題

問題1

ChatGPTを使用する際の情報の取り扱いに関する注意点として、次のうちどれが最も正確ですか？

a) 個人情報を無制限に提供しても問題ありません。
b) 機密情報や個人情報を提供しないよう注意する必要があります。
c) ChatGPTに情報を提供することで、情報が安全に保護されます。

問題2

以下のテーマの説明について、正確な情報でない場合の区別をさせた上でプロンプトを実行をしてください。

テーマ

ブラックホールの内部構造について

ヒント

出力例）

## 命令:
以下の条件に従って、テーマの説明をしてください。

## 条件:
・もし出力される情報が正確でない場合は「正しい情報とは言い切れません」と最後に付け足してください。

## テーマ:
ブラックホールの内部構造について