生成AIで発生した情報漏洩の事例とは？さまざまなリスクと対策も紹介

生成AIで情報漏洩が起きるリスクとは

生成AIは便利な技術である一方、個人情報漏洩のリスクもあります。実際に、後述するように個人情報流出事故が複数発生しています。

個人情報が漏洩した場合、クレジットカードや銀行口座の不正利用、アカウントの乗っ取りやなりすましの被害に遭う可能性があるでしょう。被害に遭うと金銭的な損失だけでなく、なりすましによる誹謗中傷といった個人の信用失墜や精神的な苦痛にもつながりかねません。

生成AIによる情報漏洩の事例

生成AIによって、どのように個人情報が漏れてしまうのでしょうか。生成AIを通じて情報漏洩が起きてしまった事例として、2つの代表的なものを紹介します。

事例1：個人情報の漏洩

2023年3月、大手生成AIツールにおいて、一部ユーザーの個人情報（氏名、メールアドレス、支払い先住所、クレジットカード情報など）が、短時間ではあるものの、ほかのユーザーに表示されるという問題が発生しました。

原因はサードパーティツール（外部提供ツール）のバグです。一部ユーザーのチャット履歴に、本来表示されるはずのないほかのユーザーのチャット履歴が表示されるという現象も確認されました。

この事態を受け、大手生成AIツールの運営企業は迅速にバグを修正し、影響を受けた可能性のあるすべてのユーザーに連絡を行いました。

事例2：漏洩したアカウント情報がダークウェブで取引

2023年、シンガポールの情報セキュリティ会社によって、大手生成AIツールのログイン情報が日本から漏洩している事実が発覚しました。原因は「インフォスティーラー」と呼ばれるマルウェアです。

マルウェアとは、スマートフォンやコンピューターに被害をもたらすことを目的とした悪意のあるソフトウェアを指します。マルウェアによって、Webブラウザに保存されていたIDやパスワードが盗まれたと考えられています。

2022年6月～2023年5月までの1年間で、10万1000件以上ものアカウント情報がダークウェブで取引されており、そのうち少なくとも661件が日本からの漏洩とされています。ダークウェブについては、以下の記事もあわせてご覧ください。

ダークウェブとは？アクセスするリスクや対策方法を解説

生成AIで情報漏洩が起きる原因

生成AIによって、なぜ個人情報の漏洩が起きてしまうのでしょうか。

ここでは情報漏洩の主な原因を3つ紹介します。

• 個人情報や機密情報などの出力
• 保管された学習データへの不正アクセス
• プログラムのバグや設計上のミス

個人情報や機密情報などの出力

生成AIでは、個人情報や機密情報が意図せず出力されることで、漏洩につながる場合があります。

生成AIはユーザーが入力したデータを学習し、新たな文章や画像などを作り出すサービスです。個人情報や機密情報を含むデータを入力すると、AIは学習データとして取り込んでしまう可能性があります。たとえば、住所や電話番号を含む文章をAIに学習させたとしましょう。すると、入力した情報はAIの記憶の一部として残ります。

ほかの人の質問にAIが答える際に、それらの情報が意図せず出力してしまう場合があるのです。

保管された学習データへの不正アクセス

生成AIは、ユーザーが入力したデータを学習データとしてインターネット上に保管しています。仮に悪意のある第三者に不正アクセスされると、このデータが盗まれ、重大な情報漏洩につながる危険性があります。

生成AI自体のセキュリティ対策が脆弱である場合、不正アクセスを許しやすく、データが盗まれるリスクも高まるため注意が必要です。

プログラムのバグや設計上のミス

生成AIは発展途上の技術であり、完璧ではありません。プログラムのバグや設計上のミスなどによって、情報漏洩が起こる可能性があります。

たとえば、AIが予期しない動作をしてしまい、本来は公開されないはずのデータを表示してしまうことが起こりえます。生成AIを利用する際は、最新の情報をしっかり確認し、セキュリティ対策を活用することが大切です。

生成AIを安全に使うために気をつけること

生成AIを安全に使うためには、次の事項に気をつけましょう。

• 重要な情報を安易に入力しない
• セキュリティ対策サービスを活用する

重要な情報を安易に入力しない

生成AIを使う際には、個人情報や機密情報の漏洩リスクがあることを忘れてはいけません。特に、氏名、住所、電話番号、メールアドレス、クレジットカード情報、銀行口座情報、マイナンバーなどの個人を特定できる情報は入力しないように心がけましょう。

仕事でも家庭でも複数人で生成AIを使用する場合は、入力してはいけない情報などを定めたルールやガイドラインを策定しておくことをおすすめします。

セキュリティ対策サービスを活用する

先述したとおり、生成AIに登録した個人情報は、サービスのバグなどが原因で漏洩するリスクがあります。セキュリティ対策サービスを活用すれば、個人情報の流出にいち早く気づき、対策することが可能です。

たとえば、ドコモの「あんしんセキュリティ スタンダードプラン」の「ダークウェブモニタリング」機能を使えば、ダークウェブなどのインターネット上に個人情報が流出していないかをモニタリングし、検知した際には通知が届きます。生成AIにより情報漏洩が発生した場合でも、迅速に事態を把握し、適切な対策をすることが可能です。