生成AIの情報漏えい対策というと、多くの企業が最初に考えるのは「何を入力してはいけないか」です。
営業秘密を入力しない。
顧客情報を入力しない。
人事評価データを入力しない。
未公開の設計情報やソースコードを入力しない。
もちろん、こうした入力情報の管理は重要です。
しかし、資料ではもう1つ見落としてはいけない問題が指摘されています。
生成AIの情報漏えいは、従業員が機密情報を入力することだけによって起こるとは限らないということです。
サービス側の不具合。
端末のマルウェア感染。
アカウント情報の窃取。
こうした経路から情報が漏れる可能性もあります。
生成AI時代の情報管理では「何を入力するか」だけでなく「どのサービスを、誰のアカウントで、どの端末から使うか」まで考える必要があります。
慎重な従業員だけでは防げない
生成AIの利用ルールでは、
「機密情報を入力しないでください」
という注意が中心になりがちです。
従業員がルールを守れば情報漏えいを防げるように見えます。
しかし、資料ではユーザーの慎重さだけでは防げない経路があることが指摘されています。
従業員が入力内容に十分注意していたとしても、利用しているサービスやアカウント、端末に問題が生じる可能性があるからです。
つまり、生成AIの安全対策を従業員個人の注意力だけに任せることはできません。
会社側による利用環境の設計が必要になります。
2023年にはChatGPTで不具合が発生した
資料では、具体的な事例として2023年3月に発生したChatGPTの不具合が紹介されています。
オープンソースソフトウェアのライブラリのバグにより、一定の時間帯に他のユーザーのチャット履歴のタイトルが閲覧できる状態になりました。
さらに、一部の有料会員については、氏名、メールアドレス、住所、カード情報の一部などが別のユーザーから閲覧できる状態になったとされています。
ここで注目したいのは、利用者が意図的に情報を公開したわけではないことです。
利用者がどれほど注意していても、サービス側の不具合という経路があります。
生成AIを業務で利用する企業は、この種類のリスクも考える必要があります。
「入力しなければ安全」ではない
もちろん、重要情報を入力しなければ、入力した営業秘密そのものがサービス側から漏れるという問題は抑えられます。
しかし、生成AIを業務利用する以上、アカウントそのものに業務上の利用履歴が蓄積されることがあります。
そのため、
「営業秘密を入力しない」
というルールだけで、生成AI利用に関するすべてのリスク対策が完了するわけではありません。
資料が強調しているのは、生成AIを利用する入口そのものを管理する必要性です。
どのサービスを使うのか。
誰のアカウントを使うのか。
どの端末から利用するのか。
ここまで管理対象を広げる必要があります。
マルウェアからアカウント情報が盗まれる
もう1つ資料で紹介されているのが、端末の問題です。
2023年6月には、情報窃取型マルウェアに感染したデバイスからChatGPTのアカウント情報が盗まれた事例が報告されています。
生成AIそのものに問題がなくても、利用する端末がマルウェアに感染していれば、認証情報が狙われる可能性があります。
これは生成AI利用を考えるうえで重要な視点です。
「安全な生成AIを選んだから大丈夫」
というだけではありません。
その生成AIへどの端末からアクセスするのかも重要になります。
サービスと端末を切り離して考えることはできないのです。
2025年にも認証情報の流出が報告されている
アカウント情報の問題は、一時的なものではありません。
資料では、2025年にも生成AIツールの認証情報がダークウェブで取引されているとの報告があったことが紹介されています。
生成AIの業務利用が広がれば、それだけ企業にとって生成AIアカウントの重要性も高まります。
会社の業務に利用しているアカウントであれば、その管理を個人任せにしてよいのかという問題が生じます。
特に個人アカウントを業務利用している場合、会社側からその利用状況を把握することが難しくなります。
生成AIのアカウント管理も、企業の情報管理の一部として考える必要があります。
個人アカウントには管理上の問題がある
従業員が個人で契約している生成AIを業務に利用しているとします。
会社から見ると、
どの生成AIを利用しているのか。
どの設定になっているのか。
どの端末からアクセスしているのか。
何の業務に利用しているのか。
こうした実態が見えにくくなります。
さらにアカウント情報が窃取された場合にも、会社がすぐに状況を把握できるとは限りません。
そこで資料では、まず現場の利用実態を把握し、学習に再利用されない法人プランを会社として導入したうえで、個人アカウントによる業務利用を原則禁止する方法が示されています。
会社がサービスを選ぶ意味
法人として生成AIを導入する意味は、単に利用料金を会社が負担することではありません。
会社として、業務に利用する生成AIの入口を管理する意味があります。
従業員がそれぞれ好きな生成AIを利用する状態では、会社として統一した管理が難しくなります。
どのサービスを業務利用してよいのか。
どの環境を利用するのか。
個人アカウントの利用をどう扱うのか。
会社が入口を決めることで、生成AI利用を会社の管理下に置きやすくなります。
資料が示している「サービス選定」という視点は、この意味で重要です。
端末まで含めて考える
生成AI利用の入口は、サービスとアカウントだけではありません。
端末も含まれます。
会社が認めた生成AIであっても、どの端末からでも自由にアクセスできる状態でよいのかという問題があります。
資料では、端末のマルウェア感染による認証情報窃取の事例が示されています。
したがって、生成AIの情報管理を考える際には、
何を入力するか。
どのサービスを使うか。
誰のアカウントを使うか。
どの端末から使うか。
という複数の視点が必要になります。
入力情報だけを管理しても、入口全体の管理にはなりません。
シャドーAIともつながっている
この問題は、これまで取り上げてきたシャドーAIとも密接につながっています。
会社が生成AIを全面禁止する。
しかし、従業員には生成AIを使いたいという需要がある。
その結果、個人アカウントや個人端末から生成AIを利用する。
こうなると、会社が管理できないサービス、アカウント、端末が業務に入り込む可能性があります。
全面禁止によって生成AI利用がなくなるのではなく、見えなくなってしまえば、企業にとって管理はさらに難しくなります。
だからこそ、会社として安全に利用できる環境を用意することが重要になります。
法人プランだけで全部解決するわけではない
一方で、法人プランを導入すればすべてのリスクがなくなると考えるのも適切ではありません。
法人向け環境を用意することと、入力情報を管理することは別です。
たとえば会社指定の環境であっても、資料では職種別に入力しない情報が具体的に示されています。
営業担当者なら、顧客の固有名詞や未開示の取引条件。
人事担当者なら、人事評価データ。
技術担当者なら、未公開の設計情報やソースコード。
利用環境を管理したうえで、さらに入力する情報を管理する。
両方が必要です。
生成AI対策を「注意してください」で終わらせない
生成AIの情報漏えい対策を従業員への注意喚起だけで済ませると、
「機密情報を入力しないでください」
「生成AIを慎重に使ってください」
という話になりがちです。
しかし、サービス側の不具合や端末のマルウェア感染、アカウント情報の窃取は、従業員が注意するだけでは十分にコントロールできません。
だからこそ、会社側が仕組みを作る必要があります。
現場の利用実態を把握する。
業務で利用するサービスを決める。
法人向け環境を用意する。
個人アカウントによる業務利用を原則禁止する。
そして、入力してはいけない情報を職種ごとに具体化する。
個人の注意と会社の仕組みを組み合わせることが必要なのです。
「入口設計」という考え方
資料の内容を理解するうえで重要なのが「入口設計」という考え方です。
生成AIへ何を入力したのかという出口側の問題だけを見るのではありません。
生成AIを利用する入口から管理します。
サービス。
アカウント。
端末。
この3つを会社としてどう設計するかです。
従業員が自由にサービスを選び、個人アカウントを作り、個人端末から利用する状態では、会社は実態を把握しにくくなります。
生成AIを業務インフラの1つとして利用するのであれば、その入口も企業が管理するという発想が必要になります。
結論
生成AIの情報漏えい対策では「機密情報を入力しない」というルールが重要です。
しかし、それだけでは十分ではありません。
資料では、サービス側の不具合によって情報が閲覧可能になった事例や、マルウェアに感染した端末から生成AIのアカウント情報が盗まれた事例、生成AIツールの認証情報がダークウェブで取引されたとの報告が紹介されています。
これらは、生成AIのリスクが入力情報だけではないことを示しています。
何を入力するか。
どのサービスを使うか。
誰のアカウントで使うか。
どの端末から使うか。
この4つを一体として考える必要があります。
従業員に注意を求めるだけではなく、会社として安全に利用できる入口を設計する。
生成AIを業務で本格的に活用する企業ほど、この視点が重要になります。
生成AI時代の情報管理は「何を入力してはいけないか」だけではありません。
「どこから生成AIを使わせるのか」まで会社が考える。
そこまで含めて初めて、生成AIの利用を企業の管理下に置くことができるのです。
参考
企業実務 2026年10月号 生成AI時代における「営業秘密」の漏えいリスクとその対策