生成AIの企業利用が広がるなか、情報漏洩や誤情報といったセキュリティの不安も大きくなっています。
本記事では、企業が知っておくべきリスクの類型から、業務シーン別の具体例、社内ルールづくり、従業員教育までを順に整理します。
むずかしい専門用語はかみくだいて説明するため、はじめての担当者でも要点をつかめます。
▶︎ リスキリング支援の特設ページ
▶︎ 関連記事：中小企業の生成AI導入
- 生成AIの主なセキュリティリスクは7類型に整理できる
- 議事録やメールなど業務シーンごとに危険な使い方がある
- 対策の基本はルールづくりと従業員教育である
- 中小企業はスモールスタートで優先順位をつけられる
- TKwriteworksの無料相談で、自社に合った安全な使い方がわかる
＼ 今月残り1社対応可能！ ／
なぜ企業で生成AIのセキュリティが問われるの？
生成AIは、文章作成や情報整理を助ける便利な道具として、多くの企業で使われ始めています。
一方で、入力した情報の扱いやリスクへの理解が追いつかず、不安を感じる企業も増えています。
この章では、なぜいま企業で生成AIのセキュリティが問われるのかを整理します。
生成AIの利用が急速に広がっている
まず、利用の広がりから見ていきましょう。
生成AI*は、質問を入力するだけで文章や要約をつくれる手軽さから、日々の業務に取り入れる企業が増えています。
総務省の情報通信白書でも、生成AIを業務に活用する動きが広がっていると示されました。
特別な知識がなくても使える手軽さが、急速な普及を後押ししています。
無料で試せるツールも多く、現場の判断で導入が進む場面も少なくありません。
身近な道具になったからこそ、安全な使い方を知る必要があるのです。
便利さの裏でリスクが高まっている
普及の速さは、そのままリスクの広がりにもつながります。
生成AIに入力した情報がどこに保存され、どう使われるのかを正しく理解しないまま使うと、思わぬ形で社外に情報が出てしまうおそれがあります。
とくに、会社のルールがないまま個人の判断で使われる状態は危険です。
便利だからこそ、リスクを知ったうえで使い方を整える姿勢が欠かせません。
次の章から、具体的なリスクの中身を見ていきます。
*生成AI：文章や画像などを自動でつくり出すAI。ChatGPTなどが代表例。
生成AI利用に潜むセキュリティリスク7類型
生成AIのリスクは漠然と語られがちですが、整理すると主に7つの類型に分けられます。
全体を知っておくと、自社で何に気をつけるべきかが見えてくるでしょう。
ここでは、代表的な4つの観点に整理して解説します。
入力した情報の外部流出
最初に挙げられるのが、入力情報の流出です。
生成AIに顧客名や社外秘の資料を入力すると、その内容がサービス側のサーバーに送られ、自社の管理が及ばなくなります。
一度送った情報は取り消せないと考えておくのが安全です。
個人情報や取引先の情報を含む文章は、とくに注意が必要でしょう。
便利さに引かれて、つい機密を貼り付けてしまう場面が起こりやすいのです。
入力データの学習への利用
二つめは、入力内容が学習に使われるリスクです。
無料版のサービスでは、利用者が入力した文章がAIの学習データとして使われる場合があります。
学習に取り込まれた情報は、別の利用者への回答に間接的に影響するおそれもあるとされています。
学習に使われない設定や法人向けプランを選ぶことで、このリスクは抑えられます。
使う前に、サービスの設定や規約を確かめておきましょう。
誤情報・著作権のリスク
三つめは、出力そのものに潜むリスクです。
生成AIは、事実とは異なる内容をいかにも正しそうに作り出すことがあり、これはハルシネーション*と呼ばれます。
誤った情報をそのまま資料に使うと、社外への説明で信用を損なうおそれがあります。
また、生成された文章や画像が、他者の著作物に似てしまう場合もあるのです。
出力は必ず人が確認してから使うという前提を、社内で共有しておきましょう。
アカウントとシャドーAIのリスク
四つめは、利用環境そのもののリスクです。
パスワードの使い回しなどでアカウントが乗っ取られると、過去のやり取りごと情報が外部に漏れるおそれがあります。
会社が把握しないまま社員が勝手にツールを使う状態は、シャドーAI*と呼ばれます。
見えないところで起きる利用こそ、最大の死角になるといえるでしょう。
*ハルシネーション：AIが事実と異なる内容を正しそうに生成する現象。
*シャドーAI：会社が把握しないまま社員が個人判断でAIを使う状態。
生成AIを悪用した攻撃・脅威
リスクは、自社の使い方だけにとどまりません。
生成AIは攻撃者にも使われ、これまでより巧妙な手口が生まれています。
この章では、外からの脅威として知っておきたい3つを取り上げます。
巧妙化するフィッシング
まず警戒したいのが、偽メールの巧妙化です。
これまで不自然な日本語で見分けられた迷惑メールも、生成AIによって自然な文章でつくられるようになっています。
取引先や上司を装った文面が精巧になり、うっかり開いてしまう危険が高まっています。
文章の自然さだけで本物と判断しない姿勢が、これまで以上に大切です。
送信元や添付ファイルを確かめる習慣を、改めて社内で見直しておきましょう。
プロンプトインジェクション
次に知っておきたいのが、AIをだます攻撃です。
プロンプトインジェクション*とは、AIに不正な指示を紛れ込ませ、本来出すべきでない情報を引き出そうとする手口を指します。
社内データと連携したAIを業務に組み込む場合、とくに注意が必要でしょう。
AIに渡す情報の範囲をあらかじめ絞っておくことが、有効な備えになります。
新しい手口のため、提供元の注意喚起にも目を向けておきたいところです。
ディープフェイクと偽情報
三つめは、本物そっくりの偽コンテンツです。
ディープフェイク*と呼ばれる技術では、実在する人物の声や映像を精巧に作り出せます。
経営者になりすました偽の指示で、送金をうながす詐欺が海外では報告されています。
声や映像だけで相手を信じ込むのは、もはや危険といえるでしょう。
重要な指示は別の手段で確認するルールを決めておくと安心です。
*プロンプトインジェクション：AIに不正な指示を与え、想定外の動作をさせる攻撃手法。
*ディープフェイク：AIで作られた本物そっくりの偽の映像や音声。
業務シーン別に見るリスクの具体例
リスクは、日々の業務のなかにこそ潜んでいます。
ここでは、多くの会社で使われる3つの場面に分けて、危険な使い方を具体的に見ていきます。
自分の仕事に置きかえながら読むと、注意点がつかみやすくなります。
議事録の作成・要約
まず身近なのが、会議の議事録づくりです。
録音した会議の文字起こしをそのまま生成AIに貼り付けて要約すると、社外秘の発言まで送ってしまうことになります。
経営方針や人事、取引条件など、外に出てはいけない話題が含まれがちです。
機密を含む会議の内容は、安易にそのまま入力しないのが原則になります。
固有名詞を伏せる、要点だけにするなどの工夫も役立つでしょう。
メール・文章の作成
次は、メールや文書の作成です。
顧客への返信文を考えてもらおうとして、相手の氏名や契約内容をそのまま入力してしまう例は少なくありません。
個人情報を含む文章は、取り扱いに法律上の責任もともないます。
名前や数字は仮の言葉に置きかえてから依頼すると、安全に使えます。
完成した文面は、送る前に内容と宛先を必ず見直しましょう。
資料・企画書の作成
三つめは、資料や企画書の作成です。
市場データや数値を生成AIに尋ねて資料に載せると、事実と異なる情報が紛れ込むおそれがあります。
それらしい数字ほど、そのまま信じてしまいがちです。
数値や引用は必ず一次情報で裏づけることを、作成のルールにしましょう。
AIはたたき台づくりに使い、事実確認は人が担うと考えると安全です。
＼ 今月残り1社対応可能！ ／
国内で報告されている情報漏洩・トラブルのパターン
実際のトラブルを知ると、対策の必要性がより具体的にわかります。
個別の企業名ではなく、報告されている代表的なパターンとして見ていきましょう。
多くは、特別な攻撃ではなく日常の不注意から起きています。
機密情報の入力による流出懸念
とくに多いのが、機密の入力にまつわる懸念です。
社員が業務効率化のつもりで、設計情報やソースコードを生成AIに入力していた事例が国内外で取り上げられています。
こうした事態を受け、社内での利用を一時的に制限した企業も出ました。
悪意がなくても、便利さのあまり情報を渡してしまう点が共通の落とし穴です。
禁止だけでなく、安全な使い方を示すことが解決につながります。
設定ミスや公開範囲の誤り
もう一つ多いのが、設定にまつわる誤りです。
サービスの共有設定を誤り、本来は社内だけのやり取りが外部から見える状態になっていた、といった報告もあります。
AIサービス側の不具合で、他人の履歴が一時的に見えてしまった事例も過去にありました。
仕組みを完全に信頼しきらず、入れる情報を選ぶ意識が大切になります。
設定の確認を定期的に行うことも、有効な備えといえます。
企業が取るべきセキュリティ対策
ここからは、具体的な対策に話を進めます。
むずかしく考える必要はなく、基本を押さえるだけで多くのリスクは減らせます。
3つの柱に分けて整理しました。
利用範囲とツールを決める
対策の出発点は、使う範囲を決めることです。
どの業務で、どのツールを使ってよいのかを会社として定めると、社員ごとのばらつきを防げます。
会社が認めたツールに絞ることで、シャドーAIの発生も抑えられるでしょう。
まず使ってよいツールを一つ決めるだけでも、管理はぐっと楽になります。
法人向けプランなら、入力情報が学習に使われない設定も選びやすいでしょう。
入れてよい情報を線引きする
次に大切なのが、情報の線引きです。
個人情報や取引先の機密、未公開の経営情報など、入力してはいけない情報をはっきり示しておきます。
判断を社員まかせにすると、よかれと思った行動が事故につながりかねません。
迷ったら入れない、を共通のルールにすると現場が動きやすくなります。
具体例をいくつか示すと、社員も判断しやすくなるでしょう。
技術的な仕組みで守る
最後は、技術面の備えです。
アクセス管理やパスワードの強化、二要素認証の導入は、アカウント乗っ取りを防ぐ基本になります。
法人向けサービスには、利用状況を管理者が把握できる機能もそなわっています。
ルールと仕組みの両輪でこそ守りは固まるといえるでしょう。
主な対策を、次のチェックリストにまとめました。
- 使ってよいツールと業務を会社で決める
- 入力してはいけない情報を明文化する
- 学習に使われない設定や法人プランを選ぶ
- 二要素認証などでアカウントを守る
- 出力は人が確認してから使う
＼ 今月残り1社対応可能！ ／
社内ガイドライン・利用ルールの作り方
対策を定着させるには、文書にしたルールが欠かせません。
立派なものを目指すより、現場が読んで守れる内容にすることが大切です。
盛り込む項目と、中小企業ならではの進め方を見ていきましょう。
ガイドラインに盛り込む項目
まず、何を書くべきかを整理します。
利用してよい業務とツール、入力してはいけない情報、出力を使うときの確認手順を中心に据えます。
困ったときの相談先や、ルール違反があった場合の連絡方法も決めておきましょう。
禁止事項だけでなく、推奨する使い方も書くと社員が前向きに使えます。
一度作って終わりにせず、使いながら見直していく前提で考えます。
中小企業はスモールスタートで
中小企業では、完璧な規程づくりに時間をかけすぎないことが肝心です。
はじめは、入れてはいけない情報と使ってよいツールという二点だけでも十分に効果があります。
A4一枚のルールから始めましょう。
優先順位をつけ、守れる範囲から始めるほうが、形だけの分厚い規程より役立ちます。
運用に慣れてきたら、少しずつ項目を足していけば十分でしょう。
はじめの一歩を小さくすることが、定着への近道になります。
従業員教育とリスキリングで守りを固める
ルールや仕組みを整えても、使うのは一人ひとりの社員です。
最終的な守りの強さは、社員の理解度で決まるといっても過言ではありません。
この章では、教育がなぜ重要かと、その進め方を解説します。
教育が最大の防御になる理由
なぜ教育が要になるのでしょうか。
これまで見てきたトラブルの多くは、攻撃ではなく社員の不注意から起きていました。
つまり、社員がリスクを正しく理解していれば、その多くは防げるということです。
ルールを守る理由がわかってこそ、行動が変わるのです。
禁止して終わりにせず、なぜ危ないのかを伝えることが効果を生みます。
AIリテラシー教育の進め方
では、どう進めればよいのでしょうか。
まずは全社員に、リスクの基本と社内ルールを共有する短い研修から始めるのが現実的です。
そのうえで、よく使う部署には実際の業務に沿った使い方を学ぶ機会を設けます。
こうした学び直しは、AIリテラシー*を高めるリスキリング*の一環でもあります。
安全に使える人材を育てることが、攻めと守りの両方を強くするといえるでしょう。
自社だけで進めにくい場合は、外部の研修を活用する方法もあります。
*AIリテラシー：AIの仕組みやリスクを理解し、適切に使いこなす力。
*リスキリング：新しい業務に必要な知識やスキルを学び直すこと。
生成AIのセキュリティについてよくある質問
最後に、担当者からよく寄せられる質問に答えます。
迷いやすい点を、簡潔に整理しました。
Q1. 無料版を業務で使っても大丈夫ですか？
使い方しだいですが、注意が必要です。
無料版では入力情報が学習に使われる場合があり、機密を扱う業務には向きません。
下調べや一般的な文章づくりなど、機密を含まない用途であれば活用できます。
本格的に業務で使うなら、法人向けプランの検討をおすすめします。
Q2. 入力した情報は学習に使われますか？
サービスや設定によって異なります。
多くのサービスでは、設定や契約プランによって学習に使わないよう選べます。
法人向けプランでは、入力情報を学習に使わないと明記されている場合が一般的です。
使う前に、各サービスの設定と規約を確かめておくと安心です。
Q3. まず何から対策すればよいですか？
入れてはいけない情報を決めることから始めましょう。
個人情報や機密を入力しないという一点だけでも、多くのリスクを防げます。
あわせて、使ってよいツールを一つに絞ると管理がしやすくなります。
慣れてきたら、ルールの文書化や研修へと広げていくとよいでしょう。
まとめ
生成AIのセキュリティは、リスクを正しく知ることから始まります。
情報の流出や誤情報など主なリスクは7類型に整理でき、議事録やメールなど身近な業務にこそ落とし穴がありました。
対策の柱は、利用範囲を決め、入れてよい情報を線引きし、仕組みで守ることです。
そして、ルールを生かすのは社員一人ひとりの理解にほかなりません。
中小企業はスモールスタートで、守れる範囲から無理なく始めましょう。
安全に使える人材を育てる取り組みについては、TKwriteworksの無料相談で気軽にご相談いただけます。
＼ 今月残り1社対応可能！ ／
出典・参考情報