中小企業の生成AIセキュリティ｜入力してはいけない情報と設計の3原則

生成AIセキュリティとは、AIに何を入力するか、誰が使えるか、出力をどう確認するかを、業務の流れとして管理することです。ツールを禁止することではなく、情報の境界と人間の確認点を先に決める取り組みです。

中小企業では、専任の情報システム担当者を置けないことも珍しくありません。だからこそ、分厚い規程を作るより、「入力してよい情報」「止めるべき情報」「出力後に確認する人」を現場が判断できる形にする必要があります。

この記事では、特定製品の安全性を評価するのではなく、自社で生成AIを使い始める前に整理したい共通の設計を解説します。

生成AIに入力してはいけない情報は何ですか

入力してはいけないのは、公開を前提としておらず、外部に出たとき自社だけでは責任を完結できない情報です。迷ったら入力せず、公開情報・匿名化した例・ダミーデータに置き換えます。

代表的には、次のような情報をそのまま入力しない運用が必要です。

• 顧客や取引先から預かった個人情報、連絡先、契約内容
• 公開前の価格、見積、企画、経営資料、営業リスト
• パスワード、認証情報、秘密鍵、接続先などのシステム情報
• 社員の評価、健康、給与、採用選考に関する情報
• 契約上、秘密として扱う義務がある文章やデータ
• 未公開のソースコード、設計書、障害記録

重要なのは、情報名だけで機械的に決めないことです。たとえば会社名は公開情報でも、その会社が自社と交渉中だという事実は未公開かもしれません。複数の断片を組み合わせると機密になる情報もあるため、入力する文脈まで見ます。

入力してよいか迷ったときは何を基準にしますか

迷ったときは、「すでに公開されているか」「自社だけで利用を決められるか」「そのまま社外に見せても説明できるか」を確認します。ひとつでも判断できなければ、入力を保留するのが安全です。

現場向けには、次の順番で判断できるチェックにすると運用しやすくなります。

1. 公式サイトなどで、すでに公開されている情報か
2. 顧客、取引先、社員など第三者から預かった情報を含まないか
3. 契約や社内ルールで、外部提供を制限されていないか
4. 個人や会社を特定できる要素を除けるか
5. 誤って共有された場合、担当者が利用目的を説明できるか

「入力禁止」で終わらせず、固有名詞を仮名にする、数値を架空の値に替える、文章の構造だけを相談する、といった代替手段も示します。そうすれば、社員が判断を隠して使うのではなく、安全な方法を選びやすくなります。

原則1：なぜ入力データを最小化するのですか

データ最小化とは、目的を達成するために必要な部分だけをAIへ渡すことです。「資料を丸ごと入れる」より、「必要な箇所だけを抜き出し、識別情報を外す」ことが基本になります。

たとえばメールの下書きなら、過去のメールボックス全体を渡さなくても、伝えたい要点と希望する文体で作れます。議事録の要約なら、参加者の個人情報や別案件の記述を除いてから扱えます。契約書の表現を確認したい場合も、当事者名や金額を仮の情報に替え、条文だけを対象にできることがあります。

最初に「AIへ何を渡すか」ではなく、「この作業に本当に必要な情報は何か」を問い直してください。入力が少なければ、誤送信や過剰共有の影響範囲も狭められます。

原則2：なぜ利用者と権限を分けるのですか

権限分離とは、全社員に同じ使い方を認めるのではなく、業務、情報、役割に応じて利用範囲を分けることです。誰が、何の目的で、どのデータを扱えるかを決めます。

公開情報を使った文章の下書きと、社内資料を使う業務ではリスクが異なります。まずは公開情報とダミーデータだけで試す範囲を設け、機密性のある業務は承認や個別設計を経てから広げる方が整理しやすくなります。

最低限、利用を認める業務、使用する環境、入力できる情報、責任者、問題発生時の連絡先を一覧にします。退職や異動の際に利用権限を見直す担当も必要です。アカウントを配ることと、業務利用を許可することは同じではありません。

原則3：なぜ出力を人間が確認するのですか

生成AIの出力は、もっともらしくても誤りや不適切な表現を含む可能性があります。そのため、外部送信、契約判断、採用判断、会計処理などへ使う前に、責任を持つ人が確認します。

確認すべき点は、事実、数字、固有名詞、引用、権利、差別的表現、顧客との約束との整合です。専門判断が必要な内容は、AIの回答だけで確定させません。AIは下書きや論点整理を担い、最終判断と送信は人が握る設計にします。

自社では、LinkedInやメールの営業送付をAIで自動化して実際に運用しています。設計を固めるとき最初に決めたのが、「送付リストとメッセージ文面は必ず人間が目視確認してから実行する」というルールです。スクリプトが候補リストとメッセージを生成し、送る前にDiscordへ通知が届き、人間が承認した後にのみ動く仕組みにしました。全自動にしない理由は、誤送信1件で信用が失われるリスクをAIの処理速度で拡大させないためです（詳細は毎朝6時のAI営業自動化実録）。外部に送信する、契約に関わる、人を傷つける可能性がある工程ほど、確認点は削れません。自動化の範囲を広げるほど「どこで誰が止められるか」を設計から切り離さないことが、実運用で気づいた最大の教訓です。

小さな会社でも最低限どんなルールが必要ですか

最低限必要なのは、長い規程ではなく、社員が業務中に参照できる短い利用ルールです。禁止事項、許可された用途、確認者、事故時の連絡先が一枚で分かる状態を目指します。

ルールには次の項目を含めます。

• 利用を認める業務と、認めない業務
• 入力可能な情報と、入力禁止の情報
• 匿名化やダミーデータへの置換方法
• 出力を外部へ出す前の確認者
• 利用中に問題を見つけた場合の報告先
• ルールや利用環境を見直す責任者

社員への説明では、禁止の理由と安全な代替手段をセットにします。全面禁止だけでは、私物環境での利用など管理外の行動を招きかねません。「公開済みの情報ならこの用途に使える」「顧客情報を除けば下書きに使える」と具体化する方が、相談しやすい運用になります。

導入前にどこまで整理すればよいですか

導入前には、対象業務、利用者、入力データ、保存場所、外部との接続、確認工程を一つの流れで整理します。ツールの名称だけを決めても、業務全体の安全性は判断できません。

最初の対象には、公開情報やダミーデータで試せて、出力を人が確認できる業務が向いています。逆に、顧客データを直接扱う、本番システムへ接続する、出力がそのまま外部へ送られる業務は、権限や例外処理を含む別の検討が必要です。

進め方に迷う場合は、AI導入の5ステップに沿って、対象業務の選定から試作、実装、定着までを分けて考えると整理できます。セキュリティは最後の検査ではなく、対象業務を選ぶ段階から入れるものです。

事故や誤入力が起きたらどう対応しますか

誤入力に気づいたら、個人で抱えず、利用を止めて責任者へ報告し、入力内容、利用環境、時刻、共有範囲を記録します。その後の対応は、契約、社内規程、利用環境の条件に沿って判断します。

平時に決めるべきなのは、「誰へ報告するか」「どの情報を残すか」「誰が利用再開を判断するか」です。社員を責める仕組みにすると報告が遅れます。早く共有した方が影響を確認しやすいという共通認識を作り、事例をルール改善に反映します。

一度作ったルールを完成品と考えず、利用する業務が増えたとき、担当者が変わったとき、外部接続を追加するときに見直してください。

受けなくていい会社・この記事に含まれないことは何ですか

公開情報だけを使い、担当者が出力を目視確認する小さな試行であれば、最初から大がかりな支援を受ける必要はありません。社内で対象業務と禁止情報を整理できる会社は、まず自分たちでルールを作って試せます。

一方、この記事には次の内容を含みません。

• 特定の生成AI製品や契約プランの安全性評価
• 個別企業の法務、契約、規制対応に関する判断
• 本番システムへの接続、API連携、詳細な権限設定
• 情報漏えいが起きないことの保証
• 監査や認証を満たすための個別設計

顧客情報や機密情報を本番で扱う場合は、一般的なチェックリストだけで進めず、契約条件、データの流れ、保存、アクセス範囲、例外時の対応を個別に確認する必要があります。AI適用診断も本番非接続で行い、本番化や保守は別契約です。診断で分かる範囲はAI適用診断の解説で確認できます。

自社のどの業務なら安全に始められるか整理できない場合は、30分の無料相談で、入力データと人間の確認点を一緒に切り分けるところから始めてください。

本記事は2026年8月時点の情報です。