会社でAIを使う前に最初に決めるべきセキュリティルール7選

📢 本記事はアフィリエイト広告（楽天アフィリエイト）を含みます。

「業務でAIを使いたいけれど、情報漏洩がこわい」——そう感じて、なかなか一歩を踏み出せていない方は多いと思います。

実は、AI活用でつまずく会社の多くは「どのツールを使うか」から考え始めてしまっています。でも、本当に最初にやるべきなのはツール選びではなく、ルール決めです。ルールがないままツールだけ配ると、ほぼ確実にどこかで事故が起きます。

この記事では、私が自分の環境でAIを業務に使いながら整理してきた「最初に決めるべき7つのセキュリティルール」を、専門知識がなくてもそのまま使える形でまとめました。最後に、これを社内に浸透させるコツと、さらに深く学ぶための一冊も紹介します。

そもそもAIを業務に使うと、何が危険なのか

細かい技術用語は抜きにして、危険は大きく3つです。

1. 入れた情報が外に出るかもしれない：顧客情報や社外秘を入力すると、それが学習や保存に使われる可能性がある
2. 嘘をそれらしく返してくる：AIは自信満々に間違えます。鵜呑みにすると判断を誤る
3. 悪意ある指示に乗っ取られる：外部から読み込ませた文章に「こっそり指示」が仕込まれていると、AIがそれに従ってしまうことがある（いわゆるプロンプトインジェクション）

この3つを頭の片隅に置いたうえで、具体的なルールを見ていきましょう。

最初に決めるべき7つのルール

① 入力してはいけない情報を決める

最重要です。「これは絶対にAIに入れない」というラインを先に決めます。

• 顧客の個人情報（氏名・連絡先・契約内容）
• 社外秘の数字（売上、原価、未公開の計画）
• パスワードやAPIキーなどの認証情報

迷ったら入れない。これを全員の共通認識にするだけで、事故の大半は防げます。

📰 実際にあった話
2023年、サムスン電子では社員が不具合チェックのために半導体の社内ソースコードや会議の議事録をChatGPTに貼り付け、わずか20日で3件の情報漏洩が起きました。同社はその後、社内での外部AI利用を全面的に禁止しています。（出典: PC Watch）

② 使ってよいツールを限定する

「AIならどれでもOK」にしないこと。会社として使ってよいサービスを名指しで決め、それ以外は禁止します。無料ツールの中には、入力内容を学習に使う設定が初期状態でオンになっているものもあります。利用規約の「入力データの扱い」だけは必ず確認しましょう。

📰 実際にあった話
先のサムスンの一件をきっかけに、Apple・JPMorgan・ゴールドマンサックス・Verizonといった名だたる大企業が、相次いで社用デバイスでの外部AI利用を制限・禁止しました。「使ってよいツールを決める」は、世界の大企業が現実に踏んだ判断です。（出典: Ledge.ai）

③ アカウントと支払いを個人・会社で分ける

個人のアカウントで業務データを扱うと、退職時にデータが持ち出されたり、逆に会社の情報が個人に残ったりします。業務用は業務用のアカウントで。支払いも会社のものに分けておくと、後の管理がぐっと楽になります。

④ 出力を鵜呑みにしない確認ルール

AIの出力は「下書き」と考えます。とくに、

• 数字・固有名詞・日付
• 法律や契約に関わる内容
• 社外に出す文章

これらは人が必ず確認してから使うというルールを決めておきます。「AIが言ったから」は理由になりません。

📰 実際にあった話
2023年、アメリカの弁護士がChatGPTに判例を調べさせ、その回答をそのまま裁判所に提出しました。ところが引用された判例はAIが創作した実在しないもので、弁護士には罰金（約72万円）の制裁が科されました。AIは、もっともらしく堂々と嘘をつきます。（出典: ITmedia）

⑤ プロンプトインジェクションへの基本対策

難しく聞こえますが、現場で必要なのは1つだけ。「外部から取り込んだ文章の“指示”に、AIを無防備に従わせない」という意識です。たとえば、よく分からないWebページやメール本文をそのままAIに読ませて「この通りに処理して」と任せきりにしない。読み込ませた内容に変な指示が混ざっていないか、人が間に立つ。これだけでかなり防げます。

📰 実際にあった話
セキュリティ研究では、Webページやメールに人間には見えない形で指示文を仕込むことで、それを読んだAIを攻撃者の思いどおりに操作できる（個人情報を聞き出す等）ことが実証されています。これを「間接プロンプトインジェクション」と呼びます。「外部から取り込んだ文章＝安全」とは限らないのです。（出典: GMO Flatt Security）

⑥ 履歴・ログの扱いを決める

AIとのやり取りは履歴として残ります。誰が見られるのか、いつ消すのかを決めておきます。便利だからと機密を含む会話を残し続けると、それ自体がリスクになります。

📰 実際にあった話
2023年3月、ChatGPTのバグで一部のユーザーに他人の会話のタイトルが見えてしまい、さらに有料会員の一部では氏名・メールアドレス・住所・クレジットカードの下4桁まで露出しました。AIに渡した履歴は「自分だけのもの」とは限りません。（出典: PC Watch）

⑦ 「誰が責任を持つか」を決める

最後に、運用の責任者を1人決めます。ルールは作って終わりではなく、ツールの追加・トラブル対応・見直しを担う人がいて初めて回ります。「みんなの責任」は「誰の責任でもない」になりがちです。

📰 実際にあった話
2024年、エア・カナダのチャットボットが運賃について誤った案内をし、利用者が損害を被りました。同社は「チャットボットが勝手に答えたこと」と主張しましたが、カナダの審判所は「AIの回答であっても企業が責任を負う」と判断。AIに任せても、責任は人と組織に残ります。（出典: EnterpriseZine）

まずは1枚にまとめよう

ここまでの7つは、頭で分かっていても、いざ運用すると抜け落ちます。チェックリストにして全員に配るのが一番効きます。

難しく考える必要はありません。この記事の7つの見出しを、そのまま社内チェックリストの項目として書き写してください。それを1枚にして配るだけで、「なんとなく不安」が「具体的に守れる」に変わります。

とはいえ「ゼロから作るのは手間」という方のために、印刷してそのまま配れる完成版チェックリストを無料で配布しています。

👉 【無料配布】AI業務利用セキュリティ・チェックリスト（note）

次の一歩：会社にAIを導入・活用していくなら

ここまでの7つで「安全に使う土台」ができたら、次の関心は「実際に、自社にどうAIを導入して成果につなげるか」に移っていくはずです。中堅・中小企業の現場目線で、導入の進め方から活用までまとまった一冊がこちらです。

中堅・中小企業のためのAI導入・活用の教科書 [ 豊島 顕 ] 価格：2,420円（税込、送料無料) (2026/6/7時点) 楽天で購入

まとめ

AIの業務活用は、ツールより先にルール。今日の7つを振り返ります。

1. 入力してはいけない情報を決める
2. 使ってよいツールを限定する
3. アカウントと支払いを分ける
4. 出力を鵜呑みにしない
5. プロンプトインジェクションに基本対策
6. 履歴・ログの扱いを決める
7. 責任者を決める

この7つを最初に押さえるだけで、「こわくて使えない」が「安全に使える」に変わります。まずはチェックリストを1枚、社内に配るところから始めてみてください。

おわりに：AIはどんどん賢くなる。でも——

私がChatGPTを使い始めた頃の話です。「〇〇県のおすすめの古民家カフェを教えて」と聞くと、いかにも実在しそうな店名と、雰囲気たっぷりの説明をスラスラ返してくれました。ところが、わくわくして検索してみると——そんなカフェ、どこにも存在しなかったのです。

あれから数年。今では実在のお店を踏まえて旅行プランまで立ててくれるようになり、進化の速さには本当に驚かされます。

でも、「もっともらしく間違える」というAIの性質が、完全に消えたわけではありません。むしろ賢くなったぶん、間違いには気づきにくくなっているとも言えます。だからこそ、今回の7つのルール——とくに「出力を鵜呑みにしない」——は、これからも効き続けます。

AIは、こわがる相手でも、盲信する相手でもありません。ルールを決めて、上手に付き合う。それだけで、AIはとても心強い相棒になってくれます。

---