こんにちは、サイボウズの吉原です。
AIについて調べていくと、よく遭遇する「学習」という言葉。「業務でAIを使うときは、"学習"というものには特に気をつけないといけないらしい」なんとなく、そういったイメージを持たれている方は多いのではないでしょうか。
ただ、学習とはつまりどういうことで、なぜ気をつけなければいけないのか。もう少し詳しく知っておくと、より安心安全にAIを活用しやすくなると思います。
今回は、ビジネス職向けAI用語解説シリーズ第4回として、AIの「学習」について解説します。
注：本記事は、技術的な正確性よりも「大まかな理解の補助」を優先してまとめています
この記事でわかること
- AIの「学習」とは何か。生成AIが回答を作る基本的な仕組み
- AIが学習ソースにしている情報の種類
- 入力情報が学習されると情報漏えいにつながる理由
- 学習されないようにAIを使うための確認ポイント
AIの「学習」とは何か
AIにおける「学習」とは、AIが知らなかったこと・新しいことを学び、覚えることです。私たち人間が勉強や人から教わることで新しい知識を身につけるのと、基本的には同じです。
AIは「次に来そうな言葉」のパターンをたくさん学習することで、流暢な回答が可能になっている
前提として、生成AIは直前の言葉に続く可能性が最も高い言葉を、確率的に導き出して回答しています（あくまで大まかな原理です）。
たとえるなら、「日本の6月下旬の天気は◯◯が多いです」という文章があったとします。私たち日本人なら「6月といえば梅雨だから、◯◯に入るのはたぶん『雨』だな」と想像がつきますよね。
生成AIがやっているのは、これに近しいことです。前の言葉に続きそうな言葉を推定して、「この文章・質問の後には、だいたいこう答えるよね」と考えられる文章を返しているのです。
AIによる回答の仕組み。あくまで大まかな部分のみのイメージですが
そのため、AIにとっての学習とは、たくさんの文章を読み込んで「この言葉の後には、だいたいこういう言葉が続くんだな」という規則性を新しく学び、より賢いAIになっていくことを指します。
AIは何を学習ソースにしている？
AIが「たくさん文章を読み込む」ための学習元はいくつかありますが、その主要なものとして「ウェブ上に公開された情報」と「AIサービスに利用者が入力した情報」の2種類があります。
ウェブ上に公開された情報
わかりやすいのは、ブログ・ニュース記事・各種ウェブサイトなど、インターネット上に書かれている情報です。
AIサービスに入力した情報
もうひとつが、ChatGPTやGemini、Claudeのような、実際に運用されているAIサービスに利用者が入力した内容です。こうしたAIサービスの中には「入力された内容を学習に使います」としているものがあります。
ログインしていない状態のChatGPTの画面。「チャット内容は確認され、AI モデルの改善に使用される場合があります」と下部に書かれていることがわかる
学習を許可する状態になっていると、AIに入力した質問・依頼・相談、それに関連する添付ファイルなどが、学習の元データとして使われることがあります。
入力した情報が学習されると、何が問題？
では、入力した内容がAIに学習されると何が問題なのか。一言で言えば、思いがけない情報漏えいのリスクを抱えることになる点です。自社の人しか知らないはずの情報を、AIが世界のどこかで別の誰かに話してしまう可能性があることです。
たとえば、自社の機密情報やお客様の情報を、学習に使われる状態のAIサービスに入力してしまったとします。その情報はAIの学習に利用され、AIは「回答の際の規則性・パターンの例」として学びます。
その後、もし世界の誰かがその顧客情報に関連するプロンプトを入力したら？ AIは学習したソースを踏まえて、次に来そうな言葉を予測して回答を組み立てるため、本来は自社しか持っていなかった情報をペラペラと話し始める可能性が生まれてしまうわけです。
社外秘だと思っていた情報が、いつのまにか世界のどこかで第三者に渡ってしまう。業務でAIを使う以上、これは顧客からの信頼等に直結する問題です。「私と目の前のAIしか見えていない情報」と思っていたのに、そのAIがいつの間にか世界中の人に喋り回っていたという悲劇があり得てしまうのです。
学習されないようにAIを使うには？
ここまでの内容を踏まえると、「学習されない形でAIを使いたい」と思いますよね。では、どうすればいいか。結論としては、気になったAIサービスごとに、学習の扱いを個別に調べるしかありません。細かいルールはサービスによって異なるためです。
特に注意が必要なのは、学習に使われるかどうかは「無料版か有料版か」だけでは意外と決まらない点です。
たしかに、一般的な傾向としては、無料版では入力内容が学習に使われるケースが多い印象です。ただし、有料版だからといって必ずしも学習されないとは限りません。各サービスのヘルプページを見る、利用規約やプライバシーポリシーを読む、提供元に問い合わせるといった手段で、しっかり確認することが大切です。
著者の例：プライベートで有料契約したGeminiが、思いがけず学習設定オンだった
「有料版でも学習されるかどうかは要確認」の一例として、私自身の話を紹介します。
私はプライベートで使うAIサービスのひとつとして、Google Geminiを有料契約しています。使っているのはGoogle AI Plusという、Geminiが使える個人向け有料プランの中では一番お安いプランです。
「有料でお金を払っているくらいだし、学習はされないんだろう」と思いつつ、しばらく使ってみてから「念のため調べておこう」と確認してみると、学習されていることがわかりました。大した内容は入力していなかったので、実害こそなかったものの、てっきり学習はないだろうと思い込んでいたのでヒヤッとしました。
「アクティビティと呼ばれる機能をオフにすれば、学習には使われない」ということもわかったのですが、こちらをオフにするとGeminiでチャットした履歴も見られなくなることがわかりました。「学習を止めたければ、チャット履歴という便利機能を手放す必要がある」ということです。
Geminiのアクティビティ機能のオン・オフ切り替え画面。学習（トレーニング）に使用されることが書かれている
このため、現在は私はGeminiには「学習されてもいい情報だけを入れて使う」という運用にしています。なお、Google Workspaceに付いているような法人版だとまた話は違うようです（詳細は各自でお調べください。また、執筆時点の情報ですのでご留意ください）。
あくまで一例ではありますが、「有料だったら学習されない」と大ざっぱに判断するのは危険だと実感した出来事でした。
まとめ：業務でAIを使うなら「学習の有無」を確認しよう
個人で使う程度なら、必ずしも大きな問題にならないかもしれません。しかし業務で使うとなったときには、「学習されるAI」を使ったことで顧客からの信頼を失うような事態もあり得ます。ぜひ学習の有無をチェックしてから、適切に活用するようにしましょう。
最後に要点を整理しておきます。
- AIの学習とは、たくさんの文章から「言葉の続き方」の規則性を新しく学ぶこと
- ウェブ上の公開情報だけでなく、AIサービスへの入力情報も学習に使われることがある
- 学習に使われる状態で機密情報を入力すると、AIがいつか第三者にその情報を話す可能性が生まれてしまう
- 有料版でも学習されないとは限らない
- AIを業務で使う前には、ヘルプページ・利用規約・プライバシーポリシー等で学習の扱いを確認するのが大事
なお、AIがデータを都度「参照」することと、今回解説した「学習」は異なります。学習がAIモデル自体を賢くすることであるのに対し、参照は、回答のたびにその場でデータを読みに行くことです（シリーズ第1回で解説したRAGは、この参照に関する仕組みです）。
kintone AIは、データを必要に応じて「参照」するだけで、入力データがAIモデルの「学習」目的で保存または利用されることはありません（詳細はこちら）。AI活用にぴったりの業務改善プラットフォームということで、その点はご安心ください。
kintone AI | kintone（キントーン）
https://kintone.cybozu.co.jp/feature/kintone-ai/
次回以降のシリーズでも、業務でのAI活用に関わるキーワードを解説していきます。
関連記事
AIが社内情報を答えられない理由と、「RAG（検索拡張生成）」が解決できることって？ 【ビジネス職向け AI用語解説シリーズ】
https://kintone-sol.cybozu.co.jp/integrate/pickup/m008680.html
「プロンプト」「コンテキスト」とは？ AIと向き合う基本のコツを解説【ビジネス職向け AI用語解説シリーズ②】
https://kintone-sol.cybozu.co.jp/integrate/pickup/m008686.html
バイブコーディングとは？ セキュリティは大丈夫？ "雰囲気"でアプリをつくれるメリットとデメリット【ビジネス職向け AI用語解説シリーズ③】
https://kintone-sol.cybozu.co.jp/integrate/pickup/m008697.html
著者：吉原 寿樹（サイボウズ株式会社 kintoneプロモーション担当）
2017年の新卒入社からマーケターとして広告・セミナー・コンテンツ制作などを担当し、現在は部内のAI活用推進にも携わる。AIツールを日常業務に組み込む実践者として、非IT人材向けのAI活用ノウハウを発信中。
