影子 AI 是指在公司不知情的情況下，把 AI 工具用於工作。本文說明會出什麼問題，以及組織和個人各自該怎麼做。
意思：影子 IT 的 AI 版本
影子 IT 是指員工把公司未核准的雲端服務或裝置用於工作。影子 AI 是其中與 AI 工具有關的部分。它很少出於惡意，多半起因於「想更快整理會議記錄」或「想更快修好這個 bug」之類的理由，於是用了手邊方便的工具。
現在的影子 AI 已不只是把文字貼進聊天機器人。瀏覽器擴充功能會讀取你正在開啟的頁面，AI 代理則會連接工作帳號，讀取並操作郵件和檔案。
聊天機器人
把文字或檔案貼到個人帳號
程式碼助理
傳送內部原始碼和設定檔
會議記錄 AI
在外部服務錄下會議的聲音或畫面
AI 瀏覽器擴充功能
能讀取你正在開啟的工作頁面
OAuth 授權
允許 AI 工具讀取郵件或雲端硬碟
持有 API 金鑰的 AI 代理
代替你操作業務系統
為什麼會發生
大多數情況下，原因是方便，以及公司沒有提供替代方案。沒有核准的工具、核准流程太久，或規則模糊到沒人知道什麼是禁止的。在這種情況下，大家就會用個人帳號把工作快速完成。
2023 年 5 月，據報導三星電子在發現員工把內部原始碼和會議內容上傳到 ChatGPT 後，限制了內部使用生成式 AI（Bloomberg、Fortune 等報導）。根據報導，該公司擔心傳送到外部服務的資料難以取回和刪除，並表示將自行開發用於翻譯和摘要的內部工具。這常被引用為「出於想提高效率而輸入資料」的例子。
會出什麼問題
1. 輸入機密或個人資料
最常見的情況是把客戶資料或內部文件貼進 AI。這些內容如何處理，取決於是個人方案還是企業方案，以及設定。整理截至 2026 年 10 月各提供方的官方文件：
| 提供方 | 個人方案 | 企業方案與 API |
|---|---|---|
| OpenAI | 可能被用於訓練；可在設定中關閉 | 預設不用於訓練 |
| Anthropic | 由使用者選擇是否允許用於訓練（2025 年條款更新） | 不在該更新範圍內（適用商業條款） |
| Google（Gemini） | 開啟「保留活動記錄」時，可能被用於訓練和人工審查 | 工作帳號適用不同的資料處理條款 |
這張表只列出重點。保存期間、為監控濫用而保存的期間，以及你提交的意見回饋如何處理，都因提供方而異，條款也會變更。導入工具前，務必確認官方說明頁面與隱私權政策。
日本個人情報保護委員會在 2023 年 6 月 2 日的提醒中指出，企業若在未經本人同意的情況下，把含有個人資料的提示詞輸入生成式 AI 服務，而該資料被用於產生回應以外的目的，企業就可能違反《個人資訊保護法》。因此，委員會要求確實會輸入這類提示詞的企業，要仔細確認提供方不會把資料用於機器學習。其他地區也有各自的規範，例如歐盟的 GDPR。
2. OAuth 授權與 API 金鑰
當有人按下「使用 Google 帳戶登入」或「連結你的 Microsoft 帳戶」，並允許 AI 工具讀取郵件或雲端硬碟時，該工具不需要員工的密碼就能持續讀取業務資料。即使員工離職，只要授權沒有撤銷，存取權限就會一直存在。把業務系統的 API 金鑰交給 AI 代理也是一樣：金鑰一旦外洩，這把金鑰能做的所有事情，都能從外部做到（→ .env 檔案與 API 金鑰的基礎）。
3. AI 瀏覽器擴充功能
許多用來摘要頁面或潤飾文字的 AI 擴充功能，會要求讀取你正在開啟的頁面內容的權限。這包括業務系統的畫面、客戶管理畫面和內部入口網站。擴充功能在發布後也可能易主，或因更新而改變行為。
4. 輸出錯誤、權利與記錄
AI 的輸出會有錯誤。如果錯誤的內容直接交給客戶，或授權不明的程式碼被放進產品，責任由使用它的組織承擔。而當業務往來留在個人帳號中，這些內容就落在稽核與訴訟所需的記錄保存（訴訟保全）範圍之外，公司將無法說明發生了什麼事。
如何防止透過生成式 AI 外洩資料
透過生成式 AI 的資料外洩，通常是因為輸入的資料或授予的權限，最後落到公司的管理範圍之外。以下依外洩途徑，整理組織和個人各自能做的事。
| 外洩途徑 | 組織要做的事 | 個人要做的事 |
|---|---|---|
| 輸入的內容被提供方保存並用於訓練 | 核准以不把輸入用於訓練的企業條款簽約的工具 | 不把工作資料放進個人帳號；個人使用時關閉訓練用途 |
| 個人帳號被盜，聊天記錄被讀取 | 讓大家用公司帳號（SSO）和多因素驗證登入 | 開啟多因素驗證，刪除不再需要的記錄 |
| 聊天的分享連結讓對話被公司外部看到 | 在 AI 規則中涵蓋分享，並確認管理主控台能否限制 | 建立連結前，確認聊天內容中沒有機密 |
| OAuth 授權或擴充功能持續讀取業務資料 | 檢視已授權的 app 和擴充功能，並用允許清單加以限制 | 允許之前，先看清同意畫面上的權限 |
| 他人的資料或錯誤內容原封不動地被送出 | 設定輸出對外之前由人確認的步驟 | 使用前先確認輸出中的事實和個人資料 |
公部門的說法
- 日本個人情報保護委員會在 2023 年 6 月 2 日的提醒中，警告一般使用者：輸入的個人資料可能被用於機器學習，並以不正確的形式再次出現。委員會要求使用者閱讀提供方的條款與隱私權政策，再據此決定要輸入什麼。
- 同一份提醒要求輸入含有個人資料之提示詞的企業，確認這在其公告的利用目的範圍內，並仔細確認提供方不會把資料用於機器學習。
- 日本 IPA（資訊處理推進機構）在「資訊安全十大威脅 2026」（2026 年 1 月 29 日發布）中，把「AI 使用相關的網路風險」列為組織篇第 3 名，這是它首次入榜。對 AI 理解不足而造成的非預期資料外洩，也包含在其中。
企業方案要確認什麼
2026 年 10 月 6 日確認的各提供方官方文件表示，企業方案的輸入預設不會用於訓練。
- OpenAI：ChatGPT Business、Enterprise、Edu 以及 API 的資料，預設不用於訓練模型
- Anthropic：Claude for Work 和 API 等商業產品的輸入與輸出，預設不用於訓練（例外包括使用者提交的意見回饋或錯誤回報）
- Google：在 Gemini for Google Workspace 中，提示詞被視為客戶資料，未經客戶事先許可或指示，不會用於訓練生成式 AI 模型
簽約前，除了訓練之外，也請確認保存期間與刪除方式、管理者能否查看使用狀況，以及是否支援 SSO。
本站的觀點：即使是企業方案，仍需要資料規則
「不用於訓練」不等於「不會被保存」。即使是企業方案，對話在提供方保存多久仍取決於合約和設定，也可能為了監控濫用而保存一段時間。而且，確認個人資料利用目的等法律義務，不論合約如何都依然存在。所以我們認為，企業合約和資料規則必須兩者兼備才能發揮作用。
給組織：讓使用變得看得見
日本總務省與經濟產業省發布的「AI 事業者指引」（最新版：1.2 版，2026 年 3 月 31 日），把在業務中使用 AI 的企業定位為「AI 利用者」，並要求依風險程度進行管理。面對影子 AI，實務上的第一步是依下列順序進行。
提供核准的 AI 工具
選擇不把輸入用於訓練的企業合約，並確認能否控制保存期間、管理者能否檢視記錄。公布可使用的工具清單。先提供替代方案，是其他所有措施的前提。
訂定簡短的可輸入資料規則
依照你的資料分級，訂出一頁就能寫完的規則，例如「公開資訊：可以；內部文件：只限核准工具；客戶個人資料、密碼、API 金鑰、未公開的財務資訊：絕對不行」。比起冗長的政策，不確定時能馬上查看的簡短表格，更容易被遵守。
用 SSO 和管理控制來串接
讓大家用公司帳號（SSO）登入核准的工具，離職時就能切斷存取。選擇管理主控台能查看使用狀況和資料保存設定的方案（→ 組織的安全最低限度）。
檢視 OAuth 授權與擴充功能
在 Google Workspace 或 Microsoft 365 的管理主控台，定期檢視員工授權的第三方 app，撤銷不需要的授權。可以的話，只允許連結管理者核准的 app。在受管理的裝置上，也用允許清單限制瀏覽器擴充功能。
偵測與先問再用的窗口
DLP（資料外洩防護）和 CASB（雲端存取可視化）產品，以及 Proxy 和 DNS 記錄，都能看出連往 AI 服務的流量和大量上傳。目的不是懲罰，而是了解大家在用哪些工具，讓它們成為核准的候選。同時搭配一個能快速詢問「這個工具可以用嗎？」的窗口，以及簡短的教育訓練。
只有禁止
不提供替代工具就全面禁止 AI，往往會把使用推向個人手機和個人帳號。公司看不到使用情況，出事時也常常無法判斷送出了什麼。
核准工具加上規則
以不把輸入用於訓練的條款簽約的工具，可以用工作帳號使用，並且定義了可以輸入的內容。使用狀況能在管理主控台看到，員工離職時存取權限也會隨帳號一起結束。
本站的觀點：先了解實際在用什麼
我們認為，處理影子 AI 時，從了解實際在用哪些 AI 工具開始，會比從發布禁止通知開始更有效。看一眼 OAuth 授權清單和擴充功能清單，常常會發現沒人預料到的工具。與其馬上禁止找到的工具，不如考慮能否改用企業合約，或用其他核准工具取代。一旦大家知道「問了就能用」，隱瞞的理由就消失了。
給個人
即使公司還沒有 AI 規則，也請避免這些
不要把客戶的姓名、聯絡方式等個人資料、密碼、API 金鑰，或未公開的合約與財務文件，貼進個人帳號的 AI。如果不小心輸入了 API 金鑰，不要只是刪除：請撤銷該金鑰並重新簽發（→ 為什麼外洩的憑證必須撤銷，而不只是刪除）。
- 如果公司有核准的 AI 工具，就使用它
- 個人的 AI 帳號，請確認停止把內容用於訓練的設定，以及歷史記錄的設定
- 在「使用 Google 連結」這類同意畫面上，先看清要求的權限（讀取郵件、存取整個雲端硬碟等）再允許
- 注意冒充 AI 工具的郵件和假登入頁面（→ 什麼是網路釣魚）
接下來閱讀
- 學習：AI 時代的安全：優先順序檢查清單（使用 AI 工具之前要先做好的基本功）
- 指南：AI 代理開始操作真實網站（把存取權限交給 AI 代理時的思考方式）
- 學習：.env 和 API 金鑰到底危險在哪裡（交給 AI 工具的金鑰如何處理）
- 指南：組織的安全最低限度（帳號管理與定期檢視的優先順序）
- 術語：什麼是網路釣魚（防範冒充 AI 服務的假登入頁面）
出處
- 日本個人情報保護委員會，關於使用生成式 AI 服務的提醒（2023 年 6 月 2 日）: ppc.go.jp
- 日本個人情報保護委員會，關於使用生成式 AI 服務的提醒 附件 1（2023 年 6 月 2 日，日文）: ppc.go.jp（PDF）
- 日本總務省「AI 事業者指引」（1.2 版，2026 年 3 月 31 日）: soumu.go.jp
- IPA「情報セキュリティ10大脅威 2026」（2026 年 1 月 29 日，日文）: ipa.go.jp
- OpenAI Help Center「How your data is used to improve model performance」: help.openai.com
- OpenAI「Business data privacy, security, and compliance」（2026 年 10 月 6 日確認）: openai.com
- Anthropic「Updates to Consumer Terms and Privacy Policy」（2025 年 8 月 28 日）: anthropic.com
- Anthropic Privacy Center「Is my data used for model training?」（商業產品，2026 年 10 月 6 日確認）: privacy.claude.com
- Google「Gemini Apps Privacy Hub」: support.google.com
- Google「Generative AI in Google Workspace Privacy Hub」（2026 年 10 月 6 日確認）: knowledge.workspace.google.com
- Bloomberg「Samsung Bans Staff's AI Use After Spotting ChatGPT Data Leak」（2023 年 5 月 2 日）: bloomberg.com
- Fortune「Samsung bans employee use of ChatGPT after data leak」（2023 年 5 月 2 日）: fortune.com
FAQ
Q影子 AI 和影子 IT 有什麼不同？
影子 IT 是員工使用公司未核准的雲端服務或裝置的統稱。影子 AI 是其中與 AI 工具有關的部分。差別在於，AI 通常是以貼上文字或檔案、請它幫忙的方式使用，因此機密與個人資料很容易被輸入；而且越來越多工具會要求 OAuth 授權或 API 金鑰，讓它們能讀取郵件和雲端硬碟。
Q我輸入 ChatGPT 等工具的內容會被用於訓練嗎？
取決於服務和設定。截至 2026 年 10 月，各提供方的官方文件表示，個人方案可能依設定把內容用於訓練，而企業方案和 API 預設不會用於訓練。保存期間和例外情況因提供方而異，條款也會變更，使用前請確認提供方的官方說明頁面與隱私權政策。
Q在公司全面禁止生成式 AI 就安全了嗎？
只靠禁止並不能保證安全。如果禁止卻不提供替代方案，大家可能改用個人手機或個人帳號，公司反而看不到使用情況。我們建議提供以不把輸入用於訓練的條款簽約的核准工具，同時訂定可輸入資料的規則，並設置可以提問的窗口。
Q個人應該注意什麼？
基本原則是：不要把客戶的個人資料、密碼或 API 金鑰、未公開的內部文件，貼到公司未核准的 AI 工具中。如果有核准的工具就使用它，不確定時請詢問 IT 部門。個人的 AI 帳號，請確認停止把內容用於訓練的設定，以及歷史記錄的設定。
Q有透過生成式 AI 外洩資料的實際案例嗎？
最常被引用的是 2023 年 5 月報導的三星電子案例。員工把內部原始碼和會議內容上傳到 ChatGPT 之後，據報導該公司限制了內部使用生成式 AI（Bloomberg、Fortune 等）。這不是外部攻擊，而是員工為了提高工作效率而輸入，導致資料離開了公司的管理範圍。把會議錄音交給會議記錄 AI，或把客戶資料貼到個人帳號，也可能發生同樣的事。
Q我輸入 ChatGPT 的資訊會外洩嗎？
你輸入的內容會傳送並保存在 OpenAI 的伺服器上，個人方案則可能依設定被用於訓練。OpenAI 的官方文件表示，企業方案（ChatGPT Business、Enterprise、Edu）和 API 預設不會用於訓練。除了訓練之外，聊天內容也可能因帳號被盜或公開的分享連結而被看到。不論哪種方案，除非公司規則允許，否則不要輸入客戶的個人資料、密碼或 API 金鑰。
Q公司的生成式 AI 使用規範應該包含什麼？
至少五項：可使用的工具清單；可以與不可以輸入的內容（客戶個人資料、密碼、API 金鑰、未公開的財務資訊等）；輸出內容在對外之前的檢查；申請 OAuth 連結或擴充功能的方式；以及不確定時該問誰。控制在一頁以內，並在使用的工具或提供方條款變更時重新檢視。