섀도 AI는 회사가 모르는 사이 AI 도구가 업무에 쓰이는 것입니다. 무엇이 문제가 되는지, 그리고 조직과 개인이 각각 무엇을 해야 하는지 정리합니다.
의미: 섀도 IT의 AI판
섀도 IT는 회사가 승인하지 않은 클라우드 서비스나 기기를 직원이 업무에 쓰는 것을 말합니다. 섀도 AI는 그중 AI 도구에 해당하는 부분입니다. 악의가 있는 경우는 드뭅니다. "회의록을 빨리 정리하고 싶다", "이 버그를 빨리 고치고 싶다" 같은 이유로, 손에 닿는 편리한 도구를 쓰는 데서 시작됩니다.
오늘날의 섀도 AI는 챗봇에 글을 붙여 넣는 것에 그치지 않습니다. 브라우저 확장 기능은 열어 둔 페이지를 읽고, AI 에이전트는 업무 계정에 연결되어 메일과 파일을 읽고 조작합니다.
챗봇
개인 계정에 글이나 파일을 붙여 넣는다
코딩 어시스턴트
사내 소스 코드와 설정 파일을 보낸다
회의록 AI
회의 음성이나 화면을 외부 서비스에 녹음한다
AI 브라우저 확장
열어 둔 업무 페이지를 읽을 수 있다
OAuth 허가
AI 도구가 메일이나 드라이브를 읽도록 허용한다
API 키를 가진 AI 에이전트
업무 시스템을 대신 조작한다
왜 생기는가
대부분의 이유는 편리함, 그리고 회사가 대안을 제공하지 않는다는 점입니다. 승인된 도구가 없거나, 승인에 시간이 너무 걸리거나, 규칙이 모호해서 무엇이 금지인지 아무도 모르는 경우입니다. 그런 상황에서 사람들은 개인 계정으로 일을 빨리 처리합니다.
2023년 5월, 삼성전자는 직원이 사내 소스 코드와 회의 내용을 ChatGPT에 올린 것을 확인한 뒤 생성형 AI의 사내 사용을 제한했다고 보도되었습니다(Bloomberg, Fortune 등의 보도). 보도에 따르면 회사는 외부 서비스로 보낸 데이터는 회수와 삭제가 어렵다는 점을 우려했고, 번역과 요약을 위한 자체 사내 도구를 만들겠다고 밝혔습니다. 업무를 효율화하려는 마음에서 데이터가 입력된 사례로 널리 인용됩니다.
무엇이 문제인가
1. 기밀·개인정보의 입력
가장 흔한 것은 고객 데이터나 사내 문서를 AI에 붙여 넣는 경우입니다. 그 내용이 어떻게 다뤄지는지는 개인용 플랜인지 업무용 플랜인지, 그리고 설정에 따라 다릅니다. 2026년 10월 기준 각 제공자의 공식 문서를 요약하면 다음과 같습니다.
| 제공자 | 개인용 플랜 | 업무용 플랜과 API |
|---|---|---|
| OpenAI | 학습에 쓰일 수 있음. 설정에서 끌 수 있음 | 기본적으로 학습에 쓰지 않음 |
| Anthropic | 학습 허용 여부를 사용자가 선택(2025년 약관 변경) | 그 변경의 대상 외(상업용 약관 적용) |
| Google(Gemini) | "Keep Activity"(활동 유지)가 켜져 있으면 학습과 사람의 검토에 쓰일 수 있음 | 업무용 계정은 별도의 데이터 처리 약관 |
이 표는 요점만 보여 줍니다. 보관 기간, 남용 감시를 위한 보관, 직접 보낸 피드백의 처리는 제공자마다 다르고, 약관도 바뀝니다. 도입 전에 반드시 공식 도움말과 개인정보 처리방침을 확인하세요.
일본 개인정보보호위원회는 2023년 6월 2일의 주의 환기에서, 사업자가 본인의 동의 없이 개인정보가 담긴 프롬프트를 생성형 AI 서비스에 입력하고, 그 데이터가 응답 생성 이외의 목적으로 처리되면 개인정보보호법 위반이 될 수 있다고 지적했습니다. 그래서 그런 프롬프트를 입력하는 사업자에게는 제공자가 그 데이터를 기계 학습에 쓰지 않는지 충분히 확인하라고 요청합니다. EU의 GDPR처럼 다른 국가·지역에도 각자의 규칙이 있습니다.
2. OAuth 허가와 API 키
누군가 "Google로 로그인"이나 "Microsoft 계정 연결"을 눌러 AI 도구가 메일이나 드라이브를 읽도록 허용하면, 그 도구는 직원의 비밀번호 없이도 계속 업무 데이터를 읽을 수 있습니다. 직원이 퇴사한 뒤에도 허가를 취소할 때까지 접근은 남습니다. AI 에이전트에 업무 시스템의 API 키를 주는 것도 마찬가지입니다. 키가 유출되면 그 키로 할 수 있는 모든 것을 외부에서 쓸 수 있게 됩니다(→ .env 파일과 API 키의 기초).
3. AI 브라우저 확장 기능
페이지를 요약하거나 문장을 다듬는 AI 확장 기능 중 다수는 열어 둔 페이지의 내용을 읽는 권한을 요구합니다. 여기에는 업무 시스템 화면, 고객 관리 화면, 사내 포털도 포함됩니다. 확장 기능은 공개 후 소유자가 바뀌거나, 업데이트로 동작이 바뀔 수도 있습니다.
4. 출력의 오류, 권리, 기록
AI의 출력에는 오류가 섞입니다. 잘못된 내용이 그대로 고객에게 가거나, 라이선스가 불분명한 코드가 제품에 들어가면, 그 책임은 사용한 조직이 집니다. 또 업무상의 주고받음이 개인 계정에 남아 있으면 감사나 소송을 위한 기록 보존(리걸 홀드)의 대상에서 빠져, 회사가 무슨 일이 있었는지 설명할 수 없게 됩니다.
생성형 AI를 통한 정보 유출을 막는 방법
생성형 AI를 통한 정보 유출은 대개 입력한 데이터나 허가한 접근이 회사의 관리 밖으로 나가서 일어납니다. 경로별로 조직과 개인이 각각 할 수 있는 일을 정리합니다.
| 유출 경로 | 조직이 할 일 | 개인이 할 일 |
|---|---|---|
| 입력한 내용이 제공자에게 저장되어 학습에 쓰인다 | 입력을 학습하지 않는 업무용 약관의 도구를 승인한다 | 업무 데이터를 개인 계정에 넣지 않는다. 개인 사용에서는 학습을 끈다 |
| 개인 계정이 탈취되어 대화 기록이 읽힌다 | 회사 계정(SSO)과 다중 인증으로 로그인하게 한다 | 다중 인증을 켜고, 필요 없는 기록은 삭제한다 |
| 대화 공유 링크로 대화가 회사 밖에서 보인다 | AI 규칙에 공유를 포함하고, 관리 콘솔에서 제한할 수 있는지 확인한다 | 링크를 만들기 전에 대화에 기밀이 없는지 확인한다 |
| OAuth 허가나 확장 기능이 업무 데이터를 계속 읽는다 | 허가된 앱과 확장 기능을 점검하고, 허용 목록으로 제한한다 | 허용하기 전에 동의 화면의 권한을 읽는다 |
| 출력에 섞인 타인의 데이터나 오류가 그대로 나간다 | 외부로 내보내기 전에 사람이 출력을 확인하는 단계를 둔다 | 쓰기 전에 출력의 사실관계와 개인정보를 확인한다 |
공공기관이 밝힌 내용
- 일본 개인정보보호위원회는 2023년 6월 2일의 주의 환기에서, 일반 이용자에게 입력한 개인정보가 기계 학습에 쓰여 부정확한 형태로 다시 출력될 수 있다고 경고했습니다. 제공자의 이용 약관과 개인정보 처리방침을 읽고 무엇을 입력할지 판단하라고 요청합니다.
- 같은 주의 환기는 개인정보가 담긴 프롬프트를 입력하는 사업자에게, 그것이 명시한 이용 목적의 범위 안인지 확인하고, 제공자가 그 데이터를 기계 학습에 쓰지 않는지 충분히 확인하라고 요청합니다.
- 일본 정보처리추진기구(IPA)는 "정보보안 10대 위협 2026"(2026년 1월 29일 공개)의 조직 부문에서 "AI 이용을 둘러싼 사이버 리스크"를 처음으로 3위에 올렸습니다. AI에 대한 이해 부족으로 생기는 의도치 않은 정보 유출이 여기에 포함됩니다.
업무용 플랜에서 확인할 것
2026년 10월 6일에 확인한 각 제공자의 공식 문서에 따르면, 업무용 플랜의 입력은 기본적으로 학습에 쓰이지 않습니다.
- OpenAI: ChatGPT Business, Enterprise, Edu와 API의 데이터는 기본적으로 모델 학습에 쓰지 않는다
- Anthropic: Claude for Work와 API 같은 상업용 제품의 입력과 출력은 기본적으로 학습에 쓰지 않는다(사용자가 보낸 피드백이나 버그 보고 등은 예외)
- Google: Gemini for Google Workspace에서는 프롬프트를 고객 데이터로 다루며, 고객의 사전 허가나 지시 없이 생성형 AI 모델 학습에 쓰지 않는다
계약 전에는 학습 여부뿐 아니라 보관 기간과 삭제, 관리자가 사용 현황을 볼 수 있는지, SSO를 지원하는지도 확인하세요.
본 사이트의 관점: 업무용 플랜이라도 데이터 규칙은 필요하다
"학습에 쓰지 않는다"는 "저장하지 않는다"는 뜻이 아닙니다. 업무용 플랜이라도 대화가 제공자에게 얼마나 보관되는지는 계약과 설정에 따라 다르며, 남용 감시를 위해 일정 기간 보관될 수 있습니다. 또 개인정보의 이용 목적 확인 같은 법적 의무는 계약과 관계없이 남습니다. 그래서 본 사이트는 업무용 계약과 데이터 규칙이 둘 다 있어야 비로소 효과가 있다고 봅니다.
조직이 할 일: 사용을 보이게 만든다
일본 총무성과 경제산업성이 공표한 "AI 사업자 가이드라인"(최신판: 제1.2판, 2026년 3월 31일)은 업무에 AI를 쓰는 사업자를 "AI 이용자"로 보고, 위험에 맞는 관리를 요구합니다. 섀도 AI에 대한 실무적인 첫걸음은 다음 순서로 진행하는 것입니다.
승인된 AI 도구를 제공한다
입력을 학습에 쓰지 않는 업무용 계약을 고르고, 보관을 제어할 수 있는지, 관리자가 기록을 확인할 수 있는지 점검합니다. 사용해도 되는 도구 목록을 공개합니다. 대안을 먼저 제공하는 것이 다른 모든 대책의 전제입니다.
입력해도 되는 데이터에 대한 짧은 규칙을 정한다
데이터 분류에 따라 "공개 정보: 가능, 사내 문서: 승인 도구만, 고객 개인정보·비밀번호·API 키·공개 전 재무 정보: 금지"처럼 한 장에 들어가는 것을 정합니다. 긴 정책보다, 망설일 때 확인할 수 있는 짧은 표가 더 잘 지켜집니다.
SSO와 관리 기능으로 연결한다
승인 도구에는 회사 계정(SSO)으로 로그인하게 해서 퇴사 시 접근을 끊을 수 있게 합니다. 관리 콘솔에서 사용 현황과 데이터 보관 설정을 확인할 수 있는 플랜을 고릅니다(→ 조직의 보안 최소 기준).
OAuth 허가와 확장 기능을 점검한다
Google Workspace나 Microsoft 365의 관리 콘솔에서 직원이 허가한 외부 앱을 정기적으로 점검하고, 필요 없는 것은 취소합니다. 가능하다면 관리자가 승인한 앱만 연결을 허용합니다. 관리 대상 기기에서는 브라우저 확장 기능도 허용 목록으로 제한합니다.
탐지와 먼저 물어볼 수 있는 창구
DLP(데이터 유출 방지)와 CASB(클라우드 이용 가시화) 제품, 프록시와 DNS 로그로 AI 서비스로 가는 통신과 대량 업로드를 볼 수 있습니다. 목적은 처벌이 아니라 어떤 도구가 쓰이고 있는지 알아내 승인 후보로 삼는 것입니다. "이 도구를 써도 되나요?"를 바로 물어볼 수 있는 창구와 짧은 교육을 함께 두세요.
금지만 한다
대안 없이 AI를 일괄 금지하면 사용이 개인 휴대폰과 개인 계정으로 옮겨 가기 쉽습니다. 회사는 사용을 볼 수 없고, 문제가 생겼을 때 무엇이 보내졌는지 알 수 없는 경우가 많습니다.
승인 도구와 규칙
입력을 학습하지 않는 약관의 도구를 업무 계정으로 쓸 수 있고, 입력해도 되는 것이 정해져 있습니다. 관리 콘솔에서 사용 현황이 보이고, 퇴사하면 계정과 함께 접근이 끝납니다.
본 사이트의 관점: 먼저 실제로 무엇이 쓰이는지 파악한다
본 사이트는 섀도 AI 대응이 금지 공지가 아니라, 실제로 어떤 AI 도구가 쓰이는지 파악하는 데서 시작할 때 더 효과적이라고 봅니다. OAuth 허가 목록과 확장 기능 목록을 한 번 보기만 해도, 아무도 예상하지 못한 도구가 발견되는 경우가 많습니다. 찾은 것을 바로 금지하기보다, 업무용 계약으로 옮길 수 있는지, 다른 승인 도구로 대체할 수 있는지 검토하세요. "물어보면 쓸 수 있다"는 것을 알게 되면 숨길 이유가 사라집니다.
개인이 할 일
회사에 아직 AI 규칙이 없어도 이것은 피한다
개인 계정의 AI에 고객의 이름, 연락처 등 개인정보, 비밀번호, API 키, 공개 전 계약서와 재무 문서를 붙여 넣지 마세요. 실수로 API 키를 입력했다면 지우는 것으로 끝내지 말고, 키를 폐기하고 새로 발급하세요(→ 유출된 자격 증명은 삭제가 아니라 폐기해야 하는 이유).
- 회사에 승인된 AI 도구가 있다면 그것을 쓴다
- 개인 AI 계정은 내용을 학습에 쓰지 않게 하는 설정과 기록 설정을 확인한다
- "Google로 연결" 같은 동의 화면에서는 요구하는 권한(메일 읽기, 드라이브 전체 접근 등)을 읽고 나서 허용한다
- AI 도구를 사칭한 메일과 가짜 로그인 페이지에 주의한다(→ 피싱이란)
다음으로 읽기
- 학습: AI 시대의 보안: 우선순위 체크리스트(AI 도구를 쓰기 전에 다져 둘 기본)
- 가이드: 실제 웹사이트에 닿는 AI 에이전트(AI 에이전트에 접근 권한을 넘길 때의 사고방식)
- 학습: .env와 API 키, 실제로 무엇이 위험한가(AI 도구에 넘기는 키의 취급)
- 가이드: 조직의 보안 최소 기준(계정 관리와 점검의 우선순위)
- 용어집: 피싱이란(AI 서비스를 사칭한 가짜 로그인 페이지에 대한 방어)
출처
- 개인정보보호위원회(일본), 생성형 AI 서비스 이용에 관한 주의 환기(2023년 6월 2일): ppc.go.jp
- 개인정보보호위원회(일본), 생성형 AI 서비스 이용에 관한 주의 환기 별첨 1(2023년 6월 2일, 일본어): ppc.go.jp (PDF)
- 총무성, AI 사업자 가이드라인(제1.2판, 2026년 3월 31일): soumu.go.jp
- IPA, "정보보안 10대 위협 2026"(2026년 1월 29일, 일본어): ipa.go.jp
- OpenAI Help Center, "How your data is used to improve model performance": help.openai.com
- OpenAI, "Business data privacy, security, and compliance"(2026년 10월 6일 확인): openai.com
- Anthropic, "Updates to Consumer Terms and Privacy Policy"(2025년 8월 28일): anthropic.com
- Anthropic Privacy Center, "Is my data used for model training?"(상업용 제품, 2026년 10월 6일 확인): privacy.claude.com
- Google, Gemini Apps Privacy Hub: support.google.com
- Google, "Generative AI in Google Workspace Privacy Hub"(2026년 10월 6일 확인): knowledge.workspace.google.com
- Bloomberg, "Samsung Bans Staff's AI Use After Spotting ChatGPT Data Leak"(2023년 5월 2일): bloomberg.com
- Fortune, "Samsung bans employee use of ChatGPT after data leak"(2023년 5월 2일): fortune.com
FAQ
Q섀도 AI와 섀도 IT는 무엇이 다른가요?
섀도 IT는 회사가 승인하지 않은 클라우드 서비스나 기기를 직원이 쓰는 것을 통틀어 이르는 말입니다. 섀도 AI는 그중 AI 도구에 해당하는 부분입니다. 차이는 AI가 보통 글이나 파일을 붙여 넣고 도움을 요청하는 방식으로 쓰이기 때문에 기밀·개인정보가 쉽게 입력된다는 점, 그리고 메일이나 드라이브를 읽을 수 있게 하는 OAuth 허가나 API 키를 요구하는 도구가 늘고 있다는 점입니다.
QChatGPT 등에 입력한 내용은 학습에 쓰이나요?
서비스와 설정에 따라 다릅니다. 2026년 10월 기준 각 제공자의 공식 문서에 따르면, 개인용 플랜은 설정에 따라 학습에 쓰일 수 있고, 업무용 플랜과 API는 기본적으로 학습에 쓰지 않습니다. 보관 기간과 예외는 제공자마다 다르고 약관도 바뀌므로, 사용 전에 제공자의 공식 도움말과 개인정보 처리방침을 확인하세요.
Q업무에서 생성형 AI를 전면 금지하면 안전한가요?
금지만으로는 보장되지 않습니다. 대안 없이 금지하면 개인 휴대폰이나 개인 계정으로 쓰게 되어 회사가 사용을 파악할 수 없게 될 수 있습니다. 입력을 학습하지 않는 약관의 승인 도구를 제공하고, 입력해도 되는 데이터에 대한 규칙과 질문 창구를 함께 두는 것을 권장합니다.
Q개인으로서는 무엇을 조심해야 하나요?
기본은 고객의 개인정보, 비밀번호나 API 키, 공개되지 않은 사내 문서를 회사가 승인하지 않은 AI 도구에 붙여 넣지 않는 것입니다. 승인된 도구가 있다면 그것을 쓰고, 망설여지면 IT 담당자에게 물어보세요. 개인 AI 계정은 내용을 학습에 쓰지 않게 하는 설정과 기록 설정을 확인하세요.
Q생성형 AI를 통해 정보가 유출된 실제 사례가 있나요?
가장 널리 인용되는 것은 2023년 5월에 보도된 삼성전자 사례입니다. 직원이 사내 소스 코드와 회의 내용을 ChatGPT에 올린 뒤, 회사가 생성형 AI의 사내 사용을 제한했다고 보도되었습니다(Bloomberg, Fortune 등). 외부 공격이 아니라, 일을 빨리 하려고 사람이 입력한 결과 데이터가 회사의 관리 밖으로 나간 사례입니다. 회의록 AI에 보낸 회의 녹음이나 개인 계정에 붙여 넣은 고객 데이터에서도 같은 일이 일어날 수 있습니다.
QChatGPT에 입력한 정보가 유출될 수 있나요?
입력한 내용은 OpenAI의 서버로 전송되어 저장되며, 개인용 플랜에서는 설정에 따라 학습에 쓰일 수 있습니다. OpenAI의 공식 문서에 따르면 업무용 플랜(ChatGPT Business, Enterprise, Edu)과 API는 기본적으로 학습에 쓰지 않습니다. 학습 외에도 계정 탈취나 공개된 공유 링크를 통해 대화가 노출될 수 있습니다. 어떤 플랜이든 회사 규칙이 허용하지 않는 한 고객의 개인정보, 비밀번호, API 키는 입력하지 마세요.
Q회사의 생성형 AI 사용 규칙에는 무엇을 담아야 하나요?
최소한 다섯 가지입니다. 사용해도 되는 도구 목록, 입력해도 되는 것과 안 되는 것(고객 개인정보, 비밀번호, API 키, 공개 전 재무 정보 등), 출력물을 외부로 내보내기 전의 확인, OAuth 연결이나 확장 기능을 신청하는 방법, 망설여질 때 물어볼 곳. 한 장 분량으로 정리하고, 도구나 제공자의 약관이 바뀌면 다시 검토하세요.