「공개키」와 「개인키」라는 말은 TLS(HTTPS)·전자서명·패스키 등 곳곳에서 등장합니다. 여기서는 공격 절차는 다루지 않고, 공개키 암호의 사고방식과 실무에서 짚어야 할 방어의 핵심을 해설합니다.
공개키와 개인키의 역할
키가 쌍을 이루고 있으며, 역할이 반대라는 점이 핵심입니다.
공개키 vs 개인키 vs 대칭키
자주 헷갈리는 세 종류의 키를 나란히 놓았습니다. 공개키와 개인키는 항상 한 쌍이고, 대칭키(공통키)는 다른 종류의 방식에 속합니다.
| 공개키 | 개인키 | 대칭키(공통키) | |
|---|---|---|---|
| 누가 가지나 | 누구나(공유해도 안전) | 본인만 | 양쪽이 같은 키를 가짐 |
| 주된 역할 | 암호화, 서명 검증 | 복호화, 서명 생성 | 암호화와 복호화 모두 |
| 유출되면 | 문제없음(원래 공개) | 사칭이나 복호화가 가능해짐 | 그 통신을 읽을 수 있음 |
| 대표적인 방식 | RSA, 타원곡선(ECDSA, Ed25519, ECDH) | 같음 | AES, ChaCha20 |
| 속도 | 느림 | 느림 | 빠름 |
공개키 연산은 비용이 크기 때문에 대량의 데이터를 암호화하는 데는 쓰지 않습니다. 실제 프로토콜은 공개키 암호를 키 교환과 본인 증명에만 쓰고, 데이터 자체는 대칭키 암호로 보호합니다.
공개키에서 개인키를 알아낼 수 없는 이유
두 키는 수학적으로 대응하지만, 공개키에서 거꾸로 개인키를 구하는 일은 현실적인 시간 안에 할 수 없습니다. RSA는 매우 큰 수의 소인수분해가 어렵다는 점에, 타원곡선 암호는 타원곡선 이산로그 문제에 기대고 있습니다.
이는 키가 충분히 길 때만 성립합니다. NIST의 이행 지침(SP 800-131A)은 RSA 키를 최소 2048비트로 요구합니다. 새로 만드는 키라면 RSA 3072비트 이상이나 Ed25519 같은 타원곡선 방식이 일반적인 선택입니다.
어디에 쓰이는가
암호화(비밀스러운 주고받기)
- 상대의 공개키로 암호화해서 보낸다
- 대응하는 개인키를 가진 본인만 복호화할 수 있다
- TLS에서는 「공통키를 안전하게 공유」하는 용도로 쓰인다
전자서명(진정성의 증명)
- 송신자가 개인키로 서명을 만든다
- 수신자는 공개키로 검증하여, 본인성과 변조 여부를 확인
- TLS 인증서·소프트웨어 배포·패스키의 인증에 쓰인다
실제 TLS(HTTPS)는 공개키 암호로 공통키를 안전하게 공유하고, 그 이후의 통신은 빠른 공통키 암호로 지키는 하이브리드 방식입니다. 패스키도 단말 내의 개인키로 서명하고, 서버의 공개키로 검증함으로써 피싱에 강한 인증을 실현하고 있습니다.
사례: 일상 속 쓰임새와 개인키가 유출된 사고
- HTTPS
- 서버 인증서에 공개키가 담기고, 서버는 개인키로 자신이 진짜임을 증명한다
- SSH 로그인
- 서버에 공개키를 등록해 두고, 로컬의 개인키로 서명해 로그인한다. 비밀번호는 전송되지 않는다
- 소프트웨어 배포
- 배포자가 개인키로 서명하고, 사용자는 공개키로 변조가 없는지 확인한다
- 패스키
- 단말이 개인키로 서명하고, 서비스는 등록된 공개키로 검증한다
사고의 대부분은 수학이 아니라 개인키를 다루는 방식에서 일어납니다. 2014년 Heartbleed(CVE-2014-0160)에서는 TLS 소프트웨어의 버그로 서버 메모리를 읽어 낼 수 있었고, 거기에 서버의 개인키가 포함될 수 있었습니다. 버그 수정만으로는 부족했고, 키를 다시 만들고 인증서를 재발급해야 했습니다. 2018년 Coincheck NEM 유출 사고에서는 인터넷에 연결된 환경에 둔 개인키가 도난당했고, 그 키 하나로 약 580억 엔어치의 암호자산이 옮겨졌습니다.
내 환경에서 확인하는 방법
사이트의 인증서와 키 종류를 본다
주소창의 자물쇠(사이트 정보) 아이콘에서 인증서를 열면 발급자, 만료일, 공개키 종류(RSA 2048비트, ECDSA P-256 등)를 볼 수 있습니다. 명령줄에서는 openssl s_client -connect example.com:443의 출력에서 같은 내용을 확인할 수 있습니다.
SSH 키의 종류와 길이를 확인한다
공개키 파일에 ssh-keygen -l -f ~/.ssh/id_ed25519.pub를 실행하면 길이와 종류가 표시됩니다. RSA 1024비트처럼 오래된 키는 다시 만들고, 서버의 authorized_keys에 더 이상 아무도 쓰지 않는 공개키가 남아 있지 않은지 확인하세요(→ SSH 키의 최소 권한).
코드 안에 개인키가 없는지 확인한다
저장소나 설정 파일에서 PEM 형식 개인키의 헤더 줄("BEGIN"과 "PRIVATE KEY"가 들어간 줄)을 찾아보세요. 코드 조각을 붙여넣어 확인하려면 시크릿 유출 스캐너를, 커밋할 때마다 자동으로 막으려면 gitleaks를 pre-commit 훅으로 쓰세요.
앞으로의 변화: 양자 컴퓨터에 대한 대비
충분한 성능의 양자 컴퓨터는 RSA와 타원곡선 암호를 깰 것으로 예상됩니다. NIST는 2024년 8월 첫 양자 내성 암호 표준(ML-KEM의 FIPS 203, ML-DSA의 FIPS 204, SLH-DSA의 FIPS 205)을 공개했습니다. 또한 초안(NIST IR 8547)에서 기존 방식을 2030년 이후 비권장, 2035년 이후 사용 불가로 하자고 제안했습니다.
개인이나 작은 사이트가 양자 내성 암호를 직접 구현할 필요는 없습니다. OS, 브라우저, TLS 라이브러리를 최신으로 유지하면 지원은 자연스럽게 들어옵니다. 현실적인 대비는 오래된 라이브러리나 오래된 설정을 고정해 두지 않는 것입니다.
방어의 핵심
암호를 직접 만들지 않는다
이론이 옳더라도, 난수의 품질·패딩·타이밍 차 등 구현의 세부에서 깨진다. 표준 프로토콜과 검증된 라이브러리를 쓰고, 독자 구현을 피한다.
개인키를 엄중히 관리한다
개인키는 코드나 저장소에 두지 않는다. 전용 보관(키스토어/시크릿 매니저)에 격리하고, 유출 시에 **실효·재발급(로테이션)**할 수 있는 운용으로 한다(→ 공개 디렉터리에 비밀을 두지 않는다).
키 길이·알고리즘을 최신으로 유지한다
권장은 시대에 따라 바뀐다. 오래된 키 길이나 비권장 알고리즘을 방치하지 말고, 최신 권장을 따라간다. 인증서는 Let's Encrypt 등으로 자동 갱신한다.
본 사이트의 관점: 쓰는 쪽의 책임은 '키 관리'에 있다
공개키 암호 그 자체는 강력하며, 보통 굳이 깰 필요는 없습니다. 현장의 사고는 암호의 수학이 아니라, 개인키의 보관 위치·실효의 구조·오래된 설정의 방치 같은 운용 면에서 일어납니다. 이 사이트도 개인키는 공개 면 바깥으로 격리하고, 유출이 의심되면 「읽혔다는 전제」로 즉시 로테이트하는 방침입니다. 암호는 직접 만들지 않고 표준을 쓴다. 이것이 가장 안전한 방법입니다.
출처(1차 자료)
- NIST SP 800-131A Rev. 2, "Transitioning the Use of Cryptographic Algorithms and Key Lengths" — csrc.nist.gov(최소 키 길이)
- NIST, "NIST Releases First 3 Finalized Post-Quantum Encryption Standards"(2024년 8월 13일) — nist.gov(FIPS 203, 204, 205)
- NIST IR 8547(초기 공개 초안), "Transition to Post-Quantum Cryptography Standards" — csrc.nist.gov(2030년 이후 비권장, 2035년 이후 사용 불가 제안)
- IETF RFC 8446, "The Transport Layer Security (TLS) Protocol Version 1.3" — datatracker.ietf.org(키 교환과 서명 기반 인증)