용어 사전

공개키 암호란: 공개키와 개인키 쌍으로 암호화·서명하는 구조

공개키 암호는 공개키와 개인키 쌍으로 암호화와 서명 검증을 하는 방식입니다. TLS(HTTPS)·전자서명·패스키의 토대가 되는 원리와 개인키 관리 등 실무 요점을 설명합니다.

게시 2026-07-04 업데이트 2026-10-06 6분 읽기
이 페이지에서

「공개키」와 「개인키」라는 말은 TLS(HTTPS)·전자서명·패스키 등 곳곳에서 등장합니다. 여기서는 공격 절차는 다루지 않고, 공개키 암호의 사고방식과 실무에서 짚어야 할 방어의 핵심을 해설합니다.

공개키와 개인키의 역할

키가 쌍을 이루고 있으며, 역할이 반대라는 점이 핵심입니다.

공개키
누구에게 나눠줘도 된다. 암호화한다/서명을 검증한다
개인키
본인만 가진다. 복호화한다/서명을 만든다
유출 시
개인키가 유출되면 사칭·복호화가 가능해짐→즉시 실효·재발급
공개키는 누구에게 나눠줘도 된다. 공개키로 잠근 것은 대응하는 개인키로만 열 수 있다. 서명은 그 반대 방향으로 작동한다.

공개키 vs 개인키 vs 대칭키

자주 헷갈리는 세 종류의 키를 나란히 놓았습니다. 공개키와 개인키는 항상 한 쌍이고, 대칭키(공통키)는 다른 종류의 방식에 속합니다.

공개키개인키대칭키(공통키)
누가 가지나누구나(공유해도 안전)본인만양쪽이 같은 키를 가짐
주된 역할암호화, 서명 검증복호화, 서명 생성암호화와 복호화 모두
유출되면문제없음(원래 공개)사칭이나 복호화가 가능해짐그 통신을 읽을 수 있음
대표적인 방식RSA, 타원곡선(ECDSA, Ed25519, ECDH)같음AES, ChaCha20
속도느림느림빠름

공개키 연산은 비용이 크기 때문에 대량의 데이터를 암호화하는 데는 쓰지 않습니다. 실제 프로토콜은 공개키 암호를 키 교환과 본인 증명에만 쓰고, 데이터 자체는 대칭키 암호로 보호합니다.

공개키에서 개인키를 알아낼 수 없는 이유

두 키는 수학적으로 대응하지만, 공개키에서 거꾸로 개인키를 구하는 일은 현실적인 시간 안에 할 수 없습니다. RSA는 매우 큰 수의 소인수분해가 어렵다는 점에, 타원곡선 암호는 타원곡선 이산로그 문제에 기대고 있습니다.

이는 키가 충분히 길 때만 성립합니다. NIST의 이행 지침(SP 800-131A)은 RSA 키를 최소 2048비트로 요구합니다. 새로 만드는 키라면 RSA 3072비트 이상이나 Ed25519 같은 타원곡선 방식이 일반적인 선택입니다.

어디에 쓰이는가

암호화(비밀스러운 주고받기)

  • 상대의 공개키로 암호화해서 보낸다
  • 대응하는 개인키를 가진 본인만 복호화할 수 있다
  • TLS에서는 「공통키를 안전하게 공유」하는 용도로 쓰인다

전자서명(진정성의 증명)

  • 송신자가 개인키로 서명을 만든다
  • 수신자는 공개키로 검증하여, 본인성과 변조 여부를 확인
  • TLS 인증서·소프트웨어 배포·패스키의 인증에 쓰인다

실제 TLS(HTTPS)는 공개키 암호로 공통키를 안전하게 공유하고, 그 이후의 통신은 빠른 공통키 암호로 지키는 하이브리드 방식입니다. 패스키도 단말 내의 개인키로 서명하고, 서버의 공개키로 검증함으로써 피싱에 강한 인증을 실현하고 있습니다.

사례: 일상 속 쓰임새와 개인키가 유출된 사고

공개키 암호가 쓰이는 곳
HTTPS
서버 인증서에 공개키가 담기고, 서버는 개인키로 자신이 진짜임을 증명한다
SSH 로그인
서버에 공개키를 등록해 두고, 로컬의 개인키로 서명해 로그인한다. 비밀번호는 전송되지 않는다
소프트웨어 배포
배포자가 개인키로 서명하고, 사용자는 공개키로 변조가 없는지 확인한다
패스키
단말이 개인키로 서명하고, 서비스는 등록된 공개키로 검증한다

사고의 대부분은 수학이 아니라 개인키를 다루는 방식에서 일어납니다. 2014년 Heartbleed(CVE-2014-0160)에서는 TLS 소프트웨어의 버그로 서버 메모리를 읽어 낼 수 있었고, 거기에 서버의 개인키가 포함될 수 있었습니다. 버그 수정만으로는 부족했고, 키를 다시 만들고 인증서를 재발급해야 했습니다. 2018년 Coincheck NEM 유출 사고에서는 인터넷에 연결된 환경에 둔 개인키가 도난당했고, 그 키 하나로 약 580억 엔어치의 암호자산이 옮겨졌습니다.

내 환경에서 확인하는 방법

1

사이트의 인증서와 키 종류를 본다

주소창의 자물쇠(사이트 정보) 아이콘에서 인증서를 열면 발급자, 만료일, 공개키 종류(RSA 2048비트, ECDSA P-256 등)를 볼 수 있습니다. 명령줄에서는 openssl s_client -connect example.com:443의 출력에서 같은 내용을 확인할 수 있습니다.

2

SSH 키의 종류와 길이를 확인한다

공개키 파일에 ssh-keygen -l -f ~/.ssh/id_ed25519.pub를 실행하면 길이와 종류가 표시됩니다. RSA 1024비트처럼 오래된 키는 다시 만들고, 서버의 authorized_keys에 더 이상 아무도 쓰지 않는 공개키가 남아 있지 않은지 확인하세요(→ SSH 키의 최소 권한).

3

코드 안에 개인키가 없는지 확인한다

저장소나 설정 파일에서 PEM 형식 개인키의 헤더 줄("BEGIN"과 "PRIVATE KEY"가 들어간 줄)을 찾아보세요. 코드 조각을 붙여넣어 확인하려면 시크릿 유출 스캐너를, 커밋할 때마다 자동으로 막으려면 gitleaks를 pre-commit 훅으로 쓰세요.

앞으로의 변화: 양자 컴퓨터에 대한 대비

충분한 성능의 양자 컴퓨터는 RSA와 타원곡선 암호를 깰 것으로 예상됩니다. NIST는 2024년 8월 첫 양자 내성 암호 표준(ML-KEM의 FIPS 203, ML-DSA의 FIPS 204, SLH-DSA의 FIPS 205)을 공개했습니다. 또한 초안(NIST IR 8547)에서 기존 방식을 2030년 이후 비권장, 2035년 이후 사용 불가로 하자고 제안했습니다.

개인이나 작은 사이트가 양자 내성 암호를 직접 구현할 필요는 없습니다. OS, 브라우저, TLS 라이브러리를 최신으로 유지하면 지원은 자연스럽게 들어옵니다. 현실적인 대비는 오래된 라이브러리나 오래된 설정을 고정해 두지 않는 것입니다.

방어의 핵심

1

암호를 직접 만들지 않는다

이론이 옳더라도, 난수의 품질·패딩·타이밍 차 등 구현의 세부에서 깨진다. 표준 프로토콜과 검증된 라이브러리를 쓰고, 독자 구현을 피한다.

2

개인키를 엄중히 관리한다

개인키는 코드나 저장소에 두지 않는다. 전용 보관(키스토어/시크릿 매니저)에 격리하고, 유출 시에 **실효·재발급(로테이션)**할 수 있는 운용으로 한다(→ 공개 디렉터리에 비밀을 두지 않는다).

3

키 길이·알고리즘을 최신으로 유지한다

권장은 시대에 따라 바뀐다. 오래된 키 길이나 비권장 알고리즘을 방치하지 말고, 최신 권장을 따라간다. 인증서는 Let's Encrypt 등으로 자동 갱신한다.

본 사이트의 관점: 쓰는 쪽의 책임은 '키 관리'에 있다

공개키 암호 그 자체는 강력하며, 보통 굳이 깰 필요는 없습니다. 현장의 사고는 암호의 수학이 아니라, 개인키의 보관 위치·실효의 구조·오래된 설정의 방치 같은 운용 면에서 일어납니다. 이 사이트도 개인키는 공개 면 바깥으로 격리하고, 유출이 의심되면 「읽혔다는 전제」로 즉시 로테이트하는 방침입니다. 암호는 직접 만들지 않고 표준을 쓴다. 이것이 가장 안전한 방법입니다.

출처(1차 자료)

  • NIST SP 800-131A Rev. 2, "Transitioning the Use of Cryptographic Algorithms and Key Lengths" — csrc.nist.gov(최소 키 길이)
  • NIST, "NIST Releases First 3 Finalized Post-Quantum Encryption Standards"(2024년 8월 13일) — nist.gov(FIPS 203, 204, 205)
  • NIST IR 8547(초기 공개 초안), "Transition to Post-Quantum Cryptography Standards" — csrc.nist.gov(2030년 이후 비권장, 2035년 이후 사용 불가 제안)
  • IETF RFC 8446, "The Transport Layer Security (TLS) Protocol Version 1.3" — datatracker.ietf.org(키 교환과 서명 기반 인증)

다음에 읽을거리

FAQ

Q공개키 암호와 공통키(대칭키) 암호는 어떻게 다른가요?
A

공통키 암호는 암호화와 복호화에 같은 키를 쓰기 때문에 빠르지만, 그 키를 상대에게 안전하게 전달하는 방법이 과제가 됩니다. 공개키 암호는 공개키와 개인키 쌍을 사용하며, 공개키는 누구에게 나눠줘도 상관없습니다. 실제 TLS(HTTPS)에서는 공개키 암호로 '공통키를 안전하게 공유'하고, 그 뒤의 대량 데이터는 빠른 공통키 암호로 지키는 하이브리드 방식이 사용됩니다.

Q전자서명은 어떻게 '진짜'임을 확인하나요?
A

송신자가 자신의 개인키로 데이터의 서명을 만들고, 수신자는 송신자의 공개키로 그 서명을 검증합니다. 개인키는 본인만 가지고 있으므로, 검증이 통과하면 '그 공개키의 소유자가 서명했으며/내용이 변조되지 않았다'는 것을 알 수 있습니다. TLS 인증서나 소프트웨어 배포의 진정성 확인도 이 전자서명의 구조에 의해 뒷받침됩니다.

Q직접 암호를 구현해도 되나요?
A

피하세요. 암호는 이론이 옳더라도 구현의 세부(난수의 품질, 패딩, 타이밍 차 등)에서 깨집니다. 방어의 원칙은 '직접 만들지 않고·검증된 라이브러리와 표준 프로토콜을 쓴다'는 것. 키의 생성·보관·실효(로테이션) 운용을 설계하고, 키 길이나 알고리즘은 최신 권장을 따라갑니다.

Q공개키를 나눠주는데, 왜 누구도 거기서 개인키를 알아낼 수 없나요?
A

두 키는 수학적으로 연결되어 있지만, 공개키에서 개인키를 계산해 내려면 현재의 컴퓨터로는 현실적인 시간 안에 풀 수 없는 문제를 풀어야 합니다. RSA는 매우 큰 수의 소인수분해가 어렵다는 점에, 타원곡선 방식(ECDSA, Ed25519 등)은 타원곡선 이산로그 문제에 기대고 있습니다. 이는 키가 충분히 길 때만 성립하며, 오래되고 짧은 키는 깨질 수 있습니다.

Q개인키가 유출된 것 같습니다. 어떻게 해야 하나요?
A

읽혔다는 전제로, 먼저 그 키를 쓸 수 없게 만드세요. TLS 인증서라면 인증기관에 폐지(revoke)를 요청하고 새 키로 재발급합니다. SSH 키라면 서버의 authorized_keys에서 해당 공개키를 지우고 새 키 쌍으로 바꿉니다. 서명 키라면 공개된 검증용 키를 교체하고 사용자에게 알립니다. 새 키를 만들지 않고 인증서만 갱신하면 예전 개인키를 계속 쓸 수 있는 상태로 남습니다.

Q양자 컴퓨터가 공개키 암호를 깨뜨리나요?
A

충분한 성능의 양자 컴퓨터라면 RSA와 타원곡선 암호를 깰 수 있을 것으로 예상됩니다. 그래서 미국 국립표준기술연구소(NIST)는 2024년 8월 양자 내성 암호 표준(FIPS 203, 204, 205)을 공개했고, 초안(NIST IR 8547)에서 기존 방식을 2030년 이후 비권장, 2035년 이후 사용 불가로 하자고 제안했습니다. 개인이나 작은 사이트가 직접 구현할 필요는 없으며, OS·브라우저·라이브러리를 최신으로 유지해 전환이 자연스럽게 적용되게 하는 것이 현실적인 대비입니다.