브라우저에서 AES-256-GCM으로 파일 암호화하기
마지막 업데이트:
브라우저에서 AES-256-GCM으로 파일을 암호화한다는 것은 클라우드 드라이브나 이메일 첨부 파일, USB 스틱 등 어디로 보내기 전에, 자신의 컴퓨터에서 직접 선택한 비밀번호에서 유도한 키로 파일을 암호문으로 바꾸는 일입니다. 암호화는 페이지 안에서 WebCrypto로 실행되며, 파일과 비밀번호는 브라우저를 절대 떠나지 않습니다. 이것이 중요한 이유는 파일이 다시 입력할 수 있는 메시지와 다르기 때문입니다. 파일 그 자체가 비밀입니다. 채팅은 AES-GCM을 설명할 수 있어도 당신의 실제 파일을 암호화할 수는 없으며, 파일을 채팅에 붙여넣거나 "온라인 암호화"를 내세우는 아무 사이트에 업로드하면 평문을 모르는 상대에게 먼저 넘기게 됩니다. 파일 암호화 도구에서 브라우저 안에서만 파일을 암호화하고 복호화할 수 있으며, 크기 제한은 없습니다.
파일 그 자체가 비밀입니다 — 채팅에 붙여넣거나 아무 사이트에 업로드하지 마세요
사람들은 비밀번호에는 조심하면서 파일에는 소홀하지만, 더 심각한 유출은 파일입니다. 비밀번호는 바꿀 수 있지만, 파일은 한 번 읽히면 "읽히지 않은 것"으로 되돌릴 수 없습니다. 세금 신고서, 계약서 초안, 신분증 스캔본, 가족 사진 폴더 — 각각 수년간 민감하게 남는 정보를 담고 있으며, 복사본이 자신의 컴퓨터를 떠난 뒤에는 되찾을 수 없습니다. 이것이 이 글의 첫 번째 규칙입니다. 파일을 채팅에 붙여넣지 마세요. 그리고 "온라인 암호화"라는 문구만이 내세울 것인 사이트에 업로드하지 마세요. 당신의 파일을 대신 암호화해 주는 서비스는 정의상 평문을 보았습니다. 그 서비스가 침해되거나, 매각되거나, 단순히 업로드를 기록하고 있다면, 나중에 적용하는 암호화는 장식에 불과합니다.
브라우저 내 암호화는 이 순서를 뒤집습니다. 파일은 페이지가 읽고, 자신의 컴퓨터에서 블록 단위로 암호화되며, 밖으로 나가는 것은 암호문뿐입니다. 다운로드 폴더로, 그리고 거기서 당신이 두기로 한 장소로 갑니다. 사이트는 파일도, 비밀번호도, 키도 받지 못합니다. 받을 서버 측이 존재하지 않기 때문입니다. 이 도구는 정적 페이지입니다. 같은 논리가 이 도구가 챗봇의 답변이 아니라 존재하는 이유를 설명합니다. 챗봇은 AES-GCM을 완벽히 설명할 수 있어도 당신의 실제 파일을 암호화할 수는 없으며, 파일을 붙여넣는 순간 평문을 바로 당신이 막으려던 상대에게 넘긴 셈이 됩니다. 어떤 작업 흐름에 파일 자체가 필요하다면, 그 작업은 파일이 이미 있는 곳, 즉 자신의 컴퓨터에서 이루어져야 합니다.
AES-256-GCM을 쉬운 말로: 하나의 키, 블록마다 새로운 검증
AES-256-GCM은 두 가지 보장을 하나의 알고리즘에 담은 것으로, 파일에 두 가지 모두 중요합니다. "AES-256" 부분은 암호 그 자체입니다. 256비트 키가 각 데이터 블록을 철저히 뒤섞기 때문에, 아무도 추측할 수 없는 키라면 암호문은 평문에 대해 아무것도 드러내지 않습니다. "GCM" 부분은 인증입니다. 파일의 각 블록마다 알고리즘은 16바이트 태그를 계산합니다. 이는 그 블록과 그 위치, 그리고 키로 결정되는 지문입니다. 복호화할 때는 태그를 다시 계산해 비교합니다. 단 1바이트라도 바뀌었다면 — 전송 중 비트가 뒤집혔거나, 비밀번호가 틀렸거나, 다른 파일의 블록과 바뀌었다면 — 태그는 일치하지 않고, 복호화는 손상된 데이터를 조용히 건네는 대신 거부합니다.
이 두 번째 보장이 바로 GCM이 파일에서 오래된 CBC 모드보다 우수한 이유이며, 그 차이를 이해할 가치가 있습니다. CBC는 각 블록을 이전 블록과 연결해 암호화하지만, 암호문이 조작되었는지 알 수 있는 내장 수단이 없습니다. CBC 파일의 비트를 뒤집을 수 있는 공격자는 복호화 결과를 예측 가능한 방식으로 바꿀 수 있으며, CBC에 대한 고전적인 패딩 오라클 공격은 바로 이 약점을 노립니다. CBC에서는 조작을 감지하기 위해 별도의 HMAC이 필요하고, 그 구조를 제대로 만드는 지점에서 구현이 실패합니다. GCM은 검증을 내장합니다. 각 블록이 고유한 태그를 지니고 평문이 신뢰받기 전에 검증되므로, 덧붙일 두 번째 메커니즘도, 공격받을 패딩도 없습니다. 하나의 키, 하나의 알고리즘으로 기밀성과 인증을 함께 얻습니다.
비밀번호일까요, 키 쌍일까요? 공유 비밀번호가 맞는 도구인 경우
다른 사람을 위해 파일을 암호화하는 정직한 방법은 두 가지이며, 서로 다른 문제를 해결합니다. 비밀번호는 공유된 비밀입니다. 당신과 수신자가 미리 합의합니다 — 가급적 파일 자체가 지나가지 않을 다른 채널로, 직접 만나서, 혹은 다른 수단으로 — 그리고 비밀번호를 아는 사람이라면 누구나 파일을 열 수 있습니다. 키 쌍, 즉 PGP 모델은 비대칭입니다. 수신자의 공개 키로 암호화하고, 그 사람의 개인 키만 열 수 있으며, 미리 비밀을 합의할 필요가 없습니다. 키 쌍이 이기는 경우는 비밀을 안전하게 공유할 수 없을 때, 수신자가 엄밀히 한 사람이어야 할 때, 그리고 누가 파일을 보냈는지 증명하는 서명이 필요할 때입니다. 지는 부분은 설정 비용입니다. 키를 생성하고, 보관하고, 백업하고, 폐기해야 하며, 수신자도 이미 키 쌍을 갖고 있어야 합니다.
비밀번호가 이기는 경우는 키 쌍의 설정 비용 때문에 암호화 자체가 이루어지지 않는 경우입니다. 대부분의 사람과 대부분의 파일에서 이것이 일반적인 경우입니다. 미래의 자신을 위한 파일, 완전히 신뢰하지 않는 드라이브의 백업, 직접 만나 비밀번호를 건넬 수 있는 동료에게 보낼 문서 — 이런 것에는 키 인프라가 필요 없고, 강력한 비밀번호와 수신자가 열 수 있는 형식이면 충분합니다. 이런 경우에는 파일 암호화 도구를 사용하세요. 수신자가 낯선 사람일 때, 파일이 당신의 것임을 입증할 수 있어야 할 때, 혹은 여러 사람에게 하나의 비밀을 공유하지 않고 암호화해야 할 때는 대신 PGP 도구 모음을 사용하세요. 같은 사이트, 같은 "모든 것은 브라우저 안에서"라는 규칙이며, 메시지와 신원에 적합한 도구입니다. 키 쌍이 필요했는데 비밀번호 도구를 선택하는 것은 실제 실수입니다. 하지만 키 쌍 도구를 선택했다가 설정에 밀려 아무것도 암호화하지 않게 되는 것이 더 흔한 실수입니다.
다른 도구들이 파일을 10 MB로 제한하는 이유 — 스트리밍이 그 제한을 없애는 방법
온라인으로 파일을 암호화해 본 적이 있다면 그 제한을 만나봤을 것입니다. 10 MB, 때로는 그보다 작고, 그보다 큰 것은 거부됩니다. 이 제한은 인색해서가 아닙니다. 대부분의 도구는 파일 전체를 메모리에 읽고, 한 번에 암호화하고, 암호문 전체를 메모리에 유지한 뒤 다운로드로 제공합니다. 큰 파일의 네 개 복사본이 동시에 RAM을 차지하고, 여기에 브라우저의 메모리 내 blob 하나당 크기 제한까지 더해집니다. 2 GB 동영상을 이런 방식으로 암호화하려면 수 GB의 메모리가 필요하고, 평범한 컴퓨터에서는 그냥 실패합니다. 그래서 도구는 감당할 수 있는 크기로 입력을 제한하고, 큰 파일은 암호화되지 않은 채 남습니다.
해결책은 파일 전체를 한 번에 붙잡는 일을 그만두는 것입니다. 암호화 도구는 파일을 1 MiB씩 읽고, 하나를 암호화해 암호문을 쓰고, 다음 것을 읽기 전에 잊어버립니다. 파일이 아무리 커도 메모리 피크는 1메가바이트 근처에 머뭅니다. Chromium과 Edge에서는 출력이 파일 시스템 접근 API를 거치므로, 암호화된 블록은 생성되는 즉시 디스크에 기록됩니다. 파이프라인 어디에도 파일 전체를 버퍼링하지 않는 진정한 스트리밍입니다. Firefox와 Safari는 아직 이 API를 제공하지 않으므로, 그곳에서는 마지막에 블록들을 모아 한 번의 다운로드로 만듭니다. 페이지는 이를 솔직히 밝히고 있으며, 그 브라우저들에서 매우 큰 파일을 다룰 때의 정직한 조언은 Chromium 브라우저를 사용하는 것입니다. 1 MiB라는 블록 크기는 파일 형식으로 고정된 것이지 설정 항목이 아닙니다. 복호화 측이 기대하는 크기이며, 이를 고정해 두는 것이 이 도구가 만드는 모든 파일을 형식의 다른 모든 구현에서도 읽을 수 있게 하는 조건입니다.
형식은 모두 문서화되어 있습니다: 당신의 파일은 이 사이트에 갇히지 않습니다
만든 웹사이트 없이는 열 수 없는 암호화 파일은 백업이 아니라 인질입니다. 그래서 컨테이너 형식은 도구 페이지에 전부 문서화되어 있으며, 이 섹션은 그 요약본입니다. .sysxenc 파일은 8바이트 매직 바이트 SYSXENC1으로 시작하고, 이어서 2바이트 헤더 길이, 그다음 JSON 헤더가 옵니다. 형식 버전, KDF 이름과 반복 횟수, 무작위 16바이트 솔트, 1 MiB 블록 크기, 원본 파일 이름, 평문 크기, 평문의 SHA-256, 타임스탬프입니다. 본문은 블록들의 연속이며, 각 블록은 4바이트 암호문 길이, 새로 생성된 무작위 12바이트 IV, 그리고 16바이트 GCM 태그가 붙은 암호문으로 구성됩니다. 키는 비밀번호에서 PBKDF2-SHA-256으로 유도되며, 반복 횟수는 600,000회입니다. 이는 OWASP가 권장하는 횟수입니다. 각 블록은 추가 데이터로 인증되어 이 파일과 그 위치에 묶입니다. 정확한 헤더 바이트와 블록 인덱스입니다. 그래서 순서가 바뀌거나 다른 파일에서 가져온 블록은 태그 검증을 통과하지 못합니다.
이 모든 것을 기록하는 의미는 누구나 리더를 구현할 수 있다는 것입니다. 아래의 Python 복호화 도구가 그 증거입니다. 표준 라이브러리와 cryptography 패키지만을 사용해 헤더를 읽고, 키를 다시 유도하고, 블록마다 복호화하며 각 태그를 검증하고, 마지막으로 평문의 SHA-256을 확인합니다. 브라우저 도구가 하는 일과 정확히 같습니다. 이 형식으로 생성된 파일들로 실행했습니다. 수 MB짜리 다중 블록 파일, 빈 파일, 잘못된 비밀번호, 조작된 파일을 포함했으며, 모든 경우에 올바르게 동작했습니다. 한 가지 정직한 제한이 있습니다. OpenSSL 명령줄로는 이 청크 형식을 직접 복호화할 수 없습니다. 블록별 IV, 추가 인증 데이터, 태그를 표현할 방법이 없기 때문입니다. 이는 형식 설계 자체의 특성이지 비밀이 아니며, 이 글은 그렇지 않은 척하지 않습니다. 아래 스크립트나 다른 AES-GCM 구현을 사용하세요.
실패 모드: 암호화가 구해 주지 못하는 것들
첫 번째 실패 모드는 도구가 가장 크게 경고하는 것으로, 해결책이 없기 때문입니다. 비밀번호를 잃으면 파일도 잃습니다. 복구도 없고, "비밀번호를 잊으셨나요" 링크도 없으며, 어딘가에 보관된 마스터 키도 없습니다. 키는 비밀번호에서만 유도되며, 그것이 없으면 암호문은 무작위 바이트와 구별할 수 없습니다. 원본을 삭제하기 전에 비밀번호를 안전한 장소에, 파일과 따로 적어 두세요. 두 번째 실패 모드는 약한 비밀번호입니다. 600,000회 반복하는 PBKDF2는 추측을 늦추지만 "password123"을 강하게 만들 수는 없습니다. 파일을 손에 넣은 공격자는 오프라인으로 추측할 수 있으며, 하드웨어가 허용하는 속도로 시도할 수 있습니다. 그를 차단할 서버는 없습니다. 짧고 빨리 입력할 수 있는 비밀번호가 아니라, 기억할 수 있는 긴 암호 구문을 사용하세요.
세 번째와 네 번째 실패 모드는 암호화가 다루지 않는 범위에 관한 것입니다. 헤더에는 원본 파일 이름, 파일 크기, 생성 시간이 평문으로 저장됩니다. 내용은 비밀이지만 메타데이터는 그렇지 않습니다. 파일 이름 자체가 민감하다면 암호화하기 전에 이름을 바꾸고, 먼저 문서 정리 도구를 거치는 것도 고려하세요. 문서 내부에도 자체 메타데이터가 있기 때문입니다. 작성자 이름, 편집 기록, 내장된 썸네일입니다. 그리고 이미 손상된 기기에서는 어떤 암호화도 도움이 되지 않습니다. 암호화에 사용하는 컴퓨터가 이미 악성코드를 실행하고 있다면, 암호화 전에 파일을 읽고 입력하는 동안 비밀번호를 읽을 수 있습니다. 암호화는 전송 중이거나 저장된 파일을 보호합니다. 이미 장악된 컴퓨터의 파일은 보호하지 못합니다. 이는 암호화를 건너뛸 이유가 아니라, 암호화가 정확히 무엇을 가져다주는지 알기 위한 이유입니다.
Python으로 .sysxenc 파일 복호화하기
#!/usr/bin/env python3
"""Decrypt a SYSXENC v1 file produced by the SysOSX file encryptor.
Format (SYSXENC v1), as documented at
https://www.sysosx.com/tools/file-encryptor/ :
header: 8-byte magic b"SYSXENC1", u16BE header length, header JSON bytes
{"v": 1, "kdf": "PBKDF2-SHA256", "iter": 600000,
"salt": <base64, 16 bytes>, "chunkSize": 1048576,
"name": <original filename>, "size": <plaintext bytes>,
"sha256": <hex of plaintext>, "created": <ISO timestamp>}
body: chunks, each u32BE ciphertext length (ciphertext INCLUDING the
16-byte GCM tag) + 12-byte random IV + ciphertext+tag.
The last chunk may be shorter; an empty file has zero chunks.
AAD per chunk: the exact header JSON bytes + u32LE chunk index.
KDF: PBKDF2-HMAC-SHA-256, 600,000 iterations, 256-bit key.
Requires the `cryptography` package: pip install cryptography
Note: OpenSSL's command-line tool cannot decrypt this chunked format
directly — it has no way to express per-chunk IVs, AAD, and tags — so
use this script (or any AES-GCM implementation) instead.
Usage:
python3 sysxenc_decrypt.py encrypted.sysxenc decrypted.bin
python3 sysxenc_decrypt.py encrypted.sysxenc decrypted.bin --password hunter2
(without --password, the password is read securely from the terminal)
"""
import argparse
import base64
import getpass
import hashlib
import json
import struct
import sys
MAGIC = b"SYSXENC1"
HEADER_LEN_FMT = ">H" # u16 big-endian
CHUNK_LEN_FMT = ">I" # u32 big-endian
CHUNK_INDEX_FMT = "<I" # u32 little-endian
IV_LEN = 12
TAG_LEN = 16
KEY_LEN = 32
def _read_exact(f, n, what):
data = f.read(n)
if len(data) != n:
raise ValueError(f"truncated file: could not read {what}")
return data
def decrypt_file(in_path, out_path, password):
with open(in_path, "rb") as f:
magic = _read_exact(f, 8, "magic")
if magic != MAGIC:
raise ValueError(
f"bad magic {magic!r}: not a SYSXENC v1 file")
(header_len,) = struct.unpack(
HEADER_LEN_FMT, _read_exact(f, 2, "header length"))
header_bytes = _read_exact(f, header_len, "header JSON")
header = json.loads(header_bytes.decode("utf-8"))
if header.get("v") != 1:
raise ValueError(
f"unsupported format version: {header.get('v')!r}")
if header.get("kdf") != "PBKDF2-SHA256":
raise ValueError(
f"unsupported KDF: {header.get('kdf')!r}")
iterations = int(header["iter"])
salt = base64.b64decode(header["salt"])
chunk_size = int(header["chunkSize"])
expected_size = int(header["size"])
expected_sha256 = header["sha256"]
key = hashlib.pbkdf2_hmac(
"sha256", password.encode("utf-8"), salt, iterations, KEY_LEN)
# Imported here so a bad file fails fast with a format error,
# not an ImportError.
from cryptography.hazmat.primitives.ciphers.aead import AESGCM
aesgcm = AESGCM(key)
hasher = hashlib.sha256()
written = 0
index = 0
with open(out_path, "wb") as out:
while True:
len_bytes = f.read(4)
if len(len_bytes) == 0:
break # end of body
if len(len_bytes) != 4:
raise ValueError(
f"truncated file: chunk {index} length field")
(ct_len,) = struct.unpack(CHUNK_LEN_FMT, len_bytes)
iv = _read_exact(f, IV_LEN, f"chunk {index} IV")
ct_and_tag = _read_exact(
f, ct_len, f"chunk {index} ciphertext")
aad = header_bytes + struct.pack(CHUNK_INDEX_FMT, index)
try:
plain = aesgcm.decrypt(iv, ct_and_tag, aad)
except Exception as exc:
raise ValueError(
f"chunk {index} failed authentication: "
"wrong password or tampered file") from exc
out.write(plain)
hasher.update(plain)
written += len(plain)
index += 1
if written != expected_size:
raise ValueError(
f"size mismatch: header says {expected_size} bytes, "
f"decrypted {written}")
if hasher.hexdigest() != expected_sha256:
raise ValueError(
"SHA-256 mismatch: decrypted content does not match "
"the header digest (file tampered or corrupt)")
return header
def main(argv=None):
parser = argparse.ArgumentParser(
description="Decrypt a SYSXENC v1 (.sysxenc) file.")
parser.add_argument("input", help="encrypted .sysxenc file")
parser.add_argument("output", help="where to write the plaintext")
parser.add_argument("--password",
help="password (if omitted, prompted securely)")
args = parser.parse_args(argv)
password = args.password
if password is None:
password = getpass.getpass("Password: ")
try:
header = decrypt_file(args.input, args.output, password)
except (ValueError, OSError, KeyError) as exc:
print(f"error: {exc}", file=sys.stderr)
return 1
print(f"decrypted {header.get('name', args.input)} "
f"({header['size']} bytes, {header['sha256'][:12]}..., "
f"SHA-256 verified)")
return 0
if __name__ == "__main__":
raise SystemExit(main())