item4 dev story

PostgreSQL의 PKCS Algorithm

What is the PKCS algorithm version of PostgreSQL?

작성일:

최종 수정일:

게시물 주소: https://item4.github.io/2015-07-07/What-is-the-PKCS-algorithm-version-of-PostgreSQL/

Tags:

tl;dr: PgCrypto는 PKCS#7을 사용합니다. (PgCrypto use PKCS#7)

PostgreSQL의 pgcryto는 encrypt/decrypt에 padding을 어떤것으로 할 지 선택할 수 있도록 해주고 있습니다. 그런데 선택지에 대한 설명이 너무 부실합니다. 선택지가 pkcsnone이 있는데, none이야 아무것도 안한다는걸 바로 알 수 있다고 쳐도 pkcs는 봐도 알 수가 없다는 점입니다.

pkcs — data may be any length (default)

누가 이 설명만 보고 이것의 상세 동작을 알 수 있겠습니까? 저는 이 부실한 설명을 믿지 못하겠어서 padding을 직접 하는 쪽으로 생각하고 있었습니다. 하지만 Symmetric encryption에 대해 알아갈수록 padding을 직접 짜도 되는걸까 하는 불안감 같은것이 생겼습니다. 예를 들면 이런 이슈를 생각해보겠습니다. encryption할 data로 blob이 왔는데 개발자가 padding으로 정한 문자가 마침 blob의 끝에 있다면? blob은 박살나버릴 것입니다.

그럼 PgCrypto의 padding algorithm은 무엇일까요? pkcs라는 단서밖에 없는지라 그냥 직접 소스를 뜯어보기로 했습니다. 다행히도 저장소를 직접 열어보지 않아도 친절한 모 대학에서 PostgreSQL 9.4 소스를 문서화해서 올려놔주셨습니다. 저는 pgcrypto의 소스를 열어서 찾아보기 시작했습니다.

주의: PostgreSQL이 C로 작성된 관계로 여기서부터는 C 소스가 나옵니다.

일단 pgcrypto.c를 열어보기로 했습니다. pgcrypto.c에는 pg_decrypt, pg_decrypt_iv, pg_encrypt, pg_encrypt_iv등의 함수가 정의되어있는데 어차피 padding은 동일한 걸 쓸것이라 생각하고 pg_encrypt를 보기로 했습니다.

Datum
pg_encrypt(PG_FUNCTION_ARGS)
{
    int         err;
    bytea      *data,
               *key,
               *res;
    text       *type;
    PX_Combo   *c;
    unsigned    dlen,
                klen,
                rlen;

    type = PG_GETARG_TEXT_P(2);
    c = find_provider(type, (PFN) px_find_combo, "Cipher", 0);

    data = PG_GETARG_BYTEA_P(0);
    key = PG_GETARG_BYTEA_P(1);
    dlen = VARSIZE(data) - VARHDRSZ;
    klen = VARSIZE(key) - VARHDRSZ;

    rlen = px_combo_encrypt_len(c, dlen);
    res = palloc(VARHDRSZ + rlen);

    err = px_combo_init(c, (uint8 *) VARDATA(key), klen, NULL, 0);
    if (!err)
        err = px_combo_encrypt(c, (uint8 *) VARDATA(data), dlen,
                               (uint8 *) VARDATA(res), &rlen);
    px_combo_free(c);

    PG_FREE_IF_COPY(data, 0);
    PG_FREE_IF_COPY(key, 1);
    PG_FREE_IF_COPY(type, 2);

    if (err)
    {
        pfree(res);
        ereport(ERROR,
                (errcode(ERRCODE_EXTERNAL_ROUTINE_INVOCATION_EXCEPTION),
                 errmsg("encrypt error: %s", px_strerror(err))));
    }

    SET_VARSIZE(res, VARHDRSZ + rlen);
    PG_RETURN_BYTEA_P(res);
}

봐도 이해가 안갈텐데, 당연합니다. 거의 다 메크로로 되어있었습니다. 일단 함수/메크로의 이름을 보면서 대략적인 흐름을 파악해보기로 했습니다. 일단 가장 먼저 눈에 띄는 것은 find_provider라는 부분입니다. 일단 저것의 구현을 보면 다음과 같습니다.

static void *
find_provider(text *name,
              PFN provider_lookup,
              char *desc, int silent)
{
    void       *res;
    char       *buf;
    int         err;

    buf = downcase_truncate_identifier(VARDATA(name),
                                       VARSIZE(name) - VARHDRSZ,
                                       false);

    err = provider_lookup(buf, &res);

    if (err && !silent)
        ereport(ERROR,
                (errcode(ERRCODE_INVALID_PARAMETER_VALUE),
                 errmsg("Cannot use \"%s\": %s", buf, px_strerror(err))));

    pfree(buf);

    return err ? NULL : res;
}

여기서 보면 알 수 있지만 처음에 find_provider를 실행할때 넘겨줬던 (PFN) px_find_combo은 함수같은 용법을 가진 것이라는것을 알 수 있습니다.

그럼 아까 전에 사용한 이제 px_find_combo의 정의를 살펴보았습니다.

int
px_find_combo(const char *name, PX_Combo **res)
{
    int         err;
    char       *buf,
               *s_cipher,
               *s_pad;

    PX_Combo   *cx;

    cx = px_alloc(sizeof(*cx));
    memset(cx, 0, sizeof(*cx));

    buf = px_alloc(strlen(name) + 1);
    strcpy(buf, name);

    err = parse_cipher_name(buf, &s_cipher, &s_pad);
    if (err)
    {
        px_free(buf);
        px_free(cx);
        return err;
    }

    err = px_find_cipher(s_cipher, &cx->cipher);
    if (err)
        goto err1;

    if (s_pad != NULL)
    {
        if (strcmp(s_pad, "pkcs") == 0)
            cx->padding = 1;
        else if (strcmp(s_pad, "none") == 0)
            cx->padding = 0;
        else
            goto err1;
    }
    else
        cx->padding = 1;

    cx->init = combo_init;
    cx->encrypt = combo_encrypt;
    cx->decrypt = combo_decrypt;
    cx->encrypt_len = combo_encrypt_len;
    cx->decrypt_len = combo_decrypt_len;
    cx->free = combo_free;

    px_free(buf);

    *res = cx;

    return 0;

err1:
    if (cx->cipher)
        px_cipher_free(cx->cipher);
    px_free(cx);
    px_free(buf);
    return PXE_NO_CIPHER;
}

여기서 사용되는 PX_Combo는 구조체인데, 각각에 쓰일 함수포인터를 들고 있습니다. paddingunsigned 타입으로 되어있는데 실제로는 bool처럼 쓰이고 있습니다. 여기서 padding을 어떻게 할지 정하는데, 알고리즘이 세분화되어 있지는 않음을 알 수 있습니다. encrypt 함수의 보다 깊은 곳을 알려면 combo_encrypt가 무엇인지 알아야합니다.

static int
combo_encrypt(PX_Combo *cx, const uint8 *data, unsigned dlen,
              uint8 *res, unsigned *rlen)
{
    int         err = 0;
    uint8      *bbuf;
    unsigned    bs,
                bpos,
                i,
                pad;

    PX_Cipher  *c = cx->cipher;

    bbuf = NULL;
    bs = px_cipher_block_size(c);

    /* encrypt */
    if (bs > 1)
    {
        bbuf = px_alloc(bs * 4);
        bpos = dlen % bs;
        *rlen = dlen - bpos;
        memcpy(bbuf, data + *rlen, bpos);

        /* encrypt full-block data */
        if (*rlen)
        {
            err = px_cipher_encrypt(c, data, *rlen, res);
            if (err)
                goto out;
        }

        /* bbuf has now bpos bytes of stuff */
        if (cx->padding)
        {
            pad = bs - (bpos % bs);
            for (i = 0; i < pad; i++)
                bbuf[bpos++] = pad;
        }
        else if (bpos % bs)
        {
            /* ERROR? */
            pad = bs - (bpos % bs);
            for (i = 0; i < pad; i++)
                bbuf[bpos++] = 0;
        }

        /* encrypt the rest - pad */
        if (bpos)
        {
            err = px_cipher_encrypt(c, bbuf, bpos, res + *rlen);
            *rlen += bpos;
        }
    }
    else
    {
        /* stream cipher/mode - no pad needed */
        err = px_cipher_encrypt(c, data, dlen, res);
        if (err)
            goto out;
        *rlen = dlen;
    }
out:
    if (bbuf)
        px_free(bbuf);

    return err;
}

이 함수의 구현을 보고나서야 드디어 padding을 실제로 어떻게 하는지 알 수 있었습니다.

        if (cx->padding)
        {
            pad = bs - (bpos % bs);
            for (i = 0; i < pad; i++)
                bbuf[bpos++] = pad;
        }

padbs(unsigned 타입의 cipher block size를 담은 변수)와 bpos를 이용해서 계산합니다. 그런데 bpos = dlen % bs;인데 modular 연산의 특징상 a % b % b == a % b입니다. 따라서 소스는 이렇게 정리가 가능합니다.

pad = bs - (dlen % bs);
for (i = 0; i < pad; i++)
    bbuf[bpos++] = pad;

dlenpg_encrypt함수에서 확인이 가능한데 data의 길이를 말합니다. 이제 이렇게 암호화하는 PKCS 버전을 찾으면 됩니다. 다행히도 StachExchange Cryptography에 이와 관련한 문서가 있었습니다. 저 글을 읽어보면 알 수 있지만 PKCS#5는 PKCS#7의 subset이며, PKCS#5는 사실상 (triple)DES만 고려하고 나온 물건이라고 합니다. 즉, 우리가 찾아 헤매던 것은 PKCS#7이라는 것을, PKCS#7을 정의한 RFC2315의 10.3 Note 2를 보면 알 수 있습니다.

   2.   Some content-encryption algorithms assume the
        input length is a multiple of k octets, where k > 1, and
        let the application define a method for handling inputs
        whose lengths are not a multiple of k octets. For such
        algorithms, the method shall be to pad the input at the
        trailing end with k - (l mod k) octets all having value k -
        (l mod k), where l is the length of the input. In other
        words, the input is padded at the trailing end with one of
        the following strings:

                 01 -- if l mod k = k-1
                02 02 -- if l mod k = k-2
                            .
                            .
                            .
              k k ... k k -- if l mod k = 0

        The padding can be removed unambiguously since all input is
        padded and no padding string is a suffix of another. This
        padding method is well-defined if and only if k < 256;
        methods for larger k are an open issue for further study.

혹시라도 PgCrypto로 encrypt된 내용을 decrypt하지 않고 가져온 뒤 DB가 아닌 다른 곳에서 decrypt할 것이라면 padding algorithm으로 PKCS#7을 사용하면 될 것입니다. 예를 들자면 Python의 cryptography는 padding 방법으로 PKCS7이라는 class를 지원합니다. 하지만 Oracle(DBMS)는 DBMS_CRYPTO.PAD_PKCS5만 존재합니다. 이런 차이점을 주의하면서 사용하면 될 것 같습니다.


별첨: a % b % b == a % b 증명에 대한 대화. lifthrasiir님께 감사를 표합니다. :)

item4: lifthrasiir, a % b % b = a % b 임을 어떻게 증명할 수 있을까요
lifthrasiir: 1. for 0 <= x < y, x % y == x
lifthrasiir: 2. for 0 <= x, 0 < y, 0 <= x % y < y
lifthrasiir: 따라서 조합하면 증명 완료
lifthrasiir: 2에서 x % y를 1의 x 자리에 끼워 넣으면 되죠
GitHub에 이슈 작성 글쓴이에게 초코우유 한 잔 선물하기

주제가 비슷한 글