카톡 메시지 암호화되면 뭐가 달라질까?

카카오톡에 대한 검찰의 압수수색, 감청 논란이 불거지면서 사용자들이 주고 받은 메시지가 과연 안전하게 보호되고 있는지에 대한 불안감이 커졌다.

검찰 수사에 협조하면서 사용자에게 통보없이 메시지 내역을 제공했다는 이유로 카톡은 여론의 뭇매를 맞았다. 이런 가운데 다음카카오가 8일 사용자들에게 새로운 보안 조치인 '카카오톡 외양간 프로젝트'를 공지하고 대응에 나섰다.

미국 보안 스타트업에 근무하는 한국인 보안 전문가가 카톡에 적용된 기본적인 보안 프로세스와 함께 앞으로 도입될 종단간 암호화(End to End Encryption, E2E) 기술, 그리고 최근 트위터, 야후, 아웃룩닷컴 등에서 정부 감시를 피할 목적으로 도입한 퍼펙트 포워드 시크러시(Prefect Forward Secrecy, PFS) 등에 대한 내용을 온라인에 공개해 눈길을 끈다.

미국 보안 스타트업 카프리카 시큐리티에 근무하고 있는 박세준 연구원은 최근 블로그에 올린 글을 통해 기존에 카톡에 적용된 것은 '인증서 피닝(certificate pinning)'이라는 보안 기술로 제3자가 스마트폰이나 PC를 장악하지 않는 이상 통신 도청만으로는 개입하기 불가능에 가깝다고 설명했다.

그가 속한 미국 카네기멜론대 해킹/보안그룹인 PPP팀은 지난해 미국서 열린 해킹방어대회 '데프콘 CTF 파이널 2013'과 올해 국내서 개최된 코드게이트 CTF 2014에 참가해 1위를 차지한 바 있다.

인증서 피닝 기술은 암호화 통신 방법 중 하나로 사용자들 간 송수신하는 정보를 누군가 중간에서 가로채거나 조작하는 중간자 공격(MITM)을 막기 위해 활용된다. 클라이언트-서버 간에 정상적인 암호화 통신으로 연결됐다는 점을 확인한 뒤에 클라언트단에서 해당 서버와 주고 받는 데이터가 믿을 수 있는 것인지 여부를 재확인하는 방법이다.

클라이언트는 카톡이 설치된 스마트폰을, 서버는 상대방과 대화 내용을 임시저장했다가 보내주는 역할을 한다. 구글 크롬, 모질라 파이어폭스 웹브라우저 등에서도 이같은 방법이 활용되고 있다.

카카오가 추진할 외양간 프로젝트의 핵심은 카톡의 비밀대화기능인 '프라이버시 모드', 서버 내에서도 메시지를 암호화해 저장하는 기능을 제공한다는 점이다. 이석우 다음카카오 공동대표가 최근 긴급기자회견에서 밝힌 '종단간 암호화(E2E 암호화)'가 여기에 적용된다.

박 연구원에 따르면 카카오 엔지니어들은 이미 사과문을 공개하고 기자회견을 하기 전부터 E2E 암호화를 구현하기 위한 프로젝트를 시작했던 것으로 보인다. E2E 암호화는 사용자들이 주고받는 카톡 메시지가 송수신되는 경유지 역할을 하는 서버에서도 데이터를 암호화한 상태로만 저장하는 방법이다.

이렇게 하면 누군가 어떤 식으로든 서버 내 메시지를 확보한다고 하더라도 무슨 내용인지 확인할 방법이 없다. 기존에 다음카카오가 검찰측 요청에 따라 수사 대상자의 메시지 내역을 제출했던 것도 서버 내에서는 복호화된 평문 형태로 메시지가 저장돼 있었기 때문이다. E2E 암호화를 적용하면 당사자들 허락없이는 암호화된 메시지만 볼 수 있다.

다음카카오 관계자는 E2E 암호화는 '프라이버시 모드'를 통해서만 구현되는데 이렇게 하면 압수수색 영장이 발부되더라도 카톡 서버 내에는 암호화된 메시지만 있기 때문에 사용자들이 스마트폰을 통해서만 공유하고 있는 복호화키를 별도로 받아야 한다고 설명했다.

또한 프라이버시 모드를 사용하지 않는 경우에는 서버에 메시지 보관기간을 7일에서 2일~3일로 줄였기 때문에 압수수색 영장이 발부된다고 하더라도 하루만에 수사가 들어오는 게 아닌 이상 기업 차원에서 협조하기 힘들어 진다고 덧붙였다.

일각에선 카톡 프라이버시 모드에서 E2E 암호화가 1:1 대화에는 올해 안에 적용되지만 그룹채팅방에 대해서는 내년까지 늦춰진 것을 지적하는 이들도 있다. 이와 관련 박 연구원은 생각보다 쉬운 문제는 아니라고 설명했다.

그에 따르면 그룹채팅방에 참여하고 있는 여러 명이 비밀키를 공유하면 해결되는 것처럼 보이지만 채팅방에서 나간 사용자가 이후에도 이 키를 이용해 대화 내역을 볼 수 있다. 사용자가 나갈 때마다 대화방에 비밀키를 바꾼 상태로 공유하면 된다고 말할 수도 있으나 이 역시 대화방을 나간 사용자들 입장에서는 비밀키가 바뀐 탓에 이전 대화 내용을 확인할 수 없게 되는 문제가 생긴다.카톡에 적용된 E2E 암호화 방식보다 진화된 것이 PFS라는 보안 시스템이다. 지난해 에드워드 스노든의 폭로로 미국 국가안보국(NSA)의 글로벌 IT회사에 대한 도감청 행위가 이뤄져왔다는 사실이 알려진 뒤 트위터는 지난해부터 PFS 방식을 도입해 사용자들이 주고 받는 메시지에 대한 보안성을 높였다. 이 방식은 2011년 말부터 구글 지메일, 구글 독스에도 적용됐으며, 페이스북, 야후에 이어 최근에는 MS가 아웃룩닷컴, 원드라이브에도 도입된 바 있다.

PFS는 E2E 암호화를 포함한 기능을 구현할 수 있어 더 포괄적으로 메시지를 보호할 수 있는 수단이 될 수 있으나 아직 모바일 메신저앱에 적용되기까지는 기술적 어려움이 있어 웹에서 구현되는 것보다 더 많은 시간이 걸릴 것으로 보인다.