영화 숨박꼭질에서 성공한 사업가로의 삶을 살아가던 성수(손현주)는 어느 날 형의 실종 소식을 접하게 된다. 형에 대한 비밀과 결벽증을 갖고 있던 성수는 형이 사는 아파트를 찾아가게 되는데 그곳에는 집집마다 초인종 옆에 □1○1△2과 같은 이상한 암호가 표시되어 있다. 형의 아파트에서 자신의 집으로 돌아온 날, 성수는 자신의 집 초인종 옆에도 형의 아파트에서 봤던 암호가 새겨져 있음을 발견하게 된다. 이후 영화는 가족을 지키기 위한 가장들의 숨 가픈 사투를 다룬다.
영화에서는 관객들에게 긴장감을 높이고 스릴러라는 장르를 돋보이게 해주는 장치로 암호를 사용하지만, 우리의 일상생활 자체는 잠에서 깨어 다시 잠들 때까지 비밀번호로 대변되는 암호 세계의 연속이다. 
많은 사람들은 잠에서 깨어나자마자 밤사이에 자신에게 온 문자나 카톡, 부재 중 전화를 확인하게 위해 스마트폰의 언로크(unlock) 암호를 푸는 일로 하루를 시작한다. 이 후 컴퓨터의 로그인 암호, 아파트와 집 현관의 암호, 금융거래에 필요한 공인인증서 암호, 이메일의 암호, 인터넷 쇼핑몰의 암호 등 하루에도 수많은 암호를 입력해야만 불편함 없는 일상의 생활이 가능해진다. 하루라도 암호를 사용하지 않는 날이 없다고 할 정도로 우리는 암호가 연속되는 시간 속에서 살고 있다고 해도 지나친 말은 아니다.

암호는 기원전 450년 경 그리스인들이 군사적 목적을 위해 스키테일 암호를 사용한 이래 세계 제 1?2차 대전을 치르면서 암호는 전쟁의 승패를 결정짓는 핵심적인 요소가 되었다.  2차 대전 당시 연합군은 독일군이 ''애니그마''라는 암호 생성기로 만든 암호를 해독하지 못해 고전을 면치 못하고 있었다. 애니그마 암호는 매우 정교하게 만들어져 연합군이 독일의 암호문을 입수하더라도 제대로 해독을 할 수가 없었다.
고심하던 영국은 수학 천재 앨런 튜링을 비롯해 탁월한 능력을 가진 수학자들과 과학자들을 애니그마 암호문 해독 작업에 투입했다. 애니그마 해독 작업을 하던 앨런 튜링은 1943년 2400개의 진공관으로 이루어진 전자식 암호해독기이자 세계 최초의 컴퓨터인 ''콜로수스''를 개발했다. 콜로수스를 이용해 독일의 애니그마 암호문을 완전히 해독해내게 된 연합군은 전쟁을 승리로 이끌 수 있었다. 이 후 컴퓨터의 발달과 정수론, 타원곡선, 대수기하, 조합이론 등 다양한 수학이론이 동원되면서 암호는 비약적인 발전을 이루게 된다.

현재 우리가 전자서명이나 공인인증서들 바탕으로 한 전자상거래 등에 주로 사용하는 암호에는 공개키 암호 방식의 하나인 RSA암호가 이용되고 있다. RSA암호 이전의 암호체계는 사용방법에 다소의 차이는 있지만, 기본적으로 문장을 암호문으로 만드는 열쇠(암호화)와 암호문을 문장으로 풀어내는 열쇠(복호화)가 같았다.
이러한 암호 체계는 암호화 열쇠만 있다면 암호문을 풀어낼 수 있다는 점에서 두 가지의 치명적인 약점을 가지고 있다. 첫째는 암호화 열쇠가 다른 누군가에 누출된다면 자신이 사용하는 암호를 가로채서 해독 할 수 있으며, 두 번째로는 암호문을 받을 사람에게 사전에 암호화열쇠를 넘겨주어야만 그 암호의 해독이 가능하다는 것이다. 따라서 보안성과 편리성이 강화된 새로운 암호체계가 필요성이 대두되었는데, 이런 요구를 만족시키며 만들어진 암호체계가 RSA암호이다. RSA암호체계는 1977년 로널드 라이베스트(Ron Rivest), 아디 샤미르(Adi Shamir), 레오널드 애들먼(Leonard Adleman)의 연구에 의해 체계화되었으며, RSA라는 이름은 이들 3명의 이름 앞 글자를 딴 것이다.
RSA암호는 숫자가 커질수록 소인수분해가 어려워진다는 사실에 바탕을 두고 설계되었으며, 암호를 생성하는 기본원리도 생각보다 단순하다. RSA암호체계에서 암호화 작업을 하기해서는 만든 사람만이 알 수 있는 두 소수(素數)를 곱한 숫자로 암호화 작업을 하고 그 숫자는 공개한다. 하지만 암호를 풀기 위해서는(복호화) 곱해진 두 소수를 알아야하는데 그 숫자는 공개하지 않고 비밀로 해 둔다. 그러므로 암호문을 풀기 위해서는 공개된 숫자를 2개의 소수로 소인수분해하여야만 하는데, 숫자가 커질수록 컴퓨터를 이용한다고 할지라도 소인수분해에 걸리는 시간은 기하급수적으로 길어진다(RSA암호를 만드는 구체적인 과정은 위키백과에 자세하게 설명되어 있으니 관심 있는 독자들은 참조바람).
소인수분해는 10=2×5, 123=3×41과 같이 임의의 자연수를 소수의 곱으로 나타내는 것을 말하는데, 숫자가 커질수록 소인수분해가 매우 힘들어 진다는 특성을 가지고 있다. 예를 들어 RSA 암호체계의 안정성을 시험하기 위해 1974년 사이언티픽 아메리칸지에 실린 129자리의 숫자를 인수분해 하라는 문제를 살펴보자. 문제에서 제시된 숫자는 다음과 같다.
114381625757888867669235779976146612010218296721242362562561842935706935245733897830597123563958705058989075147599290026879543541
이 문제를 해결하기 위해 3명의 수학자가 수 백 명에 이르는 자원봉사자들의 도움을 받아 소인수분해를 시도하였다. 풀이는 인터넷을 이용한 작업분담의 형식으로 진행되었는데 문제가 실리고도 17년이 지난 1994년이 되어서야 결과가 나와 RSA 암호체계의 안정성이 입증되었다. 정리하자면 RSA암호는 소수를 이용하여 대응되는 값을 계산하기는 쉽지만 역대응되는 값을 계산하기는 어렵도록 만든 암호체계이다.  
수학은 세상을 구성하는 기본원리이므로 금융학, 기상학, 의학, 공학, 심리학, 생명과학 등 우리의 일상 곳곳에서 사용되고 있다. 복잡한 수학 공식과 기호는 단순히 시험과 입시에서 고득점을 얻기 위한 문제 풀이의 도구가 아니라 세상의 비밀을 여는 중요한 열쇠인 것이다. 아는 만큼 세상을 본다고 했다. 더 넓은 세상을 보기 위해서라도 어렵다하지 말고 힘써 수학을 배워보자.
 
궁금한 점은 아래의 메일이나 블로그를 활용해 주세요.
 
E-mail:istiger@hanmail.net
Blog:http://blog.daum.net/istiger

진광고등학교 신인선 교사

위 기사의 법적인 책임과 권한은 내일엘엠씨에 있습니다.
<저작권자 ©내일엘엠씨, 무단 전재 및 재배포 금지>