AI로 ‘진짜 같은 가짜 만들기’ 경쟁

인공지능으로 이미지·음성 감쪽 같이 복제


FacebookTwitter

지난 10월  논문 공개 사이트인 아카이브(Arxiv)에 흥미로운 기사가 실렸다. 캘리포니아대학(샌디에이고 캠퍼스) 연구팀이 사람이 그린 그림 스타일을 배운 후 그 스타일 그대로 그림을 그릴 수 있는 인공지능을 개발했다는 것.

논문에 따르면 이 시스템은 두 개의 알고리듬으로 구성돼 있다. 하나는 ‘컨볼루션 신경망(CNN, convolutional neural network)’ 기술이다. 문장이가 그림 등의 스타일, 구조, 패턴 등을 분석하는 기능을 말한다.

연구팀은 CNN으로 하여금 아마존에서 인기를 끌고 있는 신발, 모자, 바지 등의 아이템들을 인식하도록 했다. 그리고 그 정보를 ‘생성적 대립쌍 신경망(GAN, Generative Adversarial Network)에 적용해 소비자들에게 인기를 끌만한 이미지를 그래내도록 했다.

최근 NVIDIA에서 공개한 인물 복제 사진. 한쌍의 얼굴 사진 중 왼쪽이 진짜이고 오른쪽이 가짜이다. 구분이 불가능할 만큼 매우 닮았다.  ⓒdevblogs.nvidia.com

최근 NVIDIA에서 공개한 인물 복제 사진. 한쌍의 얼굴 사진 중 왼쪽이 진짜이고 오른쪽이 GAN을 통해 제작한 가짜 사진이다. 눈으로 구분이 힘들 만큼 흡사한 모습을 보여주고 있다.  ⓒdevblogs.nvidia.com

2개의 신경망이 진짜·가짜 만들기 경쟁   

그러자 인공지능은 그 결과를 업그레이드해 사용자들에게 호감을 얻을 수 있는 이미지들을 생성하기 시작했다. 또 다른 실험도 이어졌다. 대중으로부터 인기를 얻고 있는 헐리웃 스타들의 얼굴 이미지를 분석하게 한 후 그 데이터를 기반으로 새로운 이미지를 산출하는 실험이었다.

그러나 믿기 힘들 정도의 멋지고 아름다운 얼굴 모습을 만들어냈다.  GAN을 창안한 사람은 인공지능 전문가인 이언 굿펠로우(Ian Goodfellow)다. 그는 2014년 세계 최초로 이 기술을  소개해 세상을 놀라게 했다.

비영리 인공지능 연구단체인 ‘오픈 AI(Open AI)’에서 활동하던 그는 GANs 관련 논문을 발표한 직후 구글로부터 입사 제의를 받았으며, 현재 인공지능 연구부서인 ‘구글 브레인(Google Brain)’으로 자리를 옮겼다.

올해 MIT ‘테크놀로지 리뷰’에서는 그를 2017년 ‘35세 이하 젊은 혁신가 35명(35 Innovators Under 35)’ 중에 포함시켰다. 페이스북 인공지능 연구소 디렉터인 얀 르쿤(Yann LeCun) 뉴욕대 교수는 인공지능 분야에서 GAN을 가장 중요한 기술로 꼽고 있다.

GAN에 ‘생성적 대립쌍(Generative Adversarial)’이란 용어가 들어간 것은 ‘감식자(Discriminator)’와 ‘생성자(Generator)’란 명칭의 서로 경쟁하는 2개의 신경망(dueling neural network)으로 구성돼 있기 때문이다.

이 두 신경망이 서로 충돌하면서 발생하는 차이점을 수정해나가고, 또한 궁극적인 균형점, 즉 진짜와 같은 가짜를 생성해낸다. 이언 쿳펠로우는 ‘내쉬 균형(Nash Equilibrium)’, 즉 합리적 판단을 하는 상호간의 게임이론을 적용해 GAN을 창안했다.

그는 GAN을 설명하면서 생성자와 감식자와의 관계를 위조 지폐범과 경찰에 비유하고 있다. 위조범이 가짜 화폐를 만들면 경찰은 이를 간파해야 하고, 위조범들이 더 그럴 듯한 지폐를 만들면 경찰 역시 더 뛰어난 감식 기술을 개발한다는 것.

가짜 이미지 범람 시 사회적 혼란 우려    

생성자와 감식자 간의 끝없는 경쟁을 통해 위조 지폐가 더욱 정교해지고 결과적으로 가짜 화폐인데도 불구하고 진짜 화폐와 거의 식별이 불가능한 수준의 균형점에 이루게 된다는 것인데, 다른 점이 있다면 GAN에서는 위조범이 결국 승리한다는 것이다.

정보통신기술진흥센터(IITP)에 따르면 GAN 신경망은 최근 수년 간 급속한 발전을 거듭해왔다. 처음에는 알고리듬 교육에 장시간 시간이 소요됐고 해상도에서 문제가 발생했지만 최근 들어 이런 문제점들을 대부분 해소한 상황이다.

관계자들은 GAN을 발전시켜나갈 경우 기존의 인공지능이 갖고 있는 단점들을 해소할 수 있을 것으로 보고 있다. 기존의 ‘지도학습형’ 기술인 CNN, RNN은 사람의 지도 없이는 지식 창출이 불가능했다.

그러나 GAN은 사람의 지도 없이도 스스로 지식을 만들어갈 수 있다. 또한 인공지능 개발에 있어 큰 문제가 되고 있는 시간 및 데이터 용량 문제 역시 자율적인 기능을 통해 자체적으로 해결이 가능할 것으로 보고 있다.

문제가 되고 있는 것은 이 기술이 상용화될 경우 사회에 미칠 수 있는 부정적인 요인들이다. GAN이 그려낸 이미지를 보면 실제와 거의 똑같아 사람의 눈으로 진짜를 가려낼 수 있는 능력을 가진 사람을 발견하기 힘들 정도다.

GAN으로 만든 사진들이 인터넷 등에 유포될 경우 가짜 사진이 홍수를 이룰 것이다. 결과적으로 이미지 관련 가짜뉴스들이 난무하게 되고 기존의 초상권 관련법 등 이미지 관련 제도 전반에 대혼란을 야기할 수 있다.

전문가들 역시 이 문제를 비껴나갈 수 없을 것으로 보인다. 특히 천문학자들이 어렵게 촬영한 우주 이미지들, 지리학자들이 촬영한 화산 폭발 장면  등을 GAN으로 손쉽게 제작할 수 있어 진위 논란이 불거질 것으로 보인다.

유전학에서도 유사한 현상이 발생할 것으로 예상되고 있다. 인체의 DNA가 어떻게 작동하는지, 혹은 단백질이 어떻게 반응하는지 그럴듯한 이미지들을 학술이론에 첨부할 경우 반박하지 못한 채 그 이론을 그대로 받아들여야 하는 촌극이 벌어질 수도 있다.

GAN의 등장은 인공지능의 진화가 어느 수준에 와 있는지를 보여주는 대표적인 사례다. 스스로 지식을 창출해가는 인공지능의 모습 속에서 SF영화에 나오는 사람 같은 인공지능의 모습을 손쉽게 연상할 수 있다.

그러나 진짜 현실과 가상현실 사이에서 진짜와 가짜의 구분이 무의미해지는 시대가 도래 할  경우 사회적으로 더큰 혼란을 부추기고 양날의 검이 될 수 있다는 우려가 제기되고 있다. 향후 GAN과 관련된 다양한 논쟁이 예고되고 있다.