노래하는 찰스 스펄전(Charles Spurgeon)! 이사하는 더글러스! 틱톡(TikTok)에서 골프하는 탐 크루즈(Tom Cruise)!

온라인에서 이런 걸 본 적이 있다면, 당신은 재미있으면서도 중요한 신기술인 딥페이크를 이미 접한 것이다. 최근 몇 달에 걸쳐서 특히 더 각광을 받고 있는, 인공 지능으로 구동되는 딥페이크라는 이 기술이 사실 그리 새로운 건 아니다. 단 최근 들어서 대중이 더 믿고 더 쉽게 접근할 수 있게 되었을 뿐이다.

얼마 전 우리는 쉰 살 먹은 한 일본 자전거 선수가 인터넷에서 자신을 젊은 여성이라고 믿도록 하기 위해 이 기술을 사용하는 것을 보았다. 또한 페이스북 CEO 마크 저커버그(Mark Zuckerberg)와 같은 유명 지도자의 가짜 동영상을 만드는 데에도 이 기술이 사용되며, 경우에 따라서 당사자도 모르는 사이에 유명 여성의 가짜 누드 사진을 만드는 데에도 사용된다. 딥페이크 기술을 통해 역사를 생생하게 경험하고 소셜 미디어에서 재미있는 비디오를 만들 수 있게 되었지만, 기술 만능의 시대를 맞아 현실 및 진실의 또 다른 닻을 잃어가고 있는 현대 사회의 비극은 점점 더 커질 것이다. 

무너지는 기초

여러 면에서 딥페이크 기술은 현대 서구 사회와 진리의 빈약한 관계에 대한 간결한 은유이다. 이는 진리와 초월의 구속을 해체한 계몽주의 시대로까지 거슬러 올라갈 수 있다. 닐 포스트만(Neal Postman)이 그의 고전 ‘테크노폴리(Technopoly, 궁리, 2005)’에서 설명했듯이 경험주의를 향한 계몽주의의 추진은 궁극적으로 경험적으로 확인할 수 없는 모든 권위(종교, 정부, 언론)의 거부로 이어졌다.

경험주의로의 이러한 전환은 또한 제임스 데이비슨 헌터(James Davison Hunter)와 폴 니델스키(Paul Nedelisky)가 ‘과학과 선(Science and the Good)’에서 적절하게 설명했듯이,  “새로운 도덕 과학”에서 도덕에 대한 경험적 기초를 추구하는 새로운 사상가의 흐름을 촉발했다. 데이비드와 폴은 이러한 문화적 변화가 우리 시대에 허무주의적 공리주의를 수용하게 했다고 결론지었다.

과학과 기술의 배후에 포괄적인 목적 의식(telos)이 없다면, 우리가 추구하는 경향은 단지 이전에 파괴한 것을 고치기 위한 혁신에 불과하다. 캐나다 철학자 고 조지 그랜트(George Grant)는 ‘기술과 정의(Technology and Justice)’에서 이렇게 말했다. “기술이 빚어낸 긴급 상황에 제대로 대처하기 위해 우리에게는 더 많은 기술이 필요하다.” 

그랜트는 비기술적 수단과 기술적 수단 사이에 선 인간에게는 선택의 여지가 없다는 프랑스 사회학자 자크 엘륄(Jacques Ellul)의 “기술적 명령”에 관한 생각을 하나의 단서(thread)로 집어들었다. 이 세상은 점점 더 기술에 의해 조정되고 관리되고 있다. 여기에는 진리의 본질에 대한 우리의 생각하는 방식마저도 포함된다. 

그러나 이러한 순환 논리(기술로 인해 발생하거나 악화된 문제를 해결하기 위해 또 다시 기술을 의지하는 상황)는 우리가 직면한 더 깊은 질문에 만족스러운 답변을 제공하지 않는다. 사진과 비디오로 대표되는 현대 시대에서 “무엇이 진리인가?”와 같은 질문이 던진 딜레마에 한때 도움을 주는 것 같았던 기술은 이제 오히려 문제를 더 악화시키는 것 같다. 

상실한 진리에 대한 신뢰

오늘날 사진과 비디오의 등장으로 인해 우리는 어떤 상황이나 맥락에서 실제로 일어난 일에 대한 일종의 문서화된 증거를 얻게 되었다. 누구나 자연스럽게 비디오나 사진에서 본 것이라면 믿을 수 있다고 느낀다. 왜냐하면 그것이 현실에 대한 정확한 묘사이고 법적으로 또는 여론 형성에 있어서도 신뢰할 수 있는 “증거”가 될 수 있기 때문이다. 우리가 현대라고 부르는 대부분의 시간 내내 포토샵 및 비디오 편집 소프트웨어와 같은 도구에도 불구하고 비디오와 사진을 수정하는 것은 여전히 꽤나 많은 시간과 비용을 필요로 하는 작업이었다. 그 결과, 가짜와 실제를 구분하는 것은 그렇게 어려운 일이 아니었다. 

그러나 최근 몇 년 동안 누구나 비디오가 장착된 스마트폰을 쓸 수 있게 되었고 또한 간편한 편집 도구가 확산됨에 따라, 다른 건 몰라도 사진 및 비디오가 언제나 “진실”이라는 신뢰성마저 흐려지게 되었다. 무수히 많은 인종 편견, 성적 학대, 그리고 부패 사건이 비디오와 사진으로 인해 폭로되었지만, 한편으로 디지털 방식으로 조작된 사진이나 편리하게 편집된, 전혀 맥락에 맞지 않는 비디오 영상의 목적이 진실의 포착이 아니라 자신의 주장을 더 퍼뜨리고 싶은 욕망이라는 사례 또한 점점 더 늘어가고 있다. 그리고 이제 딥페이크라는 이 기술은 골치 아픈 가능성의 새로운 영역이 되었다. 

딥페이크의 위험

딥페이크 기술이 계속해서 더 저렴해지고 더 쉽게 접근할 수 있게 됨에 따라 왜곡된 형태의 문서화된 “진실”의 남용이 증가할 것이고, 그 결과 우리 문화에는 적어도 다음 두 가지 큰 변화가 생길 것이다. 

첫 번째, 가짜(디지털로 재구성되거나 변조된)와 진짜를 쉽게 구분할 수 없는 우리는 자연스럽게 눈에 보이는 모든 것에 관해 의문을 갖게 될 것이다. 모든 것을 의심하게 될 때, 그 결과는 인간의 심리와 사회 문화 전반에 미치는 파괴적인 영향이다. 회의론이 확대되고 가속화됨에 따라 점점 더 많은 사람들이 “적”이 계속해서 우리를 속이고 있고, 오로지 “내 편”만을 신뢰할 수 있다는 가정에 함몰될 것이다. 그 결과는 더 가속화된 민족주의(tribalism)와 정치적 분열이다. 회의론이 확대되고 가속화됨에 따라 민족주의와 정치적 분열이 점점 더 심해질 것이다. 

두 번째, 딥페이크 기술이 점점 현실이 됨에 따라 비디오 및 사진 증거의 신뢰성 자체에 의문을 제기하는 사람들이 늘어날 것이다. 그 결과 누구나 쉽게 책임을 회피하는 사회가 될 것이다. 범죄를 저지르는 사진 또는 비디오 속 누군가가 실제 그 사람이 아닌 경우를 상상해보자. “증거”가 단순히 정치적 또는 개인적 이득을 위해 만들어진 딥페이크라고 얼마든지 주장할 수 있다. 머지 않아 사진과 비디오를 인증하는 기술이 새롭게 나온다고 해도, 그 기술을 돌파하는 새로운 기술이 나올 것이고 끝없는 기술의 속도 경쟁이 벌어질 것이다. 

다음은 무엇인가?

우리에게는 딥페이크와 진실을 분별하는 능력이 부족하다. 이런 현실 속에 숨겨진 도덕적 또는 사회적 불안에 맞서서 우리는 우리의 삶에 과도한 영향을 미치는 기술의 힘에 대한 경종을 울려야 한다. 진실의 타락에 맞서 싸우는 가장 효과적인 방법 중 하나는 기술이 어떻게 우리로 하여금 주변 세계에 대한 인식을 변화시키고 현실 감각을 재조정할 뿐 아니라, 궁극적으로 우리와 이웃을 비인간화할 수 있는지 똑바로 인식하는 것이다.

소셜 미디어, 딥페이크 그리고 무너져가는 진리 기반으로 요약할 수 있는 지금 시대에 기독교인의 소명은 최신 기종의 반짝이는 베니어판을 지나 그 너머에 있는, 우리가 당면한 문제의 핵심을 똑바로 직시하는 것이다. 정치, 섹슈얼리티, 기술, 심지어 교회를 포함한 삶의 거의 모든 영역에서 우리는 지금 진리와 현실에 대한 대대적인 거부라는 초유의 상황을 겪고 있다. 그러나 확고한 진리와 초월적 목적이 없는 세상에서 인간은 결코 번영을 꿈꿀 수 없다. 

여전히 교회에게는 도덕적 공허함 속으로 과감히 들어가 하나님을 이해하는 초월적이고도 현실에 부합하는, 진리로 이끄는 밝은 길을 보여줄 기회가 있다. 그리고 우리가 밝히는 그 현실(reality)은 결코 누군가의 당파적 의제나 사악한 환상을 발전시키기 위한 딥페이크 버전이 아니다. 

원제: Deepfakes and the Degradation of Truth

출처: www.thegospelcoalition.org

번역: 무제