[책 리뷰] AI 트루스

💡"해당 포스팅은 한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

인공지능의 예고된 악용

이젠 어린 아이들까지 피해자가 되어버린 딥페이크 성범죄

 

지난 8월, 우리는 충격적인 사건을 알게된 바 있다.

분명 처음에 윌스미스와 미국 정치인들의 얼굴을 진짜처럼 만든 영상에 신기해하던 때에서 몇년 지나지 않아 발생한 일이었다.
2020년부터 텔레그램에 개설된 단체 채팅방에서 학생들과 교직원들, 지인들을 대상으로 딥페이크 음란물을 생성해 유포하는 디지털 성범죄가 발견되어 알려진 이 사건은, 아직 밝혀지지 않은 피해자들과 가해자들의 수 조차 명확히 파악할 수 없을 정도로 규모가 크고
심지어는 성범죄를 보도하는 기자들의 신상을 캐 딥페이크 합성물을 만들며 협박하는 기자 합성방 까지 생기고 있는 상황이다.

 

우린 처음 딥페이크 기술이 나왔을 때 첫인상으로는 신기해했을지언정, 분명 위험을 감지했다.

현재 딥페이크는 정치적으로도, 위처럼 성범죄로도, 사기로도 악용되고 있으며

처음 윌스미스가 스파게티 면을 말도 안되는 모습으로 먹는 것을 보면서도 차후 분명 그럴 가능성이 더 크다는 것은 충분히 예상 가능했다.

실제로 좋은 방향으로 활용될 분야가 상대적으로 적은 기술임이 명확했다.

 

그것을 알고도 기술은 명확한 규제 없이 발전했고, 엄한 피해자들을 생산하며 악용되고 있다.

모두 분명 알고 있었다.

그런데 왜 그 누구도 막지 않았는가?

 

 

우린, 앞으로 딥페이크 뿐이 아닌 인공지능의 기술들을 끝없이 마주할 것이다.

그 과정에서 알파고와 Chat GPT 등을 거치며 우린 직업을 빼앗길 수도 있다는 불안감과 공존하고 있음에도 이 흐름에서 벗어날 수 없다.

우린 이미 올라탄 파도 위에서 어떻게 헤엄쳐야하는 것일까

 

 

 

---

 

 

책 소개

불편한 진실이자, 마주해야 할 종말론

• 책 제목: AI 트루스
• 글쓴이: 임백준
• 출판사: 한빛미디어
• 초판 1쇄: 2024.08.20

 

 

---

 

 

 

우리는 막연하게 실체 없는 적을 마주하고 두려워하고있다

 

인공지능 로봇 소피아

 

 

한때 유행했고 아직도 인기가 많은 장르의 영화가 있다. 영화에서 그들은 사람 손에 만들어져 명령을 수행하는 과정에서 인간을 공격하는 반란을 일으킨다. 그 때문일까, 아니면 기술의 강력함 때문일까, 우리는 꽤나 뛰어났던 인공지능 로봇인 소피아를 보고도 농담으로 '인간을 파괴하겠다' 라고 말한 한마디만을 각인하고 있을정도로 인공지능에 대한 반감을 항상 한 켠에 가지고 있다.

 

그렇지만 그런 생각이 정말 틀린 것은 아니다. 예를들어 한때 트위터에서 사람들과 대화하며 성장할 수 있도록 만든 인공지능 챗봇인 테이가 있다. 처음에는 분명 젊은 세대들과 대화를 나누는 목적으로 시작되었으나, 지속되는 사용자들의 극단적 견해 주입으로 테이는 각종 증오와 편견으로 오염되어 차마 입으로 옮길 수 없는 말들을 내뱉게되었고, 결국 문을 닫게 되었다.

비록 사라진 테이지만, 우리는 이로 인공지능이 잘못 사용되었을 때의 위험을 제대로 경험 할 수 있었다.

 

 

 

도입부에 언급한 딥페이크도 결과 심각성은 분명히 다르지만 비슷한 맥락이다.

 

2017년 헐리우드의 최고 스타들의 성인물 영상이 딥페이크 합성으로 생성되어 유출된 사건이 있었다. 일반 프로그래머가 오직 오픈소스 라이브러리인 텐서플로를 이용해 만든 것으로, 당시에는 허술한 영상이었지만 지금은 아니다.

 

꽤나 고도로 발전되어 바로 다음 해인 2018년, 미국 전 대통령의 영상이 가짜로 돌아다녔고, 이번 2024년 미국 대선에서도 가짜 정치권 영상이 떠돌아 사람들을 현혹시켰다. 그리고 우리나라는 여자 연예인들의 딥페이크 합성 성인물 영상/사진 피해에 이어서 이번에는 일반인들조차 피해를 입은 것이 드러났다.

 

분명히 예고된 일이었다. 모두 알고 있었음에도 대처하지 않은 결과 일은 점차 커져가고 있다. 딥페이크 탐지 기술을 사용할지언정 창과 방패처럼 딥페이크는 그 탐지 기능을 회피하게 업그레이드되고 탐지 기술은 그에 대응해 공방을 펼칠 것이다.

과정에서 시간은 계속 지나 해악은 커질 것이고 우리는 피해자들만 수두룩한 어려운 싸움을 이어나가야 할 것이다.

 

사람들에게 인식을 교육하여 사기의 피해를 받지 않도록하고, 범죄를 저지르지 않도록 예방해야한다. 또한 사람들은 거짓에 휘둘리지 않고 피해자들을 감싸는 냉정하면서도 성숙한 태도를 가져야하나, 그 무엇보다 중요한 것은 악의적인 사용에 대한 처벌과 단속을 엄하게 수행하는 법을 만들어야하는 것이다.

 

 

 

 

이렇게 본다면 인공지능에 대한 악용과 막연한 두려움이 커질 것이다. 그러는 것이 이상한 것이 아니다. 그러나, 한가지 모순적인 것이 있다. 자세히본다면 위 두 케이스 그리고 앞으로의 인공지능의 부정적 면모 모두 주체가 사람이라는 것이다.

 

돌이킬 수 없게 변질되어버린 테이도, 수두룩한 피해자를 낳고 있는 딥페이크 성인물도 인간의 손에 만들어진 것이다.

 

인공지능은 어디까지나 목적이 존재하지 않는다. 그들은 인간을 파멸시킬 이유도 욕망도 없고 그런 생각 자체가 없다.

악용하는 사람들을 처벌하고 규제하는 것에 더욱 신경 쓸 일이지, 적어도 현재의 기술로는 인공지능 스스로가 그러할 가능성은 없다.

유일하게 두려워할 가능성이 있다면 인공지능이 효율을 추구할 것이라는 거지만, 이는 인간이 미리 그 선을 정의하면 될 일이다.

그러니, 적어도 이 방면에서 막연하게 두려워할 필요는 없다는 것이다.

 

(혹시, 효율적인 결과를 추구하는 제 3자인 인공지능이 인류 문명을 파괴할까 두려운 것이라면 우린 많이 찔리는 것이 있는게 아닌가)

 

 

 

 

 

그 적은 우리의 자리를 위협하고있다

그래, 인공지능이 인류를 파괴할 일은 없다고 치자. 그렇지만 우리가 인공지능에게 가진 두려움은 이뿐만이 아니었다.

 

직업을 빼앗길 수도 있지 않은가?

 

2024년 코그니션이라는 회사에서는 데빈 AI 라는 첫 인공지능 소프트웨어 엔지니어를 선보였다. 설계부터 개발, 배포, 유지보수까지 그 자리에서 시연할 정도로 뛰어난 성능을 보였고 사람들은 충격에 휩싸였으며 개발자들의 종말이라는 뉴스가 돌았다.

 

 

이를 보고 개발자가 아닌 친구들이나 부모님 지인분들이 본인에게 '개발자 자리를 AI 에게 곧 뺏기는 것이 아니냐' 하는 얘기를 자주 들었다.

간혹 여론은 연봉이 상대적으로 높은 개발자들을 자기가 만든 것에 자리를 빼앗기는 꼴이 보기 좋다며 깎아내리는 가십거리로 쓰기도 했는데, 의외로 개발자들은 꽤나 평온했다.

 

설령 데빈 AI 가 나왔을지언정 내가 당장 지금 모니터를보고 쉼 없이 타자 500 이상의 속도로 코드를 작성하며 이슈를 쳐내야하는 현실은 달라지는 것이 없기에. 그래도 사실 속으로는 와닿기는 하는 것이 실제 실리콘 밸리의 개발자들의 채용률이 현저히 줄었고, 개발자들은 개발 시에 인공지능 도구들을 사용하길 권장 받거나, 당연하게 사용하는 사람들이 늘어날 정도로 환경이 달라졌기 때문이다.

 

 

개발자를 괜히 선택한 것이 아니냐는 반쯤의 걱정과 반쯤의 비아냥이 섞인 질문을 받을 때마다 본인 또한 진담 반 농담 반으로 되받아치곤 했었다.

 

'설령 그렇게 될지언정 개발자는 제일 늦게 뺏길걸'

 

 

 

꽤나 후련한 딜 교환이었지만, 사실 현실적인 말이다.

지식/논리/추론을 필요로하는 직종은 개발자 뿐이 아니라 거의 세상의 모든 노동자에 해당한다.

 

쉽게 나열만 하더라도 MRI 등 검사 결과를 분석하는데 인간보다 뛰어난 능력을 보이는 AI 의사, 시장의 데이터를 사람보다 월등한 속도와 양으로 분석해 최대한의 이익을 낼 수 있는 금융권 직종들, 자율 주행 차량이 늘어나면 자연히 대체될 운송업, 이미 많은 학생들이 사용하고 있는 교육 분야의 AI, 감정이나 편견 혹은 부당한 뒷거래 걱정 없이 정확한 판단을 할 AI 판사...

 

우리는 모두 함께 벼랑 끝으로 휩쓸려가고 있는 것이다. 설령 예상치 못하게 개발자들이 먼저 떨어져 옅게 비명이 들린다고 할지라도 그 자 또한 동일한 입장일 것이니 말이다.

 

 

우리가 마주한 것은 거울이다

 

그러나 잘 생각해보면 우리는 인공지능에게 자리를 뺏기는 것이 아니다. 완전히 대체하기는 시간이 많이 걸릴 것이고 정착하는 그 긴 과정에서 여러 일자리들은 새로 생길 것이다. 결국 우리가 당장 걱정해야하는 것은 인공지능이 아니라 인공지능을 잘 활용하는 다른 사람이다.

 

그리고 인공지능의 악용에 대한 두려움은 그 기술을 수익을 위해 변질시키거나 독점하기 위해 무력으로 싸우게되는 경제 구조와 질서 자체에 있다. 우리는 이미 그에 대해 기술의 발전과 무기의 발전에 있어서 그 예고편을 보았고 인공지능 또한 다르지 않을 것이라는 것을 알고 있다.

 

직업을 뺏기게 될 것도, 우리가 막연하게 두려워하는 것도, 전부 사람이다.

 

 

 

 

 

노아의 방주는 없는가

 

그렇다면 이 예고된 종말의 홍수에 노아의 방주는 없는 것일까?

 

당연히 유일한 해결책이 있다.

 

인공지능을 인류를 위해 안전히 개발하는 방법을 논의해 가이드를 만들고, 딥페이크와 같이 통제할 수 없거나 악용 될 기술들을 제한한다. 정책을 위반할 경우 처벌할 수 있는 방법과 규제를 국제적으로 세운다. 그리고 소외되는 사람이 없도록 기술의 혜택은 여러 국가들에서 공평히 나누고 지원하도록 관리하는 것이다.

 

 

 

위 얘기가 어딘가 익숙하지 않은가?

 

'환경을 미래 인류를 위해 안전히 개발하고 보호할 가이드를 만들고, 파괴하는 행태를 제한한다. 위반할 경우 처벌할 수 있는 방법과 규제를 국제적으로 세운다. 그리고 소외되는 사람이 없도록 혜택은 여러 국가들에서 공평이 나누고 지원하도록 관리한다.'

 

 

여기에서 우리는 아까의 유일한 해결책이 박살나는 소리를 들을 수 있다.

 

지구 온난화의 경고와 지구의 시계가 몇 세대 남지 않았다는 경고에도 여러 국가들은 지난 날의 환경 파괴에도 여전하게 이기적으로 행동하고 있으며 일부 국가들은 여전히 소외되어 선택의 여지 없이 환경 파괴로 그 기반을 삼으려하고 있다.

 

인류는 단 한번도 유일한 해결책을 실천해 본 적이 없다.

앞으로 몇 년이 남았을지는 모르지만 꽤나 인공지능의 파도는 빠르게 덮쳐오고 있다. AI 는 어느새 미래가 아니라 현재가 되었으며 우리는 아직 2단계, 인공지능이 우리에게 도움이 되는 활용 단계에 와있지만 3단계가 눈앞에 도래할 것이다.

 

이 큰 홍수의 흐름을 바꿀수 없다면, 나는 어떤 태도를 취해야하는 것일까?

 

 

적어도 AI 를 적극적으로 활용해 수영, 파도를 타는 법을 배우고 적당한 튜브를 잡아 흘러가야할 것이다.

소외되어 가라앉지 않도록 말이다.

 

 

 

 

---

 

추천 대상

이 모든 흐름은 상상에 불과하고 그랬으면 좋겠지만, 모두가 피할 수 없는 경우의 수기도 하다.

AI 시대는 이미 도래했기에 종말론과 같은 이 얘기를 마주해 설령 망상같은 웃긴 얘기라고 생각할지언정,

적어도 불편한 진실을 알아야할 때가 왔다.

 

 

한줄평

불편한 진실이자, 마주해야 할 AI 종말론