[책 리뷰] AGI의 시대: 인간을 초월한 인공지능, AGI를 논하다

💡"해당 포스팅은 한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

인간은 언제나 닮은 존재를 만들고자 한다

유희를 위해 인간이 실제 세계와 똑같도록 만든 안드로이드들의 반란을 그린 드라마 웨스트월드

 

인간은 예로부터 언제나 인간을 닮은 무엇인가를 만들고자 해왔다. 그것은 인형과 같거나 조각 같은 것을 시작으로 기술의 발전에 따라 움직일 수 있게 되었다가, 어느새 우리는 인간의 지능 자체를 닮은 무엇인가를 만들어내어버렸다.

 

그러나, 인류는 지금까지 인간보다 더 지능이 높은 존재를 마주한 경험이 없다. 그렇기 때문에 그 두려움은 영화나 드라마의 주요 소재로 쓰여왔고 우리의 손으로 만든 AI 또한 그러하다. 비록 지금은 아닐지 몰라도 AGI (Artificial General Intelligence) 의 등장으로 발전한다면 우리가 그려왔던 그 막연한 두려움은 실제로 바뀌게 될지 모른다.

---

 

 

책 소개

• 책 제목: AGI의 시대: 인간을 초월한 인공지능, AGI를 논하다
• 글쓴이: 한상기
• 출판사: 한빛미디어
• 초판 1쇄: 2024.11.29

 

 

---

 

 

 

AGI, 인간의 모든 것을 대체할 AI 는 과연 도래 할 것인가?

언급했듯 인간은 예로부터 사람을 닮은 존재를 만들어내고자 하는 끝없는 욕망을 지녀왔다. 이는 설령 완벽하게 외형을 비슷하게 만들지라도 항상 한계가 있었던 옛날과 달리 현대에 이르러 외적인 부분이 아닌 지능의 영역으로 오게 되었다.

 

그리고 그 열망은 인간의 지능을 닮게 만드는 것을 넘어 인간의 모든 부분을 뛰어넘게 되는 것이 아니냐는 두려움이자 기대를 낳았고, 이를 우린 AGI 라고 부른다.

 

 

 

이런 AGI 는 정말 도래할 것인가?

사실 항상 그래왔듯 엄청난 상상일 뿐이지 않을까 생각했던 것도 이전의 이야기이다. AI 의 발전이 이루어지면서 이제는 AI 가 모든 면에서 인간을 뛰어넘는 것이 가능하다는 것을 AI 관련 기업가들 대부분이 주장하고 있으며 5년에서 10년 내외에 (심지어는 이것도 보수적으로 판단한 것) 등장할 것이라고 덧붙인다. 그러나, 다른 일부는 현재 알고리즘과 전제 자체가 잘못되었음을 주장하기도 한다.

 

과연 누가 맞는 것일까?

 

 

 

 

사실 인간의 지능이라는 영역은 생각보다 많이 모호한 기준이다. 설령 창의적이나 예술적인 면에서만 그치지 않고 도덕적인 것들, 때로는 이루어지는 비합리적인 판단 등 고려할 것들은 수도 없이 많고 어떤 것이 인간과 가깝다 혹은 이상적이라는 것은 단언하기 어렵다.

심지어 현재의 AI는 문제를 잘 풀거나 주어지는 대답을 잘 하는 것에 초점을 맞추고 있기에 더더욱 지능에 가깝지 않다 라는 주장 또한 존재한다. 지능은 문제를 잘 푸는 것에만 있지 않지만 AI 는 학습된 데이터를 기반으로 주어진 선택지 중 확률에 기반한 선택을 하는 것 이상도 이하도 아니라는 것이다.

 

어느 쪽이 맞는지에 대해 현재도 많은 논쟁이 오가는데, 이 모든 주장들이 충돌하는 것은 AGI 의 기준이 모호한 원인에 있기도 하다.

그 기준이 무엇일까? 기준은 여러 곳에서 제안되어왔지만 그 각각 또한 모호한 부분이 많다.

 

(예를들어 처음 해당 글을 통해 AGI 를 들은 사람들은 Chat GPT 가 현재 엄청난 효율을 보여주며 많은 사람들의 시간을 줄이고 한 사람 이상의 일을 할 수 있는데 이것도 AGI 일까 의문이 들었을지 모른다고 생각한다. 현재의 대화형 AI, Chat GPT 등을 우리가 AGI 라고 인정하지 않는데에는 여러 지표들의 표준에 충족하지 않기 때문도 있다. 딥 마인드의 지표 표준을 보더라도 현재의 Chat GPT 는 Level1 즉 Emerging AI 수준에 그쳐있는 것을 알 수 있다.)

 

그리고 인간은 자신의 특별함 유지를 위해 AGI 를 받아들이지 않고 도래하였더라도 여전히 도구로 느끼고 사용할 것이라는 시점 또한 존재한다. 이처럼 1장의 내용을 생각해본다면 설령 주장처럼 AGI 가 빠른 시일에 도래한다고 하더라도 그 기준은 여전히 모호하여 AGI 가 아닌 도구처럼 쓰일 수도 혹은 우리가 상상하는 위험성을 그대로 가져 큰 위험에 빠뜨릴 수도 있다는 경우의 수들을 예측할 수 있다.

 

그럼 어떤 위험이 있을까?

그 위험에 대해 주장하는 자들 또한 크게 3가지 부류로 나뉜다.

 

간략하게만 말하면 '이대로면 우린 다 죽을 것이다' 라는 파멸론자, '조심해서 잘 쓰면 좋을 것 같은데?' 라는 효과적 이타주의자, '위험은 무슨, 괜한 걱정이야' 라는 효과적 가속주의자. 이 부류 중 독자가 어떤 부류로 생각할지는 자유이지만 그러나 어느 방향이든 인류가 현재 취해야할 방향성은 명확하다. 인류가 정립해온 가치와 규칙을 확장해 AI 에도 맞는 규율을 적용해 인간이 원하는 판단을 하도록하는 AI 얼라인먼트가 필요하다는 것이다.

 

 

 

만들어진 AI 에 고삐를 채우기 위한 인류의 고군 분투

해당 책은 3장으로 구성되어있다. 그리고 그 중 1장이 거의 절반 이상을 차지한다. 이유는 실제로 AI 의 등장 이후 우리는 많은 논쟁과 발전을 이루었지만 그 규율과 정책에 대해서는 더딘 발걸음을 했기 때문이다. 

 

 

 

인류는 효율적인 판단만 추구하지 않는다. 그렇다고 인간들이 했던 선택들을 AI 에게 학습시킨다고 AGI 가 될 수 있을지는 또 다른 문제이다. 이런 여러 면을 생각해 우리는 AI 시스템을 만드는에 여러 가치를 부여해야하고 그 의도가 완벽하도록 노력해야한다.

예를들어 자율 주행 자동차가 트롤리 문제를 직면했을 때 어떤 도덕적 가치를 따를 것인가만해도 매우 어려운 문제이다. 고장난 자동자의 앞에 노인, 남성, 여성, 동물, 아이 등 이 있을 때 어떤 쪽으로 돌진할지에 대한 상상하기도 무서운 문제들을 우리는 AI 를 학습시키는 것에 대한 무거운 책임으로 머리를 싸매야한다. 그리고 그 결과로 AI 가 학습된 데이터에 따라 의도치 않거나 도덕적으로 혼재된 면을 보인다면 우리는 이 싸움을 오랫동안하더라도 올바른 대답이 나올 때까지 노력해야한다.

 

 

 

실제로 해당 책은 이를 여러 기업들에서 어떻게 대응하고 어떤 연구 결과가 있는지 보여주고 있다.

그리고 당연하게도 기술 발전에 따라 연구자들 사이에서도 상반된 입장들이 파다하고 국가들 또한 말할 것도 없다. 인류를 위함은 동일하더라도 그 노력은 여전히 느리고 피해자는 많다. 그렇게에 지난 5년간 각 정부들은 빠르게 AI 전략과 정책들을 발표해왔지만 각 국가들의 노력으로 해결되는 일이 아니라는 것은 이제 모두가 알고 있을 것이다. 물론 이를 주도적으로 이끄는 미국이나 영국과 같은 나라들이 존재하지만 그 사이에서도 중국과 프랑스가 문화적 독립성을 강조하는 등 분열 또한 있다. 따라서, 각 나라들은 국제 협약에 있어서 더욱 힘을 쓰고 관련해 사람들의 관심과 협조가 더욱 필요한 시점이 되었다.

---

 

추천 대상

AGI 는 이제 개발자들과 관련자들만의 영역에 있는 주제가 아니다. 인류의 분기점이자 모두의 문제가 될 것이다. 앞으로 어떤 방향으로 AI가 나아가는지가 AGI 의 어떠한 도래를 맞을 것인지를 결정할 것이므로, 인공지능과 그의 미래가 궁금한 모두에게 추천하고 싶다.

 

한줄평

눈 앞에 놓인 우리 모두의 숙제, AGI