2029 기계가 멈추는 날

p.24

기원전 600년에 활동했던 그리스의 철학자 타레스는 인류 최초로 전기의 개념을 발견한 사람이다. 그는 전기에 대해 연구하면서 자신이 대단한 것을 발견했다고 느꼈다. 하지만 그 발견이 정확히 무슨 일로 이어질지 예상하기란 불가능했다. 그는 전기가 소셜네트워킹, 스마트워치, 위키피디아에 이르게 될 거라고는 결코 상상하지 못했다. 마찬가지로 지금 우리가 미래의 AI에 대해서 AI가 1000년 아니 500년 안에 세상에 어떤 영향을 줄지 예측할 수 있다고 여기는 것은 오만한 짓이다.

AI 발전 속도가 빠르다고는 하지만 인간을 위협할 정도의 수준까지는 도달하지 못한 상태이다. 그리고 AI로 인해 어떤 미래가 그려질지는 아무도 예측 할 수 없다는 사실을 인정하자.

 

p.47

현재의 AI는 '제한적' 이라고 말할 수 있다. AI는 마주치는 상황이 이전에 경험했던 상황보다 지나치게 어렵지 않다는 전재하에 프로그램된 '특정한 과제'만을 수행할 수 있다. 바둑처럼 말을 움직이는 게임을 할 때는 문제가 없다. 하지만 대부분의 현실 상황에서는 전망이 밝지 않다. AI를 다음 단계로 진보시키려면 훨씬 더 '유연한 기계'를 발명해야 한다.

'특정한 과제' 라는 표현을 기억하자. 현재의 AI는 사람과 같이 다양한 과제를 수행할 수 없다. 오로지 프로그래밍된 한 가지 또는 몇 가지만을 충실히 수행할 뿐이다. 지금 우리 사회에서 두각을 나타내고 있는 테슬라의 자율주행, ChatGPT, 알파고 등도 특정한 과제만을 잘 수행할 뿐이다.

 

p.57

딥마인드의 알파고도 그 비슷한 길을 따를 가능성이 보인다. 바둑과 체스는 '완벽한 정보'가 주어진 게임이다. 양 선수가 매 순간 판 전체를 볼 수 있다. 그러나 현실 세계에서는 아무도 어떤 것을 절대적으로 확실하게 알 수 없다. 우리의 데이터는 잡음이 많고 불완전한 경우가 많다. 대단히 간단한 경우에도 많은 불확실성이 존재한다. 구름이 뒤덮인 날 병원에 걸어갈지 지하철을 탈지 정한다고 생각해보라. 우리는 지하철이 오는 데 시간이 얼마나 걸릴지, 붐비는 사람들 틈에 끼어 있게 될지, 걸어간다면 비에 얼마나 홀딱 젖게 될지, 우리가 늦었을 때 의사가 어떤 반을을 보일지 정확히 알지 못한다. 우리는 그때그때 주어진 상황에 따라 행동한다. 그에 비해 딥마인드의 알파고가 하듯이 혼자서 100만 번 바둑을 두는 일은 예측 가능한 일이다. 거기에서는 불확실성이나 불완전한 정보와 마주할 일이 없다. 사람 간 상호작용의 복잡성 같은 문제는 생각할 필요조차 없다.

 

p.58

반면 현실 세계에서는 완벽한 시뮬레이션 데이터라는 것이 애초에 존재하지 않는다. 시행착오를 통해서 관련 데이터를 몇 기가바이트씩 수집하는 것도 불가능하다. 현실에서는 우리의 전략을 단 몇 차례 시도해 볼 수 있을 뿐이다.

 

p.71

터미네이터는 없다. 이는 로봇들이 인간에게 대항하는 세상이 올지 모른다며 걱정해야 한다는 뜻이 아니다. 적어도 가까운 미래까지는 그런 걱정을 할 필요가 전혀 없다. 로봇은 아직 주의 깊게 통제된 환경 이외에는 세상을 믿음직스럽게 헤쳐 나갈 만한 지능이나 재간을 갖고 있지 않기 때문이다. 그들의 인지 능력은 대단히 좁고 제한적이기 때문에 그들을 막을 수 있는 방법이 수도 없이 많다. 더 중요한 것은 로봇이 SF 소설이나 영화처럼 우리에게 맞서 들고일어나리라고 생각할 근거가 전혀 없다는 것이다. AI가 생겨난 지 60년이 지났지만 '악의'는 흔적도 보이지 않는다.

정말로 걱정했던 부분이였다. "AI가 급속도로 발전해서 인간을 위협하는 날이 오면 어쩌지?", "AI를 과연 통제할 수 있을까?" 등의 걱정은 앞으로 먼 미래에나 발생할 수도 있는 위협요소일 뿐이다. 영화에 나오는 AI의 공격 장면들을 많이 접하다 보니 AI에 대해서 부정적으로 해석하려는 경향이 생긴 듯 하다.

 

p.141

복잡한 추론 사슬에 관한 한 기존의 AI는 갈피를 잡지 못한다. 그런 추론의 사슬을 따라가려면 독자는 사람이나 대상에 대해, 좀 더 일반적으로는 세상이 어떻게 돌아가는지에 대해 대단히 넓은 범위의 배경 지식을 조합해야 한다. 기존의 시스템은 이런 일을 해낼 정도의 일반 지식을 갖고 있지 않다.

AI는 추론에 약하다. AI가 좀 더 인간다워지려면 추론을 잘해야 한다. ChatGPT도 추론 능력이 부족하다고 한다.

 

p.152

AI 비서들이 나온 지 몇 년이 흘렀지만 모든 것은 여전히 복불복인 상태다. 어떤 영역에서는 효과적이지만 어떤 영역에서는 전혀 그렇지 못한 것이다. 예를 들어 모든 AI 비서들이 1957년 월드시리즈 우승 팀은? 과 같이 사실로 받아들여지는 질문에는 대단히 강하다. 또 각자가 뚜렷한 강점을 보이는 분야가 있다. 구글 어시스턴트는 길 안내를 하고 영화표를 구매하는 데 능하다. 시리는 길 안내를 하고 예약을 하는 데 능하다. 알렉사는 계산에 재능이 있고 미리 만들어진 농담을 꽤나 잘하며 아마존에서 물건을 주문하는 데 능하다. 저자 게리는 트위터에서 시리에게 "맥도날드가 아닌 가까운 패스트푸드 판매점을 찾아줘" 라고 질문했다. 시리는 충실하게 인근 세 곳의 식당 목록을 제시했다. 모두 패스트푸드점이었고 하나같이 맥도날드였다. '아닌' 이라는 단어는 완전히 무시됐다.

이 문장을 통해서도 말하듯이 AI는 현재 제한적으로만 동작한다.

 

p.170

추론은 학교에서 배우는 것이 아니라 본능적으로 아는 것이다. 처음부터 세상을 해석하는 방법에 자연스럽게 따라오는 능력이다. 딥러닝은 이런 종류의 문제에는 손도 대지 못하고 있다.

가령, 내가 회사 사무실을 걷다가 쓰레기를 주웠다. 이 모습을 본 다른 직원은 "오~ 애사심이 충만한 직원이구만?", "멋진 사람이네, 일도 잘하겠다." 와 같이 추론할 수 있다. 하지만 AI는 몇 날 몇 시에 홍길동이가 사무실에서 쓰레기를 주웠다. 라는 사실만을 기록할 뿐이다.

 

p.180

언젠가는 로봇이 문을 부수고 테이블에 뛰어오를 수 있다. 하지만 지금 우리가 알고 있는 로봇들은 쉽게 혼란에 빠진다. 적어도 가까운 미래까지는 스카이넷을 두려워하거나 로봇들이 우리 일자리를 빼앗을까 봐 걱정할 필요가 없다. 오히려 우리가 가장 두려워해야 하는 것은 있음직하지 않은 일들에 대한 근거 없는 두려움 때문에 로봇 혁명이 무산되는 일이다.

기대된다. AI가 우리 삶에 어떤 영향을 줄지를 말이다. 그리고 지구 기후변화의 위기를 AI가 해결해 줄 것이라 믿는다.

 

p.183

정말 큰 도전은 진공 청소를 넘어서 진공 포장된 병을 열거나, 물병 뚜껑을 돌려 열거나, 봉투를 열거나, 잡초를 뽑거나, 잔디를 깎거나, 선물을 포장하거나, 벽에 페인트를 칠하거나, 상을 차리는 등 우리 인간이 일상생활에서 처리하는 광범위하고 복잡한 과제를 수행할 수 있는 로봇을 만드는 것이다.

인간은 쉽게 할 수 있는 일들이지만 AI 로봇에게는 굉장히 어렵다.

 

p.186

지능이 있는 존재는 다섯 가지 기본적인 일을 계산할 수 있어야 한다. 자신이 어디에 있는지 주변 세상에서 어떤 일이 일어나는지 당장 무슨 일을 해야 하는지 계획을 어떻게 실행해야 하는지 주어진 목표를 달성하기 위해서는 장기적으로 어떤 일을 해야 할지 계산해야 하는 것이다.

나는 지금 사무실에 있고, 아침이 밝아오고 있고, 지금 당장 AI 독서 후기를 작성해야 하고, 독서 후기를 쓴 후에 업무를 해야 하고, 올해 2023년 목표를 달성하기 위해 독서를 꾸준하게 해야 한다. 고로, 나는 지능이 있는 존재이다.

 

p.190

인간에게는 쉬운 일이 로봇에게는 어렵다. 운동 제어란 걷기, 물건 들어 올리기, 손 회전하기, 머리 돌리기, 계단 오르기 등 로봇의 운동을 유도하는 일을 말한다. 자율주행차의 경우 운동 제어의 측면은 비교적 간단하다. 자동차에는 가속페달, 브레이크, 핸들을 중심으로 하는 제한적인 옵션만이 존재한다. 자율주행차는 변속을 하고 핸들을 돌려 방향을 바꾸는 것 외에는 제어의 측면에서 계산할 것이 많지 않다. 그러나 여러 방식으로 움직이는 여러 개의 관절을 가진 휴머노이드 로봇의 경우에는 문제가 훨씬 복잡하다. 테이블 위에 차가 한 잔 놓여 있다고 생각해보자. 휴머노이드 로봇은 팔을 뻗은 뒤 두 개의 손가락을 이용해 컵의 손잡이를 잡아야 한다.

운동 제어 AI 로봇 보다는 소프트웨어 AI 로봇이 더 빠르게 성장할 것 같다. 소프트웨어는 실체가 없기 때문이다.

 

느낀점

IT에서 근무하고 있지만 AI는 내 전문 분야가 아니기 때문에 "AI 과연 안전한가?", "AI가 인간을 공격하는 날이 다가온다." 등의 뉴스나 선전에 동요를 했다.

하지만 이 책을 읽고나니 AI가 우리 인간에게 위협이 되기에는 아직 많이 부족하다는 것을 알게 됐다.

지금의 AI는 굉장히 제한적이고 인간의 추론 능력을 가지고 있지 않다.

즉, 한 가지 일에서는 굉장한 능력을 발휘할 수 있지만 그 외에는 할 수 있는게 없다라는 사실이다.

우리가 영화에서 봐왔던 사람처럼 움직이고, 사람처럼 행동하며 생각하는 그런 AI 로봇은 아직은 시기상조이다.

먼 미래의 두려움과 걱정을 앞당겨 지금 고민할 필요는 없다.

이는 우주 소행성이 지구에 떨어져 지구가 멸망하는 그 날을 고민하는 것과 같다. (너무 과장됐나?)

분명 AI가 발전하여 우리 인간을 위협하는 시기가 도래할지도 모른다.

또는 AI가 기후위기로부터 우리 인간을 보호해 줄지도 모른다.

메트릭스 영화처럼 인간 몸속의 전기 에너지를 기반으로 AI 기계들이 이 세상을 지배할지도 모른다.

아무것도 예측할 수 없다.

하지만 인간은 항상 더 나은 세상을 만들어 나가고, 더 나은 미래를 만들어 나가기에 AI는 분명 인간에게 이로운 존재가 될 것이리라 믿는다.