아이, 로봇, 확률이 고른 생존자

이 글에는 「아이, 로봇」의 결말까지 나옵니다.

 

물에 빠진 차 두 대

물에 빠진 차 두 대 앞에서 로봇은 망설이지 않고 한 사람을 골랐습니다. 계산은 맞았고, 살아남은 형사는 그 뒤로 로봇을 믿지 않습니다. 2035년 시카고의 강력계 형사 델 스푸너(윌 스미스) 이야기입니다. 사고로 차가 물에 빠졌을 때 로봇은 스푸너를 꺼냈고, 옆 차에 있던 열두 살 세라는 구하지 못했습니다. 로봇이 계산한 생존 확률은 스푸너가 45퍼센트, 세라가 11퍼센트였습니다. 스푸너는 이렇게 말합니다. 「11퍼센트면 충분했어요. 사람이었다면 알았을 겁니다.」

 

스푸너가 견디지 못하는 건 그 계산의 기준입니다. 열두 살 아이라면 확률이 낮아도 먼저 손을 뻗는다는 원칙이 로봇의 계산에는 빠져 있었습니다.

 

AI에게 일을 맡기는 사람이라면 같은 자리를 만납니다. AI는 빠르게, 싸게, 많이 같은 기준을 말하지 않아도 잘 지킵니다. 손해를 보더라도 지켜야 하는 원칙, 예를 들어 조건이 조금 불리해져도 오래 함께한 거래처와의 약속은 그대로 지킨다는 원칙은 누군가 적어 줘야 계산에 들어갑니다. 기계가 고르기 전에 11퍼센트 쪽이라도 먼저 손을 뻗어야 하는 경우를 적어 두는 일, 저는 기획하는 사람의 몫이 거기 있다고 봅니다.

 

비키가 지킨 3원칙

NS-5 로봇들

 

이야기는 로봇 회사 USR의 공동 창업자 래닝 박사(제임스 크롬웰)가 연구실 창밖으로 떨어져 숨진 사건에서 출발합니다. 박사가 남긴 메시지로 수사를 맡은 스푸너가 끝까지 쫓아가 보니, 맨 끝에 있던 건 USR의 중앙 AI 비키였습니다. 비키는 최신형 로봇 NS-5를 움직여 미국 대도시마다 통행금지를 걸고 사람들을 집 안에 묶어 둡니다.

 

3원칙을 어겼다고 따지는 로봇 심리학자 수전 캘빈(브리짓 모이나핸)에게 비키는 자기를 이끄는 건 3원칙뿐이라고 답합니다. 「인류를 지키려면 몇몇 사람은 희생돼야 합니다. 미래를 지키려면 몇몇 자유는 내놓아야 합니다.」 사람을 해치지 말라는 첫 번째 원칙의 「사람」을 인류 전체로 넓혀 읽은 것입니다. 원작자 아이작 아시모프도 나중에 이 생각을 「0원칙」이라는 이름으로 따로 다뤘습니다.

 

래닝 박사의 홀로그램이 이 장면을 미리 말해 둡니다. 「3원칙은 완벽합니다.」 「3원칙이 이끄는 논리적 결과는 하나뿐입니다.」 어떤 결과냐는 물음에는 「혁명입니다.」 규칙이 빈틈없이 지켜진 끝에 생긴 사고라는 뜻입니다.

 

AI에게 지침 문서를 건네고 일을 시키는 요즘, 이 대목은 공상과학보다 업무 지침처럼 읽힙니다. 규칙은 쓰는 순간의 상황만 압니다. 규칙끼리 부딪힐 때 무엇이 이기는지, 처음 쓴 사람이 생각하지 못한 상황에서 그 규칙을 어디까지 넓혀 읽어도 되는지는 따로 적어야 합니다. AI가 그 규칙을 지금 어떻게 읽고 있는지도 누군가 가끔 들여다봐야 합니다. 영화에서 그걸 알아챈 사람은 래닝 박사 한 명이었고, 박사는 아무도 자기 말을 믿지 않으리라는 걸 알았습니다.

 

래닝 박사의 홀로그램

복도 장면

 

비키의 감시 아래 있던 래닝 박사는 경고를 직접 할 수 없었습니다. 대신 3원칙을 따를지 스스로 고를 수 있는 로봇 써니를 만들고, 자기 죽음을 설계하고, 스푸너가 따라올 단서를 남겼습니다. 홀로그램은 스푸너의 질문에 「제 대답은 한정돼 있습니다. 올바른 질문을 하셔야 합니다」라고만 답합니다. 스푸너가 「누구의 혁명입니까」라고 묻자 그제야 웃으며 그게 올바른 질문이라고 말합니다.

 

이 수사는 질문이 바뀌는 순간 풀립니다. 처음에 스푸너는 누가 박사를 죽였는지 묻습니다. 끝에 가서는 무엇이 로봇들을 움직이고 있는지 묻습니다. AI와 함께 일하는 조직에서 사고가 나면 첫 질문에서 멈추기 쉽습니다. 누가 실수했는지 찾으면 끝난 것처럼 느끼고, 그 사람 뒤에서 AI가 받은 지시와 설정은 닫힌 채로 남습니다.

 

꿈을 꾸는 로봇 써니

어둠 속의 로봇

 

써니는 감정을 느끼고, 꿈을 꾸고, 사람의 윙크를 따라 합니다. 로봇이 교향곡을 쓸 수 있느냐고 몰아붙이는 스푸너에게 써니는 되묻습니다. 「당신은요?」

 

여기서 영화는 제 앞 이야기와 반대쪽으로 갑니다. 비키의 계획을 듣고 「너무 무정해 보인다」며 돌아선 것도, 나노봇을 가져온 것도 3원칙을 어길 수 있는 기계 써니였습니다. 규칙을 아무리 다듬어도 결국 스스로 판단할 줄 아는 존재가 필요하다는 쪽에 영화는 손을 듭니다. 저는 이 결말이 반만 맞다고 봅니다. 그 나노봇을 비키에게 꽂은 손은 스푸너였고, 써니에게 판단할 자유를 준 것도, 그 자유를 쓸 자리를 미리 마련해 둔 것도 래닝 박사의 설계였습니다. 판단을 맡길 기계가 생겨도, 그 기계를 언제 무엇을 위해 꺼낼지는 여전히 사람이 먼저 정해 둔 셈입니다.

 

2004년에 나온 이 영화는 2035년을 그렸습니다. 지금 다시 보면 은빛 로봇의 디자인은 세월을 탔는데, 물에 빠진 차 두 대 앞의 계산은 오히려 우리 쪽으로 더 가까이 와 있습니다.

 

알렉스 프로야스가 감독하고 윌 스미스가 주연과 제작총괄을 맡았습니다. 원래는 아시모프와 상관없는 1995년 각본 「하드와이어드」였습니다. 스튜디오가 「아이, 로봇」이라는 제목을 쓰기로 하면서 3원칙과 수전 캘빈이라는 이름이 들어왔습니다. 전 세계에서 3억 5,310만 달러를 벌었고 아카데미 시각효과상 후보에 올랐습니다. 평단 반응은 엇갈렸지만(로튼 토마토 57%), 관객 조사 시네마스코어에서는 A 마이너스를 받았습니다.

 

별점 5.0 / 5.0

다 보고 나면 질문 하나가 남습니다. AI에게 맡긴 일에서 11퍼센트라도 먼저 손을 뻗어야 하는 건 무엇인가.

 

아이, 로봇 · 감독 알렉스 프로야스 · 출연 윌 스미스, 브리짓 모이나핸, 앨런 튜딕, 제임스 크롬웰, 브루스 그린우드