안드로이드는 무엇을 꿈꾸는가? 2

-안드로이드는 무엇을 꿈꾸는가? 1편에서 이어집니다.

중국어 방(Chinese room)
존 설(John Searle)이 튜링 테스트로 기계의 인공지능 여부를 판정할 수 없다고 논증하기 위해 고안한 중국어 방(Chinese room)이라는 사고실험이 있습니다.

중국어 방(Chinese room) 실험 : 하나의 밀폐된 방안에 영어만 할 줄 아는 사람 A를 넣고 필담을 할 수 있는 도구를 줍니다. 그리고 그 방안에는 미리 만들어 놓은 중국어로 된 질문 리스트와 그 질문에 대한 중국어의 완전한 답변 리스트가 준비되어 있습니다. 다시 말하지만 이 A라는 사람은 중국어를 전혀 할 줄 모르고 오직 영어만 할 수 있습니다. 이제 중국인 심사관이 중국어로 질문을 써서 그 방안에 집어넣으면 A는 그 질문을 보고 미리 준비된 대응표에 따라 답변 리스트에서 답변을 찾아낸 후, 그것을 방 밖에 있는 심사관에게 줍니다.

심사관은 자신의 중국어로 쓰인 질문에 완벽한 중국어의 답변이 출력되었으므로 그 방안에 있는 A가 중국어를 잘 하는 것으로 생각하겠지만, 실제로 A는 중국어를 전혀 모르며 그저 주어진 대응표에 따라 질문의 답변을 건네준 것에 불과합니다. 즉 튜링 테스트에서 관찰자의 질문에 완벽히 답변해 그 테스트를 통과한 기계라고 해도 그 기계가 진짜 지능이 있어서 질문에 답변을 수행했다고 볼 수 없는 것입니다. 그 기계는 그저 주어진 대응표에 따라 관찰자의 질문에 이미 입력되어 있는 답변 중에서 가장 이상적인 답변을 선택해 출력한 것일 뿐입니다. 그러므로 튜링 테스트로는 기계의 대응만으로 그 기계의 지능까지 판정할 수 없게 됩니다.

존 설(John Searle)은 중국어 방을 통해 뇌와 마음의 관계나 프로그램의 구조에 대한 정형화된 논증과 결론을 이끌어내어 컴퓨터 프로그램의 의미론적 내용의 기원으로까지 이끌어 가고 있지만, 기계의 진짜 지능의 여부는 한걸음 나아가서 우리 인간에게도 적용해 볼 수 있게 됩니다. 즉 중국어를 모른 채 대응된 리스트에 따라 답변을 출력하는 것이 가짜 지능이라면, 우리 뇌안의 기억세포들이 과연 언어를 이해하고 있는 것인지 의문스럽게 되며, 뇌의 기억단위가 언어를 이해하는 것이 아니라 수억 개의 대응표에 따라 출력하는 것으로 본다면 결구 우리 인간도 자신의 모국어조차 이해못하는 가짜 지능을 가진 존재가 되는 것입니다.

그러나 중국어를 이해하는 능력이 없지만 방안의 A와 A가 보유하고 있는 질답 리스트 총체는 중국어를 이해한다고 할 수 있으며, 꾸준히 새로운 질문과 답변 리스트를 추가하고 자주 발생하는 질문과 답변을 가까운 곳에 준비해두는 것에 대하여 언어를 이해했다고 할 수 있습니다. 이러한 뇌(A)와 질문자(심사관)의 관계 자체를 뇌의 활동이라고 보면, 우리가 끊임없이 질문을 던지고 그 질문에 대응표를 만들며 답변을 추가해나가는 것을 마음 혹은 지능이라고 볼 수 있습니다. 그러나 진짜 마음, 진짜 지능, 진짜 감정이라는 것은 중국어 방에서와 같이 A가 진실로 이해를 했는가를 밝히지 못하는 이상 진짜의 기준을 정할 수 없습니다.

주입된 기억
영화 다크 시티(Dark City)는 닫힌 세계에 살고있는 기억이 주입된 인간들이 나옵니다. 매일 밤 자정이 되면 거대한 도시는 한순간 정지되고 모든 인류는 수면상태에 빠지며, 초고층 빌딩들이 순식간에 사라졌다 다시 세워진 후 시침과 분침이 엇갈리는 순간 잠에 빠졌던 사람들은 아무 일도 없었던 듯 분주히 일상을 시작합니다. 튜닝 능력을 가진 괴인들에 의해 어제의 기억이 모두 지워진 채 새로운 기억을 이식받은 사람들은, 어제는 노숙자였지만 오늘은 의사라는 직업을 가지고 복잡한 일과를 보내면서도 그에 대한 아무런 의구심을 가지지 않은 채 자신의 역할을 소화해 냅니다.

다크시티의 사람들은 자신들의 일상을 자유롭게 탐닉하고 꿈과 목표를 가지고 살아간다고 믿고 있지만, 사실 그들의 모든 기억은 조작되어있고 자신이 느끼는 일상의 모든 감정들도 조작된 기억을 근거로 일어나는 현상일 뿐입니다. 이와 같은 일이 현실에서 일어난다고 해도 우리는 그것을 전혀 인지하지 못한 채 입력되는 질의어에 대한 답변을 현재의 기억을 바탕으로 충실히 출력하며 동작할 것입니다. 그렇다면 그 질답의 리스트를 가진 조작된 기억의 사람은 진짜 마음, 진짜 지능을 가진 것이라고 봐야할까요?

나아가서 이런 모든 일련의 기억을 사람과 결코 구분할 수 없을 정도로 완벽하게 만든 안드로이드의 양자 두뇌에 담는다면, 그 안드로이드는 자신의 정체성에 대해 아무런 의심 없이 -조작되었지만- 어제의 기억을 바탕으로 오늘을 영위해 나갈 것입니다. 잠들기 전에 통화했던 연인의 달콤한 목소리를 기억할 것이고, 어제 미처 마무리하지 못했던 기획안이 떠올라 회사로 향하는 발걸음이 빨라질 것이며, 내일 결제해야 할 카드 대금 때문에 마음이 무거워지기도 할 것입니다. 그는 결코 자신의 중국어 방 속에서 생각이라는 질문에 답변하고 있는 A가 존재함을 느끼지 못할 것입니다. 이 안드로이드는 여전히 가짜 지능, 가짜 마음, 가짜 감정을 지닌 것일까요?

동일한 기억
영화 아일랜드(The Island, 2005)에서는 유전공학이 발달한 어느 미래를 보여주고 있는데, 이런 날은 결코 먼 미래가 아닐 것입니다. 나이든 나는 죽기 직전에 나를 복제하고 그 복제된 '아무런 기억이 없는 젊은 시절의 몸'에 현재의 내 기억을 모두 주입해서 새로운 젊은 육체로 살아갑니다. 그런데 만약 나이든 내가 죽지 않는다면 동일한 마음을 가진 내가 둘이 됩니다. 누가 진짜인가를 떠나 새로운 나도 진짜 마음을 가졌다고 할 수 있을까요? 분명한 것은 복제된 젊은 나 역시 자신을 진짜로 여길 것이라는 점입니다. 이런 나를 10명 복제했다면 또는 10대의 동일한 안드로이드를 만들어 똑같은 의식을 심어 주었다면 누가 진짜라고 해야 할까요?

결국 그 해답은 종교적인 문제로 넘어갈 수밖에 없게 됩니다. 하나의 객체는 하나의 영혼을 가진다는 결론만이 이런 마음의 무한 복제를 해결할 수 있게 됩니다. 하나의 객체가 죽으면 그 기억을 이전받은 존재가 있다고 해도, 본질적으로 중국어를 이해 못하는 A가 방안에서 답변을 출력하고 있을 뿐이라고 해야 할 것입니다. 그렇기에 결국 진짜 지능은 그 객체가 고유하게 지닌 중국어를 진짜로 이해하는 그 무언가를 찾아내지 못하는 한 결코 판별할 수 없게 됩니다. 역으로 그것을 찾아내기 전까지의 튜링 테스트를 통과한 기계는 마음을 지닌 존재로 볼 수밖에 없는 것입니다.

안드로이드는 무엇을 꿈꾸는가?
마음이나 지능은 추상적인 개념이라고 할 수 있습니다. 인간을 닮은 안드로이드(Android)나 클론(Clone) 또는 바이오닉스(Bionics)가 아니라고 해도 이런 마음을 가지는 조건을 충족시킬 수 있습니다. 단순한 형태의 컴퓨터에도 거대한 저장장치와 연산장치와 충분한 입출력 장치를 연결하여, 한사람에 대한 모든 정보를 입력하고, 비현실을 현실로 인식하도록 가상의 정보를 꾸준히 입력한다면 그 컴퓨터는 자신인 기계임을 깨닫지 못할 것이고, 자신의 변화를 깨닫는다고 해도 인간과 기계 사이의 정체성에 대한 고민에 빠지게 될 것인데, 어쩌면 그런 갈등과 자아에 대한 탐닉 자체를 인간성이라고 해얄 할 수도 있을 것입니다.

영화 매트릭스((The Matrix)처럼 수많은 터미널을 굳이 연결하지 않더라도 단 한사람만이 존재하지만 수많은 가짜 프로그램 인간이 있는 정교한 싱글 매트릭스를 형성한다면, 그는 그것을 현실로 인식할 것이고 전자기신호로 작동하는 인공두뇌 임에도 진짜 마음을 가지고 살고 있는 것입니다. 그러나 실존했던 사람의 어느 순간까지를 그대로 옮긴 기억만이 진짜 마음을 형성한다고 할 수 없으며, 그 가짜 프로그램이라는 것 자체에 대한 판단 기준 또한 애매하게 됩니다. 인공적으로 만든 기억들의 집합이라도 그것이 충분히 깊이 있고 많은 양의 질답 대응표를 가지고 있다면 결코 자신이 인공의 프로그램이라는 의심을 가지지 않을 것이기 때문입니다.

진짜 마음의 기준
1979년 극장판 스타 트렉(Star Trek)인 The Motion Picture에는 마치 블랙홀처럼 주변의 모든 것을 빨아들이면서 지구로 다가오는 미지의 물체가 등장합니다.  엔터프라이즈호를 지휘하던 커크 선장은 비밀을 알아내기 위해 그 미지의 물체 중심부에 들어가는데, 그 물체는 생명을 가진 기계로서 어떤 메시지를 방출하면서 지구로 향하고 있었습니다. 지구를 구하기 위해서는 그 미지의 물체의 핵인 비저의 메시지에 대한 답을 해줘야하는데, 비저는 인간 탑승자들을 생명체가 아닌 단순히 엔터프라이즈호에 기생하는 탄소화합물로 봅니다.

비저는 초고도의 지성과 우주의 모든 비밀을 지닌 기계생명체이지만 최후의 진화를 위해서는 지구에 있는 자신의 창조자의 해답을 구하고 있었습니다. 그리고 알고 보니 비저는 300년 전 NASA에서 발사했던 보이저 6호이며, 우연히 블랙홀을 통해 기계문명 중력권으로 빨려 들어갔던 것입니다. 기계위성은 보이저 6호를 자기와 같은 종류의 원시 생명체로 보고 기능이나 여러 가지를 향상시켜 주었지만 비저가 본래 가지고 있던 20세기의 프로그램을 변경하지는 않았습니다. 아마도 그런 프로그램 자체를 우리의 유전정보라고 생각한 것일 수도 있습니다.

“가능한 모든 정보를 얻고, 배울 수 있는 것은 다 배워라. 모든 정보는 창조자에게 보내라“ 비저는 그 프로그램을 곧이곧대로 따라 수많은 우주의 정보를 배우며 스스로 계속 진화를 했고, 많은 양의 지식과 의식까지 갖고는 결국 지구로 다시 돌아와 자신의 창조자를 만나려고 한 것입니다. 그러나 이미 인간보다 더 진화한 비저는 인간을 인정하지 않으며 인간의 응답을 스스로 거부하고, 자신의 한 차원 높은 진화를 도와줄 신을 원합니다. 그러나 결국 논리를 초월하는 존재인 자신의 창조자인 인간과 합치며 새로운 차원으로 진화를 이룹니다.

인간의 가치, 인간의 존엄, 마음 지능 영혼 이 모든 것에는 진짜가 있을 것이지만, 현재의 우리는 그것을 판별한 능력이 없으며 구분할 수 있는 눈도 가지지 못했습니다. 그러나 그러한 기준을 떠나서 진짜 마음을 가진 존재라면 새로운 세계에 대한 진화를 열망할 것인데. 이와 같이 자신의 가치를 상승시키려는 욕구 자체가 진짜 마음의 기준일지도 모릅니다.

만약 우리가 가공되고 조작된 기억을 지닌 인공적인 존재라고 해도 우리는 결코 그것을 자각하지 못할 것입니다. 또 우리가 생물학적인 몸이 없는 하나의 데스크 탑 컴퓨터라고 해도 우리는 왜곡된 시각 때문에 그것을 인지하지 못할 것입니다. 본다는 것, 듣는다는 것, 느낀다는 것 모두는 우리가 두뇌라고 믿는 하나의 집합적인 장치가 우리에게 0과 1의 신호로 바꾼 질문을 던질 때 우리가 대응표에 따라 충실히 답변하는 과정일 뿐일지도 모르는 것입니다.

우리가 안드로이드를 만들고 그들에게 마음이 있다 없다를 놓고 갈등하듯이 우리를 만든 상위의 존재도 우리의 진정한 마음의 존재 여부에 대해서 고민하고 있을 것입니다.

-안드로이드는 무엇을 꿈꾸는가? 3편으로 이어집니다.