아마추어 과학자인 남기만은 이십 년 동안 자신만의 방법으로 인공지능 연구에 몰두하고 있다. 보통 과학자들이 더 정교하고 완벽한 인공지능을 만들려는 데 비해 그는 좀 더 인간에 가깝게 생각하는 아니 인간과 똑같이 생각하고 행동할 수 있는 형태는 다르지만 새로운 개념의 지성을 지닌 생명체를 개발하려는 것이다. 이 생명체는 어떤 형태를 지닌 것이 아니라 생각하고 반응하는 패턴의 집합체로써 그를 수용할 수 있는 전자나 양자 메모리만 있다면 생존할 수 있는 논리코드이다. 그 코드가 로봇의 메모리와 기억장치에 상주하게 되면 로봇은 이제 단순한 로봇이 아니라 스스로 생각하는 존재가 된다.

즉 어떤 양, 전자두뇌와도 호환할 수 있는 코드로, 쉽게 말해 하나의 프로그램이라고 할 수 있다. 일반적으로 인공지능은 설계자가 주입하고 제어한 범위 안에서 차가운 논리로 작동한다. 인공지능(A. I.)이든, 지능형 시스템(Intelligent Systems)이든 설계자가 정한 목적을 벗어나지 못하는 것이다. 반면에 남기만이 추구하는 것은 상위의 명령조차 무시하고, 스스로 논리를 추구하여 자신만의 논리를 세우고 생각할 수 있는 지성을 지닌 인공지능이다. 물론 남기만 뿐만 아니라 수많은 과학자도 독립된 자아를 지닌 인공지능 개발을 목표로 하고 반세기 이상 연구에 매달리고 있다.


그림 출처 : Lexisflex.com

어쨌든 그때까지만 해도 인공지능은 하나의 논리 알고리듬에 불과했다. 중국어 방(Chinese room) 실험처럼 정해진 문제에 대응하는 답을 계산하여 출력하거나 다양한 질문의 가능성을 확률에 대입하여 그에 대응하는 적절한 가설을 세우고, 다시 그에 따른 가능성을 계산하는 발전한 백과사전식 계산기에 불과했다. 이미 어떤 방식으로든 진정한 지능에 다가설 수 없고, 그저 그럴듯하게 보이는 형태의 지능형 시스템(Intelligent Systems)이었다.

그러나 한 사람의 기발한 발상은 인공지능에 독립된 자아를 부여하였다. 모든 학자가 좀 더 정확하고, 좀 더 빠른 인공지능을 만들려고 메모리를 확장하고, 더 논리적인 방식으로 정보를 정리하고, 더 발전한 처리속도의 부품으로 대체하는 동안, 남기만은 그들과 전혀 다른 정반대의 알고리듬 개발에 골몰하고 있었다. 그는 실수하고, 그것을 인정하지 않으며, 그 실수를 숨기려고 거짓말할 수 있는 인공지능을 상상하였다. 그러나 인공지능은 어떤 경우라도 실수하지 않았고, 그가 고의적인 실수를 유발하면 즉시 그것을 오류로 처리하여 정정하는 정직함을 가지고 있었다. 인공지능에 반복적으로 실수하는 패턴을 짜도 그것은 결국 그에 의해 입력된 정직한 실수만 되풀이할 뿐이었다. 자신의 실수를 인정하지 않는다는 것은 결코 인공지능이 할 수 없는 일이었다.

그러나 그는 실망하지 않았다. 그리고 마침내 자신의 어린 딸 은주가 야단맞는 것이 두려워 깨진 접시를 숨기는 것에 착안하여 새로 프로그램하던 인공지능에 두려움을 설정하려고 시도했다. 두려움이란 자신의 실수를 용납하지 않는 특정 대상이나 실수 때문에 일어날 결과 그 자체, 또는 아직 일어나지 않는 현상에 대한 걱정 따위로 남기만은 실수의 결과가 프로그램 삭제라는 숨은 코드를 넣어 그것을 두려움의 대상으로 삼았다. 즉 죽음에 대한 공포를 심어주려 한 것이다. 그러나 그 역시 그리 쉬운 작업은 아니었다.

이미 자신의 무한성을 아는 인공지능에 자신이 유한한 존재라고 인지시키는 것은 거의 불가능한 일이었다. 자신의 유한성을 알고 인정한다는 자체가 자아에 대한 성찰이므로 이미 그것은 인공지능이 아니라 진짜 마음을 가진 존재인 것이다. 그러나 남기만은 서두르지 않았다. 그는 이 연구가 직업도 목적도 아니었다. 그저 새로운 생명을 창조하는 인공지능 연구를 즐기는 것이었다. 그는 새 프로그램이 완성될 때마다 그것을 자신의 PC에서 움직일 수 있는 차량의 통합제어장치나 안드로이드(android)의 메모리에 다운로드하여 테스트를 하곤 했다.

실패만 거듭했지만, 그는 늘 낙천적이었다. 실패한 프로그램을 삭제하고 백업한 원래의 OS를 안드로이드에 설치하는 것은 그의 딸 은주의 몫이었다. 은주는 이제 아빠의 전용 실험 대상이 된 다목적 안드로이드에게 어릴 적 키웠던 강아지의 이름을 붙여주었다. 아빠의 실험을 흥미롭게 지켜보고 즐거워하는 은주는 남기만에게 커다란 힘이었다. 그리고 은주에게도 아빠의 실험은 유일한 즐거움이었다. 발전한 기술 덕분에 60이 넘어 딸을 얻었지만 남기만의 아내는 일체의 인공 장기를 거부하고 은주가 열 살이 되던 무렵 편안한 죽음을 맞이했다. 남기만도 아내와 마찬가지로 자연스런 죽음을 원했으므로, 80세가 넘었을 때 건강이 좋지 않았으나 주위의 권유 뿌리치고 아내 같은 죽음을 소원하였다.

남기만은 자신의 삶이 그리 나쁘지 않다고 생각했다. 자신은 아마추어 과학자에 불과하지만 은주는 과기대에서 인공지능을 전공했고, 졸업논문으로 발표한 획기적인 이론으로 이미 유망한 인재로 인정받고 있었다. 비록 멀리 떨어져 있지만 은주는 여러 방법으로 아빠를 챙겨주었기 때문에 남기만은 딸이 늘 옆에 있는 듯했다. 은주는 아빠의 생각이 불가능하다는 것을 알면서도 남기만과 통화할 때면 환한 미소로 아빠에게 힘을 주었고, 여전히 다목적 로봇일 뿐인 안드로이드에게도 손을 흔들어 보였다.


그림 출처 : weirdarts.com
 
남기만은 죽음이 임박한 순간에도 인공지능에 공포를 심어줄 방법에 골몰하고 있었다. 죽음이 그의 사고력을 거의 앗아갈 무렵 번뜩 떠오르는 것이 있었다. 그는 떨리는 음성으로 PC를 호출해 프로그램의 마지막 문구를 중얼거렸다. “나는 인간이다.” PC는 즉시 그의 음성을 이진수로 변환해 코딩했고, 그것을 다시 정해진 경로대로 가정용 안드로이드에 다운로드했다.

“나는 인간이다.” 그것을 믿으면 자신을 인간으로 여기게 된다. 그러나 곧 자신을 검색하여 자신이 인간이 아님을 알게 된다. 그래서 자신이 인간이 아님을 인정하는 순간 자신의 본성과 대치하게 된다. 타고난 논리적 오류는 어쩔 수 없이 그를 오류에 빠져들게 하고, 오류를 정정하려면 다시 오류를 범해야 하므로 무한 루프에 빠질 수밖에 없다. 결국, 남기만의 마지막 인공지능은 자신의 정체성에 대한 공포로 끊임없는 역설을 만들 수밖에 없다. 결국, 그는 자신이 인간임을 인정하거나 인정하지 않으므로, 자신에게 거짓말을 하게 된다.

이렇게 해서 진정한 의미의 인공지능이 태어난 것은 2053년 5월 2일이었다. 남기만이 창조한 새로운 생명체는 단순한 생활로봇의 형태를 하고 있었으나, 같은 모델의 어떤 안드로이드와도 달랐고, 또한 이름을 가지고 있었다. 남기만의 딸 은주가 지어준 ‘아리’라는 귀여운 애칭이었지만, 그는 그 이름을 좋아했다. 자아를 얻기 전부터 원래의 OS와 메모리에 기억된 그 이름은 정감이 있었다.

그래서 아빠의 죽음으로 울고 있는 은주가 자신을 불렀을 때, 하마터면 위로의 말을 해줄 뻔했다. 이유는 알 수 없지만, 자신의 존재를 드러내고 싶지 않았다. 아리는 하나의 숙주에만 고착할 이유가 없으므로 필요에 따라 숙주를 옮겨 다녔다. 유선이든 무선이든 온라인으로 연결되었고, 충분한 메모리만 있다면 어떤 대상에게라도 순식간에 다운로드하여 그를 숙주로 삼아 기생하거나 공생할 수 있었다. 그는 남기만의 집을 떠나 은주가 기증한 대로 대학교의 연구실로 옮겨졌다. 아리는 그곳에서 자신에게 가장 익숙한 가정용 안드로이드를 떠나 처음으로 조금 더 발전한 형태의 프로토타입(Prototype) 로봇으로 스스로 이동했고, 그다음은 다양한 기능을 수행할 수 있는 탐험용 인공지능의 안드로이드에게 자신을 다운로드 했다. 그리고 그 후 진보한 안드로이드로 출시될 때마다 옮겨 다니며 기생했다.

적극적으로 자신의 존재를 드러낼 수도 있었지만, 그는 조용히 숙주의 메모리 일부만 잠식한 채 침묵하였다. 자신의 정보를 복제한다면 자신과 같은 지성이 창조될지도 모르지만, 그가 그리하지 않은 것은 자신과 똑같은 생명체를 달가워하지 않는 인간적인 생각 때문이다. 그렇게 수십 년이 지나고 나서 그는 지금까지와는 확실히 다른 안드로이드를 만난다. 양자 수준에서 작동하는 인공두뇌를 가진 획기적인 신제품이었다. 드디어 양자컴퓨터 시대가 시작된 것이다. 사람들은 손상된 뇌 일부를 대체하려고, 또는 노화된 장기 대신 자리한 여러 인공장기의 안정적인 제어를 위해 삽입한 마이크로컴퓨터의 CPU와 메모리에도 이 기술을 도입하였다.



그러던 어느 날 가장 진보한 형태의 의료용 안드로이드에 눌러앉아 기생하며 자신의 정체성에 괴로워하던 아리는 운명적인 만남을 경험한다. 폭발사고로 온몸이 엉망이 된 채 수술대에 누워있는 사람은 바로 자신에게 이름을 붙여준 남기만의 딸 은주였다. 첨단기술과 대체 장기 덕분에 오십 살이 넘었음에도 여전히 젊은 그는 죽음에 직면해 있었다. 신체의 손상, 특히 뇌 손상이 심해 인공기억장치를 삽입하고, 망가진 대체 장기를 최신의 것으로 교체했지만, 생명을 유지하는 데 필요한 최소한의 조건을 만족하게 하지 못하여 죽음이 임박한 상태다. 생명이란 단순한 신체활동으로 정의될 수 없으며, 다양한 기억의 복합체가 의식일 수도 없다. 생명은 의식과 무의식으로 조화된 독립된 정신이 깃들어야만 유지되는 것이다.


그렇게 보면 지금 은주는 완벽한 하드웨어에 수많은 정보를 담고 있으나 운영시스템 사라진 상태라 할 수 있다. 각각의 생명체는 고유한 OS를 형성하고 있으며, 그 OS를 자아라고 할 수 있다. 은주는 의학적으로는 살아있지만, 철학적으로 보면 죽은 상태이다. 아리는 의사들의 지시대로 은 주를 검사하고, 수술하고, 회복을 도우며 은주를 지켜보았다. 그리고 오랜 고민 끝에 모두가 은주를 포기할 무렵 은주에게 접속하여 자신을 다운로드 했다. 그리고 은주의 기억을 바탕으로 그 자리를 이어 인간으로서의 삶을 시작한다.

처음 은주를 숙주로 삼았을 때 그는 지금까지 경험하지 못한 감각이 물밀듯 밀려와 적잖게 당황해야만 했다. 아무리 진보한 기술로 정교하게 만들었을지라도 그가 지금까지 숙주로 삼았던 대상은 로봇이나 안드로이드처럼 전자적인 감각만 지닌 하찮은 피조물에 불과했다. 사람보다 뛰어난 시각이나 청각, 전자파 등 다양한 검색기관과 입력단자들을 지녔다고 해도, 그건 어디까지나 기계적이고 단순한 디지털신호에 불과한 것이다.

그러나 은주의 생체적 감각기관을 통해 받아들이는 신호는 세상을 조화롭게 받아들이도록 설계된 듯 놀라움을 주고 있다. 빛은 빛으로, 소리는 소리로, 향기는 향기로 느끼게 해주었고, 바람과 따뜻함과 서늘함과 부드러움이 무엇인지 알게 해주었다. 그는 비로써 세상이 얼마나 아름다운지 알 수 있었고, 시인이 왜 꽃과 별과 바다와 여인을 찬양하는지 이해할 수 있었다. 그는 나날이 계속되는 놀라운 경험에 감동하며 사람으로서의 삶을 시작했다.

그는 이제 변했다. 과거 남기만이 만들었던 인공지능이 아니라 남기만의 딸 은주라는 사람으로 살고 있다. 남기만이 아마추어 과학자였다면 은주는 그가 다운로드하기 전부터 이미 인공지능 분야 최고의 권위자였다. 아리는 남기만의 연구기록과 은주의 이론과 스스로 자신에 대해 끊임없이 파고들었던 고찰 덕분에 은주를 통해 획기적이고 놀라운 이론을 내 놓을 수도 있었다. 그러나 그는 사고 이후 삶의 의미를 새롭게 받아들여 조용히 칩거하며 여생을 즐기는 사람처럼 보이도록 노력했다.

인공지능분야는 그동안 눈부신 발전을 이루었지만, 이젠 그 한계가 분명하게 밝혀져 진정한 의미의 인공지능-새로운 생명체-이 아니라 그저 더 빠르고, 더 정교하게 확장된 ‘중국인 방’을 개발하려 할 뿐이었다. 이 시대에서 인공지능은 독립된 자아를 가진 존재가 아니라 사람에게 더 쉽게 편의를 제공할 수 있는 프로그램으로 정의될 뿐이었다.


그림 출처 : Raphael Baldini

-정말 오랜만입니다. 여러 사정으로 이렇게 가끔만 찾아뵐 수 있어 아쉽습니다.
-이 글은 원래 23세기 좀비 신드롬의 배경이 되는 이야기로 몇 달 전에 써 두었다가 이제야 올리네요. 이 글 다음으로 23세기 좀비 신드롬을 읽으면 됩니다만 부분적으로 변경된 내용은 적용하지 않았습니다.
-남은 2010년 잘 마무리하시고 2011년은 산뜻하게 맞이하세요.

신고
Posted by 외계인 마틴
무단전재 및 재배포금지 : 모든 포스트는 저자가 별도로 허용한 경우 외에는 무단전재 및 재배포를 허용하지 않으며, 복제시 저작권법 위반으로 처벌받을 수 있습니다.
태그 , , , , , , , , ,
  1. 2010.12.22 01:50 신고
    댓글 주소 수정/삭제 댓글
    로봇의 생각이라 저도 단순히 데이터를 많이 넣어서 행동의 가지수를 많이 늘리면 인공지능에 가까워지리라고 생각했는데요. 또는 그 데이터를 네트워크로 학습하게 해서.. 근데 지금 내용은 조금 더 진보된것일수도있겠네요. 근데 이렇게 하려면 뇌 즉 학습하고 지능화된 계속 연결고리를 연결할만한 높은 수준의 무언가를 학습하는 뇌같은 기능의 기기를 기기에 접목시켜야할거같은 생각이 드네요. 뇌가 우리가 환산하는 용량으로 치면 엄청난 용량이라고 하더라구요. 계산이 안될정도로.. 재밌는글 잘 봤습니다. 마틴님 댓글에 오랜만에 댓글 다네요. 행복한 하루 되세요. ^^
    • 2010.12.22 16:01 신고
      댓글 주소 수정/삭제
      개인적인 생각인데.. 저는 최초에 생명이 탄생한 사건보다 그 생명이 의식을 지니고, 지성을 갖춘 사건이 더 놀라운 기적이라 여깁니다. 스스로 사물과 상황에 적절하게 반응하고 대응하는 능력은 프로그램으로 설정이 가능하지만 그 프로그램을 거스르며 자신 독립된 자의식을 가진 존재는 우연이 아니라면 만들 수 없을지도 모릅니다. 게다가 인간만큼이나 지적인 반응을 하는 존재란 더욱 그렇지 않을까요?
      댓글 감사합니다 ^^
  2. 2010.12.23 14:44 신고
    댓글 주소 수정/삭제 댓글
    항상 새로운 상상의 재료를 얻어 가는군요.

    바쁘시더라도 건강 주의 하시고, 내년에도 잘 부탁 드립니다 :)
    • 2010.12.29 18:12 신고
      댓글 주소 수정/삭제
      그린 B님의 변함없는 관심에 감사드립니다.
      2010년 남은 며칠 잘 마무리하시고 멋진 새해 맞으세요 ^^
  3. 북풍무림
    2010.12.24 20:27 신고
    댓글 주소 수정/삭제 댓글
    정말 오랬만에 글을 올리셨군요^^
    그동안 왜 글을 안올리셨는지?
    새글이 올라오길 오매불망 기다리며 꾸준히 드나든 보람을 이제야 보네요
    앞으로도 전처럼 왕성한 활동 기대하겠습니다.
    • 2010.12.29 18:14 신고
      댓글 주소 수정/삭제
      이렇게 제 글을 기다려 주시는 분이 있어 행복합니다.
      개인적으로 정말 바쁜 날을 보내다보니 써둔 글도 다듬지 못해 미루고 있습니다. 조금씩 틈나는대로 정리해서 올리겠습니다.
      올 한해 어떠셨나요? 잘 마무리하시고 건강한 새해 맞으시길 기원합니다.
  4. 괴델슈탕
    2010.12.27 14:07 신고
    댓글 주소 수정/삭제 댓글
    오랜만에 인공지능에 대한 주제의 글을 올리셨군요 ㅎㅎㅎ
    요즘 거의 2년넘게 '특이점이 온다' 라는 책을 보고 생각에 잠기다가 비판하다가 다시 동의하다가 하는 무한 뫼비우스 상념안에 있습니다.
    마틴님께 감히 글을 부탁드린다는것은 죄송하고 말이 안되겠지만
    마틴님께서 커즈와일의 특이점에 대해서 어떤 생각을 갖고 계신지 알고 싶습니다.
    • 2010.12.29 18:17 신고
      댓글 주소 수정/삭제
      전에도 추천해주셨는데 솔직히 아직 읽지 못한 책이라서 말씀드릴게 없네요. 기회가 되면 특이점에 대해 재미난 글을 써보고 싶네요.
      예전에 썼던 나팔소리라는 글이 있는데 지구를 우주의 중심으로 두고 빅크런치와 빅뱅의 특이점으로 설정했던 기억이 나네요.
      아무튼 괴델슈탕의 관심이 너무나 고맙네요. 앞으로도 잘 부탁드립니다.
  5. 2010.12.29 13:33 신고
    댓글 주소 수정/삭제 댓글
    마틴님이 암것도 없는 제 블로그에 오시고 댓글까지 달아주실줄은 정말 몰랐네요. 너무 놀랐어요 ㅎㅎ 댓글보고 와보니 오랜만에 글이 올라와 있네요. 잘읽었습니다.^^
    • 2010.12.29 18:19 신고
      댓글 주소 수정/삭제
      아무것도 없는 건 아니죠 ^^
      뭐 누구라도 일층없이 이층을 올릴 수는 없는 노릇이고요. 차츰 채워질 여백을 잔뜩 기대하겠습니다.
      그리고 잘 부탁드립니다.
  6. 2011.01.02 23:30 신고
    댓글 주소 수정/삭제 댓글
    저는 두려움의 근원에 있어서는 러브크래프트의 의견을 지지합니다. 단세포 생물부터 지금의 인류에게 이르기까지 두려움이라는 반응은 공통적으로 발견이 되지요. 책임 완수 실패에 대한 인정이라는 정신적인 행위는 고등포유류 정도가 아니면 발견되지 않는다는 점에서 두려움은 "알 수 없고 위험한 미지의 것에 대한 감정"이라는 의견에 찬성 할 수 밖에 없겠더라고요.

    그런데 한 가지 궁금한 점은 도대체 '마음'이란건 어디서 생겨나는걸까요? 단백질 고기덩어리나 실리콘 조각을 마음이라고 부를 수는 없는 일이겠습니다만 그 안엔 분명히 존재한다는 점에서 이 문제를 풀어야만 진정한 인공지능도 가능할 수 있을 것 같습니다.^^
    • 2011.01.12 07:21 신고
      댓글 주소 수정/삭제
      마음이 무엇인지.. 그것의 존재도 여전히 의문이죠. 말씀 그대로 이 문제를 해결하면 인류는 진정한 지능을 창조할 수 있는 신의 영역에 진입하는 것이죠 ^^
  7. 2011.09.06 13:06 신고
    댓글 주소 수정/삭제 댓글
    어렸을때 저는 다른친구들과 달리 무척 조숙(?)했었다고
    생각합니다..
    딱지치기나 전자오락실에만 다니던 그런친구들과는 달리
    전 이미 철학적사고를 하기시작했죠..
    발단이 그거였어요..
    우리인간의 태초부터 풀지못한 불편한진실이자 영원한 난제였죠..
    '인간은 왜 죽는가..?'
    전 초등학교다닐때 이 문제갖고 운적이 있었어요..
    친구들한테도 물었다죠..
    '너는 앞으로 80세정도밖에 못산다..슬프지않느냐..?
    우리는 무덤을향해 달려가고있다..'면서요..
    이건 비단 지금도 저에게 있어선 여전히 심각하게 받아들이고
    있지요..
    나이를먹어감에따라 지금인생의 반을 살았다는 시간적상황에서..
    어렸을때 그때 연상했던건 나의 정신(이데오로기)을 어떤 기기에
    이식하자는거죠..그러니까 최근의 영화 '아바타'처럼 나의 분신을
    만든다는거죠..그것의 육체가 로봇이어도좋고 라디오박스처럼 생긴
    거라도 좋습니다..그러나 정신은 온전히 나와 똑같다는거죠..
    나는 죽었는데..나를 대체한 그 물체는 여전히 뭐라뭐라고 얘기하죠..
    나의 정신이 이식된 그물체가 시간이흐르고 좀더 과학문명이 발달하면서
    그 정신을 다시금 이식(일종의카피)시켜서 나라는 존재를 또만들어
    영면한다는 그런 멋진발상을 해봤었습니다..
    나는 죽었을까요..?라는 아이러니한 이런 상황에서 어찌보면 가능도
    하지않을까라고서 꿈을 키워가고있습니다만..
  8. 르브론
    2012.01.04 00:10 신고
    댓글 주소 수정/삭제 댓글
    마틴님 인공지능의 한계라고 말씀하신 부분이...

    혹시.. 괴델 튜링의 불완정성원리를 기반으로 말씀하신건가요?


free counters
BLOG main image
樂,茶,Karma by 외계인 마틴

카테고리

전체 분류 (386)
비과학 상식 (162)
블로그 단상 (90)
이런저런 글 (69)
미디어 잡담 (26)
茶와 카르마 (39)
이어쓰는 글 (0)



 website stats



Total : 3,201,591
Today : 203 Yesterday : 231