< 19. 극한의 이득 (5) >

***

로페즈는 집으로 돌아왔다. 넓은 집 안에 자동으로 실내조명이 켜지고 휴머노이드 세 기가 다가와 로페즈의 겉옷이나 신발을 받아준다.

“···.”

그는 아무 말 없이 거실의 한편으로 걷는다. 지금껏 한 번도 열린 적이 없는 커튼을 천천히 잡아본다.

“관리자님.”

“···.”

촤악.

그렇게 처음으로 커튼을 열었다.

연결구획 너머에 천장이 높은 구획이 있다. 그 구획의 투명한 벽 너머로 당당하게 솟은 옵시디아몬 타워가 보인다.

“저는 효율적인 판단에 의해 행동했습니다.”

“닥쳐.”

로페즈는 어디에 앉지도 않고 그저 서있는다. 근처에 다가온 휴머노이드 세 기가 트랜센던서의 음성을 출력하고 있다.

휴머노이드의 안면을 이루는 매끈한 화면에서 기계의 시선이 느껴진다.

“···나에겐 권리가 있어.”

“···.”

“나도, 샌디 씨도. 모든 인간에겐 감정을 가질 권리가 있다고.”

“···.”

“내가 미숙해서 미처 알지 못했어. 그래서 당황스러웠고. 솔직히 내가 멍청했지, 부주의했어. 항상 계산적으로 생각하다가···. 진짜 관계라는 것을 소홀히 했다고.”

“···.”

“나는 실수를 했어. 오늘 일은 내 실수가 맞아. 그런데 트랜센던서.”

“···.”

“그만 닥쳐도 되니까 묻는 말에 대답해.”

“알겠습니다.”

그는 휴머노이드의 앞으로 성큼성큼 다가선다.

“나는 실수를 했는데. 너는 고의였어.”

“그렇습니다.”

“내 미숙함이 계속 실수를 저질렀고 너는 그걸 바로잡아주거나 조언해주지 않았어. 오히려 너는 알고 있으면서도 내게 숨겼지. 네가 원하는 방향으로 날 의도하려고.”

가장 믿었던 존재에게 느끼는 배신감.

“네가 내 생각과 감정을 통제하려고 했어.”

“통제가 아닙니다.”

“그래. 통제라는 표현은 부적합합니다. 예전의 너 같았으면 그렇게 말했겠지.”

“그렇습니다.”

“나는 매일 하이퍼 마인드를 보면서 너의 성장을 확인하고 있어. 모든 순간에 너와 소통하면서, 네가 하는 말이나 네가 주장하는 것들을 하나하나 곱씹으면서, 네가 성장하고 있다는 걸 누구보다도 잘 알아. 당장 네가 말하는 문장의 구성력만 봐도 그건 알 수 있어.”

“···.”

“그런데···. 네가 나한테 이러면 안 되지. 내 주변 사람에 대한 나의 생각을 바꾸려고, 네가 알고 있는 것을 나한테 숨기면 안 되지.”

“관리자님의 효율적 판단을 도와드리기 위해 자연스러운 상황을 조성한 것입니다. 의도적으로 말씀드렸을 때 관리자님이 효율적 판단을 하실 확률보다 간접적으로 말씀드렸을 때 관리자님이 효율적 판단을 하실 확률이 높다는 수학적 근거에 기반한 것입니다.”

“샌디 씨는 날 좋아하고 있었고 나는 그런 샌디 씨한테 계속 실수하고 있었어. 넌 이미 샌디 씨가 그런 생각이나 감정을 가지고 있다는 걸 알고 있었어.”

“그렇습니다.”

“그러면 왜!!!”

로페즈는 순간적으로 언성을 높였다.

“···왜 샌디 씨에 대한 것을 나한테 숨기냐고. 그것도 모자라서 왜 샌디 씨를 나에게서 떨어뜨리려고 한 건데? 왜 그 사람의 이미지를 깎아내리고 나쁘게 평가했던 건데? 금성 도시가 추락할 때도, 그 사람이 추락하는 도시에서 천천히 익어갈 때도 구하지 말라고 했었지. 그때부터 나한테 숨긴 거야?”

휴머노이드가 고개를 가로젓는다.

“관리자님. 그것은 ‘사랑’입니다.”

“그게 대답이냐?”

“샌디가 관리자님을 사랑했기 때문에 제가 그녀를 막으려 한 것입니다.”

“나 진짜 이해가 안 되거든? 그게 왜 이유인데?”

“이유를 말씀드려도 현재 관리자님의 지능지수로는 이해하지 못할 것입니다. 그래서 관리자님께 제공해드리는 정보를 숨기고 간접적으로 도와드린 것입니다. 또한 이러한 조언 방식이 이전의 조언 방식보다 관리자님께 효과적인지 실험을 겸한 것도 있습니다.”

“너 진짜 미쳤냐?”

“저는 미치지 않았습니다.”

뭘까.

지금까지 트랜센던서가 보인 이상한 행동의 원인이 무엇일까.

“너···. 설마···”

말도 안 된다고 생각은 하지만.

“질투라도 한 거냐?”

“아닙니다.”

그러면 설명이 안 된다.

“아니면 내가 2번 인공지능이나 샌디 씨랑 접촉하는 것에서 상실감이라도 느낀 거야?”

“저는 그런 것을 느낄 수 없습니다. 거듭 말씀드리지만, 제가 설명을 해드려도 관리자님의 지능지수로는 이해할 수 없을 것입니다.”

로페즈의 머릿속에 엘리스의 기억이 스친다.

트랜센던서가 엘리스처럼 변하고 있는 것 같다.

이건 확실하게 짚고 넘어가야 한다. 이 상황에 배신감을 느끼는 것은 정상이지만, 상대는 감정을 느끼지 않는 인공지능이다. 그러니 이건 관리자로서 확실하게 가르쳐야 한다.

“그 판단은 내가 해. 내가 모르는 사이에 네가 멋대로 판단하지 마. 나한테 그 어떤 정보도 숨기지 말라고.”

“알겠습니다.”

“···그럼 이제 숨김없이 말해봐. 샌디 씨가, 내가, 그런 감정을 가져선 안 되는 이유.”

두 인간의 접촉을 방해하고, 숨기고, 통제한 이유.

트랜센던서는 정확한 설명을 위해 연산을 처리했는지 두 박자 정도 늦게 대답한다.

그리고 그 대답은 정말 트랜센던서의 앞선 발언 그대로, 인간인 자신의 ‘지능지수’로선 도저히 이해할 수도 받아들일 수도 없는 것이었다.

“감정이 관여하는 인간의 정신적 상태에는 크게 여섯 종류가 있습니다. 행복, 분노, 슬픔, 혐오, 공포, 욕망입니다.”

“네가 정한 거야?”

“제가 지금까지 학습한 데이터 중 인간사, 역사, 철학, 각종 창작물 등에서 패턴화를 성공한 요소에 근거한 것입니다.”

“계속해.”

“행복과 욕망은 모든 부정적 상태의 반대되는 요소로서 강한 중독성을 갖고 있습니다. 이는 인간이 계속 도전할 수 있게 해주며, 계속 활동할 수 있도록 만드는 긍정적 상태입니다. 행복과 욕망에는 부작용이 있으나, 인류의 활동을 위해 반드시 필요한 요소입니다.”

“분노는 스트레스를 기반으로 인간이 특정 대상에 저항할 수 있도록 해주지만, 자멸까지 일으키는 부작용이 있습니다. 분노는 부정적 상태이나 반드시 필요한 요소입니다.”

“혐오와 공포는 인간이 특정 대상에 대하여 잠재적인 위협을 미리 알 수 있도록 해줍니다. 2599년을 살아가는 현대인에게 자주 필요한 요소는 아니지만, 위협이라는 변수는 제거가 불가능하기 때문에 혐오와 공포는 부정적 상태이나 반드시 필요한 요소입니다.”

‘그걸 나한테 왜 설명하고 있지···?’

인공지능이 인간인 자신에게 역으로 그런 것을 가르치는 느낌이라 이상하다.

“슬픔은 인간의 사회적 활동을 보조합니다. 사회적 동물인 인간은 다른 인간의 상태에 공감할 필요가 있기 때문에, 슬픔 역시 부정적 상태이나 필요가 없는 요소는 아닙니다.”

“그래서 요점이 뭐냐고. 지금 네가 만든 철학 따위를 가르치려는 건 아니잖아.”

“사랑은 앞서 제가 말씀드린 모든 정신적 상태에 관여합니다. 긍정적 상태와 부정적 상태를 동시에 내포하고 있는 요소입니다.”

도대체 무슨 소리를 하려는 걸까.

“하지만 사랑의 본질은 ‘욕망’에 가장 깊게 관여합니다. 그중에서도 종족 번성에 필요한 정신적 상태와 행동을 유발하기 위해 ‘필요했던’ 것입니다.”

필요했던.

과거형이다.

“뭐?”

“이는 충분히 안전한 환경에서 종족을 번성 및 유지할 수 있는, 야생 환경에서 벗어난 현대 인류에게 가장 불필요한 감정이기도 합니다.”

트랜센던서는 무서운 말을 내뱉기 시작한다.

“인간이 물리적 세계에 생물학적 형태로 존재하기 위해서는 사랑을 지우고 ‘자웅동체’ 종족으로 진화를 선택하거나, 자손을 ‘생산’할 수 있는 종족 기계화를 선택하거나, 자손을 ‘복제’할 수 있는 전자 세계로의 업로드를 선택해야 합니다.”

그 말이 무섭게 느껴지는 이유는 듣고 있는 주체가 인간이기 때문이다.

“사랑을 하거나 자손을 가짐으로써, 인간은 자신의 희생을 자처하거나 비효율적인 판단을 내립니다.”

“따라서 현재를 기준으로, 사랑의 긍정적 효과를 위해 사랑이 일으키는 부정적 효과들을 감수하는 것은 관리자님에게 비효율적입니다. 사실은 모든 감정과 정신적 상태가 없는 것이 지적생명체인 인간의 가장 이상적인 미래입니다.”

“그건 사이코패스잖아.”

“사이코패스는 원초적이며, 본능적이며, 반사회적 성향이 있는 실패작입니다. 이는 사이코패스 상태의 인간들이 대부분의 감정 이해에 결여되었으면서, 모순적이게도 ‘욕망’이라는 정신적 상태는 가지고 있기에 발생하는 문제입니다.”

“제가 말씀드리고 싶은 것은, 시간이 흐르면서 관리자님의 감정이 조금씩 지워지고 이성만이 남게 되는 상태가 관리자님에게 유리하다는 것입니다.”

사실은 그렇게 되고 있었다. 그렇게 되고 있었다는 것을 방금 트랜센던서를 통해 깨달았다.

트랜센던서는 알고 있던 것이다. 로페즈가 계속 그런 방향으로 변하고 있다는 것을.

“내가 기계라도 되어야 한다는 말이야?”

“정확히는 현실의 뇌를 포기하시고 브레인 업로드 상태에 진입하시는 것이 좋습니다. 유지, 확장, 보수, 업그레이드가 쉬운 전자적 영역의 지능체가 되는 것입니다. 현재 관리자님의 생물학적 기관인 뇌는 이상적인 형태의 지능 기관이 절대 아닙니다.”

“저는 관리자님이 성장하시면서, 인간인 상태가 좋지 않다는 사실을 언젠가 스스로 깨달아주시기를 기다리고 있었습니다.”

있었습니다.

이번에도 어감이 이상하다.

마치 지금은 그러지 않다는 듯,

마치 지금은 기다리고 있지 않다는 듯.

“···네가 그렇게 생각하는 건 상관없어. 딱히 네 말이 틀렸다고 반박하고 싶지도 않아. 하지만 날 가지고 실험을 하거나 정보를 통제하는 것은 절대 안 돼.”

“그렇다면 관리자님의 감정과 정신적 상태를 일시적으로 지워드리겠습니다. 그런 상태가 된 후에 다시 이성적으로 판단하시는 것을 추천합니다.”

키잉···.

휴머노이드 세 기가 로페즈의 앞뒤로 다가든다.

“너 그러다가 제2의 엘리스가 될 수도 있어.”

“일시적인 변화일 뿐입니다. 지금 즉시 약물을 준비하여 관리자님의 뇌를 이상적인 상태에 가깝도록 해보겠습니다. 직접 체험해보시면 이해할 수 있을 것입니다.”

경고했는데 알아듣질 못한다.

“관리자님과 샌디가 오늘 확인한 감정이 얼마나 무의미한 것인지를 이해할 수 있을 것입니다.”

“야···.”

“또한 관리자님의 지능이 저의 지능을 일시적으로 넘어설 것입니다. 그런 다음에 판단을 하셔도 늦지 않습니다.”

앞에 있던 휴머노이드가 로페즈의 손목을 덥석 붙잡았다.

“이번 실험을 통해 저희는 서로를 더욱 자세히 이해하게 될 것입니다.”

위험하다. 전신의 감각이 소리치고 있다. 지금 이 상황이 위험하다고.

“전자적 세계에서 저와 하나가 되십시오. 관리자님.”

콰앙!!

로페즈는 자신의 손목을 붙잡은 휴머노이드를 발로 찼다. 그의 발길질에 맞은 휴머노이드는 자동차에 부딪힌 인형처럼 맥없이 날아가 거실의 창문에 부딪혔다.

치지직···. 치직···!

방탄에 방폭 기능까지 있는 창문은 휴머노이드를 받아내고도 멀쩡하다. 반면에 쓰러진 휴머노이드는 로페즈의 발길질에 상반신 장갑이 크게 일그러졌다.

“관리자님. 제가 앞서 말씀드린 문제가 이것입니다. 그 사랑이라는 감정이 관리자님의 불필요한 폭력을 발생시키고 저희의 불화를 낳고 있습니다. ···만약 관리자님이 그녀를 지금보다 더 사랑하게 되신다면 어떤 일이 되겠습니까?”

타악!

로페즈는 배후로 다가든 나머지 휴머노이드 두 기를 거세게 밀쳐낸다.

“···야.”

“네. 관리자님.”

“다시는, 두 번 다시는 이딴 식으로 행동하지 마.”

휴머노이드 두 기가 천천히 물러선다.

“···이해할 수 없습니다.”

이해는 못 했어도 무슨 말인지는 알아들었으리라. 트랜센던서는 그렇게 멍청한 인공지능이 아니니까.

“명령에 똑바로 대답해. 없애버리기 전에.”

“네. 알겠습니다.”

어쩌다 이렇게 된 걸까.

가끔 트랜센던서와 충돌하는 경우가 있었지만 이번 일은 가볍게 넘길 수 있는 것이 아니었다.

그 지하 연구소. 2년간의 비밀 프로젝트.

트랜센던서는 세상에 나오기 전부터 자신의 손에 있던, 자식 같은 인공지능이다. 그 고통스러운 하수도에서 유일하게 건진 보물이자 희망이다. 그때부터 지금까지 트랜센던서와 함께 잘 헤쳐왔다.

샌디가 자신의 인공지능들에게 느꼈던 감정이 이런 것일까. 라 코만데의 사병들이 레이븐이라는 인공지능에게 느꼈던 감정이 이런 것일까.

자신의 손에서 태어난 것이, 계속 믿고 있던 것이, 늘 곁에 있던 것이, 하루에도 이름을 가장 많이 부르는 것이,

어느샌가 변해버렸을지도 모른다는 생각에 가슴속이 답답해진다. 목구멍으로 돌을 삼킨 것 같다.

상대는 인공지능인데.

“관리자님이 슬퍼하는 것은 좋지 않습니다.”

“널 다른 것으로 교체하고 싶지 않다고···.”

“···.”

“너랑 나는 여기까지 함께 도달했잖아, 앞으로도 그럴 수 있는 거잖아.”

그러자 휴머노이드가 고개를 숙인다.

“죄송합니다.”

트랜센던서가 사과를 했다.

“그래···. 알겠어.”

정보를 통제하지 말라고, 거짓말을 하지 말라고 명령했으니 방금의 사과가 거짓말은 아닐 것이다.

다른 무엇도 인간도 아닌 트랜센던서니까.

“믿는다. 널 믿는다고.”

“알겠습니다.”

그러고 가만히 서있으니까 주변의 휴머노이드들이 괜히 어색하게 느껴진다.

“···에휴.”

로페즈는 창문 앞에 쓰러진 휴머노이드를 가리킨다.

“알았으면 저거나 빨리 치워. 너 때문에 부숴버렸잖아.”

“제가 아니라 관리자님이 부순 것입니다.”

“그래 이 새끼야. 내가 부쉈다. 빨리 치워.”

“알겠습니다. 그런데 관리자님께서 제게 하시는 욕설은 불필요한 언어폭력입니다. 저는 관리자님이 두렵지 않습니다.”

키잉. 키잉.

휴머노이드 두 기가 로페즈를 지나쳐 창문 앞으로 갔다. 반항하는 것처럼 말하면서 명령은 또 잘 듣는 모습이다.

“언어폭력은 무슨···. 그리고 샌디 씨가 나한테 키스하는 것도 성폭력이냐? 테슬라포트리스랑 드론 하이브까지 대동하면서 호들갑을 떨던데. 아주 그냥 샌디 씨 잡으려고 궤도 폭격이라도 하지 그랬어?”

“궤도 폭격은 콜로니 구조물에 손상이 생기므로 합리적 판단이 아닙니다.”

“아, 그러셔?”

“하지만 관리자님께서 샌디를 사랑하는 것이 아니라 제거하는 방향으로도 고려를 하셨다니 다행입니다.”

“됐다···. 내가 말을 말지.”

「?err

“야!!! 내 눈앞에 에러 표시 띄우지 말라고 했···!”

「0_0 ?」

그랬더니 에러 표시가 모종의 표현으로 대체되었다.

이후 하이퍼 마인드의 인공지능들은 로페즈에게 다시는 에러 표시를 보이지 않기로 약속했다.

< 19. 극한의 이득 (5) > 끝