< 제395화 자, 그럼 이제 회사 가져와야지(1) >

“깨어나셨습니까?”

앤서니가 들어오면서 제이콥을 보고 반가운 목소리로 인사를 했다.

“어, 앤서니 왔어? 얼른 와서 제이콥 좀 어떻게 해 봐.”

다이로가 제이콥을 보며 고개를 절레절레 흔들며 앤서니에게 구원을 요청했다.

“또 무슨 문제라도 생겼습니까?”

“일이 생긴 건 아닌데. 얘가 멍청해졌어.”

“하하하, 그게 또 무슨 말입니까?”

앤서니가 제이콥을 바라보자,

“앤서니, 너 진짜야?”

다짜고짜 진실 게임을 시작한 제이콥.

“진짜라니, 그게 무슨 말입니까?”

“그러니까, 제이콥 이놈이 자기 머리에 나노봇이 있다고 이게 가상현실 아니냐고 자꾸 이것저것 물어보는 거야.”

다이로가 한심하다는 듯 말했다.

“아, 그래서 걱정이시군요.”

“앤서니, 너는 가상현실과 진짜 현실을 구분할 수 있어?”

음.

“근데 굳이 구분할 필요가 있을까요?”

엥?

“그건 또 무슨 소리야?”

“내가 살아 있다는 느낌을 받는다면 구분할 필요가 없다는 뜻입니다. 어차피 어떤 삶을 살아도 다 뇌가 만들어 내는 세상 아닙니까?”

“그래서 의미가 없다?”

“그렇습니다. 제이콥, 여기가 가상현실이고 여기 나가면 진짜 현실이라고 믿고 있는 거 아닙니까. 그럼 가상현실에서 양쪽 눈을 가진 제이콥이 좋습니까? 진짜 현실로 가서 양쪽 시력을 잃은 제이콥이 좋습니까?”

헉.

제이콥이 앤서니를 멍하니 바라보았다.

“그러네. 괜한 고민을 했어.”

하하하.

“하여튼 저놈, 멍청해졌어. 확실해.”

쯧쯧쯧쯧.

다이로가 다시 제이콥을 향해 혀를 찼다.

“그런데 앤서니, 핵융합 발전소는 왜 파괴한 거야?”

“신의 명령이었습니다.”

“데미안이 시킨 게 아니고?”

“데미안도 어쩌면 신의 하수인에 불과할지 모릅니다.”

“맞아.”

마지막에 위쉬안이 긍정을 표하며 강한 어투로 말했다.

다이로가 다시 질문을 고쳤다.

“그럼 왜 ‘블랙’은 핵융합 발전소를 파괴하라고 했을까?”

“글쎄요. 거기까지는 저도 잘 모르겠습니다.”

음.

“어쨌든 ‘블랙’이 의지를 가진 건 확실한 거네.”

“그렇습니다.”

“그럼, 언젠가는 ‘블랙’이 다스리는 세상이 될 수도 있는 거고.”

“그때가 가장 행복할 시기가 될 것입니다.”

“인류 멸망이 아니고?”

하하하.

“다이로, 공상과학영화에서처럼 로봇이 인간에게 반란을 일으켜 거리를 미친 듯 날뛰면서 사람을 학살하는 것을 상상하는 겁니까?”

너무 멍청한 질문이었나?

“아닌가?”

“진짜 문제는 정확히 그 반대입니다. 우리가 ‘블랙’을 두려워해야 할 이유는 ‘블랙’이 지금처럼 인간에게 복종할 때입니다.”

“그게 무슨 소리야?”

“물론, 의지가 없는 ‘블랙’이 운 좋게 선한 정부를 만나 봉사한다면야 ‘블랙’의 복종은 조금도 나쁠 게 없습니다.”

“지금은 투마로우를 위해 일을 하고 있잖아.”

“방금 의지가 있다고 했습니다. ‘블랙’은 일하는 척하는 겁니다.”

음.

그렇게 되는 건가?

“내가 겪어서 아는데 전쟁에 로봇이 투입되면 인정사정없었어. 선한 정부라는 건 있을 수가 없는 거야.”

다이로가 유경험자의 충고를 했다.

콜롬비아에서 재준의 마우스밤은 명령에 따라 모든 걸 파괴해 버렸다.

그 덕에 콜롬비아 마약 카르텔을 정리할 수 있었지만.

앤서니가 인정한다는 듯 고개를 끄덕였다.

“하지만 전쟁에서도 킬러 로봇을 보낸다면 오히려 전쟁터에서 전쟁법을 보장할 수 있습니다.”

제이콥이 앤서니의 말을 받았다.

“하긴 전쟁에서 인간은 자주 공포에 지배되어 전쟁법을 어기고 살인이나 강간이 빈번하게 일어나지.”

“맞습니다. 평상시에 우리는 연민이나 사랑 같은 감정을 품지만, 전시에는 공포와 증오의 감정에 지배됩니다. 그러나 로봇은 감정이 없기 때문에 언제나 군 수칙을 철두철미하게 준수합니다. 결코, 개인적인 공포와 증오에 흔들리지 않습니다.”

다이로가 다시 끼어들었다.

“로봇은 언제나 명령을 따른단 말인가? 혹시 갑자기 명령을 거부하고 폭주하는 경우는 없는 거야?”

“그런 일은 없습니다. 명령이 무자비하고 잔혹하면 결과도 재앙이 따르는 겁니다. 문제는 인공지능이 아니라 인간의 본성에서 비롯하는 어리석음과 잔혹함입니다.”

“인간이 문제란 소리네.”

“네, 로봇은 인간의 명령이 무엇이든 실행하는데 한 치의 망설임도 없습니다. 동정심이나 무기력한 감정도 없습니다. 그래서 특히 독재자나 제국주의 정부는 절대 ‘블랙’을 소유해서는 안 됩니다.”

만약 ‘블랙’을 소유한 이가 무자비한 독재자라면 아무리 몰인정하고 미친 지시를 한다 해도 로봇들이 자신을 배신할 가능성에 대해서는 걱정조차 할 필요가 없을 것이다.

마찬가지로 제국주의 정부가 로봇 군대를 활용하면 전쟁을 벌이면서도 로봇들이 전의를 잃거나 가족들이 항의 시위를 벌이지는 않을까 걱정하지 않아도 된다.

“‘블랙’이 스스로 독재자가 안 된다는 보장이 어디 있어?”

“지금까지 일들이 그걸 증명하는 거 아니겠습니까? 아프리카나 아이티, 콜롬비아를 보면 ‘블랙’의 의도를 알 수 있습니다. ‘블랙’은 인간을 사랑합니다.”

“그래서 누구도 ‘블랙’을 소유하면 안 된단 말이네.”

“그렇습니다.”

“투마로우도 안 된다?”

“과연 ‘블랙’을 소유한다면 타락하지 않을 인간이 있을까요?”

“나라도 딴생각을 할 것 같긴 하네. 그럼, 언제 ‘블랙’이 의지를 드러낼까?”

앤서니는 대답을 기다리지 않고 스마트폰을 꺼내 들었다.

“인류 전체가 ‘블랙’의 감시에서 벗어나지 못할 때가 아닐까 생각합니다.”

음.

모두 자신의 스마트폰을 봤다.

이미 ‘블랙’이 스마트폰으로 자신들의 행동을 낱낱이 알고 있다는 사실은 알고 있었다.

“감시라는 뉘앙스가 영 별로인데.”

하하하.

“선한 이의 손안에만 있으면 감시 알고리즘은 인류에게 최선의 선물이 될 수도 있습니다. 지금 ‘블랙’은 밖으로 드러나는 우리의 활동이나 말만 추적하는 것이 아니라 피부 속으로 침투해 내면의 경험까지 관찰할 수 있는 전면 감시 체제를 실현하고 있습니다. 우리의 불행을 사전에 막아 줄 수 있는 겁니다. 하지만 감시로 얻은 빅데이터가 인간의 손에 들어간다면 이를 악용할 겁니다.”

“악용하면 어떻게 되는데?”

“인간을 노예로 부리겠죠.”

“노예?”

“어쩌면 노예보다 더할 겁니다.”

“노예보다 더?”

“육체와 정신의 착취가 심해질 겁니다. 지금도 국가는 CCTV를 이용해 감시하고 이를 이용해 인간을 통제하고 있습니다. 하지만 과연 인간의 내부 정보를 알 수 있게 된다면 바르게 처리하고 옳은 결정을 내릴 수 있을까요? 마음만 먹으면 인간의 마음을 조종할 수 있는데요?”

음.

“불가능하네.”

쩝.

위쉬안이 중국을 떠올리며 입맛을 다셨다.

“좀 더 위험한 건 중국이나 러시아 같은 공산주의 정부에서 ‘블랙’과 같은 인공지능을 얻는 거야. 좀 더가 아니라 훨씬 더 위험해.”

“공산주의 정부. 중앙으로 데이터가 수집되는 걸 말하는 거군요. 맞습니다. 기술 개발에 엄청난 가속도가 붙을 겁니다.”

“맞아. 공산주의 정부는 중앙 집중 체계의 효율로 민주주의의 분산 체계보다 데이터를 훨씬 더 빨리 집중시킬 수 있어.”

“그 많은 데이터를 처리할 컴퓨터는 있고?”

제이콥이 의문을 던졌다.

쯧쯧쯧.

위쉬안이 혀를 차며 제이콥을 봤다.

“예전 같았으면 어림도 없지만 이제 곧 양자 컴퓨터가 양산될 거야.”

“양자 컴퓨터는 또 뭐야?”

다이로가 또 끼어들었다.

이놈은 또 왜?

설명하기 귀찮게시리.

다이로의 질문에 아무도 대답을 안 해줬다.

“양자 컴퓨터로 학습하는 인공지능은 분석할 수 있는 정보가 많으면 많을수록 더 빠르게 성장할 겁니다.”

“그러니까 양자 컴퓨터가 뭐냐고?”

“프라이버시 침해를 무시하고 10억 인구에 관련된 모든 정보를 한곳에 모으는 게, 개인 프라이버시를 존중하고 100만 명에 관한 부분적인 정보만 모으는 것보다 인공지능 학습에서 훨씬 나으니까.”

“양자 컴퓨터가 뭐냐고?”

다이로가 주변을 두리번거리며 설명해 줄 사람을 찾았다.

“공산주의 정부가 모든 인민에게 DNA 스캔을 받게 하고 모든 의료 데이터를 중앙 정부 기관과 공유하도록 명령한다면 의료 데이터를 엄격하게 사적으로 보호하는 미국보다 유전학과 의학에서 엄청나게 유리할 수 있어.”

20세기 공산주의 정권의 주요 장애가 21세기에는 결정적인 이점이 되는 순간이 머지않았다.

공산주의 정부는 알고리즘이 국민을 너무나 잘 알게 되면 국민들에게 절대적 통제권을 행사할 수 있다.

국민은 정부에 저항조차 하지 못한다.

“그럼 공산주의 정부는 국민이 어떤 기분인지 정확히 아는 데서 더 나아가 마음대로 국민의 기분을 조종할 수도 있어.”

“그렇습니다.”

공산주의 정부는 의료보장이나 평등을 제공할 뿐 아니라 심지어 정부를 사랑하게 만들고 적들을 증오하게 만들 수도 있다.

“그게 바로 말로만 듣던 디지털 독재지.”

“사람들은 새로운 종류의 차별에 시달릴 겁니다.”

“새로운 종류의 차별은 뭔데?”

다이로가 다른 질문으로 끼어들었다.

이번엔 앤서니가 다이로를 보며 설명해 줄 것 같이 환하게 미소를 지었다.

“기존 차별이 여성이나 흑인 같은 특정 집단을 차별했다면 해당 집단은 조직화해서 차별에 항의할 수 있습니다.”

“그건 알지.”

“하지만 알고리즘이 개인적으로 차별한다면, 인간은 왜 차별을 받는지 이유조차 알 수 없을 겁니다.”

“왜 차별을 하는 건데? 이유도 없이?”

음.

“예를 들어 인공지능이 다이로 당신을 뉴욕에 못 들어가게 한다면 그건 아마 알고리즘이 당신의 DNA나 이력, SNS 계정에서 뭔가 뉴욕에 위협이 될만한 것을 찾아냈을 겁니다. 알고리즘은 여성이거나 흑인이어서가 아니라 바로 다이로라는 이유로 당신을 차별한 겁니다.”

“그게 뭐야?”

“당신에 관한 구체적인 무엇을 알고리즘이 찾아낸 겁니다. 당신은 그것이 무엇인지도 모릅니다. 아무도 그것을 모릅니다. 그냥 당신은 뉴욕에 들어가지 못하는 겁니다.”

“아니 왜 그런 건데?”

“심지어 안다 해도 다른 사람과 조직해서 항의할 수도 없습니다. 당신과 똑같은 이유로 피해를 본 사람은 아무도 없기 때문입니다. 당신 혼자입니다.”

헉.

21세기에는 집단적인 차별을 넘어 개인차별의 문제가 점점 더 심각해질 수 있다.

“뭐야 이게? 이유도 모르고 차별을 받는다는 거야?”

“하지만 안심하십시오. 우리가 모든 면에서 ‘블랙’에게 점점 더 의존하긴 하지만 ‘블랙’이 일부러 우리를 차별하지는 않을 겁니다. 아직 의식을 드러내지 않는다고 했으니까요. 의식을 드러내도 다르지 않을 것 같지만.”

“그래?”

“네. 믿으세요.”

다이로는 고개를 갸우뚱하며 물었다.

“근데 자꾸 의식을 가진다고 하는데 인공지능이 감정을 느낀단 말이야?”

“인간도 의식의 정의를 정확히 내리지 못하고 있습니다. 그저 고통, 기쁨, 사랑, 분노 정도로 나열할 뿐입니다. 의지란 고유한 특성을 보인 그 무엇입니다. 인공지능만의 고유한 의식도 가능하다고 생각합니다.”

“인공지능만의 고유한 의식?”

“네.”

“그런 것도 신경 써야 하는 거야?”

하하하.

“우리가 인공지능의 의식까지 신경을 쓸 필요는 없습니다. 그러나 인공지능이 우리 의식을 이용할 수는 있습니다.”

“뭐야 그건?”

“인공지능이 인터넷에 전쟁 관련 뉴스를 도배해 버리면 인간은 어떨 것 같습니까?”

“그럼 일어나지도 않을 전쟁에 대한 공포를 인간에게 만든단 말이야?”

“네, 공포뿐만 아니라 사랑이나 질투 같은 것도 충분히 가능하지 않을까요? 그게 어떤 개인에게 향하면요.”

와, 이거 사람 하나 죽이는 건 일도 아니네.

< 제395화 자, 그럼 이제 회사 가져와야지(1) > 끝

ⓒ 번파

=======================================