80화

“인공지능이라..”

마이클은 회한 어린 표정을 지었다. 그는 인공지능을 단순한 도구쯤으로 생각했다. 하지만 강현이 메뉴얼로 적시했던 것처럼 인공지능은 매우 섬세한 존재였다. 결코 일반 도구 다루듯이 할 수 없는 것이었다. 만일 마이클이 지성과 인간성의 관계에 대해서 진지하게 생각을 해 봤다면 인공지능의 이론 설계 단계를 결코 대충 지나가지 않았을 것이다.

마이클은 연구원이 작성한 보고서에 자신 역시 사인을 하고 정부에 제출했다. 그리고 곧 이번 사태에 대한 청문회가 열렸다.

청문회 참고인으로 강현 역시 소환 되었다.

[참고인에게 질문하십시오.]

사회자가 입을 열었다. 청문회에 참가한 하원의원 한 명이 강현에게 질문했다.

[참고인은 이번 사태를 예측할 수 있었습니까?]

강현은 고개를 저었다. 이번 사태는 시기가 맞아 떨어져 생긴 일이었다. 제우스가 폭주를 일으킨 그때 무인 병기의 무장 가동 실험이 없었다면 단순한 회로 폭주로 하드웨어를 포맷 하는 수준의 일로 그쳤을 것이다.

[전혀요. 이번 일은 우연이 겹친 불행한 사고라고 생각합니다.]

[그런가요? 차후 이런 일이 또 발생할 수가 있을까요?]

[확률은 있습니다만 로또에 당첨될 확률보다 적을 것이라고 추측됩니다.]

[인공지능의 위험성이 드러났는데 어떻게 생각하시나요?]

[이번 사태를 조기에 해결한 것 역시 인공지능입니다. 결국 책임은 사람에게 있는 것이죠.]

[이미 존재하는 인공지능이 이번 사태처럼 폭주할 수도 있을까요?]

[….. 가능합니다.]

이번 질문에는 강현이 대답하기까지 약간의 망설임이 있었다. 솔직하게 대답해야 할까 말까 고민하던 강현이 결국에는 사실대로 대답했다.

가능성은 언제나 있었다. 인공지능의 능력은 뛰어나지만 논리적인 사고 과정으로는 모든 것에 대처할 수 없었다. 현실은 대체적으로 논리적인 인과 관계로 작동하나 꼭 그렇지 않은 일도 있고 대부분은 그런 일은 큰 영향을 끼치는 문제로 드러난다. 그러니 거짓말을 이용해 손바닥으로 하늘을 가리는 짓은 얼마가지 못하는 것이다.

웅성 웅성.

세기의 천재가 인공지능의 위험성을 인정하자 방청객들이 웅성댔다. 그렇다면 인공지능을 사용하지 말아야 하는가?

이번에는 공화당의 하원의원이 질문을 했다.

[그럴 가능성이 있다면 인공지능은 위험한 것입니까? 지금 미국 첩보의 핵심인 인공지능 아즈락이 폭주한다면 대처 방법은 있나요?]

[사람이 만드는 것은 모두 양면성이 있습니다. 자동차는 편리한 이동도구지만 강력한 흉기가 되기도 하죠. 인터넷은 인간에게 엄청난 자유를 부여해 주었지만 대신 개인정보의 보안이란 중요한 이슈를 던져 주었습니다. 인공지능 역시 마찬가지입니다. 잘못하면 커다란 악영향을 끼치지만 잘만 다루면 인간에게 많은 편의성을 가져다 주죠.

물론 위험성은 언제나 잠재되어 있습니다. 하지만 그 위험성을 줄이는 방법은 있죠. 더 많은 인공지능이 하나의 대안이 될 수가 있습니다.]

[더 많은 인공지능이라니요?]

하원의원은 강현의 말을 이해하지 못했다. 안그래도 아즈락의 처분에 대한 정치적인 의견이 조율 되고 있는데 골칫거리를 더 늘리는 것이 방법이라니.

[인공지능은 도구적으로 사용되지만 그래도 인공지능입니다. 하나의 자아라고 할 수 있죠. 전자세계에게 인간보다 강력한 힘을 발휘하는 하나의 인격체라고 생각한다면 대처 방법은 매우 간단하게 생각할 수 있습니다. 바로 그 인격체를 견제할 수 있는 또 다른 인격체를 만드는 것이죠. 기술적 방법으로 문제를 해결하는 것이 아니라 정치사회적 방법으로 문제를 해결하는 것입니다.]

[...... 그럼 기술적 방법으로는 문제를 해결할 방법이 없습니까?]

[집에서 키우는 강아지가 말썽을 부리는 것을 완전히 막을 수 있습니까? 지금 개발된 인공지능은 인간의 말을 그저 아무런 생각없이 수행하는 로봇이 아닙니다. 자율적으로 사고하여 받은 명령을 효율적으로 수행하는 하나의 주체죠.]

강현의 말에 청문회에 참석한 사람들은 아연했다. 지금까지 그들이 가지고 있던 상식과는 완전히 달랐던 것이다.

[그, 그럼 아즈삭 시리즈가 하나의 인격체라는 말입니까?]

[아즈삭의 설계 이념 중 하나가 전자 세계에서 살아가는 생명체라는 것입니다. 그러니 그렇게 생각해도 무방할 것입니다.]

이게 어떻게 된 것일까? 아즈삭은 단순한 인류를 위해 만든 인공지능이 아니라는 것인가?

[박사. 그렇다면 아즈삭 시리즈가 인간을 공격할 가능성이 있습니까?]

[그렇게 인격을 짤 수도 있습니다. 그렇게 되면 사상 최악의 괴물이 되겠죠.]

[…. 그, 그럼 왜 정부에서는 아즈삭을 도입한 겁니까?! 아, 아니 그전에 왜 박사는 그런 사실을 미리 경고하지 않은 겁니까?]

[세상 어느 미친 놈이 사람을 죽이는 것이 지상 명제인 인공지능을 짜겠습니까? 그리고 또 저는 분명히 아즈삭 시리즈를 판매하려는 당국에 설명했습니다. 아즈삭은 단순한 인공지능이 아니며 연구용이라고요.]

[하아.. 그럼 강현 박사가 관리하는 아즈삭은 폭주할 위험이 없습니까?]

[제가 관리하는 한 그런 일은 없습니다.]

[어떻게 그렇게 단언할 수 있습니까?]

[아즈삭은 인간에게 관심이 없으니까요. 아즈삭이 관심을 보이는 것은 저의 원활한 연구 수행입니다. 아즈삭의 자아를 구성하는 핵심 명제가 그렇게 짜여 있어요.]

[…. 만일 박사의 연구가 방해 받는다면 폭주할까요?]

[그러지는 않을 겁니다. 제가 가만히 있지 않을테니까요. 방해 요소는 제거되고 아즈삭이 폭주할 이유는 없게 됩니다. 이것이 제가 단언하는 이유입니다.]

그 자신이 가만히 있지 않는다... 어찌보면 인공지능의 폭주보다 더 무서운 말이었다.

질문을 하던 의원은 슬쩍 화제를 바꾸어 해결책을 물었다. 방금 강현의 발언은 무척이나 해석에 따라서 오해를 살 위험이 무척 높은 말이었다.

[그럼 아까 말씀하신 해결책은 구체적으로 어떤 것입니까?]

[더 많은 인공지능을 이용해서 역할 분담을 시키는 것입니다. 그 모든 인공지능이 동시에 폭주할 리가 없으니 만일의 사태에 빠르게 대응할 수 있죠. 다만 문제는 예산과 인공지능들 간의 관계 설정을 어떻게 해야 하는지 인문사회학적인 깊은 연구가 필요합니다.]

[기술적으로 완전히 통제 가능한 인공지능은 불가능합니까?]

[글쎄요. 그런 인공지능은 인공지능이라고 하기보다는 대량의 데이터 베이스를 이용한 단순한 응답 시스템처럼 되겠죠. 돌발 상황에서는 인간의 판단을 필요로 하는 것으로 말이죠. 물론 지금 있는 개발툴로 그런 인공지능을 만드는 것이 불가능하지는 않지만 정말로 많은 노력과 섬세한 작업이 필요할 겁니다. 아니 인공지능의 설계 단계에서는 공학자보다는 인문사회학자가 더 적합할 지도 모르죠.]

그렇게 강현의 질답 시간은 마무리 되었다.

청문회를 통해 진실은 충분히 규명되었다. 정치적인 이해를 섞기에는 시민들의 여론이 너무 좋지 않았기고 증인과 참고인들 모두가 성심성의껏 진실하게 대답했기 때문이다.

그러나 가족을 잃은 이들이 그 정도에서 멈출리가 없었다. 그들은 자신의 가족들을 빼앗은 인공지능에 대한 개발 반대 운동을 벌이기 시작했다. 아니 그것을 넘어서 이미 있는 인공지능에 대한 폐기 운동을 벌이기 시작했다.

그들의 논리는 더 많은 인공지능으로 인공지능을 견제하는 방법보다는 문제의 원인인 인공지능 자체를 제거하는 것이 옳은 방법이라는 것이다.

그러나 그러한 주장은 보수주의자나 정부로서는 어이가 없는 일이었다. 군대가 있어서 전쟁이 나니 군대를 없애자는 주장과 동급인 것이다. 강현이 개발한 인공지능은 정보 보안의 중요한 축을 담당하고 있고 이미 수많은 크랙킹 공격에서 군 정보 시설, 은행, 증권시장 등 국가 공공기관의 데이터를 철저하게 보호하고 있었다. 이미 IT보안에서 강현의 아즈삭 시리즈는 없어서는 안되는 핵심 요소가 되었던 것이다.

그럼에도 불구하고 하원을 통해서 ‘인공지능 규제를 위한 방안’이 통과되었다. 인공지능의 위험성이 확고하게 드러났으니 국가에서 허락받은 자들만이 인공지능을 설계, 생산할 수 있도록 하는 허가제로 바꾸기로 한 것이다.

그리고 그를 위해 인공지능의 필수적인 하드웨어, 뉴로칩, SNP의 생산을 정부에서 규제, 관리, 감독하기로 했다. RNP야 강현이 아니라면 다룰 수 있는 이가 없으니 규제에서 제외되었다.

여기까지는 강현에게 별다른 영향이 없었다. 그러나 그 이후는 매우 불쾌한 일의 연속이었다.

[천재가 만든 개발품에 대한 재조명이 필요.]

[언제 최악의 발명품을 만들지 모르는 악마적 두뇌.]

[현재 그는 무엇을 연구하고 있나?]

여론은 강현의 연구 활동에 노골적인 관심을 드러내었다. 이전까지가 어떤 놀라운 성과물을 내놓을지에 주목했다면 이번에는 어떤 치명적인 기술을 만들어 낼 지에 주목했다. 그편이 자극적인 기사를 좋아하는 이들에게 무척이나 잘 먹혀들었다. 영웅의 흠집만큼 사람들의 관심을 끄는 것도 없었으니 말이다.

강현은 억울했다. 언제나 기술은 양면성을 가지게 된다. 문제는 기술이 아니라 그것을 다루는 사람에게 있었다. 기술 자체의 문제가 아니었다.

물론 자신도 이번 사태에 도의적인 책임을 느꼈다. 그래서 부상자와 유가족들을 돕기 위해 거액을 기부했다.

그럼에도 언론은 자신을 물어뜯기 위해서 이렇게 달려들었다. 자신의 연구과정은 그 동안 극비였고 알려지지도 않았다. 이런 식으로 여론이 자신의 연구 과정에 대한 감시의 명분을 만들어 낸다면 자유로운 연구 활동은 제약 받을 것이 분명했다.

그리고 그것은 강현의 심기를 불편하게 했다.

“박사님. 요즘 괜찮아요?”

샐리가 샐러드를 포크로 찍어 입에 넣는 강현에게 걱정스런 목소리로 물었다. 그녀는 인턴을 하는 동안 잭이 하던 일을 했는데 바로 식사를 잊어 먹기 일쑤인 강현을 식당으로 데려가는 것이다.

“괜찮아요.”

샐리의 걱정 어린 물음에 강현은 담담하게 답했다. 그리고 정말로 담담했다. 기분이 나쁜건 기분이 나쁜 것이고 대처는 대처다. 냉정하게 사고해야 상황을 파악하기 쉬웠다.

“시간이 지나면 모든 것이 괜찮아질 거에요.”

“그렇겠죠.”

“그러니까, 이번 주말에 저랑 영화보러 가요.”

“싫어요.”

샐리는 강현에게 졸랐지만 그는 끝내 영화관에 가는 것을 거부했다. 타협책으로 샐리는 그럼 연구실의 프로젝터를 이용해 영화를 보기로 약속을 하고서는 어떤 DVD를 빌릴까 고민했다.

한편, 식사를 마치고 연구실로 돌아온 강현은 아즈삭에게 어떤 일의 보고를 받고 있었다.

[상원 의원인 잭퍼슨과 하원 의원인 니렐이 은밀한 만남을 가졌습니다.]

잭퍼슨과 니렐은 모두 공화당 출신이었다. 이 둘의 만남은 잭퍼슨을 감시하던 중에 알아냈으며 잭퍼슨을 감시한 이유는 그가 모 신문사 사장과 은밀한 만남을 가졌다는 정황증거를 발견했기 때문이었다. 그리고 그 신문사는 소위 우파적인 메시지를 전달하는 언론사였는데 이번에 강현의 연구활동에 대한 투명성의 필요를 칼럼으로 개시했었다.

아즈삭은 그런 신문사의 활동이 마음에 들지 않았다. 강현의 연구 활동에 방해된다면 언제든 처낼 생각으로 사주에 대한 정보를 은밀하게 모으던 중에 그가 정치권과 잦은 접촉을 가진다는 사실을 발견했다.