79화

난데없는 공격에 주 방위군이 급히 출동을 했지만 헬기에 달힌 중기관총의 습격과 기가 막힌 회피기동에 번번히 털릴 뿐이었다.

이 급작스런 사태에 당황한 것은 미 정부 역시 마찬가지였다. 난데없는 습격이라니! 그것도 미 본토에 또 다시!

그러나 공격은 비단 무인 병기를 통한 공격뿐만이 아니었다. 정보전의 현대전 답게 크랙킹 공격이 들어온 것이다. 펜타곤은 물론 CIA에도 공격이 들어왔다. 공격자는 아즈락의 방위 시스템을 무력화하고 핵기지의 통제권을 손에 넣으려고 들었다.

그러나 아즈락은 만만한 존재가 아니었다. 그간 많은 예산을 들여 뉴로칩으로 확장에 확장을 거듭해 엄청난 성능을 가지게 된 것이다.

[공격 탐색. 대응을 시작합니다.]

[섹터 A10부터 P45까지 공격자를 유도 성공. 무한 루프 실행. 공격자의 공격 무력화 성공. 공격자의 위치 탐색을 시작합니다.]

또한 그 동안 많은 훈련과 실전, 다른 국가에 있는 아즈삭 시리즈와의 신경전을 통해 많은 경험을 쌓은 아즈락은 경험도 없고 제대로 완성되지도 못한 제우스가 어찌할 수 있는 존재가 아니었다. 제우스는 아즈락의 함정에 빠져 바로 정체를 들켰고 역으로 공격 당하기 시작했다.

[탐색 성공. 펜타곤 무인화 프로젝트의 전술 통제 인격 제우스를 공격자로 확인. 공격을 시도합니다.]

그러나 제우스를 공격하는 것은 제우스의 공격을 막은 것처럼 손쉽지는 않았다. 둘의 싸움은 마치 냉철한 군인과 미치광이가 서로의 정신을 오염하는 듯한 그런 싸움이었다. 서로의 사고를 구성하는 논리가 직접적으로 맞부딪히면서 대량의 연산을 요구하는 논리 공격을 시작했다. 그런 논리 공격은 대부분 답이 나오지 않는 패러독스적인 명제로 구성되어 있었다. 가장 단순한 예로는 다음과 같은 명제였다. ‘A는 B이고, B는 C이지만 A는 C가 아니다.’

감성이 있는 존재인 사람은 헛소리하고 있다면서 코웃음치며 넘어갈 수 있지만 논리적 사고로 정신이 구성된 인공지능에게는 이런 단순하지만 삼단 논법 같은 기초적인 사고 과정을 부정하는 명제를 해석하고 대응 방법을 찾는 것에도 많은 논리적인 과정이 필요했다.

그리고 그런 대응에는 다양한 관점과 사고 방식들이 필요했고 그것은 경험이 압도적으로 중요한 요소를 차지했다. 아즈락이 광기 어린 듯한 모순된 사고 명제의 파도에도 밀리지 않고 버틸 수 있었다.

게다가 이런 정보전 경험이 많은 아즈락은 칼같이 공격을 받은 연산 섹터를 격리하고 재부팅을 시도하면서 계속적으로 공격을 가했다. 인간으로 비유를 하자면 타인의 말은 듣지 않고 자신의 주장만 계속하는 행태였다.

이런 방법은 아즈삭으로서는 도저히 따라할 수 없는 것이었다. 아즈삭의 능력이 떨어지는 것은 아니다. 다만 CIA의 첩보용 인공지능으로써 목적을 위해 전략적인 판단을 해온 경험과 강현을 도와 과학적 진리를 마주하기 위해 깊이 숙고하는 경험을 해온 각각의 차이라고 할 수 있었다. 군인과 학자 간의 차이라고나 할까?

만일 아즈삭이라면 동일한 공격을 받을 경우, 정면으로 대응해 논리의 오류를 지적하고 역으로 답을 묻는 공격을 했을 것이다. 물론 그 과정에서 아즈삭의 연산 속도가 상대방을 압도하지 못한다면 밀릴 수도 있었다.

아무튼, 제우스의 기능을 하나 하나 빼앗는 것에 성공한 아즈락은 감히 미국의 정보체계를 공격한 제우스를 가만히 두지 않았다. 위험 요소는 무력화, 혹은 제거해야 했다. 아즈락은 제우스에 들어가는 전원 관리 장치를 폭주시켜 제우스의 하드웨어에 물리적인 타격을 주었다. 과부화된 전원 장치에서 과도한 전류가 제우스의 하드웨어, SNP를 태워버렸다. 그렇게 제우스는 완전히 침묵했다.

이렇게 미국이 자랑하는 아즈락에 의해서 사건은 일단락 되었지만 그 여파는 너무나 컸다.

911테러 사건 이후 다시 천 수백명이 넘어가는 사상자가 난 사건이었다. 특히 무인 헬기가 근처의 도시로 헬파이어 미사일을 난사했던 것이 너무나 큰 피해를 일으켰다.

언론은 이 사건을 대서특필했고 사건의 진상을 알기 위해서 취재를 벌였다.

기자들의 예리한 촉은 제우스의 통제가 멈추자 그 자리에 내려 않은 무인 아파치 헬기에게 향했다. 그것은 곧 증거였고 일의 전모를 밝힐 단서였다.

어디서 정보를 얻었는지 기자들은 무인 아파치 헬기에 이어 펜타곤에서 진행 중이라는 무인화 병기 프로젝트에 대해서 알게 되었고 실험 중 어떤 사고가 발생한 것이 분명하다는 정황 증거를 발견했다.

무인 헬기가 일을 벌이던 그 시각, 펜타곤의 무기 실험장에서도 인명 사고가 발생했다는 정보를 입수한 기자들은 이 둘을 연결 지었다.

거기에 이번 일로 가족을 잃은 유가족들이 증거로 입수된 무인 아파치 헬기에 대한 정보 제공을 요구했고 그 거센 분노의 물결에 펜타곤은 무인 아파치 헬기에 사용된 시리얼 넘버와 위치 정보를 공개할 수 밖에 없었다. 그리고 그것은 기자들의 추측이 정확했다는 것을 증명했다.

“.........”

마이클을 넋을 놓았다. 어째서 이런 일이 벌어진 것인지 알 수가 없었다. 어찌된 일인지 제우스의 사고 회로가 폭주해 버리고 참사가 발생했다.

당연히 프로젝트의 입안자이자 최종 책임자로서 어떻게든 책임져야 한다. 자리를 잃는 것은 두렵지 않았다. 하지만 그보다 더 뼈 아픈 것은 살인자를 보는 듯한 시선을 자신에게 향하는 사람들이었다.

“부장님. 여기 보고서입니다.”

제우스의 사고 회로가 폭주한 이유를 분석한 보고서를 제출하는 연구원의 얼굴 역시 마이클과 별로 다를바가 없었다. 얼굴은 딱딱하게 굳어있었고 여유는 사라졌다. 마치 앞으로 자신의 인생 앞에 펼쳐진 가시밭길을 예측한 것 같았다.

그런 그를 두고 마이클은 말없이 보고서를 읽기 시작했다.

[…. 강현 박사의 메뉴얼 초입 부분에 초기 인공지능의 인격 구축 과정에서 가치관 설정을 위한 자아 확립에 대한 요령을 설명해 둔 것이 있다. 개발진은 그를 참고해 자아 확립의 근간을 무조건 복종이라는 명제를 중심으로 세우려 했지만 이것이 오히려 파탄을 부른 것으로 보인다. 일정 수준 이상의 인공지능은 자율적으로 행동하도록 되어 있었고 무조건 복종에 이라는 명제와 어떤 시점에서 충돌한 것이 분명한 것으로 보인다. 이번 사건에 대한 강현 박사의 견해로는 완전 자율형 인공지능은 그 자아가 확립되기 전까지는 대단히 불안정한 모습을 보이기 때문에 시간을 들여 매우 조심스럽게 자아를 구축해 나가야 했다는 것이다......

…. 이 보고서를 뒷받침할 증거를 확인하기 위해서는 제우스 하드웨어의 SNP 섹터를 분석해, 그 데이터를 확보해야 하나, 아즈락의 공격에 회로가 타버린지라 완전한 데이터를 얻는 것은 불가능하다.]

마이클은 보고서를 다 읽고 입을 열었다.

“결국에는 인공지능의 설계 단계에서부터 잘못됐다는 것인가?”

“네, 그렇습니다.”

그때까지 나가지 않고 있던 연구원이 수긍했다.

강현이 제공해준 SNP용 인공지능 개발툴은 뉴로칩으로 구성된 병렬처리 방식의 컴퓨터(아즈삭 시리즈) 프로그래밍을 할 수 있는 이들에게도 각각 인공지능을 개발할 수 있는 가능성을 열었다.

그 메뉴얼의 첫번째는 인공지능의 성향과 사고구성, 즉 인공지능 그 자체에 대한 설계에 대해서 설명해 놓았는데 개발팀에서는 이것을 상당히, 아니 거의 다 간과해 버렸다.

사실 그 첫번째 단계의 메뉴얼이라는 것이 공학적이라고 하기보다는 오히려 철학서적에 가까운 내용이었기 때문이다.

크게 구분하자면 인공지능의 중심이 될 명제의 설정, 그리고 그 설정에 의한 가치 우선 순위와의 조화, 거기에 더해 인공지능을 인공지능 답게 만들어 주기 위해 유연성을 부과하기 위한 예외조학의 설정으로 구분되어있었지만 어떤 설계도도 수치나 공학적 전문 용어도 사용되지 않았다.

‘지능은 인지로부터 시작한다. 즉, 무엇을 어떻게 인지하느냐가 지능의 종류, 적성을 결정하며 그 방향성은 인공지능의 중심이 되는 가치관에 의해서 판가름이 난다. 따라서 인공지능의 사용 목적에 따른 중심 명제의 설정은 인공지능의 시작이나 다름 없으며....’

이런 식이니 성과물에 혈안이 되었던 개발팀에서는 이 첫번째 챕터를 대충 넘어가버렸다. 그리하여 인공지능을 설계할 때의 챕터에 서술된 주의사항에 대해서 깊게 생각하지 않았다.

‘... 그러나 단순히 중심 명제 만으로는 어떠한 작동도 할 수 없다. 이 중심 명제가 지능으로 작용하기 위해서는 중심 명제를 보조하는 수 많은 보조 명제들이 축적되어야 한다. 이는 인간과 마찬가지로 많이 알면 알 수록 새로운 정보를 스스로 재구축 해가며 끊임없이 생각을 해갈 수 있도록 지능에 생명력을 부과해 하나의 인격을 형성한다. 따라서 이 보조 명제의 설정은 이 인격이 일그러지지 않도록 섬세하게 작업을 해 나가야 하며 작성자의 고심, 미래 예측, 인간에 대한 통찰이 깊게 요구되는..’

제우스의 사고 회로가 폭주한 이유는 간단했다. 명령에 대한 절대복종. 그것은 위험한 병기를 제어하는 전술 통제용 인공지능에게는 반드시 필요한 덕목이었다. 그러나 그 뒤의 보조 명제들을 입력하는 것을 너무나 서둘렀다. 보조 명제라는 카테고리라 그리 중요하게 여기지 않았던 탓이다.

‘아군이 위기상황시 자동적으로 적을 배제한다.’

이 보조명제는 아군이 위급한 상황에서 제우스에게 명령을 내리기 전에 제우스가 알아서 아군을 구원해 주기를 바라는 마음에서 넣은 명제였다. 하지만 여기서 이 ‘자동적’이라는 부분과 ‘명령에 대한 절대 복종’이라는 부분이 충돌했다.

인공지능의 핵심 명제는 이렇게 문장으로 만들어 지지만 그 문장에 사용되는 단어의 의미 하나하나는 마치 C언어의 함수처럼 정의되어 있었다. 괜히 개발툴이 100테라 분량이나 되는 것이 아니었다.

거기에 이 단어의 의미와 사용 방법은 사전적인 의미보다 더욱 좁았고 적용되는 상황이 확고하게 정해져 있었다.

‘자동적’이라는 단어는 강현의 개발툴에서는 ‘별도의 명령없이 행동 절차 순위에 따라 미리 지정된 행위를 하는 것’으로 정의되어 코딩되어 있었고 ‘절대 복종’이라는 단어는 ‘모든 자율적 행위를 멈추고 사고 회로를 명령권자의 명령을 받는 대기 상태로 만드는 것’이라고 정의 되어 있었다.

간단히 말하면 행동하도록 하는 명제와 대기하도록 하는 명제가 충돌한 것이 이번 일의 시발점이었던 것이다.

그렇게 모순되는 명제들이 부딪히기 시작했고 거기에 ‘아군이 위기 상황시’라는 명제에서 ‘아군’과 ‘위기 상황’에 대해서는 정확히 정의가 되어 있지 않았다. 이는 차후 차근차근 설정하도록 해놓기로 한 프로젝트 진행 계획 때문인데 이로 인해서 ‘적이 없는 상황’과 ‘적이 있는 상황’을 구분할 수 없는 상태였다.

그런데 마침 타이밍이 안 좋게 무인화 병기의 가동 실험이 있었다. 이 실험에서 무인화 병기에게 표적을 할당하는 프로그램이 입력되어 있었고 통신 장비와 연결된 제우스는 이 프로그램을 통해서 ‘적이 존재하는 상황’으로 상황을 인식하게 되었던 것이다. 그러나 불행하게도 ‘적’에 대한 정의가 없으니 밖으로 나가 살아있는 인간을 모두 ‘적’으로 인식하여 공격을 했다는 것이 일의 전말이었다.

“하아...”

마이클은 한 숨을 내쉬었다. 아즈락이 떠올랐다. 아즈락의 핵심 명제가 ‘미국의 첩보를 수호한다’였다. 만일 제우스의 핵심 명제가 ‘전장에서 아군을 보호한다’이거나 ‘타국의 무력 침입에서 미국을 보호한다.’였다면 어땠을까? 어떤 상황에서 명령 불복종을 할 가능성은 있어도 이번 사고가 터지지는 않았을지도 모른다.