안보혁신

안보혁신

평화와 안정을 증진하기 위해서는 신기술의 관리 강화가 필요하다

데이빗 샤나한 대령 (예편) 다니엘 K 이노우예 아시아 태평양 안보 연구소

은 기술 전문가들은 다음 10년 동안 기술 발전이 연이어 이루어질 것으로 예측하고 있다. 기존 기술을 새롭고 혁신적으로 사용할 수 있는장벽이 낮아지면서 전례 없는 비대칭적상쇄 기회가 이미 등장하고 있으며, 이를 통해 지역 파트너, 라이벌, 비국가 활동세력이 안보 및 개발 목표를 달성하고 일부 세력은 악의적인 목적으로도 이용할 수 있게 됐다.

미국 국가정보장실이 발행한 “진보의 역설” 등의 보고서에서 미래학자들이 상세히 예측한 것처럼 정보, 인공지능(AI), 에너지, 재료 제작, 생물공학, 첨단 의료 같은 분야에서 수많은 발전이 이루어질 수 있다.
세계경제포럼의 클라우스 슈밥이 자신의 저서 ‘제4 차 산업혁명’에서 기술한 것처럼 물리, 디지털, 생물분야의 경계가 모호해지고 기술 융합이 늘어날 것이다.

미국 방위고등연구계획국(DARPA)은 새로운 상황에서 습득한 정보를 적용하여 신뢰성을 높이는
기계를 개발하고 있다.

이러한 발전이 약속하는 세계의 매력은 스페이스 X, 테슬라의 엘론 머스크, 엑스프라이즈를 후원하고 ‘풍요: 미래는 당신 생각보다 밝다’를 공동 집필한 싱귤래리티 대학교 공동 설립자 피터 디아만디스 같은 경영 및 첨단 기술 전문가들이 잘 설명하고 있다. 이들이 묘사하는 세계는 희망이 가득한 유토피아로서 인간의 필요를 충족하는 기술 역량이 각종 문제와 어려움을 가볍게 앞지르게 된다.

이러한 장밋빛 전망의 문제는 국가 및 지역 안보를 담당하는 조직과 관계자들에게 기술 발전으로 인해 발생하거나 악화될 수 있는 문제에 대해 위안이나 통찰을 거의 제공하지 않는다는 데 있다.

혼돈 문제

쐐기부터 스마트폰에 이르기까지 기술은 인간 역사를 발전시키고 동시에 혼란을 가져왔다. 오늘날 나타나고 있는 새로운 특징은 기술 혁명의 요소들이 일단 도입되면 순식간에 광범위한 영향을 미치게 된다는 것이다.

52년 전 발표된 무어의 법칙이 표현한 것처럼, 그동안 혁신을 가속화한 주요 요소는 바로 기하급수적으로 증가하는 단가당 연산 능력이었다. 지금까지는 이러한 기하급수적 성장이 비교적 초기 단계로서 수평적으로 진행됐다면 앞으로는 갈수록 수직적으로 성장할 것이다. 효과적인 정책 및 관리를 도입하려면 기술 성장이 완전히 수직으로 변하기 직전인 지금 개입해야 한다.

기술의 영향을 받는 기반 시스템의 복잡성을 고려할 때 기술이 경제, 사회, 안보 구조를 언제, 어디서, 어떻게 바꿀지 예상하는 것은 어려운 과제다. 이러한 내재된 복잡성으로 인해 기술을 어떤 분명한 경계 내에 묶어두기는 어렵다. 따라서 우리가 할 수 있는 최선은 경계를 설정하고 주체들의 소통 방식을 결정하는 규칙을확립하는 것이다.

이러한 변수의 수립을 가능케 하는 관리 구조 프로세스는현재 압박을 받고 있으며 많은 경우 기술 발전이 가져올 요구에 대응하기에 부적합하다.

장비, 기법, 절차가 널리 퍼지고 결합되어 새로운 발견이 이루어지면서 기술 발전과 배포도 증가하고 있다. 그러나 핵융합 에너지 확산, 레이저 무기 또는 개인용 비행장치와 같은 것들은 많은 기대를 받으며 오래 전에 예측됐음에도 아직 실현되지는 않았다. 이러한 실망 때문에 기술이 기하급수적으로 발전할 것이라는 예측을 비웃는 의견들도 있다.

반면 가장 낙관적인 전문가들이 애초 예측한 것보다도 더욱 빨리 발전한 분야도 있다. 생명공학, 정보통신기술 (ICT), AI의 급속한 발전이 바로 그것이다.

종합적으로 볼 때 이러한 기술들은 가까운 미래에 혼란을가져오고 장기적으로는 인류의 역할과 목표에 대해 실존적의문을 던질 것이다.

극적으로 발전하는 유전자 조작 기술(CRISPR)은 빠른 기술 통합이 잠재적으로 어떤 혼란을 가져올 수 있는지 보여준다. 지난 5년 동안 연산 성능과 유전체학의 발전에 힘입어, 유전자 조작 기술은 인간이 생명의 기본 구성 요소인 유전자를 설계하고 관리하는 능력에 놀라운 돌파구를 마련하는 길을 열었다. 유전체학은 생명체 내의 모든 유전물질과 이들의 구조, 작동, 진화 방식을 연구하는 학문이다. 그러나 질병 예방을 위해 인간의 “생식세포계열”을 기술적으로 조작하는 길이 열릴 경우, 우리는 경계가 불명확하고 규제하기도 힘든 위험 영역으로 미끄러져 들어갈 수 있다.

예를 들어, 윤리적 기준과 기존 법까지 무시하며 유전물질을 실험하는 바이오해킹이 서구를 중심으로 세계적으로 일어나고 있다. 특히 최근에는 싱가포르에 기반을 둔 바이오친 아시아와 홍콩에 기반을 둔 바이오해킹 아시아를 중심으로 인도 태평양 지역에서도바이오해킹 열기가 크게 높아지고 있다. 생명공학 분야의 민군 겸용 기술에 대한 진입 장벽이 낮아지면서, 규제나 감시를 받지 않는 아마추어 “바이오해커” 들이 유익한 동시에 치명적일 수 있는 생명체를 조작하고 심지어는 만들 수 있다는 우려가 제기되고 있다. 악당들이 이러한 기술을 손에 넣었을 때의 재앙을 상상하기란 어렵지 않다.

정책 통합

엄청난 영향과 혼란을 초래할 수 있는 또 다른 와해성 기술 융합의 예로는 거의 모든 산업에 영향을 끼치는 ICT와 AI가 있다. 나날이 성능이 강력해지는 AI 알고리즘이 빅 데이터와 결합되면 세계는 미래 시스템의 거동을 묘사하거나 예측하는 분석 단계를 벗어나 미래를 규정할 수 있는 차원에 진입하게 된다. 이러한 역량은 악의적이고 해로운 방식으로 즉시 사용될 수 있다.

예를 들어 리처드 탈러와 캐스 선스타인은 2008년 저서 ‘넛지: 똑똑한 선택을 이끄는 힘’에서, 정부가 규제나 바람직하지 못한 행동에 대한 처벌 대신 편견과 습관에 대한 통찰을 바탕으로 선택 구조를 만들어 바람직한 행동을 촉진하는 “넛지”를 도입함으로써 어떻게 국민을 더욱 건강하거나 더욱 환경 친화적인 행동으로 유도할 수 있는지 설명했다. 하지만 일부는 이러한 넛지를 현대적인 형태의 온정주의로 받아들일 수 있다. 온정적인 정부는 국민들이 정부 관점에서 사회와 국익을 위해 옳다고 판단하는 일을 하도록 만들 수 있다. 빅 데이터와 AI를 사용하는 새로운 상거래 및 소셜 시스템들은 이미 사용자들이 새로운 아이디어를 발견하도록 유도하기보다 기존 필요를 강화하고있다. 이는 사용자를 이미 친숙하게 느끼는 맞춤형반향 시설 사일로로 유도하는 셈이다. 이것은 심각한 문제다. 예컨대 악의적인 주체 및/또는 숨은 주체가 AI와 ICT의 조합을 이용하여 시민들이 특정 정보만 받아들이게 하거나 올바른정보에 의문을 제기하게 하거나 잘못된 정보를 믿게 하면 어떻게 될 것인가? 이 오싹한 상상은이미 국가, 지역, 세계 차원에서 날마다 일어나고 있다.

2017년 6월 북한제로 추정되는 드론이 한국 인제에서 발견됐으며 미사일 방어 체계를 촬영한 것으로 드러났다. [AP 통신]

2017년 4월 27일 랜드 사의 랜드 월츠만은 미국 상원 “정보의 무기화” 청문회에 출석하여 “현재 인터넷과 소셜 미디어 덕분에 시간, 공간, 의도의 측면에서 과거에는 상상조차 할 수 없던 차원으로 세계 인식 조작이 벌어지고 있다”며 “메시지, 내러티브, 설득의 대규모 조작 시대로 들어섰다. 지속적으로 변화하는 크고 작은 적에 대응하기 위한 전략이 필요하다”고 증언했다.

최근 여러 선거에서 제기된 조작 주장과 그 반박 주장은 이 사안의 범위와 심각성을 보여준다. 예를 들어 워싱턴 대학교의 최근 연구에 따르면 현재AI 소프트웨어로 실제와 매우 유사한 이미지와 동영상을만들어 허위 정보 캠페인에 동원할 수 있다. AI의 이러한발전을 감시하지 않으면 적들이 정보를 신속히 조작하여나쁜 목적에 사용할 수 있는 것이다.

자동차, 금융, 의료, 군사 분야에 도입되는 자율 시스템의 의사 결정 프로세스를 구성하는 데 있어 “딥 러닝” 알고리즘 모델의 사용이 증가하고 있다. 하지만 이제 이 모델들은 제작자도 설명하지 못하는 방식으로 스스로를 프로그래밍하고 있다. AI가 더욱 강력해지고 확산되면서 이러한 딜레마는 계속 증가할 것이다. 매사추세츠 공과대학교에서 머신 러닝 애플리케이션을 개발하는 토미 자콜라 교수는 이를 설명하면서 “투자든 의료든 군사적 결정이든, 더 이상 ‘블랙 박스’ 방법에만 의존할 수는 없다”고 말했다.

이들 사례는 물론, 별개의 기술이 동시에 발전 및융합되는 수많은 다른 분야의 미래 시나리오는 두려움을일으킨다. 혼란스러운 변화의 정도가 매우 심대하기 때문에, 인간 역사의 관점에서 보면 지금처럼 희망적이거나위험한 시기는 없었다. 이들 시나리오에 따라 국제 사회는기술을 기회로 활용하는 것은 물론 이와 연계된 많은위험을 완화하는 방법을 찾아야 한다. 하지만 의사결정자들은관습적이고 선형적이며 천편일률적으로 사고하거나 현재의시급한 우려 사항에 매몰된 나머지 미래를 결정하는 혼란과혁신을 전략적으로 생각하지 못하는 경우가 너무도 많다.이에 따라 각 국가가 정책, 프로세스, 메커니즘을 통해

기술의 무분별한 적용을 견제 및 관리하는 역량을 늘림으로써 국제 사회를 미래로 이끄는 기술을 바람직하게육성, 관리, 인도해야 한다는 주장이 제기되고 있다. 이러한 주장의 가장 대표적인 인물은 아마도 아자르 지아 우르 레흐만일 것이다. 그의 최근 저서 ‘기술 관리 구조 – 개념과 실무’는 기술 관리 구조 개념의 대표적인 참조 문헌으로 사용되고 있다.

2017년말 호주 해군 분석가들이 1세기 전 파푸아뉴기니 해안에서 사라진 800톤급 잠수함을 찾기 위해 첨단 측면 스캔 소나 시스템이 탑재된 자율 수중 장비를 사용하고 있다. [로이터]

많은 유용한 조치가 도입되고 있다. 여러 지역 조직 중 특히 동남아시아 국가연합(ASEAN)은 사이버 분야의 기술 관리 구조에 집중하고 있으며 2016년에는 사이버 보안에 대한 장관급 콘퍼런스를 시작했다.

최근 맬웨어 및 랜섬웨어 공격에 따라 이러한 지역 모임을 시급히 개발하여 위협을 완화하고 비슷한 문제를 가진 국가들 사이에 지역 및 국제적으로 신뢰감을 구축해야 한다는 필요성이 부각됐다. 하지만 이러한 모임은 그 중요성에도 불구하고 기술로 인한 문제들의 영향을 통합적으로 파악하기보다는 개별적으로 바라보는 경향이 있다. 더욱 종합적인 접근법이 필요하다.

위험 완화

그렇다면, 앞으로 10년 동안 영향력 높고 상호 연결된 기술 발전이 가져올 위험을 식별하고 줄이기 위해 안보 정책 결정자들은 무엇을 해야 할까? 실행 목록에는 다음 사항이 포함되어야 한다.

  • 예측과 비판적 사고 정착: 예측과 시나리오 사고를 안보 조직의 문화로 만들어야 한다. 정기적으로 수평 스캐닝을 실시하여 통합 기술이 전략과 계획 프로세스에 어떻게 영향을 주는지 파악해야 한다. 가령, 기술 스캐닝 “레드팀”을 이용하여 우발적으로 질문을 던지고 가설에 의문을 제기하며 위험을 파악해야 한다.
  • 공공 대화 및 교육 촉진: 공공 대화의 폭과 질을 높여 사회가 과학 기술의 발전 방향을 인지하도록 하고 정보를 바탕으로 바람직하고 수용 가능한 것, 필요 안전 조치, 변화 대비에 필요한 메커니즘을 논의할 수 있게 해야 한다. 정책 실행자, 첨단 기술 전문가, 교육자, 윤리학자들은 신규 협력 포럼을 만들거나 기존 협력 포럼에 활력을 불어넣음으로써, 인간이 감시 불가능한 알고리즘이나 악성 주체의 통제를 받는 것이 아니라 새로운 기술을 인간을 위해 제어할 수 있도록 모든 조치가 확립되어야 한다는 것을 사회가 인식하고 보장하고 주장하도록 이끌어야 한다. 더불어 초등 교육 과정에 기술, 윤리, 공민학을 추가하는 것도 좋은 방법이다.
  • 국가, 지역, 국제적 차원의 기술 관리 구조 증진: 국제표준화기구, 국제전기통신연합, 국제정보기술표준위원회, 태평양지역표준회의와 같은 국제 및 지역 단위의 기술 관리 구조 및 표준 기구들이 첨단 기술의 장기적 안보 영향을 주도적으로 형성하도록 도움을 주는 방법을 검토해야 한다. 기존 협력 기구 내외에 보조 국제 협력 기구를 개발하여 위험을 규정하고, AI, 지구공학, 자율 살상무기, 합성 생물학, 나노 기술 등의 새로운 와해성 기술이 통제 불가능한 수준으로 성장하여 국가, 지역 또는 글로벌 안보를 위협하지 못하도록 종합 전략을 개발해야 한다. 안보 전문가들은 사용할 수 있는 모든 수단을 활용하여 국가 정책 결정자들에게 새로운 위험을 알리는 것은 물론 이를 완화하기 위해 나날이 증가하는 다양한 기구와 메커니즘에 적극적으로 참여해야 한다.
  • 미래 인력 양성: 빠르게 발전하는 기술, 세대 변화, 문화 진화가 미래 인력에 어떠한 영향을 미치는지 검토해야 한다. 혁신적인 학습과 민간 분야 개념을 활용하여 자동화로 인한 실직이 가져오는 육체 노동 및 인지의 잉여/부족 효과를 예측하고 완화하기 위한 새로운 모델을 구축해야 한다. 이러한 와해성 변화를 효과적으로 관리하지 못하면 불평등이 악화되고 포퓰리즘이 강화되어 사회 및 국제적 폭력 가능성이 높아진다.

개발 방향을 인도하고 폭발적인 기술 성장에 불가피한 위험을 완화하는 데 적합한 관리 구조 요건과 보조를 맞추기 위해 안보 전문가와 정책 결정자들이 노력하고 있는 가운데, 향후 수십 년 동안 혼란이 계속될 것이 거의 확실하다. 우리는 인간의 필요를 충족하는 새로운 기술의 잠재력을 억제하지 않으면서 발전을 돕고 적절히 인도할 수 있는 관리 구조 메커니즘을 만들어야 한다. 전쟁과 장군들에 대한 조르주 클레망소의 말을 변형하자면, 새로운 기술의 용도와 영향은 첨단 기술 전문가, 특히 사일로에 있는 전문가들에게만 맡겨두기에는 너무 중요하다. 따라서 안보 정책 결정자와 담당자들은 미래 재앙으로부터 지역과 세계를 보호하는 믿음직한 파수꾼이 되는 데 필요한 관리 구조 도구를 마련하고 활용하는 데 적극적으로 기여해야 한다.