최연구 한국과학창의재단 연구위원
![[디지털산책] `위험기술`과 과기인의 자세](http://contents.dt.co.kr/images/201804/2018041802102351607002[1].jpg "[디지털산책] `위험기술`과 과기인의 자세")
얼마 전 해외 로봇학자 50여명이 지난 2월 한화시스템과 함께 국방AI융합연구센터를 개소한 카이스트에게 공개서한을 보내 "인공지능을 접목한 킬러로봇이나 무기 연구를 하지 말라"며 경고했고, "인간의 통제력이 결여된 무기를 개발하지 않겠다는 확신을 줄 때까지 카이스트와의 협력을 거부하겠다"고 밝혀 과학계의 이슈가 됐다. 이에 카이스트 총장은 즉각 "인간 존엄성에 반하는 어떤 연구도 하지 않을 것"이라고 해명했고, 로봇학자들은 해명을 받아들여 결국 보이콧을 철회했다.
절대 그래서는 안 되겠지만 영화 터미네이터에 나오는 킬러로봇처럼 만약 인공지능이 자율살상무기에 사용된다면 이는 인류에게 엄청난 재앙이 될 것임은 자명하다. 이쯤에서 우리는 과학기술 연구개발에서의 윤리문제에 대해 진지하게 생각하지 않을 수 없다. 과학자들은 정치나 이데올로기에 대해서는 대체로 중립적인 태도를 보이며, 사회문제나 정치문제에 적극적으로 참여하는 경우가 많지 않다. 대부분은 과학기술에 대한 사명감을 갖고 실험실과 연구실에서 연구에 몰두한다. 로봇과 인공지능을 연구하는 과학자가 자신이 개발하는 인공지능 로봇이 인류를 위협하는 무기로 사용되리라고 기대하지는 않을 것이다. 청소로봇, 재난구조로봇, 수술로봇, 산업로봇 등 인간에게 도움을 주는 데 사용되기를 원할 것이다. 과학자들은 기술 자체는 가치중립적이라고 생각하는 경향이 강하다.
요즘 미국에서는 총기규제 강화를 촉구하는 시위가 거세다. 지난 2월 플로리다주 고교 총기난사로 17명이 사망한 참사가 발생한 후, 총기사용을 반대하는 시민과 청소년들이 거리로 나와 총기규제를 외치고 있다. 반면 총기사용 자유를 주장하는 미국총기협회(NRA)는 "총이 사람을 죽이는 것이 아니라 사람이 사람을 죽인다"라는 논리로 총기사용 합법화를 주장한다. 총기는 가치중립적인 도구로 총기 자체가 나쁜 것이 아니라 잘못 사용하는 사람이 나쁘다는 것이다. 총기를 자기방어 수단으로 사용하면 좋은 도구가 될 수도 있다는 것이다. 칼도 사용하는 사람에 따라 요리도구가 될 수도 있고, 흉기가 될 수도 있다. 총이든 칼이든 기술적 도구는 자체가 문제가 아니라 사용하는 사람의 문제라는 논리는 얼핏 들으면 그럴듯할 수 있다. 하지만 함정이 있다. 총기는 엄청난 살상력을 갖고 있기 때문에 그 자체로 이미 위험하다. 주방용 칼과는 위험의 정도에 있어 큰 차이가 있다. 총, 칼, 다이너마이트, 휴대폰, 인공지능로봇 등은 모두 과학기술의 산물이며 인간에게는 일종의 도구들이다. 이런 도구들은 인간에게 편리함을 주지만 때로는 위험을 가져다주기도 한다. 위험성이 전혀 없는 도구들은 거의 없다. 가령 휴대폰은 전자파의 위험이 있고, 인터넷은 해킹의 위험이 있으며, SNS는 프라이버시 침해의 위험이 상존하고, 자율자동차는 오작동의 위험을 안고 있다. 기술적 도구들이 갖는 잠재적 위험을 인정하고 그 위험을 예방하기 위한 방안을 함께 고민하는 것이 과학기술자의 올바른 자세다.
1942년 SF소설가 아이작 아시모프는 로봇 3원칙을 처음 언급했다. 첫째, 로봇은 인간에게 해를 가하거나 혹은 행동을 하지 않음으로써 인간에게 해를 끼치지 않아야 하고 둘째, 로봇은 첫 번째 원칙에 위배되지 않는 한 인간이 내리는 명령에 복종해야 하며 셋째, 로봇은 첫 번째, 두 번째 원칙을 위배하지 않는 선에서 로봇 자신의 존재를 보호해야 한다는 것이다. 인간이 먼저고 로봇은 인간을 위해야 한다는 철학이 바탕에 깔려있다. 잠재적 위험성이 있는 과학기술연구의 경우에는 무엇보다 윤리적 관점을 분명히 할 필요가 있다. 위대한 과학자 아인슈타인은 이런 고백을 한 적이 있다. "나는 살면서 큰 실수를 하나 저질렀다. 루스벨트 대통령에게 원자폭탄을 만들라고 권하는 편지를 쓴 일이다. 그러나 내 나름대로 정당한 이유는 있었다. 독일이 먼저 만들지는 모른다는 위험이었다." 1939년 아인슈타인은 핵개발을 탄원하는 과학자들의 편지에 서명했고 이 편지가 계기가 돼 미국은 맨해튼 프로젝트를 추진해 결국 핵개발에 성공했다. 하지만 실제 히로시마와 나가사키에 핵을 투하함으로써 가공할 핵무기의 위력을 목도했고 인류는 이제 핵공포를 안고 살아가야 한다. 이 때문에 아인슈타인은 두고두고 자신의 행위를 후회했다.
위험을 예방하고 규제하는 것은 정책결정자들의 몫이라며 과학자들이 나 몰라라 해서는 안 된다. 과학자들은 자신의 연구개발 결과가 야기할지 모르는 잠재적 위험에 대해서 숙고하고, 위험이 있다면 어떻게 제어할 것인가에 대해서도 충분히 고민해야만 한다.
그렇다고 조금이라도 위험한 기술은 아예 개발하지 말자는 이야기는 아니다. 기술연구의 초동단계부터 위험을 제어할 수 있는 방법까지 같이 연구하고, 항상 윤리적 측면을 고려해야 한다는 것이다. 과학기술은 인간에게 유용하지만, 그것은 인간이 과학기술을 충분히 통제할 수 있다는 전제하에서만 그러하다.
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
