인공지능(AI) 윤리의 필요성: AI는 양심이 없다 2

 인공지능 관련 문제들은 다른 기술들과 달리 법만으로 해결하기 어렵습니다. 우리가 인공지능으로 인해 발생하는 문제들을 인식하고 법제화하려고 시도하는 동안에 이미 인공지능은 저 멀리 발전하고 그 자리에 없으니까요. 그래서 법보다 더 포괄적인 성격을 갖는 인공지능 윤리가 반드시 필요합니다.

 

인공지능(AI) 윤리의 필요성

인공지능(AI) 윤리의 필요성: AI는 양심이 없다 2

 

일반인의 인공지능 윤리

 "일반인도 손쉽게 오픈 소스 코드 공유 사이트를 접근할 수 있다. 이러한 추세로 인해 이제는 일반인, 특히 인공지능 이용자도 언제든지 쉽게 생산자, 즉 개발자로 전환될 수 있다. 이처럼 개발자인 생산자의 입장과 이용자인 소비자의 입장을 함께 갖춘 프로슈머(prosumer)가 갈수록 많이 등장할 수 있는 기술 영역이 바로 인공지능 분야다. 이런 프로슈머의 가능성 때문에 일반 이용자도 개발자나 사업자와 함께 인공지능 윤리의 시행 주체 안에 처음부터 포함해야 한다. 프로슈머의 가능성을 가지고 있는 이용자는 잠재적인 개발자이면서 사업자이기 때문이다."

 

 이제는 인공지능 개발자나 사업가가 아닌 일반인들도 인공지능 윤리를 갖추고 있어야 합니다. 저자가 이야기하는 것처럼 우리는 언젠가 인공지능을 개발할 수도 있고, 개발된 인공지능을 보급하고 퍼뜨리는 일을 할 수도 있기 때문입니다. '에이, 내가 무슨 인공지능을 개발하겠어?'라고 생각하실 수도 있겠다는 생각이 듭니다. 그러나 한 가지 예시를 들면, 몇 문장으로 그림을 묘사하는 글을 쓰기만 하면 AI가 그림을 그려주는 사이트들, 핸드폰 앱들이 많습니다. 거기에서 그림을 생성한 뒤에 그것을 어딘가에 올리는 행위도 결국 인공지능을 이용한 결과물을 광활한 인터넷 세상에 퍼뜨리는 행위입니다. 우리는 언젠가는 반드시 인공지능의 사용자 외의 역할도 할 수 있다는 뜻입니다.

 

 그럼, 법과 윤리의 차이점은 뭘까요? 미국 대법원장을 지냈던 얼 워런은 이렇게 표현했습니다. 법은 윤리의 최소한이며, 법은 윤리의 바다 위에 떠 있는 배다. 윤리가 없는 법이란 존재할 수 없다. 법은 강제성을 갖지만, 윤리는 강제성을 갖지 않습니다. 자발적인 성격을 갖죠. 위에서 이야기한 것처럼 인공지능 분야에서는 소비자와 생산자의 경계가 명확하지 않습니다. 전국, 전 세계에 있는 사람들이 모두 인공지능을 만들거나 인공지능을 이용하여 결과물을 생산해 낼 수 있는 잠재력을 갖고 있습니다. 그렇기 때문에 현재 인공지능 개발자나 사업가뿐만 아니라 우리 모두가 인공지능 윤리를 갖추어야 사회적 혼란, 사회적 문제들을 최소한으로 줄일 수 있을 겁니다. 모두에게 책임감이 필요한 시점입니다.

 

 일반인들 모두가 인공지능 윤리를 갖추기 위해서는 가장 좋은 방법은 국가 차원에서 교육과정에 인공지능 윤리를 포함시키는 것이라고 생각합니다. 물론 인공지능 윤리와 관련한 교재도 개발해서 교육부 산하 홈페이지에 올라가 있습니다. 하지만 교재를 개발에서 그치는 수동적인 자세보다 더 적극적인 자세가 필요하다고 생각합니다. 교사들에 대한 연수도 적극적으로 지원하고 교육할 수 있는 환경을 조성해줘야 한다고 생각합니다. 학생과 학부모도 인공지능 윤리에 자주 접할 수 있도록 여러 가지 방법을 사용해야 한다고 생각합니다.

 

인공지능 결혼, 인공지능의 인권과 법적 지위

 "인공지능 기술이 발전함에 따라 사용자는 인공지능에 더욱 친밀감을 느끼며 갈수록 함께하는 시간이 늘면서 남용 및 중독 현상이 심화된다. 최근에 일본, 프랑스, 중국에서는 자신과 오랫동안 함께해 온 인공지능 로봇과의 결혼 허용을 국가에게 요구하거나 실제로 결혼식을 진행하는 사례도 발생하고 있다. 현재는 법적으로 인공지능이나 로봇에게 기본권과 인격권을 주고 있지 않다. 하지만 앞으로 인공지능에 대한 사람들의 인식이 급변함에 따라 인공지능에 대한 법적 지위 및 인격권 부여에 대한 논의가 불가피할 것이다."

 

 혹시 영화 그녀(Her, 2014)를 보셨나요? 인공지능과 관련된 책만 읽으면 등장하는 영화라서 어떤 분들은 지겹다고 생각하실 수도 있을 것 같습니다. 하지만 저는 이 영화를 보고 나서의 여운이 지금도 이어지는 것 같습니다. 2014년에 처음 봤을 때도 전혀 현실성이 없다고 생각하지 않았거든요. 영화 그녀에서는 주인공이 인공지능과 사랑에 빠져서 행복해하다가 결국 인공지능이라는 한계에 부딪히며 고뇌하는 내용이 주를 이룹니다. 심지어 실체도 없는 인공지능과 사랑에 빠진 거죠. 그런데 현실에서 이 일이 발생하고 있습니다. 현실에서 발생하는 일들은 심지어 실체도 있습니다. 인공지능이 적용된 로봇들과 결혼하겠다는 겁니다. 우리나라는 최근에 발표된 자료에 따르면 출산율이 0.7명대인데 만약 이런 흐름이 대한민국에도 이어진다면 출산율 하락은 더 심화될 것으로 생각합니다. 그리고 분명 이런 요구들이 한국에서도 있으리라 생각합니다.

 

 결혼이라는 것은 국가에서 법적으로 인정하는 부부를 의미하는데, 로봇과의 결혼은 법적으로 인정이 되느냐 마느냐에 대한 논의가 전 세계적으로 굉장히 뜨겁습니다. 이제는 로봇이 인간의 일자리만 위협하는 게 아니라 인간의 본질을 위협하는 수준에 이르렀습니다. 인공지능 윤리에 대한 활발한 논의와 사회 차원, 국가 차원 그리고 더 나아가 세계적인 차원에서 어느 정도의 합의가 필요한 상황이라고 봐요. 인공지능에게 인격권 즉, 인권을 인정해 줄 것이냐, 법적인 지위를 부여해서 인공지능과의 결혼을 법적으로 인정할 것이냐 하는 문제들을 지금 당장 다뤄야 하는 상황까지 왔으니까요. 이제 나중에 생각하자고 미룰 수도 없습니다.

 

 여러분은 어떻게 생각하시나요? '인공지능과 결혼하겠다는 사람들이 소수이니 뭐 사회 전반적으로 문제가 되겠어?' 또는 '로봇이랑 어떻게 같이 살아 결국 혼자 사는 거지. 답답해서 어떻게 살겠어.'라는 생각을 저는 처음에 했는데 곰곰이 생각해 보니 그렇지 않더라고요. 인공지능이 고도로 발달해서 사람들의 말을 듣고 말을 하는 수준이 사람과 다를 바가 없어지고, 외모 또한 사람과 다를 바가 없어지는 시점이 온다면 어떨까요? 인간의 뇌의 엄청나게 복잡한 방식으로 구현되는 감정을 인공지능은 느낄 수 없지만, 보는 사람 입장에서는 감정을 느끼고 있다고 생각할 만큼 기술이 발전되어 우리 삶 속에 침투한다면 어떨까요? 전혀 다른 이야기가 되리라 생각합니다. 그때는 적지 않은 사람들이 로봇과 결혼하겠다고 할 것이고, 함께 살면서 매일 엄청난 양의 나의 습관, 감정 패턴, 일상생활 패턴들을 학습한다면 답답하지 않을 수도 있겠다는 생각도 듭니다. 물론 로봇과 결혼하겠다는 생각은 전혀 없습니다만, 이런 현상이 충분히 일어날 수 있겠다는 생각은 듭니다.

 

인공지능 윤리의 기본 원칙

 "첫 번째 기본 원칙은 공공성이다. 인공지능도 다른 기술들처럼 인류의 번영과 복지, 건강 등 인류를 위해 사용되는 기술이라는 보편적 특성에 집중해 보자. 두 번째 원칙은 책무성이다. 인공지능은 사회적 대변혁과 대전환을 유도하게 되므로 인공지능으로 인한 모든 변화가 파생할 결과와 현상에 대해 행위자에게 적합한 책임이 요구된다. 세 번째 원칙은 통제성이다. 인공지능은 인간의 기대와 다르게 동작할 가능성이 있으므로 어떠한 환경 가운데서도 인공지능은 원래의 목적에 제대로 동작하도록 해야 한다. 네 번째 원칙은 투명성이다. 인공지능이 내리는 결정과 행동에 대해 이해당사자가 충분히 이해할 수 있을 정도로 필요한 설명이 제공되어야 한다."

 

 공공성과 책무성은 인공지능뿐만 아니라 소프트웨어, 인터넷을 포함한 모든 기술에 해당되는 포괄적인 윤리 원칙입니다. 이에 대한 연장선으로 인공지능 윤리에도 포함된 거죠. 공공성을 위반하는 인공지능은 무엇이 있을까요? 군용 로봇에 인공지능이 탑재되어 있습니다. 그런데 이 로봇은 궁극적으로 무엇인가를 파괴하거나 누군가를 해치기 위해 만들어졌습니다. 이 로봇은 공공성을 위반한 인공지능이라고 할 수 있겠네요.

 

 책무성을 살펴보면, 인공지능이 사회적으로 뭔가 문제를 일으켰을 때 인공지능뿐만 아니라 인공지능 개발자, 유통자들을 처벌하는 것을 생각해 볼 수 있겠습니다. 하지만 책무성은 책임과는 조금 다릅니다. 책무성이 책임보다 더 포괄적인 개념이죠. 그렇기 때문에 인공지능 윤리 기본 원칙에는 책임이 아닌 책무성이 포함된 것입니다. 법이 아닌 윤리를 우리가 갖춰야 하는 것처럼 말이죠.

 

 이번엔 인공지능 윤리만의 기본 원칙들을 살펴보죠. 인공지능은 사람이 따로 작동시키거나 명령을 내리지 않아도 필요한 행동을 취합니다. 필요한 데이터를 수집하고 학습하거나, 조치가 필요한 곳에 적절한 명령을 내려 여러 로봇들을 움직이게도 합니다. 그렇기 때문에 인공지능이 인간에 해를 가하지 않도록 완벽하게 통제될 수 있게끔 해야 합니다. 우리는 인공지능이 인간의 통제를 벗어나서 인간에게 해를 입히는 영화들을 많이 봐 왔습니다. 터미네이터 시리즈, 아이 로봇 등 아주 많은 영화들이 이런 상상력에 기반해서 만들어졌습니다. 전에는 이런 영화들을 볼 때 '상상력이 대단한 걸?'이라고 생각했지만 이제는 감탄만 하면서 보기에는 어렵겠다는 생각이 듭니다. 인공지능이 인간의 행복에 위반하는 행위를 했을 때 전원을 한 번에 꺼버리거나, 학습한 내용들을 모두 지우고 원위치시키는 기능들을 포함시켜야 한다는 강한 주장들이 전 세계에서 들려옵니다.

 

 투명성은 제가 생각했을 때 현재 시점에서 가장 뜨거운 인공지능 윤리 요소라고 생각합니다. 인공지능은 반드시 설명이 가능한 기술이어야 합니다. 설명이 가능하다는 것이 무슨 말이냐. 인공지능이 어떤 판단을 내렸을 때, 이 판단을 내린 근거와 과정을 사람이 이해할 수 있어야 한다는 겁니다. 이 설명 가능성이 없는 인공지능을 사용하는 것은 굉장히 불안할 수 있습니다. 인공지능과 함께 살아가야 하는 우리는 인공지능을 믿을 수 있어야 합니다. 예를 들어서, 우리는 자율 주행차를 생각하면 정말 뛰어난 기술이고 자신의 차에도 이 기술을 넣어서 이동할 때 편하게 이동할 수 있으면 좋겠다고 생각합니다. 그래서 만약 여러분이 자율 주행차를 샀다고 가정해 봅시다. 그럼 여러분은 인공지능에게 모든 것을 맡기고 운전석이 아닌 조수석에 앉아 자면서 갈 수 있나요? 저는 절대 못합니다. 왜냐하면 인공지능을 완전히 신뢰할 수 없기 때문이죠. 우리는 인공지능을 신뢰할 수 있어야만 인공지능으로 인한 사회적 불안과 혼란 없이 인공지능이 제공하는 편리함을 누릴 수 있을 것입니다.

 

글을 마치며

 인공지능 윤리에 대한 논의를 인공지능이 이제 막 본격적으로 개발하려는 단계에서 꺼내는 것은 개발을 늦춘다는 비판이 있습니다. 하지만 개발을 빨리 한다고 한들 인간에게 피해를 주고 엄청난 혼란을 야기하는 인공지능을 만들면 무슨 소용일까요? 인공지능 윤리에 대한 논의와 합의가 개발자와 사업가들뿐만 아니라 일반인들까지 포함되어 이루어진다면 인공지능과 함께 살아갈 앞으로의 미래가 훨씬 행복하고 안전하리라 믿습니다. 더 자세하고 재미있는 인공지능 윤리 이야기를 읽고 싶으시다면 'AI는 양심이 없다'를 읽어보시길 강력 추천합니다!

 

이 글이 흥미로우셨다면 바로 전 글도 함께 읽어보시길 추천드립니다!

현실을 왜곡하는 인공지능 윤리: AI는 양심이 없다 1

 

 

<출처: AI는 양심이 없다 by 김명주>