NC

“나는 생각한다, 고로 존재한다(Cogito, ergo sum).” 근대 철학에 중요한 철학자 데카르트는 말했습니다. 인간의 영혼이자 ‘생각하는 나’를 제외한 모든 것, 나아가 인간의 육체까지 일종의 기계로 여겼던 데카르트의 세계관으로 보면 인공지능까지 ‘생각하는 주체’로 여겨질지도 모릅니다. 그렇다면 앞으로 진화될 인공지능이 인간의 의사 결정을 대신하게 될 때 인간의 책임과 인공지능의 책임은 어떻게 나눌 수 있을까요? 인공지능이 인간의 삶에 더 깊게 관여할수록 우리는 어떤 철학적 대화를 더 나눠야 할까요?

[AI FRAMEWORK]는 인공지능과 인류의 미래를 고민하는 세계적인 석학들의 눈을 통해 ‘AI를 바라보는 새로운 관점’을 제시하는 엔씨의 새로운 콘텐츠 시리즈입니다. 엔씨의 AI Center 설립을 주도하며 첨단 기술의 윤리적 문제를 탐구해 온 윤송이 CSO가 공학, 정치학, 철학 등 각 분야의 리더들을 만나 서로의 생각과 관점을 나눕니다.

제임스 미킨스 교수님에 이어 대화를 나눌 인물은 하버드 대학의 임베디드 에틱스(Embedded EthiCS) 공동 창립자인 철학자 앨리슨 시몬스 교수입니다. 이번 편에서는 데카르트적 관점에서 바라보는 인간과 인공지능의 모습에 대해 이야기 나눠 보겠습니다.

윤송이   교수님이 제일 좋아하시는 주제인 데카르트(René Descartes)에 대해 이야기해 볼게요.

앨리슨 시몬스   좋아요. 고마워요.

윤송이   데카르트는 살아 있는 유기체의 근본적인 가치는 물리적 실존(physical existence)에 있는 것이 아니라 생각하는 영혼(thinking soul)에 있다고 여겼습니다. 이러한 생각으로, 그는 인간의 존재(human being)가 실존하는 이유를 ‘생각하는 능력(the ability to think)’이라고 정의했어요. 그런데 이것이 결국 인공지능의 본질 아닌가요? 생각할 수 있는 로봇 같은 것이요. 그럼 인공지능을 살아 있는 유기체(living organism)라고 여길 수 있을까요? 이는 인간에게 기대하는 것과 같이 인공지능이 더 나은 도덕(morals)과 윤리(ethics)를 갖고 있다는 견해를 뒷받침하는 걸까요? 우리는 인간과 인공지능을 어떻게 구별해야 할까요? 그리고 인공적인 존재와 우리의 기대는 어떻게 구별해야 할까요?

앨리슨 시몬스   네, 그건 다양한 방향으로 살펴볼 수 있는 중요한 질문이네요. 먼저 송이 님의 질문에 데카르트답지 않은 점이 있다고 말씀드릴게요. 굉장히 흥미롭고 중요한 부분인데요, 방금 송이 님 질문에서는 생명(life)과 생각(thought)을 나란히 두고 있어요.

데카르트의 업적 중 하나는 그저 마음과 몸(mind-body)을 구분한 것이 아니거든요. 그는 생명과 생각을 아예 나눴어요. 그에게 그 둘은 근본적으로 다른 거예요. 사실 데카르트는 이 또한 기술에서 영감을 많이 받았다고 해요. 그 시대의 기술인 오르간, 분수 이런 것들 말이에요. 그에게 생명은 순전히 물리적 현상입니다. 기계화된 거예요. 그래서 생물과 무생물 간에(living thing and a nonliving material thing) 깊은 차이가 없습니다. 말하자면 마음(mind), 생각(thought), 이런 것들은 아예 다른 문제라는 것이죠.

그래서 제 생각에 데카르트는 아마 ‘인공 생명(artificial life)’이라는 아이디어를 괜찮다고 할 것 같아요. 다만, 그는 호흡, 소화, 번식 등과 같이 모든 생명 기능을 하는 기계들을 인공 생명이라고 할 것 같아요. 그에게는 그것이 인공 생명이에요. 하지만 아시다시피 그는 기본적으로 살아 있는 유기체도 그저 매우 화려하고 복잡한 기계일 뿐이라고 생각해요. 개나 동물들은 살아 있지만 생각하지 않는다고 보았죠. 이것은 매우 깊이 있는 차이예요. 생물학이 한쪽에 있고, 다른 한쪽에는 심리학이 있는 거죠. 그래서 우리는 생명과 생각을 동일 선상에서 함께 생각해도 되는지, 어쩌면 다시 생각해 볼 필요가 있어요.

앨리슨 시몬스   그러니까 생명이라는 면에서 인공 생명은 문제 없어요. 제 생각에 데카르트는 오히려 ‘인공’에 대해 의심할 겁니다. 그는 어떠한 기계도 유연할 수 없다고 생각하기 때문에 생각하는 인공 존재(artificial thinking being)는 나타날 수 없다고 딱 잘라서 본 거예요. 그 어떤 기계도 무언가를 배워서 개념을 끌어내고 어딘가에 적용할 수 없을 거라고요. 지금은 그가 틀렸을 수도 있어요. 지켜봐야죠. 우리가 아직 그 정도는 아니라고 봐요.

하지만 AI 기기와 인간 사이에 경계에 대해서, 제 생각에는 오늘날 저희가 걱정해야 할 문제들이 몇 가지 있어요. 1950년대에 인공호흡기가 발명되었는데, 그 덕분에 오늘날 우리는 COVID-19 팬데믹을 이겨내고 있죠. 인공호흡기는 사망 선고를 받을 뻔한 환자의 폐와 심장이 정상적으로 활동할 수 있게 도와줍니다.

여기서 질문 하나가 제기됐어요. 환자는 인공호흡기에 의해 삶을 유지하고 있는 걸까요, 아니면 환자는 사실 죽었지만 그 죽음이 인공호흡기에 가려진 것일까요? 어려운 질문이죠. 그 결과 많은 대화가 이어졌고 뇌사라는 매우 문제적인 개념이 등장했어요. 그리고 뇌사는 실제로 사망 선언을 대체하는 방법으로 도입이 되었고요. 여기에 전제된 생각은 이런 것이었어요. 뇌는 심폐 시스템을 작동시킵니다. 그런데 만약 뇌가 죽었다면, 인공호흡기는 그저 죽음을 가리고 있을 뿐이라는 것이죠. 하지만 만약 뇌가 제 기능을 하고 있다면, 뇌는 그 사람을 살리는 데 도움을 주는 것입니다. 이 두 가지는 다른 거예요. 지금까지 많은 토론이 있었고, 죽음에 대한 의학적 정의도 시대에 따라 바뀌어 왔어요.

뇌사에 대한 논란은 이러한 질문을 던집니다. 우리는 무엇을 살리려고 하는 것일까요? 의식적인 경험(conscious experience)을 가진 사람일까요? 아니면 그저 발톱이 자라는 유기체일까요?

윤송이   네.

앨리슨 시몬스   참 까다롭죠. 이 경우엔 생명 공학인데, 기술이 발전할수록 우리는 이러한 질문들을 계속 마주하게 될 거예요. ‘살아 있는 것과 살아 있지 않은 것 사이의 경계는 어디인가’ 같은 질문들이죠. 만약 우리가 이런 질문을 멈추지 않는다면, 무엇을 중요하게 여길까요? 많은 의사와 가족들이 매우 불편해할 거예요. 괜찮으시면 조금 덜 무거운 예시를 하나 더 들어 볼게요. 저는 예전에 인공 팔에 관심이 있었어요.

요즘에는 인공 팔을 본인의 생체 물질로 만들죠. 그래서 사람들은 인공 팔로도 감각을 느낄 수 있습니다. 송이 님께 인공 팔이 있다고 가정해 볼게요. 제가 먹으려던 마지막 쿠키를 송이 님이 먹어서 화가 났어요. 그래서 제가 인공 팔을 부숩니다. 송이 님은 화가 나서 저에게 보상하라고 하겠죠.

그렇다면 송이 님은 저를 폭행과 구타 혐의로 기소하실 건가요, 아니면 재물 손괴의 혐의로 기소하실 건가요? 그 팔은 송이 님의 일부인가요, 아니면 그저 소유물인가요? 전 저의 팔을 보고 ‘내 팔’이라고 말을 하지만 아시다시피 그게 ‘내 아이폰’과 같은 건 아니잖아요. 그건 그냥 저예요. 그래서 우리는 기술을 개발하면서 여러 가지 이슈에 대해 생각해 봐야 해요. 왜냐면 법적인 문제도 계속 생기고, 가족도 이런 상황에서 슬퍼해야 할지 아니면 어떻게 해야 할지 정해야 하니까요. 이런 것들에 대해 우리는 생각을 해 봐야 합니다. 전 우리가 암을 치료하는 것만큼이나 이 문제를 해결하고 싶어한다고 느껴요. 그렇지만 저는 이러한 문제들은 연구 개발 단계에서부터 고려해야 한다고 생각해요.

윤송이   대니얼 데닛이 책에서 언급한 매우 유명한 표현이 생각나네요. “우리는 인간에게 어떤 일정 수준의 도덕성과 윤리적 행동을 기대한다.”라는 것이었어요. 그건 아마 인공 팔이나 인공 심장을 가진 사람에게도 똑같겠죠. 그런데 만약 사람의 신경 세포 하나가 실리콘으로 대체된다면  그래도 저희는 같은 기준을 적용할까요? 만약 신경 세포의 40퍼센트가 대체되거나 또는  51퍼센트가 대체된다면요? 우리는 생각하는 기계가 있다고 여겨지는 뇌를 나머지 신체 부위와 구분할 것인가요?

이건 또 다른 질문으로 이어져요. 만약 로봇이나 자율 주행차가 범죄를 일으킨다면, 우리는 그것을 법정에 세울 수 있을까요, 아니면 그 알고리즘을 개발한 엔지니어를 법정에 세워야 할까요? 그것도 아니면 그것을 만든 회사나 투자자를 법정에 세워야 할까요? 이 문제는 다시 신경계, 의식의 중심, 도덕성이 모두 논의되어야 하는 곳으로 돌아가죠. 그리고 저는 데카르트로부터 시작된 영혼, 몸, 생각의 구분이 이 복잡한 질문을 탐색하는 데 도움이 될 거라고 생각해요.

앨리슨 시몬스   네, 저도 그러길 바랍니다. 이런 질문에 명확한 답이 있으면 좋겠지만 그렇지 않잖아요. 저는 이 상황에서 두 가지를 생각합니다. 하나는 ‘인공지능 기기와 우리의 관계가 무엇인지’, 다른 하나는 ‘인공지능 기기에 대한 우리의 책임은 무엇인지’예요. 왜냐하면 인공지능이 인간을 대체한다는 건 미뤄 두고, 인간이 잘 못하지만 인공지능은 잘하는 게 있고 그 반대로 인간은 잘하지만 인공지능은 잘 못하는 게 있기 때문이에요. 예를 들면, 기계들은 보통 상식을 갖고 있지 않죠. 그리고 목표를 설정하지도 못하고요.

앨리슨 시몬스   그럼 이 둘에게 올바른 협업 모델은 무엇일까요? 제 생각에 우리는 그 모델이 먼저 준비되고 나서야 우리가 서로에게 어떤 빚을 지고 있고, 누가 무엇에 책임을 져야 하는지 생각할 수 있어요. 인공지능이 우리와 더 비슷해질수록 문제는 더 복잡해질 거예요.

전 여전히 인공지능이 우리와 비슷해질 수 있을지 의문이 들어요. 우리는 할 수 있지만 인공지능은 절대 할 수 없는 게 있거든요. 물론 반대로 기계 역시 우리가 절대 할 수 없는 걸 하고요. 엄청나게 큰 데이터셋에서 패턴을 찾아내는 걸 어떻게 사람이 하겠어요. 그래서 저는 우리를 인공지능으로 대체한다고 해도 항상 상당한 차이점이 있을 거라고 생각해요. 송이 님은 반대로 생각하셨죠. 사람으로 시작해서 기계로 바꾼다고요.

윤송이   네.

앨리슨 시몬스   저도 명확했으면 해요. 송이 님께 제 의견을 말씀드려 볼게요. 단순히 쭉 이어지는 의식을 분리해서 인공 뇌에 업로드하고 다운로드해서 아마 로봇에 넣을 수 있을 거예요. 그런데 우리 인간은 그렇지 않잖아요. 저는 우리 인간에게 정말 중요한 부분이자, 아마 대부분의 로봇에 없는 것은 주관적으로 의식하고 의사를 결정하는 영역이라고 생각해요.

앨리슨 시몬스   하지만 우리를 구현하는 것 또한 인간으로서 우리 스스로에게 중요합니다. 그래서 제 직감으로는 만약 모든 신체 부위를 기계로 교체하기 시작한다면 그건 인간의 영역을 벗어나는 것이라는 거예요. 뭐, 발톱을 바꾸는 정도는 문제가 없다고 말할 수도 있어요. 그런데 사실 이러한 것들은 참 어려운 문제예요. 그렇죠?

윤송이   맞아요. 인간을 그토록 특별하게 만드는 게 무엇인지 명확하게 합의되지 않아서 우리를 더 어렵게 해요. 어떤 사람은 인간만이 유일하게 의식이 있다고 하고, 어떤 사람들은 포유류 같은 동물도 의식이 있다고 생각하잖아요.

의식의 결과는 무엇인지, 심지어 의식을 뭐라고 정의하는지도 달라요. 어떤 사람들은 우리의 행동과 반응 대부분이 일종의 반사 반응이고 코딩된 기계와 별로 다르지 않다고 말해요. 인간이 정말 그렇게 특별한가요? 시를 생산하는 인공지능이 보고 느끼고 창조하며 시를 쓰는 우리와 근본적으로 다르다고 생각하나요? 그러나 무엇이 우리를 구별 짓는지 정확히 알 수 없다면 우리가 인공지능과 다르다는 것을 확신할 수 있을까요?

앨리슨 시몬스   네, 저는 이 질문에 좋은 답을 갖고 있진 않아요. 송이 님의 말씀이 맞다는 뜻이에요. 우리는 무엇이 우리를 인간으로 구별 짓는지 말할 수 있어야 하고, 이에 대한 어려움을 계속해서 마주하게 될 거예요. 데카르트도 이에 도전한 사람 중 한 명이었죠. 데카르트가 살았던 시대에 그가 급진적이라고 여겨졌던 이유는 이원론(dualism) 때문도 아니고, 사람에게 특별한 마음(mind)이 있다고 주장했기 때문도 아니었어요. 오히려 그가 너무 많은 것을 ‘자동으로 움직이는 것’이라고 규정해서 급진적이라고 받아들여졌죠. 그는 환경에 반응하거나 감정적으로 반응하는 등 우리가 하는 반응 행동 대부분이 기계처럼 자동화된 일이라고 생각했어요.

윤송이   맞아요.

앨리슨 시몬스   그것은 학습된 것일 수도 있지만, 대부분 그저 자극-반응(stimulus-response)이라고 데카르트는 생각했던 거죠. 그래서 동물기계론(the beast-machine thing) 같은 것이 급진적이라고 받아들여진 겁니다. 저는 종종 제 자신에게 질문을 해요. 만약 데카르트가 현시대에 살았다면, 그는 신경 과학자였을까, 아니면 컴퓨터 과학자였을까? 그리고 이런 질문에 그의 답변은 무엇이었을지도 종종 생각해요. 우리가 아직 풀지 못한 문제죠. 의지(the will), 추론 능력(the ability to reason), 유연한 사고 체계(a sort of flexible thought system)에 대한 것들 말이에요. 도대체 의지란 무엇이고, 결정을 내린다는 것은 무엇일까요?

우리는 코덱스(Codex)는 못 하는 방법으로 우리 자신을 위한 법을 만들어요. 코덱스가 코드를 작성할 수는 있어도 스스로 목표나 규칙을 정할 수 있나요? 이러한 점이 우리가 하는 일을 특별하게 해요. 우리는 서로의 신념과 행동에 대해 책임을 묻지 않는 것 같지만 사실 서로가 책임을 묻고 있습니다. 가끔 우리는 시리(Siri)에게 책임을 묻지만 보통은 기계에게 책임을 묻지 않죠. 우리가 그저 스스로를 속이고 있는 걸까요? 그 뿌리는 무엇일까요? 그것이 우리가 알아내야 할 것입니다. 아마 일상에서 시작할 수 있겠죠. 우리가 실제로 사람을 개나 휴대폰과 어떻게 다르게 대하고 있는지부터 생각해 보자는 겁니다.

윤송이   네, 맞아요. 정말 깊은 뿌리를 가진 질문 같아요. 이런 질문이 우리가 일상생활을 어떻게 할지, 엔지니어가 세상을 채울 기계를 어떻게 만들지에 대해 근본적으로 영향을 줄 수 있어요.

앨리슨 시몬스   네, 그럼요. 하지만 이런 질문을 우리를 돕는 방식으로 하려면 어떻게 해야 할까요? 인간을 대체하기 위해 인공지능을 만드는 것은 아니라고 생각해요. 물론 몇몇 직업들은 인공지능으로 대체되겠죠. 하지만 이상적으로 생각하면, 기계들은 반복적이고 정형화된 직업들(bad jobs)을 대체하는 겁니다. 사실 저희가 진행한 자동화 로봇 시스템 모듈 중의 하나가 일의 가치에 대해 다루고 있어요. 그 모듈 수업에서 학생들은 창의성을 요구하는 직업(good job)과 반복적이고 정형화된 직업(bad job)을 구분할 때 무엇이 중요한지, 창의성을 요구하는 직업을 만들고 작업이 정형화된 직업을 자동화할 때 고용주들은 어떤 책임을 갖는지, 자동화해야 할 것과 하지 말아야 할 것을 결정할 때 어떤 정의의 관념 체계(systems of conceptions of justice)가 필요할지 등에 대해 생각하게 되었죠. 재미있는 모듈이었어요. 우리는 이런 것들을 항상 고려해야 합니다.

윤송이   네, 맞아요. 좋습니다. 오늘 시간 내주셔서 다시 한번 감사드립니다. 하버드뿐만 아니라 이 프로그램을 보고 배울 다른 대학과 학생들을 위해 임베디드 에틱스 프로그램을 이끌어 주셔서 정말 감사합니다.

앨리슨 시몬스   저희를 알아봐 주시고 관심 가져 주시는 송이 님께 제가 더 감사드려요. 저희를 지지해 주셔서 정말 기쁘고 감사합니다.

윤송이   감사합니다.