NC

올해 유럽연합(EU)은 AI 개발과 사용에 대한 포괄적인 규정을 담은 인공지능 규제 법안의 초안을 공개했습니다. 이와 같은 움직임은 인공지능이 엄청난 기회를 창출하지만, 이것을 공정하고 윤리적으로 사용하기 위해서는 대중에게 미치는 위험을 관리하고 완화하기 위한 대응책을 마련해야 한다는 시사점을 제공합니다. 인공지능을 연구하고 기술로 세상을 혁신하는 글로벌 테크 기업과 인공지능 개발자들에게 전 세계의 이목이 집중되고 있습니다.

[AI FRAMEWORK]는 인공지능과 인류의 미래를 고민하는 세계적인 석학들의 눈을 통해 ‘AI를 바라보는 새로운 관점’을 제시하는 엔씨의 새로운 콘텐츠 시리즈입니다. 엔씨의 AI Center 설립을 주도하며 첨단 기술의 윤리적 문제를 탐구해 온 윤송이 CSO가 공학, 정치학, 철학 등 각 분야의 리더들을 만나 서로의 생각과 관점을 나눕니다.

이번 편에서는 AI의 영향력을 빠르게 인지하고, 선도적으로 공학과 윤리학의 융합 수업을 진행하는 하버드 대학교의 임베디드 에틱스(Embedded EthiCS) 사례를 중점적으로 이야기해 봅니다. 엔씨는 2020년부터 MIT와 스탠포드 대학교, 2021년부터 하버드 대학교가 이끄는 AI 윤리 교육 과정 개발을 후원하며, 이를 일반 대중에게 오픈 소스로 배포할 수 있도록 했습니다.

이번에 우리에게 새로운 관점을 선사할 인물은 하버드 대학의 임베디드 에틱스(Embedded EthiCS) 리더이자 컴퓨터 과학자인 제임스 미킨스 교수입니다. 하버드 대학의 미래의 엔지니어를 양성하는 교육 방침과 궁극적인 목표에 대해 이야기를 나눠 보겠습니다.

윤송이   좋은 아침이에요, 제임스 교수님. 오늘 이렇게 함께해 주셔서 정말 기뻐요. 대화 나눌 시간을 내주셔서 정말 감사합니다.

제임스 미킨스   별말씀을요, 반갑습니다.

윤송이   인공지능과 윤리에 대한 우리의 폭넓은 관심사를 오늘 이야기해 볼까 하는데요. 컴퓨터 과학자이자 임베디드 에틱스(Embedded EthiCS)의 개념을 도입해 교육에 힘쓰시는 개척자의 관점에서 의견을 들려주세요.

자, 그럼 임베디드 에틱스에 대한 것부터 이야기해 보죠. 이것이 어떠한 학문이며 어떻게 가르치시는지, 학생들은 어떻게 받아들이는지 간략히 말씀해 주실 수 있나요?

제임스 미킨스   물론이죠. 임베디드 에틱스가 만들어진 계기는 무엇일까요? 근본적으로 살펴보면 엔지니어들이, 스스로가 만든 것들이 사회에 미치는 영향에 대해 책임져야 하는 상황이 점차 많아졌기 때문입니다. 특히 컴퓨팅 산업의 기술자들과 관련이 있는데, 일상의 다양한 측면이 컴퓨터 시스템과 점점 더 밀접해지고 있습니다. 지금 이 상황을 생각해 보세요. 우리는 줌(Zoom) 덕분에 이렇게 대화하고 있어요. 이는 팬데믹 기간 동안 사람들의 소통 방식에서 중요한 위치를 차지하게 됐습니다. 그 밖에도 무언가를 결제하고, 스트리밍 서비스를 이용하고, 게임하는 것을 생각해 보세요. 우리가 어떻게 다른 사람들과 상호 작용을 하는지 알 수 있는 중요한 측면이 되었습니다.

예를 들어 형사 사건의 판결문을 살펴보면, 어떤 사건에서 가석방을 결정하기 위해 알고리즘이 사용되기도 합니다. 우리가 대출받을 때를 보면 은행도 우리의 신용도를 확인하고 대출 가능 금액을 결정하기 위해 알고리즘을 이용하죠. 이처럼 인간의 경험은 점점 더 컴퓨터를 통한 경험이 되어 가요. 우리가 그것을 알고 있든 그렇지 않든 상관없이요.

자, 이제 엔지니어들이, 특히 컴퓨터 과학자들이 고민해야 할 흥미로운 질문이 생긴 것입니다. 이는 단순히 기술적인 내용의 질문이 아니라 사회와 연계된 기술적 질문입니다. 이런 질문이 생길 때마다 윤리적인 문제도 마주하게 될 것입니다. ‘과연 옳고 그른 일이란 무엇일까요’와 같은 수준 높은 질문일 텐데요. 물론 질문을 제기하는 것 자체는 매우 쉽습니다. 하지만 악마는 디테일에 있는 법이죠(the devil is always in the details).

제임스 미킨스   임베디드 에틱스가 무엇인지 원래의 질문으로 돌아가서, 우리가 이걸 왜 개발했으며 왜 중요하다고 생각했을까요. 우리가 하고 싶었던 건 엔지니어와 컴퓨터 과학자들이 이러한 질문에 대해 생각하는 법을 배울 수 있는 환경을 만드는 것이었습니다. “여기서 옳고 그른 일은 무엇일까?”, “이해 관계자들은 누구일까?”, “옳고 그름을 고려해야 하는 대상은 누구일까?” 하는 것들이죠.

더 나아가서 우린 그동안 많은 학교가 고집해 온 공학 윤리학(engineering ethics)의 전통적인 교육 모델을 따르고 싶지 않았습니다. 엔지니어라면 ‘공학 윤리학’이라는 교과 과정을 수강하고 유명한 사례 연구에 대해 배우는 게 전부죠. 많은 학생들이 이 수업을 단순 필수 과목으로만 인식했습니다. 이 수업을 들은 학생들은 학교를 졸업하고 기업에 가서 수천 줄의 버그 없는 코드를 작성하는 미래만 그립니다.

아무것도 안 하는 것보다는 확실히 낫겠지만, 이러한 접근 방식은 학생들에게 윤리적 측면에 대한 고려가 어떤 식으로 엔지니어링의 일상적 행위가 되어야 하는지 알려 주지 못합니다. 이는 설계를 마치고 되돌아보며 단순히 고민하는 일이 아닙니다. “그나저나 내가 윤리적이었을까?”, “고객과 직원 그리고 사회를 위해 옳은 일을 했나?” 이렇게 뒤늦게 질문하고 싶지는 않을 거예요. 문제를 깨닫고 나서 고치는 것은 훨씬 어려우니까요. 그렇지 않나요?

따라서 임베디드 에틱스에서 우리가 하는 일은 학생들이 그저 하나의 수업을 듣고 ‘이제 됐어.’라고 생각하지 않도록 하는 거예요. 우리는 윤리적 추론 개념을 각각의 수업에 포함시키려고 합니다. 기본 개념으로, 여러분이 컴퓨터 과학자고 대학 시절 동안 컴퓨터 과학 강의 10개를 듣는다고 가정해 보죠. 저희가 희망하는 건 모든 수업이 각 수업과 관련된 윤리적 측면을 논의하는 구조를 갖추는 것입니다.

제임스 미킨스   이를 통해 우리가 목표로 하는 것 중에 하나는 컴퓨터 과학자들이 ‘윤리 강의를 듣거나 윤리 문제를 고려하는 게 필수가 아닌 학문에도 옳고 그름을 판단해야 하고 누가 이해 관계자인지’와 같은 중요한 문제가 존재한다는 것을 스스로 생각하도록 만드는 것입니다. 이게 바로 우리의 고차원적인 접근 방식입니다. 우리는 수업의 내용이 컴파일러(compilers)든, 컴퓨터 인터렉션(computer interaction)이든, 게임(class on games)이든 상관없이 윤리적 요소를 각 교육 과정에 넣고 싶습니다.

제임스 미킨스   저희가 윤리에 대해 나누는 토론 내용은 어떤 학문 분야의 특정 문제에 기반을 두고 있습니다. 구체적인 예를 들자면, 저는 컴퓨터 보안(computer security) 수업을 가르치는데, 해커를 역으로 해킹하는 것이 윤리적인지에 대해 논의하는 임베디드 에틱스 모듈이 있습니다. 여러분이 회사에서 사이버 범죄의 피해자가 되었다고 가정해 보죠. 여러분이 누가 회사 시스템을 해킹했는지 알고 있다고 할 때 범인을 역으로 해킹하는 게 합당한 일인가요? 여러분의 자산을 다시 훔치거나 피의자의 운영 시스템을 강제 종료해 버리는 일 같은 것 말이에요. 이건 무척 간단한 질문 같죠.

우리는 이 사례로부터 ‘공격적으로 된다는 것’이 무엇을 의미하는지 흥미로우면서도 풀기 어려운 문제를 연구하기 시작했어요. 우리는 역으로 해킹하기 전에 얼마나 확신할 수 있어야 할까요? 만약에 당신의 결정이 틀렸다면 어떡하죠? 정부가 하지 말라고 하면요? 그게 상관있나요? 법적 규제가 역으로 해킹하는 일에 대해 옳고 그름을 판단하는 데 어떤 역할을 해야 할까요?

윤송이   훌륭하네요. 임베디드 에틱스를 전반적으로 설명해 주셔서 감사합니다. 학생들이 자신들이 배우고 있는 과목의 맥락에서만 바라본다면 고민해 보지 못했을 윤리적 문제들에 대해 생각해 보는 데 확실히 큰 도움이 될 것 같아요.

윤리학은 수천 년을 아울러 볼 때 역사가 가장 오래된 분야일 것입니다. 하지만 가장 인기 있는 분야는 아니었죠. 오늘날 더 많은 사람이 윤리적 영향을 이해하는 데 관심과 노력을 기울이게 하려면 어떻게 해야 할까요? 하버드에 와서 이전에는 생각하지 못했던 윤리적 질문에 대해 고민할 엔지니어들에게 임베디드 에틱스를 가르치시는 관점에서 의견을 공유해 주실 수 있나요?

제임스 미킨스   그럼요. 우리는 혼란스러워하는 학생들의 생각을 바꾸려 노력합니다. 예를 들면 임베디드 에틱스의 목적은 니체(Friedrich Nietzsche) 같은 주제에 대해 완벽한 논문을 쓸 수 있는 엔지니어를 배출하는 것이 아닙니다. 중요한 목적은 사람들에게 질문하는 법을 가르치는 것이죠. 제 생각에 특히 윤리적 논리와 철학이 다가가기 어려운 분야로 여겨지는 이유 중 하나는 대부분 질문에 대한 명확한 답이 없기 때문입니다. 그게 바로 많은 엔지니어들에게 좌절감을 주는 요인이지요. 저 또한 학생 시절에 같은 입장이었고요.

제임스 미킨스   제가 듣는 모든 수업에서 교수님들은 아마 이러셨겠죠 “여기 숫자 배열을 오름차순으로 정렬해 보세요.” 그럼 저는 답이 맞았는지 틀렸는지 정확히 알아요. 목록이 잘 정렬됐는지만 확인하면 되니까요. 하지만 소셜 미디어에서 게시물의 우선 순위를 결정하는 알고리즘이 갈등을 일으키거나 부정적인 감정을 유발한다면 우리는 어떻게 해결해야 할까요? 이 문제의 답은 명확하지 않습니다. 누군가가 당신에게 “대다수의 사람들이 이 비디오 게임에는 대표 캐릭터가 없다고 생각한대.”라고 말하면 그것이 대표적인 의견이 맞을까요? 누군가의 그 말을 믿는다고 해도 우리가 어떻게 해결할까요? 우리는 이것을 제로섬 게임이라고 생각해야 할까요? 캐릭터의 방식을 바꾸면 그것을 대표 캐릭터라고 느끼는 특정한 유저들이 나타날까요?

그래서 저는 이렇듯 옳고 그름이 명확하지 않다는 점이 엔지니어들이 ‘아 그만하고 싶다. 이런 모호한 것을 배우러 학교에 온 게 아닌데.’라고 생각하게 만든다고 여깁니다. 하지만 우리가 임베디드 에틱스를 통해, 학생들이 생각해 볼 수 있도록 권유하는 내용은 질문하게 하는 것입니다. 이해 관계자가 누구일까? 성공 여부는 어떻게 평가할까? 성공을 어떻게 정의해야 할까? 이렇게 질문하는 자체가 중요합니다. 이 질문들이 대화를 시작하게 하고 이 대화가 영향력을 미칠 수 있기 때문입니다.

기본적으로 조직 내에서 윤리적 추론을 담당하는 사람이 해야 할 역할이 있습니다. 병원에서 단순히 의사뿐만 아니라 생명 윤리나 철학을 전공한 사람도 윤리 위원회에 포함시키는 이유와 같습니다. 왜냐면 우리는 엔지니어가 어떤 까다로운 문제에 부딪혔을 때 혼자 의사 결정을 내려야 하는 상황을 원하지 않기 때문입니다. 하지만 저는 엔지니어들도 대화에서 큰 몫을 해야 하고 그게 핵심이라고 생각합니다.

저희는 엔지니어들이 임베디드 에틱스 프로그램이 끝난 후에 ‘난 윤리에 대해 모르는 게 없어. 전문가의 도움도 필요 없지.’ 이렇게 생각하길 바라지 않습니다. 첫 번째로 엔지니어들이 질문하고, 두 번째로 문제를 이해하기 위한 기본 언어를 갖추고, 세 번째로 특정 상황에서 외부의 도움이 필요하다고 말하는 게 중요합니다. 엔지니어로서 윤리 위원회에 찾아가거나 윤리, 문화, 다양성 또는 경제 분야에 관련된 전문가를 초빙하는 것에 대해 고려한다면 바람직한 방향일 것입니다.

제임스 미킨스   미디어나 정치인들은 종종 엔지니어들에게 큰 자신감을 선사합니다. 송이 님도 정치인들이 “우리는 STEM(과학, 기술, 공학, 수학, 융합 교육) 전공자가 더 필요합니다. 엔지니어가 바로 미래예요.”라고 말하는 것을 보셨겠죠. 컴퓨터 과학자로서 좁은 관점에서 보면 참 좋습니다. 제 직업이 가치 있다는 말이니까요. 하지만 그런 말들은 기술자에게 ‘모든 것은 기술적으로 해결할 수 있다’고 생각하게 만듭니다.

임베디드 에틱스 프로그램을 배우는 학생들에게 강조하고 싶은 것 중 하나는 공학은 위대하지만 모든 건 다 연결되어 있다는 것입니다. 그러니까 본인이 만든 시스템이 미칠 영향력을 생각한다면 윤리 학자와 사회 학자들의 말을 생각해 봐야 하죠. 다시 말해서 우리 엔지니어들이 폭넓은 영향을 미치는 사회 기술적 시스템을 만들기 때문이에요. 그리고 그 영향은 단순이 기술적인 것뿐만이 아니에요.

윤송이   맞아요, 정말 좋은 말씀이에요. 왜 윤리적인 질문들이 생각하면 생각할수록 어렵게 느껴지는지 그 이유를 잘 말씀해 주신 것 같아요. ‘무엇이 맞다, 틀리다’라고 말하는 것은 명확한 일처럼 보이지만 조금 더 생각해 보면 옳고 그름의 경계를 구분 짓는 것은 쉬운 일이 아니에요.

말씀해 주신 게임 캐릭터의 사례처럼 저 또한 비슷한 상황을 겪은 적이 있습니다. 저는 게임의 영웅 캐릭터를 만들 때 성별이나 인종에 있어 공정한 대표성(fair representation)을 표현하는 것이 좋고 그게 옳다고 생각했습니다. 하지만 이후에 ‘그게 왜 더 나은지 왜 더 옳은지’와 같은 의구심을 낳았죠. 그리고 한 걸음 더 나아가 제 생각이 분명하지 않을 수 있다는 걸 깨닫게 되었습니다.

게다가 더 복잡하게도 30년 전에는 옳았던 것이 오늘 날에도 옳은 것은 아니라는 거예요. 1960년대에 미국 대법원에서 내린 판결이 오늘 날의 도덕적 기준에서는 완전히 잘못된 것으로 간주되기도 하죠. 저는 대법원과 같은 기관은 관점이나 기준의 변화를 반영해야 한다고 생각합니다. 이미 결정되고 적용된 것들을 검토하고 담론을 이끌어 내야 하기 때문이죠.

그래서 제 질문은 이것입니다. 우리가 이런 문제와 사회적 함의를 이야기하는 데 있어서 사회 혹은 정부 기관은 어떤 역할을 해야 할까요? 무엇이 옳고 무엇이 그른지, 우리가 고려해야 할 이해 관계자들은 누구인가요?

제임스 미킨스   정말 좋은 질문이에요. 답변을 몇 가지로 정리해 보겠습니다. 제가 중요하다고 생각하는 한 가지는 철학적, 도덕적 분석의 목적이 어떤 결정에 대한 옳고 그름을 명확하게 가리기 위한 게 아니라는 것입니다. 실제로 엔지니어, 심지어 철학자도 그렇게 판단하는 게 흔치 않아요. 이 점은 우리가 임베디드 에틱스에서 보여 주려는 중요한 주제입니다. 즉, 윤리 학자 여러 명에게 똑같은 상황을 보여 준다고 하더라도 모두가 그것이 옳은 것이라고 판단할 가능성은 거의 없다는 것이죠.

그럼에도 윤리적 질문을 하는 것이 중요한 이유는 옳고 그름에 대한 개념이 우리의 가치에 뿌리를 두고 있기 때문입니다. 사실 송이 님과 저 역시 어떤 행위의 옳고 그름에 대한 판단이 같지 않을 수 있습니다. 우리가 같은 가치를 공유하지 않는다면요. 바로 우리가 임베디드 에틱스에서 학생들에게 제공하려고 하는 핵심 사항 중 하나가 자신의 가치가 무엇인지 분명히 말할 수 있는 능력입니다. ‘우리가 하는 게 맞는 것 같은데 잘 모르겠다’면 왜 그런 것인지 실제로 구체화해야 합니다. 자신이 어떤 가치를 우선시하는지, 상대가 우선시하는 가치는 무엇인지도 이해해야 하고요.

제임스 미킨스   여러 명의 이해 당사자가 있을 때에는 더욱 혼란스러운 상황이 발생합니다. 서로 다른 가치관을 가졌는데 의사 결정을 내릴 때 그 가치를 공유하지 않는다면 옳고 그름을 논의하는데 있어 마찰이 생기는 것이죠. 즉, 윤리적 추론의 목표가 ‘이게 옳은 것이야.’라는 이분법적 결정에 달려 있지 않다는 것입니다. 그리고 이 지점에서 엔지니어, 특히 컴퓨터 과학자들이 좌절할 수 있어요. 우리는 명확한 답을 추구하며 이진법을 사용하는데 불행히도 우주가 이를 따르지 않으니까요. 그래서 우리는 자신이 우선시하는 가치에 대해 명확하게 생각하고 그것이 우리의 의사 결정의 근거가 될 수 있는지 계속 확인해야 합니다.

그리고 마지막으로 드리고 싶은 말은 이것입니다. 특히 엔지니어들 사이에서 사회적 또는 윤리적 문제에 어떠한 입장을 취하지 않는 것으로 이 문제를 회피할 수 있다는 암묵적인 견해가 있을 수 있습니다. 그것은 완전히 잘못된 거예요. 실존주의(existentialism) 철학자들은 결정하지 않는 것 또한 결정이라고 말합니다. 가령, 당신이 어떤 일이나 사회적 문제에 관여하지 않기로 결정하는 것은 암묵적으로 현재 상태를 유지한다는 의견을 지지한다는 의미라는 것이죠.

제가 철학에서 가장 좋아하는 교훈이 있어요. ‘키에르케고르(Kierkegaard)’라는 실존주의 철학자가 한 말입니다. 그는 기본적으로 우리를 배의 선장에 비유했습니다. 그는 우리가 선장으로서 방향타를 움직여야 하는데 가만히 두기로 결정했다면 바람이 우리를 어떤 해안으로든 데려갈 것이라고 말했습니다. 즉 특정한 방향을 결정하지 않는 행위의 결과도 배를 멈춰 서 있게 하는 것이 아니라 어딘가로 나아가게 할 것이며 그에 따른 결과가 발생할 것이라는 의미입니다. 저는 엔지니어들이 “나는 이 토론에서 빠지고 싶어. 그냥 코딩만 할래.”라고 말하는 것을 종종 듣습니다. 그 말은 그들이 쌓아 올린 것이 빚어 내는 사회적인 영향에서 발을 뺄 수 있다는 특권 의식과 같다는 것을 엔지니어들에게 당부하고 싶습니다.

윤송이   네, 좋아요. 임베디드 에틱스 교육 과정을 하버드 밖으로 퍼뜨려서 더 많은 젊은엔지니어들이 이러한 교육 과정을 알게 되고 이렇게 중요한 접근 방식에 대해 생각하고 배울 수 있도록 제임스 교수님이 하시는 노력에 대해 말씀해 주실 수 있나요?

제임스 미킨스   네, 우리는 같은 생각을 가진 다른 학교와 컨소시엄으로 함께 일하면서 교육학적 아이디어를 제공하고 어떤 것이 효과가 있고 없었는지에 대해서도 공유합니다. 우리에겐 몇 개의 오픈 소스 교육 과정이 있어요. 데이터베이스, HCI(Human-Computer Interaction) 수업 등과 접목한 이 특정 윤리학 과목 혹은 강의들은 누구나 수강할 수 있습니다. 사람들이 다른 사람들의 방법들을 시도해 보고 무엇이 그들에게 맞는지 알 수 있도록 하기 위해서죠.

또한 컴퓨터 공학 외의 학문과 연계하기 위해 노력합니다. 우리는 초창기에 경영 대학, 의과 대학과도 협력했어요. 왜냐하면 윤리 문제는 이런 분야에서도 발생하니까요. 하지만 우리는 많은 경우에 기술이 윤리적 측면의 위험한 요소를 줄이거나 늘리는 데 한몫할 수 있다는 사실도 발견했죠. 우리는 경영 대학과 일하면서 초기에 많은 대화를 나눴어요. 예를 들어 ‘기술 스타트업은 무엇을 고려해야 하는지’와 같은 것이요. 스타트업이 사용자층을 넓히거나 초반 구독 수를 늘리는 것과 ‘우리가 사용자 기반을 늘리기 위해 고려할 도덕적 문제가 뭐지?’라는 생각의 균형을 맞출 때 같은 거죠. 우리는 최종적으로 기술을 논의하는 모든 곳에서 창조되는 기술이 미치는 사회적 영향에 대해 대화할 수 있기를 바랍니다.