NC

인간의 경험이 곧 기술의 경험인 시대입니다. 기술은 점점 더 일상에 깊숙이 파고들면서 우리의 삶을 보다 다채롭고 편리하게 만들고 있습니다. 하지만, 그 이면에서는 이전에 없었던 사회적 현상을 초래하기도 합니다. SNS 활동이 10대 소녀들의 왜곡된 자아를 형성한다는 기사도 있었죠. 엔지니어는 이제 개발하는 시스템의 사회적 영향력을 간과해서는 안됩니다. 엔지니어들에게 연구실 너머를 내다보는, 기술을 바라보는 새로운 눈이 필요한 때입니다.

[AI FRAMEWORK]는 인공지능과 인류의 미래를 고민하는 세계적인 석학들의 눈을 통해 ‘AI를 바라보는 새로운 관점’을 제시하는 엔씨의 새로운 콘텐츠 시리즈입니다. 엔씨의 AI Center 설립을 주도하며 첨단 기술의 윤리적 문제를 탐구해 온 윤송이 CSO가 공학, 정치학, 철학 등 각 분야의 리더들을 만나 서로의 생각과 관점을 나눕니다.

하버드 대학의 컴퓨터 과학자인 제임스 미킨스 교수와 두 번째로 이야기 나눌 주제는 지속 가능한 미래를 위한 엔지니어의 역할입니다. 앞으로 미래의 엔지니어들이 기술과 사회를 바라보는 관점을 어떻게 바꿔야 하는지 이야기를 나눠 보겠습니다.

윤송이   지금 우리가 사는 세상에 대해 얘기해 볼까요. 저는 IT 기업의 CEO들을 종종 만나는데요, 이야기를 나누면서 자주 놀랍니다. 윤리적 결정이 필요한 문제에 대해 누가 결정을 내려야 하는 것인지 정말 의견이 다양합니다. 저는 종종 사람들로부터 “이건 엔지니어가 결정할 일이 아닙니다. 윤리 학자나 다른 사람들의 몫이죠.”, “엔지니어들은 가장 효과적인 알고리즘을 만들고 기술 최적화에 집중하면 됩니다.”라는 말을 듣습니다.

제임스 교수님의 생각이 듣고 싶네요. 과학과 인공지능의 활용 범위가 확대되면서 업계의 환경이 바뀌었다고 생각하시나요. 또 우리 사회 구성원들이 엔지니어링의 사회적 의미를 보다 넓게 생각하게 하려면 우리가 무엇을 할 수 있을까요?

제임스 미킨스   아주 좋은 의견을 말씀해 주셨네요. 네, 저희는 가끔 그런 반발을 듣습니다. 업계 사람들뿐만 아니라 학생들도 이렇게 말하고 싶을 거예요. “철학은 별개의 분야야. 이런 걸 생각하고 싶으면 철학을 전공하겠지. 하지만 나는 코딩을 공부하고 싶고, 그게 내 할 일이야.” 하지만 흥미롭게도 송이 님도 한편으로 알고 있을 거예요.

의학을 예로 들어 볼게요. 흥미로운 비유니까요. 우리가 혈액 검사지(blood chemistry test)를 읽을 줄만 아는 의사를 선호하나요? 아니면 의사들이 전체적인 관점에서 환자를 보길 바라나요? 특정 환자에게 어떤 치료가 필요한지 어떤 방법이 가장 적합한지 등을 생각해야 할 때 말이에요. 이런 것은 그저 심장이나 뇌 혹은 폐의 작동 원리를 이해한다고 알 수 있는 게 아니에요. 더 큰 그림을 볼 줄 알아야 하죠.

제임스 미킨스   물론 같은 방식으로 여러분이 엔지니어라면 공학을 기본적으로 배워야 합니다. 기계 공학자라면 다리를 설계하는 법을 배울 것이고요, 컴퓨터 과학자라면 알고리즘의 러닝 타임을 배우죠. 그러나 윤리적 결정이 필요한 문제를 나중으로 미루면, 결국 중요한 문제를 고려하지 않은 시스템이 만들어집니다. 그럼 시스템이 구축된 이후 갑자기 재난을 겪는 경우가 많아요. 그러고는 “우리는 뭘 다르게 할 수 있었을까?” 하고 말하지요. 그 답은 바로 엔지니어가 본인이 구축하는 시스템의 영향을 좀 더 검토하고 성찰하는 데 시간을 할애할 수 있었다는 겁니다. 저는 대기업뿐 아니라 중소기업에서도 윤리 문제를 깊이 다루는 전문가나 위원회를 두는 게 합리적이라는 데 전적으로 동의합니다. 하지만 제가 말한 성찰에 관한 대화는 설계 단계에서도 할 수 있어요. 아까 언급했듯 재난은 처음부터 막는 게 쉽습니다.

소셜 네트워크에 퍼진 잘못된 정보들을 생각해 보세요. 우리 모두 이 문제가 얼마나 심각한지 잘 알고 어떻게든 고쳐야 한다고 생각하죠. 만약 엔지니어가 처음부터 약간의 도덕적 상상력을 펼쳤다면 어땠을까요? 정보 전달 시스템을 위한 도로를 깔고 인프라를 구축할 때 말이에요. 그때가 문제들을 깊이 생각하고 해결하는 데 필요한 안전 장치를 설치할 적기였을 거예요. “일단 뭐라도 하자. 그럼 시장에서 어떻게든 되겠지.” 혹은 “윤리 위원회에서 잘못을 지적해 주세요.”라고 말하는 대신에요. 이런 태도는 점점 더 지속 가능하지 않은 것 같아요.

왜냐하면 단지 연구실이나 매우 제한된 환경에서 소수의 사람들만 사용할 무언가를 만드는 게 아니니까요. 수백만 명, 수십억 명의 사람들이 사용할지도 모를 제품, 운영 체제, 소셜 네트워크, 게임을 만드는 것은 전혀 다른 일이에요. “내가 만든 제품이 세상에 어떤 커다란 영향력을 미칠지 기대돼.”라면서 “내가 만든 시스템이 세상에 어떤 깊은 의미를 가질지 책임감은 느껴지지 않아.”라고 한다면 너무 무책임한 말입니다. 그래서 점점 많은 회사들, 적어도 큰 회사들은 이런 아이디어를 받아들여 일종의 내부 윤리 심사 위원회(internal ethical review board)나 그와 비슷한 조직을 두기 시작했어요. 그리고 우리는 임베디드 에틱스 프로그램이 실제 현장의 주니어 엔지니어들에게 더 큰 윤리적 과제에 대해 생각하고 질문하게 하도록 힘을 실어 주길 바랍니다.

윤송이   제가 너무 부정적으로 생각하려는 것은 아닙니다. 윤리 학자들이 일하는 윤리 위원회가 있는 것이 물론 좋다고 생각해요. 하지만 정보와 아이디어가 매우 복잡하게 구조화되어 전파되는 소셜 네트워크 분야에서는 무엇이 오랫동안 영향을 미칠 수 있는지 예측하기가 정말 어렵습니다. 관심사가 비슷한 사람들을 모은다는 건 괜찮은 아이디어처럼 느껴져요. 하지만 그러한 결정으로 인해 수십 년 후 양극단의 주장으로 국가를 둘로 나누는 데 영향을 주는 에코 체임버(echo chambers)가 만들어질 줄 누가 알았을까요?

윤송이   저는 어떠한 사건이 생겼을 때 윤리 위원회가 결정을 내릴 수 있다고 생각합니다. 그리고 윤리 위원회의 적절한 결정은 양질의 정보가 뒷받침할 것이고요. 하지만 윤리적으로 큰 영향을 미칠 수 있는 영역이 무엇인지 처음부터 인식하거나 예측하는 것이 정말 어렵다면 저는 별도의 윤리 위원회가 덧붙일 수 있는 가치는 상당히 제한적일 수 있다고 생각합니다. 그렇다면 기업의 기술적 노력에 방어책을 제공할 효과적인 구조를 만들기 위해서 우리는 무엇을 할 수 있을까요?

제임스 미킨스   훌륭한 질문입니다. 이 인터뷰를 시청하는 미래의 엔지니어들에게 분명하게 말하고 싶은 게 있어요. 재난은 언제든지 일어날 수 있습니다. 항상 가능성이 열려 있죠. 사람들의 말처럼, 우리의 시스템은 어떤 일이 생기기 전까진 무엇이 문제인지 명확하지 않습니다. 저는 그것이 사실이기 때문에 전제로 받아들이고 싶습니다. 하지만 그것이 가리키는 것은 제품을 설계할 때부터 윤리적인 고려를 더 크게 염두에 두어야 한다는 것입니다. 제품이 승인됐을 때 단지 설계 단계에서 조사와 검사를 했다고 모든 것이 잘될 것이라 자신하면 안 되잖아요. 그렇지 않나요?

제임스 미킨스   예를 들어 엔지니어링 분야에서 지속적 통합(continuous integration)을 생각해 보세요. 지속적 통합이란 무엇일까요? 이는 ‘우리는 실제 완성된 제품을 절대로 가질 수 없다’는 생각에서 비롯된 것입니다. 엔지니어는 주기적으로 업데이트를 실행하고 작동 방식을 조정합니다. 그렇게 함으로써 뛰어난 엔지니어는 엔지니어링 매트릭스의 가용성은 어떤지, 성능은 어떤지 그 우수성을 확인합니다. 이제 우리는 사회적 영향도 이와 같은 방식으로 생각할 필요가 있습니다. 왜냐하면 사전에 이해 관계자가 누구인지, 제품의 부정적인 사회적 위험이 무엇인지 미리 열심히 조사하더라도 우리가 종종 놓치는 경우가 많기 때문이에요. 우리는 인간이고, 실수할 수 있습니다. 그러므로 중요한 것은 실수를 바로잡는 데 열려 있어야 하는 것입니다.

제임스 미킨스   소셜 미디어를 예로 들면 사실 우리 시스템이 운영되는 방식을 크게 바꿀 만한 수많은 데이터가 발견되었습니다. 송이 님도 「월스트리트저널」에서 보셨을 텐데요. 최근에 탐사 보도가 연달아 실렸습니다. 그 기사는 ‘페이스북 파일‘이라고 불리는 것 같아요. 페이스북 내부에 분량이 엄청난 데이터가 있다는 내용이었습니다. 예를 들면 특히 어린 여성들이 인스타그램을 살피며 자신의 생김새를 부정적으로 생각한다는 내용이 있죠. 송이 님이 좀 전에 말씀하신 정보도 있었어요. 페이스북이 수집한 에코 체임버에 관한 데이터들이죠. 알고리즘 조작이 어떻게 잘못된 정보를 확산하는지 보여 주는 자료였어요. 관계자들은 “제품이 나오기 전에 우리가 모든 걸 예측할 순 없어.”라고 말할 거예요. 맞는 말이에요. 엔지니어로서 받아들여야 할 말이고요.

제임스 미킨스   우리는 언제나 ‘실수’를 할 거예요. 사회적 측면에서 옳은 것과 옳지 않는 것에 대한 이유들을 생각해야 해요. 지속적으로요. 하지만 제가 지적하고 싶은 부분은 사람들, 특히 회사에 있는 분들이나 고위 관계자들은 이렇게 말할 거라는 거예요. “이 시스템은 정말 너무 복잡해요. 우리가 무엇을 판단해야 할지 대체 어떻게 알 수 있나요?” ‘페이스북 파일’ 기사가 보여 주는 건 측정할 수 있는 정보가 매우 많다는 것입니다. 우리가 미치는 영향이 긍정적인지 부정적인지에 대해 어떻게 해석해야 할지도 꽤 명확하고요.

더 나아가 여기서 주목해야 하는 건 엔지니어가 단순히 윤리적 추론을 하는 것만으로는 충분하지 않다는 것입니다. 윤리 자문 위원회도 물론 중요하죠, 꼭 필요해요. 하지만 충분하진 않아요. 우리가 이야기한 윤리적 고려 사항을 당연한 것이라고 생각하는 리더십이 있어야 합니다. 그러한 리더십이 없다면 ‘문제가 있는데 우리가 할 수 있는 게 뭐지?’라고만 생각하게 될 거예요. 다른 사람들이 애써 시도해 봐도 고위 관계자가 신경 쓰지 않으면 변화는 일어날 수 없을 거예요.

윤송이   네, 저도 그게 리더십에 달려 있다는 말씀에 전적으로 동의해요. 하지만 엔지니어와 윤리 위원회뿐 아니라 모두가 윤리적 문제에 더 많이 주의하고 사회적 영향력에 대해 생각하는 습관을 가져야 할 것 같습니다. 엔지니어에게 최적화는 엔지니어링의 기본 요소입니다. 우리는 항상 시스템을 특정 목적 맞게 최적화하도록 배워요. 그건 속도를 빨라지게 하고 효율적일 수 있습니다. 혹은 숫자로 표현되는 어떤 것도 될 수 있습니다.

하지만 다른 변수들도 고려해야 한다면 기존 변수에 최적화되지 않은 시스템이나 알고리즘이 나타날 수 있을 거예요. 그렇다면 우리가 이제 다양한 방법을 받아들여야 한다는 의미인가요? 공학적으로 최적화되지는 않았지만 최선책이라면요. 객관적으로 무언가를 최적화하도록 교육받았던 전통적인 공학 교육으로부터 매우 큰 변화인 것 같습니다.

제임스 미킨스   네, 정확한 말씀이에요. 어떤 의미에서 ‘옛날 엔지니어’에게 이런 변화는 그것들을 재배치하는 방식으로 느껴질 수 있죠. 이는 변화가 맞습니다. 반발도 많으리라 생각합니다. 대부분의 엔지니어들은 걱정하니까요. 하지만 제가 공정성을 평가할 순 없어요. 저는 추상적으로 중요하다고 생각하지만 공학적으로 구체화하지 못하는 모호한 것들, 다양성 같은 것들을 측정할 순 없어요.

하지만 또 흥미로운 건 여러분이 광고와 타겟팅으로 많은 돈을 버는 회사를 볼 때 그 회사의 누구에게도 이런 말은 못 들을 것이라는 거예요. “세상에, 광고 타겟팅은 너무 복잡하니까 저흰 그냥 손 뗄게요. 어떻게 할 수가 없네요” 같은 말들이요. 그들은 애매한 개념을 받아들일 방법을 찾아요. 물론 우리가 클릭률을 측정할 순 있지만, 과연 그 수치가 실제로 사람들에게 가장 좋은 광고라는 표시일까요? 우리는 최선이라는 걸 어떻게 정의하죠? 이런 큰 기술 회사들은 모두 큰 프로그램에 말 그대로 수십억 달러를 쏟아붓습니다.

제임스 미킨스   그리고 우리가 분명히 아는 사실은 규모가 크든 작든 기술 회사들은 일반적으로 문제가 닥쳤을 때 피하지 않는다는 거예요. 그것이 기술 회사의 대단한 점이죠. 제가 기술에 열광하는 이유이기도 하고요. 우리는 Gmail 같은 이메일 서비스를 만드는 데 확장성이 뛰어난 방식을 제공하거나, 웹 사이트에서 몇 초 안에 수십만 페이지 뷰를 제공하는 인터넷 인프라를 만들고 싶습니다. 그건 매우 도전적인 일이고 어려운 일이에요. 제가 엔지니어로서 좋아하는 건 위험을 향해 달려가는 것입니다. 우리는 이렇게 말해야 합니다 “이건 어려운 문제지만 잘될 것이고, 우린 최종 해결책을 찾아낼 거야.”라고요.

그리고 사회에 유익한 기술을 만드는 것은 어려운 문제지만, 그저 수량화하기가 어렵다고 우리가 이 문제를 피해야 할 이유는 없다고 생각해요. 예를 들어 실시간 광고 수신 네트워크의 인프라를 생각해 보세요. 자연어 번역을 위한 머신 러닝 알고리즘도 그렇고요. 현대적 시스템이 구축한 것으로 웹 브라우저나 운영 체제(OS), 게임 등은 보통 수백만 줄의 코드로 되어 있습니다. 때론 수십억 줄로 배포되기도 하고요. 그래서 이제 우리는 인터넷 라우팅 인프라 같은 것들에 의존하며 살고 있어요. 이건 복잡한 시스템입니다.

한 엔지니어가 저에게 와서 말했어요. “저는 이런 사회적 문제가 불분명해서 최적화하는 방법을 모르겠습니다. 저는 더 간단한 작업을 하고 싶어요.”라고요. 하지만 그건 안 돼요. 현대 사회는 복잡하니까요. 이런 제 견해에 대해 ‘옛날 엔지니어’로부터 여러 반발을 듣습니다. “과거에는 처리되는 양에만 집중할 수 있었고 그걸로 충분했어요. 그때가 훨씬 더 간단했죠. 지금처럼 이런 기술이 없었으니까요.” 때로는 여전히 사용하는 사람도 있지만 이제 우리는 인체가 어떻게 작용하는지 의사가 어떻게 치료해야 하는지 더 많이 알고 있습니다. 엔지니어도 마찬가지입니다.

우리가 사는 세상은 30년 전과 근본적으로 다른 사회예요. 저는 그 변화를 겪은 놀라운 세대죠. 제가 아주 어렸을 때는 집집마다 컴퓨터가 없었어요. 제가 5~6살 무렵 애플 IIe 같은 개인용 컴퓨터가 나오기 시작했을 거예요. 저는 이런 변화를 겪었고, 우리는 다른 세상에서 살고 있습니다. 그렇기 때문에 지금 우리는 엔지니어링에 다른 방식으로 접근해야 합니다.

윤송이   더 나은 알고리즘을 위해 노력하는 것이 즉각적인 보상을 받을 수 없는 일이라 쉽지 않은 것 같아요. 그 보상은 30년 후가 될 수도 있고 어쩌면 몇백 년 후가 될 수도 있죠. 마치 기후 변화처럼요. 이런 이슈들은 즉각적인 보상을 기대할 수 있는 전통적인 문제에 비해 사람들의 노력과 관심을 하나로 모으는 것이 어렵습니다. 이러한 장벽에도 불구하고 더 많은 사람들과 젊은 엔지니어들이 지속 가능하고 더 나은 알고리즘을 위해 시간을 쏟고 실재적인 노력을 기울이면 사회적으로 긍정적인 효과를 불러올 것이라고 생각합니다.

제임스 미킨스   제 생각에 우리가 10년에서 30년 후의 걱정거리라고 생각했던 것을 젊은 세대와 엔지니어들은 지금 당장의 문제로 받아들이기 시작했습니다. 기후 변화를 예로 말씀하셨죠. 기후 변화는 지금 당장의 문제입니다. 우리는 지금 지구 온난화의 영향을 이미 목격하고 있습니다. 보통 그 현상이 더 긴 시간 더 큰 규모에 걸쳐 발생하더라도 우리는 이미 그 시간 축에 서 있습니다. 또한 온라인 상의 괴롭힘이나 허위 정보 유포와 관련된 문제도 우리가 처한 현실입니다.

기업의 관점에서 근시안적으로는 이런 문제를 제기하는 것이 덜 시급할 수 있습니다. 하지만 그저 주주의 이익 극대화에만 신경 쓴다면 단기적으로는 회사에 이득이 될 수도 있지만 장기적으로 보면 사실 회사와 사회 모두에 득보다 실이 클 거예요. 태도의 변화가 필요합니다. 희망적인 건 젊은 엔지니어와 이 분야에 오래 몸담은 시니어 엔지니어들도 반향을 일으키고 있다는 것입니다. 그들은 이제 우리가 새로운 세상에 살고 있다는 사실을 깨달은 것 같아요. 30, 40년 전 메인 프레임은 주식 트레이더나 핵폭발을 시뮬레이션하는 연구자들이 사용했을 거예요. 그러면 엔지니어는 본인의 작업물이 그리 큰 영향을 미치지 않는다고 생각하죠. 이는 30, 40년 전에 볼 때나 그럴듯한 이야기입니다. 이제는 아닙니다.

지금은 더 이상 그렇지 않아요. 우리는 15년 전이라면 슈퍼 컴퓨터로 여겼을 물건을 주머니에 가지고 다니잖아요. 정말 멋진 일이지만 매우 우려스러운 일이기도 해요. 그러니 자신의 일이 사회적으로 별 의미가 없다고 생각하는 엔지니어는 경험적으로도 틀린 겁니다. 그래서 저희는 임베디드 에틱스와 여러 활동을 통해 이러한 수동적인 사고 방식을 바꾸려고 노력하고 있습니다.

윤송이   그렇군요. 오늘 귀중한 시간 내주셔서 감사합니다. 저는 정말 희망적입니다. 교수님께서 생각을 퍼뜨리기 위해 많은 노력을 기울이시고 더 나은 미래를 위해 뜻을 함께하는 엔지니어들을 성장시키고 계시니 말이에요.

제임스 미킨스   초대해 주셔서 감사드립니다. 송이 님과 이런 이야기를 나눌 수 있어서 좋았습니다.

윤송이   감사합니다.