NC

윤송이   철학자의 관점에서 우리가 현재 마주한 문제들을 어떻게 보시나요? 그리고 그러한 문제들이 과거 인류가 겪었던 문제들과 어떻게 다른가요? 또 교수님의 입장은 어떠신가요? 우리가 이러한 문제들을 헤쳐 나갈 수 있다고 낙관하시나요?

알렉스 번   그건 정말 넓은 범위의 질문인데요. 우선, 미래에 어떤 일이 벌어질지에 대한 이 질문에 답을 하기엔 저는 자격이 매우 부족합니다. 왜냐하면 제가 90년대에 MIT에 처음 왔을 때, 사무실에서는 초기 형태의 인터넷을 쓰고 있었습니다. 그리고 저는 동료들에게 인터넷이 결코 대중적으로 보급되지 못할 거라고 이야기했었죠. 그러니까 저는 미래 예측에 아주 소질이 없어요.

사회와 정치에 대한 미래 트렌드 예측과 관련해서도 사람들이 얼마나 형편없는 성과를 거두어 왔는지를 되돌아보면, 이러한 트렌드 예측은 매우 어렵다고 하는 기후 예측이나 코로나 확산 예측보다도 훨씬 어렵습니다. 코로나 예측과 관련해서는 많은 병리학적 모델들도 완전히 틀린 것으로 결과가 드러났죠.

미래 예측이 특히 어려운 이유 중 하나는 우리가 예상할 수 없는 가까운 미래에 벌어질 인공지능 영역에서의 극적인 발견이나 발전 때문입니다. 왜냐하면 그것들은 우리가 이미 가진 것들로부터 자연스레 발생하는 것이 아니거든요. 누군가가 돌파구를 마련하거나, 트랜지스터의 발전과 같은 새로운 기술이 발견될 겁니다. 인간의 양방향 소통이라는 것은 매우 복잡한 상호 연계된 시스템이라, 항상 예측하기가 굉장히 힘듭니다. 그런데 앞서 말씀드린 상황으로 인해 미래 예측은 더더욱 복잡하고 어려워질 겁니다.

그래서 저는 미래가 어떻게 될지 정말 잘 모르겠지만, 비관적일 필요는 없다고 생각합니다. 저는 물컵에 물이 반이 없다고 생각하기보다는 반이나 차 있다고 생각하는 편이거든요. 새로운 인공지능 기술은 분명히 긍정적으로 작용할 엄청난 잠재력이 있습니다.

윤송이   네, 좋은 말씀이네요.

알렉스 번   사실 저는 송이 님께 이걸 여쭤 보고 싶은데요, 아까 저한테 하신 미래 질문에 대한 송이 님의 답은 무엇인가요?

윤송이   앞서 말씀하신 것처럼, 저도 미래에 무슨 일이 일어날지에 대해 아이들보다도 나은 답을 알지 못할 거예요. 하지만 저는 20-30년 전의 상황이나 그 당시의 예측보다 훨씬 커진 사회적 영향과 그 의미에 대해 생각해 봐야 한다고 봅니다. 저는 우리 모두가 이러한 문제를 해결하기 위한 정확한 틀을 갖춘 상태에서 답을 할 준비를 하고, 사회적 영향에 대해 염두에 두는 것이 중요하다고 생각해요. 왜냐하면 그것이 엔지니어들이나 기업 경영자들이 갖출 수 있는 하나의 도구이고, 어떠한 알고리즘을 적용하기 전에 그 알고리즘이 미칠 수 있는 사회적 영향에 대해 이야기해야 한다고 생각하기 때문이에요. 그런 이유로 저는 학부생들이 불확실하고 혼란스러운 사회로 나가기 전에 이러한 도구들에 대해 배우는 것이 더욱 중요해지고 있다고 생각합니다. 학생들 스스로 질문을 던지며 보다 책임감 있는 자세로 문제를 해결할 수 있도록 말이죠.

알렉스 번   그렇게 말씀해 주시니 힘이 나네요. 바로 송이 님 같은 분들이 이러한 문제에 대해 목소리를 내 주셔야 한다고 생각해요.

윤송이   오늘 저희는 정답이 없는 문제에 대해 많이 이야기한 것 같아요. 옳은 것과 그른 것을 구별하는 문제처럼 말이죠. 무엇이 편견이고 공정인지와 같은 문제도 그렇고요. 반면 우리는 기계와 알고리즘이 처음부터 그러한 판단력을 갖추기를 기대합니다. 그렇다면 새로운 기술을 개발하고 그 기술로 사회를 발전시키는 전통적인 방식이 바뀌어야 한다는 것을 의미할까요? 우리가 맞이할 미래에 대해 사회적 합의를 이루고 이해도를 높이기 위한 사회적 담화는 무엇이며, 철학자와 윤리학자의 역할은 무엇일까요?

알렉스 번   맞습니다. 여기서 철학자의 역할이 하나의 문제고, 또 다른 문제는 우리가 얼마나 많은 의사 결정을 인공지능이나 슈퍼컴퓨터에 떠넘기느냐 하는 것인데요. 아시다시피 많은 경우 인공지능은 데이터에서 다양한 패턴을 찾아내거나 데이터를 다양한 차원에 따라 정렬하는 도구로 이용됩니다. 이렇게 수령된 데이터와 관련하여 의사 결정을 내리는 것은 바로 인간이죠. 그러니까 매우 추상적인 문제 하나는 ‘과연 어떠한 상황에서 우리 인간이 기계로 하여금 결정을 내리게 할 것인가’입니다.

알렉스 번   송이 님이 6개월 실형을 받았다고 가정해 봅시다. 과거 범죄 기록을 토대로 기계는 재범 가능성에 대해 다양한 예측을 합니다. 그렇게 나온 결과를 토대로 인간은 기계의 의견이나 제안을 무조건적으로 따르는 게 아니라 자신만의 결정을 하게 되는 것이죠. 이것이 한 쟁점이고요.

완전히 다른 또 하나의 쟁점은 ‘이 모든 과정에서 철학자의 역할은 무엇인가.’ 하는 것인데요. 저나 제 동료들이 이러한 주제에 많이 관여하고 있기에 MIT나 슈워츠먼 컴퓨팅 대학(Schwarzman College of Computing)에 대해 뭔가 이야기할 수 있는 좋은 기회인 것 같습니다. 물론 엔씨 여러분 덕분에 NC 펠로우십(NC Ethics of Technology Fellowship)을 운영 중이고, 해당 과목 수강 신청이 정원 초과된 상황입니다. 이러한 쟁점에 대해 학생들이 많은 관심을 갖는다는 것이죠.

그리고 MIT 철학과는 학과장님께서 후원하시는 또 하나의 기술 윤리학을 가지고 있습니다. 또한 슈워츠먼 컴퓨팅 대학에서 컴퓨팅의 사회적, 윤리적 책임을 다루는 학과인 ‘SERC’의 재정 지원을 받는 세 명의 기술 윤리 전공 박사 후 과정이 더 있습니다. 그러니까 기술 윤리에 대해 MIT에서 진행하고 있는 일은 굉장히 많고 철학 또한 여기서 큰 역할을 하고 있습니다. 그리고 저는 고등교육에서의 이러한 움직임이 전국적, 또 세계적으로 진행되고 있다고 확신합니다. 앞으로 기술 윤리 영역에서 대중이 철학을 접하게 되는 일이 많을 것이라는 것이죠. 게다가 또 다른 중요한 지표인 기술 윤리 영역에서의 일자리 수가 짧은 기간 동안 거의 제로에서 꽤 높은 수로 증가했습니다. 한마디로 철학이 기술 윤리 분야를 포용한다는 사실은 확실하다는 것입니다.

윤송이   좋습니다. 사회에 폭넓게 영향을 미칠 수 있는 기술을 도입하는 방식이 변해야 한다고 생각하시나요? 예를 들어, 예상치 못한 결과를 미리 점검하기 위한 윤리적 검토가 필요할까요?

알렉스 번   네, 물론이죠. 저희는 연구 윤리 위원회 등 이미 모든 종류의 과학 연구에 그런 시스템을 갖추고 있습니다. 제 생각에 기술 영역에 그런 시스템을 도입하는 것은 좋은 아이디어 같아요. 부수적으로 MIT에서는 기술 윤리에 대한 많은 사례 연구를 SERC 웹 사이트에 올려놓았습니다. 해당 연구 결과들은 무료로 이용 가능하며, 계속 추가되고 있습니다. 이런 쟁점들에 대해 더 많은 것을 알고 싶은 분들에게는 유용한 자원일 것입니다.

윤송이   맞아요, 그래서 저는 이런 주제에 대해 MIT와 협력하는 것이 좋습니다. 그리고 해당 분야가 빠르게 발전하길 바랍니다.

알렉스 번   지원에 다시 한번 감사드립니다. 진심으로 감사하고 있습니다.

윤송이   아니요, 저희야말로 노력과 성과에 감사드립니다.