일시: 23.07.02.(일)
장소: 부천시청 1층 판타스틱큐브
패널: 박성환 (SF 작가), 오영진 (서울과학기술대학 교수)
진행: 박상준 (서울 SF 아카이브 대표)
본 토크에는 영화의 원작 소설인 <레디메이드 보살>의 박성환 작가님과 오영진 교수님이
패널로 참석해주셨고, 서울 SF아카이브의 박상준 대표님이 모더레이터로 진행해주셨습니다.
뜸들이지 말고 메가토크 현장으로 초대합니다! ❤️
“AI는 인간의 멘토가 될 것인가?”
박성환 작가님 : 인공지능 자체보다는 인공지능에 대한 우리들의 자세와 태도가 어떠해야 할 지에 대해 생각해 봤고, AI가 인간의 멘토가 될 것인지에 대한 질문에는 부정적으로 생각하는 편이다. 인공지능이 자의식을 획득할 수 있을지에 대해서도 굉장히 회의적인 편이다. 자의식을 획득한다고 가정하더라도 그러한 인공지능의 위험성에 대한 경각심이 필요하다고 생각한다. (...)
지금까지 우리는 픽션 안에서만 AI를 그려왔는데, 가상의 세계 안에서는 자유롭게 상상의 나래를 펼칠 수 있다. 그러나 현실세계에서 이들을 맞닥뜨리게 된다면 과연 허구로 접했을 때의 순진한 태도를 그대로 견지할 수 있을 것인가에 대해서 생각해봐야 한다. 이전까지 우리는 로봇을 쉽게 의인화 해왔지만, 인간과는 다른 낯선 존재인 인공지능을 그렇게 대하는 것이 과연 안전하기만 한 것일까에 대해서 숙고해봐야 할 것이다.(...)
AI가 정말 실체를 획득하기 직전인 지금은 더 깊이 생각해 봐야할 것 같다. 조립된 AI와 유기체적 존재인 인간은 근본부터 굉장히 다르다. 일상적 대화나 상호작용 정도는 가능하겠지만 멘토링같은 좀 더 심오한 관계를 몸을 갖지 않는 로봇과 형성할 수 있을지는 의문스럽다. 20년 전쯤에 책을 쓰고 또 이번엔 영화를 보게 되었는데 어떤 면에서는 굉장히 위험할 수 있는 개념이 순진한 상상을 통해 전달되고 사람들이 AI의 위험성에 대해 눈을 돌리고 긍정적인 쪽으로만 보도록 호도하는 데 일조하지 않았나 그런 반성도 좀 들기는 했다.
모더레이터 : 중간중간 계속 부정적인 얘기만 해서 죄송하다고 하시면서 끝까지 부정적인 얘기만 해주신다(웃음). 방금 작가님이 말씀하신 것처럼 저도 오랜만에 다시 보니까 약 20년 전에 이런 이야기를 쓰셨다는 게 정말 진부한 표현이긴 하지만, 시대를 앞서나간 작품이라는 게 느껴진다. 지금 보니까 와닿는, 체감이 굉장히 다르다. 이에 대해서 오영진 교수님은 어떤 이야기를 해주실지 청해 보겠다.
오영진 교수님 : 인공지능과 관련된 수업을 맡고 관련된 프로그램을 기획하며 느낀 바가 많은데, 이 작품은 최고다. 보통 서구권에서 기원한 SF물들은 주로 로봇을 노예로 취급하고, 로봇들은 스스로를 깨달아가며 자유의지를 갖는다. 그리고 이것이 인간에게 위협을 주는 관계로 이어진다. 즉, 자유, 속박, 공포 같은 굴레 안에서 관계가 이루어지는 것이다. 이때 통제불능의 로봇은 언제나 문제가 된다. 근데 사실 <레디메이드 보살>은 그런 플롯 라인이 있긴 하지만, 그게 중심이 아니라 다른 의미에서 AI가 우리 인간을 반대로 초월시켜주는 서사가 있어서 인간과 기계에 대한 관계 설정, 윤리 문제를 논할 때 중요한 건 텍스트 모델, 가상 실험이라고 생각한다. (...)
3개월 전에 벨기에의 한 남자가 챗봇에게 상담을 받다가 자살을 한 사례가 있다. 인공지능은 언어토큰을 던지면 그에 관한 다른 토큰들이 쏟아져 나오는 형식으로 작동하기에 화자가 전하는 언어 프레임을 고스란히 증폭시켜서 반응하게 된다. 그래서 우울증을 앓고 있는 남자가 우울한 얘기를 하니까 로봇이 덩달아 우울한 반응을 보이게 되고 그래서 자살로 이어진 것이다. 이건 죽음을 향한 멘토링이라고 할 수 있다. 사실 자문자답의 형식이었던 건데, 로봇의 대답이 진실이라는 환각에 빠진 것이다 (…)
얼마 전 라디오 쇼를 하다가 시청자들에게 인공지능이 공포 이야기를 만들기에 어려울 만한 단어를 제시해 보라고 한 적이 있다. 어떤 시청자가 악랄하게 '코딱지, 시금치' 두 가지를 언급했는데, '코딱지'는 실패했고, '시금치'는 바로 해냈다. 먹는 것과 관련된 이물질 공포를 이용해 상당히 논리적인 서사를 만들어 냈다. 그런데 인간에게는 편견과 상식이 있기 때문에 같은 미션을 줘도 늘 거의 실패한다. (...)
인간 스스로 로봇을 의인화해서 위험에 빠질 수도 있지만 한편으로는 로봇이 가진 분별 없음과 맹목성이 인간의 한계를 벗어나게 하는 반성적 여지를 주기도 한다. 현재 생성 인공지능 자체는 확률적 이미지, 문장 생성에 그치는 기술이지만 그 안에서 인간은 의인화해서 제 죽음을 자처하기도 하고, 그 무분별을 통해서 멘토링을 획득하기도 한다. 이때 멘토링이란, 로봇이 의인화되어 인간을 멘토링한다라는 게 아니라 기계 내부의 시선을 음미하는 것이 새로운 인식 작용을 준다는 의미이다.(…)
관객과의 대화
SF 스페셜 토크답게 해당 분야에 딥한 관심이 있는 관객분들의 질문이 끊이지 않았습니다 !!
관객1 : 박성환 작가님은 AI에 대해 더 비관적으로 보시는 것 같고, 오영진 교수님은 낙관적으로 보시는 것 같은데, 후자를 지지하는 쪽이다. AI라는 존재를 긍정적으로 바라보고 싶고, 그들과 공존할 수 있는 사회가 되었으면 하는 이상이 있다. 먼 미래에는 자의식을 가진 AI가 등장할 수도 있고, 그렇다면 그들도 하나의 신인류로 구분될 수도 있지 않을까
박성환 작가님 : 아까도 말씀드렸지만, AI 자체의 위험성도 주목해야 하지만, 사실 AI를 받아들이는 사람들의 태도도 그 못지 않게 중요하다고 생각한다. (앞서 언급한 것과 마찬가지로 로봇과 인간의 차이를 인지하고, 낯설게 봐야 한다고 생각하는 쪽이다.)
오영진 교수님 : 작가님과 반대되는 낙관론적 입장이라기 보다는 양면성에 대해 다룬다고 이해해주시면 좋겠다. AI의 위험성에 대해서는 경계하되, 그 잠재성도 생각하는 쪽이다. 일례로 강의를 할 때 전반부에선 “이거 그냥 확률적 앵무새밖에 안 돼!”라고 아주 강하게 얘기를 하다가도 후반부에서는 아까 말한 그런 여러 가지 프로모틱 기법을 따로 가르친다. 한 입으로 두 말 하는 꼴인데, 사실상 그럴 수 밖에 없는 게 양면성이 존재하기 때문이다. (...)
인류 역사에서 인간과 도구가 서로에게 영향을 끼치는 건 지금까지도 진행 중이다. 그래서 생성 인공지능, 조금 더 폄하해서 확률적 문장 생성기 이미지 생성기조차도 인간에게 지대한 영향을 끼친다. 그 영향은 좋은 의미일 수도 있고, 나쁜 의미일 수도 있는데, 그 부분을 서로에게 도움이 되는 방식으로 도우는 게 앞으로의 과제라 생각한다.
관객2 : 인공지능에 대한 영화이기도 하지만, 타자성에 대한 이야기로도 느껴진다. 인공지능을 타자화하고, 도구로만 생각하는 게 과연 올바른 관점일지, 아니면 이런 부분에 대해서 어떤 협의가 이루어져야 될지 의견을 듣고 싶다.
모더레이터 : 현대 과학기술 인간문명은 우리 인간이 만든 인공물과 호모사피엔스라는 이 생물학적인 유기체가 서로 하나로 결합되어 있는 거대한 하나의 사이보그 문명이라는 의미로 이해한다. 유기체인 인간도 결국은 기계와 결합되어가는 방향으로 나아가고 있다.
오영진 교수님 : 타자화 자체는 양면성이 있다. 어떤 대상을 타자화 할 때 경이로움을 느낄 수도, 공포감을 느낄 수도 있다. 그러나 그건 그리 중요하다고 보지 않는다. 이미 우리와 AI는 타자화하기 어려운 상호주체적 관계 안에 놓여 있다. 기계 때문에 내가 있고, 나 때문에 기계가 있는 것이다. 이와 같은 단계로 훌쩍 넘어가는 것이 좋지, 타자화를 경유해서 또 공포와 경이를 표하여 싸움을 걸며, 낭비되는 시간은 이 기술에 대한 올바른 이해를 자꾸 못하게 한다고 생각한다.
박성환 작가님 : 타자화가 아니라, 의인화가 문제라고 생각한다. 상상 속에서는 인간처럼 생각하고 느끼는 존재라면, 인간으로 대우 해야 한다고 생각할 수 있지만, ‘인간이 아닌 것이 인간처럼 반응한다고 해서, 그것을 우리가 정말 인간으로서 착각하고 대우해줘야 되는가’하는 생각이 든다. 강한 AI가 구체화되고 현실화되어 가고 있는 시점에서 어쩌면 온전히 이해할 수도 통제할 수도 없을 존재를 제작하는 게 맞을지 그리고 어떻게 대해야 할지 고민해봐야 한다고 생각한다.
글, 사진 BIFAN HEROES 웹데일리 기자단 김연수, 김민서
