홍성욱(물리80-84) 모교 생명과학부 교수는 어렵게 느껴지는 최신 과학기술의 동향을 친숙한 말로 쉽게 설명하는 학자로 유명하다. 최근 작 ‘홍성욱의 STS(과학기술학), 과학을 경청하다(동아시아)’가 그랬고 스테디셀러 ‘파놉티콘-정보사회 정보감옥(책세상)’이 그러했다.

그가 요즘 관심을 쏟는 분야는 인공지능이다. 얼마 전까지 고등과학원 ‘인공지능의 법적·윤리적·사회적 문제 연구단’ 단장을 맡아 인공지능의 올바른 이해를 전하는 데 힘썼다.

지난 2월 19일 모교에서 열린 ‘제2회 인공지능과 법·철학·윤리 워크숍’에서는 ‘인공지능 알고리즘은 사람을 차별하는가’를 주제로 발표했다. 그는 “인공지능 알고리즘을 만드는 것도, 데이터를 주입하는 것도 사람”이라며 인공지능의 결과물도 잘못될 수 있다고 경고한다. 금융과 마케팅 분야를 넘어 의료, 사법, 치안, 안보 영역으로 확장하고 있는 인공지능에 대한 무한 신뢰에 의문을 제기해야 할 시점이다. 지난 5월 22일 서울대 자연대 연구실에서 홍성욱 교수를 만났다.

“마이크로소프트(MS)의 트위터 챗봇 ‘테이’ 사건이 흥미로웠다. 심혈을 기울여 내놨는데 인종주의자와 성차별주의자가 테이에게 차별적인 내용을 집어넣은 바람에 테이가 이를 배워 불과 16~17시간 만에 스스로 차별적인 발언을 던지는 챗봇이 됐고, 결국 서비스를 중단했다. 또 구글이 사진의 형상을 자동 인식해 관련 태그를 붙여주는 서비스를 출시했는데 흑인 여성의 얼굴을 고릴라로 잘못 인식해 큰 이슈가 된 적이 있다. 고등과학원에서 인공지능 관련 일을 하면서 이런 사건이 단순한 에피소드만은 아니겠다는 생각이 들더라. 인공지능이 우리 사회에서 널리 활용되려면 신뢰도가 높아야 하는데 어떻게 하면 그렇게 할 수 있을까 고민하기 시작했다.”

“네이버에서 인공지능에 의해 결정되는 뉴스 순위를 놓고 문제가 된 적 있지만 미미한 수준이다. 그러다 보니 인공지능 기술이 도입돼 생기는 새로운 문제에 관해 관심이 덜하고 잘 모른다. 그렇지만 인공지능 활용이 안 되고 있는 것은 아니다. 잘 드러나지 않지만, 정부 규제기관이나 금융기관에서는 여러 종류의 자동화된 결정 알고리즘을 쓰고 있다. 대검창철과 경찰청에서는 각각 사법 알고리즘과 범죄 예측 알고리즘을 개발하기 시작했다. 정부가 4차 산업혁명을 추진하고 스타트업을 장려하면서 이런 인공지능 알고리즘이 확산될 것이고 이것이 낳는 차별의 문제가 표면 위로 부상할 것이다.”

“인공지능의 공평성, 객관성은 우리 사회가 공평한가, 객관적인가와 맞물려 있다. 차별이 만연화된 사회는 입력되는 데이터가 차별화 돼 있을 것이다. 또 우리는 인공지능 내부를 들여다 볼 수 없다. 왜 그런 판단을 내렸는지 추론이 어렵다.”

“물론이다. 만드는 사람 입장에서 신뢰성이 무엇보다 중요하기 때문에 부단한 노력을 하고 있고, 계속 할 것이다. 인공지능에서 요즘 주목받는 개념이 설명가능성이다. 인공지능이 판단을 내렸을 때 어떤 과정과 기준으로 그러한 결론을 내렸는지 설명이 가능해야 한다는 것이다. 그런데 그게 쉽지 않다. 딥러닝이란 게 최대한의 데이터를 주고 최적의 결과가 나오게 변수를 조절하는 건데, 결과가 나왔을 때 그걸 프로그램화한 사람도 설명하기 힘들다. 엔지니어 입장에서 큰 숙제다. 인공지능이 잘 작동하고 있는지 누군가 계속 감시해야 하고, 객관적인 데이터를 넣고 공정한 기준에 의해 알고리즘 돼야 한다는 법적 장치, 사회적 시스템이 뒷받침돼야 한다.”

“국민 개개인이 알고리즘의 차별 가능성에 대해 적극적으로 개입하고 알고리즘의 반민주주의적 사용을 반대하고 저지하자는 것이다. 우리 사회는 남녀 간, 연령 간, 지역 간, 자산 및 소득 계층 간의 갈등, 편견, 혐오의 뿌리가 깊을 뿐 아니라 그 가지가 넓게 퍼져있고, 점차 다문화사회로 변하면서 인종 간 갈등도 표면화되고 있다. 이런 사회에서 인공지능 알고리즘의 확산은 사회적 차별을 반영하는 데 그치지 않고 이를 영속시키고 증폭시킬 수 있다.”

“글쎄. 분명한 것은 좋은 점도 나쁜 점도 증폭될 것이란 점이다. 아마존에 들어가 책을 구입할 때 보면 추천도서가 뜨는데 굉장히 잘 맞는다. 넷플릭스도 그렇다. 그런 게 점점 많아지면서 편리함도 커지겠지만 부작용 역시 심해질 것이다. 중국에서 개발한 안면인식 프로그램이 너무 정교해서 유럽, 미국에서 수입 안 하겠다고 한 사례가 있었다. 프라이버시 침해 문제 때문이다. 2000년 대 초반에 ‘파놉티콘-정보사회 정보감옥’이란 책을 쓴 적이 있다. 그 책에서 지금 시대는 빅브라더의 시대라기보다 역감시가 가능한 시대라고 좀 낙관적으로 썼다. 지금은 빅데이터에 의한 빅브라더를 다시 우려하고 있다.”

“미국에는 IT권력을 감시하는 언론이 있다. ‘프로퍼블리카’가 대표적이다. 이 분야는 접근이 쉽지 않아서 전문 기자들이 있어야 한다. 아직 인공지능에 대한 문제도 크지 않고, 오히려 응원해야 하는 상황이기 때문에 우리나라에서는 경고보다는 개발하는 사람 입장, 4차 산업혁명을 통해 미래가 어떻게 발전할 거냐는 측면의 기사들이 대다수다. 이런 상황에서 나라도 좀 비판의 목소리를 내야 균형을 맞춰갈 것 같아 문제점을 이야기하고 있다. 어제도 자율주행차 관련 토론회에서 다들 규제 혁파 이야기 할 때 자율주행차가 정말 안전하냐, 그 근거는 무엇이냐 문제 제기했다. 지금까지 자율주행차 테스트한 거리가 1,000만㎞가 되는지 모르겠다. 그 과정에서 죽은 사람은 4명이다. 우리나라에서 1억㎞당 사망률이 1.6명이라고 한다. 현재는 자율주행차 위험성이 훨씬 높다. 이게 가장 안전한 도로에서 테스트하면서 나온 결과다. 물론 시간이 지나면서 안전성은 높이 올라갈 것이다. 초창기 자동차가 나왔을 때도 그랬으니까. 그런데 문제는 지금 잘 확립된 자동차 체계가 이미 있다는 것이다. 운전이란 무엇인가. 미래에 실제 자율차가 많아질까 의문도 든다. 자율차는 로봇인데, 사람에게 쉬운 운전이 로봇에게는 정말 어려운 일일 수 있다.”

“학부 4학년 때 과학사 수업을 들었는데 내 성향과 잘 맞았다. 과학이 인간에 대해 너무 이야기 안 한다는 불만이 있었다. 역사 속에서 과학의 흐름을 보니 모두 사람의 활동이더라.”

“100% 만족하는 경우는 없다. 늘 더 잘 썼어야 했는데 아쉬움이 남는다. 2016년에 쓴 ‘홍성욱의 STS(과학기술사), 과학을 경청하다’는 열심히 쓴 책이다. 어디서 가져온 것 없이 몸과 마음으로 쓴 책이다. 그 책 쓰면서 생각도 많이 정리되고 과학기술과 사회에 대한 주제에 큰 흥미를 가졌다. 많이 팔린 책은 ‘파놉티콘-정보사회 정보감옥’인데 26쇄까지 나온 것으로 안다.”

“두 번에 걸쳐 노벨상을 연구한 적이 있다. 물리, 화학, 생물 분야 노벨상 수상자 30년치를 조사한 결과 대부분 새로운 분야를 개척한 사람에게 돌아갔다. 의학분야는 100%, 화학 90%, 물리 80% 정도 된다. 30대 중반에 독창적인 연구를 시작해 보통 20, 30년 뒤 상을 받더라. 한국에서 언제 노벨상 수상자가 나올까 질문을 많이 받는데, 지금 기초과학연구원(노벨상 수상을 위해 설립한 기관) 과학자 중에는 가능성 높은 사람이 안 보인다. 김빛내리 교수 정도가 가능성이 있을 텐데, RNA 발견으로 받은 사람이 이미 있어서 같은 분야에서 또 줄지는 모르겠다.”

“구조적인 문제가 있다. 한국의 유망한 과학도들이 대부분 유학을 가서 좋은 교수를 만나 그 스승의 가지치기를 하는 정도가 대부분이다. 그리고 귀국해 스승의 연구를 심화하는 수준이다. 그리고 또 그 제자들이 유학을 가는 사이클이 반복된다.

일본은 19세기 중반 외국 유명 과학자들을 데려와, 양성된 인재들이 외국 유학을 거쳐 귀국 후 제자들을 기르는 시스템을 오래전부터 갖췄다. 학파가 형성될 수 있었다. 동경대생은 유학을 안 간다는 말이 이렇게 나온 것이다. 요즘 한국도 유학파와 토종파를 동일한 잣대로 평가하는 흐름이 정착되고 있다. 도전적인 과제를 하는 젊은 과학자를 지원하는 경향도 생기고 있고. 과학자 지원의 초점이 완전히 이쪽으로 오도록 해야 한다.”

김남주 기자

모교 물리학과를 졸업하고 과학사 및 과학철학 협동과정에서 석사와 박사 학위를 받았다. 캐나다 토론토대 교수를 거쳐 모교 생명과학부 교수로 재직 중이다. 서울대-한신대 포스트휴먼연구단에서 포스트휴먼 시대의 인간과 문명을 연구하고 고등과학원 초학제연구단을 이끌며 인공지능의 책임과 윤리 등을 연구했다.

과학기술과 사회의 관계를 연구하는 그는 과학과 인문학, 과학과 예술 등의 접점을 발견하는 융합적 과학기술학자이다. 과학과 예술의 융합, 과학 문화 쪽으로도 관심이 많아 2013년에 아르코미술관에서 열린 ‘Dynamic Structure and Fluids’전을 공동 기획했고, EBS ‘빛의 물리학’에 과학 자문을 맡아 과학 다큐멘터리 제작에 일조하기도 했다.

저서로는 ‘파놉티콘-정보사회 정보감옥’, ‘크로스 사이언스’, ‘홍성욱의 STS, 과학을 경청하다’, ‘그림으로 보는 과학의 숨은 역사’, ‘인간의 얼굴을 한 과학’ 등이 있고, 함께 쓴 책으로는 ‘4차 산업혁명이라는 유령’, ‘융합이란 무엇인가’, ‘슈퍼휴머니티’, ‘21세기 교양, 과학기술과 사회’ 등이 있다.

옮긴 책으로는 ‘판도라의 희망’, ‘과학혁명의 구조’ 등이 있다.