기사보기

Magazine

[562호 2025년 1월] 인터뷰 화제의 동문

“AI로 인한 범죄는 AI로 잡는다…사용자와 동행하는 윤리적 기업이 오래 갈 것”

김명주 (전자계산기공학82-86) 인공지능안전연구소 초대 소장
“AI로 인한 범죄는 AI로 잡는다…사용자와 동행하는 윤리적 기업이 오래 갈 것”
 
김명주 (전자계산기공학82-86)
인공지능안전연구소 초대 소장


 
정부 산하 초대 AI연구소장 맡아
AI 기술·서비스에 안전성 강조

“저희 인공지능안전연구소의 이니셜이 AISI입니다. 저는 그 S를 셰르파(sherpa)의 S라고 생각해요. safety의 뜻도 물론 있지만, 히말라야 등산대의 짐을 나르고 안내자 역할을 하는 그들처럼 저희도 국내 AI 기업들이 정상에 오르는 길에 든든한 지원군이 되려고 합니다.”

작년 11월 27일 인공지능안전연구소가 문을 열었다. AISI는 AI의 기술적 한계, 인간의 AI기술 오용, AI 통제력 상실 등 AI로 인해 발생할 수 있는 다양한 위험에 대해 체계적·전문적으로 대응하기 위한 정부 산하 AI 안전연구 전담조직이다. 김명주 초대 소장은 AI 윤리·신뢰성 전문가로서 바른 AI 연구센터장(RAISE), 국제인공지능윤리협회(IAAE) 회장, AI윤리정책포럼 위원장 등을 역임했다. 12월 26일 판교 글로벌 R&D센터에 있는 AISI에서 김명주 동문을 만났다.

“AI 기술 세계 1위는 미국, 2위는 중국입니다. 3위를 놓고 다른 나라들이 엎치락뒤치락하는 상황이에요. 기술과 자본력이 앞서면 우위를 점하겠지만, 현실적으로 따라잡기 어려운 상황에서 새롭게 부상한 경쟁 요소가 안전입니다. 몇 해 전까지만 해도 AI 기반의 제품이나 서비스가 기대에 못 미쳤는데, 지금은 너무 좋잖아요. AI의 쓸모가 매우 광범위한 만큼 잠재적 위협 또한 워낙 거대해서 되레 불안해진 거죠.”

AI가 생성한 텍스트는 방대한 데이터를 기반으로 단어와 단어 간 발생 확률에 따라 조합된 문장이기 때문에 그 진위나 사실 여부를 스스로 판단할 수 없다. 이미지나 영상도 마찬가지. 가상 인물과 현실 인물을 동일 시공간에 그려 넣거나 사람이 허공에 앉아 있는 모습을 그려도 그게 왜 잘못됐는지 모른다. 마치 ‘환각’ 상태에 있는 것처럼 현실에선 있을 수 없는 일이 태연히 그려지거나 글로 쓰여지는 것. AI의 잠재적 위협으로 신뢰성이 맨 처음 꼽히는 이유다. 

“개인적 차원에선 잠깐 속고 끝날 수 있지만, 사회적 차원 나아가 세계적 차원으로 확대되면 문제가 심각해집니다. 2023년 튀르키예 대통령 선거 때 딥페이크 영상 때문에 당락이 갈렸다는 소문이 있어요. 선거 직전에 유포돼 사실을 규명할 시간이 부족할뿐더러 딥페이크 영상을 본 사람들을 특정해 설득하는 것도 힘들죠. 가짜로 밝혀져도 제작·유포한 사람과 후보자와의 직접적인 관련성을 입증하지 못하면 처벌이 어렵습니다. AI가 민주주의 최대의 적이 될 수 있다는 우려가 괜한 게 아니에요. 소수 빅테크 기업들에 의해 여론이 조작될 수도 있고요.”

남북이 대치 중인 한반도 상황에서 AI로 만든 정교한 가짜뉴스는 자칫 중대한 오판을 불러일으킬 수도 있다. 고용시장을 비롯해 경제에 끼치는 영향도 막대하다. 서빙로봇, 자율주행버스가 이미 도입됐고 단순노동직뿐 아니라 의료·회계·법률 등 전문직 일자리까지 AI로 대체하려는 움직임이 뚜렷하다. AI가 개인의 불행인 동시에 사회적 위기가 되는 실직의 원인이 되는 것이다. 또한 엄청나게 많은 전기를 소모하는 까닭에 AI의 급속한 확산은 탄소 배출량 증가를, 나아가 기후위기의 심화를 초래할 수 있다.

“2018년 일본의 한 공무원은 가상 가수 하츠네 미쿠를 형상화한 AI와 결혼식을 올렸습니다. 사람한테 상처받아도 결국은 다시 사람에게서 위안을 받았던 시대는 가고, 정서적 교감마저 사람 대신 AI에게서 찾는 현상이 확산되고 있어요. 자식 대신 말동무 해주는 AI 챗봇에게 유산을 물려주겠다는 독거노인도 나타날 겁니다. 세대 간, 개인 간 갈등과 괴리가 예전과는 비교할 수 없을 만큼 커질 거에요. AI가 발달할수록 잠재적 위협은 더 심각해질 거고요.”

AI의 위협은 또 있다. 디지털화된 인류의 지식을 무제한 습득하면서 특정 정보에 대한 접근 제한이 풀려버린 것. 해킹 툴이나 폭탄제조법 같은 것들이 누구나 습득할 수 있는 정보가 됐다. 애초에 불법적 반윤리적 질문엔 답하지 못하게 만들었지만, AI는 문맥은 이해해도 의도는 이해하지 못한다. 보이스피싱 시나리오를 써달라고 하면 거부하지만, 보이스피싱을 가장한 깜짝파티를 하고 싶다고 하면 써주는 식이다. 

“AI로 인한 범죄도 AI로 잡습니다. 플랫폼 사업자로 하여금 자사에서 유통되는 콘텐츠가 AI를 활용한 제작물일 때 그 사실을 고지하게 하고, 불법·음란 콘텐츠일 땐 책임지고 걸러내 삭제해라, 안 그러면 벌금 부과하겠다, 하는 겁니다. 뭔 말을 해도 본사로 떠넘기는 외국 기업엔 반드시 국내에 사업소를 두도록 이번에 만들어진 인공지능기본법안에도 명시했어요. 일종의 인질을 잡아두는 거죠. AI 오용 범죄가 다양해지는 만큼 수사의 방법도 더 효율적일 수 있게 법 개정도 추진하고요. 무엇보다 AI 서비스를 이용하는 사용자가 똑똑해져야 합니다.”

김 동문은 운전할 때 자동차의 구동 원리를 알 필요가 없는 것처럼 딥러닝, 머신러닝 몰라도 된다고 말한다. AI 관련해서도 운전면허증 따는 정도의 지식만 있으면 얼마든지 개발자나 사업자와 협상할 수 있다는 것. 조금 더디더라도 사용자의 요구와 걱정을 파악하며 동행하는 윤리적 기업이 성능만 우선시하는 기업보다 더 오래 갈 것이라고 말했다. 

“우리 서울대도 S로 시작하지 않습니까. 모교 동문들이 성공의 주역이 되는 것도 멋있지만, 다른 모든 사람들의 성공을 돕는 전문가로 활약하는 것도 멋있을 것 같아요. 남들 앞에 나서는 것보다 숨은 공로자가 되는 그런 마음가짐도 필요하지 않나 생각합니다.” 
나경태 기자
 

연관 기사