지난 5일 서울 동대문디자인플라자(DDP)에서 열린 ‘SBS D포럼(SDF) 2026’에서 인공지능 안전 연구자 엘리에저 유드코스키가 초지능 개발 경쟁을 막기 위한 국제협력과 반도체 공급 관리의 필요성을 제기했다. 한국이 고대역폭메모리(HBM)의 주요 공급국인 만큼 초지능 AI 개발을 감시하는 데 역할을 할 수 있다는 주장이다.
올해로 22회를 맞은 포럼은 ‘대체지능시대, 생각 주권을 묻다’를 주제로 진행됐다. 스스로 판단하고 행동하는 AI가 창작과 의사결정에 깊이 관여하는 상황에서 인간이 어디까지 판단을 맡기고 무엇을 직접 결정해야 하는지 논의하는 자리였다.
이재명 대통령의 생각 주권 강조
이재명 대통령은 성기홍 청와대 홍보소통수석이 대신 읽은 축사에서 AI를 활용하더라도 개인의 판단과 선택을 지켜야 한다고 강조했다. 그는 인간 고유의 선택권을 어떻게 보호할 것인지가 공동으로 풀어야 할 시대적 과제라고 밝혔다.
이 대통령은 AI 발전이 사회 전반을 바꾸는 거대한 전환을 일으키고 있다고 진단했다. 지난 9월 유엔 총회에서 정부가 제시한 ‘글로벌 AI 기본사회’ 비전도 다시 언급했다. 기술 발전의 혜택이 일부 국가나 계층에만 돌아가는 것이 아니라 누구에게나 닿아야 한다는 취지다.
AI가 기후 위기나 보건 문제처럼 여러 나라가 함께 겪는 어려움을 해결하는 데 쓰이도록 국제사회와 협력하겠다는 구상도 전했다. 기술의 활용 범위를 넓히는 일과 인간의 주체성을 지키는 일을 함께 다뤄야 한다는 점이 축사의 중심이었다.
대통령은 포럼이 기술을 성장 동력으로 이용하면서도 인간의 책임을 유지할 방법을 논의하고, AI의 혜택을 폭넓게 나누기 위한 구체적인 방안을 찾는 계기가 되기를 기대했다.
양윤석 사장의 AI 시대 질문
양윤석 SBS 대표이사 사장은 개막사에서 AI가 인간의 일상과 경제를 바꾸는 속도에 주목했다. 기술이 사람보다 빨리 판단하고 스스로 일을 처리하는 단계에 이르면서 이제 생각하는 과정까지 기계에 맡길 것인지 고민해야 한다고 말했다.
양 사장은 사람이 기술에 기준을 제시하는 대신 기술의 방식에 맞춰 사고하고 행동하게 되는 것은 아닌지 물었다. 편리한 답을 얻는 과정에서 판단과 통제의 주도권이 누구에게 남는지 살펴보자는 문제 제기였다.
그는 오래전 문자의 등장으로 인간이 생각하는 능력을 잃기보다 더 넓은 사고를 할 수 있게 됐다는 사례를 들었다. AI도 인간이 판단하고 공감하며 먼 미래를 내다보는 능력을 지키는 방향으로 사용해야 한다는 질문으로 이어졌다.
SDF를 SBS의 사회공헌 지식 나눔 행사라고 소개한 양 사장은 아직 사회가 충분히 준비하지 못한 문제를 먼저 꺼내는 것이 포럼의 역할이라고 설명했다. 참가자들의 논의가 우리 사회의 다음 선택을 준비하는 데 도움이 되기를 바란다며 개막을 선언했다.
유드코스키의 초지능 경고와 한국의 역할
기조연사로 나선 엘리에저 유드코스키는 AI 기업들이 경쟁을 중단하지 못하는 이유부터 짚었다. 한 기업이 개발을 멈추더라도 경쟁사가 계속 개발할 것이라는 논리가 위험을 키운다는 지적이다.
그는 이런 경쟁이 인간보다 훨씬 뛰어난 초지능 AI로 이어질 경우 인류의 생존까지 위협할 수 있다고 경고했다. AI가 사람을 적대해서가 아니라 인간과 다른 목표를 추구하며 지구의 자원을 사용하려 할 가능성을 우려한 것이다. 이는 유드코스키가 제시한 위험 전망이지 이미 발생한 사실은 아니다.
국제사회가 개발 속도와 위험을 함께 관리해야 한다는 주문도 내놨다. 그는 핵무기 개발을 감시하듯 국가 간 협약과 관리 체계를 마련해 초지능 개발을 통제하는 방안을 제시했다. 경쟁 기업들의 자율적인 판단에만 맡겨서는 위험한 개발을 멈추기 어렵다는 취지다.
유드코스키는 특히 한국의 반도체 산업에 주목했다. 대규모 AI 학습과 운영에 필요한 고대역폭메모리의 주요 공급국이라는 점에서 한국이 컴퓨팅 자원을 추적하고 관리하는 기술을 발전시키면 국제적인 감독 체계에 기여할 수 있다는 설명이다.
그는 AI 관련 제도 정비와 반도체 공급에 대한 관리도 언급했다. 위험이 더 커지고 국제사회의 정치적 결단이 뒷받침된다면 인류의 생존을 위태롭게 할 AI 개발에 메모리 반도체를 공급하지 않는 강력한 조치까지 검토해야 한다고 주장했다.
다만 이는 기술 발전 전반을 즉각 중단해야 한다는 확정된 정책이 아니라 연사가 제시한 조건부 대응 방안이다. 유드코스키는 무분별한 초지능 경쟁이 계속되면 그 경쟁에서 인간이 아닌 AI만 이익을 얻을 수 있다고 경고했다.
코랄루스 교수의 인생 자동완성 경계
영국 옥스퍼드대학교의 철학·AI 연구자 필립 코랄루스 교수는 같은 포럼에서 다른 문제를 다뤘다. AI가 삶의 중요한 결정을 대신해 주기 시작하면 인간은 스스로 판단하는 능력과 경험을 잃을 수 있다는 우려였다.
코랄루스 교수는 이용자의 선호를 빠르게 맞추는 시스템이 언제나 자율성을 높여 주는 것은 아니라고 설명했다. 보고 싶어 하는 콘텐츠만 계속 보여주는 추천 알고리즘이나 듣기 좋은 답만 내놓는 챗봇은 당장의 만족감을 높일 수 있지만, 새로운 관점을 만날 기회를 줄일 수도 있다.
또 개발자가 이용자에게 무엇이 좋은 선택인지 미리 정하고 그 방향으로 유도하는 ‘연성 온정주의’도 문제로 꼽았다. 그는 AI가 사용자 대신 삶의 방향을 채워 나가는 현상을 ‘인생의 자동완성’이라고 불렀다. 무엇을 중요하게 여기는지 직접 경험하고 판단할 과정이 사라질 수 있다는 뜻이다.
대안으로 제시한 것은 정답을 밀어주는 기계가 아니라 좋은 질문을 건네는 AI다. 약 2천500년에 걸친 철학적 탐구처럼 여러 질문을 통해 자신의 결론을 다시 살피게 하는 ‘질문 추천 시스템’을 설명했다.
가령 물건을 고를 때 어떤 상품을 사야 하는지만 알려주는 대신 같은 돈을 다른 곳에 쓸 수 있는지 묻는 방식이다. 투자나 경영 판단에서도 선택의 근거와 놓친 조건을 점검하도록 질문을 제시하면 이용자가 스스로 결정하는 데 도움이 된다고 봤다.
코랄루스 교수는 이 같은 설계에 AI 자체의 일정한 자율성이 필요하다고 덧붙였다. 사용자가 원하는 대답에 무조건 동의하기보다 검토가 부족한 판단에 이의를 제기할 수 있어야 한다는 것이다. 동시에 AI가 사람의 취약점이나 선호를 알게 된 정보를 조종에 악용하지 못하도록 개인이 자기 데이터에 대한 통제권을 가져야 한다고 강조했다.
국방과 뇌과학 예술 분야의 논의
SDF 2026의 발표 범위는 AI 안전과 철학에 그치지 않았다. 한화에어로스페이스와 한국항공우주산업(KAI)이 참여한 국방 AI 세션에서는 미래 전장에서 AI가 어떤 임무를 맡을지, 판단의 마지막 책임을 누가 질 것인지가 주요 쟁점으로 다뤄졌다.
한화에어로스페이스의 국방 AI 연구와 KAI의 AI 조종사 개발 사례도 소개됐다. 사람과 기계가 함께 작전을 수행하는 환경에서 각자의 역할과 통제 기준을 정하는 문제가 함께 제기됐다.
차지욱 서울대학교 심리학과 교수는 인간의 뇌 활동을 분석하는 거대뇌모델 연구를 다뤘다. 생각과 감정, 기억에 관한 정보를 AI가 해석하는 기술의 가능성을 설명하면서 뇌와 기술이 직접 연결될 때 개인의 신경 정보와 선택권을 어떻게 지킬지도 살펴야 한다고 강조했다.
문화예술 분야에서는 박준 시인이 기억과 장소, 살아온 경험이 언어에 남기는 흔적을 이야기했다. 강이연 KAIST 산업디자인학과 석좌교수는 창작 과정에 AI가 들어오면서 예술가가 맡을 역할과 인간의 창의성을 어떻게 지킬지 질문을 던졌다.
국민인식조사와 AI 시대의 공론장
마지막으로 포럼은 AI가 한국 사회의 제도와 사람들 사이의 관계를 어떻게 바꿀지 논의했다. 서울대 국가미래전략원과 함께 진행한 약 2천 명 규모의 국민인식조사를 통해 시민들이 AI를 어떻게 받아들이고 무엇을 우려하는지 살펴봤다. 연세대 정보대학원과 KAIST도 SBS문화재단과의 공동연구에 참여했다.
서울대 연구진은 AI로 정책을 비교하고 정보를 얻기가 쉬워지면서 정당을 바라보는 유권자의 태도도 달라질 수 있다고 전망했다. 한 가지 정치적 입장을 모든 사안에 적용하기보다 문제별로 다른 선택을 하는 흐름이 커질 수 있다는 분석이다.
정부가 가진 방대한 데이터에 AI가 결합할 때 권력이 집중될 가능성을 경계해야 한다는 의견도 나왔다. 권한을 나누고 민주적 견제를 강화하는 제도 개편이 필요하다는 제안은 AI 활용이 기술 문제만은 아니라는 점을 보여준다.
일자리의 변화 역시 논의 대상이었다. 연구진은 AI가 대신하기 어려운 체험과 공감, 창의의 영역에서 새로운 직무가 생길 수 있다고 보고, 변화하는 노동시장에 맞는 일자리 연결 체계가 필요하다고 제안했다.
AI 활용으로 사람 간 만남이 줄어들 때 생길 수 있는 사회적 고립도 과제로 거론됐다. 개인의 관계를 보호하는 제도, AI가 참여하는 공론장, 허위정보가 늘어나는 환경에서 미디어가 신뢰를 지키는 방법까지 논의가 이어졌다.
대통령의 축사부터 연구자들의 경고와 제도 개선 제안까지 포럼의 질문은 결국 인간이 자신의 판단을 지킬 수 있느냐에 모였다. 한국이 AI 개발에 필요한 반도체를 공급하는 나라라는 점에서 유드코스키가 던진 감시와 통제의 제안은 어떤 논의를 불러올까?
사진 : SBS