인공지능(AI)이 발전해 가면 인류는 AI 지배권 아래 놓이는 시대로 넘어갈 것인가, 그렇지 않을 수 있을까.

AI기술이 날로 발전하면서 영화 ‘터미네이터’에 나오는 ‘스카이넷’처럼 인류를 위기에 빠뜨릴 것이라는 AI위협론, 이른바 AI의 실존적 위협(existential risk·x-risk)에 대한 논의가 날로 뜨거워지고 있다.

이에 대해 세계 최고 AI 전문가 4인방의 답은 뭐였을까.

AI가 인류의 미래를 위협할지 여부는 이들에게도 풀기 어려운 문제였다. 이들조차도 AI위협을 둘러싸고는 의견이 둘로 갈렸다. 이들도 2대 2로 ‘단순한 SF같은 얘기일 뿐’이라는 의견과 “손자 대에 남겨질 AI 유산을 생각하면 잠이 안온다”는 의견으로 극명하게 갈렸다.

한편에서는 AI 기술 발전은 내오픈소싱하므로 모든것 만천하에 드러내는 것이어서 위험하지 않다고 했고, 다른 한쪽에서는 원자폭탄 소스를 만천하에 드러내는 것에 비유하며 위험하다고 강변했다.

AI 리스크 논의가 인류의 미래에도 중요한 문제이기에 심각한 토론을 벌였지만 이들 AI대부들의 난타전은 난타전이었고 우정은 우정이었다. 이를 소개한다.

10월 말 온라인을 달군 AI위협을 둘러싼

지난 며칠간 X(링크드인)에 대한 일련의 온라인 기사, 블로그 게시물 및 게시물에서 AI 개척자(때로는 AI의 대부라고 불림) 제프리 힌튼, 앤드류 응, 얀 르쿤 및 요슈아 벤지오는 서로의 게시물에 공개적으로 언급함으로써 AI의 실존적 위험, 이른바 x리스크(x-risk)에 대한 뜨거운 논쟁을 벌이며 이슈몰이를 했다. 이는 이달초(1,2일) AI의 위협과 안전을 둘러싸고 영국 블레츨리파크에서 전세계 전문가들과 G7 정상들까지 참석한 세계 AI안전성 정상회담과도 무관하치 않아 보인다.

컴퓨팅 분야의 노벨상이라 불리는 ‘앨런 튜링상’을 받으며 AI의 4대천왕(AI 대부)로 떠오른 이들에게도 ‘AI 리스크’는 정답이 없는 어려운 문제였다.

이 논쟁에서 제프리 힌튼(캐나다 토론토대 교수)과 요슈아 벤지오(캐나다 컴퓨터 공학자)는 분명히 AI의 실존적 위험 또는 X리스크(x-risks)에 대해 크게 우려하는 편에 섰다.

반면 앤드류 응(스탠포드대 교수)과 얀 르쿤(뉴욕대 교수·메타 AI 부사장)은 이런 우려가 부풀려졌거나 심지어 빅테크 기업들이 권력을 공고히 하기 위해 사용하는 음모론에 가깝다고 믿고 있다.

이는 이들이 지난 2012년부터 시작된 딥러닝 혁명에 앞장 선 이후 수년간 보여온 AI에 대한 긍정적이고 단합된 전선과는 거리가 멀다.

불과 1년 전에도 르쿤(음모론자)과 힌튼(위협론자)은 벤처비트와의 인터뷰에서 “딥러닝이 벽에 부딪혔다”고 말한 게리 마커스와 다른 비평가들을 상대로 반발했다.

힌튼, X-리스크가 빅테크의 음모론이라는 주장에 답하다

그러나 구글에서 일하다가 지난 5월 AI의 위험성에 대해 자유롭게 말하기 위해 퇴사한 캐나다 토론토대 교수인 제프리 힌튼은 1일 X에 컴퓨터 과학자 앤드류 응의 자유로운 AI를 지지하는 그의 최근 AI 논평에 대한 자신의 견해를 올렸다.

힌튼은 “앤드류 응은 AI가 인류를 멸망시킬 것이라는 아이디어가 빅테크 업체들의 음모라고 주장하고 있다. 그는 이 음모론에 맞지 않는 데이터포인트(데이터안에서 규명할 수 있는 요소)를 들자면 내가 존재적 위협에 대해 자유롭게 말하기 위해 구글을 떠났다는 것이다”라고 말해다. 힌튼의 지적은 응이 이날 호주 파이낸셜 리뷰와 인터뷰하면서 “빅테크들이 경쟁을 중단하고 엄격한 규제를 촉발하기 위해 AI 위험에 대해 거짓말을 하고 있다”는 언급에 대해 반박한 것이다.

그러자 응은 2일 링크드인에 “AI의 미래에 대한 나의 가장 큰 두려움은 지나치게 과장된 위험(인류 멸종 등)이 발생하면 기술 로비스트들이 오픈 소스를 억제하고 혁신을 저해하는 숨막히는 규제를 제정하게 할지 모른다는 것이다”라고 썼다. 응은 지난 2011년 구글 브레인을 공동 설립한 후 이미지 인식 분야에서 선구적 작업을 한 과학자다.

르쿤과 응, “테크 리더들이 실존적 위험을 과장하고 있다”

메타의 수석 AI 과학자(뉴욕대 수학과교수)이기도 한 얀 르쿤은 응의 언급에 대해 최근 게시물에 “음, 적어도 하나의 빅테크 회사(*메타)는 AI 모델을 공개 소싱하고 있으며 AI의 실존적 위험에 대해 거짓말을 하지 않는다”고 답했다.

그는 “거짓말은 내가 사용하지 않았던 큰 단어다. 나는 이 기술 리더들 중 일부가 실존적 위험에 대해 진정으로 걱정하고 있다고 생각한다. 나는 그들이 틀렸다고 생각한다. 나는 그들이 그것을 믿도록 이끄는 부당한 우월성 콤플렉스를 가지고 있다고 생각한다. (그것은 다음과 같다.) 1. 그들이 한다고 해도 괜찮지만, 대중이 한다고 해서 괜찮지는 않다. 2. 초인간적 AI가 코앞으로 다가왔고 현 대규모 언어 모델(LLM)의 모든 특성을 가질 것이다.”라고 썼다.

얀 르쿤도 앞서 힌튼이 쓴 글에 대해 그냥 있지는 않았다. 다음과 같이 답했다.

르쿤은 “많은 AI에 의한 인류 파멸 시나리오가 공상과학 소설(SF) 시나리오처럼 들리기 때문에 물어봅니다. 만약 스카이넷이 오픈 소스였다면 (SF영화) ‘터미네이터’에서 스카이넷이 인류로부터 지배권을 탈취할 수 있었을까요?”라고 썼다.

이에 힌튼은 즉각 “그들을 더 안전하게 만들기 위해 소스 핵무기도 개방하라고 하지요. 좋은 사람들(우리)은 항상 나쁜 사람들(그들)보다 더 큰 핵무기를 가질 것이므로 모두 괜찮겠죠”라고 반박했다.

.

벤지오, “AI 위험은 '밤잠을 못 자게 한다’”

한편, 지난 주 힌튼, 르쿤, 힌튼, 벤지오 네사람은 다른 22명의 선도적 AI 학자 및 전문가와 함께 AI와 관련해 증가하는 위험을 해결하기 위한 정책 및 거버넌스 프레임워크를 제안했다. 이들은 기업과 정부가 AI 연구개발 예산의 3분의 1을 AI 안전에 할애해야 한다며, AI 안전 노력을 강화하기 위한 구체적 연구 돌파구를 모색해야 한다고 강조했다.

불과 며칠 전, 벤지오는 캐나다의 글로브앤메일(Globe and Mail) 오피니언란에 기고를 했는데, 그는 지난 1년 동안 챗GPT와 유사한 LLM이 계속해서 큰 도약을 하면서 “걱정도 꾸준히 증가했다”고 썼다. 그는 “중대한 AI 리스크는 커다란 걱정의 원천이어서 특히 우리가 우리 손자와 그의 세대에 물려줄 유산을 생각할 때 나는 잠을 이룰 수 없을 정도다”라고 말했다.

AI대부들, X-리스크 논쟁했다고 우정 깨지 않아

흥미롭게도 이러한 AI대부들의 둘로 나뉜 대립적 논쟁도 이들 4인방 사이의 오랜 우정을 약화시키지 않았다.

앤드류 응은 힌튼의 구글 은퇴를 축하하는 최근의 파티에 참석한 자신의 사진을 X에 올렸고, 르쿤도 마찬가지였다.

르쿤은 “사람들은 중요한 것들에 대해 의견이 다를 수 있지만 여전히 좋은 친구가 될 수 있다는 것을 상기시켜 준다”라는 캡션과 함께 힌 튼과 벤지오와 함께 찍은 사진을 올렸다.