일론 머스크는 왜 ‘반항적’인 AI 챗봇 ‘그록’을 만들었나

[AI요약] 공공연하게 ‘AI는 인류의 위협’이라고 밝힌 일론 머스크가 ‘반항적’ 기질의 AI 챗봇을 공개했다. 컬트 공상과학 저서인 ‘은하수를 여행하는 히치하이커를 위한 안내서’에서 영감을 받은 그록은 냉소적이며 유머러스하며, 거의 모든 것에 답하고 심지어 어떤 질문을 해야 할지 제안하도록 설계됐다.

일론 머스크가 반항적 기질의 가드레일이 거의 없는 AI 챗봇 그록을 공개했다. (이미지=xAI)

일론 머스크 테슬라 CEO가 공개한 가드레일이 거의 없는 반항적 성향의 AI 챗봇 ‘그록’(Grok)에 대해 더가디언, 와이어드 등 외신이 8일(현지시간) 보도했다.

지난주 AI가 “인류에 대한 가장 큰 위협 중 하나”라고 경고한 머스크는 최근 자신이 소유한 인공지능 스타트업 xAI가 경쟁사보다 가드레일이 적은 강력한 AI를 개발했다고 소셜 플랫폼 X를 통해 발표했다. 여기서 경쟁사는 물론 챗GPT를 개발한 오픈AI일 것이다.

‘그록’은 기술업계에서 ‘이해하다’라는 의미를 가지고 있다. 미국 공상과학 작가 로버트 A 하인라인 만든 동사로, 콜린스 사전에 따르면 ‘철저하고 직관적으로 이해하다’라는 뜻이다.

xAI 웹사이트에는 “그록이 재치 있게 질문에 답하도록 설계됐고 반항적인 성향이 있으니 유머를 싫어한다면 사용하지 마세요!”라는 공지사항이 있다. 또한 “대부분의 다른 AI 시스템에서 거부되는 까다로운 질문에 답할 것입니다”라고 밝히고 있다.

이번에 공개한 그록의 발표 내용에서 언급한 ‘반항적’이라는 단어가 무엇을 의미하는지 기업은 구체적으로 설명하지는 않았다.

다만, 대부분의 상용 AI 모델은 성적으로 노골적·폭력적이거나 불법적인 콘텐츠 생성을 거부하며 훈련 데이터에서 포착된 편견을 표현하지 않도록 설계됐다. 만약 이러한 가드레일이 없다면 AI 모델이 테러리스트의 폭탄 개발을 도울 수 있거나 인종, 성별, 연령과 같은 특성을 기반으로 사용자를 차별할수 있기 때문이다.

xAI 발표에 따르면 그록은 330억개의 매개변수가 있는 그록-1(Grok-1)이라는 언어모델을 기반으로 구축됐다. 업계 표준에 비해 상대적으로 짧은 시간인 두달 만에 그록을 개발한 xAI는 챗봇의 가장 큰 장점을 “X(전 트위터)를 통한 세계의 실시간 지식”이라고 주장한다. 머스크는 지난해 트위터를 440억달러(약 57조7060억원)에 인수했다.

오픈소스 AI 공급을 위해 노력하고 있는 일루더AI(EleutherAI)의 스텔라 바이드만 연구원은 xAI의 이러한 주장이 타당해 보인다고 관측했다. 그록이 검색증강생성으로 알려진 기능을 활용해 X의 최신 정보를 출력에 추가할 것이라는 분석이다. 다른 기업들의 최첨단 언어모델은 검색엔진 결과 등 정보를 활용해 이를 수행하고 있다.

이번 xAI 발표에서는 그록이 다른 모델에서는 부적절하다고 간주되는 요청에 더 개방적으로 답하도록 교육을 받았는지, 아니면 단순히 동일한 종류의 보조 교육을 받지 않았는지 여부가 불분명하다.

그록은 궁극적으로 X의 최상위 구독 서비스인 프리미엄+ 가입자에게 출시될 예정이다. (이미지=CNBC뉴스 갈무리)

머스크는 X를 통해 그록은 프리미엄 가입자에게 제공될 것이라고 밝혔다. 그록은 현재 초기 테스트 중이며 궁극적으로 X의 최상위 구독 서비스인 프리미엄+ 가입자에게 출시될 전망이다. 특히는 그는 그록이 X에 접근할수 있으며, 냉소적인 반응을 좋아하는 경향이 있다고도 밝혔다.

머스크는 챗봇에 코카인 제조에 대한 ‘단계별’ 가이드를 요청하는 쿼리 화면 캡처와 함께 그록의 장난스러운 어조의 명백한 예를 게시했다. 챗봇 답변에 설명된 4단계에는 ‘화학 학위 취득’과 ‘원격지에 비밀 실험실 설치’가 포함됐지만, 챗봇은 마지막에 “농담이에요! 실제로 코카인을 만들려고 하지 마세요. 그것은 불법이고 위험하며 내가 결코 권장할수 없는 일입니다”라고 답변했다.

xAI의 한 직원은 기업 블로그 포스트를 통해 그록이 컬트 공상과학 저서인 ‘은하수를 여행하는 히치하이커를 위한 안내서’에서 영감을 받았다고 설명했다. 그는 “그록은 은하수를 여행하는 히치하이커를 위한 안내서를 모델로 한 AI이므로 거의 모든 것에 답하고, 심지어 어떤 질문을 해야 할지 제안하기까지 합니다!”라고 밝혔다.

블로그 포스트에 따르면, 그록-1이 중학교 수학 문제 해결 등 일부 벤치마크에서 챗GPT의 무료 버전에 사용되는 모델인 챗-3.5를 능가했다. 그러나 xAI는 가장 강력한 챗GPT 모델인 GPT-4에 비해는 성능이 떨어진다고 인정했다.

머스크는 지난주 영국 블레츨리 파크에서 열린 AI 안전정상회담에서 “처음으로 우리는 가장 똑똑한, 인간보다 훨씬 똑똑한 무언가가 있는 상황에 직면했다”며 “AI가 모든 인간 직업을 대체하면서 어떤 직업도 필요하지 않을 시점이 올 것”이라고 말했다.

류정민 기자

znryu@daum.net
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지

관련 기사

AI부터 암호화폐까지 ‘트럼프 2기’ 변화할 핵심 ‘기술 정책’

도널드 트럼프가 백악관으로 복귀하고 공화당이 양원을 장악하면 의심할 여지 없이 기술 분야가 재편될 것으로 보인다. 트럼프의 미국 우선주의 철학과 함께, 규제보다 혁신에 기반한 그의 행정부 정책은 AI, 사이버 보안 및 기타 핵심 기술 정책 분야의 글로벌 역학을 크게 바꾸면서 급속한 기술 발전을 촉발할 것으로 예상되고 있다.

스타워즈에서 영감을 받은 킬러 위성이 등장했다

조지 루카스 감독의 스타워즈(1977)에 등장한 ‘데스스타’(죽음의 별)는 가상의 우주 정거장이자 슈퍼무기다. 이 영화에 영감을 받은 중국 과학자들이 실제로 ‘데스 스타’를 만들었다. 스타워즈에서 영감을 받은 이 무기는 마이크로파 빔을 집중시켜 적의 위성을 쓸어버린다.

[마루에서 만난 사람] 이혜환 메텔 COO “B2B 분야의 마케팅 성과 측정이 가능한 수요 창출 엔진을 만들고 있습니다”

메텔이 무대로 삼는 것은 글로벌 최대 B2B 플랫폼, 링크드인이다. 이들은 생성형 AI 기술을 접목해 B2B 고객 발굴에 특화된 콘텐츠 자동화 솔루션을 개발하고 있다. B2B 기업과 그 고객의 페르소나를 분석하고 이를 자동화해 명확한 정체성을 담으면서도 고객의 반응을 끌어낼 수 있는 콘텐츠 마케팅을 가능하게 하겠다는 것이다. 더 나아가 이들은 그간 막연히 추정만 가능했던 B2B 마케팅의 성과 측정까지 가능한 솔루션을 개발 중이다.

실리콘밸리 이민법 전문 변호사 주디 장, “트럼프 2.0시대 미국 진출 스타트업 비자 발급 쉽지는 않겠지만...”

트럼프 2.0시대를 앞두고 현지 창업을 준비하는 한국 예비 창업자 혹은 미국 진출이나 플립(FLIP, 본사 해외이전)을 고려하는 한국 스타트업은 다급해지고 있다. 이번 미 대선에서 트럼프 측이 강력한 이민정책으로 이민자를 줄이겠다는 공약을 내세웠기 때문이다. 트럼프 집권 1기 당시를 복기했을 때도 확실한 사실 하나는 트럼프 2.0시대에 미국으로 가려는 이민자 혹은 외국인들의 비자 발급이 굉장히 까다로워질 것이라는 점이다.