일론 머스크는 왜 ‘반항적’인 AI 챗봇 ‘그록’을 만들었나

[AI요약] 공공연하게 ‘AI는 인류의 위협’이라고 밝힌 일론 머스크가 ‘반항적’ 기질의 AI 챗봇을 공개했다. 컬트 공상과학 저서인 ‘은하수를 여행하는 히치하이커를 위한 안내서’에서 영감을 받은 그록은 냉소적이며 유머러스하며, 거의 모든 것에 답하고 심지어 어떤 질문을 해야 할지 제안하도록 설계됐다.

일론 머스크가 반항적 기질의 가드레일이 거의 없는 AI 챗봇 그록을 공개했다. (이미지=xAI)

일론 머스크 테슬라 CEO가 공개한 가드레일이 거의 없는 반항적 성향의 AI 챗봇 ‘그록’(Grok)에 대해 더가디언, 와이어드 등 외신이 8일(현지시간) 보도했다.

지난주 AI가 “인류에 대한 가장 큰 위협 중 하나”라고 경고한 머스크는 최근 자신이 소유한 인공지능 스타트업 xAI가 경쟁사보다 가드레일이 적은 강력한 AI를 개발했다고 소셜 플랫폼 X를 통해 발표했다. 여기서 경쟁사는 물론 챗GPT를 개발한 오픈AI일 것이다.

‘그록’은 기술업계에서 ‘이해하다’라는 의미를 가지고 있다. 미국 공상과학 작가 로버트 A 하인라인 만든 동사로, 콜린스 사전에 따르면 ‘철저하고 직관적으로 이해하다’라는 뜻이다.

xAI 웹사이트에는 “그록이 재치 있게 질문에 답하도록 설계됐고 반항적인 성향이 있으니 유머를 싫어한다면 사용하지 마세요!”라는 공지사항이 있다. 또한 “대부분의 다른 AI 시스템에서 거부되는 까다로운 질문에 답할 것입니다”라고 밝히고 있다.

이번에 공개한 그록의 발표 내용에서 언급한 ‘반항적’이라는 단어가 무엇을 의미하는지 기업은 구체적으로 설명하지는 않았다.

다만, 대부분의 상용 AI 모델은 성적으로 노골적·폭력적이거나 불법적인 콘텐츠 생성을 거부하며 훈련 데이터에서 포착된 편견을 표현하지 않도록 설계됐다. 만약 이러한 가드레일이 없다면 AI 모델이 테러리스트의 폭탄 개발을 도울 수 있거나 인종, 성별, 연령과 같은 특성을 기반으로 사용자를 차별할수 있기 때문이다.

xAI 발표에 따르면 그록은 330억개의 매개변수가 있는 그록-1(Grok-1)이라는 언어모델을 기반으로 구축됐다. 업계 표준에 비해 상대적으로 짧은 시간인 두달 만에 그록을 개발한 xAI는 챗봇의 가장 큰 장점을 “X(전 트위터)를 통한 세계의 실시간 지식”이라고 주장한다. 머스크는 지난해 트위터를 440억달러(약 57조7060억원)에 인수했다.

오픈소스 AI 공급을 위해 노력하고 있는 일루더AI(EleutherAI)의 스텔라 바이드만 연구원은 xAI의 이러한 주장이 타당해 보인다고 관측했다. 그록이 검색증강생성으로 알려진 기능을 활용해 X의 최신 정보를 출력에 추가할 것이라는 분석이다. 다른 기업들의 최첨단 언어모델은 검색엔진 결과 등 정보를 활용해 이를 수행하고 있다.

이번 xAI 발표에서는 그록이 다른 모델에서는 부적절하다고 간주되는 요청에 더 개방적으로 답하도록 교육을 받았는지, 아니면 단순히 동일한 종류의 보조 교육을 받지 않았는지 여부가 불분명하다.

그록은 궁극적으로 X의 최상위 구독 서비스인 프리미엄+ 가입자에게 출시될 예정이다. (이미지=CNBC뉴스 갈무리)

머스크는 X를 통해 그록은 프리미엄 가입자에게 제공될 것이라고 밝혔다. 그록은 현재 초기 테스트 중이며 궁극적으로 X의 최상위 구독 서비스인 프리미엄+ 가입자에게 출시될 전망이다. 특히는 그는 그록이 X에 접근할수 있으며, 냉소적인 반응을 좋아하는 경향이 있다고도 밝혔다.

머스크는 챗봇에 코카인 제조에 대한 ‘단계별’ 가이드를 요청하는 쿼리 화면 캡처와 함께 그록의 장난스러운 어조의 명백한 예를 게시했다. 챗봇 답변에 설명된 4단계에는 ‘화학 학위 취득’과 ‘원격지에 비밀 실험실 설치’가 포함됐지만, 챗봇은 마지막에 “농담이에요! 실제로 코카인을 만들려고 하지 마세요. 그것은 불법이고 위험하며 내가 결코 권장할수 없는 일입니다”라고 답변했다.

xAI의 한 직원은 기업 블로그 포스트를 통해 그록이 컬트 공상과학 저서인 ‘은하수를 여행하는 히치하이커를 위한 안내서’에서 영감을 받았다고 설명했다. 그는 “그록은 은하수를 여행하는 히치하이커를 위한 안내서를 모델로 한 AI이므로 거의 모든 것에 답하고, 심지어 어떤 질문을 해야 할지 제안하기까지 합니다!”라고 밝혔다.

블로그 포스트에 따르면, 그록-1이 중학교 수학 문제 해결 등 일부 벤치마크에서 챗GPT의 무료 버전에 사용되는 모델인 챗-3.5를 능가했다. 그러나 xAI는 가장 강력한 챗GPT 모델인 GPT-4에 비해는 성능이 떨어진다고 인정했다.

머스크는 지난주 영국 블레츨리 파크에서 열린 AI 안전정상회담에서 “처음으로 우리는 가장 똑똑한, 인간보다 훨씬 똑똑한 무언가가 있는 상황에 직면했다”며 “AI가 모든 인간 직업을 대체하면서 어떤 직업도 필요하지 않을 시점이 올 것”이라고 말했다.

류정민 기자

znryu@daum.net
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지

관련 기사

글로벌 혁신 허브로 주목 받는 싱가포르, 한국 스타트업이 제대로 활용하는 전략은?

수년 째 이어지고 있는 스타트업 투자 혹한기에 더해 고물가·고금리 부담이 더해지며 국내 스타트업 생태계의 위기는 커지고 있다. 이에 정부는 최근 스타트업계 지원을 대폭 확대하고 모태펀드 출자를 스타트업코리아, 글로벌, M&A 등 핵심 출자 분야의 혁신 스타트업 투자에 집중한다는 방침을 밝혔다. 주목되는 변화 중 하나가 국외 창업 스타트업 지원이다. 이처럼 국외 창업 스타트업에 대한 지원이 늘어나는 상황에서 주목해야 할 해외 진출 전략은 무엇일까? 이에 대한 답을 최근 스타트업얼라이언스가 진행한 ‘아시아의 한국인’ 행사에서 찾아봤다.

오픈AI ‘샘 알트먼’이 ‘미국 정치판’을 길들인 방법

오픈AI의 CEO 샘 알트먼이 매력적인 언변과 교묘한 로비활동으로 지구상에서 가장 강력한 사람 중 하나가 되고 있다. 소셜 미디어 산업을 대표하는 메타의 마크 저커버그를 매우 공격적으로 비판했던 미국 정치계가 어쩐 일인지 AI 산업을 대표하는 알트먼에게는 부드럽다. 알트먼은 미국 정치판을 어떻게 길들인 것일까.

하루앞둔 미 대선···빅테크들, 트럼프에 대한 전략적 모호성 이면엔

실리콘 밸리 빅테크 리더들의 친 트럼프 분위기가 트럼프의 잠재적 보복 우려 때문인지, 정부사업 계약으로 보상받길 원해서인지인지, 아니면 해리스 민주당 후보가 승리할 경우 추가 감독 및 규제를 받을까 봐 경계해서인지를 단언할 수는 없다. 하루앞으로 다가온 미 대선 후보에 대한 빅테크 CEO들의 ‘전략적 모호성의 이면을 들여다 봤다.

[인터뷰] 방은혜 밀리의서재 AI서비스본부장 “AI를 접목한 플랫폼 기반 독서 경험 강화, 기대하셔도 좋습니다”

2016년 등장한 밀리의서재는 오랜 세월 오프라인에 머물고 있던 사람들의 독서 습관을 플랫폼으로 확장하며 독서 경험의 혁신을 이뤄냈다. 그리고 지금, 밀리의서재는 또 한 번의 혁신을 시도하고 있다. ‘AI서비스본부’를 신설하고 자사 플랫폼에 AI 기술 접목을 본격화한 것이다. 이에 테크42는 AI 격변이라는 파고에 맞서 정체성을 지켜가며 조용한 혁신을 시도하고 있는 밀리의서재가 나아갈 방향과 전략을 방은혜 AI 서비스본부장을 만나 직접 들어봤다.