스스로 스토리 게시한 ‘스냅챗 AI’에 대한 공포

[AI요약] 스냅챗의 챗GPT 구동 생성 AI가 자체적으로 게시한 짧은 영상이 논란이 되고 있다. 마이AI는 벽과 천장으로 보이는 짧은 영상을 스스로 게시하고 질문에도 응답하지 않아 일부 사용자들에게 혼란을 안겼다.

스냅쳇의 챗GPT 구동 생성 AI인 ‘마이AI’. (이미지=스냅챗)

내 AI 챗봇이 스스로 스토리를 게시하고 질문에 응답조차 안 한다면?

스냅챗(Snapchat)의 생성 AI 챗봇인 ‘마이AI’(My AI)가 스스로 게시한 스토리로 인한 논란에 대해 CNN, 폭스뉴스 등 외신이 17일(현지시간) 보도했다.

스냅챗의 몇몇 사용자는 최근 플랫폼의 AI가 자체 스토리를 게시한 후 사용자에 대한 응답도 중단하면서 혼란과 공포에 휩싸였다.

AI 챗봇 도구인 챗GPT(ChatGPT)로 구동되는 마이AI 기능은 일반적으로 권장 사항을 제공하고 질문에 답하며 사용자와 대화하도록 설계됐다. 또한 모든 스냅챗 사용자가 볼수 있는 라이브 스토리를 게시하는 것은 새로운 기능으로, 이는 인간 사용자에게만 제공되는 기능이다.

문제는 마이AI가 벽과 천장으로 보이는 짧은 영상을 스스로 게재한 것이다.

사용자들은 소셜 미디어를 통해 우려 사항을 빠르게 공유하기 시작했다. 한 사용자는 “내 AI는 왜 벽과 천장을 찍은 영상을 그들의 스토리로 게시하고 있는 거지?”라고 우려했다. 또 다른 사용자는 “이것은 매우 이상하고 솔직히 불안하다.”라고 게시했으며 또 다른 사용자는 자신의 메시지를 무시한 마이AI를 빗대어 “로봇은 나를 위한 시간이 없어 보인다”라고 게시했다.

마이AI의 이러한 ‘일탈’은 스냅챗이 AI 도구를 더욱 현실적으로 만들기 위해 시도한 기술적인 부분도 아니라는 것이 밝혀졌다. 스냅챗 대변인은 언론을 통해 “해당 상황은 결함”이라며 “마이AI가 일시적인 중단을 겪었고 현재는 해결된 상태다”고 밝혔다.

마이AI가 스스로 게재한 짧은 영상의 스토리. (사진=폭스뉴스 갈무리)

기업의 해명에도 불구하고 마이AI의 일시적 결함은 AI의 잠재적 위험에 대한 두려움을 부각시켰다.

4월에 출시된 마이AI는 어린 사용자의 부모뿐만 아니라 일부 스냅챗 사용자의 반발에 직면한바 있다. 개인정보보호 문제는 물론, 이 ‘오싹한’ 기능은 프리미엄 가입 비용을 지불하지 않으면 채팅 피드에서 기능을 제거할 수 없다는 점이다.

다른 AI 도구와 달리 마이AI는 몇 가지 중요한 차이점이 있다. 사용자는 챗봇의 이름과 개인화된 아바타를 디자인해 친구들과 대화할 수 있다. 순효과는 마이AI와 대화하는 것이 챗GPT의 웹사이트를 방문하는 것보다 업무적인 느낌을 훨씬 덜 받을수 있다는 것이다. 또한 컴퓨터와 대화하고 있다는 느낌도 덜 받는다.

이번 마이AI 문제로 인해 기술 자체의 가치와 함께 스냅챗과 같은 점점 더 어린 사용자가 즐겨 찾은 플랫폼에 새로운 생성AI 기술을 적용할 때 직면할수 있는 어려움을 드러냈다는 혼재된 평가가 나오고 있다.

스냅챗은 오픈AI가 챗GPT에 대한 액세스를 제3자 비즈니스에 제공하기 시작했을 때 초기 출시 파트너였으며 앞으로 더 많은 기업이 비슷한 행보를 보일것으로 예상된다.

스냅챗은 “마이AI는 채팅 대화를 통해 스냅챗 사용자와 통신하도록 설계됐다”며 “질문에 답하고 생일 선물에 대한 조언을 제공하며 여행계획을 도울수 있다”고 지원페이지를 통해 밝혔다.

또한 스냅챗은 “마이AI를 개선하고 발전시키기 위해 지속적으로 노력하고 있지만 마이AI의 응답에는 편향되거나 부정확하고 유해하거나 오해의 소지가 있는 콘텐츠가 포함될수 있다”며 “AI의 조언에 의존하거나 기밀정보 및 민감한 정보를 공유해서는 안된다”고 설명했다.

류정민 기자

znryu@daum.net
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지

관련 기사

글로벌 혁신 허브로 주목 받는 싱가포르, 한국 스타트업이 제대로 활용하는 전략은?

수년 째 이어지고 있는 스타트업 투자 혹한기에 더해 고물가·고금리 부담이 더해지며 국내 스타트업 생태계의 위기는 커지고 있다. 이에 정부는 최근 스타트업계 지원을 대폭 확대하고 모태펀드 출자를 스타트업코리아, 글로벌, M&A 등 핵심 출자 분야의 혁신 스타트업 투자에 집중한다는 방침을 밝혔다. 주목되는 변화 중 하나가 국외 창업 스타트업 지원이다. 이처럼 국외 창업 스타트업에 대한 지원이 늘어나는 상황에서 주목해야 할 해외 진출 전략은 무엇일까? 이에 대한 답을 최근 스타트업얼라이언스가 진행한 ‘아시아의 한국인’ 행사에서 찾아봤다.

오픈AI ‘샘 알트먼’이 ‘미국 정치판’을 길들인 방법

오픈AI의 CEO 샘 알트먼이 매력적인 언변과 교묘한 로비활동으로 지구상에서 가장 강력한 사람 중 하나가 되고 있다. 소셜 미디어 산업을 대표하는 메타의 마크 저커버그를 매우 공격적으로 비판했던 미국 정치계가 어쩐 일인지 AI 산업을 대표하는 알트먼에게는 부드럽다. 알트먼은 미국 정치판을 어떻게 길들인 것일까.

하루앞둔 미 대선···빅테크들, 트럼프에 대한 전략적 모호성 이면엔

실리콘 밸리 빅테크 리더들의 친 트럼프 분위기가 트럼프의 잠재적 보복 우려 때문인지, 정부사업 계약으로 보상받길 원해서인지인지, 아니면 해리스 민주당 후보가 승리할 경우 추가 감독 및 규제를 받을까 봐 경계해서인지를 단언할 수는 없다. 하루앞으로 다가온 미 대선 후보에 대한 빅테크 CEO들의 ‘전략적 모호성의 이면을 들여다 봤다.

[인터뷰] 방은혜 밀리의서재 AI서비스본부장 “AI를 접목한 플랫폼 기반 독서 경험 강화, 기대하셔도 좋습니다”

2016년 등장한 밀리의서재는 오랜 세월 오프라인에 머물고 있던 사람들의 독서 습관을 플랫폼으로 확장하며 독서 경험의 혁신을 이뤄냈다. 그리고 지금, 밀리의서재는 또 한 번의 혁신을 시도하고 있다. ‘AI서비스본부’를 신설하고 자사 플랫폼에 AI 기술 접목을 본격화한 것이다. 이에 테크42는 AI 격변이라는 파고에 맞서 정체성을 지켜가며 조용한 혁신을 시도하고 있는 밀리의서재가 나아갈 방향과 전략을 방은혜 AI 서비스본부장을 만나 직접 들어봤다.