지구생명 역사의 중요한 순간…AI시스템 ‘일시정지’가 필요하다

[AI요약] 현재 우리 사회를 휩쓸고 있는 IT시스템 개발에 대한 숨고르기가 필요하다는 업계 리더들의 서한이 발표됐다. AI 연구실에서는 개발자조차 이해할수 없는 강력한 IT 디지털 마인드 기술이 개발되고 있으며 이를 통제하기 수단은 마련돼 있지 않다는 우려가 나온다.

IT시스템을 통제하기 위한 숨고르기가 필요하다는 업계 리더의 서한이 발표됐다. (이미지=미래생명연구소)

IT 전문가들이 현재 일어나고있는 거대하고 통제불능 상태의 IT 디지털 마인드 생성 개발을 우려하고 있다.

인공지능(IT)업계 1000명 이상의 저명한 IT 전문가들 및 후원자들이 발표한 기업들의 무분별한 IT경쟁에 대한 비판을 담은 서한에 대해 더가디언, CNN 등 외신이 1일(현지시간) 보도했다.

일론 머스크가 지원하는 비영리단체 미래생명연구소(Future of Life Institute)는 서한을 통해 현재 업계 IT 개발이 ‘사회와 인류에 심각한 위협’이 될것이라고 경고하며 최소 6개월 동안 강력한 AI 시스템 학습을 중단할 것을 요구했다.

해당 서한에는 오픈AI(OpenAI)를 공동 설립한 일론 머스크 외에도 애플의 공동 창업자 스티브 워즈니악, 스테빌리티AI 창업자 에마드 모스타크 등 수십명의 업계 기술리더, 교육자, 연구원들이 이에 동조하며 서명했다. 이외 아마존, 딥마인드, 구글, 메타, 마이크로소프트 등 IT 업계 엔지니어들이 대거 동참했다.

이 서한은 오픈AI가 AI챗봇 챗GPT(ChatGPT) 업그레이드 버전인 GPT-4를 발표한지 불과 2주만에 나온 것으로, GPT-4에 ‘합리적인 의심의 여지가 없을 정도’로 안전한 AI 도구를 위한 공유 프로토콜 세트를 공동으로 개발하고 구현해야 된다는 주장이 담겼다.

업계 리더들은 AI 개발에 현재 ‘일시정지’가 필요하며, 연구원들이 GPT-4보다 더 강력한 AI 모델에 대한 개발을 자발적으로 중단하지 않는다면 정부가 개입해서라도 이를 유예해야한다고 서한을 통해 지적했다. 정부 개입을 극도로 꺼리는 IT업계에서, 특히 미국에서 이러한 제안은 드문 일이다.

지난해 말 챗GPT에 대한 관심의 물결은 기술 기업들 사이에서 챗GPT와 유사한 AI 도구를 개발하고 배포하기 위한 경쟁을 재개하는 도화선이 됐다. 오픈AI, 마이크로소프트, 구글이 해당 기술의 최전선에 있으며 IBM, 아마존, 바이두, 텐센트 등도 유사한 기술을 개발중이다.

챗GPT는 기술 기업들 사이에서 AI 도구를 개발하고 배포하기 위한 경쟁을 재개하는 도화선이 됐다. (이미지=오픈AI)

GPT-4 출시 이후 오픈AI는 ‘플러그인’을 통해 AI 시스템으로 개방형 웹에서 데이터를 조회하고 휴가를 계획하며 식료품을 주문할 수 있는 등의 기능을 제공했다. 그러나 기업은 자체 시스템이 배포 당시 알고 있는 것보다 더욱 강력해지는 문제인 ‘능력 초과’를 처리해야한다. 연구자들은 앞으로 몇주 또는 몇달 동안 GPT-4를 실험하면서 어려운 문제를 해결하는 능력을 향상시키는 시스템을 ‘프롬프트’하는 새로운 방법을 발견할 가능성이 있다.

인공지능 전문가들은 AI 도구의 편향된 응답에 대한 잠재력, 잘못된 정보를 퍼뜨리는 능력 및 소비자 개인정보 보호에 미치는 영향에 대해 점점 더 우려하고 있다. 이러한 도구는 AI가 어떻게 직업의 세계를 뒤엎고 학생들이 부정행위를 할수 있도록 하며, 인간과 기술과의 관계를 변화시킬 수 있는지에 대한 질문을 촉발시켰다.

이번에 발표된 서한은 AI의 급속한 발전 속도로 업계 안팎에서 더 광범위한 불편함이 도사리고 있음을 암시한다. 중국, EU 및 싱가포르의 일부 관리 기관은 앞서 AI 거버넌스 체계의 초기 버전을 도입한 상태다.

미래생명연구소는 “고급 AI는 지구상의 생명 역사에 중대한 변화를 가져올수 있다”며 “이에 상응하는 케어와 자원을 통해 기술을 계획하고 관리해야 한다”고 강조했다. 연구소는 “안타깝게도 최근 몇달간 AI 연구실에서는 아무도, 심지어 개발자조차도 이해할수 없는 강력한 디지털 마인드를 개발하고 배포하기 위한 통제 불능의 경쟁에 갇혔지만, 이러한 수준의 AI를 관리하는 계획은 진행되지 않고 있다”고 비판했다.

또한 연구소는 “강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있다는 확신이 있을 때만 개발해야 한다”고 지적했으며, 이에 오픈AI 공동 설립자인 샘 알트만은 “지적에 대해 동의한다”며 “그 시점은 바로 지금”이라고 말하며 연구소의 우려에 힘을 실었다.

류정민 기자

znryu@daum.net
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지

관련 기사

"AI 보안, 내일 아닌 오늘의 문제...96% 기업이 AI 도입"

그린 사장은 “예전에는 금융 기관과 중요 인프라를 대상으로 사이버 공격이 이뤄진다는 인식이 일반적이었지만, 요즘에는 대학을 비롯해 보건, 통신 등 기술이 적용되는 모든 분야가 타겟이 되고 있다”며 각 기업들이 마주한 사이버 보안 관련 쟁점을 짚기도 했다. 이어 2024년을 ‘메가 브리치(Mega breach, 대량 침해)의 해’라고 규정하며 헬스케어부터 시작해 자동차, 리테일 분야 등에서 짧은 시간 내에 광범위하게 발생한 여러가지 침해 사례를 언급하는 한편, 팔로알토 네트웍스의 대응 역량을 소개하기도 했다.

[인터뷰] 한의선 원더스랩 대표 “AI 구독하지 마세요, 채용하세요”

2021년 LG전자 출신 한의선 대표가 창업한 원더스랩은 이른바 ‘WIS’로 불리는 AI 어시스턴트를 제공하고 있다. 문서업무를 도와주는 AI 서비스 ‘더블유닷(Wdot)’, 이미지 작업을 돕는 ‘아이닷(Idot)’, SNS 작업을 돕는 ‘에스닷(Sdot)’이 그것이다. 흥미로운 점은 원더스랩의 비즈니스 모델이 단순히 AI 어시스턴트를 제공하는데 그치지 않고 있다는 사실이다. 이들이 표방하는 서비스는 SaaS(서비스형 소프트웨어)를 넘어 워크포스(workforce, 인력) 까지 제공하는 ‘하이브리드 서비스(AI+Human Hybrid Work Service)’다.

[CES 2025] ‘포브스 선정’ 가장 ‘쿨’한 기술 TOP 5

CES는 매년 한해의 업계 분위기를 예측할수 있는 최첨단 기술을 선보이는 자리로, 올해 CES 도 예외는 아니었다. 자동차 안에서 돌비 비전(Dolby Vision)으로 콘텐츠를 시청하고, 노트북 스크린을 펼치는 등 여러 가지 기술들이 눈길을 사로잡았다.

테크 억만장자들의 아침 습관·시간관리···베이조스·머스크·샘·저커버그·쿡 등

테크 산업계의 거물들은 아침시간을 어떻게 시작하고 어떻게 관리할까. 부분적으로 괴리가 있을 수는 있지만 일반인들도 큰돈 들이지 않고 시도할 수 있는 방법들이 대부분이다. 분명한 것은 연초부터 자신에게 도움이 되는 방식의 규칙적 습관을 익힐 수만 있다면 반드시 억만장자는 아니더라도 새해에는 지난해보다 뭔가 더 성취할 가능성이 높아지리라는 것이다.아직 새해 1월의 절반도 지나지 않았다. 새로 뭔가를 시도해 보기에 여전히 충분하다.