[AI요약] 제작자에 의해 통제되는 미국 기업들의 AI기술과는 반대로 EU는 대중에게 AI기술을 오픈해야 오히려 AI 주권을 갖게 될 것으로 보고 있다. 오픈소스 연구개발이 사라질 경우 유럽은 필수 AI 인프라를 위해 소수의 외국 독점기업, 즉 미국에 크게 의존해야될 가능성이 커지기 때문이다. 결국에는 오픈AI Vs. 오픈소스AI에 대한 논쟁이다.
'풀뿌리 AI', 대중을 위한 AI 기술개발 보호가 중요한 이유는 무엇일까.
AI 법안을 통한 풀뿌리 연구 보호 방안 등 유럽연합(EU)의 본격적인 AI연구 보호 조치 목소리에 대해 더가디언 등 외신이 5일(현지시간) 보도했다.
EU가 다가오는 AI 법안을 통해 유럽 국가들의 풀뿌리 AI 연구를 보호하지 않을 경우 미국 기술기업에 AI 통제권을 넘길 위험이 있다는 경고를 받고 있다. 독일 연구그룹 라이온(Large-scale AI Open Network, Laion)에 따르면, 유럽의회의 AI 연구에 대한 ‘획일적인’ 조치가 유럽내 개방형 연구 개발을 제거할 위험이 있는 것으로 지적된다.
연구자나 개발자가 다운스트림 사용을 모니터링하거나 제어하도록 요구하는 규칙은 유럽에서 오픈소스 AI를 출시하는 것을 불가능하게 만들 수 있다는 우려다. 이는 AI 연구개발에 대한 투명성을 저해하고 학문의 자유를 제한하는 등 다양한 문제를 불러올 수 있는 것으로 지적된다.
현재 유럽은 AI 주권을 잃을 이유가 없다. 오픈소스 연구개발이 사라지면 유럽 과학계와 경제는 필수 AI 인프라를 위해 소수의 외국 독점기업에 크게 의존하게 되기 때문이다. 물론 여기서 외국 독점 기업은 미국기술기업일 가능성이 크다.
오픈AI(OpenAI)와 구글과 같은 기업의 AI 연구는 제작자에 의해 크게 통제된다. 예를 들어 챗GPT(ChatGPT) 뒤에 있는 모델을 다운로드하는 것은 불가능하며 오픈AI가 사용자에게 제공하는 유료 액세스에는 사용 방법에 대한 여러 가지 법적 및 기술적 제한이 따른다. 대조적으로 오픈소스 AI는 AI 모델을 만든 다음 누구나 적합하다고 생각하는 대로 사용, 개선 또는 적응할 수 있도록 공개되고 있다.
라이온의 경우 오픈소스 AI를 적극적으로 개발하고 있다. 수십억 달러 규모의 조직을 통제하고 종종 수억 달러의 개인 재산을 소유하는 미국 AI 기업과는 달리 AI 세계의 ‘자원 봉사자’인 셈이다.
라이온의 작업은 이미 영향력을 발휘하고 있다. 라이온은 영국 스타트업 스테빌리티AI(Stability AI)로부터 자금을 지원받았으며, 다른 AI 연구원들이 자체 시스템을 교육할 수 있도록 개방형 데이터 세트 및 모델을 생성하는 데 중점을 두고 있다.
인터넷에서 수집한 거의 60억개의 레이블이 지정된 이미지로 구성된 한 데이터베이스는 인기있는 스테이블디퓨전(Stable Diffusion) 이미지 생성 AI를 뒷받침하고 있다. 또한 오픈클립(Openclip)이라는 또다른 모델은 이미지에 레이블을 지정하는 데 사용할 수 있는 오픈AI에서 구축한 개인 시스템을 재현했다.
그러나 이러한 작업은 논란이 될 수 있다. 스테이블디퓨전은 노골적이고 외설적이며 불안한 이미지를 생성하는 데 사용될 수 있으며, 라이온의 이미지 데이터베이스는 작품이 포함된 창작자의 권리를 존중하지 않는다는 비판을 받아왔다.
이에 EU와 같은 기관은 AI 시스템이 수행하는 작업에 대한 책임을 지주회사로 간주하고 있지만, 이러한 규제로 인해 시스템을 일반 대중에게 공개하는 것이 불가능해지고 국가 경쟁력을 악화시킬 것이라는 지적이 나온다.
여기에 대한 대안으로 EU가 대중의 감독과 유럽의 가치를 따르는 통제된 조건하에서 차세대 모델의 안전한 개발을 위한 자체 공공시설을 갖춘 오픈소스 연구에 적극적으로 지원해야 한다는 주장이 제기되고 있다.
토니블레어연구소(Tony Blair Institute)는 영국이 오픈소스 연구를 적극적으로 진행하면서 미래 AI를 대중의 통제하에 두기 위한 ‘브릿GPT’(BritGPT)의 창설에 자금을 지원할 것을 촉구하고 있다.
크리스토프 슈만 라이온 대표는 “우리는 오픈소스 AI가 더 안전하고 접근하기 쉬우며 민주적이라고 생각하기 때문에 오픈소스 AI를 연구하고 있다”며 “향후 5년에서 10년 이내에 거의 인간 수준의 AI를 갖게 될 것이라고 확신하고 있다”고 서한을 통해 밝혔다. 슈만 대표는 “세상을 완전히 바꿀 AI 기술의 힘을 통해 민주화된 세상에서 다음 세대들이 자라나야 할 것”이라고 설명했다.
산드라 와처 옥스퍼드대학교 인터넷연구소 교수는 “AI 기술 개발에 대해 속도를 늦춰야 된다고 말하는 사람들은 결국 해당 기술 개발에 성공해 기득권을 가진 사람들”이라며 “우리는 이미 암호화폐, 무인자동차 등 새로운 기술이 나올때마다 공포의 주기를 겪은적이 있다”고 지적했다.
와처 교수는 “불안과 공황은 좋은 정치적 조언자가 아니다”라며 “새로운 기술에 대한 규제를 서두르면서 다양한 분야의 전문가들과 의견을 조율하는데 초점을 맞춰야한다”고 강조했다.
소셜댓글