최근 수년 간 국제전기전자기술자협회(IEEE)는 해마다 ‘AI 인덱스(색인)’를 내놓았고 올해도 이를 발행했다. 올해 보고서는 생성형 AI 붐, 모델 비용 및 ‘책임 있는 AI 사용’ 등을 추적했다. 총 393쪽짜리 보고서는 AI가 지난해 정말 중요한 한 해를 맞이했다는 사실을 보여주는 증거이기도 하다. 미국 스탠퍼드대 인간중심인공지능연구소(HAI)가 발간한 이 보고서는 ‘책임 있는 AI’ 장을 확대했고 ‘과학과 의학 분야의 AI’에 대한 장을 새로이 추가했으며 통상적인 연구개발, 기술적 성과, 경제, 교육, 정책 및 거버넌스, 다양성, 여론 등도 종합해서 다루고 있다. 이 보고서에서는 IEEE스펙트럼이 보도한 생성적 AI의 시각적 표절 문제에 대한 기사가 인용 게재되기도 했다.

IEEE 스펙트럼은 15일(현지시각) 스탠포드대 HAI가 작업한 ‘2024 AI 인덱스’ 보고서를 바탕으로 지난해 지구촌 AI의 현주소를 요약해 보여주는 15개 항목을 선별해 차트와 함께 소개했다.

AI 인덱스 보고서가 보여주는 AI 분야 경쟁 트렌드와 활용 및 과제 등을 포함하는 주목할 만한 15개 지표는 ▲생성형 AI 투자 폭발 ▲폐쇄형 모델이 개방형 모델 성능 능가 ▲이미 매우 비싸진 파운데이션 모델 ▲미국이 파운데이션 모델 분야에서 선두 국가로 자리매김 ▲구글이 파운데이션 모델 경쟁 기업 가운데 독주 ▲AI 경쟁에 따른 무거운 탄소 발자국 발생 부작용 ▲AI 개발자들의 인종적 다양성, 일부 진전 ▲포춘 500 기업 조사결과 최소 1개 사업부가 AI 구현 ▲AI를 사용한 기업들의 비용 축소 및 매출 증가 ▲업계가 새로운 AI 박사 학위자들 채용 ▲기업들의 AI리스크 인식 ▲잇단 AI 책임 규범 개발 ▲법이 AI를 활성화하는 동시에 한편으로 제약 ▲아직까지 인간을 능가하지 못한 AI ▲사람들을 불안하게 만드는 AI로 요약된다.

이 보고서 내용은 세계 최강 AI 선진국 미국의 사례를 중심으로 이뤄진 것이다. 그런 만큼 AI 선도국의 미국의 사례는 추격자인 전세계 AI 업계와 사용기업들에게 진행 방향을 안내할 지표가 되기에 충분해 보인다. 세계 AI 경쟁과 활용의 현주소와 그 우려감까지 짚어낸 보고서 핵심 내용을 두 차례에 걸쳐 살펴본다.

[생성형 AI 붐 시대①]생성형 AI 산업 대폭발과 그 주변

[생성형 AI 붐 시대②] 양날의 검 AI···활용 성과 및 리스크

AI 활용의 효율성 속에서도 아직 주 사용자인 기업들에게는 해결해야 할 과제가 있다. 기업은 AI를 활용하면서 성과를 보이고 있지만 동시에 리스크를 인식하고 있고 불안해 하고 있다. 페이크AI의 부작용 같은 것이 그것이다. 이에 각국 정부가 AI책임 규범을 만들고 있다. 아직까지는 AI가 인간의 능력에는 미치지 못하고 있다. 하지만 일각에서는 당장 내년에 일반 인공지능(AGI)가 인간을 뛰어 넘으리라고 보고 있다. 사람들은 AI를 활용해 이점을 누리면서서 한편으로는 여전히 불안해 하고 있다. 일반 인공지능(AGI) 로봇이 개발되고 있는 상황에서 인류와 AI는 새로운 출발선에 있다. AI는 인류에게 사회 기본 틀 재설정 및 윤리, 규범 설정 등의 그에 걸맞은 지금과는 또다른 새로운 과제를 제시하고 있다.

포춘 500 기업, 최소 1개 사업부에 AI 구현

기업들은 AI의 가능성에 깨어 있다. 2024 AI 인덱스는 포춘 500대 기업의 실적결산 발표 회견(어닝콜)에서 나온 모든 언급을 스캔했다. 이를 위해 자연어 처리 도구를 사용했던 시장 정보 회사인 퀴드(Quid)의 도움으로 기업들이 어닝콜에서 ‘AI’, 기계학습(ML), 그리고 ‘딥러닝(심층학습)에 대해 언급한 데이터를 얻었다.

이 기업들의 거의 80%가 그들의 실적 컨퍼런스콜 발표에서 AI에 대한 논의를 포함했다. 마슬레이 ’2024 AI 인덱스’ 편집장은 “나는 비즈니스 리더들에게는 이 기술을 사용하지 않으면 기회를 놓치게 될 것이라는 두려움이 있다고 생각한다”고 말했다.

그리고 그들의 AI에 대한 수다들 중 일부는 최고경영자(CEO)들이 유행어에 대해 떠드는 것뿐일 가능성도 있지만, 보고서의 또 다른 그래프는 맥킨지 조사에 포함된 회사들 중 55%가 적어도 하나의 사업부에서 AI를 구현했다는 것을 보여준다.

AI로 비용 감소, 매출 증가

그러나 보고서는 기업들에 있어 AI가 단순한 유행어가 아닌 이유를 보여주고 있다.

같은 기업들을 대상으로 한 맥킨지 기업 컨설팅 회사의 조사에 따르면 AI의 통합이 기업의 비용을 낮추고 매출을 증가시키는 것을 보여 주었다. 전체적으로 응답자의 42%가 비용이 감소한 것을 봤다고 말했고, 59%는 매출이 증가했다고 주장했다.

이 보고서의 다른 도표들은 이러한 최종결과에 대한 영향이 효율성 향상과 근로자 생산성 향상을 반영한다고 제시하고 있다. 즉, 지난해 다른 분야의 많은 연구들은 AI가 근로자들이 더 빨리 과제를 완수하고 더 나은 품질의 일을 해 낼 수 있도록 했다는 것을 보여주었다.

다른 연구들은 컨설턴트, 콜센터 직원, 그리고 법대생들을 살펴본 반면, 한 연구는 코파일럿을 사용하는 프로그래머(코더)들을 조사했다.

마슬레이 편집장은 “이러한 연구들은 (AI 사용시)모든 근로자들이 혜택을 받지만, AI는 고숙련 근로자들을 도와주는 것보다 더많이 저숙련 근로자들을 돕는다”고 말했다.

업계가 새로운 AI 박사 학위자들을 부른다

이전에 논의된 데이터를 고려할 때 업계가 생성형 AI를 위해 많은 투자를 받고 많은 흥미로운 모델을 출시하는 것은 별로 놀라운 일이 아니다.

지난 2022년(AI인덱스가 데이터를 가지고 있는 최근 연도)에 북미에서 새로이 AI 박사학위를 딴 사람의 70%가 기업에서 일자리를 얻었다. 그것은 지난 몇 년 동안 일어난 추세의 연속이다.

기업들은 AI의 위험성을 인식하고 있다

올해 AI 인덱스 팀은 기업들이 책임있는 AI에 대해 어떻게 생각하고 있는지를 이해하기 위해 최소 5억 달러(약 6900억원)의 매출을 가진 1000개의 기업을 대상으로 글로벌 설문조사를 실시했다.

그 결과는 공정성(자주 알고리즘 편향의 관점에서 논의되는)이 아직 대부분의 기업에 등록되지 않은 반면, 프라이버시와 데이터 거버넌스가 전세계적으로 가장 큰 위험으로 인식되고 있다는 것을 보여주었다.

이 보고서의 또 다른 도표는 기업들이 그들이 인식하고 있는 위험에 대해 조치를 취하고 있다는 것을 보여준다.

각 지역에 걸친 대부분의 조직들은 관련된 위험에 대응해 적어도 하나의 책임 있는 AI 조치를 시행했다.

AI 책임 규범 개발

AI 회사가 거대 모델을 출시할 준비를 할 때 이를 그 분야의 인기 있는 벤치마크와 비교해 시험하는 것이 표준 관행이다. 그리고 이는 AI 커뮤니티에 기술적 성능 측면에서 모델들을 서로 비교할 수 있는 벤치마크를 제공한다.

AI 커뮤니티는 기술적인 성능 면에서 어떻게 모델들이 서로 비교되는지에 대한 감각을 준다.

그러나 그간 모델들을 유독성 언어 출력(RealToxicity Prompts와 ToxiGen), 반응에 있어서 해로운 편향(BOLD와 BBQ), 그리고 모델의 진실성의 정도(TruthfulQA)와 같은 것들을 평가하는 ‘책임 있는 AI’ 벤치마크와 비교해 시험하는 것은 덜 흔했다.

이러한 벤치마크들과 비교해 누군가의 모델을 확인하는 것이 책임감 있는 일이라는 인식이 증가함에 따라 그것은 바뀌기 시작했다. 이는 위 도표에서 볼 수 있다.

그러나 이 보고서의 다른 도표는 일관성이 부족하다는 것을 보여준다. 말하자면 개발자들은 그들의 모델을 다른 벤치마크와 비교하며, 이는 비교하는 것을 더 어렵게 만든다.

법률이 AI를 활성화기도 제약하기도 한다

AI 인덱스는 2016~2023년에 전세계 33개국이 AI와 관련된 적어도 하나의 법을 통과했고, 대부분의 조치는 미국과 유럽에서 발생했고, 그 기간 동안 총 148개의 AI 관련 법안이 통과됐다는 것을 발견했다.

AI인덱스 연구원들은 또한 법안들을 한 국가의 AI 능력을 향상시키는 것을 목표로 하는 확장적인 법 또는 AI 적용과 사용에 제한을 두는 제한적인 법으로 분류했다.

많은 법안들이 AI를 계속 증진시키는 반면, 연구자들은 세계적으로 제한적인 AI 입법화를 하는 추세를 발견했다.

AI는 모든 것에서 인간을 이길 수 없다...아직까지는

마슬레이 AI인덱스 편집장은 최근 몇 년 동안 AI 시스템은 독해와 시각적 추론을 포함한 다양한 과제에서 인간을 능가했고, AI 성능 향상의 속도도 빨라졌다고 언급한다.

그는 “10년 전에는 AI 연구자들에게 도전하기 위해 5~6년 동안 이미지넷(ImageNet)과 같은 벤치마크(표준)에 의존할 수 있었다”고 말했다.

하지만 마슬레이는 “이제 경시대회 수준의 수학을 위한 새로운 기준이 도입되고 AI는 인간의 30%에서 시작해 1년 후 그것은 90%에 이르게 됐다”고 밝혔다.

아직 AI 시스템이 인간을 능가하지 못하는 복잡한 인지 과제가 있지만, 그것이 어떻게 진행되고 있는지 보기 위해서는 좀더 지켜봐야 할 것 같다. 일부 전문가들은 내년이면 인간을 능가하는 일반 인공지능(AGI)이 등장할 것이라고 전망하고 있는 상황이다.

AI는 사람들을 불안하게 만든다

AI 사용 이해도와 활용 및 인식에 대한 AI인덱스의 여론 데이터는 31개국의 2만 2816명의 성인(16~74세)을 대상으로 한 AI에 대한 태도에 대한 세계적인 조사 결과다.

응답자의 반 이상(52%)은 AI가 그들을 불안하게 만든다고 말했고, 이는 전년도의 39%보다 증가한 수치다. 그리고 3분의 2의 사람들은 이제 AI가 향후 몇 년 안에 그들의 일상 생활을 크게 바꿀 것이라고 예상했다.

마슬레이는 젊은이들이 AI가 그들의 삶을 어떻게 바꿀 것인지에 대해 낙관적 견해 쪽으로 더 기울면서 AI인덱스의 다른 도표들이 다른 인구 통계들 사이에 상당한 의견 차이를 보여준다는 점에 주목한다.

그는 “흥미롭게도 이런 종류의 AI 비관론의 많은 부분은 서구, 잘 발달된 국가들로부터 온다”고 말했다. 반면 인도네시아와 태국과 같은 곳의 응답자들은 AI의 이점이 그것의 해악을 능가할 것으로 기대한다고 말하고 있다.