- 생성형 AI ‘책임 있게’ 사용하기

생성형 AI 리스크, 어떻게 관리해야 할까?

생성형 AI의 무한한 잠재력만큼, 다양한 리스크도 뒤따른다. 실제 ‘기업을 경영하는 데 어떤 리스크 요소가 있는지’ 묻는 가트너의 2023년 2Q 설문조사에서 ‘생성형 AI’가 2위로 급부상했다. 먼저 생성형 AI가 초래하는 리스크를 살펴보자.

* Source: Mckinsey&Company / IGM 재구성

도입 전에

기업이 생성형 AI의 리스크를 사전대응하기 위해 중점을 둬야 할 핵심 키워드는 ‘신뢰’와 ‘윤리’다. 생성형 AI를 적극적으로 도입하기 전에 다음과 같은 질문부터 던져보자.

‘AI 기술을 개발하고 배포하는 과정이 윤리적이고 사회적 가치를 존중하는 방향으로 이뤄졌는가?’

‘사용자들은 생성형 AI 애플리케이션이 내놓은 답을 믿을 수 있는가?’

‘믿을 수 없다면, 앞으로 어떻게 해야 신뢰할 수 있는가?’

활용할 때

글로벌 컨설팅사, ‘맥킨지(Mckinsey&Company)’는 생성형 AI의 ‘리스크’와 ‘가치 창출’의 균형을 맞추는 것이 중요하다고 말한다. 기업 자체적으로 생성형 AI의 윤리 원칙과 가이드라인을 세우고, 리스크와 가치의 균형을 고려해 활용해볼 만한 사례를 찾아야 한다. 가령, 마케팅 콘텐츠 초안을 작성하는 업무처럼 가치와 리스크가 모두 낮은 작업에 생성형 AI를 먼저 활용해본 후, 점진적으로 가치와 리스크 모두 높은 작업도 계획해보는 것이다.

평소에

기업은 생성형 AI 규제 동향을 파악하고, 이를 고려해 안전 대책을 마련해 나가야 한다. 현재 미국, 영국, EU, 한국 등 주요 국가들은 AI 규제에 대한 주도권을 둘러싸고 규제 방향과 내용에 대해 열띤 논의를 펼치고 있다. 2023년 11월, 제1회 AI 안전 정상회담에서 28개 국가들은 AI 위험성을 공동으로 논의하고 관리하기 위한 ‘블레츨리 선언’에 합의했다. 얼마 후, 미국, 한국, 영국 등 18개 국가는 AI 국제 가이드라인을 발표했다. AI 시스템 설계부터 개발, 배포, 유지, 관리까지 프로세스 단계마다 필요한 권장 사항을 담았다. 또한 각 국가마다 실질적인 규제 내용이 다르기 때문에, 그에 맞게 기업 내부 프로세스, 문화, 인력 등도 적절히 조정할 필요가 있다.

[EU, 미국, 영국, 한국의 AI 규제 동향]

생성형 AI 탐색을 넘어, 그 이상을 시작해야 할 때

얼마 전, 국제학술지 ‘네이처(Nature)’의 ‘2023년 과학자 10인’에 ‘챗GPT’가 선정됐다. 사람이 아닌 기술이 선정된 것은 최초다. 생성형 AI가 과학계에서 주목할 만한 성과를 냈고, 앞으로의 과학 발전에 중요한 역할을 한다는 것을 인정받은 것이다.

2023년 과학 발전에 기여한 10명(그리고 비인간 1명) (이미지: nature.com)

이제 생성형 AI를 통한 기술 발전과 비즈니스 혁신은 거스를 수 없는 흐름이다. 리스크 관리, 구성원의 리스킬링 등 기술 발전에 수반되는 과제를 해결하면서, 우리 산업과 조직에 어떻게 생성형 AI를 접목하여 경쟁력을 강화할 수 있을지 고민해야 한다. 이때 단순히 생산성을 높이는 사례 뿐 아니라, 생성형 AI를 전략적 파트너로 삼고 자사의 데이터를 최대한 활용할 수 있는 방식으로 접근하는 사례를 발굴하는 것이 중요하다. 그러려면 AI 전문가가 아닌, 업무 전문가가 생성형 AI를 이해하고 어떻게 활용할지 판단할 수 있어야 할 것이다. 그 어느 때보다 AI 기술이 대중화되고 있는 지금, 우리 조직은 생성형 AI 생태계 위에 올라탈 준비를 마쳤는가?

<References>

“Phi-2: The surprising power of small language models”, 2023. 12. 12, Microsoft Blog
“Capturing the full value of generative AI in banking”, 2023. 12. 5, Mckinsey&Company
“Citi Used Generative AI to Read 1,089 Pages of New Capital Rules”, 2023. 10. 27, Bloomberg
“The state of generative AI adoption in business”, 2023. 10. 23, Kearney
“Top 10~12 Strategic Technology Trends for 2022, 2023, 2024”, 2023. 9. 15, Gartner
“Generative AI Market Size, 2023-2030”, Fortune Business Insights
“New A.I. Chatbot Tutors Could Upend Student Learning”, 2023. 6. 8, The New York Times 
“Managing the Risks of Generative AI”, 2023. 6. 6, Harvard Business Review
“What every CEO should know about generative AI”, 2023. 5. 12, Mckinsey&Company
“Goldman Sachs CIO Tests Generative AI”, 2023. 5. 2, Wall Street Journal
“Exploring opportunities in the generative AI value chain”, 2023. 4. 26, Mckinsey&Company
“가장 유능하고 범용적인 AI 모델 제미나이(Gemini)를 소개합니다”, 2023. 12. 7, Google Blog
“Generative AI가 바꿀 미래, 기업은 어떻게 준비할까?”, 2023. 11. 13, Kearney Blog
“삼성전자, ‘삼성 AI 포럼’서 자체 개발 생성형 AI ‘삼성 가우스’ 공개”, 2023. 11. 8, 삼성 뉴스룸
“‘직원을 신나게 하라’, 월마트의 생성형 AI 여정 살펴보기”, 2023. 10. 23, CIO Korea
“웅진씽크빅, Azure OpenAI 기반 생성 AI로 소통과 교육의 새로운 연결고리 만들어”, 2023. 8. 29, Microsoft
“새로운 초현실 세계로, 영화를 바꾸고 있는 생성형 AI”, 2023. 6. 9, MIT Technology Review

본 기사의 원문은 여기서 볼 수 있습니다.