‘내 이력서는 AI를 만족시킬까?’ AI 채용 프로세스에 대하여

[AI요약] 현재 다양한 기업들이 채용을 위해 활용하고 있는 AI가 공정하지 않으며 편향적인 결정을 할수 있다는 우려가 제기됐다. 실제로 AI를 채용 프로세스로 활용한 아마존 등 일부 기업들에 AI차별 문제가 불거져 해당 시스템을 폐기하거나 알고리즘에서 시각적 분석을 사용하지 않은 사례가 나오고 있다.

기업들이 채용을 위해 AI도구를 활용하고 있다. (이미지=oorwin)

다양한 채용 프로세스에 활용되고 있는 AI의 공정성 문제에 대해 야후파이낸스, CNBC 등 외신이 24일(현지시간) 보도했다.

AI는 이제 채용에서도 중요한 역할을 하고 있다. 일부 고용주는 AI 도구를 사용한 기술 및 성격 평가를 통해 구직자의 자질을 평가하고 업무 역할과 일치하는지 판단하고 있다. 또 다른 경우는 AI를 사용해 구직자를 선별하고 면접 단계에 도달할 사람과 그렇지 않을 사람을 결정하기도 한다.

그러나 이러한 도구가 채용 프로세스를 더 빠르고 원활하게 만드는 것처럼 보이지만 채용에서 AI에 너무 많이 의존할 경우 공정한 채용 관행을 약화시키고 차별을 악화시키는 등 큰 문제로 이어질수 있다는 지적이 나오고 있다.

그렇다면 지금까지 공개된 채용과 관련 AI의 실적은 어떨까. 2018년 아마존은 AI를 사용해 적합한 구직자를 평가하는 실험적인 채용 도구를 폐기해야 했다. 이 도구를 훈련하는 데 사용된 고용 데이터가 남성 지배적이었으며, 이에 AI가 남성 후보자를 선호한 반면 여성은 적합하지 않은 후보로 간주한 것으로 밝혀졌기 때문이다.

비디오면접 소프트웨어 하이어뷰(HireVue)가 만든 또다른 인기 있는 AI도구는 2020년 미국의 저명한 시민권 단체의 반발에 직면한 후 평가 모델에서 시각적 분석을 폐기해야 했다.

린지 줄로아가 하이어뷰의 수석 데이터 과학자는 “평가 모델의 목표는 지원자의 인터뷰를 특정 역할에서 수행하는 방법과 연관시키는 것이며 지속적으로 검증되고 테스트 됐다”고 당시 성명서를 통해 해명했다. 그러나 기업은 연구 결과를 통해 사전 고용 알고리즘에서 시각적 분석을 사용하지 않기로 결정했다.

미국국립경제조사국의 연구에 따르면 포춘지 선정 500대 기업 중 108곳의 신입 채용 공고에 83000건의 가짜 지원서가 제출됐다. 이는 에보니, 다넬, 하킴과 같은 독특한 흑인 이름이 있는 지원서는 헤더, 브레들리와 같은 백인 이름에 비해 고용주로부터 응답을 받을 가능성이 적기 때문이다.

AI 알고리즘은 주어진 데이터와 수신하는 프로그래밍만큼만 우수해지며, 알고리즘은 현실 세계의 편향을 재생산하기 쉽다. 따라서 데이터에 결함이 있거나 이미 편향의 추세를 보이고 있다면, 출력 데이터는 이러한 편향을 영속화할 가능성이 높다.

AI 채용 프로세스가 차별적이라는 문제가 제기되고 있다. (이미지=naukrirms)

현재 다양한 연구에 따르면 AI는 성별, 연령, 인종, 장애인, 변증법 또는 지역적 언어 차이에 대한 편견을 지속시키는 것으로 지적된다. 또다른 문제는 여성은 종종 이력서에서 자신의 기술을 과소평가하는 반면, 남성은 이력서를 과장하는 것으로 나타났다. 따라서 이러한 이력서는 실제 관련 기술과 경험에 관계없이 알고리즘을 통해 판단될수 있다.

물론 AI를 주의해서 사용하면 채용 프로세스를 보다 간단하게 만들 수 있으며, 이를 통해 채용 담당자는 지원자를 신속하게 선별하고 기술을 식별할 수 있다. 그러나 AI도 인간과 마찬가지로 불공평한 판단과 편향된 결정을 할수 있다는 점이다.

샬롯 샬러 경영컨설팅업체 에이온 책임자는 “AI가 사람들에게 시스템을 속일수 있는 기회를 제공한다”며 “후보 데이터의 정확성과 신뢰성을 검증하는 시스템을 구현하는 것이 핵심”이라고 강조했다.

그는 “채용에 있어 하나의 평가 방법에만 의존하는 것이 아닌, 임의의 추가 테스트를 통해 AI 편견을 줄이고 채용 프로세스를 간소화는 것이 도움이 될수 있다”며 “그러나 가장 중요한 것은 인간의 판단과 전문성의 개입”이라고 설명했다.

류정민 기자

znryu@daum.net
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지

관련 기사

글로벌 혁신 허브로 주목 받는 싱가포르, 한국 스타트업이 제대로 활용하는 전략은?

수년 째 이어지고 있는 스타트업 투자 혹한기에 더해 고물가·고금리 부담이 더해지며 국내 스타트업 생태계의 위기는 커지고 있다. 이에 정부는 최근 스타트업계 지원을 대폭 확대하고 모태펀드 출자를 스타트업코리아, 글로벌, M&A 등 핵심 출자 분야의 혁신 스타트업 투자에 집중한다는 방침을 밝혔다. 주목되는 변화 중 하나가 국외 창업 스타트업 지원이다. 이처럼 국외 창업 스타트업에 대한 지원이 늘어나는 상황에서 주목해야 할 해외 진출 전략은 무엇일까? 이에 대한 답을 최근 스타트업얼라이언스가 진행한 ‘아시아의 한국인’ 행사에서 찾아봤다.

오픈AI ‘샘 알트먼’이 ‘미국 정치판’을 길들인 방법

오픈AI의 CEO 샘 알트먼이 매력적인 언변과 교묘한 로비활동으로 지구상에서 가장 강력한 사람 중 하나가 되고 있다. 소셜 미디어 산업을 대표하는 메타의 마크 저커버그를 매우 공격적으로 비판했던 미국 정치계가 어쩐 일인지 AI 산업을 대표하는 알트먼에게는 부드럽다. 알트먼은 미국 정치판을 어떻게 길들인 것일까.

하루앞둔 미 대선···빅테크들, 트럼프에 대한 전략적 모호성 이면엔

실리콘 밸리 빅테크 리더들의 친 트럼프 분위기가 트럼프의 잠재적 보복 우려 때문인지, 정부사업 계약으로 보상받길 원해서인지인지, 아니면 해리스 민주당 후보가 승리할 경우 추가 감독 및 규제를 받을까 봐 경계해서인지를 단언할 수는 없다. 하루앞으로 다가온 미 대선 후보에 대한 빅테크 CEO들의 ‘전략적 모호성의 이면을 들여다 봤다.

[인터뷰] 방은혜 밀리의서재 AI서비스본부장 “AI를 접목한 플랫폼 기반 독서 경험 강화, 기대하셔도 좋습니다”

2016년 등장한 밀리의서재는 오랜 세월 오프라인에 머물고 있던 사람들의 독서 습관을 플랫폼으로 확장하며 독서 경험의 혁신을 이뤄냈다. 그리고 지금, 밀리의서재는 또 한 번의 혁신을 시도하고 있다. ‘AI서비스본부’를 신설하고 자사 플랫폼에 AI 기술 접목을 본격화한 것이다. 이에 테크42는 AI 격변이라는 파고에 맞서 정체성을 지켜가며 조용한 혁신을 시도하고 있는 밀리의서재가 나아갈 방향과 전략을 방은혜 AI 서비스본부장을 만나 직접 들어봤다.