최근 제한적이기는 하지만 인공지능(AI)이 프로그래밍 기능까지 갖추면서 프로그래머 지망생들이나 기존 프로그래머들을 긴장시키고 있다. 이른바 코딩하는 AI의 등장 때문이다. 하지만 반도체 칩을 개발하는 프로그래머들에게 결이 좀 다른 주목할 만한 소식이 전해졌다. 인간과 AI가 각각 반도체 공정을 설계하는 것보다 이들이 각각의 역할을 나눠 협업한 결과 최적의 반도체 설계 성과를 내면서 비용을 50%나 줄일 수 있었다는 놀라운 결과가 도출됐다. 휴먼-AI 팀의 하이브리드 설계 전략 성공은 인간 엔지니어가 뛰어난 직관을 최대한 활용할 수 있는 전반부를, AI가 계산력을 요하는 후반부를 각각 담당토록 하는 접근법을 사용함으로써 가능했다고 한다. AI가 날로 똑똑해지면서 이런 상황이 얼마나 지속될지는 모르지만 고무적 내용이 아닐 수 없다. 지난 8일자 과학저널 네이처지에 소개된 이 내용을 소개한다.

휴먼-AI협업으로 최고 성과

이번 연구의 핵심은 반도체칩을 제작하는 새로운 방법을 개발할 때 가장 좋은 접근 방법은 인간이나 컴퓨터 어느 한쪽 설계에만 의존하는 것이 아니라 이를 혼합하는 방식, 즉 인간-AI 협력 방식이라는 점으로 귀결된다.

이 연구의 수석저자인 미국 램리서치사 경영 부사장 겸 최고경영자(CEO) 전략 고문을 맡고 있는 리처드 고초는 “도전적이고 독창적으로 문제를 해결할 수 있는 전문성과 능력으로 인해 인간은 여전히 (설계에)필수적이지만, 우리의 연구 결과는 '인간이 먼저, 컴퓨터가 마지막' 전략이 프로세스 개발의 지루한 측면을 해결하는 데 도움이 될 수 있으며, 이에따라 혁신을 크게 가속화할 수 있음을 보여준다”고 말했다.

그는 “칩 제조업체들이 3D 낸드, 핀펫, D램 및 기타 기기의 확장과 관련된 많은 과제를 극하려고 하고 있기에 이번 연구가 암시하는 영향은 정말 흥미롭다”고 말했다.

현재 마이크로칩 구축의 병목 현상 중 하나는 트랜지스터와 메모리 셀을 제조하는 반도체 공정 개발 비용 증가다. 각각 수백 개의 단계를 포함하는 이러한 복잡한 프로세스는 여전히 고도로 훈련된 엔지니어에 의해 수동으로 구상하게 된다.

100조개나 되는 실리콘 에칭 방식 속에서 길을 찾다

예를 들어 체스·바둑 같은 복잡한 보드게임 때 인간을 능가해 과제를 해결하는 AI의 방식은 컴퓨터 알고리즘이 반도체 공정을 개발하는 데도 도움이 될 수 있음을 시사한다.

그러나 보드게임의 경우 컴퓨터는 사람들을 이기기 위해 많은 양의 저렴한 데이터로부터 훈련을 받았다. 반대로 반도체 공정 데이터를 생성하는 데는 비용이 많이 든다. 재료, 장비 및 분석 도구 비용 때문에 개별 실험들마다 각각 수천 달러(수 백만 원) 이상이 들 수 있다.

반도체 실험에 드는 높은 비용은 엔지니어들이 일반적으로 장치를 제조하는 기계에 대해 엄청난 수의 다른 조합, 또는 플라즈마 압력과 웨이퍼 온도와 같은 매개변수의 ‘레시피’(방법)에 따른 실험을 통해 반도체 공정을 개발한다는 의미다. 따라서 이러한 제한된 데이터로는 원자 수준에 이르는 정확도를 가진 좋은 예측 모델을 만들기 어렵게 만든다.

고초 고문은 “3D 낸드 장치에 메모리 구멍을 만들거나 다른 장치 기능을 에칭(식각)할 때 공정 엔지니어들은 100조 개 이상의 가능한 딥트렌치 식각 방법에 직면하게 된다. 이 숫자는 그야말로 압도적이다”라고 말한다.

최적화 알고리즘 탐구

연구원들은 이 새로운 연구에서 AI가 어떻게 반도체 공정 개발 비용을 줄일 수 있는지 조사했다.

이들은 반도체 설계 작업에서 기계가 인간보다 더 잘할 수 있는지를 알아보기 위해 그들끼리 서로 성능을 체계적으로 벤치마킹하는 방법을 만들었다.

체스와 바둑의 컴퓨터 발전에 영감을 받은 이번 연구 책임자인 케렌 카나릭 램 리서치 기술 관리 이사는 비교를 위한 테스트 베드로서 게임을 개발할 것을 제안했다.

이에따라 연구 참여자들은 실험실 시뮬레이터에서 메모리 셀을 만드는 데 사용되는 이산화규소 필름의 트렌치인 메모리 구멍을 에칭하도록 요청받았다.

목표는 가능한 한 적은 비용을 써서 특정한 깊이, 너비, 모양을 가진 메모리 구멍을 만드는 방법을 찾는 것이었다.

이 실험에 참여한 그룹은 3개의 컴퓨터 알고리즘, 각각 박사 학위에 7년 이상의 경력을 가진 3명의 인간 수석 엔지니어, 각각 박사 학위에 1년 미만의 경력을 가진 3명의 인간 초급 엔지니어, 그리고 반도체 공정에 대한 지식이 없는 3명의 인간 자원봉사자였다.

각 실험 라운드가 끝날 때마다 각각의 비교 대상 참가자들은 하나 이상의 반도체 구축 방법을 제출했다. 각각의 방법은 웨이퍼와 측정 비용으로 1000달러가 들며, 각 배치는 공구 작동 비용으로 1000달러가 든다.

인간 단독 설계 vs AI협업 설계 결과는

최고의 참가자는 인간 수석 엔지니어로서 총 10만 5000달러(1억3600만원)의 비용을 들여 요청받은 메모리 구멍을 만들어냈다.

이 인간 전문가를 능가한 컴퓨터(AI)는 300건 중 13건(5% 미만)에 불과했다. 과학자들은 대체로 같은 수준의 진척을 보이는 데 있어 인간의 상급 엔지니어들은 인간 하급 엔지니어들에 비해 절반의 비용만 들인다는 것을 발견했다.

이 시뮬레이션 게임을 운영하는 과학자들은 각 인간 엔지니어들의 작업이 두 단계로 나뉘어 있다는 것을 발견했다.

인간 엔지니어들은 초기 반도체 설계 과정인 러프 튜닝(rough tuning) 단계에서는 목표를 달성하는 쪽으로 빠른 전개를 보였지만 이후 미세조정(fine tuning) 단계에서는 원하는 목표를 동시에 모두 달성하는 데 있어 더딘 진전을 보였다.

연구원들은 컴퓨터 알고리즘은 실패했다고 지적하면서 그 이유로 전문 지식 부족, 그리고 방대한 수의 가능성을 탐색하면서 쓸데없는 실험에 컴퓨팅자원을 허비한 것을 꼽았다.

인간이 앞부분, AI가 뒷부분 담당토록 하자 비용이 절반으로

이에따라 연구원들은 최고의 실험 참여자가 ‘인간 먼저, 컴퓨터가 마지막’ 시나리오에서 알고리즘을 안내하는 전략을 테스트했다.

그들은 이 하이브리드 접근법을 사용하면 인간 전문가가 혼자 설계할 때 들인 비용의 절반인 5만2000달러(약 6700여만 원)에 목표를 달성할 수 있다는 것을 발견했다.

새로운 연구는 인간 엔지니어들이 경험과 직관을 활용할 수 있는 초기 러프튜닝 단계에서 뛰어날 수 있다는 것을 보여준다.

또 컴퓨터 알고리즘은 정확한 목표에 도달하기 위해 노력하는 후반 미세조정 단계에서 훨씬 더 비용 효율적인 것으로 입증되고 있다.

고초 램리서치 CEO는 “이 연구는 인간 엔지니어들이 가진 고유의 가치와 독창성의 중요성을 더욱 보강해 줄 뿐 아니라 덜 보상받는 공학적 측면을 그 과제에 적합한 기계들(AI)에게 맡김으로써 그러한 단점을 줄이면서 인간 가치와 독창성의 이점을 증폭시킬 수 있는 방법을 보여준다”고 평가했다.

그는 “인간이 제공해야 하는 것과 데이터 과학과 기계가 제공하는 것을 최대한 활용해 이 둘을 결합하고, 이를 통해 각각의 어느 하나보다 성능이 더 좋은 조합을 만들 수 있다”고 말했다.

인간-컴퓨터 협업 설계가 문화적 어려움 가져 올 수도

연구자들은 향후 연구에서는 인간의 작업을 컴퓨터들이 작업하도록 넘겨주기에 가장 좋은 시점이 언제인지를 체계적으로 조사할 수 있을 것이라고 말했다.

그들은 또한 인간과 컴퓨터를 제휴시키는 데 문화적인 어려움이 있을 것이라고 덧붙인다.

예를 들어 이 연구에서는 종종 인간 엔지니어들이 이 실험, 저실험을 할 때 한두개의 매개 변수만 바꾸는 반면 컴퓨터는 설명도 없이 더 많이 바꿀지도 모른다. 게다가 인간은 그들이 이해하지 못하는 (컴퓨터의)방식을 받아들이기 어려울 수 있다는 것을 발견했다.

고초는 “AI와 컴퓨터는 대부분의 인간의 직관에 반하는 방식으로 정보를 처리한다. 비 전통적인 ‘인간 우선, 컴퓨터 나중’ 접근법이 성공하기 위해서는 반도체 공정 엔지니어들이 ‘기계 공정에 개입하는 것에 저항’(거부)해야 할 것이다. 이것은 인간의 행동에 변화를 필요로 할 수도 있다. AI 접근법을 더 잘 이해하면 엔지니어들이 기계 연구 결과를 신뢰하는 데 도움이 될 수 있으며, 궁극적으로는 미래에 컴퓨터 알고리즘을 활용할 수 있는 더 큰 잠재적인 기회로 이어질 수 있다”고 말한다.

이 연구에 참여한 과학자들은 지난 8일자 네이처지에 온라인으로 그들의 연구 결과를 ‘반도체 공정 개발 향상을 위한 인간-기계 협력(Human–machine collaboration for improving semiconductor process development)이란 제목의 논문을 통해 자세히 설명했다.