최근 휴머노이드로봇이 급부상하면서 마침내 출시 경쟁 직전까지 간 형국처럼 보인다. 2022년 테슬라가 ‘범블비’라는 이름의 휴머노이드를 처음 내놓은 지 불과 2년 만이다. 중국 로봇 업체들은 지난달 열린 베이징로봇월드컨퍼런스(RWC 2024)에서 잇따라 휴머노이드 로봇을 선보였다. 가히 춘추전국시대를 방불케 한다. 이들 가운데는 올 연말에서 내년까지 양산하겠다고 선언한 업체도 여럿 있다. 일부 중국 휴머노이드 로봇들이 이미 제조 조립라인에까지 투입됐다는 소식까지 들린다.

챗GPT 등장에 이어 갑작스레 전세계가 휴머노이드 로봇 양산경쟁에 들어간 듯 하다. 과연 이 휴머노이드 로봇들은 이처럼 단 몇 년 만에 급작스레 설계하고 양산에 들어갈 정도로 제품 안정성을 확보한 것일까. 과연 휴머노이드 로봇은 내년이면 사람들이 예상치 못한 속도로 급속히 제조업과 일반 가정에 투입될 수 있는 걸까.

그럴 수도, 그렇지 않을 수도 있다.

이에 대해 호주 출신의 세계적 로봇 석학인 로드니 브룩스가 그의 블로그에서 언급한 현실적 ‘로봇 3원칙’을 참고할 만 하다.

그는 로봇 연구학자이자 직접 로봇회사를 3개나 창업해 룸바와 팩봇으로 성공했고, 백스터 및 소이어 협동로봇으로 실패를 경험했으며, 현재 로버스트 AI를 통해 자율이동로봇(AMR)을 공급하고 있는 산전수전 다 겪은 로봇 전문가다. 그가 자신의 경험을 바탕으로 현실세계에 배치된 실제 로봇에 대해 알아야 할 점에 대한 자신의 현실적 ‘로봇 3원칙’을 내놓았다.

로드니 브룩스는 매사추세츠공대(MIT)의 파나소닉 로봇공학 교수(명예교수)로 AI 랩(AI Lab)과 컴퓨터과학및인공지능연구소(CASIL)의 소장을 역임했다. 그는 아이로봇, 리씽크 로보틱스, 로버스트 AI의 공동창업자이자 현재 로버스트 AI의 최고기술책임자(CTO)이기도 하다. 그는 이미 1980년대에 6족 보행 곤충로봇인 징기스(Genghis)를 만든 주인공이다. 이 로봇은 많은 장애물과 고도가 있는 어려운 지형을 탐색하도록 설계됐다. 브룩스는 전반적 복잡성을 줄이면서 이러한 유형의 기능을 달성하기 위해 계층화된 처리에 의존하는 유한 상태 기계 사고 방법을 개발했다.

로드니 브룩스의 로봇3원칙 가운데 제1원칙을 이해하는 데는 그가 징기스를 만들었다는 점을, 제3원칙을 이해하는 데는 최근 잇따르는 휴머노이드 로봇 이전에 선구자 격인 일본의 와세다대의 와봇-1(1970~73), 와봇-2(1980~1984), 그리고 혼다의 아시모(2000), 우리나라의 휴보(2004), 보스턴 다이내믹스의 휴보(2013) 등의 개발 노력이 있었고, 테슬라와 일부 중국 전기차업체들은 기계학습을 거친 자율주행차 운행을 통해 휴머노이드 로봇에 필요한 자율적 기능 진화 과정을 거쳤다는 점을 감안하면 도움이 될 것이다.

로드니 브룩스가 자신의 최근 블로그에서 보여준 현실적 로봇 3원칙이 보여주는 통찰력을 IEEE 스펙트럼을 통해 공유한다.

참고로 로드니 브룩스의 현실적 로봇3원칙은 아직 로봇들의 공상과학(SF) 수준에 머물던 시절 SF소설의 3대 거장의 한명인 아이작 아시모프가 내놓은 로봇3원칙과 비교된다. 아시모프는 1942년 단편 소설집 런어라운드(Runaround)에서 처음으로 ‘로봇 3 원칙’을 제안했는데 그 내용은 아래와 같다. (이 원칙은 단편소설집 아이로봇(1950) 속 ‘스피디-술래잡기 로봇’ 이야기에서도 사용된다.)

아이작 아시모프의 로봇 3원칙

제1원칙: 로봇은 인간에게 상해를 입히거나 행동하지 않음으로써 사람이 해를 입게 해서는 안된다.

제2원칙: 로봇은 인간이 내리는 명령들에 복종해야만 하며, 단 이 명령들이 첫 번째 법칙에 위배될 때에는 예외로 한다.

제3원칙: 로봇은 제1원칙과 제2원칙에 위배되지 않는 한 자기 자신을 보호해야 한다.

로드니 브룩스의 ‘나의 로봇 3원칙’

여기 내가 로봇공학 분야에서 거의 50년 동안 일한 후에 로봇공학에 대해 배운 몇 가지가 있다. 나는 소년 시절의 두 SF 작가였던 아이작 아시모프와 아서 C. 클라크를 기리며, 다음의 것들을 나의 로봇 3원칙(my three laws of robotics.)이라고 부른다.

제1원칙:　로봇의 시각적인 모습은 로봇이 무엇을 할 수 있고 얼마나 똑똑한지에 대해 약속한다. 로봇은 그 약속을 이행하거나 약간 과하게 이행해야 한다. 그렇지 않으면 로봇은 받아들여지지 않을 것이다.

제2원칙: 로봇과 사람이 같은 공간에 있을 때 로봇은 사람의 주체성을 빼앗아서는 안 된다. 특히 로봇이 실패할 때는 더욱 그렇다. 로봇은 종종 고장날 때가 있기 때문이다.”

제3원칙: 로봇 기술은 대상 작업의 실험실 시연을 넘어 성숙해지면서 저비용에 99.9%의 (작동)시간을 제공할 수 있을 정도로 충분히 특성화된 한계를 가지기 위해서는 10년 이상의 꾸준한 개선이 필요하다. 10년이 더 걸릴 때마다 9개의 신뢰성이 추가된다.

아래에서 나는 이 각각의 법칙을 더 자세히 설명하고자 한다. 그러나 여기 관련 게시물에 인공지능(AI)에 대한 나의 3원칙이 있다.

이 원칙들은 사람들이 로봇들을 위해 돈을 지불하고 그들의 투자에 대한 수익을 원하는 현실 세계에서 이들이 작동하도록 만드는 관점에서 쓰여졌다는 점에 주목해야 한다. 이것은 실험실에서 로봇이나 로봇 기술을 시연하는 것과 매우 다르다.

실험실에는 그 타당성을 보여주기 위해 열심히 노력한 최신 아이디어를 보여주기를 열망하는 대학원생들이 있다. 그들의 관심은 그들이 개발한 기술이나 기술이 그럴듯하고 유망하다는 것을 보여주는 것이다. 그들은 그 점을 강조하기 위해 시연을 통해 로봇을 돌보기 위해 최선을 다할 것이고, 그들은 자신이 개발한 것과 다음에 올 수 있는 것에 대해 열심히 모든 것을 설명할 것이다.

현실 세계에는 고객, 또는 고객의 직원이나 친척만 있다. 로봇은 로봇을 설계하고 만든 사람들로부터의 외부 개입이 없이 작업해야 한다. 로봇은 주변 사람들에게 좋은 경험이 될 필요가 있고 그렇지 않으면 그 사람들과 아마도 다른 고객들에게 더 많은 판매가 되지 않을 것이다.

따라서 이 3원칙들은 이뤄질 수도 있거나 할 수도 있는 것에 관한 것이 아니다. 그것들은 실제 세계에 배치된 실제 로봇들에 관한 것이다. 그 원칙들은 연구내용에 대한 시연에 관한 것이 아니다. 그것들은 일상 생활에서의 로봇들에 관한 것이다.

나의 로봇 제1원칙은 로봇의 모습이 주는 약속에 관한 것

“제1원칙: 로봇의 시각적인 모습은 로봇이 무엇을 할 수 있고 얼마나 똑똑한지에 대한 약속한다. 로봇은 그 약속을 이행하거나 약간 과하게 전달해야 한다. 그렇지 않으면 로봇은 받아들여지지 않을 것이다.”

내가 창업한 다양한 회사들은 온갖 종류의 로봇을 생산해 대규모로 판매했다.

로봇의 외부 모습은 구매자나 사용자들이 무엇을 기대해야 하는지 알려주기 때문에 로봇이 설계시 많은 생각이 로봇의 시각적 모습에 들어간다.

아이로봇의 룸바는 납작한 디스크처럼 보인다.

그것은 바닥을 청소한다. 디스크 모양은 이미 부딪히지 않은 어떤 것에도 부딪히지 않고 제자리로 돌아갈 수 있기에 그렇게 설계됐다.

디스크의 낮은 높이는 이 로봇청소기가 부엌에서 토킥(캐비닛 아래 물러나 약간 들어간 부분) 아래로 들어가 바닥을 청소할 수 있도록 하기 위해 그렇게 설계됐다.

그것은 계단을 오르내리거나 집에서 단 한 발자국도 위나 아래로 옮길 수도 없는 것처럼 보인다. 그것에는 손잡이가 있어서 사람이 집을 수 있는 것처럼 보이고, 그럴 수도 있다.

가상의 로지 로봇(Rosey the Robot)과 달리 그것은 창문을 청소할 수 있는 것처럼 보이지 않고 그럴 수도 없다. 그것은 바닥을 청소하는데 그것이 바로 그것이다.

역시 (*로드니가 창업한 회사인)아이로봇에서 나온 원격으로 조작할 수 있는 군사용 로봇인 팩봇은 룸바와는 정말 다르게 생겼다. 그것은 궤도형 바퀴를 달고 있는 소형 탱크와 같으며 그 모습은 그것을 보는 사람 누구나 험난한 지형을 지나갈 수 있고, 계단이나 바위, 지형의 낙하에 의해 멈추지 않을 것을 약속한다.

후쿠시마 재앙이 일어난 2011년에 팩봇은 쓰나미에 의해 부서지고 파괴된 원자로 건물에서 작동할 수 있었고, 원격 제어로 문 손잡이를 열고, 잔해로 덮인 계단을 운전하고, 카메라가 아날로그 압력과 온도 측정기를 가리키도록 하는 방식으로 작동했다. 이를 통해 원자력 발전소를 안전하게 지키려는 작업자들이 원자력 발전소의 방사능이 높은 지역에서 무슨 일이 일어나고 있는지에 대한 데이터를 가질 수 있도록 했다.

나의 로봇공학 제1원칙의 요점은 로봇이 실제보다 더 많은 것을 할 수 있는 것처럼 보이지 않게 하는 것이다. 아마도 그것이 당신의 회사를 위한 펀딩을 받게 할 것이고, 투자자들은 시간이 지나면 로봇이 신체적인 모습이 시사하는 모든 것을 할 수 있을 것이라고 믿게 될 것이다.

그러나 그것은 그 신체적인 모습을 가진 것이 할 수 있는 것처럼 보이는 것들을 할 수 없을 때 고객들을 실망시킬 것이다.

로봇을 매력적이게 보이도록 하는 것은 제품으로서의 로봇이 실제로 할 수 있는 것을 과도하게 약속할 위험이 있다. 그것은 고객들을 실망시킬 위험이 있다.

그리고 실망한 고객들은 당신의 제품/로봇의 옹호자가 되지 않을 것이고, 반복 구매자가 되지 않을 것이다.

나의 로봇 제2 원칙은 사람들을 행위(주체성) 보존

“제2원칙: 로봇과 사람이 같은 공간에 있을 때 로봇은 사람의 행위(주체성)을 빼앗아서는 안 된다. 특히 로봇이 실패할 때는 더욱 그렇다. 로봇은 종종 고장날 때가 있기 때문이다.”

사람들이 직장에서 로봇이 할 수 있는 일을 받아들이는 데 있어서 최악의 사태는 자신들이 해야 할 일을 하지 못하게 함으로써 그들의 일이나 삶을 더 어렵게 만드는 것이다.

병원에서 일하는 로봇이 환자 병실에서 세탁하는 곳으로 더러운 시트나 접시를 가져가면 간호사의 삶이 더 쉬워진다.

하지만 종종 그들은 정반대의 일을 한다. 응급 상황이 발생했을 때 로봇이 무슨 일이 일어나고 있는지 알지 못하고 비켜주지 않으면, 예를 들어 간호사가 중증 환자의 침대를 즉각적 치료를 위해 필요한 곳으로 밀어넣어 생명을 구하는 일을 저지하게 될 것이다.

병원 직원들은 그런 로봇을 좋아하지 않는다.

그것은 직원들이 자랑스러워하고 그런 일을 하도록 동기부여를 하는 그들의 주요 업무 기능을 방해했다.

그보다는 덜 하지만 병원에서 로봇의 여전히 용납할 수 없는 행동은 엘리베이터 문 앞 중앙에서 기다리게 하고 사람들을 막는 것이다. 이는 사람들이 그 환경에서 항상 해야 하는 일, 즉 엘리베이터에 타고 내리는 것을 하기 어렵게 만든다.

샌프란시스코나 텍사스 오스틴에 사는 사람들은 지난 몇 년 동안 로봇이 매일 사람들을 성가시게 하는 것을 직접 보았다.

문제의 로봇은 자율 주행차로서 사람이 타지 않은 채 도시를 돌아다닌다. 나는 집을 나설 때마다, 걸어서든 차로 가든 간에 이런 로봇을 본다.

일부 차량은 교차로를 막는 것으로 악명이 높았고, 다른 운전자, 보행자 또는 경찰이 할 수 있는 일은 전혀 없었다.

우리는 그들을 배치한 회사 깊숙한 곳에 숨겨진 원격 작업자가 갇힌 차량에 주의를 기울이고 사람들의 길에서 차량을 치우기로 결정할 때까지 기다려야 했다.

더 나쁜 것은 그들이 소방차와 소방관, 실제 건물이 불타는 화재 현장으로 들어가 혼란스러워서 그냥 멈추고, 때로는 소방 호스 위에 멈췄다는 것이다.

소방관들이 차량을 움직이거나 그들과 소통할 방법이 없었다. 이는 인간 운전자가 운전하는 자동차와는 대조적이다.

소방관은 정상적인 사회적 상호 작용을 해서 운전자와 소통하고, 응급상황 대응자로서 사회에서의 특권적 위치를 사용해 인간 운전자에게 협조하도록 사회적 압력을 가할 수 있다. 자율 주행차는 그렇지 않다.

자율 주행차는 거리에서 일상 생활을 하는 사람들의 행위권을 빼앗았지만, 더 나쁜 것은 다른 인간을 보호하는 역할을 하는 소방관의 행위권을 빼앗은 것이다. 사람들과 그들이 해야 할 일을 존중하지 않는 배치된 로봇은 사람들로부터 존중을 받지 못하고, 이 로봇들은 결국 배치되지 않을 것이다.

매번 작동하는 강력한 로봇

“제3원칙: 로봇 기술은 대상 작업의 실험실 시연을 넘어 성숙해지면서 저비용에 99.9%의 (작동)시간을 제공할 수 있을 정도로 충분히 특성화된 한계를 가지기 위해서는 10년 이상의 꾸준한 개선이 필요하다. 10년이 더 걸릴 때마다 9개의 신뢰성이 추가된다.”

현실 세계에서 안정적으로 작동하는 로봇을 만드는 것은 어렵다. 사실 현실 세계에서 물리적으로 작동하고 신뢰할 수 있는 것을 만드는 것은 매우 어렵다.

고객이 로봇에 만족하기 위해서는 로봇이 작업을 시도할 때마다 작동하는 것처럼 보여야 하며, 그렇지 않으면 로봇이 자신의 삶을 더 좋게 만드는 것인지 아닌지 의심하게 될 정도로 사용자를 좌절시킬 것이다.

하지만 여기서 보여지는 것은 무엇을 의미할까?

그것은 사용자가 세상에서 일어날 일에 대한 기본적인 이해로서 그것이 효과가 있을 것이라는 가정할 수 있다는 것을 의미한다.

까다로운 부분은 로봇이 실제 물리적 세계와 상호 작용한다는 것이다.

소프트웨어 프로그램은 잘 이해된 추상화된 기계와 상호 작용하기 때문에 명령이 실행 중인 하드웨어에서 일관되게 실행되지 않는 식으로 작동하지 않을 가능성은 적다.

동일한 프로그램이 인간, 네트워크 연결 또는 마우스와 같은 입력 장치 등 물리적 세계와 상호 작용할 수도 있다. 그러면 프로그램이 실패할 수 있는데, 그 이유는 명령어가 충족되지 않는 실제 세계의 가정에 기반하기 때문이다.

로봇은 실제 세계의 힘, 로봇과 관련된 물체의 정확한 위치, 그리고 행동이 매우 다양한 인간과 상호 작용해야 한다.

이전에 여러 번 성공했던 동일한 작업을 8,354번 시도해 로봇이 성공하도록 만들고 싶어하는 대학원생이나 젊은 엔지니어 팀은 없다.

그 특정한 경우와 순간의 불확실한 세상의 변화에 ​​적절히 적응하는 소프트웨어를 얻는 것이 로봇 공학에서 진짜 도전이 발생하는 곳이다.

멋져 보이는 비디오가 항상 고객을 위해 일하는 것과 같은 것은 아니다.

뉴스에서 보는 로봇에 대한 대부분의 내용은 실험실 시연이다. 솔루션이 얼마나 일반적인지, 또는 보여지는 비디오를 얻는 데 몇 번을 작동시켰는지에 대한 데이터는 없다. 더 나쁜 것은 때때로 비디오가 원격으로 조작되거나 여러 배 빨라진 것이라는 점이다.

실험실 시연에서 10년 이내에 나온 새로운 기술이 실제 배치되는 로봇으로 만들어지는 것을 본 적이 거의 없다.

그 방법이 얼마나 잘 작동하는지 확인하고 실제 세계에서 스스로 작동하는 배치된 로봇을 실패할 가능성이 낮을 정도로 충분히 특성화하는 데 시간이 걸린다. 그래도 실패가 있을 것이고, 문제 영역을 떨어내고 방어적인 방식으로 로봇 제품에 구축해 실패가 재발하지 않도록 하는 데 몇 년이 더 걸린다.

대부분의 로봇에는 사람이 종료할 수 있도록 킬 버튼이나 e스톱이 필요하다.

고객이 그 버튼 누를 필요성을 느낀다면 로봇을 만들고 판매한 사람들이 실패한 것이다. 그들은 로봇이 그렇게 잘못되는 상태에 빠지지 않을 만큼 충분히 잘 작동하도록 만들지 못했다.

(*한편 미국 캘리포니아주 의회는 지난달 28일 세계 최초로 AI기업이 킬스위치를 넣도록 하는 내용이 들어있는 AI안전 법안(‘AI Safety’ Bill)을 통과시키고 주지사의 사인만 남겨놓고 있다.)