매주 DeepLearning.AI 사에 발행하는 뉴스레터에서 한 가지 흥미로운 소식이 있어서 전달하고자 합니다. 지금 현재 미국 은행에서 인공지능 기반 감시가 필수 요소가 되고 있다고 합니다. 이러한 최근의 움직임은 금융 기관이 이미지 인식 기술을 활용하려는 초기 시도를 기반으로 합니다.
로이터에 의하면, 여러 미국 은행이 고객 선호도를 분석하고, 근로자를 모니터링하고, ATM 근처에서 잠자는 사람들을 감시 할 수있는 카메라 소프트웨어를 배포하기 시작했으며, 보안 강화로 인한 반발 가능성에 대해 경계하고 있음에도 불구하고 12 개 이상의 은행들이 인공지능 관련 기술들을 배포한다고 합니다.
대표적으로 플로리다주 시티 내셔널 뱅크 및 JP모건 체이스 & 컴퍼니 및 웰스 파고 & 컴퍼니와 같은 은행의 초기 출시는 잠재적인 미국에 대한 드문 견해를 제공합니다. 금융 기관은 얼굴 인식 및 관련 인공 지능 시스템에서 볼 수 있습니다. 특히, 컴퓨티 비전 기반으로 장착된 카메라를 여러 은행에서 보안을 강화하고 직원 생산성을 높이고 있다고 주장하는데, 은행마다 어떠한 접근 방식과 다양한 목표가 있는지 알아볼까요?
우선 JP모건 체이스(JPMorgan Chase)는 오하이오의 여러 체이스 지점 등에서 애니비전(AnyVision) 및 빈트라(Vintra)를 포함한 공급 업체의 시스템을 테스트하고 있습니다. 이 시스템은 직원 일정 및 내부 레이아웃을 개선하기 위해 고객들과 직원들의 행동에 대한 데이터를 수집하고 있습니다. 또한 개인 공급 업체에 이러한 시스템을 채택하기 전에 JP모건 체이스는 아마존 웹 서비스, 구글 및 IBM의 기술을 기반으로 자체 시스템을 구성했습니다.
내부적으로 개발된 소프트웨어를 사용하여 2개의 혁신 연구소 중 하나가 있는 뉴욕과 오하이오의 체이스 지점에서 보관된 영상을 분석함으로써 2019년 컴퓨터 비전의 잠재력을 평가하기 시작했다고 전직 직원인 닐 반다르를 포함 해 일부를 감독했습니다. 또한 나은 일정을 잡기 위해 데이터를 수집하고 지점을 설계하는 것을 목표로 한다고 말했습니다. 반다르는 일부 직원이 컴퓨터 비전 시스템에 대해 배우기 위해 아마존닷컴의 계산원이 없는 무인 편의점들 중 한곳을 방문하기도 했습니다.
반다르의 지점에 대한 영상에 대한 예측 분석 결과, 남성이 점심 전후에 더 많이 방문하는 반면 여성은 오후 중반에 도착하는 경향이 있는 것으로 나타났습니다. 또한 여성들이 누군가와 부딪 힐 수 있기 때문에 ATM 로비의 좁은 공간을 피했는지 분석하고 싶었지만 코로나 전염병으로 인해 계획이 중단되었다고 말했습니다.
혁신 프로젝트에 참여한 현재 직원들은 체이스 은행에 들어가는 고객을 식별하기 위해 얼굴 인식을 테스트하는 것이 자신의 경험을 향상시킬 수 있는 또 다른 가능성이라고 말했습니다. 체이스가 구글, IBM 왓슨, 아마존 웹 서비스의 구성 요소를 사용하여 사내 맞춤형 컴퓨터 비전을 개발하는 동안 소프트웨어 스타트 업인 애니 비전과 빈트라의 완전 구축 시스템도 고려했다고 반다르를 포함한 사람들은 말했습니다.
체이스는 궁극적으로 고려한 11가지 옵션 중에서 다른 벤더를 선택했으며, 지난해 10 월 오하이오 지역에서 해당 회사의 기술을 테스트하기 시작했다고 밝혔습니다. 이러한 노력은 트랜잭션 시간, 긴 대기열로 인해 떠나는 사람 수 및 작업자를 차지하는 활동을 식별하는 것을 목표로 합니다. 은행은 얼굴, 인종 및 성별 인식은이 테스트의 일부가 아니라고 덧붙였습니다.
기술을 사용하여 고객의 인구 통계를 추측하는 것은 고정 관념을 강화하기 때문에 문제가 될 수 있다고 일부 윤리 전문가는 말합니다. 일부 컴퓨터 비전 프로그램은 유색 인종에게 정확도가 떨어지며 비평가들은 불공정 한 결과를 초래할 수 있다고 경고했습니다. 따라서 체이스는 윤리적 질문에 무게를 두었습니다. 예를 들어, 일부는 내부적으로 뉴욕의 역사적으로 흑인 지역 인 할렘에서 계획된 테스트를 재고 할 것을 요청했습니다. 인종적으로 무감각 한 것으로 보일 수 있기 때문입니다. 애리조나 주 체이스 지점의 인종 차별에 관한 2019년 12월 뉴욕 타임즈 기사와 거의 같은 시기에 나타났습니다. 인종 분석은 결국 계획된 계획의 일부가 아니었고 할렘 지점은 신기술 평가를 위한 다른 체이스 이노베이션 랩을 수용했습니다.
플로리다의 시티 내셔널 뱅크(City National Bank of Florida)는 31개 지점에서 얼굴 인식을 사용하여 직원, 고객, 그리고 궁극적으로 정부 감시 목록에 있는 용의자를 식별할 계획이라고 합니다. 미국 남부에 있는 이 은행은 이러한 시스템을 사용하여 의심스러운 배회자 및 열린 금고와 같은 문제에 대해 직원에게 경고합니다. 씨티 내셔널의 최고 정보 보안 책임자인 바비 도밍게이즈는 얼굴 스캔을 통해 잠금 해제되는 스마트 폰이 그 길을 닦았다고 말했습니다.
우리는 이미 모바일에서 얼굴 안면 인식을 활용하고 있습니다. 왜 현실 세계에서 활용하지 않습니까?
시티 내셔널은 2022년 초에 입출금 머신에서 고객을 식별하고 지점의 직원을 식별하기 위해 안면 인식 시험을 시작할 예정이며, 31개 지점에서 투박하고 덜 안전한 인증 수단을 대체하는 것을 목표로 한다고 도밍게즈는 말했습니다. 결국 소프트웨어는 정부 감시 목록에서 사람들을 발견 할 수 있고, 은행 지점이 외부의 의심스러운 활동을 감지하기 위해 컴퓨터 비전을 사용한다고 말했습니다.
뱅크 오브 아메리카(Bank of America)는 ATM 키오스크에서 배회하는 사람들을 잡기 위해 2010 년대 초에 AI 기반 감시 카메라를 구입했다고 밝혔습니다. 로이터가 검토한 2010년과 2011 년의 판매 기록에 따르면 뱅크 오브 어메리카가 "iCVR" 카메라를 구입했으며, 이는 조직이 ATM 로비에서 배회하는 것을 줄이는 데 도움이 되도록 당시에 판매되었습니다. 현재 더 이상 iCVR 기술을 사용하지 않는다고 말했습니다.
그러나 노스 캐롤라이나주 샬럿에 본사를 둔 은행의 컴퓨터 비전에 대한 관심은 줄어들지 않았습니다. 로이터와 참석한 사람들이 본 프레젠테이션 기록에 따르면 스타트업이 뱅크 오브 아메리카 경영진의 얼굴을 식별 할 수있는 방법을 시연한 9 월 회의를 포함하여 2019 년에 관계자들은 애니비전(AnyVision)을 여러 차례 만났습니다. 또한 BOA 은행은 “우리는 항상 시장에 나와있는 잠재적인 신기술 솔루션을 검토하고 있다”고 말했습니다.
그보다 전 2007년 웰스파고(Wells Fargo)는 "얼굴 인식 기술과 ATM 감시 기록과 같은 비디오 검색 기능"을 제공하고 "14,000 명의 용의자"를 나열한 범죄 예방 네트워크인 크라임덱스(CrimeDex)를 사용했습니다. 이 시스템은 현금 자동 입출금기에서 40만 달러를 빼앗은 도둑들을 식별한다고 합니다.
컴퓨터 비전에 대한 보안 사용은 오랫동안 은행의 관심을 불러 일으켰습니다. 웰스파고는 10년 전에 3VR의 소프트웨어를 사용하여 범죄 장면을 검토하고 알려진 범죄자의 얼굴과 일치하는 얼굴이 있는지 확인했다고 3VR에서 일하고 영상 감시 연구 기관인 IPVM을 설립한 존 호노비치는 말했습니다. 이에 대해 2018 년 3VR을 인수한 아이덴티브(Identiv)는 은행 매출이 주요 관심사라고 말했지만 웰스파고에 대해서는 언급하지 않았습니다.
중소 남부 은행의 한 보안 책임자는 익명의 조건으로 비밀 조치를 논의하기 위해 지난 18 개월 동안 거의 모든 지점에서 비디오 분석 소프트웨어를 출시하여 금고, 컴퓨터 서버 실에 출입 할 때 경고를 생성했다고 말했습니다. 다른 민감한 영역은 열려 있습니다.
외부에서 은행은 드라이브 스루 ATM을 위해 오버행 아래에 텐트를 설치하는 사람들의 반복적인 문제와 같이 배회를 모니터링합니다. 통제 센터의 보안 직원은 사람들에게 퇴사를 요청하는 음성 녹음을 정중하게 재생할 수 있다고 임원은 말했습니다. 또한 비디오 관리 및 분석 소프트웨어를 개발하는 에어쉽 인더스트리(Airship Industries)의 영업 부사장인 브라이언 케라스(Brian Karas)는 밀폐된 ATM 로비에서 자고있는 사람들의 문제는 오랫동안 업계의 관심사였습니다.
배회를 감지하여 직원이 사이렌이나 섬광등을 작동 할 수 있도록 하는 시스템은 ATM 사용을 늘리고 여러 은행들의 기물 파손을 줄이는 데 도움이 되었다고 했습니다. 기업들은 대피소를 찾는 사람들을 쫓아 내고 싶지 않았지만, ATM을 안전하고 접근 할 수 있도록 만드는 데 이것이 필요하다고 느꼈다고 케라스는 말했습니다.
그러나 시민의 자유 문제는 크게 다가옵니다. 비평가들은 잘못된 얼굴 인식에 따른 무고한 개인의 체포, 저소득층 및 비백인 커뮤니티를 모니터링하기 위해 시스템을 과도하게 사용하고 유비쿼터스 감시에 내재된 개인 정보 손실을 지적합니다. 따라서, 오리건 주 포틀랜드는 2021년 1월 1일자로 기업이 "공공 장소에서" 얼굴 인식을 사용하는 것을 금지했으며, 약국 체인인 라이트 에이드 코프레이션(Rite Aid Corp)은 작년에 미국 전체 얼굴 인식 프로그램을 종료하기도 했습니다.
한편, JP모건 체이스의 도밍게즈와 다른 은행 간부들은 그들의 배치가 문제에 민감하다고 다음과 말했습니다.
그럼에도 불구하고 은행들 사이에서 가장 큰 문제는 감시 카메라의 최고 제조업체인 액시스 커뮤니케이션즈(Axis Communications)의 미주 지역 부사장인 프레드릭 닐슨은 "우리가 이것을 출시하면 대중의 잠재적 반발이 무엇일까?"라고 언급했습니다.
브래넌 뱅크의 최고 정보 책임자인 월터 코너스는 플로리다 회사가 12개 지점에 대해 기술을 논의했지만 채택하지 않았다고 말했습니다. 코너스는 "지점에 들어가는 사람은 누구나 녹화 될 것으로 예상합니다."라고 말했습니다.
규제가 심한 은행 부문에서 이러한 시각적 AI 도구를 광범위하게 배포하는 것은 미국 기업에서 주류가 되기 위한 중요한 단계가 될 것입니다. 체이스는 이러한 사용을 평가하는 첫 번째 사례는 아닙니다. 북동부의 한 은행은 최근 컴퓨터 비전을 사용하여 새로운 레이아웃을 가진 지점의 바쁜 지역을 식별한다고 말했습니다. 또한 지난해 미드 웨스턴 신용 조합은 비용 문제로 잠시 멈추기 전에 네 곳에서 고객 식별을 위한 얼굴 인식을 테스트했다고 소식통은 전했습니다.
이러한 컴퓨터 비전 기반의 카메라로 얼굴 인식을 도입하는 은행들이 규제 기관과 소비자가 지사에서 AI 지원 감시를 받아들이도록 할 수 있다면 기술 채택이 더욱 확대 될 것 입니다. 물론 어떤 사람들은 이러한 사용 사례 중 상당수가 보안이라기보다는 감시와 비슷해 보인다고 말하는 사람들도 있습니다. 그러므로 대중의 우려에 대한 충분한 민감성이 없다면 그러한 노력은 반발을 불러 일으킬 것 입니다. 이 기술을 활용하려는 회사나 조직들은 신중하게 진행할 필요가 있습니다.
서진호님은 '시나브로의 테크 산책'이라는 브런치 운영자이며 디지털 마인드셋, 리더쉽 및 인공지능/빅데이터를 포함한 플랫폼 및 도구를 통한 디지털 트랜스포메이션 어드바이저 및 솔루션 아키텍처으로서 컨설팅 강의 및 테크 컬럼, 책 및 논문 기고를 하고 있습니다.
