블로그 | 'AI 바디캠'이 확산하면 어떤 일이 벌어질까?

몸에 착용하는 카메라, 즉 ‘바디캠’은 사람 몸에 부착하는 카메라다. 오늘날 바디캠은 미국 법 집행 기관에서 이미 보편화됐다. 지난 2020년 100만 명 이상의 인구를 관할하는 모든 경찰서가 바디캠을 도입했다. 전국적으로 경찰관의 79%가 바디캠을 사용하는 부서에서 근무한다. 2022년 조셉 R. 바이든 주니어 미국 대통령은 특정 직무를 수행하는 연방 공무원에게 바디캠을 의무화하는 행정 명령에 서명했다.

경찰 당국은 바디캠을 테스트하기 시작한 시기는 2005년경부터다. 10년 전까지만 해도 극소수의 경찰만이 바디캠을 착용하고 있었다. 하지만 2010년대 중반 경찰의 과잉 대응 논란이 연이어 발생하면서 경찰이 바디캠을 사용해야 한다는 정치적 압력이 증가했다. 이제 바디캠은 경찰관의 표준 장비가 되었다.

바디캠의 효과에 대한 연구 결과는 엇갈린다. 2014년 플로리다주 올랜도에서 실시한 파일럿 프로그램에서는 무력 사용 사건이 53% 감소하고 시민 불만이 65% 감소한 것으로 나타났다. 반면 2017년 워싱턴 DC에서 실시된 대규모 연구에서는 별다른 효과가 없는 것으로 나타났다.

일반인들은 바디캠이 경찰의 폭력으로부터 민간인을 보호하기 위해 필요하다고 생각하곤 한다. 하지만 법무통계국(BJS)에 따르면 경찰과 보안관 부서는 경찰관의 안전을 개선하고, 증거 품질을 높이고, 민원인의 불만을 줄이고, 기관의 책임을 줄인다는 목적 아래 바디캠을 배치하고 있다. 즉 바디캠은 주로 카메라 착용자(그리고 그들이 근무하는 조직)에게 유익한 것으로 간주되곤 한다.

바디캠 확산

지금까지는 바디캠이 경찰과 연관되어 있었지만 활용 분야가 점차 넓어지는 추세다. 교도소, 사설 보안, 의료, 교육, 소매업, 운송, 건설, 고속도로 건설 및 유지보수, 스포츠, 그리고 검사를 수행하는 산업 분야에 바디캠이 점점 더 많이 도입되고 있다.

이러한 업계에서는 바디캠이 문서화 개선, 안전 강화, 도난 및 재고 손실 감소, 규정 준수 지원, 직원 책임성 강화, 소송에 사용할 증거 생성 및 기타 이점을 제공한다는 사실에 주목하고 있다.

바디캠 기술의 미래는 AI

초기의 바디캠은 원시적이었다. 부담스럽게 크고, 시야각이 68도로 좁았으며, 내부 저장 용량이 16GB에 불과했다. 배터리 수명 또한 4시간에 그쳤다. 오늘날의 바디캠은 일반적으로 고해상도 센서, GPS, 저조도 환경을 위한 적외선, 고속 충전 기능을 갖추고 있다. 블루투스 센서, 무기 해제 또는 사이렌을 통해 자동으로 활성화되기도 한다. 이 밖에 비디오 영상을 저장, 분석 및 공유하는 백엔드 시스템도 마련돼 있다.

이 범주의 미래는 바로 멀티모달 AI다. 폴리스 솔루션(Polis Solutions)이라는 회사는 마이크로소프트와 협력하여 트러스트스탯(TrustStat)이라는 AI 바디캠 시스템을 개발했다. 

애저 거버먼트 플랫폼을 기반으로 구축된 트러스트스탯은 멀티모달 AI 기술을 사용하여 비디오, 오디오 및 음성을 학습하여 신체 언어와 행동 및 기타 단서를 해석하고 분석한다. 양사에 따르면 이 기술은 전체 상호작용을 살펴봄으로써 경찰과 대중 사이 접촉의 미묘한 맥락을 포착해낸다. 즉 수천 시간의 영상을 샅샅이 뒤져 실행 가능한 정보를 추출하는 문제를 해결하도록 설계됐다. 회사 측은 바디캠을 위한 훨씬 더 발전된 버전을 곧 출시할 예정이다.

모두를 위한 AI ‘바디캠’

앞으로 경찰서, 보안 요원 및 여러 산업 분야의 수많은 직원으로 AI 바디캠의 사용이 확대됨에 따라 일반인들도 AI 바디캠을 사용하는 가능성을 그려볼 수 있다. 

필자는 과거에 멀티모달 AI용 카메라가 장착된 AI 글래스의 주류화에 대해 쓴 적이 있다. 구글 I/O 2024의 프로젝트 아스트라 데모를 기억하는가? 이 동영상에서는 한 연구원이 구글 제미니가 실행되는 AI 안경을 들고 AI와 서로 무엇을 보고 있는지 대화하는 장면이 나왔다. 이것이 바로 멀티모달 AI 글래스가 작동하는 방식이다.

비디오 처리 방식은 코파일럿+ PC의 리콜(Recall) 기능을 위해 캡처한 스크린샷 처리 방식과 유사할 가능성이 높다. 이 시스템에서 리콜은 OCR을 사용하여 스크린샷의 모든 텍스트를 캡처하고 이를 ASCII로 변환한다. 그런 다음 리콜은 스크린샷 콘텐츠에 클립 스타일 임베딩 모델을 적용한다. 이렇게 하면 이미지의 텍스트 및 시각적 요소 모두에 대한 벡터 표현이 생성되어 시맨틱 검색이 가능해진다.

멀티모달 AI에서 이러한 시스템을 사용하면 사용자는 AI 에이전트와 대화하면서 이전에 안경을 통해 본 풍경이나 객체에 대해 질문할 수 있게 된다.

아마도 이 안경에는 영상이 지속적으로 녹화되고 삭제되는 차량용 블랙박스 같은 기능이 적용될 것이다. 버튼을 눌러 지난 30초 또는 30분의 비디오와 오디오를 캡처하고 저장하는 식이다. 즉 향후에는 얼굴에 착용하는 AI 바디캠이 출현할 것이다. 스마트 글래스는 바디캠보다 여러 장점을 지닐 것이기에 시간이 지나면 경찰 및 기타 전문가용 AI 바디캠이 AI 카메라 글래스로 대체될 가능성이 높다.

여기서 의문이 생긴다: 모든 사람이 AI 바디캠, 특히 AI 바디캠 기능이 있는 안경을 착용하게 되면 사회는 어떤 모습일까?

AI 카메라 글래스의 법적, 사회적 영향

기본적인 상황을 상정해본다. 지금부터 10년 후, 경찰이 운전자를 세울 때 경찰과 운전자 모두 그 상황을 녹화하고 영상을 저장한 후 AI를 사용하여 두 사람이 서로 어떻게 상호 작용했는지에 대한 상황을 보고하는 상황이다.

이는 대중에게 구매할 매력을 제시한다. 법 집행 기관이 카메라를 독점적으로 제어할 경우, 간혹 나쁜 경찰이 녹화 여부를 선택할 수 있기에 사건에 대한 선택적 설명이 이루어질 수 있다. 일반인들도 녹화를 한다면 애초에 바디캠의 의도를 개선할 수 있다. 어느 쪽이든 모든 사람이 감시를 받게 된다.

오라클의 창립자 래리 엘리슨은 이달 초 “우리는 감독 아래 놓일 것이다….. 모든 경찰관은 항상 감독을 받게 될 것이며, 문제가 있으면 AI가 그 문제를 적절한 사람에게 보고한다. 우리가 모든 상황을 지속적으로 기록하고 보고하기 때문에 시민들은 최선의 행동을 할 것”이라고 말했다.

지금까지 대량 감시에 대한 예측과 현실 사이에는 현저한 격차가 존재한다. 조지 오웰의 소설 <1984>에서 정부는 모든 가정, 직장, 공공장소에 스크린을 설치하여 시민들을 감시하고 메시지를 설파했다. 한 세기 동안 우리는 일반적으로 대중 감시를 정부가 대중에게 하는 일로 생각해 왔다.

하지만 현실에서 시민들은 웹캠, 초인종 카메라, 보안 카메라, 스마트폰 등 카메라를 설치하여 영상을 녹화하고, 보고, 캡처했다. AI 카메라 글래스는 이미 사용되고 있는 수십억 대의 카메라에 더 많은 카메라를 추가하는 것뿐이며, AI 분석과 상호작용을 통해 더욱 자동화되고 실행 가능한 기능을 제공할 것이다.

법적으로 바디캠과 같은 AI 카메라 글래스의 영상은 ‘디지털 메모리’로 간주될 수 있다. 물론 모든 사람은 자신이 경험한 것을 자연스럽게 기억할 권리가 있다. 하지만 다른 사람의 프라이버시를 침해하지 않는 한, 디지털로 캡처된 기억에 대해서도 개인은 주장할 수 있다.

아마도 자유 사회에서는 AI 바디캠과 유사한 기능을 갖춘 AI 카메라 안경을 금지할 명분이 희박하다. 가령 시력 보정이 필요한 사람에게는 도수 렌즈가 장착되어 있기 때문에 경찰이 압수하기가 법적으로 어려울 것이다.

이 모든 이야기의 요점은 우리 모두가 경찰의 바디캠에 대해 알고 있다는 것이다. 이제 우리는 AI 처리 기능을 갖춘 바디캠에 대해서도 생각해야 할 시점이다. 그리고 이제 AI 기반 바디캠의 기능이 곧 모든 사람에게 제공될 수 있다는 점을 상정해야 할 때이기도 하다. ciokr@idg.co.kr