플루토늄 맞먹는 인공지능의 치명적 부산물 '얼굴인식'

일본전기(NEC)의 얼굴인식 기술, NEC 제공

[구본권의 사람과디지털]
신뢰도 낮은 인종기반 인간 분류 기술
의도 떠나, 본질적으로 유해한 '치명적 물질'
“백인남성 데이터로 학습…사법당국에 판매 거부”
MS,공개적 천명…아마존은 이미 판매중

“얼굴인식은 인공지능의 플루토늄이다.”

미국 컴퓨팅기계협회(Association of Computing Machinery)가 펴내는 계간학술지 ‘크로스로드(XRDS)’ 올 봄호에 실린 글의 제목이다. 도발적 제목의 글을 쓴 이는 마이크로소프트 연구소와 하버드대 버크먼클라인센터에서 인공지능 윤리를 연구하는 박사후연구원 루크 스타크다.

플루토늄은 원자로 안에서 우라늄 농축연료를 분열시킬 때 나오는 부산물로, 인류가 만든 합성물질 가운데 가장 강력하면서 치명적인 유독물이다. 인공지능 윤리를 연구하는 루크 스타크 박사는 ‘얼굴인식’이 플루토늄처럼 치명적 독성물질이라고 주장하고 나선 것이다. 얼굴인식 기능은 이미 생활 속에서 아이폰의 잠금 해제와 각종 출입장치에서 신원확인과 보안 도구로 활용되고 있는 수준이다.

컴퓨터 이미지 인식 기능은 카메라 기능 향상, 센서 다양화, 데이터 폭증, 머신러닝 소프트웨어 개선에 힘입어 비약적 결과를 내놓고 있는, 인공지능 기술의 꽃이다. 인공지능의 이미지 인식 수준은 자율주행차, 사물검색, 상품 분류, 물류 등 숱한 자동화 업무의 성공과 실패를 결정짓는 핵심 요소다.

인간 인지가 절대적으로 시각 정보에 의존하는 것처럼, 인공지능이 인간 수준 또는 그 이상의 시각적 인지능력을 갖게 된다는 것은 정보 처리기능의 도약을 의미한다. 하지만 인공지능의 이미지 인식기능에서 사람의 얼굴인식만을 분리해 접근해야 한다는 시도는 거의 이뤄지지 않았다.

오히려 웃는 순간의 사진을 촬영할 수 있게 해주고, 동일인을 식별하고 분류하거나 보안 장치로 가능할 수 있는 만큼 얼굴인식 기술은 열띤 기술 경쟁의 대상이었다.

스타크는 <크로스로드> 기고에서 “얼굴인식 기능이 인종과 성별을 기반으로 사람을 도식화하고 분류한다는 점에서, 극복 불가능한 결함을 지닌 기술”이라고 지적했다. 그는 핵폐기물처럼 얼굴인식 기술은 위험성이 편리함을 넘어선다며, 의도성 여부를 떠나서 본질적으로 사회적으로 유해한 기술이라고 주장한다. 얼굴인식 기능이 과학의 명분으로 인종차별적 사회로 가는 길을 열기 때문에, 본질적으로 유해하다는 게 그의 논리다.

루크 스타크의 <크로스로드> 기고를 전한 영국 <가디언>은 23일 보도에서 지난 20년간 기술 분야에서 ‘멋진 기술’로 여겨져온 숱한 기술들이 마치 대중을 상대로 무차별로 투약 임상 실험을 진행하는 것에 비유했다. 누구나 실시간 동영상 중계를 가능하게 한 ‘페이스북 라이브’가 뉴질랜드 테러범의 테러 효과 증폭 도구로 쓰인 것과 비슷하다.

그의 우려가 인공지능 윤리학자의 상상에 기반한 헛된 상황인 것은 아니다.

<로이터통신>에 따르면, 마이크로소프트 회장 브래드 스미스는 지난 16일 스탠퍼드대 ‘인간중심 인공지능’ 컨퍼런스에서 마이크로소프트의 얼굴인식 기술을 판매하라는 캘리포니아 사법 당국의 요청을 거부했다고 공개적으로 밝혔다. 스미스 회장은 이름을 밝히지 않은 국가의 판매요청도 거부했다고 말했다. 이 국가는 프리덤하우스가 자유가 없는 나라라고 분류한 나라다. 스미스가 밝힌 판매 거부 사유는 “이 인공지능이 주로 백인과 남성 사진을 데이터로 학습했기 때문”이라는 것이다.

한편 마이크로소프트는 얼굴인식 기술을 미국 교도소에 판매하는 것에는 동의했다. 제한된 공간에서의 사용, 교도소내 안전 제고가 판매 근거였다.

반면 아마존의 인공지능 기반 얼굴인식 소프트웨어 ‘리코그니션(Rekognition)’은 미국 국토안보부에 이민자 확인용으로 제안됐으며, 이미 플로리다주와 워싱턴주 경찰은 활용하고 있다.

<벤처비트>의 지난 3일 보도에 따르면, 요수아 벤지오 몬트리올대 교수 등 저명 인공지능 학자들은 아마존에 공개편지를 보내 아마존이 얼굴인식 소프트웨어를 사법 당국에 판매하는 것을 중단하라고 요구했다.

구본권 선임기자 [e-mail]