소프트웨어 공학 및 인공지능(AI) 전문기업 씽크포비엘(대표 박지환)이 AI와 정보통신기술(ICT)을 활용해 2050년까지 치안 역량을 강화하겠다는 경찰청 전략에 부응해 지능화 기술이 가져올 치안 현장의 미래 방향성을 제시했다.

씽크포비엘은 19일 ‘국제치안산업대전’ 부대행사로 열린 ‘AI 활용 우수기술 컨퍼런스’에서 범죄를 막으려고 활용되는 AI 기술에 문제가 생기면 도리어 공공 안전에 문제가 발생할 수 있음을 사례 등을 통해 제시했다.

이날 류연수 경찰청 과학치안정책팀장 기조 강연에 이어 발표에 나선 박지환 대표는 안면인식 기술 오류 또는 음성분류 기술 오류로 범죄 혐의 없는 사람을 체포하거나 감옥에 가둔 해외 사례 등을 소개했다. 그러면서 “이는 윤리적·법적으로 접근해도 해결할 수 없는 AI 성능 문제이기 때문에, AI 기반 ‘지능화’ 치안 기술을 만드는 것만큼 ‘올바른’ 동작 여부에 대한 검증이 필요하다”고 강조했다.

박 대표는 또한 AI 기술이 범죄를 막고 시민의 안전을 지켜내기 위해선 AI 학습용 데이터가 편향을 일으키지 않도록 사전에 신뢰성을 철저히 검증할 수 있어야 한다고 주장했다. 그러면서 회사가 독자 개발한 AI 신뢰성 검증 기법 ‘데이터 밸런스’를 소개했다.

박 대표는 “구글, 페이스북, MS 등이 제공하는 기술 서비스에 AI 오류가 발생한 건 그들 기업의 기술이 부족해서가 아니며, AI의 정확성 못지않게 다양성 측면에서 신뢰성을 검증하지 못했기 때문”이라며 “씽크포비엘은 정부가 올해 발주한 AI 신뢰성을 위한 4개 분야 연구 용역 사업을 모두 수주했는데, 아직 회사 말고는 이런 체계를 만들 수 있는 곳이 없어서 가능했던 일”이라고 말했다.

‘AI 활용 우수기술 컨퍼런스’에서는 씽크포비엘 이외에도 ‘시스템 개인정보 접근 관리’, ‘디지털 성범죄 대응 신속화’, ‘영상 분석·비식별화 고도화’ 등의 치안 관련 AI 기술이 소개됐다.