씽크포비엘은 과학기술정보통신부와 한국정보통신기술협회(TTA)가 5월부터 추진한 ‘인공지능(AI) 신뢰성 요구사항 도출 연구 용역’에 주관사로 참여해 자율주행, 의료, 공공사회 분야 3종의 ‘신뢰할 수 있는 인공지능 개발 안내서’를 제작했다고 24일 밝혔다.

해당 용역은 사람 중심의 ‘AI 강국’ 실현을 목표로 AI 혜택은 극대화하면서 위험‧부작용을 최소화하려는 목적으로 추진. AI 신뢰성(Trustworthiness)을 확보해 AI 신뢰성 검증체계를 고도화한다는 계획에 따라 진행됐다.

자율주행, 의료, 금융, 공공사회 4개 분야에서 AI 신뢰성 확보를 위한 요구사항과 검증항목 도출 및 이를 활용한 개발 안내서 현장 적용, 신뢰성 확보 등이 핵심업무다.

씽크포비엘은 4개 분야 전체를 수주했다. 금융당국과 TTA 등이 협의해 금융 분야가 철회되면서 3개 분야에 대한 용역사업만이 진행된다

씽크포비엘은 사업 일정과 계획에 따라 협력업체 등과 각 분야 요구사항 및 검증항목 고도화 작업을 진행했고, 요구사항‧검증항목 적용사례 및 활용자료를 제시했다. 이어 현장 적용 과정을 거치면서 본격적인 개발 안내서를 작성했고, AI 신뢰성 확보 컨설팅도 진행한다.

개발 과정에서 ‘주행 관련 AI’(자율주행), ‘진단과 처방을 포함하는 AI’(의료). ‘공공 서비스에 활발히 활용 중인 챗봇 및 음성인식 기능’(공공사회) 등 분야별 AI 정의 수립을 통한 기준 마련한다는 계획이다.

씽크포비엘은 SW와 AI 신뢰성 관련 기술이 개발 가이드 제작에 잘 반영될 수 있도록 10개국에서 모인 석박사 인력으로 구성된 전담팀을 운영 중이다. 개발 안내서는 24일 열린 ‘인공지능 윤리확산을 위한 공개 정책 세미나’에서 초안이 공개됐고, 이후 보완 작업 등을 거쳐 12월 9일 최종안이 마련될 예정이다.

박지환 씽크포비엘 대표는 “유럽 집행위원회의 AI 법안 등 전 세계적으로 제정되고 있는 여러 규제에 국내 AI 개발 기업이 충분히 대응할 수 있도록 개발 가이드를 제작했는데, 아직 전 세계적으로 구체적으로 참조할 만한 사례가 없는 상황에서, 개발 가이드에 대한 기업의 부정적 인식과 혼선을 예방하려면 현장 중심의 실효성을 갖추는 게 무엇보다 중요했다”며 “관련해 씽크포비엘은 지난 15년간 400여 건에 이르는 현장 중심 컨설팅 경험이 있었기에, 개발 가이드 제작 과정에서 단순 이론이나 지식 중심 접근에서 벗어나 현장 정황을 고려해 수용 가능한 수준으로 조화롭게 균형을 맞출 수 있었다”고 밝혔다.