CJ올리브네트웍스가 종영된 tvN 드라마 '나빌레라'의 극중 고난도 발레 장면에서 인공지능(AI) 기반 얼굴 합성 기술을 적용했다고 11일 밝혔다.

'나빌레라'는 나이 일흔에 발레를 시작한 덕출(박인환 분)과 스물셋 꿈 앞에서 방황하는 발레리노 채록(송강 분)의 성장 스토리다. 국내 최초로 페이스 에디팅 기술이 드라마에 적용돼 주목을 받았다.

CJ올리브네트웍스, 스튜디오드래곤, CJ ENM은 협업을 통해 고난도 발레 장면에서 대역의 안무에 주연 배우 얼굴을 합성했다. 정교하고 자연스러운 기술력으로 시청자들의 몰입도를 자아냈다는 평가를 받았다. 마지막 회 중 두 배우의 피날레 발레 공연에서도 페이스 에디팅 기술을 제공했다.

페이스 에디팅은 AI를 기반으로 기술을 구현했다. 이를 위해 ▲학습 데이터 수집 ▲데이터 처리 ▲모델 학습(GAN) ▲얼굴 교체 등 과정을 진행했다. CJ올리브네트웍스 AI-Core 연구소는 작품의 완성도를 높이기 위해 원본 얼굴과 대상 얼굴을 추출하고 추출된 데이터를 분석 및 시각화해 최적의 학습 데이터셋을 구축했다.

AI기술 중 하나인 GAN 기술(생성적 적대 신경망)을 사용해 영상의 각 프레임에 교체할 얼굴을 합성했다. 주인공들의 이목구비뿐 아니라 머리의 전체적인 구조와 목부분까지도 자연스럽게 합성해 생동감 있는 고난도 발레 장면을 만들었다.

뿐만 아니라 지난해 12월 Mnet 특집 프로그램 '다시 한번'에서 2008년 사망한 가수 터틀맨 얼굴을 재현해 낸 바 있다. 섬세한 기술력으로 팬들과 동료, 가족들에 감동 넘치는 무대를 선보여 호평을 받았다. 

손종수 CJ올리브네트웍스 AI-Core 연구소장은 "향후 자체 개발한 얼굴 합성 최적화 기술을 고도화해 미디어 산업 발전에 기여할 예정"이라며 "사회적으로도 해당 기술이 악용되는 일이 없도록 블록체인 등 인증 기술을 사용한 보완 장치를 마련하겠다"고 말했다.