국내 스타트업이 딥페이크 범죄를 플랫폼에서 자동 탐지하는 기술을 개발하고 나섰다.
인공지능(AI)을 활용해 딥페이크 여부를 파악하는 기술은 이미 상용화가 됐으나 범죄 여부를 판단해 신고까지 이어지는 기술은 없었다.
기술 개발에 성공하면 온라인상 딥페이크 영상을 막는 데 크게 기여할 것으로 보인다.

인공 생성형 인공지능(AI) 기업 딥브레인AI에 따르면 이 회사는 선정적인 영상 같은 딥페이크 범죄를 플랫폼에서 자동 탐지하는 모델을 개발 중이다.
딥브레인AI는 원본과 변조된 얼굴의 픽셀(화면의 가장 작은 단위) 차이로 딥페이크 영상 여부를 판별해 경찰의 수사를 지원하는 스타트업으로 알려져 있다.

이 회사 딥페이크 탐지 솔루션 사업화를 총괄하는 이정수 이사는 "새로운 딥페이크 유형을 지속적으로 학습해 딥페이크 탐지기술을 고도화하고 있으며, 성범죄 등 범죄 탐지 기술도 장기적으로 개발하고 있다"고 설명했다.

이는 플랫폼상에서 자동으로 영상을 걸러낼 수 있다는 점에서 이미 상용화된 기술과 차이가 있다.
그는 "이제까지는 수동으로 키워드를 검색해 영상을 찾아내는 식이었다"며 "(개발할 기술은) 타겟팅한 플랫폼에서 자동으로 딥페이크 영상을 걸러내 삭제 요청까지 연결 짓는 것"이라고 설명했다.

회사가 보유한 딥페이크 탐지기술은 원본과 변조된 얼굴의 미세한 차이를 비교해 작동한다.
관공서를 대상으로 국내 최초로 딥페이크 탐지 솔루션을 상용화한 것도 이 기술 덕분이다.
그는 "원본과 변조된 얼굴의 눈, 코, 입 등의 특징을 픽셀 단위로 보면 특징들의 값에서 차이가 난다"며 "픽셀 변화의 패턴을 학습하고 이를 바탕으로 변조 가능성을 확률값으로 출력한다"고 말했다.

다만 범죄 관련 딥페이크 영상을 잡아내는 기술을 개발하기 전까진 워터마크 표기가 필요하다는 입장이다.
그는 워터마크 실효성에 대한 의문에 "워터마크를 수정하거나 삭제할 수 있다는 우려는 공감한다"며 "하지만 기술적으로 복합적으로 다양하게 적용해 딥페이크를 악용하는 이들을 불편하게 만드는 장치 중 하나가 될 수 있다"고 의견을 피력했다