경찰청이 한국인 데이터 100만점이 활용된 딥페이크 탐지 소프트웨어를 개발했다.

5일 경찰청 국가수사본부는 ‘한국형 딥페이크 탐지 소프트웨어’를 개발해 관련 범죄 단속에 나선다고 밝혔다. 

앞서 경찰은 개정 공직선거법 제82조의8에 따라 선거일 전 90일부터 선거일까지 딥페이크 영상 등을 이용한 선거운동이 금지돼 해당 범죄에 대해 엄정 대응하겠다고 경고한 바 있다.

딥페이크란 딥러닝(Deep learning)과 페이크(Fake)의 합성어로 기존 영상을 다른 영상에 겹쳐서 만들어 낸 이미지다. 이번에 개발한 탐지 소프트웨어는 딥페이크 의심 영상을 시스템에 등록하면 5~10분 내 분석 작업을 완료해 진위 여부를 판별할 수 있다. 

신형 소프트웨어는 한국인 데이터 100만점과 아시아 계열 인종 데이터 13만점을 포함해 5400명의 데이터 520만 점 등 다양한 데이터 학습이 이뤄졌다. 이에 서양인 위주 데이터로 구성됐던 기존 모델에 비해 한국인 대상 탐지율이 향상됐다.

이와 함께 새로운 형태의 합성 영상이 발견돼도 대응할 수 있게 최신 인공지능(AI) 모델이 적용됐다. 해당 소프트웨어의 진위 여부 탐지율은 약 80%에 달하는 것으로 알려졌다. 

경찰은 탐지율이 100%가 아닌 점을 들어 증거자료보다는 수사 방향을 설정하는 자료로 활용할 방침이라고 설명했다. 또 학계, 기업 등 AI 전문가로 구성된 민간 자문위원의 교차 검증을 거쳐 오탐지 가능성도 최소화할 계획이다.

경찰은 소프트웨어를 활용해 선거범죄·합성 성착취물 범죄 외에도 딥페이크를 악용한 범죄에 능동적으로 대처해 나간다는 방침이다.

경찰청 관계자는 “딥페이크 이용이 의심되면 탐지 소프트웨어로 분석해 결과를 확인한 후 적극 수사할 것”이라고 말했다.

한편 정치계는 국내외를 막론하고 딥페이크 악용 동영상으로 진통을 겪고 있다. 최근 한국은 틱톡과 페이스북 등 SNS에 올라온 46초 분량의 윤석열 대통령 영상에 대한 딥페이크 여부로 논란이 된 바 있다.