"딥페이크 손쉽게 가려낸다"…국내 AI 탐지 도구 '봇물' 

일론 머스크의 인공지능(AI) 스타트업 xAI가 '필터링 없는 AI'로 불리는 '그록'을 앱으로 출시하면서 딥페이크(AI 기반 이미지·영상 합성) 악용 우려가 커지고 있다.
폭력적이고 정치적 논란의 여지가 있는 이미지를 여과없이 만들어내기 때문이다.
 
최근 그록 등 생성형 AI 대중화로 인해 딥페이크 제작이 쉬워지면서 자체적으로 이를 걸러낼 수 있도록 돕는 AI 기반 탐지 도구들이 쏟아지고 있다.
 
12일 라온시큐어에 따르면, 회사는 이달 중 딥페이크 영상 탐지 기능을 자사의 개인용 모바일 백신 앱 '라온 모바일 시큐리티'에 탑재할 예정이다.
현재 백신 앱은 악성앱과 스미싱을 탐지해주는 기능을 제공한다.
향후 앱을 설치하면 누구나 무료로 딥페이크 탐지 기능을 이용할 수 있게 된다.
딥페이크로 의심되는 영상이나 유튜브 링크를 넣으면 딥페이크 여부를 알려준다.
이 기술은 딥페이크 영상과 실제 영상을 구분할 수 있도록 AI를 학습시킨 것이다.
이렇게 모바일 앱 형태로 일반 이용자에게 제공하는 것은 국내에선 라온시큐어가 처음이다.
 
국내 보안기업 샌즈랩은 딥페이크 탐지 서비스 '페이크체크'를 서비스하고 있다.
웹기반으로 회원가입 같은 별다른 절차 없이 누구나 무료로 사용할 수 있다.
웹사이트에 접속해 이미지를 업로드 하면 수초 내로 진위 여부를 분석해 판별 결과를 알려준다.
현재 이미지를 올리면 6개의 AI 모델이 각각 판별한 확률값을 알려주고, 이용자가 직접 결과를 보고 해석해야 한다.
그록이 만든 이미지를 올렸지만 100% 딥페이크라고 분석하는 건 아니었다.
회사 측은 기술을 지속 고도화하고 있으며, 국민들이 직면한 사회 이슈에 도움이 되기 위해 해당 서비스를 유지하는 데 드는 인프라 비용은 사회 공헌 차원에서 자체 부담하고 있다고 설명했다.
 
딥브레인AI는 기업, 공공·교육기관 등을 대상으로 딥페이크 탐지 솔루션을 1개월 무료 지원하고 있다.
최근 급증하고 있는 딥페이크 범죄 피해를 최소화하기 위해 기업에 무료로 제공하기로 한 것이다.
영상·이미지·음성 탐지 기능을 제공하고, 탐지 시간은 약 5~10분 소요된다.
페이스 스왑, 립싱크 합성, 생성형 비디오를 분석하고, 진위여부와 변조율, 합성유형 등 상세한 분석 결과를 제공한다.
최근에는 특정 사이트에 올라온 콘텐츠가 딥페이크인지 곧바로 찾아주는 '자동탐지' 기능도 선보였다.
찾고자 하는 키워드를 입력하면, 유튜브, 틱톡, 텔레그램 등에 올라온 영상·이미지 콘텐츠의 딥페이크 여부를 판별해주는 방식이다.