딥페이크 탐지 도구 테스트: 100개 샘플 분석
기자들은 100개의 파일 세트(원본 사진 및 영상, Sora 2.0, Veo 3, ElevenLabs, Midjourney V7의 최신 합성 콘텐츠, 업스케일링된 하이브리드 콘텐츠)를 대상으로 네 가지 인기 있는 딥페이크 탐지 도구를 시험했다. 테스트는 소셜미디어 공유에서 흔한 압축과 EXIF 데이터 누락을 고려해 진행되었다.
검증 방법론은 2022–2024년도 정제된 파일, 오디오 클론, 인간 얼굴이 없는 이미지를 포함했으며, 각 도구의 정확도, 오진률, 한계가 드러났다.
Hive AI 모더레이션 스위트
클라우드 API와 브라우저 플러그인으로, 수백만 개의 샘플로 훈련된 모델을 기반으로 AI 생성 가능성을 0~100% 범위로 평가한다.
테스트 결과, 하이브는 실제 이미지의 94%를 올바르게 분류했지만, 영상에서는 12%에서 실패했다—압축 아티팩트를 AI 생성 증거로 오인한 것이다. 대량 마켓 워크플로우에서 빠른 사진 검증에 적합하지만, 영상 결과는 반드시 수동 확인이 필요하다.
RealityGuard by Sensity
마이크로 표현, 조명, 생체정보, 오디오-비주얼 동기화에 중점을 둔 기업용 플랫폼. 이상 징후를 강조하는 히트맵을 생성한다.
B2B 도구 중 가장 우수한 성능을 보였으며, 비디오에 오버레이된 오디오 딥페이크를 효과적으로 처리했다. 그러나 인간이 아닌 주제(예: 동물, 풍경)에 대해서는 정확도가 55%로 급감한다.
장점:
- 외국 영상에 오버레이된 음성도 탐지 가능.
- 프레임 단위로 이상 현상을 시각화.
단점:
- 화면에 인간 얼굴이 없을 경우 효과 저하.
- 특정 인물이 등장하지 않는 뉴스 콘텐츠에는 부적합.
콘텐츠 자격증 (C2PA)
소니, 라이카 카메라, 안드로이드 16, iOS 19에 내장된 C2PA 표준은 촬영, 편집, AI 사용 정보를 암호화된 매니페스트로 기록한다. 체인이 깨지면 위변조 의심된다.
테스트에서 70%의 실제 파일이 구형 장치나 메시징 앱으로 인해 메타데이터가 누락됐다. 호환 카메라에서 엄격한 조건 하에서만 신뢰할 수 있다.
인텔 페이크캐처 (FakeCatcher)
혈류로 인한 피부 색 변화(광혈압측정법)를 분석한다. 인공지능 기반 심장 박동 시뮬레이션은 필요 없다.
HD 영상에서 근접 촬영 얼굴 이미지에 대해 100% 정확도를 기록했다. 마스크, 안경, 720p 이하 해상도에서는 실패하며, 정적 이미지에는 전혀 무용하다.
왜 '한 가지 해결책'은 존재하지 않는가?
탐지 도구는 생성 도구보다 항상 뒤처진다. 이유는 다음과 같다:
- 대립적 인공지능: 생성기는 알려진 아티팩트(손가락, 눈 반사 등)를 능동적으로 제거한다.
- 압축: 텔레그램, 왓츠앱, 인스타그램 같은 플랫폼은 분석에 필요한 미세한 노이즈를 제거한다.
- 사용자 행동: 60% 확률이 사실로 여겨지거나 무시되는 경우가 많으며, 표준 기준이 부족하다.
핵심 요약
- 하이브: 사진 정확도 94%; 압축 영상에서 어려움.
- 리얼리티가드: 얼굴 기반 영상 최고 선택; 비인간 콘텐츠에 취약.
- C2PA: 새로운 장치에 이상적; 70% 파일은 메타데이터 없음.
- 페이크캐처: HD 얼굴에서는 완벽; 낮은 해상도에서는 무용.
- 도구 복합 사용 + 수동 검토가 필수.
활용 권고사항
개발자 및 진실성 검증 담당자에게:
- 사진: 하이브 + ExifTool로 메타데이터 검증.
- 음성 포함 영상: 고해상도에서 리얼리티가드 또는 페이크캐처 적용.
- 자신의 콘텐츠: 카메라에서 C2PA 활성화해 검증 가능한 진위성을 확보.
2026년까지 탐지 전략은 다층적 접근이 필요하다: 자동화와 전문가 판단의 결합이다.
— Editorial Team
아직 댓글이 없습니다.