원문 캡처 · imageorai.com
원문 캡처 · imageorai.com

Image or AI는 이미지가 AI로 생성됐는지 판정하고, 판정에 사용한 증거를 보여주는 도구다. 콘텐츠 자격 증명, 메타데이터, 이미지 패턴 분석을 함께 활용하지만 결과가 확정적인 증명은 아니라고 안내한다.

판정근거신뢰도와 해석
AI 생성(콘텐츠 자격 증명)생성형 AI를 사용했다는 서명이 포함된 C2PA 기록해당 도구가 첨부한 기록이므로 신뢰도가 높다
컴퓨터 생성(콘텐츠 자격 증명)알고리즘이 만들었다는 서명 기록소프트웨어가 만들었다는 점은 신뢰도가 높지만, 생성형 AI를 뜻하지는 않는다
카메라 촬영(콘텐츠 자격 증명)촬영 기기의 서명 기록원본 촬영 정보는 신뢰도가 높지만 이후 편집 내용이 기록되지 않을 수 있다
AI 생성(메타데이터)AI 도구를 명시한 IPTC 출처 유형 또는 소프트웨어 태그신뢰도는 중간 이상이지만 사람이 쉽게 추가하거나 제거할 수 있다
AI 생성 가능성 높음 / 있음패턴 모델 점수가 각각 90% 이상 / 60~90%확률을 나타낸다. 조치를 취하기 전에 다른 징후도 살펴야 한다
판정 불가패턴 모델 점수 40~60%‘모르겠다’는 결과로 받아들여야 한다
AI 생성 징후 없음패턴 모델 점수가 낮고 AI 자격 증명이나 메타데이터가 없음이미지가 진짜라는 보증이 아니라 탐지된 징후가 없다는 뜻이다

결과 화면의 슬라이더를 움직이면 노이즈 잔차를 볼 수 있다. 각 픽셀에서 주변 픽셀의 평균을 뺀 값을 키우고 색을 입힌 이미지다. 카메라 센서는 전체 이미지에 미세한 입자 무늬를 남기는 반면, 생성 이미지에서는 더 매끄럽거나 얼룩지거나 이상하게 규칙적인 모습이 나타날 수 있다. 이 기능은 사용자가 이미지를 자세히 살펴보도록 돕지만 판정에는 사용되지 않는다.

사진, 일러스트, 스크린샷은 모두 같은 세 단계의 분석을 거친다. 다만 패턴 모델 결과에 두는 비중은 이미지 종류에 따라 달라진다. 이 모델은 카메라 노이즈가 신뢰할 만한 신호가 되는 사진에서 가장 강하고, 회화와 디지털 아트에서는 가장 약하다. 작품을 판단하는 방법은 AI art detector에서, 파일의 원시 메타데이터를 확인하는 방법은 image metadata viewer에서 볼 수 있다.

콘텐츠 자격 증명은 파일 안에 저장된다. 스크린샷, 메시지 앱, 대부분의 소셜 네트워크는 자격 증명을 제거하므로 ‘자격 증명을 찾지 못함’은 흔한 결과이며, 그 자체로는 아무것도 알려주지 않는다. Image or AI는 이런 경우 패턴 모델을 활용한다고 설명한다.

이미지 판정과 관련해 제공하는 안내 페이지는 다음과 같다.

이 도구는 완벽하지 않다. 강한 압축, 자르기, 필터 적용, 스크린샷은 모두 정확도를 낮춘다. 생성형 채우기처럼 AI 도구로 편집한 실제 사진도 AI 생성 이미지로 점수가 나올 수 있다. 또한 Image or AI는 구글의 보이지 않는 SynthID 워터마크를 읽을 수 없으며, 이를 확인할 수 있는 것은 구글 자체 도구뿐이라고 설명한다. 확인 방법은 SynthID 안내 페이지에서 볼 수 있다.

자격 증명과 메타데이터 확인은 무료로 횟수 제한 없이 이용할 수 있다. 패턴 모델은 이미지마다 비용이 들어 무료 이용자는 하루 3회까지 모델 검사를 할 수 있다. Pro는 일일 제한을 없애고 파일의 SHA-256 지문을 담은 PDF 보고서를 내려받는 기능을 추가한다.