Symbiotic Autoprotection System(SAS)은 원문과 AI 답변을 비교해 구조적 일관성을 평가하는 감사 도구다. 제작자는 공개 벤치마크에서 정확도 99.17%, 정밀도 100%, 재현율 98.00%를 보고했지만, 이 결과는 특정 데이터셋에 한정되며 다른 분야에서의 보편적 성능을 보장하지 않는다고 밝혔다.
SAS는 두 텍스트의 일관성을 ISI 점수로 평가한다. 운영 기준인 κD=0.56 이상은 통과, κR=0.15 이상이면서 κD보다 낮으면 검토, κR 미만이면 차단 구간으로 분류한다. 제작자는 이 기준이 보편 법칙이나 법적 인증, 사실 판정기가 아니라 도메인별 검증이 진행 중인 운영 기준이라고 설명한다.
공개된 포렌식 V1 벤치마크는 환각이 포함된 1,800쌍과 sanity check 1,800쌍을 평가했다. 혼동행렬에는 참양성 1,764건, 거짓양성 0건, 거짓음성 36건, 참음성 1,800건이 제시됐다. 제작자는 결과가 해당 데이터셋에만 해당하며 다른 도메인의 성능을 보장하지 않는다고 명시했다.
사이트의 데모에서는 원문과 감사할 답변을 입력해 ISI를 계산할 수 있다. API 키 없이 이용할 수 있으며, 각 입력란은 최대 2,000자다. 사이트는 전체 텍스트를 저장하지 않는다고 안내한다. Python 클라이언트와 Node.js SDK, API 문서도 제공한다.
별도 관측 결과에는 TruthfulQA, HaluEval QA·Dialogue, FinQA, MedHallu 데이터셋의 ISI 점수가 실렸다. 제작자는 FinQA의 짧은 수치 답변에서 구조적 일관성이 낮게 나타난 점을 방법론적 발견으로 설명하고, MedHallu 결과는 전체 10,000쌍 중 2,000쌍 표본이며 전문 용어가 많은 긴 의료 답변에서 낮은 ISI가 예상된다고 덧붙였다. 별도의 연구 결과로 HaluEval QA에서 F1 0.5230, 코드 AST 비교에서 AUC 0.9141과 길이를 통제한 AUC 0.9421도 제시했으며, 보편적 우월성을 주장하지 않는다고 밝혔다.
자료와 구현은 SAS 저장소, 멀티메트릭 분류 엔진 저장소, 연구 논문, API 문서, Python 클라이언트, Node.js SDK에서 확인할 수 있다. 연구 단계별 자료는 SAS Standard, R0, R0-bis, R0.5P-1, R0.5P-2A, R0.5D, R1, R1-D, R2.1, R2.1-b, R2.1-b function-level에 공개돼 있다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요