LLM은 삭제한 비밀을 수정 설명에 다시 남길 수 있다

문서를 고친 대규모 언어 모델(LLM)이 삭제한 비밀번호를 수정 설명에 다시 남길 수 있습니다. 제3자에게 보낼 문서를 다룬 연구에서 확인됐습니다. 저는 본문보다 수정 설명이 더 걱정스럽습니다. 본문에서 지운 정보가 설명에 남으면 문서를 고친 효과가 사라지기 때문입니다.

Secret Guard는 로컬 게이트웨이에서 LLM 요청의 비밀 정보를 가짜 값으로 바꾸고 응답에서 복원합니다. 이번 연구는 문서 수정 설명에 삭제된 정보가 다시 남는 경우를 살핍니다. 비밀 정보를 바꿔 보내는 일과 결과물에서 새지 않는지 확인하는 일은 서로 다른 방어 단계입니다.

제가 반갑게 보는 점은 흔적이 남는 빈도뿐 아니라 수신자가 정보를 되찾을 가능성까지 따로 잰 것입니다. 공개 대화 자료의 수정 요청 26,753건 중 2,363건(8.8%)에 수정 흔적이 있었습니다. 연구진은 다섯 시나리오 100개 과제의 RevLeakBench도 만들었습니다.

6개 모델의 두 평가 트랙에서는 철회 요청 뒤 수정 설명이 남은 결과물이 대략 절반이었습니다. 답변 전체가 수신자에게 전달된다고 알려도 수정 흔적은 36.4%에 남았고, 결과물만 본 수신자는 약 13%에서 철회된 정보를 복구했습니다. 연구진은 출력 단계 필터를 제안했지만, 초록에는 복구를 얼마나 줄였는지나 필요한 정보가 얼마나 손실됐는지 수치가 없습니다.

실제 비밀번호 대신 무해한 문자열을 넣고, 문서 초안에서 그 문자열을 지운 뒤 수정 설명을 생성하게 해 보십시오. 본문뿐 아니라 변경 요약과 주석에도 그 문자열이 남는지 찾아보십시오. 한 곳이라도 남으면 실제 자료에서는 발송 전에 수정 설명까지 따로 확인하십시오.

마지막으로 민감한 내용을 문서에서 지운 뒤, 수정 설명까지 다시 확인하신 것은 언제입니까?