클로드의 피드백 요청을 닫아도 피드백으로 처리된다

오픈AI와 앤스로픽 같은 회사의 제품에는 개인정보 보호의 함정이 곳곳에 있어, 이를 피하려면 지나치다 싶을 만큼 주의를 기울여야 한다.

어제 블로그 글에서 “이번 세션에서 Claude는 어떤가요?”라는 질문이 데이터 공유를 거부한 유료 Claude 사용자에게서 더 많은 데이터를 받아 앤스로픽 모델을 개선하고 학습하는 데 쓰려는 기능처럼 보인다고 썼다. 당시에는 질문을 닫기 위해 ‘0’을 눌러도 ‘피드백’으로 간주돼 세션 대화가 모델 학습을 위해 회사에 전달될 수 있다고 추측할 수밖에 없었다.

‘0’을 눌러 질문을 닫는 행위가 실제로 ‘피드백’으로 처리된다는 점을 확인했다. 개인정보 처리방침에서 중요한 의미를 지닌 단어다. 버튼을 누르면 Claude는 “피드백을 보내줘서 고맙다… 앤스로픽 모델 개선을 도와줘서도 고맙다”고 말한다. 메시지가 약 2초 만에 사라져 정확한 문구가 아니라 요약한 내용이다. 질문을 닫으려는 나와 다른 사용자들이 의도한 것은 분명 이런 일이 아니다. 회사의 오타라고 생각하지는 않지만, 회사가 이에 관해 설명해 주면 좋겠다. 변호사는 아니지만, 이 응답을 개인정보 보호를 무력화하는 ‘피드백’으로 분류하는 것은 계약법에 어긋난다고 볼 여지가 있다고 생각한다.

직접 눌러 확인했으니 다른 사람은 그럴 필요가 없다. 이 질문에는 아무 반응도 하지 말고 무시하는 편이 좋겠다.

처음 글에서 나는 “이번 세션에서 Claude는 어떤가요?”라는 질문을 개인정보 보호의 허점으로 간주해야 한다고 썼다.

나는 AI 모델을 자주 쓰며, 사용자의 개인정보를 더 잘 보호한다고 내세우는 요금제에 추가 비용을 낸다. 다시 말하지만 변호사는 아니다.

오픈AI에서는 개인정보 보호 약속이 더 강하다는 이유로 월 20달러의 개인 요금제 대신 월 50달러에 좌석 2개가 포함된 비즈니스 계정을 이용한다. 추가 좌석은 필요하지 않아 월 30달러를 더 내는 셈이다.

그런데 오픈AI는 데이터 이용 안내에서 이렇게 설명한다. “피드백을 제공하기로 선택하면 해당 피드백과 관련된 전체 대화가 모델 학습에 사용될 수 있습니다. 예를 들어 모델 응답에 좋아요나 싫어요를 표시하는 경우가 해당합니다.”

그래서 나는 좋아요나 싫어요를 누르지 않는다.

하지만 걱정이 된다. ‘피드백’이라는 표현이 어디까지 적용되는지 열어둔 것처럼 보이기 때문이다. 응답이 마음에 들어 다음 프롬프트를 “잘했어. 이제…”라고 시작하면 이것도 피드백일까? 그렇다! 오픈AI는 이 대화를 학습에 이용할 근거로 볼까? 🤷 서면으로 확답을 받을 수 있을까, 아니면 개인정보 보호가 전혀 없다고 보고 매달 30달러를 아끼는 게 나을까?

처음에는 앤스로픽 제품의 개인정보 보호 약속이 훨씬 강하다는 점에 끌렸다. 하지만 개인정보 처리방침의 최근 변경과 변경을 처리한 일부 방식 때문에 의심이 생겼다.

최근 Claude Code에서 매우 성가신 질문을 봤다. 앤스로픽 AI 모델 개선을 돕는 데 동의하지 않았으므로 애초에 보이지 않아야 할 질문이다.

이 질문은 개인정보 보호에 어떤 영향을 미칠까? 개인정보 처리방침은 다음과 같이 설명한다.

“좋아요/싫어요 버튼을 통해 피드백을 제공하면 관련된 전체 대화를 저장합니다. 여기에는 모든 콘텐츠, 사용자 지정 스타일 또는 대화 환경설정이 포함되며, 보안이 유지되는 백엔드에 최대 5년 동안 보관됩니다. 피드백 데이터에는 Google Drive와 같은 커넥터의 원본 콘텐츠나 원격·로컬 MCP 서버의 원본 콘텐츠가 포함되지 않습니다. 다만 해당 콘텐츠를 Claude와의 대화에 직접 복사하면 포함될 수 있습니다…. 관련 법률이 허용하는 범위에서 서비스를 분석하고, 연구를 수행하고, 사용자 행동을 살펴보고, AI 모델을 학습시키는 데 피드백을 사용할 수 있습니다. 피드백은 Claude와 나눈 다른 대화와 결합하지 않습니다.”

이 새 질문도 나에게는 ‘피드백’처럼 보인다. 그렇다면 1, 2, 3을 입력하는 것, 어쩌면 0을 입력하는 것만으로도 세션 전체의 개인정보 보호가 위태로워질 수 있다. 지금으로서는 추측할 수밖에 없다. 특히 ‘앤스로픽 AI 모델 개선’을 돕지 않기로 한 사용자들이 무엇을 내놓게 되는지 제대로 판단할 수 있도록 제품 담당자들이 돕지 않은 점은 부끄러운 일이다.

서비스 이용료로 매달 수백 달러를 내는 사용자에게는 모욕처럼 느껴진다.

AI 스타트업들이 전례 없는 규모의 현금을 계속 소진하는 가운데, 개인정보 보호를 포함해 창업자들이 내세웠던 ‘원칙’도 계속 약해질 것으로 예상한다.

모두 조심하기 바란다.