TL;DR

  • Apple Watch의 상시 청취·대화 전사·요약 기능은 Apple의 강력한 암호화와 개인정보 보호 설계에도 불구하고, 대화가 발생한 공간의 맥락적 무결성을 침해할 수 있다는 점이 핵심 주장임
  • Apple은 오디오를 녹음하거나 저장하지 않고 발화자를 식별하지 않으며 모든 콘텐츠를 암호화한다고 설명하지만, 이러한 보호 조치가 대화의 재배치라는 문제를 해결하지 못함
  • Live Rewind는 15초 전 발화를 요청 시 전사하면서 알림음·애니메이션·마이크 표시를 제공하지만, 하루 종일 작동하는 Siri Recap에는 같은 수준의 고지가 없음
  • 상시 녹음 기능을 갖춘 기기는 기밀성이 요구되는 장소에서 받아들여지기 어려우며, Meta의 스마트 안경과 AI 펜던트·퍽도 이미 사회적 신뢰와 개인정보 규범을 훼손한 사례로 거론됨
  • Apple의 Private Cloud Compute는 Apple 직원도 데이터를 읽을 수 없고 로그를 남기지 않는 구조지만, 대화의 상시 포착을 새로운 기본값으로 만들지에 대해서는 여전히 “싫다”라고 말할 선택이 남아 있음

대화는 그 공간에 속함

  • 신형 기능은 녹음되는 사람의 동의를 요구하는 개인정보 보호법과 충돌할 가능성이 있으며, 발화에 관한 암묵적인 사회적 관습과도 부딪힐 수 있음
  • 다른 사람과 대화할 때 말이 어떻게 처리되는지에 대한 기대가 존재하며, 정보과학자 Helen Nissenbaum이 말하는 맥락적 무결성(contextual integrity)은 정보가 공유된 환경의 규범에 따라 이동한다는 기대를 뜻함
  • 카페 테이블, 화장실, 저녁 모임, 주민 회의, 텔레비전 방송에서 하는 말은 그 순간 उपस्थित한 사람들과 당시 드러난 목적을 위한 것임
  • 지금까지 일상적인 주변 대화는 자동 요약기가 다른 사람의 검색 가능한 생활 기록에 편입하기 위한 발화가 아니었음
  • Apple이 데이터를 암호화하고 최소화하며 삭제하더라도 문제는 데이터 보호 자체가 아님
  • 문제는 대화가 발생한 공간에서 조용히 빠져나와 기기·서비스·제품으로 이동한다는 점임

모두에게 ‘옵트인’이 적용되지는 않음

  • 신형 기능은 “옵트인” 방식으로 홍보되지만, 실제로 선택권을 갖는 사람은 Apple Watch를 착용한 사람뿐이며 같은 공간의 다른 사람에게는 선택권이 없음
  • Apple은 이 문제를 인식하는 것으로 보이며, Live Rewind는 요청 시 이전 15초의 발화를 전사하고 알림음·애니메이션·마이크 표시로 작동 사실을 알림
  • 하루 종일 작동해 나중에 기기에서 요약을 만드는 Siri Recap에는 같은 고지 기능이 없음
  • 지속적인 알림음과 깜박이는 표시가 기능을 사용할 수 없게 만들고 시계를 착용할 수 없게 만들 수 있다는 점은 이해할 수 있음
  • 개인적·상업적·법적 이유로 기밀성이 기대되는 장소에서는 주변 녹음 기능을 가진 기기가 받아들여지기 어려움
  • 현재 Apple Watch는 AirPods처럼 어디서나 환영받지만, 신형 기능이 이런 인식을 바꿀 가능성이 있음
  • Apple이 AirPods에 추가할 것으로 보도된 카메라도 이제 보편화된 이어폰에 같은 변화를 일으킬 수 있음
  • Meta의 동영상 녹화 스마트 안경은 이미 일부 직장과 장소에서 금지됨
  • 언론은 문제를 Meta의 이른바 “변태 안경”처럼 개별 사용자 중심으로 다루는 경우가 많지만, 기술 업계 자체가 대중의 불신을 초래한 측면도 큼

문제는 신뢰임

  • 기술 기업은 사용자 데이터를 오용한다는 평판을 보유함
  • 1만4,000개 앱을 조사한 한 연구에서 거의 절반이 자체 개인정보 보호정책을 위반함
  • 약 6,000개의 아동용 앱을 조사한 다른 연구에서는 대다수가 개인정보 보호법을 위반했을 가능성이 제기됨
  • 주변 녹음에 관한 규범은 이미 다른 기기들에 의해 형성되는 중임
  • Meta의 스마트 안경과 최근 등장한 AI 펜던트·퍽은 유사한 영역에 속함
  • 이러한 기기와 서비스는 정보의 맥락적 무결성에 대한 기대와 개인정보 보호법을 반복적으로 훼손함
  • 설문조사에서는 대다수 사람이 광고 제공을 위해 휴대전화가 자신의 말을 듣는다고 이미 생각함
  • Apple이 모든 사람의 손목에 유사한 기능을 도입하는 상황에서 이러한 아이러니를 간과해서는 안 됨
  • Apple도 이 문제를 올바르게 처리해야 할 필요성을 모르는 기업이 아님
  • Apple은 Siri가 실수로 활성화돼 사적인 오디오를 계약업체에 전송했다는 주장과 관련해 2025년 소송을 해결하기 위해 9,500만 달러를 지급했지만, 잘못을 인정하지 않았고 개인정보 보호에 집중하고 있다는 입장을 유지함

하루를 기록하는 비공개 방식인가

  • Apple은 다른 기업보다 분명히 더 나은 방식으로 개인정보를 처리하는 중임
  • 신형 기능을 구동하는 Apple의 Private Cloud Compute는 Apple 직원도 처리되는 내용을 읽을 수 없도록 설계됨
  • 서버는 로그를 남기지 않으며 사용자의 답변이 반환된 뒤 어떤 정보도 보존하지 않음
  • Apple은 각 Private Cloud Compute 인스턴스에서 사용되는 소프트웨어를 공개해 독립 연구자들이 설명대로 작동하는지 확인할 수 있도록 하겠다고 약속함
  • Apple의 개인정보 보호정책과 소프트웨어 경험은 검사가 가능한 하드웨어의 뒷받침을 받음
  • 이는 다른 기업이 따를 수 있는 선례를 제시함
  • 이런 관점에서 Rewind와 Recap은 상시 청취를 사용자 외 누구에게도 데이터를 제공하지 않고 구현할 수 있음을 보여줌
  • Apple 제품은 과거에도 사회적 선례를 형성함
  • iPod은 음악 불법 복제에 관한 인식을 바꿨고, AirPods는 항상 귀에 이상한 흰색 막대를 꽂고 다니는 일을 허용 가능한 행동으로 만듦
  • 하지만 Apple 기술의 사회적 수용이 보장되는 것은 아님
  • 2024년 출시된 미래형 Vision Pro 고글은 여전히 멋진 제품으로 받아들여지지 않음

‘싫다’라고 말할 선택은 여전히 존재함

  • Apple의 노력에도 공공장소에서 항상 듣는 기기라는 기본 문제는 남아 있음
  • 이러한 기기는 대화가 발생한 공간에 속한다는 기대와 그 대화의 맥락적 무결성을 여전히 침해함
  • Recap과 Rewind에 대한 불쾌감은 Apple이 실제로 판매하는 것이 대화가 다른 곳에서 무심코 포착·분석·사용될 수 있다는 새로운 기본 이해라는 점에서 비롯됨
  • Apple은 이러한 새로운 기본값을 받아들이도록 요청할 수 있는 가장 신뢰도 높은 기업 중 하나임
  • 그렇기 때문에 대화의 맥락적 무결성을 깨는 데 “싫다”라고 말하는 사람들의 목소리를 들어야 함

그런 도구를 자신의 삶이나 다른 사람들의 삶에 들이고 싶지 않다면, 이를 소리 내어 말해야 함: 싫다.