TL;DR

  • PewDiePie가 Qwen3.5-9B를 미세 조정하고 Heretic으로 거부 응답을 제거한 가정용 AI 모델 Ajax를 공개했으며, OpenAI가 개발 중 계정을 두 차례 정지했다고 밝힘.
  • Ajax는 자체 호스팅 AI 작업 공간 Odysseus의 상시 작동형 자율 에이전트이자 비서로, 검색·웹 탐색·이메일·일정 관리 등을 처리함.
  • 계정 정지 사유 중 한 건은 모델 출력을 이용해 다른 모델을 학습시키는 증류(distillation)였으며, 두 번째 정지는 시드 데이터 생성 후 발생했지만 이메일에는 구체적 사례가 제시되지 않음.
  • Heretic의 자동 삭제(abliteration) 방식으로 거부 응답을 제거하되 타인이나 자신을 해치는 행위는 경계로 삼고, 위험한 실행 지침을 제공하도록 설계하지 않았다고 설명함.
  • 추가 강화 학습과 재검열 제거, 양자화, 벤치마킹을 계획하며, 특정 작업에 맞춘 소형 모델이 거대 모델의 대안이 될 수 있다고 주장함.

Ajax와 Odysseus

  • 인기 유튜버 PewDiePie가 가정용으로 실행할 수 있는 ‘검열되지 않은 AI 모델’ Ajax를 공개하고, 제작 과정에서 OpenAI가 계정을 두 차례 정지했다고 새 영상에서 밝힘.
  • 공개한 OpenAI 이메일에 따르면 한 차례 정지 사유는 명시적으로 ‘증류’였음. 증류는 한 모델의 출력이나 추론을 이용해 다른 모델을 학습시키는 방식임.
  • Ajax는 자체 호스팅 AI 작업 공간 Odysseus에서 자율적이고 상시 작동하는 에이전트이자 비서로 동작함.
  • 구성은 OpenClaw 및 Nous Research의 Hermes Agent와 유사함. Ajax는 미세 조정된 Qwen3.5-9B 모델로, 검색부터 웹 탐색, 이메일, 일정 관리까지 일상 작업을 처리함.
  • Ajax 페이지는 이 작업을 “완전히 비공개”로 수행한다고 설명하고, “더 자유롭고 제한이 적은 AI 경험”을 위해 거부 응답을 제거했다고 밝히며 책임 있는 사용을 요청함.
  • 영상은 Alibaba 모델을 사용하는 첫 버전을 발표했으며, 이는 5월 Odysseus 작업 공간 출시의 후속 내용임.

OpenAI 계정 정지와 증류

  • PewDiePie는 모델을 개선하려고 “조금만 증류”하려 했다고 설명함.
  • OpenAI와 Anthropic 같은 프런티어 AI 모델 기업은 암호화와 증류 시도 등 여러 방식으로 추론을 감추며, OpenAI가 최근 Moonshot AI와 연계된 행위자들의 캠페인으로 지목한 사례도 위협으로 간주됨.
  • PewDiePie는 한 차례 계정이 복구됐지만, 모델을 다시 실행해 “시드 데이터를 만들려고” 한 뒤 두 번째 정지가 발생했다고 밝힘. 그는 “그들이 어떻게 알았지?”라고 물었으며, 이메일에는 구체적인 사례가 제시되지 않음.
  • 그는 “그들은 AI 기계를 만들려고 우리 데이터를 훔치는 데 열심이었다”고 덧붙이며, 일부 증류가 모델 학습 방식과 크게 다르지 않을 수 있다는 생각을 내비침.

Heretic을 이용한 거부 응답 제거

  • 모델의 ‘검열을 제거’하기 위해 오픈 소스 도구 Heretic의 자동 삭제(abliteration) 방식을 사용함. 이 방식은 모델이 거부하는 프롬프트를 찾아 거부 성향을 추적한 뒤 제거하며, 지나치게 많은 부분을 지워 모델에 “뇌 손상”을 일으키지 않는 것이 바람직함.
  • PewDiePie는 타인이나 자신을 해치는 행위를 경계선으로 삼았다고 설명함.
  • 변호사의 조언에 따라 모델은 “위험하고 실행 가능한 지침을 제공하도록 설계되지 않았다”고 밝힘. 핵무기를 예로 들었지만 실제 제한 범위는 분명하지 않음.

소형 모델에 대한 관점과 다음 단계

  • PewDiePie는 “특정 하네스에 맞춰 학습한 소형 모델”을 강하게 지지하며, 소문으로 거론되는 프런티어 모델의 “1조 매개변수” 규모에 대한 대안으로 제시함.
  • 그는 기본 작업만을 위해 “그 거대한 괴물을 건드리는 것은 말이 안 된다”고 말함. 관심사는 연구와 실제로 사용할 수 있는 모델을 제공하는 데 있으며, 이는 더 작은 모델을 뜻하기도 함.
  • Odysseus 사용자에게서 직접 데이터를 수집하는 것보다 나은 대안으로 팬들에게 학습 데이터를 기부해 달라고 요청했지만, 제출한 사람은 없다고 밝힘.
  • 강화 학습을 이틀 더 진행한 뒤 검열 제거 단계를 다시 실행하고, 양자화와 벤치마킹을 할 계획임. “Ajax와 Odysseus의 다음 버전을 공개하는 것이 정말 기대된다”고 덧붙이며 Odysseus도 “크게 업데이트됐다”고 설명함.
  • 이름은 고전 신화에서 Ajax가 Odysseus의 경쟁자였다는 점과 맞닿아 있지만, PewDiePie는 농담으로 세정제 이름을 따왔다고 말함.
  • 오픈 모델과 하네스의 역량은 사용자가 자신의 하드웨어에서 검열이 없고 제한이 적은 AI를 사용하는 방향을 보여주며, 이는 기술을 자유롭게 유지하는 데 중요한 목표임.