TL;DR

  • LLM을 이용하면 소프트웨어 리버스 엔지니어링과 퍼즐 풀이에 드는 시간이 크게 줄어들어, Flare-On 2026의 상위 참가자들이 몇 시간 만에 전체 대회를 끝내는 상황임.
  • David Buchanan은 호기심을 따라 리버스 엔지니어링을 익혔으며, Flare-On 2022에서 수천 명 가운데 8위를 기록함.
  • LLM은 더 많은 사람이 기기와 소프트웨어를 이해하고 수정하도록 돕지만, 토큰 비용과 이해 과정을 건너뛰는 문제도 동반함.
  • 인간만 참여하는 CTF 커뮤니티가 대회의 기존 분위기를 일부 지킬 가능성이 있음.
  • 현재의 리버스 엔지니어링 황금기는 소프트웨어 복잡도 증가, LLM 기반 방어, 서버 측 로직 확대에 따라 약화될 수 있음.

리버스 엔지니어링을 익히고 CTF에 참여함

  • 리버스 엔지니어링에 능숙하며, 2022년 Flare-On 리버스 엔지니어링 CTF에서 수천 명의 참가자 가운데 8위를 기록함. 그해 지나치게 경쟁적으로 임하지 않고 편하게 하기로 한 뒤에도 모든 문제를 푸는 데 2일 조금 넘게 걸림.
  • 처음부터 리버스 엔지니어링을 잘하려고 한 것은 아니며, 주변의 작동 원리를 이해하고 동작을 바꾸고 싶다는 호기심을 따라간 결과로 이를 익히게 됨.
  • 10여 년 전 CTF를 알게 된 뒤 경쟁 요소에 큰 동기를 얻었으며, 점수판에서 순위를 올리고 문제를 가장 먼저 푸는 일에 큰 즐거움을 느낌.

LLM이 바꾼 CTF 경쟁

  • 2026년에는 LLM 토큰을 감당할 수 있는 사람이라면 누구나 소프트웨어 리버스 엔지니어링과 관련 퍼즐 풀이를 잘하는 상황임.
  • Flare-On 2026 상위권은 LLM을 사용하는 참가자나 더 정교한 오케스트레이션 환경을 활용하는 참가자들이 차지했으며, 모두 몇 시간 만에 CTF 전체를 끝냄.

Flare-On에 관심이 없었던 것은 아니지만, 대회에 필요한 시간이 너무 커서 참가하지 않았음. 올해는 [LLM 기반 제품]을 대회에 투입했고, 2시간 미만에 모든 문제를 풀 수 있었음.

  • LLM은 전년도 이맘때에도 이미 꽤 괜찮은 성능을 보였지만, Flare-On 2025 점수판은 비교적 평범했고 잘 알려진 CTF 참가자들이 상위권을 차지함.

대중화에 대한 엇갈린 감정

  • 독보적으로 잘하던 일이 누구나 이용할 수 있는 것으로 바뀌는 모습은 충격적이지만, 이런 변화의 조짐이 오래전부터 있었기에 이제는 받아들이고 있음.
  • LLM이 좋아지기 전부터 경쟁적인 CTF 참여를 멈췄으므로 CTF가 사라지는 것 자체가 직접적인 걱정은 아니지만, 미래 세대가 같은 방식으로 CTF를 즐기지 못할 수 있다는 점은 안타까움.
  • 인간만 문제를 푸는 커뮤니티가 형성되는 모습은 고무적임. 명예 규칙으로만 시행할 수 있지만, CTF의 ‘좋았던 옛날’ 분위기를 어느 정도 유지할 수 있다고 봄.
  • 더 많은 사람이 자신이 쓰는 기기와 소프트웨어를 이해하고 수정할 기회를 얻는 점은 긍정적임.
  • 그 기회를 얻으려면 비용이나 GPU 사용 시간을 지불해야 한다는 점은 달갑지 않음. 리버스 엔지니어링을 배우는 데 수년을 투자하는 기회비용도 공짜는 아니지만, 로컬 모델을 쓰더라도 학교에서 지급한 크롬북으로 최첨단 수준의 추론을 수행할 수 있는 상황은 당분간 오지 않을 것임.
  • LLM은 사람들이 이해 과정을 통째로 건너뛰도록 하며, 여전히 이해를 중요하게 여기는 사람에게는 진짜 이해를 입증하기 어렵게 만듦. 이해가 병목이 아닌 사람들은 더 많은 결과물을 내놓을 수 있으므로, 살펴보거나 읽을 만한 흥미로운 프로젝트를 찾을 때 신호 대 잡음비가 낮아짐.
  • ‘모호성에 의한 보안(security through obscurity)’이 나쁜 발상이며 언제나 그랬다는 점을 더 적은 사람의 노력으로 입증할 수 있다는 점은 긍정적임.
  • 리버스 엔지니어링에 LLM을 활용하는 일도 즐김. 리버스 엔지니어링을 즐긴 이유에는 능숙하다는 점도 있었지만, 작동 원리를 알아내는 일이 즐거웠기 때문에 능숙해질 수 있었음. 지금도 작동 원리를 알아내는 일을 즐기며, 여전히 무언가를 가장 먼저 해낼 수 있음.

미래

  • 현재는 리버스 엔지니어링 역량의 일종의 ‘황금기’지만, 오래가지 않을 수 있다고 우려함.
  • 공급업체가 의도적으로 리버스 엔지니어링을 방해하지 않더라도 소프트웨어 복잡도는 계속 높아지고 있음. 이와 관련해 제번스 역설(Jevons paradox)도 참고할 만함.
  • LLM 기반 리버스 엔지니어링 방해 기술과 제품 보안 조치도 강력해질 가능성이 있으며, 결국 추론에 가장 많은 비용을 댈 수 있는 쪽이 이기는 경쟁으로 흘러갈 수 있음.
  • 무엇보다 제품 로직이 서버 측으로 더 많이 옮겨가면서 리버스 엔지니어링이 가능한 표면이 줄어들 수 있음. 아무것도 소유하지 못하게 되고, 그 상황에 꽤 화가 날 것임.