TL;DR

  • AI의 생물학적 위험은 완전히 새로운 초강력 바이러스를 설계하는 능력뿐 아니라, 기존 생물학 지식을 악의적인 소규모 집단이 활용하기 쉽게 만드는 데 있음.
  • 탄저균과 소련의 생물무기 프로그램은 기존 병원체만으로도 심각한 피해를 일으키거나 더 위험하게 만들 수 있음을 보여주는 사례임.
  • 치료제가 존재해도 대규모 환자 발생은 병원과 의료 물자, 돌봄 제공 체계에 부담을 주며, 치료제를 실제로 제때 전달할 수 있는지가 중요함.
  • 생물학적 무기화에는 전문성, 실무 경험, 장비와 자원이 필요하고 AI가 이런 장벽을 없애지는 않지만, 일부 전문성 장벽을 낮출 가능성은 검토할 필요가 있음.
  • AI가 생물학 분야에서 실제로 무엇을 가능하게 하는지는 아직 알 수 없지만, 문명 종말을 확신하지 않아도 위험을 진지하게 다룰 근거는 충분함.

AI가 생물학에서 일으킬 수 있는 위험

  • 최근 생물학 분야에서 AI의 위험성에 관한 논의가 이어졌으며, 논의의 계기 중 하나는 King 등이 게놈 언어 모델로 박테리아를 감염시키는 바이러스인 박테리오파지를 설계할 수 있음을 보인 *Science* 논문임.
  • 논문이 안전 우려를 낳자 여러 분야의 전문가들이 이를 조롱하거나 안심시키는 반응을 보임. Noah Smith는 AI가 위험한 바이러스 설계를 비전문가도 할 수 있게 만들어 재앙을 초래할 수 있다는 우려를 제기함.
  • Claus Wilke는 「AI가 설계한 초강력 바이러스 때문에 죽는 일은 없을 것」이라는 글에서 AI의 현재 능력과 Smith가 제시한 시나리오 사이의 간극을 강조함. 여기에는 생물학적 설계의 한계와 설계를 실제 작동하는 생물학적 물질로 구현하는 실무적 난제가 포함됨.
  • 이러한 장벽은 중요하지만, AI가 위험한 생물학적 작업을 이전보다 얼마나 쉽게 만드는지에 관한 질문은 여전히 답을 얻지 못함.
  • 기존 지식을 더 쉽게 활용할 수 있게 하는지, 이전에는 훨씬 큰 팀이 필요했던 일을 더 작은 집단이 해낼 수 있게 하는지가 핵심 질문임.
  • 완전히 AI가 설계한 초강력 바이러스가 현재로서는 유행어에 불과하더라도, 이 질문은 진지한 논의가 필요함.

기존 병원체가 보여주는 위험

  • 기존 생물학적 물질도 참혹한 피해를 일으킬 수 있음. 탄저균은 한 사례로, 흡입 탄저병은 치료받지 않으면 거의 항상 치명적이며 적극적인 치료를 받더라도 환자의 약 55%만 생존한다고 미국 질병통제예방센터(CDC)는 밝힘.
  • 1979년 소련 스베르들롭스크의 군 생물학 시설에서 우발적으로 병원체가 유출돼 수십 명이 사망함. 조사 결과는 AI나 정교한 분자생물학 기술 없이도 기존 병원체가 끔찍한 결과를 낳을 수 있음을 보여줌.
  • 탄저균은 사람 사이에 전파되지 않으므로 이 사례가 보여주는 위험의 범위는 제한적임. 그러나 소련의 생물무기 프로그램은 자연 상태의 병원체를 사용하는 데 그치지 않음.
  • 1990년대 서방으로 망명한 소련 생물무기 과학자 Sergei Popov에 따르면, 연구자들은 여러 항생제에 내성을 지닌 박테리아를 만드는 작업을 수행함. 기존 질병을 치료하기 어렵게 만드는 것이 목적이었으며, 이 작업은 오늘날의 AI 도구가 등장하기 수십 년 전에 진행됨.
  • [Popov의 PBS 인터뷰](Popov’s interview with PBS)
  • 소련은 전염성 질병을 이용한 생물무기도 추진했으므로, 최초 공격에 노출된 사람만 해치는 데 목표가 한정되지는 않음. 다만 이는 박테리아가 사람 사이에서 더 쉽게 전파되도록 만드는 데 성공했다는 증거와는 다르므로 두 사안을 혼동하지 않아야 함.
  • 기존 병원체를 더 위험한 무기로 바꾸려는 시도는 오랜 역사를 지님. 그렇다고 AI를 보유한 소규모 집단이 거대한 국가 프로그램의 시도를 재현할 수 있다는 뜻은 아니지만, 완전히 인공적인 바이러스를 설계하는 어려움만이 논의의 전부는 아님.

치료제가 있어도 피해가 커질 수 있음

  • 치료제가 효과적이라고 해서 필요한 모든 사람이 제때 치료받는다는 뜻은 아님.
  • 많은 사람이 한꺼번에 중증 질환을 앓으면 병원이 감당 능력을 넘어설 수 있고, 물자가 고갈되며, 의료 서비스 전달이 중단될 수 있음. 전염병은 지속적인 전파로 이런 압박을 더 키울 수 있음.
  • 사망률이 100%라는 뜻도 아니고, 병원 과부하가 곧 문명의 붕괴를 의미하는 것도 아님. 그래도 결과는 재앙적일 수 있음.
  • 이런 사건을 견뎌내는 능력은 의료진, 제대로 기능하는 공급망, 압박 속에서도 운영을 지속할 수 있는 응급 서비스에 달려 있음. “치료제가 있다”는 말은 실제로 치료제를 전달할 수 있는 범위에서만 안심할 근거가 됨.

AI가 낮출 수 있는 생물학적 장벽

  • 생물학 지식을 무기로 전환하는 일은 상당한 자원 제약을 받는 중대한 작업임. 여러 분야의 전문성, 실무 경험, 장비와 자원이 필요하며, 이 모든 것을 두루 아는 사람은 매우 적음.
  • 과학 정보를 접할 수 있다는 사실은 그것을 실제로 구현하는 방법을 안다는 것과 다르며, AI가 이런 어려움을 없애지는 않음.
  • 그러나 AI는 익숙하지 않은 기술 지식을 이해하고 활용하기 쉽게 만드는 데 점점 더 유용해지는 것으로 보임. 위험한 생물학적 작업을 현재 소규모 집단이 수행하기 어렵게 만드는 장벽을 AI가 낮출 수 있다는 우려가 제기됨.
  • 사업을 운영하거나 소프트웨어를 만드는 사람들이 AI 보조 도구로 팀을 꾸리는 사례를 보고 생물학도 같은 길을 따를 것이라고 가정하려는 유혹이 있지만, 이 비유에는 한계가 있음.
  • 실험은 실패할 수 있고 실무 기술이 중요하며, 화면에 그럴듯하게 제시된 답이 완전히 틀릴 수도 있음.
  • AI 지원이 생물학 분야에서 사람들이 실제로 해낼 수 있는 일을 바꾸는지 보여주는 증거가 필요함.
  • 이런 한계가 논의를 끝내야 한다는 뜻은 아님. AI가 모든 전문가를 대체하거나 모든 문제를 해결하지 않더라도 영향을 미칠 수 있음.
  • 필요한 전문성을 일부만 낮추더라도 부족한 전문성을 메우는 데 중요할 수 있음. 과거 생물무기 개발에 관심을 보인 알카에다(Al-Qaeda)는 서방 명문 대학에 진학한 전 학생들을 채용해 사악한 계획을 실행하게 했다고 볼 여지가 있으며, 이제 이런 위험한 활동에 진입하는 장벽이 훨씬 낮아질 수 있음.

초강력 바이러스보다 기존 지식의 악용을 살펴야 함

  • 논의가 AI가 문명을 끝낼 초강력 바이러스를 발명할 수 있는지에 지나치게 집중하고 있다는 우려가 있음.
  • 악의적인 의도를 지닌 소규모 집단이 기존 생물학 지식을 더 쉽게 활용하도록 AI가 도울 수 있는지도 물어야 함. 그 능력이 어디까지 미치는지는 아직 알 수 없으며, 이를 단정하는 데 신중해야 함.
  • 문명의 종말을 확신하지 않더라도 위험을 진지하게 받아들일 수 있음.

더 알아볼 자료

  • 생물무기의 잠재적 피해를 더 알아볼 때 참고할 수 있는 주요 자료 두 권임.
  • David Quammen의 *Spillover*는 동물에서 인간으로 병원체가 종간 전파된 사례를 설명함. 코로나19 이전에 쓰인 책으로, 그런 팬데믹이 이전에 발생하지 않은 것이 얼마나 다행인지 생각하게 한 자료임.
  • Annie Jacobsen의 *Biological War: A Scenario*는 매우 공격적인 *Y. pestis* 변종이 우발적으로 방출되는 시나리오를 다룸. 이 변종은 모든 항생제에 내성을 지닐 뿐 아니라 박테리아가 제거될 때 방출되는 바이러스 입자도 보유함.