AI가 편리한 답을 내놓을수록 사람들은 비슷한 선택을 하고, 그 결과물이 다시 AI 학습 데이터가 될 수 있다. Rulr의 Raffi는 이를 기계 안에서 나타나는 모델 붕괴뿐 아니라 사람들의 사고와 창작의 다양성이 줄어드는 문제로 확장해 설명하며, AI를 쓰되 다른 관점과 자신의 목표를 지키라고 제안한다.

AI에게 메모 앱을 만들어 달라고 하면 기능부터 이름, 색상, 가격, 출시 전략까지 제안받을 수 있다. 제안 중 마음에 드는 것을 고르다 보면 자신이 설계했다고 느낄 수 있지만, 실제로는 다른 주체가 만든 선택지 안에서 골랐을 뿐일 수 있다는 게 Raffi의 지적이다. 때로는 처음 목표가 자신에게 필요한지 확실하지 않은 방향으로 바뀌기도 한다.

Raffi는 의견을 강하게 제시하는 AI와 함께 글을 쓴 1,506명을 살핀 연구에서, 참가자들이 글쓰기 방식뿐 아니라 자신의 의견도 AI 쪽으로 이동했다고 소개한다.1 그는 많은 사람이 같은 AI의 답을 받아들이고 이를 다시 공개하면, 그 결과물이 이후 학습 데이터가 되면서 모두가 비슷한 답을 강화할 수 있다고 주장한다.

기계 안에서의 변화는 별도의 연구에서도 다뤄졌다. 2024년 《Nature》 논문에서 Ilia Shumailov와 동료들은 AI가 생성한 콘텐츠로 AI를 학습시키면 원래 콘텐츠 분포의 희귀한 부분이 사라지는 등 되돌릴 수 없는 결함이 생긴다고 보고했고, 이를 ‘모델 붕괴’라고 불렀다.2 Raffi는 여기서 사라지는 ‘꼬리’가 드물고 특이한 아이디어를 가리킨다고 해석한다. 매끄럽고 평균적인 정답이 맞을 수는 있지만, 새로운 발견을 낳는 예외와 실수까지 밀어낼 수 있다는 주장이다.

하나의 권위에서 편리한 답으로

Raffi는 이 문제를 AI 이전의 역사와 연결한다. 그는 유럽에서 오랫동안 성서와 이를 해석하는 기관이 정보의 권위를 독점했던 사례를 들며, 모두가 같은 해석을 따를 때 질문은 이단처럼, 차이는 오류처럼 보일 수 있다고 말한다.3 다만 중세 교회가 문헌을 보존하고 대학과 초기 과학을 지원한 측면도 있다는 역사학자들의 주의를 함께 덧붙인다. 논점은 중세 전체를 단순화하는 데 있지 않고, 해석 권한이 한곳에 집중될 때 생기는 문제라는 설명이다.4

그의 비유에서 인쇄술은 텍스트를 더 많은 사람에게 전달해 해석의 독점을 깨뜨렸고, 종교개혁과 과학혁명 등 다양한 변화의 기반이 됐다.5 AI 시대에는 강제나 처벌이 아니라 편리함이 사람들을 같은 답으로 이끈다는 점이 다르다. 개인마다 더 나은 답을 얻더라도, 집단 전체의 창작물은 덜 다양해질 수 있다는 연구도 인용한다.6

AI를 쓰면서 다양성을 지키는 방법

Raffi는 AI 사용을 멈추라고 하지 않는다. 대신 AI의 답을 유일한 목소리로 두지 말라고 권한다. 먼저 AI의 답을 사람에게 묻고, 가능하면 자신과 의견이 다른 사람에게도 검토를 요청한다. 자신의 분야나 업계 밖에 있는 사람에게 아이디어를 보여주면 익숙한 관점과 다른 반응을 얻을 수 있다고 제안한다.

팀에는 모범 사례와 반대되는 시도를 제안하는 사람을 두고, AI를 열기 전에 만들고 싶었던 것을 적어 둔 뒤 결과와 비교하라고 한다. AI의 제안이 원래 목표를 대신했다면, 편리해서가 아니라 타당한 근거가 있어 선택한 것인지 살펴보라는 뜻이다. 조언은 참고하되 무엇이 자신다운지는 스스로 판단해야 한다는 게 글의 결론이다.

참고 자료

  • Jakesch, M., Bhat, A., Buschek, D., Zalmanson, L., & Naaman, M. (2023). *Co-Writing with Opinionated Language Models Affects Users' Views*. Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems. 논문 본문으로 돌아가기
  • Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., & Gal, Y. (2024). *AI models collapse when trained on recursively generated data*. Nature, 631, 755–759. 논문 본문으로 돌아가기
  • Harari, Y. N. (2024). *Nexus: A Brief History of Information Networks from the Stone Age to AI*. Random House. Harari는 성서를 오류가 없다고 여기는 것이 인간의 오류 가능성을 없애는 대신 해석자에게 권위를 옮긴다고 주장하며, 이를 과학의 자기 수정 방식과 대비한다. 본문으로 돌아가기
  • Numbers, R. L. (편). (2009). *Galileo Goes to Jail and Other Myths about Science and Religion*. Harvard University Press. 본문으로 돌아가기
  • Eisenstein, E. L. (1979). *The Printing Press as an Agent of Change*. Cambridge University Press. 본문으로 돌아가기
  • Doshi, A. R., & Hauser, O. P. (2024). *Generative AI enhances individual creativity but reduces the collective diversity of novel content*. Science Advances, 10(28), eadn5290. 논문 본문으로 돌아가기