젠 로지에르 레이놀즈(Jen Rosiere Reynolds)는 AI 위험을 제대로 평가하려면 독립 연구자와 대중이 AI 시스템의 영향을 살필 수 있어야 한다고 주장한다. 하지만 현재는 대규모로 AI 시스템과 도구를 독립적으로 연구할 수 있는 공식 경로가 없으며, 기업의 불투명성은 감독과 규제의 근거를 마련하기 어렵게 한다.

레이놀즈는 9월 AI 기업 경영진이 인류 멸종 위험을 거론한 지 며칠 만에 도널드 트럼프 대통령이 기업의 자율 규제를 위한 ‘도덕적 구속력’이 있는 틀에 서명한 일을 지적한다. 위험에 대한 우려와 대응 사이의 간극은 대중을 어둠 속에 남겨 둔다. 기업이 정보 공개를 제한하면 정부와 대중은 감독이나 개발 속도 조절이 필요한지 판단하기 어렵다는 것이다.

소셜미디어 연구는 데이터 접근이 지속적으로 제한될 때 어떤 문제가 생기는지 보여 준다. 연구자들이 활용하는 정보 환경 연구 자원은 기업 플랫폼과 시스템, 설문 패널, 영리 데이터 제공업체, 무료·오픈소스 도구, 아카이브와 보존 사업, 연구자 안전·법률·윤리 지원, 유럽연합 디지털서비스법(DSA) 제40조에 따른 데이터 접근 경로 등 일곱 가지다. 어느 하나도 제약이 없지는 않으며, 자료는 여러 제공자에게 흩어져 있고 이용 대상과 목적도 제한된다.

기업의 연구자 접근 프로그램은 기업 재량에 따라 제한적으로 제공되는 경우가 많고, 자료를 보존하지 못하게 하기도 한다. 설문은 비용이 많이 들고 특정 시점에 묻는 질문에 한정된다. 영리 제공업체의 자료는 비싸고 과학적으로 가중된 데이터셋을 제공하지 않는 경우가 있으며, 무료 도구도 대표성 있는 자료를 보장하지 못한다. 아카이브는 도움이 되지만 인구집단·플랫폼·자료 유형별로 보존 범위가 고르지 않다.

DSA 제40조는 유럽 연구자에게 소셜미디어 자료에 접근할 법적 경로를 마련했지만, 승인은 수개월 걸릴 수 있고 기업이 의무를 지키지 않는 사례도 있다. X는 설명 없이 요청을 거부했고, TikTok은 누락된 자료를 제공했으며, Meta는 팔로워가 2만5000명에 못 미친다는 이유로 유럽 정치인을 자료에서 제외했다. 유럽연합 집행위원회는 Meta와 TikTok의 투명성 의무 위반에 대한 예비 조사 결과를 발표했고, X에는 1억2000만 유로의 벌금을 부과했다.

AI 연구에는 소셜미디어보다 더 큰 장벽이 있다. 챗봇 이용은 사적인 대화처럼 느껴질 수 있어 이용자가 취약한 정보를 털어놓을 가능성이 있지만, 동의를 받으면 상호작용을 연구할 수 있다. 반면 모델의 학습 데이터와 데이터셋, 안전 규칙, 고객에게 서비스를 제공하기까지 개발자가 내리는 여러 결정, 지속적인 A/B 테스트는 외부에서 보이지 않는다.

유럽연합은 ChatGPT를 ‘초대형 온라인 검색 엔진’으로 지정해 투명성과 연구자 접근 의무를 적용하기 시작했다. 그러나 챗봇이 자체 답변을 덧붙이는 대화는 규정의 적용 대상이 아닌 것으로 보인다. DSA에 따른 접근이 개선되더라도 유럽 밖 연구자에게는 공백과 제약이 남는다.

레이놀즈는 AI가 큰 순이익을 가져오거나 국가 안보에 필수적일 수 있다는 점이 체계적인 연구와 측정의 필요성을 없애지는 않는다고 본다. 안전과 안보를 위해 민감한 역량에 제한을 둘 수는 있지만, 정책과 개발 속도를 정하기 전에 AI가 사람과 경제, 사회에 미치는 영향을 독립적으로 살필 수 있어야 한다는 주장이다. 미국은 소셜미디어 연구를 위한 데이터 접근 경로를 만들지 못했다. 레이놀즈는 AI가 정보의 중요한 원천으로 자리 잡는 상황에서 미국이 같은 실패를 되풀이할 것인지 묻는다.