싱가포르 통화청(MAS)은 금융기관이 AI 활용 사례를 실제 환경에 배포하기 전에 개발에 관여하지 않은 주체의 독립 검토를 받도록 하는 지침을 발표했다. 지침은 2027년 10월 7일부터 시행된다.

MAS는 AI의 복잡성과 확률적 특성이 불확실성을 키우고, 단순한 방법보다 예상 밖이거나 편향된 행동을 더 알아차리기 어렵게 만들 수 있다고 지적했다. 생성형 AI는 학습 데이터의 잡음과 대표성 부족, 학습 데이터에 없는 상황에 직면할 가능성 때문에 위험이 더 크며, 에이전트형 AI는 이런 위험을 한층 키울 수 있다고 봤다.

금융기관은 AI를 위험 관리 체계에 포함해야 하며, 이사회와 고위 경영진이 이를 추진해야 한다. 배포 전에는 AI 활용 사례와 기반 시스템·모델을 개발에 참여하지 않은 주체가 검토해야 한다. 기술 및 사이버 보안 검토도 거쳐 AI를 통제되고 안전한 방식으로 운영 환경에 배포해야 한다.

배포 뒤에도 금융기관은 자체 시스템과 제3자 AI를 지속해서 모니터링해야 한다. MAS는 모델이나 데이터의 변화에 따른 성능 저하, 모델의 노후화 가능성을 들며 AI가 의도대로 작동하고 목적에 계속 부합하는지 확인해야 한다고 설명했다.

제3자 AI를 이용하더라도 금융기관의 책임은 사라지지 않는다. MAS는 기관이 공급업체로부터 충분한 보증을 받고, 제3자 AI가 예정된 용도에 적합한지 평가하며, 보증의 공백이나 실무상 제약이 있으면 가능한 보완 통제를 적용하도록 했다. 위험을 기관의 허용 범위 안으로 낮출 수 없다면 해당 서비스를 제한하거나 중단하고 교체하는 방안도 고려해야 한다.

금융기관은 업무에 쓰이는 AI 목록을 최신 상태로 유지해야 한다. 제3자 서비스가 AI 사용 여부를 공개하지 않아 전체 목록을 만들기 어렵다면, 파악할 수 없는 AI의 기여로 생기는 위험을 관리할 방법을 찾아야 한다. 고위험 분야에 AI를 쓰는 경우에는 AI 장애나 예상 밖의 동작에 대비해 대체 시스템이나 수동 절차를 포함한 비상 계획도 마련해야 한다.

MAS의 지침은 금융기관의 인공지능 위험 관리 지침에서 확인할 수 있다. 관련 발표는 MAS의 보도자료에 실렸다.

관련 기사:

AI 및 머신러닝 · 금융 서비스 · 규제 · 싱가포르 · 핀테크

Simon Sharwood, APAC 편집자