4M 매개변수 규모의 모델 ‘parrot’이 영국 초등학교 1학년 파닉스 검사에서 생성된 시험지 10개를 모두 통과했다. 제작자는 모델이 정답표나 음소 라벨 없이 글자를 소리 내어 읽고 스스로 학습하도록 했지만, 실험은 120개 단어와 합성 음성, 한 가지 글꼴로 구성한 시뮬레이션 환경에서 이뤄졌다.
모델은 그림책 페이지의 픽셀과 교사의 음성을 입력받는다. 글자를 42개 소리 중 하나로 읽어 자기 음성으로 말한 뒤, 그 소리를 듣고 해당하는 그림을 고른다. 학습 과정에서 교사가 읽어 주는 음성을 6만 회 들은 뒤 통과 기준인 40점 만점에 32점을 넘었다.
전체 코드는 공개 전이며, 제작자는 코드가 곧 공개될 예정이라고 밝혔다. 모델은 영어의 소리 단위를 스스로 발견하지 않고 미리 주어진 42개 선택지 중에서 고른다. 실제 어린이 책에서도 읽을 수 있는지는 이 실험으로 확인되지 않았다.
첫 모델은 초기 파닉스 단계만 배운 뒤 검사에서 평균 26.8점을 받아 통과하지 못했다. 이후 전체 120개 단어와 검사에 필요한 파닉스 규칙을 학습한 모델은 파닉스 훈련 뒤 평균 36.6점을 기록했고, 10개 시험지 모두에서 통과했다. 최저 점수는 34점, 최고 점수는 38점이었다.
다음 목표는 학습에 필요한 교사 음성 횟수를 줄이고, 모델이 소리 단위를 스스로 발견하도록 하는 것이다. 실제 책의 여러 줄을 읽는 기능도 앞으로의 과제로 제시했다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요