IBM Granite Switch 4.1이 대화·판단·음성 인식을 한곳에 묶었다

IBM은 Granite Switch 4.1의 8B·30B 모델에 대화·판단·음성 기능을 묶었습니다. 하나의 호스팅 서비스 창구(endpoint)에서 제공하며, 음성을 받아 적은 뒤 요약하고 유해 콘텐츠를 확인하는 데모도 공개했습니다. 제게는 기능 수보다 음성 입력에서 검토까지 이어지는 흐름이 눈에 들어옵니다. 도구를 오가던 단계를 줄일 수 있다는 기대가 생깁니다.

SubQ Snap과 Jev의 비교에서 평균 점수는 각각 67.5점과 61.6점이었습니다. IBM의 이번 발표도 Guardian aLoRA를 Jev 1.13과 견주며, 의사결정 모델을 평가하는 흐름에 보탭니다.

대화와 판단, 음성 처리를 한 서비스에 모은 점이 새롭습니다. IBM은 이 구성의 그래픽 처리 장치(GPU) 메모리 사용량이 기반 모델만 쓸 때와 거의 같다고 설명합니다. 이 설명이 실제 서비스에서도 맞다면, 기능을 더하면서 메모리 부담은 거의 키우지 않는 구성이 반갑습니다.

IBM은 두 가지 성능 우위를 제시합니다. Guardian aLoRA는 Jev 1.13 등보다 안전 판단 과제에서 평균 성능이 높았습니다. Granite-Switch-4.1-30B와 전문 aLoRA 네 개를 묶은 구성도 비교됐습니다. 그 구성은 5단계 검색 증강 생성(retrieval-augmented generation, RAG) 작업을 Jev-27B보다 빨리 끝냈습니다. 다만 5단계 작업의 구체적인 완료 시간과 측정 조건은 제시되지 않았습니다. 그래서 그 속도 차이가 제 업무에서 재현될지 짐작하기 어렵습니다. 저는 기능 통합의 편리함과 성능 우위를 따로 확인하고 싶습니다.

Speech-to-Decisions 데모에 업무와 비슷한 짧은 음성을 넣어 받아쓰기와 요약, 유해 콘텐츠 판정을 함께 살펴보십시오. 추가 검사 항목을 직접 정한 뒤, 원문에 없는 경고가 뜨거나 중요한 문장이 요약에서 빠지는지 확인하십시오.

마지막으로 음성 기록을 받아 적은 뒤 요약이나 안전 검사를 위해 다른 도구로 옮긴 일은 언제였습니까?