Nemotron 3.5 Transcribe hay Voxtral 3: Chọn mô hình nào?

Nhận dạng giọng nói ngoại tuyến: ưu tiên nào quan trọng hơn?

Nhận dạng giọng nói ngoại tuyến là quá trình chuyển âm thanh thành văn bản bằng mô hình chạy trên hạ tầng do người dùng kiểm soát, thay vì phụ thuộc hoàn toàn vào dịch vụ đám mây. Nếu ưu tiên bản chép lời chính xác trên các bài kiểm tra hàng loạt, Voxtral Small Transcribe 3 là lựa chọn sáng hơn; nếu cần trọng số mở, dịch thuật và xử lý bản ghi dài tới một giờ, Nemotron 3.5 Transcribe đáng cân nhắc hơn. Trên bảng xếp hạng batch, Voxtral đạt WER 2,1%, còn Nemotron được hiển thị ở mức 3,4%.

WER, hay tỷ lệ lỗi từ, đo mức độ sai khác giữa bản chép lời của mô hình và bản tham chiếu; thông thường, điểm càng thấp càng tốt. Nhưng không nên xem khoảng cách giữa hai số là phép so sánh tuyệt đối: mức 2,8% của Nemotron cũng được nêu trong phần hỏi đáp của cùng bảng, trong khi 3,4% là kết quả gắn với endpoint được kiểm thử. Khác biệt về endpoint và cách đánh giá có thể làm điểm số dao động gần một điểm phần trăm. Vì vậy, Voxtral có lợi thế trên chỉ số tổng thể được nêu, nhưng con số đó chưa đủ để quyết định mô hình phù hợp với dữ liệu thực tế của bạn.

Voxtral thắng ở bản chép lời tổng thể, nhưng không phải mọi loại âm thanh

Voxtral Transcribe phù hợp với nhóm cần nhận dạng giọng nói đa ngôn ngữ và muốn tối ưu chất lượng chép lời hàng loạt. Điểm 2,1% cho thấy lợi thế trên chỉ số tổng thể, đặc biệt khi dữ liệu gần với các thành phần giọng nói sạch vốn có trọng số đáng kể trong phép đánh giá. Với quy trình xử lý nhiều bản ghi thông thường, đây là lý do thuyết phục để thử Voxtral trước.

Tuy nhiên, điểm tổng thể không kể hết câu chuyện. Trên thành phần AgentTalk, đại diện cho hội thoại nhiễu và gần với cuộc gọi thực tế hơn, Nemotron được báo cáo đạt 1,8%, còn Voxtral đạt 2,3%. Nếu âm thanh đầu vào có người nói chồng lấn, lượt thoại ngắt quãng hoặc ngữ cảnh hội thoại phức tạp, ưu thế của Voxtral trên điểm trung bình có thể không phản ánh hiệu quả mà nhóm bạn cần. Voxtral cũng chưa công bố giới hạn độ dài bản ghi, nên cần kiểm thử riêng trước khi đưa vào quy trình xử lý âm thanh dài.

Một lựa chọn khác nếu cần xử lý trực tiếp là Voxtral Mini Transcribe Realtime 3, một sản phẩm riêng có khả năng truyền phát với độ trễ dưới 500 mili giây. Đừng nhầm khả năng đó với Voxtral Small Transcribe 3: bảng so sánh batch tập trung vào phiên bản Small, còn chế độ thời gian thực thuộc phiên bản Mini. Nếu tốc độ phản hồi tức thời là điều kiện bắt buộc, hãy chọn và đánh giá đúng biến thể thay vì suy rộng kết quả từ mô hình này sang mô hình kia.

Nemotron hợp với âm thanh dài, dịch thuật và quyền kiểm soát

Nemotron Transcribe có lợi thế rõ rệt khi yêu cầu nằm ngoài điểm WER tổng thể. Mô hình xử lý một lượt âm thanh dài tới một giờ với ngữ cảnh 65.536 token, hỗ trợ dịch 31 ngôn ngữ theo cả hai chiều sang và từ tiếng Anh, đồng thời cung cấp trọng số mở được phép sử dụng thương mại. Những đặc điểm này hữu ích cho nhóm cần tự triển khai, kiểm tra checkpoint hoặc xử lý bản ghi họp dài mà không muốn chia nhỏ âm thanh trước khi đưa vào mô hình.

Đổi lại, điểm 3,4% hiển thị trên bảng xếp hạng batch cao hơn mức 2,1% của Voxtral; ngay cả khi dùng mức 2,8% được nêu trong phần hỏi đáp, Voxtral vẫn thấp hơn trên chỉ số đó. Nemotron vì thế không phải lựa chọn mặc định cho mọi kho âm thanh. Giá trị của nó nằm ở độ dài xử lý, dịch thuật và khả năng kiểm soát triển khai, chứ không phải chiến thắng tổng thể về WER.

Các kết quả do từng nhà cung cấp công bố cũng không thể đặt cạnh nhau như cùng một bài thi: dữ liệu, quy tắc chuẩn hóa và cách tính khác nhau. Để chọn đúng, hãy thử cả hai trên khoảng 50 giờ bản ghi của chính bạn rồi chấm theo những lỗi gây hậu quả trong sản phẩm: tên riêng, lượt người nói, số liệu, tiền tệ và giọng đặc trưng của khách hàng. Đây là cách kiểm tra thực tế hơn việc chỉ chọn mô hình có con số quảng bá thấp nhất.

Buy if / Skip if

• Buy the Voxtral Small Transcribe 3 if bạn ưu tiên WER thấp trên chép lời hàng loạt, cần hỗ trợ hơn 50 ngôn ngữ và dữ liệu của bạn gần với giọng nói sạch.
• Skip the Voxtral Small Transcribe 3 if bạn cần trọng số mở để kiểm toán, xử lý bản ghi dài tới một giờ trong một lượt hoặc muốn dịch âm thanh sang và từ tiếng Anh.
• Buy the Nemotron 3.5 Transcribe if quy trình cần trọng số mở, bản ghi dài, dịch thuật hoặc khả năng kiểm soát triển khai trên hạ tầng của tổ chức.
• Skip the Nemotron 3.5 Transcribe if tiêu chí hàng đầu là điểm WER tổng thể thấp nhất trên bảng xếp hạng batch và bạn không cần các khả năng riêng về âm thanh dài hay dịch thuật.