322 Giọng Nói, 142 Ngôn Ngữ, Không Máy Chủ: Để Nhét Được Từng Đó Giọng Nói Vào Một Tab Trình Duyệt

Con Số Dễ Bị Lướt Qua

Hầu hết các bài viết về công cụ AI chạy trong trình duyệt đều mở đầu bằng cùng một tiêu đề: không có gì được tải lên, không có máy chủ nào can thiệp. PrivateAI cũng nằm trong khuôn khổ đó, nhưng công cụ chuyển văn bản thành giọng nói (TTS) của nó còn mang một con số thứ hai đáng để dừng lại: hơn 322 giọng nói trên 142 ngôn ngữ, được tạo ra hoàn toàn trên GPU của chính người dùng, cùng với một công cụ nhận dạng giọng nói (STT) riêng biệt phủ 99 ngôn ngữ. Đó không phải thông số của một bản demo trình duyệt gắn thêm vào thông điệp “không tải lên”. Về quy mô, nó gần với những gì một API đám mây tính phí theo lượt cung cấp hơn — nhưng không cần tài khoản, không cần máy chủ, và không mất phí.

Cái Khó Nằm Ở Độ Phủ, Không Phải Tốc Độ

Phần lớn các bài viết về AI chạy trên thiết bị tập trung vào tốc độ, vì trước đây đó chính là rào cản. WebGPU chỉ mới phủ đến phần lớn các trình duyệt trong vài năm gần đây, còn trước đó, chạy bất kỳ mô hình thực sự nào phía client đều cho ra một bản demo chậm và giật. Nhưng tốc độ và độ phủ là hai bài toán kỹ thuật hoàn toàn khác nhau. Một mô hình một-ngôn-ngữ, một-giọng-nói là bài toán đã được giải quyết trên phần cứng phổ thông. Trong khi đó, để phủ 142 ngôn ngữ với hàng trăm giọng nói khác nhau, cần phải đóng gói nhiều mô hình riêng biệt — mỗi ngôn ngữ hoặc nhóm ngôn ngữ một mô hình — hoặc xây dựng một mô hình đủ tổng quát để chứa được lượng biến thể ngữ âm và ngữ điệu đó mà không phình to vượt quá những gì một tab trình duyệt có thể tải về và giữ trong bộ nhớ một cách hợp lý. Không con đường nào là miễn phí, và đó là lý do phần lớn các dự án TTS chạy cục bộ, triển khai được trong trình duyệt, chỉ hỗ trợ một phần nhỏ số ngôn ngữ đó.

Những Gì Mã Nguồn Mở Thực Sự Cung Cấp

Hai engine thường được nhắc đến nhất khi nói về tổng hợp giọng nói phía client cho thấy rõ khoảng cách này. Kokoro, một mô hình 82 triệu tham số phát hành theo giấy phép Apache 2.0 và từng đứng đầu bảng xếp hạng TTS Arena, cung cấp 54 giọng nói trên 9 biến thể ngôn ngữ — tiếng Anh, Nhật, Trung, Tây Ban Nha, Pháp, Hindi, Ý, Bồ Đào Nha và Hàn Quốc — với trọng số được lưu cache trong bộ nhớ trình duyệt và quá trình tổng hợp chạy trên WebGPU hoặc WebAssembly. Piper, một engine TTS cục bộ đã có chỗ đứng, cũng được dùng trong các dự án như Home Assistant, phủ rộng hơn — hơn 100 giọng trên hơn 30 ngôn ngữ — chạy qua WebAssembly mà không cần đến GPU. Cả hai đều là dự án có thật, đang được duy trì tích cực, và cả hai đều còn cách xa con số 142 ngôn ngữ. Đó là điểm khiến con số của PrivateAI đáng chú ý: nó không đơn thuần là “TTS tình cờ chạy cục bộ”, mà là TTS cục bộ với độ phủ ngôn ngữ gần với một API giọng nói đám mây đa dụng hơn là với các engine mã nguồn mở được xây riêng cho cùng ràng buộc chạy trong trình duyệt.

Lựa Chọn Trả Phí Sẽ Tốn Bao Nhiêu

Vế còn lại của phép so sánh này là chi phí thông thường để có được độ phủ như vậy nếu chạy trên đám mây. ElevenLabs, nền tảng AI giọng nói thường được đem ra so sánh về độ phủ và chất lượng, tính phí 0,05 đô la cho mỗi 1.000 ký tự với các mô hình Flash/Turbo và 0,10 đô la cho mỗi 1.000 ký tự với các mô hình Multilingual v2/v3, với thư viện giọng nói ở các gói trả phí lên tới khoảng 3.000 giọng. Dịch vụ Text-to-Speech của Azure định giá giọng nói neural ở mức 16 đô la trên mỗi triệu ký tự, tăng lên 22 đô la trên mỗi triệu ký tự với tầng HD mới, sau hạn mức miễn phí 500.000 ký tự mỗi tháng. Cả hai đều có mức giá hợp lý so với mặt bằng API đám mây — nhưng cả hai đều tính phí theo lượt sử dụng, vì mỗi ký tự được tổng hợp đều tốn chi phí GPU thực sự cho nhà cung cấp ở đâu đó. Một công cụ đưa được độ phủ ngôn ngữ tương đương lên chính GPU của người dùng không né tránh đồng hồ tính phí đó bằng cách giảm giá — mà né tránh nó ngay từ cấu trúc.

Sự Đánh Đổi Mà Một Tab Trình Duyệt Thực Sự Chọn

Điều đó không có nghĩa TTS chạy trên thiết bị đơn giản là kiến trúc “tốt hơn” đám mây — đó là một kiến trúc khác, phù hợp với một loại công việc cụ thể. Lý do những công cụ phạm vi hẹp, được xác định rõ ràng như chuyển giọng nói, OCR, xóa nền lại chạy tốt trong một tab trình duyệt — còn một mô hình suy luận mở thì không — là vì chúng đủ nhỏ để vừa với bộ nhớ và năng lực tính toán mà một GPU phổ thông thực sự có. Việc mở rộng độ phủ giọng nói và ngôn ngữ đi thẳng vào đúng ràng buộc đó. Đó là lý do khiến nó là con số khó dịch chuyển hơn — làm cho một mô hình chạy nhanh dễ hơn nhiều so với làm cho nó lưu loát ở 142 ngôn ngữ mà không phình to vượt quá khả năng của thiết bị phải chạy nó.

Ý Nghĩa Vượt Ra Ngoài Một Con Số Thông Số Kỹ Thuật

Với một công ty mà năm sản phẩm còn lại đều xây dựng công cụ cho những người buộc phải làm việc xuyên nhiều ngôn ngữ — đội ngũ sản xuất đọc bản vẽ bằng tiếng Nhật, ghi chú cuộc họp được lưu lại xuyên nhiều thị trường, các hệ thống legacy được xây dựng từ thời của một bảng mã ký tự khác — một công cụ trình duyệt đọc văn bản thành tiếng ở 142 ngôn ngữ mà không cần máy chủ hay gói thuê bao là một ví dụ nhỏ nhưng cụ thể cho cùng một niềm tin: rằng xử lý trên thiết bị có thể không chỉ tiệm cận, mà còn sánh ngang những gì một dịch vụ đám mây tính phí theo lượt cung cấp.

---

Tò mò muốn nghe thử giọng nói tổng hợp không cần máy chủ, không cần tài khoản, với 142 ngôn ngữ để lựa chọn? Dùng thử PrivateAI miễn phí — hoặc liên hệ tại [email protected].