Ai nói gì: Vì sao MinuteAI cung cấp tính năng phân tách người nói dưới dạng tải về, thay vì đóng gói sẵn

Bản chép lời không giống biên bản cuộc họp

Chép lời một cuộc họp một giờ có bốn người tham gia, bạn sẽ có được một bức tường chữ. Đâu đó trong đó là ai đã đồng ý điều gì, ai đã nêu phản đối mà không ai xử lý, và ai phụ trách việc tiếp theo — nhưng tất cả những điều đó vô hình cho đến khi bạn biết dòng nào thuộc về người nói nào. Biến một bản chép lời thành biên bản cuộc họp thực sự hữu ích phụ thuộc vào một bước gán nhãn người nói mà hầu hết công cụ chép lời coi là chuyện phụ: phân tách người nói (speaker diarization) — quá trình xác định ai đã nói gì và khi nào.

Chúng tôi từng viết về quy trình chép lời trên thiết bị của MinuteAI và Tiện ích Chrome không bao giờ để bot tham gia cuộc gọi. Phân tách người nói là phần biến bản chép lời từ một khối văn bản thành thứ có cấu trúc — và đó cũng là phần đã phá vỡ thói quen thường thấy của MinuteAI: cứ chạy mọi thứ trên thiết bị mà không cần đắn đo.

Vấn đề khi làm điều này trên thiết bị

Việc chép lời dựa trên Whisper — thứ MinuteAI vốn đã chạy qua Core ML — là một mô hình dễ quản lý để giữ thường trực trong một ứng dụng macOS hoặc iOS gốc. Phân tách người nói là một câu chuyện hoàn toàn khác. Tính năng phân tách người nói của MinuteAI được xây dựng trên pyannote.audio, thư viện mã nguồn mở gần như đã trở thành chuẩn mực thực tế cho tác vụ này, và pyannote.audio chạy trên PyTorch. Không cái nào trong hai thứ đó có thể đóng gói thành một mô hình CoreML gọn nhẹ để nhét vào bundle ứng dụng; chỉ riêng các phụ thuộc runtime — Python, PyTorch, và cây phụ thuộc của chính pyannote bao gồm cả scikit-learn và networkx — đã nặng khoảng 743MB sau khi giải nén.

Đóng gói sẵn tất cả những thứ đó vào mỗi bản cài đặt đồng nghĩa với việc mọi người dùng MinuteAI phải trả một khoản “thuế” vài trăm megabyte cho một tính năng mà phần lớn trong số họ có thể chẳng bao giờ bật lên. Vì vậy MinuteAI không đóng gói sẵn nó. Phân tách người nói được cung cấp dưới dạng một bản tải về riêng, tùy chọn: một runtime Python 3.13 độc lập với PyTorch 2.10 và pyannote.audio 4.0.4 được cài đặt sẵn, đóng gói còn khoảng 234MB sau khi nén, được tải về từ một bản phát hành trên GitHub Releases chỉ khi người dùng bật tính năng phân tách người nói trong phần Cài đặt. Bản cài đặt của tất cả những người dùng khác vẫn giữ nguyên kích thước nhỏ gọn như trước.

Một tiến trình con, không phải một cầu nối

Kiến trúc giúp điều này hoạt động được là giữ runtime Python ở một khoảng cách nhất định với phần còn lại của ứng dụng. Thay vì nhúng một trình thông dịch Python vào tệp nhị phân SwiftUI thông qua một thư viện cầu nối nào đó, mã Swift của MinuteAI khởi chạy runtime đã tải về như một tiến trình con và giao tiếp qua ranh giới đó — một thành phần quản lý runtime Python xử lý việc tải về và vòng đời của nó, một trình chạy tiến trình con xác định nên gọi tệp nhị phân Python nào, và một engine phân tách người nói tải mô hình rồi chạy suy luận thông qua tiến trình con đó. Nếu tính năng phân tách người nói không bao giờ được bật, không đoạn mã nào trong luồng đó được thực thi và runtime đó không bao giờ được tải về. Đây chính là tinh thần đứng sau thiết kế trình quản lý mô hình trong quy trình chép lời cốt lõi của MinuteAI — tải lười biếng, không có gì thường trực cho đến khi thực sự cần — được áp dụng cho một phụ thuộc nặng hơn một mô hình CoreML cả một bậc độ lớn.

Sự tách biệt đó cũng đồng nghĩa với việc runtime phân tách người nói có phiên bản độc lập với chính ứng dụng. Nó có lịch sử phát hành riêng, tách biệt khỏi số phiên bản của MinuteAI, nên mô hình và các phụ thuộc của nó có thể được cập nhật mà không buộc phải phát hành ứng dụng mới, và ứng dụng có thể phát hành mà không cần đụng đến ngăn xếp phân tách người nói.

Điều mà việc ghi công thực sự đòi hỏi

Mô hình đứng sau tính năng phân tách người nói — pyannote/speaker-diarization-community-1 — đi kèm một chuỗi cấp phép riêng đáng để nói rõ, vì đó là một ràng buộc thực sự trong quy trình build, không phải một chú thích phụ. Nó được phân phối theo giấy phép CC-BY-4.0, yêu cầu ghi công cho các tác giả (Hervé Bredin và cộng sự), và việc lấy nó từ Hugging Face ngay từ đầu đòi hỏi một token truy cập gắn với việc chấp nhận điều khoản của mô hình đó — một bước mà mỗi lần build runtime đều phải hoàn tất trước khi mô hình có thể được đóng gói vào một bản phát hành, dù sản phẩm cuối cùng lại là một bản tải về công khai cho bất kỳ ai. Bản thân pyannote.audio được cấp phép MIT, còn runtime Python theo giấy phép PSF — ba giấy phép khác nhau chồng lên nhau trong một bản tải về duy nhất, mỗi giấy phép mang một nghĩa vụ riêng.

Phần kỹ thuật cũng không hề suôn sẻ, và điều đó đáng được nói thẳng thay vì lướt qua. Dòng pyannote 4.x đã thay đổi API đầu ra giữa chừng, bọc kết quả trong một đối tượng DiarizeOutput thay vì trả về trực tiếp Annotation, khiến mã tích hợp hiện có ngừng hoạt động cho đến khi được sửa. Và để xác minh rằng toàn bộ pipeline thực sự phát hiện được giọng nói, cần phải tạo ra giọng nói thật bằng chính tính năng đọc văn bản của macOS thay vì các tông thử nghiệm tổng hợp — mô hình này không nhận diện đáng tin cậy âm thanh tổng hợp là giọng nói. Đó là những chi tiết nhỏ, nhưng chính những chi tiết như vậy phân biệt một tính năng phân tách người nói thực sự phát hành được với một tính năng chỉ trông có vẻ hoàn chỉnh trong một bản demo.

Thị trường thực sự đang đi về đâu

Quyết định giữ tính năng phân tách người nói tránh xa máy chủ không diễn ra trong sự cô lập. Phần lớn các công cụ ghi biên bản cuộc họp dựa trên đám mây vẫn thực hiện phân tách người nói đúng ở nơi bạn nghĩ tới — bên trong chính hạ tầng đã nhận âm thanh được tải lên, tính toán các embedding của người nói và lưu trữ chúng cùng với bản chép lời. Nhưng trọng tâm đang rõ ràng dịch chuyển: pyannote.ai, doanh nghiệp thương mại được xây dựng quanh chính thư viện pyannote.audio mà MinuteAI phụ thuộc vào, đã hợp tác với Argmax với mục tiêu cụ thể là đưa các mô hình phân tách người nói chính xác nhất của họ lên thiết bị — công ty từng góp phần định hình phân tách người nói trên đám mây thành một hạng mục API-first giờ đây đang đầu tư để chạy chính những mô hình đó cục bộ. Và đó không phải là tín hiệu duy nhất: ngày càng nhiều công cụ họp quảng bá tính năng phân tách người nói “hoàn toàn cục bộ” như một yếu tố khác biệt rõ rệt so với chuẩn mực tải lên rồi xử lý, định vị việc gán nhãn người nói trên thiết bị như một phân khúc riêng biệt, thúc đẩy bởi quyền riêng tư, chứ không phải một thử nghiệm ngách.

Cách tiếp cận runtime-tải-về của MinuteAI là một câu trả lời cụ thể, đôi khi có phần vụng về, cho một ràng buộc có thật — một phụ thuộc ML nặng nề không vừa với dấu chân của phần còn lại trong một ứng dụng trên thiết bị — nhưng nó lại đi đến đúng nơi mà phân khúc đó đang hướng tới: âm thanh và dữ liệu người nói không bao giờ rời khỏi thiết bị đã ghi lại chúng, kể cả phần chép lời.

Vị trí trong hệ sinh thái sản phẩm

Chép lời quyết định điều gì đã được nói. Tiện ích Chrome quyết định âm thanh được thu như thế nào mà không cần bot có mặt trong cuộc gọi. Phân tách người nói quyết định ai đã nói điều đó. Ba bài toán kỹ thuật khác nhau, nhưng cùng chung một nguyên tắc không thể thương lượng bên dưới: không điều gì về một cuộc trò chuyện — nội dung của nó, cách nó được thu lại, hay ai đã nói — cần phải rời khỏi thiết bị nơi nó diễn ra.

---

MinuteAI có sẵn trên App Store cho macOS và iOS, hoặc bạn có thể tìm hiểu thêm tại getminute.app. Có câu hỏi về cách nó phù hợp với quy trình làm việc của bạn? Hãy liên hệ tại [email protected].