Chép lời Local Whisper cho Windows với việc chuyển đổi giọng nói được tăng tốc bằng GPU
VoZii chuyển đổi lời nói thành văn bản cục bộ bằng cách sử dụng Whisper của OpenAI thông qua whisper.cpp, chèn văn bản tại con trỏ trong bất kỳ ứng dụng Windows nào. haZii.org phát hành tiện ích Windows chú trọng đến quyền riêng tư này dưới dạng tệp thực thi di động. Các chức năng chính bao gồm tăng tốc GPU (CUDA và Vulkan), phím tắt đẩy để nói toàn cầu, và xử lý hậu kỳ Ollama tùy chọn cho ngữ pháp và định dạng. Công cụ này phù hợp với những người viết, nhà phát triển và người dùng có nhu cầu truy cập chú trọng đến quyền riêng tư, những người thích xử lý mô hình cục bộ và chèn văn bản trực tiếp hơn là các dịch vụ đám mây.
VoZii thực sự làm gì trong quy trình làm việc trên máy tính để bàn?
VoZii chạy các mô hình Whisper cục bộ thông qua whisper.cpp và gõ văn bản đã được phiên âm vào cửa sổ đang hoạt động tại vị trí con trỏ, vì vậy văn bản được đọc sẽ xuất hiện trong các trình soạn thảo, trình duyệt hoặc ứng dụng trò chuyện mà không cần chuyển đổi ngữ cảnh. Ứng dụng được cung cấp dưới dạng một tệp thực thi 64-bit di động duy nhất và cung cấp một phím tắt toàn cầu trong chế độ nhấn để nói hoặc chế độ chuyển đổi để kiểm soát khi nào âm thanh được ghi lại.
VoZii có ảnh hưởng đến hiệu suất hệ thống trong quá trình phiên âm không?
Ứng dụng có thể chạy trên các hệ thống chỉ có CPU nhưng được thiết kế đặc biệt để sử dụng tăng tốc GPU thông qua CUDA cho NVIDIA hoặc Vulkan cho AMD và Intel, điều này giúp giảm độ trễ phiên âm so với xử lý CPU. Bởi vì nó sử dụng phần cứng cục bộ cho suy diễn mô hình, tác động có thể đo lường phụ thuộc vào việc hệ thống định tuyến suy diễn mô hình đến GPU hay CPU; các máy trang bị GPU sẽ thấy việc gõ văn bản nhanh hơn, gần như theo thời gian thực.
VoZii có an toàn cho âm thanh nhạy cảm và phù hợp cho các quy trình làm việc thông thường không?
VoZii thực hiện nhận dạng cục bộ sau khi tải xuống mô hình ban đầu, vì vậy không có âm thanh nào được gửi đến các máy chủ bên ngoài trong quá trình sử dụng bình thường. Tích hợp tùy chọn với Ollama thực hiện xử lý sau trên một mô hình cục bộ, giữ dữ liệu trên máy. Thiết kế di động của ứng dụng tránh thay đổi cài đặt cho hệ thống, điều này hữu ích khi bạn cần một công cụ không ghi lại các mục bền vững trên nhiều máy.
Công cụ đánh chính địa phương mạnh mẽ cho người dùng có tư duy kỹ thuật và chú trọng đến quyền riêng tư
VoZii phù hợp với những người dùng chấp nhận trách nhiệm quản lý các mô hình địa phương và tăng tốc phần cứng để đạt được việc chuyển đổi văn bản trên thiết bị và bảo mật. Mong đợi một số công việc thiết lập khi kích hoạt tăng tốc GPU hoặc tích hợp một phiên bản Ollama địa phương; những người dùng ưa thích dịch vụ đánh chính plug-and-play, được cung cấp bởi đám mây có thể thấy rằng sự đánh đổi này không được hoan nghênh. Được khuyến nghị cho bất kỳ ai ưu tiên xử lý địa phương và chèn văn bản trực tiếp vào quy trình làm việc trên máy tính để bàn.