Transformers documentation
Open WebUI
Bắt đầu
Lớp cơ sở
Mô hình
Bộ tiền xử lý
Suy luận
Pipeline API
Tạo API
Tối ưu hóa
Trò chuyện với các model
Serving
Huấn luyện
Phần cứng
Lượng tử hóa
Tích hợp hệ sinh thái
Tài nguyên
API
Open WebUI
Open WebUI cung cấp giao diện tự lưu trữ cho các mô hình ngoại tuyến. Bật CORS để phục vụ các mô hình cục bộ (mặc định là tắt vì lý do bảo mật).
transformers serve --enable-cors
Để sử dụng máy chủ cho chức năng chuyển giọng nói thành văn bản, hãy chuyển đến Cài đặt > Âm thanh.
- Đặt Speech-to-Text Engine thành OpenAI.
- Đặt URL thành http://localhost:8000/v1.
- Nhập mô hình chuyển văn bản thành chữ vào SST Model (openai/whisper-large-v3). Tìm thêm các mô hình trên Hub.
Bắt đầu trò chuyện và nói. Mô hình sẽ chuyển đổi âm thanh của bạn thành văn bản trong trường nhập liệu.
Update on GitHub