TokForge

TokForge chạy các mô hình AI đầy đủ trực tiếp trên điện thoại của bạn. Không cần đám mây, không cần tài khoản, không cần đăng ký. Cuộc trò chuyện của bạn không bao giờ rời khỏi thiết bị.

Trò chuyện và nhập vai. Tạo nhân vật hoặc nhập thẻ từ chub.ai và TavernAI (PNG/JSON). Hồ sơ nhân vật, sách truyền thuyết, lời chào thay thế và các cuộc trò chuyện nhóm, nơi mỗi nhân vật có thể nói bằng giọng nói riêng của mình.

Tạo hình ảnh trên thiết bị. Nhập lệnh và nhận hình ảnh mà không cần kết nối internet. Chạy trên CPU ở mọi nơi, với khả năng tăng tốc NPU trên các thiết bị Snapdragon được hỗ trợ.

Nói chuyện với nó. Chuyển văn bản thành giọng nói Kokoro với nhiều giọng nói, cộng với khả năng sao chép giọng nói: ghi âm một đoạn ngắn và TokForge sẽ nói bằng giọng đó. Bao gồm tính năng nhập liệu bằng giọng nói.

Hỏi tài liệu của bạn. Kéo thả tệp PDF, DOCX, EPUB hoặc tệp văn bản và đặt câu hỏi về nó. Bộ nhớ dài hạn và biểu đồ kiến ​​thức theo dõi những gì quan trọng trong suốt các cuộc trò chuyện.

Tìm kiếm trên web, khi bạn cần. Mặc định là tắt. Bật lên để cung cấp thông tin hiện tại cho mô hình.

Ba công cụ, được tinh chỉnh cho chip của bạn. llama.cpp (GGUF), MNN với OpenCL và đường dẫn GPU Vulkan, hoặc kết nối với máy chủ tương thích OpenAI của riêng bạn. Định tuyến nhận biết SoC tự động chọn đường dẫn nhanh nhất.

Tìm và đánh giá hiệu năng các mô hình. Một danh mục mô hình được tuyển chọn phù hợp với thiết bị của bạn, cùng với trình tải xuống tích hợp với tính năng tìm kiếm Hugging Face. ForgeLab đánh giá hiệu năng mọi sự kết hợp giữa mô hình và backend trên phần cứng của bạn và đăng lên bảng xếp hạng công khai tại leaderboard.tokforge.ai nếu bạn chọn.

Sao lưu và khôi phục mọi thứ. API dành cho nhà phát triển với hơn 280 điểm cuối cục bộ. Không phân tích dữ liệu, không thu thập dữ liệu từ xa, hoạt động ngay cả khi ở chế độ máy bay.