-
Tether’s BitNet LoRA framework enables AI model training across smartphones, GPUs, and consumer devices.
-
Hệ thống giảm tiêu thụ bộ nhớ và tăng hiệu suất, với yêu cầu VRAM thấp hơn tới 77,8%.
-
Người dùng có thể tinh chỉnh các mô hình lên đến 13B tham số trên thiết bị di động, mở rộng khả năng AI tại biên.
Tether công bố một khung AI mới thông qua nền tảng QVAC Fabric, cho phép đào tạo BitNet LoRA đa nền tảng trên các thiết bị tiêu dùng. Cập nhật này cho phép các mô hình hàng tỷ tham số chạy trên điện thoại thông minh và GPU. CEO Paolo Ardoino chia sẻ về sự phát triển này, nhấn mạnh giảm chi phí và mở rộng truy cập các công cụ AI.
Đào tạo AI đa nền tảng mở rộng khả năng tiếp cận
Cập nhật QVAC Fabric giới thiệu hỗ trợ đa nền tảng cho tinh chỉnh BitNet LoRA. Điều này cho phép các mô hình AI chạy trên các phần cứng và hệ điều hành khác nhau.
Đặc biệt, khung hỗ trợ GPU từ AMD, Intel và Apple, bao gồm cả chip di động. Nó cũng sử dụng các backend Vulkan và Metal để đảm bảo tương thích.
Theo Tether, đây là lần đầu tiên BitNet LoRA hoạt động trên phạm vi rộng như vậy của các thiết bị. Do đó, người dùng có thể đào tạo mô hình trên phần cứng hàng ngày.
Hiệu suất cải thiện trên phần cứng tiêu dùng
Hệ thống giảm nhu cầu bộ nhớ và tính toán bằng cách kết hợp các kỹ thuật BitNet và LoRA. BitNet nén trọng số mô hình thành các giá trị đơn giản, trong khi LoRA giới hạn các tham số có thể đào tạo.
Cùng nhau, các phương pháp này giảm đáng kể yêu cầu phần cứng. Ví dụ, inference GPU nhanh gấp hai đến mười một lần so với CPU trên thiết bị di động.
Ngoài ra, mức sử dụng bộ nhớ giảm mạnh so với các mô hình chính xác đầy đủ. Các bài kiểm tra cho thấy sử dụng VRAM ít hơn tới 77,8% so với các hệ thống tương tự.
Tether cũng đã thể hiện khả năng tinh chỉnh trên điện thoại thông minh. Các thử nghiệm cho thấy mô hình 125 triệu tham số được đào tạo trong vài phút trên các thiết bị như Samsung S25.
Thiết bị di động và biên xử lý các mô hình lớn hơn
Khung này cho phép các mô hình lớn hơn chạy trên các thiết bị biên. Tether báo cáo đã thành công trong việc tinh chỉnh các mô hình lên đến 13 tỷ tham số trên iPhone 16.
Hơn nữa, hệ thống hỗ trợ GPU di động như Adreno, Mali và Apple Bionic. Điều này mở rộng phát triển AI vượt ra ngoài phần cứng chuyên dụng.
Theo Paolo Ardoino, phát triển AI thường phụ thuộc vào hạ tầng đắt đỏ. Ông nói rằng khung này chuyển khả năng về phía các thiết bị địa phương.
Tether bổ sung rằng hệ thống giảm sự phụ thuộc vào các nền tảng tập trung. Nó cũng cho phép người dùng đào tạo và xử lý dữ liệu trực tiếp trên thiết bị của họ.
Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ bên thứ ba và không đại diện cho quan điểm hoặc ý kiến của Gate. Nội dung hiển thị trên trang này chỉ mang tính chất tham khảo và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Gate không đảm bảo tính chính xác hoặc đầy đủ của thông tin và sẽ không chịu trách nhiệm cho bất kỳ tổn thất nào phát sinh từ việc sử dụng thông tin này. Đầu tư vào tài sản ảo tiềm ẩn rủi ro cao và chịu biến động giá đáng kể. Bạn có thể mất toàn bộ vốn đầu tư. Vui lòng hiểu rõ các rủi ro liên quan và đưa ra quyết định thận trọng dựa trên tình hình tài chính và khả năng chấp nhận rủi ro của riêng bạn. Để biết thêm chi tiết, vui lòng tham khảo
Tuyên bố miễn trừ trách nhiệm.
Bài viết liên quan
Các lệnh trừng phạt của Mỹ đối với các ví crypto liên quan đến Iran nắm giữ $344M bị Tether phong tỏa
Theo CNN, Bộ trưởng Tài chính Hoa Kỳ Scott Bessent đã công bố lệnh trừng phạt đối với nhiều ví liên quan đến Iran, như một phần trong nỗ lực của Tổng thống Donald Trump nhằm gia tăng sức ép kinh tế lên quốc gia này. Động thái này diễn ra sau việc Tether đã đóng băng $344 triệu USDT trên Tron, vốn đã được liên kết với
CryptoFrontier3giờ trước
Mỹ áp lệnh trừng phạt các ví tiền mã hóa liên quan đến Iran, Tether đóng băng $344M USDT
Bộ trưởng Tài chính Mỹ Scott Bessent thông báo rằng chính phủ liên bang đang trừng phạt nhiều ví liên quan đến Iran như một phần trong nỗ lực liên tục của Tổng thống Donald Trump nhằm gia tăng sức ép kinh tế lên quốc gia này trong bối cảnh vẫn đang có lệnh ngừng bắn. Động thái này diễn ra một ngày sau khi Tether đã đóng băng $344
CryptoFrontier9giờ trước
Hoa Kỳ Áp lệnh Trừng phạt Các Ví Crypto Liên quan đến Iran; Tether Đóng băng $344M USDT Phối hợp với OFAC
Tin tức từ Gate, ngày 25 tháng 4 — Bộ Tài chính Hoa Kỳ đã trừng phạt nhiều ví tiền điện tử liên quan đến Iran vào ngày 24 tháng 4, như một phần nỗ lực nhằm gia tăng sức ép kinh tế lên quốc gia này trong bối cảnh lệnh ngừng bắn vẫn đang được duy trì. Bộ trưởng Tài chính Scott Bessent cho biết chính phủ sẽ "theo dấu tiền"
GateNews15giờ trước
Tether đúc $3B USDT trong tuần qua, Abraxas Capital nhận $2,89B
Tin tức Gate, ngày 25 tháng 4 — Theo Lookonchain, Tether đã đúc $3 tỷ USDT trong tuần vừa qua (từ ngày 18–25 tháng 4). Abraxas Capital đã nhận $2,89 tỷ USDT từ Kho bạc Tether trong cùng thời gian đó
GateNews18giờ trước
Các lệnh trừng phạt của Hoa Kỳ nhắm vào các ví tiền mã hóa liên quan đến Iran, Tether đóng băng $344M USDT
Bộ trưởng Tài chính Hoa Kỳ Scott Bessent cho biết vào thứ Sáu rằng chính phủ liên bang đang áp đặt lệnh trừng phạt đối với nhiều ví liên quan đến Iran như một phần trong nỗ lực của Tổng thống Donald Trump nhằm gia tăng sức ép kinh tế lên quốc gia này trong bối cảnh lệnh ngừng bắn vẫn đang diễn ra, theo CNN. Hành động này diễn ra sau việc Tether's
CryptoFrontier22giờ trước
Lệnh trừng phạt của Mỹ nhắm vào các ví tiền mã hóa liên quan đến Iran; Tether phong tỏa $344 triệu USDT
Tin tức Cổng, ngày 24 tháng 4 — Bộ trưởng Tài chính Hoa Kỳ Scott Bessent đã công bố lệnh trừng phạt đối với nhiều ví liên quan đến Iran vào hôm thứ Năm, như một phần trong nỗ lực của Tổng thống Donald Trump nhằm gia tăng sức ép kinh tế lên quốc gia này trong bối cảnh lệnh ngừng bắn vẫn đang tiếp diễn. "Chúng tôi sẽ lần theo dòng tiền mà Tehran đang tuyệt vọng tìm cách chuyển ra khỏi đất nước và nhắm vào mọi điểm tựa tài chính gắn với chế độ," Bessent cho biết trong một tuyên bố.
GateNews04-24 16:19
