nội dung
PV Tech News – Một thiết bị AI siêu nhỏ vừa được giới thiệu với khả năng chạy mô hình ngôn ngữ lên tới 120 tỷ tham số trực tiếp trên thiết bị, dù có kích thước chỉ tương đương pin sạc dự phòng. Thiết bị này nhanh chóng thu hút sự quan tâm lớn từ giới công nghệ.
Một startup công nghệ vừa giới thiệu siêu máy tính AI được xem là nhỏ nhất thế giới, với kích thước tương đương một cục pin sạc dự phòng nhưng vẫn đủ khả năng vận hành các mô hình AI quy mô lớn. Thiết bị này gây chú ý khi lập cột mốc mới với khả năng chạy mô hình ngôn ngữ lên tới 120 tỷ tham số trực tiếp trên thiết bị, thay vì phụ thuộc hoàn toàn vào hạ tầng điện toán đám mây.
Điểm đáng chú ý là toàn bộ quá trình xử lý AI diễn ra on-device, giúp giảm độ trễ, tăng tính riêng tư và hạn chế sự phụ thuộc vào kết nối internet. Thiết bị được thiết kế hướng tới các tác vụ AI chuyên sâu như suy luận mô hình lớn, xử lý dữ liệu theo thời gian thực và các ứng dụng AI biên (edge AI), những lĩnh vực đang ngày càng được quan tâm.
Xem thêm: Sau Tesla và Apple, Samsung có thể ký hợp đồng chip 2 nm hàng tỷ USD với AMD
Chi tiết
Địa chỉ tổ chức
chịu trách nhiệm
hàng hóa
Tên tổ chức chịu
trách nhiệm
hàng hóa
Khu vực xuất xứ
Thời hạn bảo
hành
Điện áp đầu vào
(V)
Công suất (W)
Loại bảo hành
Thương hiệu
750 KIM GIANG
HUNONIC HÀ NộI
Việt Nam
12 tháng
220v
14000
Bảo hành
Công Tơ Điện Hunonic Entec - Giải Pháp Tiết Kiệm Năng Lượng Thông Minh Điều Khiển
Tham khảo một số dòng laptop giá tốt tại Phong Vũ:
Dù có kích thước cực kỳ nhỏ gọn, siêu máy tính AI này vẫn sở hữu phần cứng chuyên dụng tối ưu cho xử lý AI, cho phép chạy các mô hình ngôn ngữ lớn mà trước đây thường chỉ có thể triển khai trên các hệ thống máy chủ cồng kềnh. Đây được xem là một bước tiến đáng chú ý trong nỗ lực thu nhỏ phần cứng AI mà không phải đánh đổi quá nhiều về hiệu năng.
Tuy nhiên, thiết bị cũng đặt ra một số câu hỏi liên quan đến khả năng nâng cấp phần cứng từ xa (OTA) khi không gian vật lý bị giới hạn. Điều này cho thấy dù đã đạt được những cột mốc ấn tượng, công nghệ AI siêu nhỏ gọn vẫn còn các thách thức kỹ thuật cần được giải quyết trong quá trình thương mại hóa và mở rộng quy mô.
Sự xuất hiện của siêu máy tính AI cỡ nhỏ này phản ánh xu hướng đưa AI ngày càng tiến gần hơn tới người dùng cuối, thay vì chỉ tập trung trong các trung tâm dữ liệu lớn. Trong tương lai, những thiết bị tương tự có thể đóng vai trò quan trọng trong việc mở rộng AI vào nhiều kịch bản sử dụng thực tế hơn. Theo dõi Phong Vũ Tech News để cập nhật các tin công nghệ đáng chú ý.
Bộ phát wifi 4G di động mini ROOSEE M610, chuẩn wifi 6
Nguồn: Techradar, Znew
Bài viết liên quan:
- AMD giới thiệu loạt card Radeon AI không quạt siêu yên tĩnh
- Google Translate thử nghiệm dịch ngay khi nói qua tai nghe
- Nvidia cân nhắc tăng sản lượng chip H200 cho khách hàng Trung Quốc
Bài viết gợi ý
- Phát hiện thi thể người đàn ông đang phân hủy mạnh trong căn hộ chung cư
Ngày 8/12, Công an TPHCM phối hợp với Công an phường Bình Trưng tiếp tục điều tra vụ việc một người đàn ông tử vong trong căn hộ chung cư trên địa bàn. Nạn nhân được phát hiện tử vong trong phòng vệ sinh của căn hộ chung cư. Ảnh: HC Vụ việc xảy ra tại một chung cư trên đường Mai Chí Thọ, phường Bình Trưn...
- Chạy đâu cho hết nắng
- Mẹo vặt bỏ túi: Mẹo chọn các loại thịt tươi ngon sạch sẽ
- 3 dấu hiệu trên bát hương cho thấy gia đình đang được phù hộ: Ngày Rằm nhất định phải xem kỹ
- Hành trình kết nối nụ cười của bác sĩ Phương Thảo tại nha khoa Thùy Anh
- 3 dấu hiệu vàng báo Thần Tài đến nhà, gia chủ Trúng Lộc Lớn
- Sáng 16/12: Giá vàng SJC, vàng nhẫn trơn quay đầu giảm mạnh 1 triệu đồng/lượng
- Bóc gỡ ổ nhóm “Công ty Đông Phương” dựng app giả, lừa gần 500 nạn nhân Việt Nam