Qualcomm AI Hub sẽ hỗ trợ ứng dụng AI trên máy PC Snapdragon

Tại sự kiện Microsoft Build 2024, Qualcomm đã công bố việc mở rộng Trung tâm Trí tuệ Nhân tạo Qualcomm AI Hub, nhằm hỗ trợ Nền tảng Snapdragon X Series. Qua đó, giúp rút ngắn thời gian đưa sản phẩm ra thị trường cho các nhà phát triển và kích hoạt những lợi ích của AI tạo sinh trên thiết bị cho các dòng PC Windows thuộc thế hệ tiếp theo.

Đại diện Qualcomm cho biết,  các nhà phát triển giờ đây có thể dùng các mô hình AI của riêng và tối ưu hóa chúng một cách dễ dàng để hoạt động trực tiếp trên thiết bị. Khả năng chạy các mô hình AI trên thiết bị mang lại những lợi thế đáng kể, đơn cử như phản hồi nhanh hơn, quyền riêng tư được tăng cường, độ tin cậy được cải thiện và mang đến trải nghiệm được cá nhân hóa hơn cho người dùng.

Được biết, Qualcomm AI Hub là cổng thông tin dành cho các nhà phát triển, cung cấp tài nguyên, công cụ và dịch vụ, cho phép đạt được hiệu năng AI vượt trội trên thiết bị, đi kèm một thư viện đang được liên tục phát triển với hơn 100 mô hình AI được tối ưu hóa sẵn và sẽ có thể sử dụng ngay trên Hugging Face và GitHub. Bên cạnh đó, Qualcomm AI Hub hiện cho phép các nhà phát triển “Xây dựng Mô hình của riêng mình” (Bring Your Own Model – BYOM) – với khả năng tải lên, tối ưu hóa và biên dịch các mô hình này để chạy hiệu quả trên các nền tảng Snapdragon và Qualcomm – trong đó bao gồm hỗ trợ tất cả các công cụ thư viện chính như PyTorch, TensorFlow và ONNX. Chỉ với vài dòng code và trong chưa đầy năm phút, các nhà phát triển có thể dễ dàng kiểm chứng và xác thực các mô hình trên các thiết bị  giả lập trên Cloud. Bằng cách đơn giản hóa quá trình tối ưu hóa và xác minh mô hình, các nhà phát triển có thể tiết kiệm đáng kể thời gian và công sức, đẩy nhanh chu kỳ phát triển với chu trình triển khai, cải tiến sản phẩm được rút ngắn.

Các nhà sản xuất thiết bị gốc (OEMs) cho PC hàng đầu thế giới, bao gồm Acer, ASUS, Dell, HP, Lenovo, Samsung và OEM7, dự kiến sẽ ra mắt các sản phẩm PC được trang bị Nền tảng Điện toán Snapdragon X Elite và/hoặc X Plus, cho phép các nhà phát triển sử dụng Qualcomm AI Hub nhằm mang lại trải nghiệm vượt trội cho thế hệ thiết bị mới này.

Nền tảng Snapdragon X Series hỗ trợ nhiều công cụ phát triển AI. Nhờ tích hợp sâu với ONNX Runtime và Hugging Face Optimum, cũng như hỗ trợ Llama.cpp, giờ đây các nhà phát triển có thể chạy hàng nghìn mô hình trên Nền tảng Snapdragon X Series và xây dựng các ứng dụng Windows phong phú được hỗ trợ bởi AI. Các nhà phát triển cũng có thể tìm hiểu về AI trên thiết bị và cách triển khai công nghệ này cho ứng dụng của mình trong khóa học trực tuyến do DeepLearning.AI hợp tác với Qualcomm Technologies cung cấp.