Qualcomm AI Hub mở rộng sang ứng dụng AI trên các dòng PC trang bị Snapdragon

Điều này giúp rút ngắn thời gian đưa sản phẩm ra thị trường cho các nhà phát triển và kích hoạt những lợi ích của AI tạo sinh trên thiết bị cho các dòng PC Windows thuộc thế hệ tiếp theo.

Bên cạnh đó, các nhà phát triển có thể tạo ra các mô hình AI của riêng họ và tối ưu hóa chúng để hoạt động trực tiếp một cách mượt mà, dễ dàng trên thiết bị. Khả năng chạy các mô hình AI trên thiết bị mang lại những lợi thế đáng kể, bao gồm phản hồi nhanh hơn, quyền riêng tư được tăng cường, độ tin cậy được cải thiện và mang đến trải nghiệm được cá nhân hóa hơn cho người dùng.

"Bằng việc hỗ trợ Nền tảng Snapdragon X Series trong Trung tâm Trí tuệ Nhân tạo Qualcomm AI Hub, chúng tôi đang cung cấp cho các nhà phát triển sự linh hoạt và sức mạnh để tạo ra các ứng dụng AI tiên tiến cho các sản phẩm PC Windows thuộc thế hệ tiếp theo" ông Durga Malladi, Phó Chủ tịch cấp cao kiêm Giám đốc điều hành mảng lập kế hoạch công nghệ và giải pháp biên của Qualcomm Technologies, Inc. cho biết.

"Chúng tôi cam kết cung cấp cho các nhà phát triển những công cụ và tài nguyên cần thiết nhằm khai phóng toàn bộ tiềm năng của trí tuệ nhân tạo tổng hợp trên thiết bị" ông Durga Malladi nhấn mạnh.

Qualcomm AI Hub là cổng thông tin dành cho các nhà phát triển, cung cấp tài nguyên, công cụ và dịch vụ, cho phép đạt được hiệu năng AI vượt trội trên thiết bị, đi kèm một thư viện đang liên tục phát triển với hơn 100 mô hình AI được tiền tối ưu hóa và sẽ có thể sử dụng ngay trên Hugging Face và GitHub. Bên cạnh đó, Qualcomm AI Hub hiện cho phép các nhà phát triển “Xây dựng Mô hình của riêng mình” (Bring Your Own Model – BYOM) – với tính năng đăng tải, tối ưu hóa và biên dịch các mô hình này để chạy hiệu quả trên các nền tảng Snapdragon và Qualcomm® – trong đó bao gồm hỗ trợ tất cả các khung chính như PyTorch, TensorFlow và ONNX.

Chỉ với vài dòng code và trong chưa đầy năm phút, các nhà phát triển có thể dễ dàng kiểm chứng và xác thực các mô hình trên các thiết bị lưu trữ đám mây. Bằng cách đơn giản hóa quá trình tối ưu hóa và xác minh mô hình, các nhà phát triển có thể tiết kiệm đáng kể thời gian và công sức, đẩy nhanh chu kỳ phát triển tạo điều kiện cho vòng đời triển khai các bước lặp lại nhằm phát triển, cải tiến sản phẩm được rút ngắn.

Các nhà sản xuất thiết bị gốc (OEMs) cho PC hàng đầu toàn cầu, bao gồm Acer, ASUS, Dell, HP, Lenovo, Samsung và OEM7, dự kiến sẽ ra mắt các sản phẩm PC được trang bị Nền tảng Điện toán Snapdragon X Elite và/hoặc X Plus, cho phép các nhà phát triển sử dụng Qualcomm AI Hub để mang lại trải nghiệm vượt trội cho thế hệ thiết bị mới này.

Nền tảng Snapdragon X Series hỗ trợ nhiều công cụ phát triển AI. Nhờ tích hợp sâu với ONNX Runtime và Hugging Face Optimum, cũng như hỗ trợ Llama.cpp, giờ đây các nhà phát triển có thể chạy hàng nghìn mô hình trên Nền tảng Snapdragon X Series và xây dựng các ứng dụng Windows phong phú hỗ trợ bởi AI. Các nhà phát triển cũng có thể tìm hiểu về AI trên thiết bị và cách triển khai công nghệ này cho ứng dụng của mình trong khóa học trực tuyến do DeepLearning.AI hợp tác với Qualcomm Technologies cung cấp.

Qualcomm không ngừng đổi mới để mang công nghệ điện toán thông minh đến mọi nơi, đóng góp giải pháp nhằm tháo gỡ một số thách thức quan trọng nhất của thế giới hiện nay.

M.H