Với xu thế ngày càng phổ biến của các công nghệ Trí tuệ nhân tạo (AI), Máy học (Machine Learning - ML) và Internet kết nối vạn vật (IoT), các ứng dụng đang dịch chuyển ra biên mạng, nơi dữ liệu được thu thập và đòi hỏi những giải pháp có hiệu quả về sử dụng nguồn điện để cung cấp hiệu năng tính toán mạnh hơn trong một kiểu dáng thiết bị nhỏ gọn hơn và có đòi hỏi khắt khe hơn về tản nhiệt.
Thông qua sáng kiến Thị giác máy tính nhúng thông minh, Microchip Technology Inc. đáp ứng nhu cầu ngày càng cao về công nghệ ngoại suy có hiệu suất sử dụng nguồn điện cao trong các ứng dụng biên mạng bằng khả năng giúp các Nhà phát triển Phần mềm triển khai các thuật toán trong các mạch tích hợp FPGA (field-programmable gate arrays) PolarFire®.
Là sự bổ sung quan trọng cho danh mục giải pháp thuộc phân khúc này, Bộ Kit phát triển phần mềm (SDK) VectorBlox Accelerator của Microchip giúp các nhà phát triển phần mềm nắm bắt ưu thế của FPGA PolarFire từ Microchip để phát triển các ứng dụng mạng nơ-ron có mức tiêu thụ điện năng thấp, linh hoạt, theo mô hình bổ sung (overlay-based) mà không cần phải học cách sử dụng một công cụ FPGA.
FPGA rất phù hợp với các ứng dụng AI tại biên mạng, như là ngoại suy trong các môi trường điện toán có hạn chế về công suất nguồn điện, bởi vì chúng có thể thực hiện thêm nhiều GOPS (giga phép toán mỗi giây) với hiệu suất nguồn cao hơn so với một bộ xử lý trung tâm (central processing unit - CPU) hay bộ xử lý đồ họa (graphics processing unit - GPU), nhưng lại yêu cầu kỹ năng thiết kế phần cứng chuyên biệt.
SDK VectorBlox Accelerator của Microchip được thiết kế để cho phép các nhà phát triển viết mã nguồn bằng ngôn ngữ lập trình C/C++ và lập trình các mạng nơ-ron có hiệu quả cao trong sử dụng điện năng mà không đòi hỏi nhiều kinh nghiệm về thiết kế FPGA.
Bộ công cụ (tool kit) có độ linh hoạt cao này có thể thực hiện các mô hình theo định dạng TensorFlow và ONNX (open neural network exchange – trao đổi mạng nơ-ron mở) và nhờ đó đảm bảo mức độ tương thích khung giải pháp (framework) rộng nhất.
ONNX hỗ trợ nhiều khung giải pháp như là Caffe2, MXNet, PyTorch và MATLAB®. Không giống với các giải pháp FPGA khác, SDK VectorBlox Accelerator của Microchip được hỗ trợ trên cả hệ điều hành Linux® và Windows®, đồng thời bao gồm cả một công cụ mô phỏng chính xác về bit (bit accurate simulator), mang đến cho người dùng cơ hội để xác thực độ chính xác của phần cứng trong khi đang ở trong môi trường phần mềm. IP mạng nơ-ron (neural network IP) được bao hàm trong bộ công cụ này còn hỗ trợ khả năng tải nhiều mô hình (model) mạng khác nhau ở vào thời điểm chạy chương trình (run time).
“Để các Nhà phát triển Phần mềm khai thác được lợi ích từ hiệu suất sử dụng điện năng cao của FPGA, chúng ta cần phải loại bỏ những rào cản khi yêu cầu họ phải học các kiến trúc FPGA mới và các công cụ đóng, trong khi vẫn đảm bảo độ linh hoạt để kết xuất (porting) các giải pháp đa khung và đa mạng (multi-framework and multi-network),” ông Bruce Weyer, Phó chủ tịch phụ trách kinh doanh giải pháp FPGA của Microchip phát biểu.
“SDK VectorBlox Accelerator và IP mạng nơ-ron của Microchip sẽ mang đến cho cả nhà phát triển phần mềm và phần cứng một phương thức để triển khai một kiến trúc mạng nơ-ron tích chập trên PolarFire FPGA, từ đó họ có thể dễ dàng phát triển và triển khai các hệ thống hỗ trợ AI ở biên mạng một cách dễ dàng hơn với kiểu dáng (form factor), đặc tính nhiệt và mức tiêu thụ điện năng tốt nhất”.
Để thực hiện phép toán ngoại suy tại biên mạng, PolarFire FPGA có mức tiêu thụ điện năng thấp hơn tới 50% so với các thiết bị cạnh tranh, trong khi vẫn cung cấp được các khối xử lý tính toán có công suất cao hơn 25% và đạt được 1,5 tera phép toán mỗi giây (tera operations per second - TOPS).
Bình luận