Mô-đun VEGA-230 là bản nhỏ nhất trong dòng mô-đun tăng tốc trí tuệ nhân tạo của Advantech. Mô-đun cắm vào khe mini PCIe của máy đang chạy, mang theo một khối xử lý thần kinh riêng và chỉ tiêu thụ khoảng 0,5 W. Bài viết trình bày việc mô-đun này giải quyết, thông số chính, điều kiện để lắp vào máy có sẵn và cách chọn giữa các mô-đun trong dòng VEGA.
Mô-đun tăng tốc AI giải quyết việc gì
Một máy tính công nghiệp đang chạy tốt phần điều khiển có thể vẫn không kham nổi phần suy luận của mô hình thị giác. Khi đó có ba hướng xử lý: đổi sang máy có vi xử lý mạnh hơn, giảm độ phân giải và nhịp xử lý, hoặc gắn thêm một khối tính toán chuyên cho suy luận.
Hướng thứ ba là chỗ của mô-đun tăng tốc. Máy giữ nguyên, phần mềm điều khiển giữ nguyên, chỉ phần chạy mô hình chuyển sang mô-đun. Cách này giữ được cấu hình đã nghiệm thu và tránh phải làm lại hồ sơ thiết bị, điểm rất đáng giá với dây chuyền đang sản xuất.
Thông số mô-đun VEGA-230
Bảng dưới ghi các thông số theo tài liệu hãng. Hai dòng đầu là hai dòng quyết định mô-đun có lắp được vào máy hiện có hay không.
| Hạng mục | Thông số |
|---|---|
| Dạng mô-đun | Mini PCIe kích thước đầy đủ |
| Đường giao tiếp với máy | USB 2.0 trên khe mini PCIe |
| Khối xử lý | Mạch tích hợp KL520 của Kneron, khối xử lý thần kinh kèm hai lõi ARM Cortex-M4 |
| Năng lực suy luận | 0,35 TOPS |
| Điện năng tiêu thụ | Khoảng 0,5 W |
| Kích thước | 30 x 50,95 x 4,80 mm |
| Khung phần mềm nhận mô hình | ONNX, TensorFlow, Keras, Caffe, PyTorch |
| Mạng tích chập hỗ trợ | ResNet, GoogLeNet, VGG16, LeNet, MobileNet, DenseNet, YOLO, Tiny YOLO |
| Cảm biến hình ảnh tương thích | Camera kép, camera đo thời gian bay và cảm biến ba chiều theo tài liệu hãng |
| Nền tảng lắp được | Các dòng EI, EIS và AIR có khe mini PCIe |
Dòng đường giao tiếp đáng chú ý hơn cả. Mô-đun dùng đường USB 2.0 nằm trên khe mini PCIe chứ không dùng làn PCIe, nên băng thông đưa ảnh sang mô-đun bị giới hạn theo chuẩn USB đó. Điều này hợp với bài toán một luồng camera độ phân giải vừa, và là lý do các bài toán nhiều luồng phải chuyển sang nhóm mô-đun khác.
Bốn điều kiện để lắp mô-đun vào máy đang chạy
Trước khi đặt mua, bốn điều kiện dưới đây cần kiểm tra trên chính chiếc máy sẽ lắp. Bỏ qua một điều kiện là mô-đun về tới nơi nhưng không dùng được.
| Điều kiện | Cách kiểm tra |
|---|---|
| Còn khe mini PCIe kích thước đầy đủ | Mở máy đếm khe còn trống; nhiều máy đã dùng khe cho mô-đun mạng không dây hoặc mô-đun di động |
| Khe có dẫn tín hiệu USB 2.0 | Đọc sơ đồ chân của khe trong tài liệu bo mạch, vì có khe chỉ dẫn làn PCIe |
| Có khoảng trống cơ khí quanh khe | Đo chiều cao còn lại trong thân máy, nhất là với máy nhúng thân mỏng |
| Phần mềm chấp nhận tách phần suy luận | Kiểm tra phần mềm đang chạy có gọi được thư viện của mô-đun hay phải viết lại phần ghép nối |
Điều kiện cuối thường tốn thời gian nhất. Nếu phần mềm thị giác hiện tại do bên thứ ba viết và không mở phần ghép nối, việc chuyển suy luận sang mô-đun phải làm cùng nhà cung cấp phần mềm. Nên hỏi rõ điểm này trước khi lập dự toán.
So sánh VEGA-230 với các mô-đun VEGA khác
Dòng VEGA chia theo khối xử lý và mức điện năng, không chia theo đời sản phẩm. Bảng dưới xếp theo mức điện năng tăng dần, đây cũng là thứ tự thường dùng khi chọn.
| Mô-đun | Khối xử lý | Dạng và điện năng | Hợp với bài toán |
|---|---|---|---|
| VEGA-230 | KL520 của Kneron, 0,35 TOPS | Mini PCIe, khoảng 0,5 W | Một luồng camera, thiết bị chạy pin, ngân sách nhiệt hẹp |
| VEGA-320-01A1 | Một vi xử lý thị giác Movidius Myriad X | M.2 2230 khoá A+E, 3,8 W | Bài toán thị giác dùng bộ công cụ Intel OpenVINO |
| VEGA-330-01A1 | Một vi xử lý thị giác Movidius Myriad X | Mini PCIe, 3,8 W | Một tới hai luồng video, nhận diện khuôn mặt, kiểm tra quang học |
| VEGA-330-02A1 | Hai vi xử lý thị giác Movidius Myriad X | Mini PCIe, 7,6 W | Nhiều luồng video trên cùng một máy biên |
| VEGA-340-04A1 | Bốn vi xử lý thị giác Movidius Myriad X | Card PCIe, 6,7 W thường và 16,8 W tối đa, có quạt | Máy chủ biên xử lý nhiều luồng camera cùng lúc |
Khác biệt lớn nhất giữa VEGA-230 và phần còn lại không nằm ở tốc độ mà ở hệ sinh thái phần mềm. Nhóm VEGA-320 và VEGA-330 đi theo bộ công cụ Intel OpenVINO, nên phần mềm viết cho nền tảng đó chạy được ngay. VEGA-230 đi theo bộ công cụ riêng của khối xử lý Kneron, đổi lại mức điện năng thấp hơn nhiều lần. Chọn sai nhánh nghĩa là phải chuyển đổi mô hình và viết lại phần ghép nối.
Chọn mô-đun tăng tốc AI cho thiết bị
Bốn câu hỏi dẫn tới quyết định. Máy có bao nhiêu luồng camera và độ phân giải bao nhiêu. Ngân sách điện và ngân sách nhiệt trong thân máy còn bao nhiêu. Phần mềm hiện tại viết theo bộ công cụ nào. Và khe mở rộng còn trống thuộc loại nào.
Với thiết bị nhỏ chạy pin, một luồng camera và mô hình gọn, VEGA-230 là bản duy nhất trong dòng lọt vào ngân sách điện. Với máy trong tủ có nguồn 24 V và cần nhiều luồng, nên xem nhóm mô-đun dùng vi xử lý thị giác Movidius. Máy đã tích hợp sẵn mô-đun tăng tốc từ nhà máy thì không cần lắp thêm, ví dụ AIR-101-S62A1 hay EI-A100-S61A1.
Các mô-đun và linh kiện khác của hãng nằm trong chuyên mục thiết bị công nghiệp của website. Danh mục máy tính nhúng có khe mở rộng dùng cho mô-đun này nằm tại máy tính nhúng Advantech trên IPC247. Nếu máy hiện tại đã hết khe mở rộng, chạy công cụ chọn máy theo điều kiện lắp đặt rồi gửi kết quả kèm yêu cầu báo giá.
Câu hỏi thường gặp về mô-đun VEGA-230
Mô-đun VEGA-230 là gì?
VEGA-230 là mô-đun tăng tốc trí tuệ nhân tạo dạng mini PCIe kích thước đầy đủ của Advantech, phát triển cùng Kneron. Mô-đun mang một khối xử lý thần kinh KL520 kèm hai lõi ARM Cortex-M4, dùng để chạy phần suy luận của mô hình thay cho vi xử lý chính của máy.
VEGA-230 tiêu thụ bao nhiêu điện?
Theo tài liệu hãng, mô-đun tiêu thụ khoảng 0,5 W. Đây là mức thấp nhất trong dòng VEGA nên mô-đun lắp được vào thiết bị chạy bằng ắc quy hoặc thiết bị có ngân sách nhiệt hẹp, nơi không lắp thêm được mô-đun tiêu thụ vài watt.
Máy nào lắp được mô-đun VEGA-230?
Máy có khe mini PCIe kích thước đầy đủ còn trống và khe đó dẫn tín hiệu USB 2.0, vì mô-đun giao tiếp qua đường USB chứ không qua làn PCIe. Theo tài liệu hãng, các nền tảng EI, EIS và AIR có khe mini PCIe đều nhận mô-đun này. Cần kiểm tra trước cả khoảng trống cơ khí trong máy.
VEGA-230 chạy được mô hình của khung phần mềm nào?
Mô-đun nhận mô hình từ các khung phổ biến gồm ONNX, TensorFlow, Keras, Caffe và PyTorch, sau khi chuyển đổi qua bộ công cụ đi kèm. Các mạng tích chập thường dùng như ResNet, GoogLeNet, VGG16, MobileNet, DenseNet và YOLO đều nằm trong danh sách hỗ trợ theo tài liệu hãng.
Khi nào nên chọn mô-đun mạnh hơn VEGA-230?
Khi phải xử lý nhiều luồng camera cùng lúc, khi mô hình nặng hơn mức một khối xử lý nhỏ đáp ứng, hoặc khi phần mềm đã viết theo bộ công cụ Intel OpenVINO. Ba trường hợp đó nên chuyển sang nhóm VEGA-330 dùng vi xử lý thị giác Movidius, hoặc lên card VEGA-340 khi cần nhiều luồng hơn nữa.
Đọc thêm về thiết bị: toàn bộ máy tính công nghiệp Advantech cùng các hãng khác trên ipc247.com.
