Bài này không lặp lại bảng thông số của AIR-101-S62A1. Thông số đầy đủ nằm ở bài hệ thống suy luận Edge AI Advantech AIR-101-S62A1. Ở đây bàn một quyết định khác và đến trước: bài toán thị giác của bạn cần một bộ tăng tốc thị giác cỡ nhỏ như trên AIR-101-S62A1, hay bắt buộc phải lên một máy có card đồ hoạ. Chọn sai theo hướng thừa thì tốn nguồn và tốn chỗ tủ, chọn sai theo hướng thiếu thì phải thay máy giữa dự án.
Bộ tăng tốc thị giác và card đồ hoạ khác nhau ở đâu
Hai loại phần cứng này cùng làm một việc là chạy mô hình đã huấn luyện, nhưng khác nhau ở ba điểm quyết định cách lắp đặt.
Điểm thứ nhất là mức điện. Bộ xử lý thị giác trên máy biên tiêu thụ vài watt, và cả máy AIR-101-S62A1 chỉ ở mức 8,7 W thường gặp, 19,2 W cao nhất. Một máy có khe cắm card đồ hoạ như AIR-300-00A1 dùng bộ nguồn 850 W tích hợp vì khe cắm đó nhận card tới 260 W. Khoảng cách giữa hai con số quyết định máy đặt được trong tủ điện thường hay phải có tủ riêng.
Điểm thứ hai là cách làm mát. Bộ tăng tốc thị giác làm mát thụ động, không có chi tiết quay, nên đặt được ở nơi nhiều bụi và không cần lịch vệ sinh quạt. Card đồ hoạ cần luồng gió liên tục, nghĩa là tủ phải có đường vào và đường ra của gió, và phải có người kiểm lưới lọc định kỳ.
Điểm thứ ba là phạm vi công việc. Bộ tăng tốc thị giác chỉ chạy suy luận trên mô hình đã chuyển đổi sẵn, không dùng để huấn luyện. Card đồ hoạ chạy được cả hai. Nếu hệ thống phải học lại từ dữ liệu mới ngay tại nhà máy, quyết định đã được chốt sẵn: phải có card đồ hoạ.
Bài toán nào cần mức tính toán nào
Bảng dưới xếp theo loại bài toán thị giác thường gặp trong nhà máy, không xếp theo tên sản phẩm, để thấy mỗi loại đòi hỏi mức tính toán ra sao và rơi vào dòng máy nào.
| Loại bài toán thị giác | Mức tính toán cần tới | Dòng máy phù hợp |
|---|---|---|
| Đếm sản phẩm, đọc mã vạch, phát hiện có hay không có vật | Thấp; nhiều trường hợp thuật toán xử lý ảnh cổ điển đã đủ, chưa cần mô hình học sâu | Máy biên nhỏ không quạt, dùng chính vi xử lý của máy |
| Phân loại lỗi bề mặt trên một tới hai luồng camera | Trung bình; mô hình học sâu cỡ nhỏ đã chuyển đổi qua bộ công cụ OpenVINO | Máy có bộ tăng tốc thị giác tích hợp, nhóm AIR-101 |
| Nhận diện người và phương tiện trên nhiều luồng camera cùng lúc | Trung bình đến cao, tăng gần tuyến tính theo số luồng | Máy biên có thêm mô-đun tăng tốc, hoặc chia tải ra nhiều máy nhỏ |
| Đo kích thước và định vị chi tiết cho tay máy, yêu cầu đáp ứng dưới mười mili giây | Cao, và ràng buộc chính là độ trễ chứ không phải số phép tính | Máy chuyên thị giác máy có đường thu ảnh riêng, hoặc máy có card đồ hoạ |
| Mô hình lớn, ảnh độ phân giải cao, hoặc phải huấn luyện lại tại chỗ | Cao; vượt khả năng của bộ tăng tốc thị giác | Máy có khe cắm card đồ hoạ khổ lớn, nhóm AIR-300 |
Ba dòng giữa của bảng là vùng dễ chọn sai nhất. Cách kiểm tra rẻ nhất là chạy thử mô hình thật trên một máy mượn, với đúng số luồng và đúng độ phân giải của dự án, rồi đo hai con số: số khung xử lý được mỗi giây và độ trễ từ lúc chụp tới lúc có kết quả. Hai con số đó nói rõ hơn mọi bảng so sánh.
Khi nào AIR-101-S62A1 là đủ
Máy này thuộc nhóm máy biên nhỏ, làm mát thụ động, gá được trên thanh DIN hoặc bắt tường, nhận nguồn một chiều dải 12 đến 28 V. Bộ tăng tốc thị giác tích hợp sẵn trong máy là mô-đun VEGA-330-02A1, còn khe M.2 2230 chuẩn E-key dùng cho mô-đun mạng không dây hoặc cho mô-đun VEGA-320. Chi tiết hai mô-đun này nằm ở bài VEGA-330-02A1 cho nhiều luồng camera và bài VEGA-320-01A1 và cách đưa mô hình xuống mô-đun.
Bốn dấu hiệu cho thấy khung máy này là lựa chọn đúng. Thứ nhất, số luồng ảnh nằm trong khoảng một tới vài luồng và không tăng đột biến trong hai năm tới. Thứ hai, mô hình đã chuyển đổi được sang dạng chạy trên bộ tăng tốc mà độ chính xác không tụt quá ngưỡng chấp nhận. Thứ ba, thời gian đáp ứng cho phép tính bằng chục mili giây. Thứ tư, vị trí đặt máy là một tủ điện thường không có chỗ cho một thân máy lớn, và nhiệt độ đo trong tủ nằm trong dải hãng công bố, vốn tính với luồng gió 0,7 m/s.
Ba dấu hiệu ngược lại, cho thấy phải lên khung máy có card đồ hoạ. Một là mô hình không chuyển đổi được, hoặc chuyển đổi xong thì độ chính xác tụt quá mức. Hai là số luồng ảnh còn tăng theo kế hoạch mở rộng chuyền. Ba là hệ thống phải huấn luyện lại tại chỗ theo dữ liệu mới. Trong cả ba trường hợp, khung máy đích được mô tả ở bài AIR-300-00A1 và khe PCIe x16 cho card đồ hoạ.
Có một lối đi giữa hay bị bỏ qua: thay vì một máy lớn gánh mọi luồng, đặt nhiều máy biên nhỏ, mỗi máy lo một cụm camera. Cách này đắt hơn về số thiết bị nhưng gọn hơn về tủ, và khi một máy hỏng thì chỉ mất một cụm chứ không mất cả tuyến. Nếu chọn hướng đó, phần lắp đặt và phần phần mềm cần thống nhất từ đầu, xem thêm bài AIR-200-S92A1 và cách triển khai mô hình với OpenVINO.
Chọn theo điều kiện tủ, không chỉ theo mô hình
Phần lớn quyết định sai không nằm ở chỗ chọn nhầm mức tính toán, mà ở chỗ quên mất nơi máy sẽ nằm. Bốn ràng buộc dưới đây nên kiểm trước khi chốt.
Nhiệt độ thực tế trong tủ. Với mô-đun tăng tốc tích hợp, dải nhiệt làm việc của AIR-101-S62A1 là -20 đến 55 độ C khi có luồng gió 0,7 m/s; khi lắp thêm mô-đun VEGA-320 tuỳ chọn, dải này thu hẹp còn -20 đến 50 độ C. Con số cần đối chiếu là nhiệt độ đo trong tủ vào giờ nóng nhất của ca chiều, không phải nhiệt độ ngoài trời.
Nguồn có sẵn. Máy nhận nguồn một chiều 12 đến 28 V, tức là dùng thẳng nguồn 24 V phổ biến trong tủ điều khiển. Một máy có card đồ hoạ lại cần nguồn xoay chiều và một đường điện riêng, đôi khi phải kéo lại tuyến cấp.
Chỗ gá và kích thước. Thân máy 53,5 x 158 x 114 mm, gá thanh DIN hoặc bắt tường, nên chen được vào tủ đang có sẵn thiết bị. Máy có card đồ hoạ thường phải đặt trong tủ rack, kéo theo việc dựng thêm tủ.
Ai bảo trì. Máy làm mát thụ động không có lịch vệ sinh quạt, phù hợp với nơi không có đội kỹ thuật thường trực. Máy có quạt cần người kiểm lưới lọc, và một lưới lọc tắc là nguyên nhân hỏng phổ biến hơn cả lỗi phần mềm. Với bài toán thị giác cần thân máy thật nhỏ, còn một hướng nữa là nền phần cứng khác, trình bày ở bài AIR-020 hệ thống thị giác máy siêu nhỏ gọn.
Mua AIR-101-S62A1 ở đâu
Trên site này, nhóm máy biên và thiết bị nhúng nằm trong danh mục máy tính nhúng cho giải pháp IoT. Thông số đầy đủ của mã này nằm ở bài thông số AIR-101-S62A1, nên khi so cấu hình thì mở hai trang cạnh nhau.
Khi gửi yêu cầu, sáu thông tin quyết định câu trả lời dùng bộ tăng tốc hay dùng card đồ hoạ: số camera và độ phân giải, loại bài toán là phát hiện, phân loại hay đo kích thước, thời gian đáp ứng tối đa chấp nhận được, khung phần mềm đang dùng để huấn luyện mô hình, nhiệt độ đo được tại vị trí đặt, và nguồn có sẵn trong tủ. Nếu chưa có mô hình, nên gửi vài chục ảnh mẫu của đúng sản phẩm cần kiểm để ước lượng mức khó. Muốn đối chiếu rộng hơn trong dải máy nhúng của hãng, xem danh mục máy tính nhúng Advantech trên IPC247.
Trường hợp còn phân vân giữa một máy biên nhỏ và một máy có card đồ hoạ, có thể chạy công cụ chọn máy theo yêu cầu rồi đối chiếu kết quả với bảng phân loại bài toán phía trên.
Câu hỏi thường gặp về AIR-101-S62A1
VPU khác GPU ở điểm nào?
Bộ xử lý thị giác là con chip dựng riêng cho việc chạy mô hình đã huấn luyện, tiêu thụ vài watt và làm mát thụ động được. Card đồ hoạ có sức tính toán lớn hơn nhiều lần nhưng kéo theo hàng trăm watt, cần quạt và cần chỗ trong tủ. Bộ xử lý thị giác chỉ chạy suy luận, không dùng để huấn luyện mô hình.
Khi nào AIR-101-S62A1 là đủ cho bài toán thị giác?
Máy đủ khi bài toán là nhận diện hoặc phân loại trên một tới vài luồng ảnh, mô hình đã được tối ưu qua bộ công cụ OpenVINO và yêu cầu về thời gian đáp ứng tính bằng chục mili giây chứ không phải mili giây. Máy tiêu thụ 8,7 W ở mức thường gặp và 19,2 W ở mức cao nhất, làm mát thụ động, nhưng dải -20 đến 55 độ C hãng công bố đi kèm luồng gió 0,7 m/s nên tủ kín vẫn cần kiểm nhiệt thực tế.
Khi nào bắt buộc phải lên máy có card đồ hoạ?
Khi số luồng ảnh vượt quá sức của bộ tăng tốc thị giác, khi mô hình quá lớn để chuyển đổi sang dạng chạy trên bộ tăng tốc, hoặc khi hệ thống phải huấn luyện lại mô hình ngay tại chỗ. Lúc đó phải chuyển sang khung máy có khe cắm card đồ hoạ, kéo theo yêu cầu về nguồn và về khoảng hở gió trong tủ.
AIR-101-S62A1 lắp thêm được bộ tăng tốc thứ hai không?
Máy có một khe M.2 2230 chuẩn E-key, dùng cho mô-đun mạng không dây hoặc cho mô-đun tăng tốc VEGA-320. Khi lắp thêm mô-đun này, dải nhiệt độ làm việc thu hẹp lại theo tài liệu hãng, nên phải kiểm nhiệt độ thực tế trong tủ trước khi chọn phương án đó.
Đổi từ máy dùng bộ tăng tốc sang máy có card đồ hoạ có phải viết lại phần mềm không?
Nếu phần mềm được dựng trên bộ công cụ OpenVINO thì phần mã ứng dụng phần lớn giữ nguyên, thứ đổi là thiết bị đích khi nạp mô hình. Việc phải làm lại là bước chuyển đổi và đo lại độ chính xác của mô hình trên nền mới, vì hai nền không luôn cho cùng kết quả ở mức số thực rút gọn.
Nên gửi thông tin gì khi hỏi mua máy suy luận biên?
Nên ghi rõ số camera và độ phân giải, loại bài toán là phát hiện, phân loại hay đo kích thước, thời gian đáp ứng tối đa chấp nhận được, khung mô hình đang dùng, nhiệt độ đo được tại vị trí đặt và nguồn có sẵn trong tủ. Sáu thông tin này quyết định máy dùng bộ tăng tốc thị giác hay phải lên khung có card đồ hoạ.
Đọc thêm về thiết bị: toàn bộ máy tính công nghiệp Advantech cùng các hãng khác trên ipc247.com.
