Raspberry Pi hợp tác với Hailo cho bộ mở rộng AI

Raspberry Pi 5, chiếc máy tính nhỏ nhưng mạnh mẽ đã trở nên khá phổ biến với những người yêu thích công nghệ và các công ty công nghiệp, giờ đây cũng là một máy tính AI. Công ty vừa phát hành Bộ công cụ AI, một bộ công cụ mở rộng trị giá 70 USD với bộ tăng tốc suy luận mạng thần kinh có thể được sử dụng để suy luận cục bộ.

Đối với mô-đun mở rộng mới này, Raspberry Pi đang tận dụng thẻ mở rộng HAT+ của nó. HAT là viết tắt của “Phần cứng được đính kèm trên đầu”. Đó là một từ viết tắt dễ thương mà công ty đã sử dụng cho các thẻ mở rộng mà bạn có thể đặt trên Raspberry Pi thông thường.

Thẻ mở rộng HAT+ của Raspberry Pi bổ sung thêm khe cắm M.2, đây là khe cắm mở rộng tiêu chuẩn thường được sử dụng cho các thành phần PC. (khe cắm này được kết nối với Raspberry Pi thông qua giao diện PCIe 3.0 một làn chạy ở tốc độ 8Gbps dành cho những độc giả quan tâm đến bản in đẹp của chúng tôi).

Và công ty đã hợp tác với Hailo, một công ty khởi nghiệp về chip AI gần đây đã huy động được 120 triệu USD và muốn thách thức Nvidia. Hailo chuyên về chip được thiết kế để chạy khối lượng công việc AI trên các thiết bị biên, chẳng hạn như ô tô, máy ảnh thông minh, robot và giờ là thiết bị Raspberry Pi.

Mô-đun tăng tốc mà Raspberry Pi đang sử dụng cho AI Kit là Hailo-8L. Đây là một mô-đun cấp đầu vào trong hệ số M.2, có nghĩa là nó có thể dễ dàng được lắp trên HAT+.

Sau khi mọi thứ đã được cài đặt, thứ bạn nhận được là Raspberry Pi 5 với hiệu suất suy luận 13 tera mỗi giây (TOPS). Nó không nhiều so với hiệu suất của GPU Nvidia. Nhưng nó tiết kiệm chi phí và hoạt động với nguồn điện 27W mặc định của Raspberry Pi.

Về mặt phần mềm, bản phát hành mới nhất của Raspberry Pi OS sẽ tự động phát hiện mô-đun Hailo. Đơn vị xử lý thần kinh sẽ có sẵn cho hệ điều hành và các ứng dụng tận dụng nó.

Raspberry Pi cũng đã cập nhật bộ ứng dụng máy ảnh để chúng hỗ trợ suy luận mạng thần kinh như một phần của quy trình máy ảnh. Ví dụ: nó có thể được sử dụng để phát hiện đối tượng (“đây là quả chuối”), phân đoạn ngữ nghĩa (“ba thứ này là phương tiện di chuyển”), phân đoạn cá thể (“ba phương tiện di chuyển này là xe tải, ô tô màu đỏ và ô tô màu xanh lam”. xe hơi”), ước tính tư thế và đánh dấu khuôn mặt.

Đó chỉ là những ví dụ về những gì bạn có thể làm với Raspberry Pi được trang bị bộ AI và máy ảnh của bên thứ nhất hoặc bên thứ ba. Nhưng chip Hailo cũng có thể được tận dụng cho các trường hợp không sử dụng máy ảnh.

Sẽ rất thú vị khi thấy các trường hợp sử dụng mới xuất hiện từ cộng đồng Raspberry Pi. Bộ mở rộng AI này là một công cụ. Bây giờ, việc tìm hiểu xem họ muốn làm gì với nó là tùy thuộc vào khách hàng của Raspberry Pi.

https://www.youtube.com/watch?v=xL013eHuSeI&t=4s https://techcrunch.com/2024/04/02/hailo-ai-chip-startup-lands-120m-to-battle-nvidiaBài viết này ban đầu đã xuất hiện trên TechCrunch tại https://techcrunch.com/2024/06/04/raspberry-pi-partners-with-hailo-for-its-ai-extension-kit/