Lời giải cho người muốn tự lắp máy làm AI – AI – Znews
Công nghệ AI
Máy chuyên dụng, phục vụ cho việc huấn luyện AI của người dùng cá nhân được đánh giá là tương lai mới của ngành PC.
Dữ liệu từ công ty nghiên cứu thị trường IDC cho thấy lô hàng máy tính cá nhân có tính năng AI tăng trưởng mạnh trong vài năm tới. Thị phần loại sản phẩm này sẽ tăng lên 60% vào 2027, đạt khoảng 167 triệu máy so với 40 triệu của 2024.
Tuy nhiên, giải pháp đầu cuối hiện vẫn tập trung ở laptop Copilus+ PC với những tác vụ tạo sinh cơ bản. Lĩnh vực cho doanh nghiệp hoặc cá nhân muốn tự phát triển AI phục vụ nhu cầu hẹp vẫn thiếu vắng lựa chọn.
Trong khuôn khổ Computex 2024 tại Đài Bắc (Đài Loan), hãng công nghệ Gigabyte công bố bộ giải pháp training trí tuệ nhân tạo local (tại máy). Công ty gọi đây là sản phẩm AI TOP. Dải thiết bị sẽ được phát triển song song với linh kiện Aorus (cho gaming) và Aero (người làm sáng tạo).
Sản phẩm AI chuyên dùng cho người dùng cá nhân của Gigabyte. Ảnh: Xuân Sang.
Trung tâm của hệ sinh thái này là các bo mạch chủ mới, được trang bị nhiều khe cắm PCIe 5.0. Nhờ vậy, người dùng có thể gắn thêm rất nhiều card đồ họa chuyên dụng cho mục đích training AI hiệu suất cao. Đi kèm với đó là phiên bản card đồ họa NVIDIA 4070 Ti Super phiên bản AI TOP. Đây vốn là dòng GPU chuyên game, nhưng được cộng đồng phát triển AI đơn lẻ đánh giá cao để training model.
Dòng mới có kiểu thiết kế đơn giản, thay vì các loại quạt lớn và thiết kế hầm hố. Kích thước cơ bản của sản phẩm bằng một nửa card gaming cùng model. Trên bo mạch, vị trí vốn gắn được một GPU sẽ tích hợp được hai linh kiện AI TOP.
Thiết kế giải quyết vấn đề cồng kềnh của các bộ máy phát triển trí tuệ nhân tạo từ linh kiện không chuyên dụng. Nhà sản xuất cho hiệu năng của bộ thiết bị này vẫn được đảm bảo dù không chiếm nhiều diện tích, nhờ giải pháp đối lưu dòng khí trong cây máy tính.
Ngoài các bộ phận hiện có, những thành phần khác của máy tính như nguồn, SSD cũng sẽ có phiên bản dành riêng cho tác vụ AI.
Đi kèm với sản phẩm phần cứng, nhà sản xuất ra mắt thêm công cụ AI TOP Utility. Đây là phần mềm hỗ trợ training mô hình ngôn ngữ lớn tại chỗ. Tại phòng trưng bày, Gigabyte thử nghiệm với đầu vào là LLM mã nguồn mở Llama 3 8B của Meta. Nguồn cấp dữ liệu là của doanh nghiệp. Trong app, người dùng có thể chọn sử dụng VRAM, DRAM hoặc cả SSD để hỗ trợ việc phát triển LLM.
Phần mềm AI TOP Utility đơn giản hóa việc huấn luyện AI trên máy bàn. Ảnh: Xuân Sang.
Lợi thế của giải pháp là phần mềm trực quan, dễ sử dụng với cá người dùng có ít kinh nghiệm lập trình AI hoặc nhân viên IT của doanh nghiệp nhỏ. Mô hình ngôn ngữ sau khi được phát triển có thể trích xuất sử dụng trên thiết bị khác.
Chia sẻ với Tri thức – Znews, chuyên viên kỹ thuật của Gigabyte cho biết phần AI TOP Utility hiện chỉ hỗ trợ hệ điều hành Linux, cho việc phát triển LLM. Trong tương lai, các ứng dụng liên quan đến hình ảnh, video, âm thanh cũng sẽ được hỗ trợ.
Ông Eddie Lin, CEO Tập đoàn Gigabyte cho rằng xu hướng chung của ngành AI trong tương lai gần là chuyển từ dịch vụ đám mây có sẵn sang máy tính cá nhân người dùng. Theo các chuyên gia, việc sử dụng công cụ có sẵn vẫn tồn tại nhiều điểm trừ.
Máy chủ AI dùng card chuyên dụng, hệ thống phức tạp để vận hành. Ảnh: Gizmodo.
Trong số đó, vấn đề chi phí cùng khả năng bảo mật là được dự báo là động lực chính giúp sản phẩm “local AI” phát triển. Người dùng, doanh nghiệp cần trả phí dựa trên số token sử dụng qua API của các công cụ từ Google, Microsoft hoặc OpenAI. Đồng thời, dữ liệu khi trao đổi qua hệ thống cũng tiềm ẩn nguy cơ bảo mật khi nằm trên máy chủ bên thứ 3.
Do vậy, những giải pháp làm việc “tại chỗ” sẽ dần được ưa chuộng trong thời gian tới, với các mô hình hẹp hơn, phục vụ nhu cầu hẹp hơn của doanh nghiệp nhỏ và người dùng cá nhân.
Tuy nhiên, việc tự lắp ráp một bộ máy chuyên dụng cho mục đích AI vẫn tương đối khó khăn tại Việt Nam. Đa số người dùng tìm kiếm các lựa chọn linh kiện gaming để thay thế, tìm cách tối ưu cho tác vụ này. Việc này khiến sản phẩm không được dùng đúng mục đích ban đầu, có rủi ro về độ bền, hiệu suất.
Do vậy, những giải pháp được đóng gói trọn bộ, gồm cả phần cứng, công cụ ứng dụng được xem là tương lai của AI Local.
Dùng ChatGPT thế nào để không tạo ra nội dung vô tri
Sự phát triển của AI mở ra nhiều tiềm năng nhưng cũng có không ít mối lo đối với ngành xuất bản, đặc biệt là nhóm tác giả viết sách.
Các tác giả sách cần phải chấp nhận sự vươn lên của AI, sử dụng chúng như một “siêu trợ lý” thay vì chối bỏ trào lưu. Chia sẻ với Tri thức – Znews, nhiều cây viết cho rằng người làm sách vẫn có thể đứng vững trong thời đại AI nếu biết cách tận dụng sức mạnh của trí tuệ nhân tạo.
Nghe lời đối tượng tự xưng kỹ sư phần mềm, người phụ nữ tại Quảng Ninh bị lừa số tiền lớn vì tham gia cá cược trên Internet.
7 giờ trước
Gương một chiều, vốn được sử dụng cho các phòng thẩm vấn, dần bị biến tướng và dùng cho những mục đích xấu hơn.
8 giờ trước
Hợp đồng bom tấn đầu tiên của mùa hè được công bố chỉ ít ngày sau khi Real Madrid có danh hiệu Champions League thứ 15 trong lịch sử câu lạc bộ.
10 giờ trước
Những xu hướng mới của thị trường TV OLED
18:36 29/5/2024 18:36 29/5/2024 Công nghệ Gadget
Khi chất lượng tấm nền đã được khẳng định nhiều năm và chưa cải thiện được sớm, nhiều nhà sản xuất hướng đến cạnh tranh về giá và các tính năng đặc biệt.
Mô hình Bkav GPT có gì đặc biệt?
15:36 29/5/2024 15:36 29/5/2024 Công nghệ AI
Trợ lý của Bkav ứng dụng mô hình AI tạo sinh, dự kiến phục vụ doanh nghiệp, cơ quan chính phủ trong tra cứu văn bản.
ChatGPT sắp có nâng cấp lớn
16:32 29/5/2024 16:32 29/5/2024 Công nghệ AI
OpenAI cho biết họ sẽ cho ra mắt một hệ thống trí tuệ nhân tạo mới với mục đích kế nhiệm GPT-4. Công ty cũng thành lập đơn vị an toàn để giải quyết các rủi ro về AI.
Xuân Sang
máy training AI PC TOP AI Gigabyte
Xem thêm
Tạp chí điện tử Tri thức
Cơ quan chủ quản: Hội Xuất bản Việt Nam
Giấy phép báo chí: số 75/GP-BTTTT và số 442/GP-BTTTT do Bộ Thông tin và Truyền thông cấp ngày 26/02/2020 và ngày 29/11/2023
Phó tổng biên tập phụ trách: Lâm Quang Hiếu
© Toàn bộ bản quyền thuộc Tri thức
Tòa soạn: Tầng 10, D29 Phạm Văn Bạch, Quận Cầu Giấy, Hà Nội
Hotline: 0931.222.666
Liên hệ: [email protected]
Trang web của chúng tôi sử dụng cookie để cải thiện trải nghiệm của bạn. Đọc thêm về Chính sách Cookie của chúng tôi