Andreessen Horowitz giúp người sáng lập đáp ứng nhu cầu tính toán với cụm GPU riêng 'Oxy'
Andreessen Horowitz có một cụm GPU Nvidia H100 khổng lồ để giúp danh mục các công ty khởi nghiệp AI đáp ứng nhu cầu tính toán của họ, công ty đầu tư mạo hiểm này lần đầu tiên xác nhận vào thứ Tư. Chương trình có tên “Oxygen”, cho phép các công ty trong danh mục đầu tư của họ đào tạo hoặc vận hành các mô hình AI của họ mà không cần thương lượng giá thị trường.
Có thể nói, cụm Oxygen của A16Z mang lại cho các công ty khởi nghiệp một khoảng không gian để cạnh tranh với các công ty công nghệ lớn hơn – chẳng hạn như Google, Meta và Microsoft – trong việc xây dựng các mô hình AI lớn. Trong nhiều năm qua, những công ty này đã tham gia vào cuộc chiến đấu thầu GPU, đặc biệt là H100 tiêu chuẩn ngành AI, thường giành được các hợp đồng nhờ hứa hẹn những hợp đồng lớn hơn và dài hạn hơn. Điều đó khiến nhiều công ty khởi nghiệp AI gặp khó khăn vì họ có thể không nhận được các hợp đồng lớn cần thiết để đảm bảo GPU, trong khi OpenAI và Anthropics trên thế giới thì có thể.
Anjney Midha, đối tác của A16Z, người đã giúp đỡ, cho biết: “Điều này bắt đầu từ việc nhận ra rằng một số nhà sáng lập AI mà chúng tôi phục vụ hàng ngày đều gặp phải một vấn đề chung: Chúng tôi đang ở trong tình trạng khủng hoảng nguồn cung, trong đó năng lực của Nvidia H100 đang bị thiếu hụt”. tạo chương trình Oxygen, trong bản ghi podcast được chia sẻ với TechCrunch. “Là những công ty khởi nghiệp, họ đã bị các đám mây lớn loại bỏ ưu tiên để có được những khách hàng lớn hơn, điều này thực sự khó khăn đối với họ.”
Cơ sở hạ tầng cũng là một cách tốt để A16Z thu hút các công ty khởi nghiệp mới. Các công ty xây dựng mô hình AI thường cần quyền truy cập tự do vào các cụm điện toán lớn trong thời gian đào tạo ngắn, nhưng sau đó, không cần đến chúng khi các mô hình đã được đào tạo. Các mô hình AI suy luận thường yêu cầu tính toán ít hơn so với đào tạo, tất nhiên trừ khi việc sử dụng mô hình AI bùng nổ. Cụm Oxygen của A16Z mang đến cho các công ty khởi nghiệp sự linh hoạt, cho phép truy cập vào GPU khi họ cần mà không cần phải cam kết lâu dài với nhà cung cấp đám mây hoặc chi tiêu tiền mặt khổng lồ. Thay vào đó, họ trao cho A16Z một phần cổ phần trong hoạt động kinh doanh của mình, để đổi lấy (trong số những thứ khác) giá thuê GPU thấp.
Nhưng A16Z không phải là nhà đầu tư duy nhất hứa hẹn cung cấp GPU cho các nhà sáng lập công ty khởi nghiệp, ngoài vốn tài chính và hướng dẫn, cho cổ phần trong công ty của họ. Theo Forbes, các đối tác đầu tư Nat Friedman và Daniel Gross cung cấp cho các công ty khởi nghiệp của họ quyền truy cập vào cụm 4.000 GPU được mệnh danh là Cụm Andromeda. Y Combinator cũng cung cấp cho các công ty khởi nghiệp một cụm GPU để đào tạo thông qua quan hệ đối tác với nhiều nhà cung cấp đám mây khác nhau, gần đây nhất là Google Cloud.
Người phát ngôn của Andreessen Horowitz từ chối bình luận về mức độ lớn của cụm Oxygen, tuy nhiên, A16Z có thể có kho chiến tranh GPU lớn nhất so với bất kỳ công ty liên doanh nào. The Information đưa tin vào tháng 7 rằng Oxygen có thể chứa hơn 20.000 GPU.
