Apple cho biết họ sử dụng chip AI tùy chỉnh của Amazon

Quả táo hiện đang sử dụng Amazon Chip trí tuệ nhân tạo tùy chỉnh của Dịch vụ Web dành cho các dịch vụ như tìm kiếm và sẽ đánh giá xem liệu chip AI mới nhất của công ty có thể được sử dụng để đào tạo trước các mô hình của nó như Apple Intelligence hay không.

Apple tiết lộ việc sử dụng chip độc quyền của Amazon tại hội nghị AWS Reinvent hàng năm vào thứ Ba. Benoit Dupin, giám đốc cấp cao về máy học và AI của Apple, đã lên sân khấu để thảo luận về cách Apple sử dụng dịch vụ đám mây. Đây là một ví dụ hiếm hoi về việc công ty chính thức cho phép một nhà cung cấp giới thiệu họ với tư cách là khách hàng.

Dupin của Apple cho biết: “Chúng tôi có một mối quan hệ bền chặt và cơ sở hạ tầng vừa đáng tin cậy vừa có thể phục vụ khách hàng của chúng tôi trên toàn thế giới”.

Sự xuất hiện của Apple tại hội nghị của Amazon và việc họ sử dụng chip của công ty là sự chứng thực mạnh mẽ cho dịch vụ đám mây khi nó cạnh tranh với Microsoft Azure và Google Đám mây dành cho chi tiêu AI. Apple cũng sử dụng các dịch vụ đám mây đó.

Dupin cho biết Apple đã sử dụng AWS trong hơn một thập kỷ cho các dịch vụ bao gồm Siri, Apple Maps và Apple Music. Ví dụ: Apple đã sử dụng chip Inferentia và Graviton của Amazon để phục vụ các dịch vụ tìm kiếm và Dupin cho biết chip của Amazon đã giúp tăng hiệu suất 40%.

Nhưng Dupin cũng gợi ý rằng Apple sẽ sử dụng chip Trainium2 của Amazon để đào tạo trước các mẫu máy độc quyền của mình. Đó là dấu hiệu cho thấy chip của Amazon không chỉ là một cách hiệu quả về mặt chi phí để suy luận các mô hình AI so với bộ xử lý trung tâm x86 do hãng sản xuất. Intel Và AMDnhưng cũng có thể được sử dụng để phát triển AI mới. Amazon đã công bố vào hôm thứ Ba rằng chip Trainium2 của họ thường có sẵn để cho thuê.

Dupin cho biết: “Trong giai đoạn đầu đánh giá Trainium2, chúng tôi mong đợi những con số ban đầu sẽ cải thiện hiệu quả lên tới 50% khi đào tạo trước”.

Giám đốc điều hành AWS Matt Garman cho biết trong một cuộc phỏng vấn với CNBC hôm thứ Ba rằng Apple đã sớm áp dụng và thử nghiệm phiên bản beta cho chip Trainium của công ty.

Apple “đã đến gặp chúng tôi và nói với chúng tôi rằng 'làm thế nào bạn có thể giúp chúng tôi với khả năng Generative AI của chúng tôi, chúng tôi cần cơ sở hạ tầng để xây dựng' và họ đã có tầm nhìn này để xây dựng Apple Intelligence”, Giám đốc điều hành AWS Matt Garman nói với CNBC Kate Rooney.

Đầu năm nay, Apple cho biết trong một bài nghiên cứu rằng họ đã sử dụng chip TPU của Google Cloud để đào tạo dịch vụ AI cho iPhone mà họ gọi là Apple Intelligence.

Phần lớn việc đào tạo AI được thực hiện với chi phí đắt đỏ Nvidia bộ xử lý đồ họa. Các nhà cung cấp đám mây và các công ty khởi nghiệp đang chạy đua để phát triển các giải pháp thay thế nhằm giảm chi phí và khám phá các phương pháp tiếp cận khác nhau có thể giúp xử lý hiệu quả hơn. Việc Apple sử dụng chip tùy chỉnh có thể báo hiệu cho các công ty khác rằng các phương pháp đào tạo không phải của Nvidia có thể hiệu quả.

AWS dự kiến ​​​​sẽ công bố chi tiết mới vào thứ Ba về việc cung cấp máy chủ AI dựa trên Nvidia Blackwell cho thuê.

Apple đã phát hành sản phẩm AI sáng tạo lớn đầu tiên vào mùa thu này. Apple Intelligence là một loạt dịch vụ có thể tóm tắt thông báo, viết lại email và tạo biểu tượng cảm xúc mới. Công ty cho biết cuối tháng này, nó sẽ tích hợp với ChatGPT của OpenAI và vào năm tới, Siri sẽ có những khả năng mới để kiểm soát ứng dụng và nói chuyện một cách tự nhiên.

Không giống như các chatbot hàng đầu như ChatGPT của OpenAI, cách tiếp cận AI của Apple không dựa trên các cụm máy chủ dựa trên Nvidia lớn trên đám mây. Thay vào đó, Apple sử dụng chip iPhone, iPad hoặc Mac để xử lý nhiều nhất có thể, sau đó gửi các truy vấn phức tạp đến các máy chủ do Apple vận hành bằng chip dòng M của riêng họ.