AI 'Bố già' Yoshua Bengio: Chúng ta đang “tạo ra những con quái vật mạnh hơn chúng ta”
Cho dù bạn nghĩ trí tuệ nhân tạo sẽ cứu thế giới hay kết thúc nó – chắc chắn chúng ta đang ở trong thời điểm hết sức nhiệt tình. AI, như chúng ta biết, có thể không tồn tại nếu không có Yoshua Bengio.
Được mệnh danh là “Bố già của trí tuệ nhân tạo”, Bengio, 60 tuổi, là một nhà khoa học máy tính người Canada, người đã cống hiến nghiên cứu của mình về mạng lưới thần kinh và các thuật toán học sâu. Công trình tiên phong của ông đã dẫn đường cho các mô hình AI mà chúng ta sử dụng ngày nay — chẳng hạn như ChatGPT của OpenAI và Claude của Anthropic.
Bengio cho biết trong một cuộc phỏng vấn với Yahoo Finance: “Trí thông minh mang lại sức mạnh và bất cứ ai kiểm soát được sức mạnh đó – nếu ở cấp độ con người trở lên – sẽ rất, rất quyền lực”. “Công nghệ nói chung được sử dụng bởi những người muốn có nhiều quyền lực hơn: thống trị kinh tế, thống trị quân sự, thống trị chính trị. Vì vậy, trước khi tạo ra công nghệ có thể tập trung quyền lực theo những cách nguy hiểm – chúng ta cần hết sức cẩn thận.”
Năm 2018, Bengio và hai đồng nghiệp — cựu Phó chủ tịch Google (GOOG) Geoffrey Hinton (người đoạt giải Nobel Vật lý năm 2024) và Nhà khoa học AI trưởng của Meta (META) Yann LeCun — đã giành được Giải thưởng Turing (được gọi là Giải thưởng Cao quý). về tính toán). Năm 2022, Bengio là nhà khoa học máy tính được trích dẫn nhiều nhất trên thế giới. Và tạp chí Time đã vinh danh ông là một trong 100 người có ảnh hưởng nhất thế giới.
Mặc dù giúp phát minh ra công nghệ nhưng Bengio giờ đây đã trở thành tiếng nói cảnh báo trong thế giới AI. Sự thận trọng đó được đưa ra khi các nhà đầu tư tiếp tục thể hiện sự nhiệt tình lớn trong lĩnh vực này – đẩy giá cổ phiếu của AI lên mức kỷ lục mới trong năm nay.
Chẳng hạn, cổ phiếu của Nvidia, con cưng của chip AI (NVDA), đã tăng 162% từ đầu năm đến nay, so với mức tăng 21% của S&P 500.
Công ty hiện được định giá ở mức đáng kinh ngạc 3,25 nghìn tỷ USD theo dữ liệu của Yahoo Finance, xếp sau Apple (AAPL) một chút cho danh hiệu công ty có giá trị nhất thế giới.
Tôi đã phỏng vấn Bengio về các mối đe dọa có thể có của AI và những công ty công nghệ nào đang làm đúng.
Cuộc phỏng vấn đã được chỉnh sửa để có độ dài và rõ ràng.
Tại sao chúng ta nên quan tâm đến trí thông minh ở cấp độ con người?
“Nếu thứ này rơi vào tay kẻ xấu, bất kể điều đó có nghĩa là gì, điều đó có thể rất nguy hiểm. Những công cụ này có thể sớm giúp đỡ những kẻ khủng bố và chúng có thể giúp đỡ các chủ thể nhà nước muốn phá hủy nền dân chủ của chúng ta. Và sau đó là vấn đề mà nhiều nhà khoa học gặp phải.” đã chỉ ra, đó là cách chúng tôi đang đào tạo họ hiện nay – chúng tôi không thấy rõ làm cách nào để tránh những hệ thống này trở nên tự chủ và có mục tiêu bảo tồn riêng, và chúng tôi có thể mất quyền kiểm soát các hệ thống này. trên con đường có thể tạo ra những con quái vật có thể mạnh hơn chúng ta.”
OpenAI, Meta, Google, Amazon — Công ty AI lớn nào đang làm đúng?
“Về mặt đạo đức, tôi cho rằng công ty đang cư xử tốt nhất là Anthropic [major investors include Amazon and Google]. Nhưng tôi nghĩ tất cả họ đều có thành kiến vì cơ cấu kinh tế mà sự tồn tại của họ phụ thuộc vào việc nằm trong số những công ty hàng đầu và lý tưởng nhất là trở thành công ty đầu tiên đến với AGI. Và điều đó có nghĩa là một cuộc chạy đua – một cuộc chạy đua vũ trang giữa các tập đoàn, nơi mà an toàn công cộng có thể sẽ là mục tiêu thua cuộc.
Anthropic đang đưa ra nhiều dấu hiệu cho thấy họ rất quan tâm đến việc tránh những kết cục thảm khốc. Họ là những người đầu tiên đề xuất chính sách an toàn trong đó có cam kết rằng nếu AI có những khả năng có thể gây nguy hiểm thì họ sẽ dừng nỗ lực đó. Họ cũng là những người duy nhất cùng với Elon Musk đã ủng hộ SB 1047. Nói cách khác, nói 'có, với một số cải tiến, chúng tôi đồng ý rằng sẽ minh bạch hơn về các quy trình, kết quả an toàn và trách nhiệm pháp lý nếu chúng tôi gây ra tổn hại lớn'.
Nghĩ đến sự tăng trưởng mạnh mẽ của cổ phiếu AI, như Nvidia?
“Điều tôi nghĩ rất chắc chắn là quỹ đạo dài hạn. Vì vậy, nếu bạn tham gia lâu dài, đó là một sự đánh cược khá an toàn, trừ khi chúng tôi không quản lý để bảo vệ công chúng… [Then] phản ứng có thể đến mức mọi thứ có thể sụp đổ phải không? Hoặc vì có phản ứng dữ dội từ các xã hội chống lại AI nói chung hoặc vì những điều thực sự thảm khốc xảy ra và cơ cấu kinh tế của chúng ta sụp đổ.
Dù bằng cách nào, nó sẽ có hại cho các nhà đầu tư. Vì vậy, tôi nghĩ các nhà đầu tư, nếu họ thông minh, sẽ hiểu rằng chúng ta cần hành động thận trọng và tránh những sai lầm và thảm họa có thể gây tổn hại cho tương lai chung của chúng ta.”
Suy nghĩ về cuộc đua chip AI?
“Tôi nghĩ rằng những con chip rõ ràng đang trở thành một phần quan trọng của câu đố, và tất nhiên, đó là một nút cổ chai. Rất có thể nhu cầu về số lượng tính toán khổng lồ sẽ không biến mất cùng với những loại sự kiện, những tiến bộ khoa học mà tôi có thể hình dung trong những năm tới, và do đó, việc sở hữu khả năng của chip AI cao cấp sẽ là một giá trị chiến lược – và tất cả các bước trong chuỗi cung ứng hiện có rất ít công ty có thể thực hiện được điều đó, vì vậy tôi kỳ vọng điều đó sẽ xảy ra. thấy nhiều khoản đầu tư đang diễn ra hơn và hy vọng sẽ có một chút đa dạng hóa.”
Bạn nghĩ gì về việc Salesforce giới thiệu 1 tỷ đại lý tự trị vào năm 2026?
“Quyền tự chủ là một trong những mục tiêu của các công ty này và đó là lý do chính đáng cho điều đó về mặt kinh tế, thương mại. Đây sẽ là một bước đột phá lớn về số lượng ứng dụng mà nó mở ra. Hãy nghĩ về tất cả các ứng dụng trợ lý cá nhân. Nó đòi hỏi nhiều quyền tự chủ hơn những gì hệ thống hiện đại có thể cung cấp. Vì vậy, có thể hiểu được rằng họ sẽ nhắm đến những thứ như thế này. Thực tế là Salesforce (CRM) đang nghĩ rằng họ có thể đạt được điều đó trong hai năm, đối với tôi, là điều đáng lo ngại. Chúng ta cần phải có rào chắn, cả về mặt chính phủ lẫn công nghệ, trước khi điều đó xảy ra.”
Thống đốc Newsom phủ quyết SB 1047 của California – Đó có phải là một sai lầm?
“Anh ấy không đưa ra những lý do hợp lý với tôi, chẳng hạn như muốn điều chỉnh không chỉ các hệ thống lớn mà còn tất cả các hệ thống nhỏ… Có khả năng mọi thứ có thể diễn biến nhanh chóng — chúng tôi đã nói chuyện trong vài năm. Và thậm chí có thể nếu đó là một khả năng nhỏ, như 10% [chance of disaster] chúng ta cần phải sẵn sàng. Chúng ta cần phải có quy định. Chúng ta cần các công ty đã thực hiện các bước ghi lại những gì họ đang làm theo cách nhất quán trong toàn ngành.
Một điều nữa là các công ty lo lắng về các vụ kiện. Tôi đã nói chuyện với nhiều công ty trong số này, nhưng đã có luật bồi thường thiệt hại ngoài hợp đồng, nên có thể kiện tụng bất cứ lúc nào nếu họ gây tổn hại. Và những gì dự luật đang làm về trách nhiệm pháp lý là giảm phạm vi vụ kiện… Có 10 điều kiện, bạn cần phải có tất cả những điều kiện này để luật pháp hỗ trợ cho vụ kiện. Vì vậy, tôi nghĩ rằng nó thực sự đã giúp ích. Nhưng có một ý thức hệ phản đối bất kỳ sự tham gia nào – bất kỳ điều gì không phải là hiện trạng, bất kỳ sự tham gia nào của nhà nước vào công việc của các phòng thí nghiệm AI này.”
Yasmin Khorram là Phóng viên cấp cao tại Yahoo Finance. Theo dõi Yasmin trên Twitter/X @YasminKhorram và trên LinkedIn. Gửi lời khuyên đáng tin cậy cho Yasmin: [email protected]
Bạn vẫn quan tâm đến AI? Hãy nghe tập này của Mở thầu podcast để trò chuyện với nhà khoa học và người sáng lập You.com Richard Socher. Socher chia sẻ quan điểm của mình về AI và những mối quan tâm lớn nhất.
Bấm vào đây để xem những tin tức công nghệ mới nhất sẽ tác động đến thị trường chứng khoán
Đọc tin tức tài chính và kinh doanh mới nhất từ Yahoo Finance
