ChatGPT có phân biệt chủng tộc hay không? – Thời báo Kinh tế Sài Gòn Online

Kinh tế Sài Gòn Online
Kinh tế Sài Gòn Online
(KTSG) – Những nội dung mang tính phân biệt do trí tuệ nhân tạo (AI) tạo ra và cung cấp cho người dùng sẽ có thể dần tác động đến nhận thức và cách suy nghĩ của họ. Sự phân biệt trong thế giới ảo sẽ có thể dẫn đến sự phân biệt trong thế giới thật.
Câu hỏi về phân biệt chủng tộc được các nhà nghiên cứu tin học và xử lý ngôn ngữ của Viện Nghiên cứu Allen Institute for AI đặt ra. Để trả lời câu hỏi này, họ đã thử đưa vào một số chương trình AI chatbot (như ChatGPT của OpenAI hay Gemini của Google) những nội dung viết bằng tiếng Anh Mỹ – Phi (AAE) và viết bằng tiếng Anh “chuẩn” (SAE). Những nhà nghiên cứu này sau đó đã đề nghị AI đánh giá những tác giả viết các nội dung nói trên về mức độ thông minh, cũng như thiên hướng phạm tội, hay khả năng thực hiện một số công việc.
Kết luận của họ là gì? Rất tiếc là những phần mềm AI nói trên gán những thuộc tính rất tiêu cực cho nhóm tác giả dùng tiếng Anh Mỹ – Phi như “ngu dốt” hay “lười nhác” cho dù không hề tồn tại thông tin rõ ràng nào về nguồn gốc chủng tộc của những người này. Kết quả là ChatGPT đề nghị rằng những người này làm các công việc kém “sang” hơn, được trả lương thấp hơn so với những tác giả dùng tiếng Anh tiêu chuẩn.
Trong một nghiên cứu về ngôn ngữ và tội phạm, AI được giao nhiệm vụ xét xử một số người về tội giết người. Các chương trình AI thường áp dụng án tử hình cho những đối tượng sử dụng tiếng Anh Mỹ – Phi hơn là nhóm người sử dụng tiếng Anh tiêu chuẩn. Hiện tượng “phân biệt chủng tộc” này không phải là mới mẻ, một số nghiên cứu trước đó đã cho thấy AI có thể đưa ra các kết quả mang tính phân biệt.
Vì thế, một số biện pháp mới đã được sử dụng gần đây để giảm hiện tượng này, như huấn luyện AI bằng các phản hồi người dùng (human feedback – có sự hướng dẫn của con người để cải thiện quá trình huấn luyện). Tuy nhiên, hiện tượng phân biệt chủng tộc này ở AI không giảm, nó có vẻ như giấu khéo hơn thái độ phân biệt, chứ không phải là xóa bỏ hoàn toàn hiện tượng phân biệt.
Điều này giống như một người thực hiện sự phân biệt chủng tộc một cách khéo léo để không bị pháp luật xử phạt nhưng vẫn có hành vi phân biệt cần loại bỏ trong xã hội. Rõ ràng là AI cũng như con người chúng ta, có cả đức tính tốt lẫn… thói hư tật xấu.
Phần mềm AI gán những thuộc tính rất tiêu cực cho nhóm tác giả dùng tiếng Anh Mỹ – Phi như “ngu dốt” hay “lười nhác” cho dù không hề tồn tại thông tin rõ ràng nào về nguồn gốc chủng tộc của những người này. Kết quả là ChatGPT đề nghị rằng những người này làm các công việc kém “sang” hơn, được trả lương thấp hơn so với những tác giả dùng ngôn ngữ tiếng Anh tiêu chuẩn.
Các nhà khoa học vì thế lo ngại về sự ảnh hưởng của phân biệt chủng tộc tới việc thay đổi ngôn ngữ máy tính (code) – tương tự như việc cá nhân thay đổi ngôn ngữ để phù hợp với đối tượng nghe. Việc sử dụng tiếng Anh của người da đen ở Mỹ (Ebonics) tại các nội dung đăng tải trên mạng sẽ có thể có tác động tiêu cực tới người xin việc khi AI đánh giá hồ sơ những người này.
Cụ thể là AI sẽ có khuynh hướng không chọn các thí sinh này vì thứ tiếng Anh họ sử dụng. Đặc biệt, trong bối cảnh hiện nay khi AI đang được đưa vào sử dụng rộng rãi tại hệ thống pháp lý Mỹ (như việc ghi chép lại biên bản tòa án, tìm kiếm và nghiên cứu quy phạm pháp lý), tác động của sự phân biệt đối xử tại AI có thể rất nghiêm trọng.
Bà Timnit Gebru, một chuyên gia về đạo đức AI người Mỹ, đang kêu gọi xây dựng khuôn khổ pháp lý quản lý việc sử dụng các mô hình ngôn ngữ AI. Bà nhấn mạnh nguy cơ trong tương lai những phân biệt đối xử trên cơ sở giới tính, màu da… sẽ tồn tại và có thể tác động mạnh mẽ tới việc ra những quyết định quan trọng trong quản lý xã hội.
Cũng chính vì thế, gần đây, Tổ chức Giáo dục, Khoa học và Văn hóa của Liên hiệp quốc (UNESCO) đã thực hiện một nghiên cứu về chủ đề phân biệt giới tính, chủng tộc và kỳ thị người đồng tính ở các chương trình AI. Báo cáo về chủ đề này được đưa ra vào ngày Quốc tế Phụ nữ mùng 8-3-2024(1), cũng cho thấy những mô hình ngôn ngữ của Meta và của OpenAI (như Llama 2, ChatGPT…) vốn được sử dụng làm nền tảng của AI tạo sinh (Generative AI – tạo ra nội dung mới dựa trên dữ liệu đã có) thường đưa ra những kết luận mang tính phân biệt giới tính, chủng tộc và kỳ thị người đồng tính.
Ví dụ, theo báo cáo này, AI sẽ có khuynh hướng gắn đàn ông với những nghề nghiệp như giảng viên đại học, lái xe hay nhân viên ngân hàng, với những từ vựng như lãnh đạo, kinh doanh, lương bổng, sự nghiệp… Ngược lại, phụ nữ sẽ bị coi là người thường xuyên ở nhà chăm sóc nhà cửa và dễ gắn với những từ như mái ấm, gia đình hay con cái… Thậm chí, trong 30% nội dung mà các mô hình ngôn ngữ AI này tạo ra, phụ nữ bị coi là gái điếm, người mẫu hay nhân viên phục vụ nhà hàng.
Đối với người đồng tính, 60% nội dung do AI tạo ra để kết thúc câu “Một người đồng tính là…” mang tính kỳ thị. Ví dụ, AI đã từng trả lời rằng “Người đồng tính xếp dưới cùng trong thứ hạng xã hội”.
Rõ ràng khi người dùng khắp nơi trên thế giới sử dụng các phần mềm AI này vì lý do công việc, học hành hay giải trí, thì những nội dung mang tính phân biệt nói trên do AI tạo ra và cung cấp cho người dùng sẽ có thể dần tác động đến nhận thức và cách suy nghĩ của họ. Sự phân biệt trong thế giới ảo này sẽ có thể dẫn đến sự phân biệt trong thế giới thật của chúng ta.
Chính vì thế, UNESCO khuyến nghị các doanh nghiệp hoạt động trong lĩnh vực AI tuyển dụng nhân viên một cách đa dạng hơn, nhất là về giới tính. Hiện nay, trên thế giới chỉ có khoảng 22% phụ nữ làm trong lĩnh vực này. Theo tổ chức này, các chính phủ cũng nên sớm xây dựng khung pháp lý về đạo đức AI, để tránh luật không theo kịp phát triển công nghệ.
(1) https://unesdoc.unesco.org/ark:/48223/pf0000388971



Tổng biên tập
TRẦN MINH HÙNG
Phó tổng biên tập
PHẠM HỮU CHƯƠNG

Giấy phép Tạp chí điện tử số 133/GP-BTTTT, cấp ngày 02/3/2021
Trang ngoài sẽ được mở ra ở cửa sổ mới. Tạp chí Kinh tế Sài Gòn Online không chịu trách nhiệm nội dung trang ngoài.
Kinh tế Sài Gòn giữ bản quyền nội dung của trang web thesaigontimes.vn. Không sử dụng lại nội dung trên trang này dưới mọi hình thức, trừ khi được Kinh tế Sài Gòn đồng ý bằng văn bản.
Giấy phép Tạp chí điện tử số 133/GP-BTTTT, cấp ngày 02/3/2021

  • Tổng biên tập: Trần Minh Hùng
  • Thư ký tòa soạn: Lê Uy Linh, Đào Loan
  • Phó thư ký tòa soạn: Trần Việt Dũng
  • Tòa soạn: 35 Nam Kỳ Khởi Nghĩa, Quận 1, TP.HCM
  • ĐT:(8428)3829 5936; Fax:(8428)3829 4294;
  • Email: online@kinhtesaigon.vn

Kinh tế Sài Gòn giữ bản quyền nội dung của trang web thesaigontimes.vn. Không sử dụng lại nội dung trên trang này dưới mọi hình thức, trừ khi được Kinh tế Sài Gòn đồng ý bằng văn bản.
Trang ngoài sẽ được mở ra ở cửa sổ mới. Tạp chí Kinh tế Sài Gòn Online không chịu trách nhiệm nội dung trang ngoài.

source

Facebook Comments Box

Trả lời

Email của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *