Các hệ t
hống an toàn tích hợp AI đang trang bị phổ biến trên các phương tiện tự hành được cho là kém hiệu quả với người da màu và trẻ em so với người da trắng.
Sự bùng nổ của trí tuệ nhân tạo (AI) mang tới mộ
t xu hướng rõ ràng: Sự thiên vị trong đào tạo các hệ t
hống máy học dẫn đến hành vi phân biệt đối xử trong thế giới thực.
Một nghiên cứu mới đây của nhóm các nhà khoa học tại Anh và Trung Quốc cho thấy, phần mềm phát hiện người đi bộ trang bị trên các phương tiện tự hành - vốn đang được nhiều nhà sản xuất ô tô sử dụng, có thể kém hiệu quả hơn khi đối tượng là người da màu hoặc trẻ em, dẫn đến những người này có thể gặp rủi ro nhiều hơn khi tham gia giao thông.
AI trên xe tự hành có xu hướng kém hiệu quả với đối tượng da màu và trẻ em, có thể dẫn đến những tai nạn nghiêm trọng.
Mặc d&ugra
ve; giới tính chỉ có sự khác biệt nhỏ về độ chính xác nhưng các nhà nghiên cứu nhận thấy hệ t
hống AI nhận diện kém chính xác hơ
n trong trường hợp người đi bộ có tone da màu tối.
“C&aacut
e;c cá nhân thiểu số từng bị từ chối cung cấp nhiều dịch vụ quan trọng, giờ đây nhóm này lại phải đối mặt với những rủi ro tai nạn nghiêm trọng”, Jie Zhang, nhà khoa học máy tính tại King's College London và là thành viên của nhóm nghiên cứu, cho biết.
Cụ thể, báo cáo ghi nhận hệ t
hống có khả năng phát hiện người lớn cao hơn 19,67% so với trẻ em, và thấp hơn 7,52% đối với những người có màu da tối hơn.
“Nhìn chung, nghiên cứu này làm sáng tỏ các vấn đề về tính công bằng mà hệ t
hống phát hiện người đi bộ hiện tại phải đối mặt, nhấn mạnh tầm quan trọng của việc giải quyết các thành kiến liên quan đến tuổi tác và màu da”, trích báo cáo của nhóm nghiên cứu. “Những hiểu biết sâu sắc thu được có thể mở đường cho các hệ t
hống lái xe tự động công bằng và không thiên vị hơ
n trong tương lai”.
Theo thành viên của nhóm nghiên cứu, báo cáo của họ không sử dụng chính xác phần mềm mà c&aacut
e;c công ty như Tesla cài đặt trên xe, do đây là bí mật thương mại, thay vào đó, nghiên cứu dựa trên các AI nguồn mở tương tự được các doanh nghiệp sử dụng.
“Điều cần thiết là các nhà hoạch định chính sách phải ban hành luật và quy định để bảo vệ quyền của tất cả c&aacut
e;c cá nhân v&agra
ve; giải quyết những mối lo ngại này một cách thích hợp”. Nhóm nghiên cứu kêu gọi các nhà lập pháp điều chỉnh phần mềm xe tự lái để ngăn chặn sự thiên vị trong hệ t
hống phát hiện của họ.
(Theo Insider)
Bốn mô hình AI hàng đầu tranh tài ‘bịa chuyện’
Nghiên cứu mới nhất cho thấy các mô hình AI hàng đầu của Meta, OpenAI, Cohere và Anthropic đều tạo ra thông tin sai lệch.
Xiaomi đưa AI hỗ trợ giọng nói lên thiết bị di động
Xiaomi đang phát triển và thử nghiệm mô hình trí tuệ nhân tạo nhỏ gọn trên các thiết bị di động trong cuộc đua phát triển công nghệ đằng sau những công cụ như ChatGPT.
Đưa AI tạo sinh vào ô tô thông minh
AI tạo sinh được đưa vào ô tô thông minh bằng cách tích hợp trong hệ t
hống điều khiển giọng nói và sẽ giúp cá nhân hóa trải nghiệm lái xe.
Nguồn bài viết : Thống kê 2 số cuối giải đặc biệt theo năm
