TheốchộiMỹbứcxúcvìAIcủaAmazonnhậndiệnnghịsỹlàtộiphạmtruynãarsenal vs mco Gizmodo, phần mềm nhận diện khuôn mặt gây tranh cãi của Amazon có tên Rekognition đã xác định nhầm 28 nghị sỹ thuộc Quốc hội Mỹ là những kẻ phạm tội. Sai lầm của Rekognition chỉ bị phát hiện khi Liên đoàn tự do dân sự Mỹ ở Bắc California (ACLU) sử dụng AI này để thử quét khuôn mặt của 535 nghị sỹ quốc hội Mỹ và đối chiếu với bộ dữ liệu 25 ngàn bức ảnh chụp phạm nhân công khai.

Rekognition đã nhận diện 28 nghị sỹ Quốc hội Mỹ là phạm nhân truy nã. Có khoảng 11 trong số các nghị sỹ Quốc hội bị xác định sai là người da màu, một sự khác biệt đáng báo động. Các thử nghiệm cho thấy, khả năng nhận diện khuôn mặt của AI thường kém chính xác hơn đối với những người da màu. Tính tổng thể Quốc hội Mỹ, tỷ lệ lỗi chỉ là 5% nhưng với các nghị sỹ là người da màu, tỷ lệ lỗi lên tới 39%.

Trong số những người bị xác định nhầm là phạm nhân có 6 người là nghị sỹ của nhóm Congressional Black Caucus (một tổ chức chính trị do các nghị sỹ là người Mỹ gốc Phi trong Quốc hội Mỹ lập nên) đã gửi thư tới CEO Amazon Jeff Bezos vào hôm thứ Sáu (27/7) sau khi ACLU phát hành các tài liệu nội bộ chỉ ra sai lầm của AI Rekognition.

Luis Gutiérrez và Mark DeSaulnier, hai trong số các nghị sỹ Quốc hội Mỹ gửi thư cho Jeff Bezos yêu cầu tạm dừng sử dụng Rekognition.

Bức thư có đoạn ghi: "Công nghệ nhận diện khuôn mặt ngày càng chính xác, dễ sử dụng và tiết kiệm chi phí hơn. Chúng tôi hiểu rằng, công nghệ sẽ giúp việc thực thi pháp luật trở nên thuận lợi và dễ dàng hơn. Tuy nhiên công nghệ này luôn đi kèm với rủi ro, bao gồm cả việc xâm phạm quyền riêng tư, thiên vị, phân biệt chủng tộc và giới tính".

Về phần mình, Amazon thừa nhận công nghệ này vẫn chưa thực sự hoàn hảo và còn nảy sinh một số lỗi lập trình. Hơn nữa việc AI phải nhận diện hàng trăm khuôn mặt không có trong dữ liệu hệ thống có thể làm nảy sinh những sai lầm trong việc nhận diện và đối chiếu. Tuy nhiên Amazon cũng cam kết sẽ tiếp tục cải thiện AI sao cho đạt ngưỡng chính xác tối đa lên tới 95%.

Amazon gần đây liên tục khuyến khích các cơ quan thực thi pháp luật thí điểm sử dụng AI Rekognition để phục vụ cho điều tra. Tuy nhiên theo công bố của ACLU,  nếu AI vẫn còn tình trạng xác định nhầm người da màu như hiện nay thì sẽ gây ra những sai lầm chết người.

AI Rekognition bắt đầu được sử dụng từ hồi tháng 5/2018 tại sở cảnh sát Orlando. Chi phí sử dụng cho mỗi lần phát hiện chỉ khoảng 12 USD (279 ngàn đồng).

Vụ việc trên là bằng chứng rõ ràng nhất cho những hạn chế của AI trong việc tham gia vào các hoạt động đời sống, đặc biệt là phát hiện tội phạm và hỗ trợ cảnh sát.

• ·Kèo vàng bóng đá Atletico Nacional vs Deportes Tolima, 08h30 ngày 20/3: Chủ nhà lên đỉnh
• ·Cuộc chiến không giới tuyến tập 26: Hiếu bênh vực khi Thái bị vây đánh
• ·Cuộc chiến không giới tuyến tập 22: Đoàn đến nhà Trà siết nợ
• ·Cặp đôi chính vô tình lộ tập cuối 'Hẹn hò chốn công sở'
• ·Nhận định, soi kèo Hartford Athletic vs NY Shockers, 5h30 ngày 19/3: Đẳng cấp khác biệt
• ·'Đất rừng phương Nam': Nếu chỉ minh họa tác phẩm văn học thì cần gì xem phim nữa
• ·Soi kèo góc Leicester vs Man City, 21h30 ngày 29/12
• ·Vợ chồng MC Lại Bắc Hải Đăngvà loạt MC VTV dự công chiếu phim Trịnh Công Sơn
• ·Nhận định, soi kèo Bistrica vs Brinje Grosuplje, 21h30 ngày 21/3: Cửa trên ‘ghi điểm’
• ·Võ Tòng phim 'Đất phương Nam': Đổi đời nhờ vai phụ, phải hát hội chợ để mưu sinh
• ·MC Mai Ngọc VTV đăng ảnh mừng sinh nhật chồng tuổi 35
• ·Nhận định, soi kèo Leicester vs Man City, 21h30 ngày 29/12: Cái xác không hồn
• ·Nhận định, soi kèo U19 Đức vs U19 Slovenia, 21h00 ngày 19/3: Nghiền nát đối thủ
• ·Mỹ Tâm: 'Khắc Hưng, em đẹp trai mà'
• ·Những câu chuyện xúc động về NSUT Minh Trí trong ký ức đồng nghiệp
• ·Diễn viên Thanh Thúy sốc vì bị 'đuổi' khỏi nhà trong 'Mẹ vắng nhà'