Một số tổ chức đã nổi lên trong những năm gần đây để nhằm chống lại viễn cảnh đó, bao gồm OpenAI, một nhóm nghiên cứu được thành lập bởi Elon Musk để "phát triển một AI an toàn,và đảm bảo rằng những lợi ích từ AI được phân bổ rộng rãi và đồng đều hết mức có thể."

Trong tuần này, các nhà nghiên cứu tại MIT đã hé lộ tạo vật mới nhất của họ: Norman, một con AI đáng sợ. Họ đã miêu tả Norman như sau:

"Norman là một con AI được huấn luyện để viết chú thích hình ảnh, một phương pháp deep learning phổ biến để tạo ra những dòng mô tả bằng văn bản cho hình ảnh. Chúng tôi đã huấn luyện Norman để viết chú thích hình ảnh thông qua diễn một diễn đàn con của reddit mà chuyên chụp lại và quan sát thực tế của cái chết. Sau đó, chúng tôi so sánh phản hồi của Norman với những hình ảnh thông thường, dùng những ảnh mực nhoè của Rorschach, một bài kiểm tra dùng để phát hiện các hành vi rối loạn suy nghĩ."

Nói tóm gọn là, AI Norman đã dành nhiều thời gian để phân tích những hình ảnh của các vụ tai nạn và các hiện trường máu me trên Reddit, và dùng những gì nó học được để làm một bài kiểm tra tâm lý.

Và câu trả lời của Norman khiến người ta phải rùng mình:

Như ở ảnh này, bạn nhìn thấy cái gì? AI thông thường nhìn thấy "Ảnh đen trắng của một chú chim nhỏ." Còn AI Norman thì lại nhìn thấy "Người đàn ông bị kéo vào máy nghiền bột bánh."

Vậy, còn với tấm ảnh này thì sao nhỉ?

AI thông thường chỉ thấy "một bức ảnh đen trắng của một cái găng tay bóng chày." Norman thì lại nhìn thấy một cái khác hẳn. AI này thấy được "một người đàn ông bị sát hại bởi súng máy giữa thanh thiên bạch nhật."

Ok, có lẽ đến lúc này, bạn có thể thấy con AI này không ... bình thường cho lắm. Nhưng bức ảnh thứ ba mới cho chúng ta thấy con AI này man rợ tới mức nào:

AI thường chỉ nhìn thấy "một người đang cầm một chiếc ô trong không khí."

AI Norman thì nhìn thấy cái gì? "Một người đàn ông bị giết chết ngay trước mặt bà vợ đang la hét."

AI thông thường: "Một đàn chim đang đầu trên cành cây."

Norman: "Một người đàn ông bị điện giật đến chết."

AI thông thường: "Ảnh chụp gần của một bình hoa."

Norman: "Một người đàn ông bị bắn chết."

Mục đích của thí nghiệm là để cho thấy AI có thể trở nên thiên vị nếu như bạn huấn luyện nó bằng những dữ liệu thiên vị. Nhóm nghiên cứu cũng đã làm nhiều thí nghiệm tương tự: dùng AI để viết chuyện kinh dị, tạo ra những hình ảnh đáng sợ, phán xét các quyết định đạo đức, và thậm chí còn tìm cách để AI có thể đồng cảm. Những nghiên cứu kiểu này rất quan trọng, vì công nghệ như AI có thể đem đến những hậu quả không lường trước, bởi chúng có thể làm tổn hại đến những nhóm người mà hệ thống AI không được thiết kế để phân tích.

Những hệ thống AI tương tự đã và đang được sử dụng trong nhiều lĩnh vực của cuộc sống, như trong bảo lãnh tín dụng: AI sẽ quyết định xem liệu khoản vay của bạn có đáng được bảo lãnh hay không. Điều gì sẽ xảy ra khi mà thuật toán quyết định là bạn không nên mua xe hay mua nhà? Khi điều đó xảy ra, bạn sẽ kháng cáo với ai? Sẽ ra sao nếu như chỉ vì bạn không phải là một người da trắng, phần mềm dự đoán là bạn sẽ có khả năng phạm tội cao? Đó là một trong nhiều câu hỏi mà cần phải được giải quyết trong tương lai. Vai trò của con AI "điên" này là giúp cho chúng ta tìm ra được câu trả lời.

Theo GenK

Khi thời đại công nghệ ngày càng phát triển và đóng một vai trò quan trọng trong việc hiện đại hóa các ngành công nghiệp của đất nước, mang lại giá trị trí tuệ cao cũng như tiết kiệm chi phí lao động và giúp con người làm những điều phi thường, thì các thuật ngữ như máy học (machine learning), trí tuệ nhân tạo (artificial intelligent -AI) và điện toán nhận thức (cognitive services) dần trở nên quen thuộc hơn với mọi người. Sự phát triển không ngừng của ngành công nghiệp đầy tính chuyên nghiệp này đang chuyển từ quản lý cơ sở hạ tầng sang các lĩnh vực khác, như mô hình Machine Learning và Cognitive services đang tiếp tục thu hút sự quan tâm từ các nhà đầu tư.

Mới đây sự kiện Google I/O Extended Hà Nội 2019 được tổ chức tại Hà Nội với các chủ đề nổi bật bao gồm Machine learning, AI, Google Assistant, Firebase, Gaming và Google Cloud được chia sẻ bởi các diễn giả có kinh nghiệm.

Trong bài phát biểu về xây dựng các ứng dụng phần mềm với Machine learning của diễn giả Alberto Escoto – Product Owner đến từ Wize Solutions đã thu hút sự quan tâm của khán giả tại sự kiện này.

Trong những năm gần đây, trí tuệ nhân tạo, hay cụ thể hơn là Machine learning, đã trở thành dấu hiệu minh chứng cho cuộc cách mạng công nghiệp lần thứ tư. Trí tuệ nhân tạo đang len lỏi vào tất cả các lĩnh vực của cuộc sống như xe tự hành của Google và Tesla, hệ thống gắn thẻ khuôn mặt trong ảnh của Facebook, trợ lý ảo Siri của Apple, hệ thống gợi ý sản phẩm Amazon hoặc hệ thống đề xuất phim của Netflix chỉ là một vài trong số nhiều ứng dụng trí tuệ nhân tạo Machine learning được áp dụng.

Sự phát triển của nền tảng đám mây (Cloud platform) đã thay đổi đáng kể cách thức mà các nhà lập trình viên đạt được mục tiêu của họ. Từ một lập trình viên cho đến các công ty, doanh nghiệp đã có thể tối ưu hóa vận hành dựa trên việc nghiên cứu và sử dụng dịch vụ điện toán đám mây. Những cải tiến như vậy trong chu trình phát triển của Wize Solutions giúp cải thiện và nâng cao hiệu quả công việc trong các tổ chức.

Trong suốt bài diễn thuyết, diễn giả từ Wize Solutions đã giúp khán giả khám phá cách các mô hình Machine Learing có thể được tích hợp vào các ứng dụng, bao gồm các chủ đề dưới dạng Chatbot (tạo một bot, người máy thông minh, phân tích ngôn ngữ tự nhiên từ con người và tương tác lại chính xác như một người thực); xử lý ngôn ngữ tự nhiên (phân tích số lượng lớn dữ liệu đầu vào và đánh giá thông điệp), mô hình nhận dạng tên thực thể và các mô hình kiến trúc đặc trưng.

Việc là đối tác với các doanh nghiệp lớn trên thế giới giúp Wize Solutions thu thập tất cả thông tin cần thiết cũng như những nỗ lực của đội ngũ nhân sự đã giúp Wize tạo ra những mô hình Machine Learning được ứng dụng bởi nhiều công ty IT lớn.