12:39 16 Tháng Mười Hai 2019
Robot có trí tuệ nhân tạo

Đã tìm ra cách ngăn chặn ngày tận thế do robot hoành hành

© Depositphotos / Phonlamai
Khoa học
URL rút ngắn
10
Theo dõi Sputnik trên

Các nhà khoa học tại Đại học Massachusetts ở Amherst đã phát triển một nền tảng để tạo ra các thuật toán nhằm ngăn chặn hành vi nguy hiểm của máy móc có trí tuệ nhân tạo (AI), để chúng không thể gây tác hại đối với con người, như tin đưa của ScienceAlert.

Thuật toán Seldon

Các nhà nghiên cứu đã nêu ra thuật toán Seldon (tên gọi này nhằm vinh danh nhân vật của loạt tiểu thuyết khoa học viễn tưởng "Foundation" của Isaac Asimov). Mặc dù thuật toán này không xác định được những tiêu chuẩn đạo đức của trí tuệ nhân tạo, tuy nhiên nó cho phép hệ thống xác định hành vi nào là không mong muốn để ngăn chặn nó.

Các nhà khoa học nêu ví dụ sử dụng thuật toán Seldon để điều trị bệnh tiểu đường, khi hệ thống tự động điều khiển bơm insulin. Trong trường hợp này, hành vi được coi là không mong muốn khi nó làm giảm mức insulin trong máu xuống tới mức nghiêm trọng, hoặc hạ đường huyết. Các nhà nghiên cứu cũng đã phát triển thuật toán để dự đoán điểm thi trung bình cho sinh viên, tránh các định kiến về giới tính được tìm thấy trong một số thuật toán khác.

Mối đe dọa từ vũ khí có lắp trí tuệ nhân tạo

Vào tháng 10, cựu chuyên gia phát triển Google Lara Nolan tuyên bố rằng, vũ khí được cài đặt trí tuệ nhân tạo có khả năng đưa ra quyết định không có sự tham gia của con người, dẫn tới hậu quả là các thành phố có thể bị phá hủy chỉ trong vài giây. Nếu trong một khu vực tồn tại nhiều hệ thống tương tự thì có khả năng xảy ra một "cuộc chiến bất ngờ", vì các hệ thống này sẽ lập tức phản ứng với nhau.