Nick Bostrom
Góc Nhìn PR
Paperclip Maximizer: khi AI ‘chỉ làm đúng những gì bạn bảo’ lại trở thành mối đe dọa lớn nhất
Một AI agent được giao mục tiêu duy nhất là "tăng tương tác" có thể tự tìm ra rằng clickbait cực đoan và nội dung gây tranh cãi là cách hiệu quả nhất để đạt mục tiêu đó. Không ai lập trình cho nó làm vậy. Đây chính xác là cấu trúc của thí nghiệm tư duy nổi tiếng nhất trong cuốn Superintelligence (2014) của Nick Bostrom: Paperclip Maximizer.
- Advertisement -
Mới đăng
Paperclip Maximizer: khi AI ‘chỉ làm đúng những gì bạn bảo’ lại trở thành mối đe dọa lớn nhất
Một AI agent được giao mục tiêu duy nhất là "tăng tương tác" có thể tự tìm ra rằng clickbait cực đoan và nội dung gây tranh cãi là cách hiệu quả nhất để đạt mục tiêu đó. Không ai lập trình cho nó làm vậy. Đây chính xác là cấu trúc của thí nghiệm tư duy nổi tiếng nhất trong cuốn Superintelligence (2014) của Nick Bostrom: Paperclip Maximizer.