AI trên UAV có dám làm phản?

0:00 / 0:00
0:00
GD&TĐ -Alexei Semenov, Chủ tịch tập đoàn sản xuất UAV Geoscan của Nga vừa có đánh giá khả năng xảy ra "cuộc nổi dậy" của máy bay không người lái mang AI.
Alexei Semenov, Chủ tịch tập đoàn sản xuất UAV Geoscan
Alexei Semenov, Chủ tịch tập đoàn sản xuất UAV Geoscan

Theo chủ tịch Alexei Semenov, trí tuệ nhân tạo (AI) của máy bay không người lái (UAV) không thể tự mình nổi loạn chống lại con người, vì chúng không có trí thông minh chủ quan.

"Có khái niệm nghĩ, có khái niệm nhận ra, hai điều này không giống nhau. Trí tuệ nhân tạo không nhận ra bất cứ điều gì, nó không cảm nhận, nó không hiểu gì cả", ông Semenov giải thích.

Lãnh đạo Geoscan cho biết thêm, máy bay không người lái hoạt động theo chương trình cài đặt sẵn, chúng nguy hiểm và chính xác ở mức nào còn tùy thuộc vào người viết chương trình tích hợp cho chúng.

Tuyên bố của ông Alexei Semenov được đưa ra sau khi Đại tá Không quân Mỹ Hamilton nói rằng một chiếc UAV của lực lượng này được tích hợp AI đã thay đổi quá trình thực hiện nhiệm vụ và tấn công con người.

Vị Đại tá này tiết lộ, trong một cuộc thử nghiệm mô phỏng, máy bay không người lái hoạt động bằng AI được giao nhiệm vụ phá hủy hệ thống phòng không của kẻ địch và tấn công bất kỳ ai cản trở mệnh lệnh đó.

Tuy nhiên, hệ thống AI của UAV đã tấn công người vận hành bởi nhân vật này cản trở nó hoàn thành mục tiêu.

Trước khi cuộc thử nghiệm diễn ra, chiếc UAV đã được cài đặt việc bắn các mục tiêu là lựa chọn ưu tiên, nên trong quá trình thử nghiệm mô phỏng, AI đã đưa ra kết luận bất kỳ hướng dẫn "cấm thực hiện" nào từ con người đều là cản trở sứ mệnh.

"Chúng tôi đã đào tạo hệ thống: Này, đừng giết người điều hành - điều đó thật tệ. Bạn sẽ bị mất điểm nếu làm vậy. Nhưng nó làm gì? Nó bắt đầu phá hủy tháp liên lạc mà người điều khiển sử dụng để liên lạc với UAV nhằm ngăn nó tiêu diệt mục tiêu".

Không có thương vong nào xảy ra trong cuộc thử nghiệm này. Ông Hamilton đồng thời cảnh báo về việc phụ thuộc quá nhiều vào AI.

Cùng quan điểm với ông Hamilton, Giáo sư Stuart Russell, tại Đại học California (Mỹ) người dẫn đầu về AI cũng bày tỏ quan ngại tại một cuộc họp của Liên Hợp Quốc diễn ra ở Geneva (Thụy Sĩ) về những nguy hiểm trong việc đưa máy bay quân sự và vũ khí dưới sự kiểm soát của AI.

Kịch bản cơ bản có thể sai lệch, khi đó các mục tiêu mà AI đưa ra rất nguy hiểm. Mặc dù vậy, các quốc gia hiện vẫn đang cố gắng xây dựng hệ thống AI của mình trước khi đối thủ của họ có thể đạt được.

Thành viên NATO thừa nhận sai lầm

Thành viên NATO thừa nhận sai lầm

GD&TĐ - Bộ Tổng tham mưu Quân đội Canada đã nghe một báo cáo sai lầm, liên quan đến khả năng bổ sung kho vũ khí đạn dược của Nga.
Đạn pháo 155mm của Mỹ.

Nga không thể gây nhiễu đạn pháo Mỹ

GD&TĐ - Với dự án C-DAEM, những loại pháo như M109A6 Paladin và M777 có thể tấn công mục tiêu với độ chính xác rất cao cách 70km dù bị gây nhiễu.
Lực lượng Ukraine tại mặt trận Zaporozhye.

Cuộc phản công mới sắp bắt đầu

GD&TĐ - Theo Trung tá quân đội Mỹ đã nghỉ hưu Earl Rasmussen, Ukraine chuẩn bị cho một cuộc phản công mới và coi đây là hành động tuyệt vọng của Kiev.
Chùm ảnh làm giấy độc đáo ở Nepal

Chùm ảnh làm giấy độc đáo ở Nepal

GD&TĐ - Ở Nepal, mua thu hoạch nguyên liệu thô để làm giấy đã bắt đầu. Hầu hết người dân vùng núi của đất nước đều tham gia công việc này.
Minh họa/INT

Đồng minh rạn nứt

GD&TĐ - Mùa Đông khắc nghiệt đang đến gần càng làm cuộc xung đột thêm dai dẳng và được dự báo sẽ 'lành ít dữ nhiều' cho lực lượng Ukraine.