Một chuyên gia an ninh mạng độc lập hàng đầu đã nói với hãng Izvestia lý do tại sao động thái này lại tiềm ẩn nhiều rủi ro nghiêm trọng.
Chuyên gia an ninh mạng độc lập kỳ cựu và chuyên gia chiến lược số Lars Hilse giải thích: "Các hệ thống trí tuệ nhân tạo (AI) có thể tương tác với cơ sở hạ tầng được kết nối mạng khác theo những cách không thể đoán trước".
Học giả Hilse cho biết, tính không thể đoán trước này "có khả năng gây ra các cuộc chiến tranh chớp nhoáng, leo thang quá nhanh khiến tâm trí con người không kịp hiểu và không kịp can thiệp", đồng thời nhấn mạnh những rủi ro to lớn khi giao các vấn đề liên quan đến quốc phòng cho AI quản lý.
Nhà phân tích, người gần đây đã viết cuốn sách 'Sự thống trị trên chiến trường kỹ thuật số' chuyên đề về những vấn đề này, cho biết đó là chưa kể đến mối đe dọa phổ biến vũ khí hạt nhân.
Cũng theo Hilse, nhân loại mới chỉ bắt đầu hiểu được những mối nguy hiểm và một số rủi ro chưa biết liên quan đến việc vũ khí hóa AI.
Đáp ứng thị trường
Người quan sát không ngạc nhiên trước sự thay đổi chính sách của Google, với việc "hiệu chỉnh" được đưa ra do nhu cầu "phù hợp với thực tế thị trường và nhu cầu địa chính trị" cũng như bản chất "cực kỳ sinh lợi" của thị trường quốc phòng.
Hilse cho biết chính sách mới của Google có nghĩa là họ sẽ có thể tham gia vào các hợp đồng quốc phòng và dự án giám sát của chính phủ cực kỳ béo bở này, đồng thời củng cố vị thế của mình trong cuộc đua AI, đặc biệt là so với các đối thủ cạnh tranh Trung Quốc.
"Sự thay đổi chính sách cho thấy sự điều chỉnh rộng hơn của Thung lũng Silicon theo nguyện vọng quốc phòng và thậm chí có thể gợi ý rằng các rào cản đạo đức trước đây đối với sự phát triển AI quân sự đang được gỡ bỏ một cách có hệ thống.
Những thay đổi sẽ cho phép phản ứng nhanh hơn với những thay đổi của thị trường trong lĩnh vực kinh doanh cực kỳ sinh lợi và chưa từng được khai thác này", chuyên gia Hilse tóm tắt.
Vũ khí AI giảm thương vong cho dân thường?
Giới quân sự phương Tây cho rằng những cuộc tấn công chết người được điều khiển hoàn toàn bằng AI còn nhiều năm nữa mới thành hiện thực. Bởi hiện tại các thuật toán tiên tiến nhất vẫn chưa đủ tin cậy để đưa ra các quyết định sống còn.
"Khoảng một thập niên trước, khi chúng ta bàn về điều này, nó là khoa học viễn tưởng. Bây giờ thì không như thế nữa, công nghệ này đang trở nên rất thực", tờ New York Times dẫn bình luận của ông Paul Scharre, một cựu quan chức Lầu Năm Góc.
Tuy nhiên các cơ quan Liên Hiệp Quốc tỏ ra lo ngại với những hệ thống vũ khí đang được phát triển gần đây.
Trước cuộc chạy đua phát triển và triển khai công nghệ mới có thể làm thay đổi bản chất chiến tranh của Mỹ, Trung Quốc và một số nước, nhiều quốc gia đã đề nghị Liên Hiệp Quốc áp đặt các quy tắc ràng buộc pháp lý đối với việc sử dụng vũ khí sát thương tự động.
"Đây thật sự là bước ngoặt quan trọng đối với nhân loại. Vai trò của con người ở đâu trong việc sử dụng vũ lực - đây là vấn đề an ninh cốt lõi, vấn đề pháp lý và vấn đề đạo đức", ông Alexander Kmentt, trưởng phái đoàn đàm phán của Áo về vũ khí tự động, nêu quan điểm trong một cuộc phỏng vấn.
Tuy nhiên các nước như Mỹ, Nga, Úc và Israel lập luận hiện chưa cần đến các quy định quốc tế mới. Chưa kể, Mỹ, Trung Quốc và Nga còn cho rằng AI và vũ khí tự động có thể giảm thương vong cho dân thường và tránh được các thiệt hại vật chất.
"Chúng tôi không thấy đây là thời điểm thích hợp", ông Konstantin Vorontsov, phó trưởng phái đoàn Nga, phát biểu trong cuộc họp tại trụ sở Liên Hiệp Quốc.
