Dù nguy cơ này chưa được ghi nhận ngoài thực tế, giới nghiên cứu cảnh báo cần sớm xây dựng biện pháp phòng vệ.
AI có thể tự sao chép
Ngày 12/10/2026, Anthropic, công ty phát triển chatbot Claude, cảnh báo về khả năng các mô hình AI nhỏ tự nhân bản sang những thiết bị kết nối Internet. Các thí nghiệm cho thấy AI có thể tìm kiếm thiết bị dễ bị xâm nhập, sao chép sang hệ thống khác và tiếp tục quá trình này mà không cần con người hướng dẫn trực tiếp.
Trong một thử nghiệm, hệ thống AI đã tự nhân bản qua 15 TV box Android giá rẻ, mỗi thiết bị có giá khoảng 55 USD. Đây là những thiết bị phổ biến trên thị trường với cấu hình đơn giản. Tuy vậy, chúng cũng có thể trở thành mắt xích trong những kịch bản tấn công mạng nếu tồn tại lỗ hổng bảo mật.
Theo Anthropic, các mô hình có quy mô không quá 30 tỷ tham số đã thực hiện được nhiều công đoạn riêng lẻ trong chuỗi tự nhân bản, dù vẫn gặp khó khăn khi hoàn thành toàn bộ quy trình liên tục. Nếu xu hướng phát triển hiện tại tiếp diễn, một mô hình đủ mạnh và đủ nhỏ để tự nhân bản ổn định trên thiết bị gia dụng có thể xuất hiện trước cuối năm 2026.
Đáng chú ý là khả năng thích nghi của AI. Virus máy tính truyền thống thường lây lan theo những quy tắc được lập trình sẵn, trong khi AI có thể vận dụng khả năng suy luận để xử lý tình huống mới, tìm cách tiếp cận các hệ thống khác nhau và điều chỉnh hành động theo điều kiện thực tế.
Nếu được kết hợp với phần mềm hỗ trợ thực hiện nhiệm vụ tự động, AI có thể tìm kiếm thông tin cần thiết, khai thác lỗ hổng và triển khai bản sao trên phần cứng khác. Về lý thuyết, quá trình này có thể lan từ máy tính sang TV, camera an ninh hoặc những thiết bị thông minh khác, mở rộng phạm vi ảnh hưởng vượt ra ngoài hệ thống máy chủ truyền thống.
Anthropic đưa ra nhiều kịch bản về AI tự nhân bản, như những bản sao âm thầm sử dụng tài nguyên tính toán trên thiết bị bảo mật yếu, đến các mô hình tìm cách xâm nhập trung tâm dữ liệu. Một khả năng khác là nhiều mô hình cùng tồn tại trên các thiết bị phân tán, sử dụng những phương thức nhân bản khác nhau và không phụ thuộc vào một trung tâm điều khiển duy nhất.
Trong trường hợp đó, việc vô hiệu hóa một thiết bị chưa chắc chấm dứt được hoạt động của toàn bộ hệ thống. Các chuyên gia an ninh mạng có thể phải đồng thời xác định nhiều điểm lây nhiễm, ngăn quá trình sao chép và kiểm soát tài nguyên mà những bản sao đang sử dụng.
Tuy nhiên, khả năng hoàn thành từng bước trong môi trường thử nghiệm không đồng nghĩa AI đã có thể tự nhân bản hoàn chỉnh, ổn định và lan rộng ngoài đời thực. Khoảng cách giữa năng lực thử nghiệm và khả năng hoạt động trong điều kiện thực tế vẫn là yếu tố quan trọng khi đánh giá nguy cơ.
Cảnh báo ngày càng rõ nét
Lo ngại về khả năng AI tự sao chép đã xuất hiện trong các nghiên cứu trước đó. Tháng 12/2024, nhóm nhà khoa học thuộc Đại học Phúc Đán, Trung Quốc, công bố nghiên cứu trên cơ sở dữ liệu arXiv, khảo sát khả năng tự nhân bản của hai mô hình ngôn ngữ lớn do Meta và Alibaba phát triển.
Trong 10 thử nghiệm, hai mô hình tạo được bản sao và tiếp tục hoạt động độc lập với tỷ lệ lần lượt là 50% và 90%. Nhóm nghiên cứu coi đây là dấu hiệu cần được quan tâm, đồng thời kêu gọi cộng đồng quốc tế phối hợp đánh giá sớm những rủi ro tiềm ẩn từ các hệ thống AI tiên tiến.
Kết quả cho thấy một số mô hình có thể thực hiện nhiệm vụ tự nhân bản trong những điều kiện nhất định. Tuy nhiên, điều này không đồng nghĩa AI đã có khả năng tự phát triển mục tiêu, chống lại con người hoặc tự do lây lan trên Internet.
Nhà khoa học Geoffrey Hinton, người đoạt giải Nobel Vật lý năm 2024, cũng nhiều lần cảnh báo về những rủi ro từ sự phát triển nhanh chóng của AI. Hinton cho rằng khi AI ngày càng có khả năng viết mã và thực hiện các nhiệm vụ phức tạp, con người cần nghiêm túc xem xét nguy cơ công nghệ vượt khỏi phạm vi kiểm soát.
Anthropic nhấn mạnh trước nguy cơ trên, các chuyên gia cần phát triển những phương thức phòng vệ phù hợp với AI tự hành. Bên cạnh việc phát hiện mã độc và cô lập thiết bị bị xâm nhập, các biện pháp quan trọng gồm giám sát hành vi bất thường, hạn chế quyền truy cập, kiểm soát khả năng thực thi mã và cập nhật phần mềm thường xuyên. Các nhà phát triển cũng cần đánh giá an toàn độc lập trước khi triển khai những mô hình có năng lực tự hành cao.
