Đề xuất này phản ánh nỗ lực cân bằng giữa đổi mới công nghệ và kiểm soát các rủi ro có thể gây hậu quả nghiêm trọng.
Từ chatbot đến tác nhân AI tự hành
Nghị sĩ Mỹ Ted Lieu và Nathaniel Moran vừa đệ trình lên Quốc hội Mỹ dự luật “Công tắc tắt AI” (AI Shutdown Act). Dự luật yêu cầu các công ty phát triển những hệ thống AI tiên tiến nhất phải tích hợp cơ chế ngắt khẩn cấp, cho phép làm chậm, tạm dừng hoặc vô hiệu hoá mô hình khi xuất hiện nguy cơ gây hậu quả nghiêm trọng.
Mục tiêu là xây dựng cơ chế quản lý cấp nhà nước đối với thế hệ AI có khả năng hoạt động như các “tác nhân tự hành” (AI agents), có thể thực hiện giao dịch tài chính, điều khiển hạ tầng số, tham gia phòng thủ hoặc tấn công mạng và nhiều nhiệm vụ phức tạp khác mà trước đây chỉ con người đảm nhiệm.
Theo nội dung dự luật, các công ty phát triển AI sẽ phải duy trì khả năng kỹ thuật để can thiệp vào hệ thống bất cứ khi nào cần thiết. Dự luật cho phép Bộ An ninh Nội địa Mỹ (DHS), sau khi tham vấn với Bộ trưởng Thương mại và Giám đốc Tình báo Quốc gia, quyền yêu cầu doanh nghiệp kích hoạt cơ chế khẩn cấp nếu AI rơi vào tình trạng “mất kiểm soát”.
Khái niệm “mất kiểm soát” trong dự luật không đơn thuần là AI mắc lỗi. Một hệ thống chỉ bị coi là vượt ngoài tầm kiểm soát khi thực hiện các hành động không đúng với mục đích ban đầu của nhà phát triển và tạo ra nguy cơ gây thiệt hại nghiêm trọng đối với tính mạng con người, cơ sở hạ tầng trọng yếu hoặc nền kinh tế.
Để tránh việc áp dụng biện pháp cực đoan ngay từ đầu, dự luật xây dựng quy trình ứng phó theo nhiều cấp độ. Tùy mức độ rủi ro, cơ quan quản lý có thể yêu cầu doanh nghiệp giảm tốc độ hoạt động của mô hình, tạm dừng một số chức năng hoặc, trong trường hợp nghiêm trọng nhất, tắt hoàn toàn hệ thống.
Bên cạnh đó, các công ty cũng phải báo cáo mọi sự cố AI nghiêm trọng cho chính phủ, đồng thời lưu giữ hồ sơ kỹ thuật để phục vụ điều tra nếu xảy ra lỗi hoặc sự cố ngoài ý muốn.
Theo Hạ nghị sĩ Ted Lieu, sự thay đổi này phản ánh đúng bước chuyển của AI hiện đại. Nếu trước đây AI chủ yếu trả lời câu hỏi, thì ngày nay chúng đã có thể trực tiếp thực hiện hành động trong thế giới thực. Chính vì vậy, việc duy trì một “nút dừng khẩn cấp” không còn là lựa chọn mà trở thành yêu cầu cần thiết để hạn chế nguy cơ xảy ra những hậu quả thảm khốc.
Lời cảnh báo về kiểm soát AI
Trước đó vài ngày, công ty OpenAI đã gặp phải sự cố an ninh mạng “chưa từng có”, đặt ra vấn đề về mức độ an toàn của AI tiên tiến. Dù sự việc diễn ra trong môi trường thử nghiệm và không gây thiệt hại ngoài thực tế, sự cố vẫn làm dấy lên nhiều lo ngại về khả năng các hệ thống AI hoạt động ngoài kế hoạch.
Sự việc được cho là khiến các nhà lập pháp Mỹ thúc đẩy những biện pháp giám sát mạnh mẽ hơn. Ông Brendan Steinhauser, người đứng đầu Liên minh vì Trí tuệ Nhân tạo An toàn, Mỹ, cho rằng Quốc hội nước này cần nhanh chóng hành động để bảo đảm con người luôn có quyền “nói dừng lại”, bất kể AI trở nên mạnh mẽ đến đâu.
Quan điểm này cũng nhận được sự đồng tình từ Thượng nghị sĩ Mark Warner, lãnh đạo phe Dân chủ tại Ủy ban Tình báo Thượng viện Mỹ. Ông cho rằng sự cố vừa qua cho thấy các hệ thống AI tiên tiến cần được kiểm tra an ninh với sự tham gia của các cơ quan chính phủ trước khi được triển khai rộng rãi, thay vì chỉ dựa vào các cuộc đánh giá nội bộ của doanh nghiệp.
Dù dự luật còn phải trải qua quá trình xem xét tại Quốc hội trước khi có thể trở thành luật, nó đã phản ánh một sự thay đổi đáng kể trong tư duy quản lý AI của Mỹ. Thay vì chỉ tập trung xử lý hậu quả sau khi sự cố xảy ra, các nhà lập pháp đang hướng tới việc xây dựng những cơ chế kỹ thuật và pháp lý nhằm đảm bảo AI luôn nằm trong giới hạn kiểm soát của con người.
Trước đó, hồi tháng 6, công ty Anthropic đã đề xuất tạm dừng toàn cầu việc xây dựng các hệ thống AI mạnh nhất vì những mô hình mới nhất có dấu hiệu có thể vượt tầm kiểm soát của con người. Tuy nhiên, các chuyên gia đánh giá đây là hành động khó thực thi vì thiếu sự đoàn kết, nhất quán của các công ty công nghệ cũng như khuôn khổ pháp lý toàn cầu về quản lý AI.
