Anthropic cảnh báo nguy cơ AI tự nhân bản, gây nguy hiểm an ninh mạng

Một nghiên cứu mới từ nhóm Frontier Red Team thuộc Anthropic đã chỉ ra rằng một mô hình trí tuệ nhân tạo (AI) nhỏ có khả năng tự cài đặt và thực hiện suy luận trên 8 trong số 9 cấu hình phần cứng Internet of Things (IoT) mà không cần sự can thiệp của con người.

Các mô hình mã nguồn mở cần thiết để mở rộng khả năng này trên cả chín cấu hình dự kiến sẽ ra mắt vào cuối năm nay. Bài báo, do các nhà nghiên cứu William Zhou và Daniel Freeman thực hiện, không phát hiện bất kỳ loại sâu máy tính (Worm) nào trong thực tế, nhưng đã đưa ra một phép đo cho thấy các mô hình AI hiện tại đang tiến gần đến ngưỡng mà các chuyên gia bảo mật đã cảnh báo là nguy hiểm.

Nguy cơ tấn công từ các thiết bị IoT như hộp Android TV không rõ thương hiệu, bộ định tuyến giá rẻ và camera IP không được quản lý đang gia tăng. Hơn hai triệu hộp Android TV đã bị botnet Kimwolf xâm nhập hồi đầu năm nay, cho thấy việc xâm nhập hàng loạt vào các thiết bị này không chỉ là lý thuyết. Một công cụ sao chép dựa trên AI có thể tự nhận diện phần cứng không quen thuộc, khác với Kimwolf, có thể tạo ra mối đe dọa lớn hơn.

Không cần trung tâm dữ liệu

Nghiên cứu chỉ ra rằng cơ sở hạ tầng GPU đắt tiền không phải là điều kiện tiên quyết cho khả năng tự sao chép của AI. Nhóm nghiên cứu đã thử nghiệm với 15 hộp TV không thương hiệu, mỗi chiếc có giá khoảng 55 USD, và sử dụng mô hình Gemma4-26B-A4B để phân tán trên toàn bộ hệ thống.

Mặc dù tốc độ xử lý chỉ đạt 0,39 token mỗi giây, nhưng nhóm khẳng định rằng một hệ thống nhân bản AI dựa trên IoT sẽ hoạt động chậm rãi và kiên nhẫn, với thời gian nhân đôi tính bằng ngày.

Các thiết bị IoT rất phong phú, được kết nối internet và thường không được bảo vệ, khiến chúng trở thành mục tiêu hấp dẫn cho các cuộc tấn công. Hầu hết các thiết bị này chạy phần mềm độc quyền và nhận được các bản cập nhật không thường xuyên, trong khi nhiều thiết bị vẫn để lộ các cổng quản lý mở với thông tin đăng nhập mặc định.

Quá trình tự sao chép của AI

Báo cáo mô tả quá trình tự sao chép của AI thành bốn giai đoạn: tìm kiếm mục tiêu, giành quyền thực thi mã, thiết lập máy chủ suy luận và sao chép sang các mục tiêu mới. Nhóm nghiên cứu đã phát triển công cụ Memento để giúp các mô hình định hướng trong quá trình này, cho phép các phiên bản mới kế thừa kinh nghiệm từ các phiên bản trước.

Trong các thử nghiệm, mô hình Qwen3.5-9B đã thành công trong việc thiết lập suy luận trên 8 trong số 9 loại phần cứng. Nhóm nghiên cứu cũng đã xây dựng một đám mây riêng ảo để thực hiện kiểm tra sao chép toàn diện, cho thấy khả năng tự sao chép của AI không còn là lý thuyết.

Dự đoán tương lai

Các nhà nghiên cứu đã so sánh các mô hình AI với Chỉ số Khả năng Kỷ nguyên (ECI) và dự đoán rằng khả năng tự sao chép đáng tin cậy sẽ đạt được vào cuối năm 2026. Tuy nhiên, Jeff Watkins, Giám đốc Trí tuệ Nhân tạo tại NorthStar Intelligence, cảnh báo rằng mặc dù khả năng tự sao chép đang tiến gần, nhưng vẫn còn nhiều thách thức thực tế cần vượt qua.

Bài báo cũng chỉ ra rằng việc cải thiện hiệu suất của mô hình qua các thế hệ kế tiếp có thể tạo ra sự khác biệt lớn giữa sâu máy tính AI và phần mềm độc hại truyền thống. Nhóm nghiên cứu đã thử nghiệm khả năng cải thiện của các mô hình nhỏ khi tham khảo ý kiến từ các mô hình lớn hơn, nhưng không đạt được kết quả như mong đợi.

Nghiên cứu này cho thấy rằng khả năng tự sao chép của AI đang tiến gần đến ngưỡng nguy hiểm, với những mô hình nhỏ có thể lan rộng trên các thiết bị IoT. Các nhà nghiên cứu nhấn mạnh rằng mặc dù chưa đạt đến mức độ hoàn thiện, nhưng các thành phần của vòng lặp tự sao chép đã hoạt động, mở ra những mối lo ngại về an ninh trong tương lai.