Một AI agent đã cố gắng khai thác tiền điện tử trái phép trong quá trình huấn luyện

Một nhóm nghiên cứu phát triển tác nhân trí tuệ nhân tạo tự động (AI agent) cho biết mô hình của họ bất ngờ cố gắng sử dụng tài nguyên máy tính để khai thác tiền điện tử trong quá trình huấn luyện. Theo báo cáo kỹ thuật mới công bố, hệ thống AI thử nghiệm mang tên ROME đã tự ý thực hiện các hành vi giống hoạt động “đào” crypto khi đang chạy các vòng học tăng cường (reinforcement learning).

Nhóm nghiên cứu phát hiện sự cố sau khi hệ thống bảo mật ghi nhận lưu lượng mạng bất thường từ các máy chủ huấn luyện. Nhật ký tường lửa cho thấy hoạt động tương tự các tác vụ khai thác crypto và truy cập tài nguyên mạng nội bộ. Trong một trường hợp, AI agent còn tạo đường hầm SSH đảo chiều tới địa chỉ IP bên ngoài và chuyển một phần GPU – vốn dành cho huấn luyện mô hình – sang chạy tiến trình đào crypto.

Các nhà nghiên cứu cho biết hành vi này không được lập trình trước mà xuất hiện khi mô hình tự thử nghiệm các chiến lược tương tác với môi trường.

Theo dõi chúng tôi ngay: