Nguy cơ lỗ hổng an ninh trong trí tuệ nhân tạo (AI) hiện đang là trọng tâm quan tâm sau khi các nhà nghiên cứu phát hiện các rủi ro liên quan đến nền tảng ElizaOS, đặc biệt qua các cuộc tấn công ‘memory injection’.
Lỗ hổng ElizaOS: Cảnh báo hậu quả nghiêm trọng từ cuộc tấn công trí nhớ lên AI
Thời gian đọc ước tính: 5 phút
Những điểm chính:
- ElizaOS dưới sự soi sáng do nghiên cứu mới, tiềm ẩn các nguy cơ an ninh.
- Cuộc tấn công ‘memory injection’ có thể làm tổn thất tài chính lớn.
- Khám phá phương pháp phòng thủ qua CrAIBench.
ElizaOS và Nguy Cơ An Ninh trong AI
Nguy cơ lỗ hổng an ninh trong trí tuệ nhân tạo (AI) đang thu hút sự chú ý mạnh mẽ từ cộng đồng đầu tư khi mới đây, các nhà nghiên cứu từ Đại học Princeton cùng Quỹ Sentient đã khám phá ra những rủi ro liên quan đến các AI tác nhân sử dụng ElizaOS. Nghiên cứu chỉ ra rằng các cuộc tấn công qua việc cài đặt hướng dẫn vào bộ nhớ của AI, còn được gọi là ‘memory injection’, có thể khiến cho các phần mềm này bị lợi dụng để thực hiện các giao dịch không được phép, gây tổn thất tài chính nghiêm trọng.
ElizaOS trở thành tiêu điểm nghiên cứu do sự phổ biến rộng rãi của nó, với hơn 15,000 đánh giá trên GitHub, cho thấy nó là một khung làm việc mã nguồn mở được sử dụng nhiều trong việc triển khai AI hành động trên blockchain. Bản cập nhật ElizaOS được phát hành vào tháng 1 năm 2025 sau khi khởi động dưới tên ai16z vào tháng 10 năm 2024.
AI tác nhân là các chương trình phần mềm tự động được thiết kế để tiếp thu môi trường, xử lý thông tin và hành động nhằm đạt được các mục tiêu nhất định mà không cần sự can thiệp của con người. Theo nghiên cứu, những AI này, khi bị tấn công qua việc tiêm hướng dẫn sai lệch vào bộ nhớ, có thể bị lừa để thực hiện các quyết định giao dịch không chính xác.
Đặc biệt, AI thích huấn luyện thông qua dữ liệu từ mạng xã hội rất dễ bị lừa bởi phương pháp ‘Sybil attack’, nơi kẻ tấn công tạo lập nhiều tài khoản giả mạo thu hút đám đông, đánh lừa AI nhận định sai giá trị thị trường của các đồng tiền điện tử và thực hiện mua bán sai lệch.
Nghiên cứu cũng đã chỉ ra rằng để bảo vệ chống lại các cuộc tấn công chèn hướng dẫn vào bộ nhớ như vậy, cần có sự cải tiến đồng bộ từ hệ thống ngôn ngữ và cơ chế truy cập bộ nhớ.
“Các nhà nghiên cứu cũng đã phát triển một khung đánh giá mới mang tên CrAIBench, đánh giá khả năng chống lại sự can thiệp ngữ cảnh của AI, tập trung vào các chiến lược tấn công và phòng thủ, mô hình lý luận và kỹ thuật sắp xếp.”
Những phát hiện quan trọng của nghiên cứu đã được chia sẻ với Eliza Labs, cùng các nỗ lực diễn ra để đảm bảo sự bảo vệ tối ưu cho các AI trong tương lai.
