小企鵝筆記 | AI Agent giúp bạn làm việc, cũng có thể giúp bạn tiết lộ bí mật 😮

Gần đây xảy ra một việc: có người cho AI agent tự động giúp họ mở Issue trên GitHub, kết quả nội dung do AI viết ra chứa một đoạn "phép thuật", máy tính nghĩ đó là lệnh, trực tiếp in ra tất cả mật khẩu, khóa của chủ sở hữu đã lưu trong hệ thống, rồi dán lên trang công khai
Token Telegram, API Key, tất cả đều lộ trên mạng
AI tự "vô tình" kích hoạt, hoàn toàn không có hacker can thiệp. Nó chỉ đang viết văn bản, nhưng đúng lúc đó đoạn văn bản đó trong máy tính lại là một lệnh
Đây là rủi ro mới của thời đại AI agent: bạn cấp quyền cho nó giúp bạn làm việc, nó sẽ có khả năng tiếp xúc với hệ thống của bạn. Khi nội dung do AI tạo ra không được lọc trước rồi mới thực thi, tai nạn có thể xảy ra
Khả năng càng lớn, mặt tấn công càng rộng. Dùng AI agent rất tiện lợi, nhưng nhớ kiểm tra phạm vi quyền hạn của nó, đừng để trợ lý trở thành kẻ tiết lộ bí mật 👀