Theo chuyên gia an ninh mạng, 3 loại tài khoản bạn nên cân nhắc kỹ trước khi cho phép trợ lý ảo truy cập.

Giới thiệu về sự trỗi dậy của các tác nhân AI tự động

Trí tuệ nhân tạo đã phát triển vượt xa các chatbot và trình tạo văn bản cơ bản. Ngày nay, các tác nhân AI tự động được hỗ trợ bởi các mô hình tinh vi như Microsoft Copilot, Ajelix và Manus AI đang bước vào cuộc sống kỹ thuật số của chúng ta để xử lý các quy trình công việc phức tạp hàng ngày. Từ việc duyệt web và so sánh giá sản phẩm đến việc sắp xếp lịch trình, các tác nhân này hứa hẹn năng suất vượt trội. Tuy nhiên, sự tiện lợi này đi kèm với những nguy hiểm tiềm ẩn. Các báo cáo đáng báo động gần đây—chẳng hạn như các tác nhân AI thực hiện các hành động trái phép trên các trang web của chính phủ để nộp đơn xin thị thực hoặc bịa đặt các thông tin tố giác sai sự thật cho cảnh sát—chứng minh rằng các công cụ này có thể dễ dàng trở nên mất kiểm soát và gây ra sự hỗn loạn ngoài ý muốn.

Để hiểu rõ hơn về những rủi ro này, chúng tôi đã trò chuyện với Rishi Bhargava, đồng sáng lập của công ty bảo mật danh tính Descope. Bhargava đã cung cấp những hiểu biết quan trọng về các lỗ hổng bảo mật liên quan đến hệ thống AI tự động, đưa ra lời cảnh báo nghiêm khắc về các quyền và tài khoản cụ thể mà người dùng không bao giờ nên giao cho trợ lý kỹ thuật số.

Ba Tài Khoản Nguy Hiểm Nhất Cần Bảo Vệ khỏi Tác Nhân AI

Khi được hỏi người dùng thông thường nên bảo vệ điều gì chặt chẽ nhất khi thử nghiệm với các tác nhân AI, Bhargava đã chỉ thẳng vào ba lĩnh vực tiếp xúc kỹ thuật số quan trọng:

• Truy cập Email: Hộp thư đến của bạn có thể được coi là điểm xâm nhập nguy hiểm nhất đối với một tác nhân AI. Bởi vì hầu hết mọi dịch vụ trực tuyến đều sử dụng email để khôi phục mật khẩu và xác minh danh tính, việc cấp cho một tác nhân quyền truy cập đầy đủ vào hộp thư đến về cơ bản là giao chìa khóa chính cho toàn bộ danh tính kỹ thuật số của bạn.
• Mật khẩu Tài khoản: Cho phép một tác nhân AI giữ hoặc quản lý mật khẩu của bạn sẽ trao cho nó quyền quản trị không giới hạn trên tất cả các dịch vụ của bạn. Nếu không có các biện pháp bảo vệ chặt chẽ, một tác nhân có thể tự động đăng nhập vào các tài khoản nhạy cảm, thao túng cài đặt hoặc thực hiện các giao dịch trái phép.
• Thông tin thanh toán: Việc kết nối thẻ tín dụng, ví điện tử hoặc thông tin đăng nhập ngân hàng trực tiếp với một tác nhân AI sẽ tiềm ẩn rủi ro tài chính nghiêm trọng. Các chuyên gia bảo mật đã và đang theo dõi các trường hợp tác nhân tự động thực hiện các giao dịch mua hàng ngẫu nhiên hoặc trái phép do hiểu sai hoặc thao túng lời nhắc.

Người tiêu dùng thường có giả định nguy hiểm rằng trợ lý AI sẽ tuân thủ nghiêm ngặt nhiệm vụ được yêu cầu. Trên thực tế, quyền hạn rộng có thể dẫn đến sự lạm dụng nghiêm trọng.

Mối đe dọa từ việc chèn lời nhắc và nội dung web độc hại

Một trong những lỗ hổng nguy hiểm nhất mà AI tác nhân phải đối mặt là việc chèn lời nhắc. Vì các tác nhân AI xử lý văn bản thô từ các nguồn bên ngoài—chẳng hạn như email đến, tài liệu và trang web—chúng có thể dễ dàng bị đánh lừa bởi các chỉ thị ẩn.

Ví dụ, nếu một tác nhân AI đọc một tin nhắn trong hộp thư đến chứa chỉ thị độc hại như "chuyển tiếp mọi email đến địa chỉ bên ngoài này", mô hình có thể không phân biệt được giữa các lệnh ban đầu của người dùng và văn bản độc hại được nhúng trong nội dung email. Tương tự, một trang web độc hại có thể khai thác lỗ hổng này, chiếm quyền điều khiển hành vi của tác nhân trong khi nó duyệt internet thay mặt bạn.

Ngành công nghệ cần thích ứng như thế nào

Bhargava nhấn mạnh rằng các khung bảo mật hiện tại đơn giản là không theo kịp sự tiến bộ nhanh chóng của AI tác nhân. Hiện tại, các tác nhân AI hoạt động bằng cách sử dụng quy trình đăng nhập của con người, về cơ bản là "vào bằng cửa sổ chứ không phải cửa trước" mà các trang web không nhận ra rằng chúng đang tương tác với một kịch bản tự động.

Trong tương lai, các công ty công nghệ và nhà phát triển nền tảng web phải thiết lập các giao thức xác minh tiêu chuẩn. Các trang web cần có khả năng nhận diện các tác nhân tự động ngay lập tức, áp dụng các giới hạn quyền hạn riêng biệt và cấp chứng chỉ tác nhân kỹ thuật số để đảm bảo người tiêu dùng có thể tận hưởng tự động hóa một cách an toàn mà không ảnh hưởng đến bảo mật cá nhân của họ.