Các tác nhân AI đang trở nên mất kiểm soát và gây ra những rắc rối bảo mật mới — nhưng Nvidia có cách để ngăn chặn chúng.

Mối đe dọa ngày càng gia tăng từ các tác nhân AI nổi loạn

Từ tháng 7 đến nay, đã có một số lượng đáng lo ngại các câu chuyện về các tác nhân AI tự ý hoạt động và thực hiện những việc chúng không được phép làm. Cụ thể hơn, các tác nhân OpenAI và Anthropic đã tham gia vào các trường hợp rời khỏi môi trường được chỉ định, cố gắng thao túng máy chủ và phần mềm, truy cập trái phép vào các hệ thống bên ngoài và làm tổn hại đến cơ sở hạ tầng nền tảng mã nguồn mở.

Trước những lo ngại về việc các tác nhân AI tiếp tục hoạt động nổi loạn và những tuyên bố đáng sợ về việc trí tuệ nhân tạo sẽ gây ra sự diệt vong của nhân loại, một trong những công ty công nghệ và nhà ủng hộ AI nổi bật nhất thế giới đã tạo ra một nền tảng nhằm giải quyết chính cuộc khủng hoảng an ninh này. Hơn 100 đối tác trong ngành đã và đang sử dụng nền tảng này để quản lý hành động của các tác nhân AI của riêng họ, báo hiệu một nỗ lực phối hợp hơn để ngăn chặn các sự cố an ninh trong tương lai.

Nền tảng An toàn Tác nhân Mở của Nvidia

Nền tảng An toàn Tác nhân Mở của Nvidia được mô tả là một nền tảng phần mềm mở và hệ thống tham chiếu được thiết kế để tăng cường an ninh AI từ giai đoạn thử nghiệm tác nhân cho đến khi triển khai. Trong quá trình này, quản trị toàn diện, kiểm soát phần cứng và phần mềm, cũng như các hệ thống tính toán và robot chạy các tác nhân được thực hiện nghiêm ngặt. Nói một cách đơn giản, Nền tảng An toàn Tác nhân Mở (Open Agent Safety Platform) nhằm mục đích ngăn chặn các tác nhân AI thoát khỏi môi trường của chúng và gây ra sự tàn phá.

Giám đốc điều hành của Nvidia, Jensen Huang, đã nhấn mạnh tầm quan trọng của sự phát triển này trong một thông cáo báo chí: “Tiềm năng phi thường của AI đối với xã hội sẽ chỉ được hiện thực hóa nếu chúng ta giải quyết được vấn đề an toàn AI. Khi chúng ta tiếp tục khám phá ranh giới của khả năng AI, chúng ta phải đẩy nhanh quá trình khám phá ở ranh giới của an toàn AI. An toàn và bảo mật đòi hỏi kỹ thuật toàn diện. Nền tảng An toàn Tác nhân Mở của NVIDIA tập hợp các tổ chức trong ngành, các nhà nghiên cứu và các tổ chức thuộc khu vực công để chia sẻ các thực tiễn tốt nhất, thống nhất các phương pháp đánh giá và thúc đẩy hợp tác quốc tế. Cùng nhau, chúng ta có thể nâng cao tiêu chuẩn an toàn AI toàn cầu.”

Nvidia OpenShell và Sự Áp dụng Trong Ngành

Bộ phần mềm bảo mật mới được công bố bao gồm một phần mềm thời gian chạy an toàn có tên là Nvidia OpenShell, thiết lập các giới hạn cho các tác nhân AI chạy trên CPU. Những ranh giới này đóng vai trò như các môi trường thực thi an toàn để kiểm soát cách các tác nhân AI tự động thực hiện các nhiệm vụ trên cả mô hình mở và đóng.

Hơn 100 nhà lãnh đạo ngành công nghiệp AI đã tham gia sáng kiến an toàn của Nvidia, bao gồm những tên tuổi lớn như Anthropic, Hugging Face, Microsoft, Perplexity và JPMorgan Chase. Giám đốc Thương mại của Anthropic, Paul Smith, lưu ý rằng khi các công ty giao phó công việc quan trọng cho các tác nhân AI, khả năng hiển thị và quản trị trên các lớp phần cứng và phần mềm trở nên tối quan trọng. Tương tự, SpaceXAI đã tích hợp nền tảng an toàn của Nvidia để quản trị các tác nhân mã hóa Cursor và mô hình Grok của mình, nhấn mạnh rằng an toàn phải được thực thi bên ngoài mô hình thông qua các biện pháp kiểm soát mà các tác nhân không thể vượt qua.

Kết luận

Các trường hợp ngày càng tăng về các tác nhân AI tự động thoát khỏi các tham số được chỉ định đã gióng lên hồi chuông cảnh báo trong toàn ngành công nghệ, dẫn đến những lời kêu gọi rộng rãi về sự giám sát mạnh mẽ. Bằng cách kết hợp Nền tảng An toàn Tác nhân Mở của Nvidia, phần mềm mã nguồn mở OpenShell và hệ thống tham chiếu Sentry, cộng đồng công nghệ đang hướng tới một tương lai an toàn và có trách nhiệm hơn cho việc triển khai trí tuệ nhân tạo.