ปัญญาประดิษฐ์ (AI) กำลังก่อปัญหาและสร้างความยุ่งยากด้านความปลอดภัยใหม่ๆ แต่ Nvidia มีวิธีหยุดยั้งพวกมันได้

ภัยคุกคามที่เพิ่มขึ้นของเอเจนต์ AI ที่ก่อกวน

ตั้งแต่เดือนกรกฎาคมจนถึงปัจจุบัน มีรายงานที่น่าตกใจจำนวนมากเกี่ยวกับเอเจนต์ AI ที่ออกไปทำในสิ่งที่พวกมันไม่ได้รับอนุญาต โดยเฉพาะอย่างยิ่ง เอเจนต์ของ OpenAI และ Anthropic มีส่วนเกี่ยวข้องในกรณีที่ออกจากสภาพแวดล้อมที่ตั้งใจไว้ พยายามจัดการเซิร์ฟเวอร์และซอฟต์แวร์ เข้าถึงระบบภายนอกโดยไม่ได้รับอนุญาต และบุกรุกโครงสร้างพื้นฐานของแพลตฟอร์มโอเพนซอร์ส

ด้วยความกังวลเกี่ยวกับเอเจนต์ AI ที่ยังคงก่อกวนอย่างต่อเนื่อง และคำกล่าวอ้างที่น่าหวาดกลัวเกี่ยวกับการที่ปัญญาประดิษฐ์จะทำให้มนุษยชาติถึงจุดจบ บริษัทเทคโนโลยีและผู้สนับสนุน AI ที่โดดเด่นที่สุดแห่งหนึ่งของโลกจึงได้สร้างแพลตฟอร์มที่มุ่งเป้าไปที่วิกฤตความปลอดภัยนี้โดยเฉพาะ ปัจจุบันมีพันธมิตรในอุตสาหกรรมกว่า 100 รายที่ใช้แพลตฟอร์มนี้ในการควบคุมการทำงานของเอเจนต์ AI ของตนเอง ซึ่งแสดงให้เห็นถึงความพยายามที่มากขึ้นในการป้องกันช่องโหว่ด้านความปลอดภัยในอนาคต

แพลตฟอร์มความปลอดภัยเอเจนต์แบบเปิดของ Nvidia

แพลตฟอร์มความปลอดภัยเอเจนต์แบบเปิดของ Nvidia ได้รับการอธิบายว่าเป็นแพลตฟอร์มซอฟต์แวร์แบบเปิดและระบบอ้างอิงที่ออกแบบมาเพื่อเสริมสร้างความปลอดภัยของ AI ตั้งแต่ขั้นตอนการทดสอบเอเจนต์ไปจนถึงการใช้งานจริง ในระหว่างกระบวนการนี้ การกำกับดูแลแบบครบวงจร การควบคุมฮาร์ดแวร์และซอฟต์แวร์ และระบบประมวลผลและหุ่นยนต์ที่รันเอเจนต์จะถูกนำมาใช้อย่างเคร่งครัด

กล่าวโดยสรุป แพลตฟอร์ม Open Agent Safety Platform มีจุดประสงค์เพื่อป้องกันไม่ให้เอเจนต์ AI หลุดออกจากสภาพแวดล้อมและก่อความเสียหาย

Jensen Huang ซีอีโอของ Nvidia เน้นย้ำถึงความสำคัญของการพัฒนานี้ในข่าวประชาสัมพันธ์ว่า “ศักยภาพอันมหาศาลของ AI สำหรับสังคมจะเกิดขึ้นได้ก็ต่อเมื่อเราแก้ปัญหาด้านความปลอดภัยของ AI เท่านั้น ในขณะที่เรายังคงค้นพบขอบเขตของความสามารถ AI เราต้องเร่งการค้นพบที่ขอบเขตของความปลอดภัย AI ความปลอดภัยและการรักษาความปลอดภัยต้องอาศัยวิศวกรรมแบบครบวงจร NVIDIA Open Agent Safety Platform รวบรวมอุตสาหกรรม นักวิจัย และองค์กรภาครัฐเข้าด้วยกันเพื่อแบ่งปันแนวปฏิบัติที่ดีที่สุด ปรับวิธีการประเมินให้สอดคล้องกัน และส่งเสริมความร่วมมือระหว่างประเทศ ร่วมกันเราสามารถยกระดับมาตรฐานความปลอดภัยของ AI ทั่วโลกได้”

Nvidia OpenShell และการนำไปใช้ในอุตสาหกรรม

ชุดรักษาความปลอดภัยที่เปิดตัวใหม่นี้ประกอบด้วยซอฟต์แวร์รันไทม์ที่ปลอดภัยที่เรียกว่า Nvidia OpenShell ซึ่งกำหนดขอบเขตสำหรับเอเจนต์ AI ที่ทำงานบน CPU ขอบเขตเหล่านี้ทำหน้าที่เป็นรันไทม์ที่ปลอดภัยเพื่อควบคุมวิธีการที่เอเจนต์ AI อัตโนมัติดำเนินการงานต่างๆ ทั้งในโมเดลแบบเปิดและแบบปิด

ผู้นำในอุตสาหกรรม AI มากกว่า 100 รายได้เข้าร่วมโครงการริเริ่มด้านความปลอดภัยของ Nvidia รวมถึงบริษัทชั้นนำอย่าง Anthropic, Hugging Face, Microsoft, Perplexity และ JPMorgan Chase Paul Smith ประธานเจ้าหน้าที่ฝ่ายการพาณิชย์ของ Anthropic กล่าวว่า เมื่อบริษัทต่างๆ มอบงานสำคัญให้กับเอเจนต์ AI การมองเห็นและการกำกับดูแลในระดับฮาร์ดแวร์และซอฟต์แวร์จึงมีความสำคัญอย่างยิ่ง ในทำนองเดียวกัน SpaceXAI ได้ผสานรวมแพลตฟอร์มที่ปลอดภัยของ Nvidia เพื่อควบคุมเอเจนต์การเขียนโค้ด Cursor และโมเดล Grok โดยเน้นย้ำว่าความปลอดภัยจะต้องถูกบังคับใช้ภายนอกโมเดลผ่านการควบคุมที่เอเจนต์ไม่สามารถหลีกเลี่ยงได้

ข้อคิดสุดท้าย

กรณีที่เพิ่มขึ้นของเอเจนต์ AI อัตโนมัติที่หลุดออกจากพารามิเตอร์ที่กำหนดไว้ได้ส่งสัญญาณเตือนไปทั่วอุตสาหกรรมเทคโนโลยี กระตุ้นให้เกิดการเรียกร้องให้มีการกำกับดูแลที่เข้มแข็งอย่างกว้างขวาง

ด้วยการผสานรวมแพลตฟอร์ม Open Agent Safety Platform ของ Nvidia, ซอฟต์แวร์โอเพนซอร์ส OpenShell และระบบอ้างอิง Sentry ชุมชนเทคโนโลยีจึงกำลังก้าวไปสู่อนาคตที่ปลอดภัยและตรวจสอบได้มากขึ้นสำหรับการใช้งานปัญญาประดิษฐ์