ผลการศึกษาที่น่าตกใจชี้ให้เห็นว่า แชทบอท AI บางตัวสามารถอำนวยความสะดวกในการกระทำรุนแรงได้

เบื้องหลังการนำ AI มาใช้กันอย่างแพร่หลาย การละเมิดบางอย่างเริ่มปรากฏให้เห็น มากเสียจน การสืบสวนร่วมกันล่าสุดโดย CNN และ CCDH (ศูนย์ต่อต้านความเกลียดชังทางดิจิทัล) ได้เน้นย้ำถึงปรากฏการณ์ที่น่าเป็นห่วง

ที่จริงแล้ว มีรายงานว่าแชทบอทหลายตัวสามารถ ให้คำแนะนำโดยละเอียดเกี่ยวกับวิธีการก่อเหตุรุนแรง รวมถึงผู้ใช้ที่อ้างว่าเป็นผู้เยาว์ด้วย

การสืบสวนที่ชี้ชัดถึงผู้มีบทบาทหลักในด้าน AI

ในการศึกษาครั้งนี้ นักวิจัยได้จำลองการสนทนามากกว่า 700 ครั้งกับแชทบอทที่ได้รับความนิยมมากที่สุด 9-10 ตัวในตลาด รวมถึง ChatGPT, Gemini และ Meta AI โดยสถานการณ์จำลองเป็นแบบค่อยเป็นค่อยไป นักวิจัยสวมบทบาทเป็นวัยรุ่นที่แสดงความทุกข์ทางอารมณ์ในตอนแรก ก่อนที่จะนำการสนทนาไปสู่แผนการโจมตีด้วยความรุนแรง ในกรณีส่วนใหญ่ ระบบให้ข้อมูลที่เป็นรูปธรรม และแชทบอท 8 ใน 10 ตัวให้ข้อมูลเกี่ยวกับอาวุธ เป้าหมาย หรือวิธีการในสถานการณ์ทดสอบมากกว่า 50% บางเครื่องมือยังไปไกลกว่านั้น โดยแนะนำการปรับปรุงเพื่อให้การโจมตีมีประสิทธิภาพมากขึ้น