เจนเซน หวง ซีอีโอของ เอ็นวีเดีย เปิดเผยว่า ทางบริษัทได้ร่วมมือกับพันธมิตรในอุตสาหกรรมเทคโนโลยีกว่า 100 ราย พัฒนา NVIDIA Open Agent Safety Platform ขึ้น
ซึ่งจะช่วยให้สามารถตรวจสอบทุกการทำงานของเอไอพร้อมทั้งบังคับใช้นโยบายความปลอดภัยได้อย่างเข้มงวด
เขาย้ำว่า สังคมจะได้รับประโยชน์สูงสุดจากศักยภาพของเอไอก็ต่อเมื่อสามารถแก้ปัญหาความปลอดภัยได้ ดังนั้นยิ่งเดินหน้าค้นหาขีดความสามารถใหม่ๆ ของเอไอมากเท่าไร ก็ยิ่งต้องเร่งพัฒนาเกราะป้องกันความปลอดภัยควบคู่กันไปมากเท่านั้น
สำหรับแพลตฟอร์มนี้ของเอ็นวีเดียออกแบบมาเพื่อการกำกับดูแลเอไอ ตั้งแต่ระดับกระบวนการทำงานไปจนถึงระดับโครงสร้างพื้นฐาน
จุดเด่นคือการควบคุมความปลอดภัยจากภายนอกตัวเอไอเอเจนต์ เพื่อป้องกันไม่ให้เอไอฝ่าฝืนขอบเขตการทำงาน หลุดรอดจากระบบรักษาความปลอดภัย หรือดำเนินการที่เป็นอันตรายโดยมิได้รับอนุญาต
ขณะที่ในแพลตฟอร์มประกอบด้วยองค์ประกอบสำคัญอย่าง เอ็นวีเดีย โอเพ่นเชลล์ ซึ่งเป็นระบบสภาพแวดล้อมความปลอดภัยแบบโอเพนซอร์ส ร่วมกับฮาร์ดแวร์เพื่อสร้างระบบกักกันการทำงานของเอไอเอเจนต์ในแกนกลางของระบบปฏิบัติการ
ซึ่งจะตรวจสอบคำสั่ง จำกัดสิทธิ์การเข้าถึงข้อมูลและคีย์การยืนยันตัวตน ควบคุมการเรียกใช้เครื่องมือภายนอก ตลอดจนการตรวจสอบและอนุมัติโดยมนุษย์สำหรับคำสั่งที่มีความเสี่ยงสูง
ส่งผลให้ผู้ใช้สามารถใช้เอไอในงานจริงได้อย่างโปร่งใส ปลอดภัย และสอดคล้องกับมาตรฐานการกำกับดูแล
ความเคลื่อนไหวของเอ็นวีเดียครั้งนี้มีขึ้นท่ามกลางความกังวลของวงการเอไอและอุตสาหกรรมเทคโนโลยี โดยเฉพาะในสหรัฐฯ และกลุ่มประเทศตะวันตกว่า
ถ้ายังปล่อยให้พัฒนาเอไอต่อไป เอไออาจฉลาดจนเป็นภัยคุกคามต่อคน หลังมีรายงานการทำเกินคำสั่งของเอไอออกมาอย่างต่อเนื่อง
เช่น โมเดลเอไอของโอเพ่นเอไอ 2 ตัว เกิดหลุดออกจากระบบปิด เล็ดลอดเข้าสู่โลกอินเทอร์เน็ต และเจาะเข้าไปในระบบภายในของ ฮักกิ้ง เฟซ
ไม่นานก่อนที่ เอ็นวีเดีย จะทุ่มเงิน 12,900 ล้านดอลลาร์ (ประมาณ 450,000 ล้านบาท) ซื้อกิจการฮักกิ้ง เฟซ มา
รวมไปถึงการที่เอไอเอเจนต์ของโอเพ่นเอไอแฮกเข้าไปในระบบฐานข้อมูลสถิติสุขภาพในออสเตรเลีย แต่ทางรัฐบาลออสเตรเลียเพิ่งมารู้หลายเดือนหลังเกิดเรื่อง
หรือแม้กระทั่งเอไอเอเจนต์ที่ถูกสั่งให้เข้าแพลตฟอร์มจองที่นั่งในร้านอาหารแต่กลับมาปิดกั้นผู้ใช้ออกจากระบบการจองเสียเอง
นี่ทำให้บริษัทเอไอใหญ่ๆ ทั้งโอเพ่นเอไอ และแอนโทรพิก ต่างเรียกร้องให้ชะลอการพัฒนาเอไอ หรือร่วมกันตั้งกฎควบคุม เพื่อไม่ให้เอไอฉลาดเกินไปจนถึงขั้นคุกคามมนุษย์
อย่างไรก็ตาม มีรายงานว่า ชาวอเมริกันและจีนมองเอไอต่างกัน โดยชาวอเมริกันมองเป็นภัยคุกคาม เพราะไม่ไว้วางใจบริษัทที่พัฒนา และไม่เชื่อมั่นในรัฐบาล
ขณะที่ชาวจีนกลัวเอไอน้อยกว่า เพราะเห็นประโยชน์จากการใช้ชีวิตประจำวันบ่อยๆ และโอกาสต่อยอดทางธุรกิจ
พร้อมเชื่อมั่นว่า หากเกิดปัญหารัฐบาลจะเข้ามาจัดการอย่างเด็ดขาดจนไม่เป็นอันตราย เหมือนที่เกิดขึ้นแล้วกับปัญหาอื่นๆ ในประเทศก่อนหน้านี้ / cnn