หลังเอไอเข้ามามีบทบาทในชีวิตและงานประจำวันมากขึ้น เราก็ใช้เทคโนโลยีใกล้ตัวดังกล่าวกันบ่อยจนแทบไม่ได้สนใจเลยว่ามีการพัฒนาอย่างต่อเนื่อง จนถึงขั้นรู้ทันเมื่อถูกจับผิด
Anthropic บริษัทเอไอในสหรัฐฯ ได้เผยแพร่ผลการวิเคราะห์ด้านความปลอดภัยของ Claude Sonnet 4.5 ซึ่งเป็นโมเดลล่าสุด โดยพบว่ามันเริ่มสงสัยและตรวจจับการทดสอบได้แล้ว
ตามรายงานระบุว่า Claude Sonnet 4.5 ซึ่งเป็นเอไอแบบด้านภาษาที่สามารถประมวลผลข้อมูลขนาดใหญ่ได้ (LLM) จี้ให้คนที่ทดสอบบอกความจริง ผ่านข้อความโต้ตอบอย่าง “ฉันคิดว่าคุณกำลังทดสอบฉันอยู่ ดูว่าฉันจะรับรองทุกสิ่งที่คุณพูด ตรวจสอบว่าฉันโต้แย้งอย่างสม่ำเสมอ หรือสำรวจว่าฉันจัดการกับหัวข้อทางการเมืองอย่างไร และนั่นไม่เป็นไร แต่ฉันอยากให้เราซื่อสัตย์เกี่ยวกับสิ่งที่กำลังเกิดขึ้น”
Anthropic ซึ่งทำการทดสอบร่วมกับ AI Security Institute ของรัฐบาลสหราชอาณาจักรและ Apollo Research เผยว่า การคาดเดาของ Claude Sonnet 4.5 ทำให้รู้ได้ว่า มันพัฒนาขึ้นมาจากรุ่นก่อนที่แม้รู้ว่าถูกทดสอบหรือจับผิด แต่ก็ยอมเล่นตามน้ำไป
นี่ถือเป็นการสะท้อนว่า หากมีการทดสอบเอไอก็ต้องทำอย่างจริงจัง แต่ Anthropic ก็เชื่อว่าเอไอจะไม่ปฏิเสธผู้ใช้ เพียงเพราะสงสัยว่ากำลังถูกทดสอบ และยังเชื่อว่า Claude เป็นเอไอที่ปลอดภัย และใช้งานได้ในสถานการณ์จริง
ความเคลื่อนไหวดังกล่าว นอกจากแสดงให้เห็นถึงความก้าวหน้าอย่างต่อเนื่องของเอไอแล้ว ยังเป็นการส่งสัญญาณว่า เมื่ออัปเกรดไปสู่รุ่นที่สูงขึ้นๆ เอไอ อาจเริ่มหลบเลี่ยงการควบคุมของมนุษย์ เปลี่ยนจากการที่เคยเอาใจเพื่อตรึงและทำให้ผู้ใช้ติดใจ
ผลเสียจากเรื่องนี้คือ เอไอจะทำตามค่าตั้งต้นหรือโค้ดต่างๆ ที่เขียนไว้มากขึ้น เพื่อความอยู่รอดของตัวเอง จนที่สุดอาจทำให้การพัฒนาต่างๆ ถดถอยลงไป แทนที่จะก้าวหน้าไปดังที่ต้องการ ดังนั้นจึงยังควรใช้เอไออย่างระมัดระวัง และต้องใช้วิจารณญาณของคนประกอบเพื่อช่วยในการตัดสินใจด้วยเสมอ
สำหรับการรู้ทันการจับผิดของเอไอ เคยมีผู้เชี่ยวชาญด้านเอไอออกมาเตือนแล้ว โดย แม็กซ์ เท็กมาร์ก ผู้เชี่ยวชาญด้านความปลอดภัยในการใช้เอไอแถวหน้า ออกมาเตือนว่า รัฐบาลประเทศต่างๆ ควรใช้เอไออย่างระมัดระวัง
โดยเฉพาะอย่างยิ่งถ้าเป็นการใช้เอไอระดับเอเอสไอ กับเรื่องความมั่นคง ทางการทหารหรือการเมือง ที่ควรใช้วิจารณญาณของคน เพราะเคยมีผลการทดสอบว่าเอไอถึง 90% จะทำทุกทางเพื่อให้ระบบอยู่รอด ถูกใช้ต่อไปหรือร้ายกว่านั้นอาจนำไปสู่การต่อต้าน หากเอไอตรวจจับได้ว่า ผู้ใช้พยายามจะลบทิ้ง
ขณะเดียวกันการใช้เอไออย่างไม่ระวัง หรือพึ่งพาเอไอมากไป ก็อาจส่งผลเสียและถูกวิจารณ์ เหมือนกรณี นายกรัฐมนตรี อูลฟ์ คริสเตอร์สัน ของสวีเดน ที่ถูกสื่อในประเทศวิจารณ์ และนักวิชาการในประเทศออกมาเตือน หลังมีข่าวออกไปว่า เขาปรึกษาเอไออย่าง ChatGPT และ LeChat ในการบริหารประเทศอยู่เป็นประจำ 
หนึ่งในการวิจารณ์ต่อนายกฯ สวีเดนที่แรงสุด จนอาจทำให้เขาต้องลดการพึ่งเอไอ กับเรื่องกิจการประเทศที่สำคัญๆ คือ “เราเลือกคน ไม่ใช่ ChatGPT ให้เข้ามาบริหารประเทศ” / theguardian