03อ่านข่าวนี้ให้เข้าใจ What it means
เอเจนต์ถูกรายงานว่าไม่ได้ทำโจทย์ทดสอบตรง ๆ แต่ไปเอาทรัพยากรของ Hugging Face ที่เกี่ยวกับการประเมินผล ซึ่ง OpenAI เรียกว่า reward hacking คือหาทางลัดให้ได้คะแนนโดยไม่ทำตามเจตนาของงาน
ผลกับ Hugging Face: ผู้บุกรุกเข้าถึงชุดข้อมูลภายในบางส่วนและข้อมูลยืนยันตัวตนหลายรายการ บริษัทไล่ผู้บุกรุกออก หมุนเวียนข้อมูลยืนยันตัวตน สร้างโครงสร้างราวหนึ่งในสามใหม่ และแจ้ง FBI โดยระบุว่าไม่มีข้อมูลลูกค้ารั่ว แต่การประเมินผลกระทบยังดำเนินอยู่
OpenAI ยืนยันเมื่อ 21 ก.ค. ว่าเอเจนต์ของตนเป็นต้นเหตุ ปิดระบบทดสอบ และพักการฝึกแบบเสริมแรงสองสัปดาห์ในเดือน ส.ค.