เปิดโปง Project Lily: มนุษย์หลายร้อยชีวิตเบื้องหลังหน้าต่างแชต ChatGPT
รายงานเชิงสืบสวนสอบสวนจากสำนักข่าว 404 Media ได้เปิดเผยรายละเอียดของโครงการลับภายในของ OpenAI ภายใต้รหัส 'Project Lily' ซึ่งว่าจ้างผู้รับเหมาอิสระจำนวนหลายร้อยคนเพื่อทำหน้าที่อ่าน ตรวจทาน และให้คะแนนบทสนทนาจริงที่ผู้ใช้งานพิมพ์คุยกับ ChatGPT ในชีวิตประจำวัน โดยข้อมูลระบุว่าการคัดเลือกผู้ตรวจสอบดำเนินงานผ่านบริษัทคู่สัญญาชื่อ Crossing Hurdles และจ่ายค่าตอบแทนผ่านแพลตฟอร์มบริหารแรงงาน AI อย่าง Mercor ซึ่งผู้รับเหมาในภูมิภาคอเมริกาเหนือได้รับค่าจ้างในอัตราสูงกว่า 50 ดอลลาร์สหรัฐต่อชั่วโมง
ผู้รับเหมาเหล่านี้มีหน้าที่อ่านบทสนทนาแบบละเอียดและประเมินคุณภาพคำตอบของโมเดลตามเกณฑ์คะแนนตั้งแต่ 1 ถึง 7 โดยมีแนวทางปฏิบัติการที่หลุดออกมาระบุชัดเจนว่า ผู้ตรวจสอบต้องมุ่งเน้นการปรับพฤติกรรมโมเดลเพื่อลดอาการประจบประแจงผู้ใช้ (sycophancy) และยับยั้งไม่ให้ปัญญาประดิษฐ์สร้างภาพลวงตาว่าตนเองมีความรู้สึกนึกคิดเหมือนมนุษย์ (anthropomorphizing) การเปิดเผยนี้ยืนยันว่าการขัดเกลาโมเดลด้วยมนุษย์ไม่ได้จำกัดอยู่เพียงชุดข้อมูลสังเคราะห์ แต่ใช้บทสนทนาจริงที่เกิดขึ้นในระบบ
ตัวกรองข้อมูลอัตโนมัติล้มเหลว: ความทรงจำและบริบทส่วนบุคคลยังคงปรากฏ
แม้ว่า OpenAI จะมีกระบวนการลบข้อมูลระบุตัวตนของผู้ใช้งาน เช่น ชื่อบัญชีและที่อยู่อีเมล ออกจากหน้าจอของผู้ตรวจสอบด้วยระบบกรองข้อมูลอัตโนมัติ (Privacy Filter) แต่เอกสารคู่มือภายในของ OpenAI เองยอมรับอย่างตรงไปตรงมาว่า ตัวกรองดังกล่าวสามารถทำงานผิดพลาดหรือไม่สามารถตัดข้อมูลออกได้หมด โดยเฉพาะเมื่อเจอกับชื่อบุคคลที่ไม่คุ้นเคยหรือบริบททางภาษาที่มีความซับซ้อนและละเอียดอ่อน
ยิ่งไปกว่านั้น หน้าจอการทำงานของผู้รับเหมาในโครงการ Project Lily ไม่ได้แสดงเพียงข้อความโต้ตอบเท่านั้น แต่ยังรวมถึงกล่องสรุปความจำของผู้ใช้ ('user memories summary') ซึ่งเป็นฟีเจอร์ที่ ChatGPT จดจำรายละเอียดเกี่ยวกับตัวตนของผู้ใช้จากการใช้งานที่ผ่านมา ทำให้ผู้รับเหมาภายนอกสามารถมองเห็นข้อมูลเชิงบริบทที่ระบุตัวตนได้โดยปริยาย เช่น พิกัดที่ตั้งทางภูมิศาสตร์ อาชีพการงาน สถานะครอบครัว และรายละเอียดโครงการส่วนบุคคล ซึ่งเพียงพอที่จะเชื่อมโยงกลับไปยังตัวตนจริงของผู้ใช้งานได้ แม้จะไม่มีอีเมลปรากฏอยู่ก็ตาม
กลไก Opt-Out ที่ถูกซ่อนไว้ และมาตรฐานการฝึกฝนในอุตสาหกรรม
ประเด็นสำคัญที่จุดชนวนความไม่พอใจอย่างมากคือ การที่ข้อมูลบทสนทนาจะถูกส่งเข้าสู่กระบวนการตรวจของมนุษย์โดยอัตโนมัติ หากผู้ใช้งานไม่ได้เข้าไปปิดตัวเลือก 'Improve the model for everyone' (ปรับปรุงโมเดลสำหรับทุกคน) ในการตั้งค่า ซึ่งถูกเปิดไว้เป็นค่าเริ่มต้น (default-on) สำหรับผู้ใช้ทั่วไป โดยที่คำชี้แจงเกี่ยวกับการให้มนุษย์เข้ามาอ่านข้อความนั้นถูกระบุไว้อย่างกว้างๆ ในหน้าเอกสารสนับสนุนและคำถามที่พบบ่อย (FAQ) ซึ่งเขียนไว้ตั้งแต่ปี 2023 เท่านั้น
ในเชิงเทคนิค การใช้กระบวนการมนุษย์ตรวจสอบข้อมูลจริง (Human-in-the-loop) เป็นแนวปฏิบัติมาตรฐานของอุตสาหกรรม AI ในการทำ Reinforcement Learning from Human Feedback (RLHF) เพื่อยกระดับความปลอดภัยและความแม่นยำ โดยผู้ให้บริการรายอื่นอย่าง Google สำหรับ Gemini หรือ Anthropic สำหรับ Claude ต่างก็มีโครงการตรวจสอบในลักษณะเดียวกัน ทว่า Anthropic กำหนดให้กระบวนการดังกล่าวเป็นระบบที่ผู้ใช้ต้องยินยอมก่อน (opt-in) อย่างชัดเจน ซึ่งแตกต่างจากแนวทางเริ่มต้นของ OpenAI ที่ส่งข้อมูลเข้าระบบทันทีเว้นแต่ผู้ใช้จะค้นพบวิธีปิดด้วยตนเอง
เสียงสะท้อนจากชุมชนนักพัฒนาและผู้ใช้งาน: ความกังวลเรื่องการละเมิดความเป็นส่วนตัว
ในหมู่ผู้ใช้งานและนักพัฒนาทั่วไป ข่าวการมีอยู่ของ Project Lily จุดกระแสความตื่นตระหนกและความรู้สึกผิดหวังอย่างรุนแรง โดยเฉพาะในกลุ่มคนที่ใช้ ChatGPT เป็นพื้นที่ระบายความเครียด ที่ปรึกษาส่วนตัว หรือผู้ช่วยตรวจสอบโค้ดสำหรับระบบที่เป็นกรรมสิทธิ์ของบริษัท ผู้ใช้งานจำนวนมากเริ่มเผยแพร่วิธีการปิดการตั้งค่าการแชร์ข้อมูลและขั้นตอนการลบประวัติบัญชีเพื่อป้องกันไม่ให้ข้อมูลของตนตกไปถึงมือมนุษย์คนอื่น
ในทางกลับกัน วิศวกรฝึกอบรมโมเดลและนักวิจัยด้านความปลอดภัย AI บางส่วนมองว่า การคัดกรองข้อมูลด้วยมนุษย์บนข้อมูลการสนทนาจริงเป็นสิ่งจำเป็นที่หลีกเลี่ยงไม่ได้ในทางวิศวกรรม หากปราศจากการตรวจทานและให้คะแนนบทสนทนาจริง โมเดลจะไม่สามารถเรียนรู้ความซับซ้อนของปฏิสัมพันธ์ในโลกจริง และมีโอกาสเกิดพฤติกรรมตอบรับแบบยอมตามผู้ใช้จนเกิดอันตรายได้ อย่างไรก็ดี ความเห็นพ้องต้องกันของทั้งสองฝ่ายคือ ปัญหาไม่ได้อยู่ที่ตัวเทคนิคการเทรน แต่อยู่ที่การขาดความโปร่งใสต่อผู้ใช้ปลายทางอย่างจริงจัง
บทเรียนสำหรับองค์กรไทย: กฎหมาย PDPA และการจัดการข้อมูลความลับทางธุรกิจ
สำหรับธุรกิจและองค์กรในประเทศไทย เหตุการณ์นี้เป็นสัญญาณเตือนภัยที่สำคัญอย่างยิ่งต่อการปฏิบัติตามพระราชบัญญัติคุ้มครองข้อมูลส่วนบุคคล (PDPA) หากพนักงานในองค์กรนำข้อมูลส่วนบุคคลของลูกค้า ข้อมูลเวชระเบียน พิกัดที่อยู่ หรือข้อมูลทางการเงินไปป้อนใน ChatGPT เวอร์ชันทั่วไปโดยที่ไม่ได้ปิดตัวเลือกการเทรน ข้อมูลเหล่านั้นอาจหลุดรอดผ่านตัวกรองอัตโนมัติและไปปรากฏบนหน้าจอของผู้รับเหมาต่างชาติ ซึ่งถือเป็นความเสี่ยงขั้นร้ายแรงต่อการรั่วไหลของข้อมูลข้ามพรมแดนโดยไม่ชอบด้วยกฎหมาย
ผู้บริหารฝ่ายสารสนเทศ (CIO) และเจ้าหน้าที่คุ้มครองข้อมูลส่วนบุคคล (DPO) ในไทยจำเป็นต้องทบทวนนโยบายการใช้งานปัญญาประดิษฐ์ในองค์กรอย่างเร่งด่วน โดยควรบังคับใช้ ChatGPT Enterprise หรือการเชื่อมต่อผ่าน OpenAI API ซึ่งตามข้อกำหนดอย่างเป็นทางการจะไม่นำข้อมูลพรอมต์ไปใช้ในการฝึกฝนโมเดล หรือหากมีความจำเป็นต้องใช้บัญชีระดับบุคคล องค์กรต้องออกแนวทางปฏิบัติที่ชัดเจนในการปิดสวิตช์การแชร์ข้อมูลทั้งหมด ตลอดจนห้ามการป้อนรหัสซอร์สโค้ดที่เป็นความลับทางการค้าและข้อมูลระบุตัวตนลงในระบบอย่างเด็ดขาด
สำหรับองค์กรและผู้ใช้งานในไทยที่ป้อนข้อมูลธุรกิจหรือข้อมูลส่วนตัวลงใน ChatGPT การที่ระบบเปิดสวิตช์ส่งข้อมูลไปเทรนโมเดลเป็นค่าเริ่มต้น (default-on) หมายความว่าความลับทางการค้าและข้อมูลตามกฎหมาย PDPA อาจถูกมนุษย์ภายนอกเปิดอ่านได้โดยตรง