รายงานเชิงสืบสวนและการจำลองลายเซ็นนักวาด The New Yorker
ผลการสอบสวนที่ได้รับการเผยแพร่ออกมาเปิดเผยว่า ระบบประมวลผลการสร้างภาพของ ChatGPT (ทั้งไปป์ไลน์ DALL-E และความสามารถแบบมัลติโมดอล) สามารถถูกสั่งการให้สร้างภาพการ์ตูนตลกล้อเลียนแบบช่องเดียว (single-panel satirical cartoons) พร้อมทั้งจำลองและใส่ลายเซ็นรวมถึงเครดิตระบุชื่อจริงของนักวาดการ์ตูนประจำนิตยสาร The New Yorker มากกว่า 15 คนโดยไม่ได้รับอนุญาตหรือความยินยอมจากเจ้าของผลงาน
ในบรรดานักวาดที่พบว่าลายเซ็นและเครื่องหมายระบุตัวตนถูกระบบสร้างจำลองขึ้นมา ได้แก่ Brendan Loper, Emily Flake, Pat Byrnes, Harry Bliss, Joe Dator, Peter Vey, Jason Adam Katzenstein, George Booth, Liza Donnelly, Ellis Rosen และศิลปินระดับตำนานอย่าง Saul Steinberg พฤติกรรมดังกล่าวของโมเดลเกิดขึ้นเมื่อผู้ใช้งานป้อนคำสั่งที่ขอให้สร้างภาพในสไตล์การ์ตูนของนิตยสารดังกล่าว โดยระบบได้นำเอาลายเซ็นซึ่งทำหน้าที่เป็นสัญลักษณ์ยืนยันตัวตนของมนุษย์มาประทับลงบนภาพที่ปัญญาประดิษฐ์สร้างขึ้นมาใหม่
กรณีนี้แสดงให้เห็นว่ากระบวนการสังเคราะห์ภาพของโมเดลไม่ได้หยุดอยู่เพียงแค่การเรียนรู้โครงสร้างเชิงนามธรรม รูปแบบลายเส้น หรือจังหวะการเล่าเรื่องของภาพล้อเลียนเท่านั้น แต่ตัวแบบยังจดจำ (memorize) และดึงเอาองค์ประกอบที่เป็นข้อความภาพอันเป็นเอกลักษณ์เฉพาะบุคคลออกมาวางซ้ำโดยตรง ซึ่งเข้าข่ายการลอกเลียนแบบที่มีความละเอียดอ่อนต่อข้อกฎหมายอย่างยิ่ง
ช่องโหว่ของสัญญาอนุญาตสิทธิ์และการตอบสนองจาก OpenAI
ประเด็นดังกล่าวสร้างความซับซ้อนอย่างยิ่งในแง่ของสัญญาระดับองค์กร เนื่องจากบริษัทแม่อย่าง Condé Nast ได้เคยลงนามในข้อตกลงการอนุญาตใช้เนื้อหาแบบหลายปี (multi-year content licensing partnership) ร่วมกับ OpenAI มาตั้งแต่ปี 2024 อย่างไรก็ตาม โฆษกของ The New Yorker ได้ยืนยันข้อเท็จจริงว่า ข้อตกลงระหว่าง Condé Nast กับ OpenAI นั้นไม่เคยครอบคลุมการอนุญาตให้ฝึกฝนโมเดล AI ด้วยภาพการ์ตูน และไม่เคยอนุญาตให้นำโลโก้ของนิตยสารหรือลายเซ็นของศิลปินไปผลิตซ้ำแต่อย่างใด
ทางด้าน OpenAI ได้ตอบสนองต่อผลการสอบสวนดังกล่าวโดยระบุว่า "คำสั่งพรอมต์ลักษณะนี้อาจละเมิดแนวทางการป้องกัน (guardrails) ของเราที่เกี่ยวข้องกับความคล้ายคลึงกับเนื้อหาของบุคคลภายนอก" อย่างไรก็ตาม รายงานการสอบสวนระบุว่าพฤติกรรมการสร้างภาพพร้อมลายเซ็นของนักวาดยังคงสามารถทดสอบและทำซ้ำได้ (reproducible) ณ วันที่รายงานถูกเผยแพร่ ซึ่งสะท้อนให้เห็นว่าระบบคัดกรองคำสั่งและความปลอดภัยยังมีช่องโหว่
ตามข้อกำหนดการใช้งานอย่างเป็นทางการของ OpenAI (Terms of Use) ผู้ใช้งานจะต้องรับผิดชอบต่อเนื้อหาที่ป้อนและผลลัพธ์ที่นำไปใช้ โดยมีข้อห้ามไม่ให้ละเมิดสิทธิของบุคคลภายนอก ทว่าเมื่อระบบโมเดลสามารถผลิตผลงานที่เลียนแบบเครื่องหมายทางการค้าหรือลายเซ็นของบุคคลอื่นออกมาได้เองโดยตรง ภาระความเสี่ยงทางกฎหมายจึงกลายเป็นข้อถกเถียงสำคัญระหว่างผู้พัฒนาแพลตฟอร์มและผู้ใช้งานปลายทาง
เสียงสะท้อนจากกลุ่มนักพัฒนา ชุมชนสร้างสรรค์ และนักวิจัย
ในหมู่นักพัฒนาซอฟต์แวร์ ผู้ปฏิบัติงานด้านเทคโนโลยีปัญญาประดิษฐ์ และกลุ่มนักสร้างสรรค์ มีปฏิกิริยาตอบสนองอย่างกว้างขวางต่อปรากฏการณ์นี้ ศิลปินและนักวาดการ์ตูนแสดงความกังวลอย่างยิ่งว่า ลายเซ็นบนชิ้นงานศิลปะเปรียบเสมือนใบรับรองความเป็นของแท้ (certificate of authenticity) และเป็นเครื่องหมายการค้าส่วนบุคคล เมื่อระบบ AI ดึงเอาลายเซ็นเหล่านี้ไปแปะติดกับภาพสร้างสังเคราะห์ทั่วไป จึงถือเป็นการสร้างความเจือจางต่อแบรนด์ (brand dilution) และเป็นการปลอมแปลงตัวตนในรูปแบบอัตโนมัติ
ด้านนักวิจัยและผู้เชี่ยวชาญด้านความปลอดภัยของโมเดลตั้งข้อสังเกตเชิงลึกว่า ปัญหานี้เผยให้เห็นความล้มเหลวของการจัดแนวทางด้านความปลอดภัย (alignment filters) ในโมเดลสร้างภาพหลายมิติ การที่โมเดลสามารถดึงชื่อและลายเซ็นของศิลปินเฉพาะกลุ่มออกมาได้อย่างแม่นยำ แสดงว่าข้อมูลชุดฝึกฝนมีการเก็บข้อมูลภาพที่ติดลายเซ็นไว้หนาแน่นมากเกินไป จนเกิดภาวะ Overfitting หรือการจดจำข้อมูลแบบไม่เจือจาง
ผู้สังเกตการณ์ในวงการเทคโนโลยียังตั้งคำถามถึงประสิทธิภาพของสัญญาอนุญาตสิทธิ์เชิงพาณิชย์ขนาดใหญ่ โดยระบุว่าแม้จะมีการเจรจาธุรกิจระดับองค์กรพันล้านดอลลาร์ แต่ในทางเทคนิคแล้ว วิศวกรฝึกสอนโมเดลแทบไม่สามารถคัดแยกหรือกรององค์ประกอบที่ละเอียดอ่อน เช่น ลิขสิทธิ์ย่อยของศิลปินอิสระ ออกจากชุดข้อมูลขนาดใหญ่ (web-scale corpus) ได้อย่างสมบูรณ์แบบ
บทเรียนและความเสี่ยงทางธุรกิจสำหรับองค์กรในประเทศไทย
สำหรับองค์กรธุรกิจ หน่วยงานสื่อสารการตลาด และเอเจนซีครีเอทีฟในประเทศไทย เหตุการณ์นี้เป็นสัญญาณเตือนที่สำคัญยิ่งเกี่ยวกับการนำ Generative AI ไปประยุกต์ใช้งานในการสร้างภาพโฆษณา บรรจุภัณฑ์ หรือคอนเทนต์ประชาสัมพันธ์ แม้ว่าทีมงานอาจไม่ได้มีเจตนาละเมิดลิขสิทธิ์ แต่หากโมเดลสร้างภาพนำเอาลายน้ำ ลายเซ็น หรือสัญลักษณ์ที่มีลักษณะคล้ายคลึงกับศิลปินหรือเครื่องหมายการค้าของผู้อื่นออกมา องค์กรอาจตกเป็นเป้าหมายของการฟ้องร้องดำเนินคดีตามพระราชบัญญัติลิขสิทธิ์และกฎหมายเครื่องหมายการค้าไทย
ฝ่ายกำกับดูแลและการปฏิบัติตามกฎเกณฑ์ (Compliance) ขององค์กรไทย จำเป็นต้องทบทวนขั้นตอนการตรวจสอบชิ้นงานที่สร้างจาก AI อย่างเข้มงวด โดยต้องกำหนดนโยบายให้มีการตรวจสอบภาพโดยมนุษย์ (Human-in-the-loop) ในระดับพิกเซล เพื่อตรวจจับลายเซ็น ลายน้ำแฝง หรือรูปแบบตัวอักษรที่ระบบสังเคราะห์ขึ้นมาโดยไม่พึงประสงค์ ก่อนที่จะเผยแพร่สู่สาธารณะหรือนำไปใช้เชิงพาณิชย์
นอกจากนี้ ภาคธุรกิจไทยที่กำลังทำสัญญาว่าจ้างหรือจัดซื้อระบบ AI จากผู้ให้บริการภายนอก ควรเรียกร้องให้มีข้อกำหนดเรื่องการชดใช้ค่าเสียหาย (indemnification clause) ที่ชัดเจนครอบคลุมความเสี่ยงด้านทรัพย์สินทางปัญญา และไม่ควรพึ่งพาข้อความโฆษณาของผู้ให้บริการเพียงอย่างเดียว เนื่องจากระบบความปลอดภัยของแพลตฟอร์มระดับโลกยังคงแสดงให้เห็นถึงข้อจำกัดในการป้องกันการลอกเลียนแบบอัตลักษณ์บุคคลอย่างแท้จริง
เหตุการณ์นี้ตอกย้ำความเสี่ยงทางกฎหมายด้านทรัพย์สินทางปัญญาและการละเมิดเครื่องหมายการค้าสำหรับองค์กรธุรกิจที่นำ Generative AI มาใช้งานเชิงพาณิชย์ ชี้ให้เห็นว่าแม้แพลตฟอร์มจะมีข้อตกลงความร่วมมือด้านเนื้อหากับสำนักพิมพ์ใหญ่ แต่ระบบกรองความปลอดภัยอาจยังควบคุมการสร้างภาพและลายเซ็นอัตลักษณ์ของศิลปินไม่ได้จริง