ท้าทายความเชื่อเดิม: โครงข่ายประสาทเทียมอาจไม่ได้ซับซ้อนเกินเข้าใจ
เมื่อวันที่ 15 ตุลาคม 2026 นิค คัมมาราตา (Nick Cammarata) นักวิจัยผู้ร่วมก่อตั้งสถาบันวิจัยด้านความโปร่งใสของปัญญาประดิษฐ์ Goodfire และอดีตนักวิจัยจาก OpenAI ได้เผยแพร่บทความวิชาการเชิงทดลองในชื่อ 'Neural Networks Are Already Clean: A working hypothesis about neurons, generalization, and the ecology of circuits' โดยบทความนี้นำเสนอสมมติฐานที่สั่นคลอนรากฐานของสาขา Mechanistic Interpretability ที่เชื่อกันมานับทศวรรษ
วงการปัญญาประดิษฐ์กระแสหลักยึดถือทฤษฎี 'Superposition' ซึ่งระบุว่าโครงข่ายประสาทเทียมต้องบีบอัดมโนทัศน์หรือแนวคิดนับไม่ถ้วนที่ไม่ได้เกี่ยวข้องกัน ลงในมิติเชิงพื้นที่เวกเตอร์ที่ซ้อนทับกัน ส่งผลให้นิวรอนแต่ละตัวทำหน้าที่หลายอย่างปะปนกัน (Polysemanticity) จนมนุษย์ไม่สามารถอ่านการทำงานได้โดยตรง ทว่าคัมมาราตากลับชี้ว่าโมเดลระดับแนวหน้ายุคปัจจุบันอาจจัดระเบียบโครงสร้างภายในให้มีความหมายเดี่ยวที่ชัดเจน (Monosemantic) โดยธรรมชาติ หากสถาปัตยกรรมได้รับการออกแบบอย่างถูกต้อง
หลักฐานเชิงประจักษ์จากการทดลอง: จาก InceptionV1 สู่โมเดลระดับล้านล้านพารามิเตอร์
ในการตรวจสอบข้อเท็จจริง คัมมาราตาได้ทบทวนตัวอย่างคลาสสิกในอดีต เช่น นิวรอนในโมเดล InceptionV1 ที่เคยถูกบันทึกว่าตอบสนองต่อทั้ง 'หน้าแมว' และ 'หน้ารถยนต์' จนถูกมองว่าเป็นหลักฐานของ Superposition ทว่าการวิเคราะห์รูปทรงเรขาคณิตเชิงลึกพบว่า นิวรอนดังกล่าวแท้จริงแล้วตอบสนองต่อคุณลักษณะระดับต่ำที่เป็นโครงสร้างรูปตัว V ร่วมกันอย่างสม่ำเสมอ ไม่ใช่การสุ่มเก็บสองมโนทัศน์ที่แยกขาดจากกัน
นอกจากนี้ ในการทดสอบสถาปัตยกรรมแบบ Ablation โดยการเทรน ConvNeXt และ InceptionV1 ครอบคลุมขนาดพารามิเตอร์ที่ต่างกันถึง 300 เท่า โมเดลสถาปัตยกรรมแบบ Residual ยุคใหม่แสดงให้เห็นว่า ในเลเยอร์ท้ายสุด นิวรอนเกือบ 99% มีหน้าที่เฉพาะเจาะจงชัดเจนและไม่พันกัน ยิ่งไปกว่านั้น ในการตรวจสอบโมเดลภาษาขนาดใหญ่จริงอย่าง Qwen3-32B คัมมาราตาระบุว่า ขั้วของนิวรอน (Neuron Poles) ราว 90% มีบทบาทการทำงานหลักเพียงหน้าที่เดียว ขณะที่ประมาณ 7% ทำหน้าที่สองอย่างที่มีความสัมพันธ์เกี่ยวเนื่องกันเชิงลึก และมีเพียง 2% ถึง 4% เท่านั้นที่ไม่สามารถจัดหมวดหมู่ได้โดยง่าย โดยรูปแบบวงจรที่อ่านค่าได้ชัดเจนนี้ยังถูกพบในการสุ่มตรวจโมเดลสเกลล้านล้านพารามิเตอร์อย่าง Kimi K3 อีกด้วย
ข้อจำกัดของการวิจัยและจุดที่ยังต้องพิสูจน์
แม้ว่าข้อค้นพบดังกล่าวจะสร้างความตื่นตัว แต่ตัวรายงานยังระบุไว้อย่างชัดเจนว่าเป็นเพียงสมมติฐานการทำงานเบื้องต้น (Working Hypothesis) และกำลังอยู่ระหว่างการเตรียมเอกสารวิชาการฉบับเต็มเพื่อเข้าสู่กระบวนการตรวจสอบโดยผู้ทรงคุณวุฒิ (Peer Review)
ข้อจำกัดทางเทคนิคที่สำคัญคือ สัดส่วนความชัดเจนของนิวรอนที่วัดได้ยังคงขึ้นอยู่กับเกณฑ์ระดับการกระตุ้น (Activation Thresholds) ที่ผู้วิเคราะห์กำหนดขึ้น อีกทั้งกลไกโครงสร้างของ Attention Heads และการทำแผนที่นิวรอนแบบครอบคลุมทั้งโมเดลในระดับล้านล้านพารามิเตอร์ยังคงเป็นความท้าทายทางวิศวกรรมที่ยังไม่ได้รับการแก้ไขอย่างสมบูรณ์
มุมมองของนักวิจัย: ความหวังในการเปิดกล่องดำปะทะข้อกังขาเชิงระเบียบวิธี
ในแวดวงผู้ปฏิบัติงานด้านปัญญาประดิษฐ์และนักวิจัยความปลอดภัย เกิดการถกเถียงและแบ่งออกเป็นสองขั้วอย่างชัดเจน ฝั่งหนึ่งมองว่านี่คือสัญญาณเชิงบวกครั้งสำคัญที่อาจเปลี่ยนทิศทางการวิจัยความโปร่งใส จากเดิมที่ต้องทุ่มทรัพยากรมหาศาลไปกับการฝึก Sparse Autoencoders (SAEs) เพื่อถอดรหัสเวกเตอร์ ให้กลายเป็นการทำแคตตาล็อกโครงสร้างนิวรอนอย่างเป็นระบบ คล้ายการจัดทำแผนที่จีโนมในชีววิทยา
อย่างไรก็ตาม นักวิจัยด้านการปรับเทียบความปลอดภัย (Alignment Researchers) ชั้นนำหลายรายแสดงความกังขาอย่างรุนแรง โดยชี้ว่าการติดป้ายกำกับคำอธิบายด้วยภาษาธรรมชาติผ่านการสังเกตเชิงอัตวิสัย ยังไม่เพียงพอที่จะพิสูจน์ภาวะความหมายเดี่ยวได้อย่างแท้จริง หากปราศจากการทดสอบเชิงแทรกแซงและวัดค่าคะแนนการจำลอง เช่น การวัดการเปลี่ยนแปลงการแจกแจงความน่าจะเป็น (KL Divergence) ภายใต้การรบกวนสัญญาณ นอกจากนี้ยังมีเสียงเตือนว่าไม่ควรนำทฤษฎีนี้ไปอ้างเพื่อเร่งการนำ AI มาใช้โดยคิดไปเองว่าปัญหาความปลอดภัยได้รับการแก้ไขแล้ว
นัยสำคัญต่อภาคธุรกิจและการกำกับดูแลในประเทศไทย
สำหรับผู้นำเทคโนโลยีและฝ่ายกำกับดูแลกิจการในประเทศไทย ข้อถกเถียงนี้สะท้อนถึงจุดเปลี่ยนสำคัญในการประเมินความเสี่ยงของเทคโนโลยี AI องค์กรในอุตสาหกรรมที่มีการควบคุมเข้มงวด เช่น ภาคการเงิน ธนาคารพาณิชย์ และการแพทย์ ซึ่งจำเป็นต้องปฏิบัติตาม พ.ร.บ. คุ้มครองข้อมูลส่วนบุคคล (PDPA) รวมถึงแนวปฏิบัติด้าน AI Governance มักเผชิญอุปสรรคจากสภาพ 'กล่องดำ' ที่ไม่สามารถอธิบายเหตุผลของโมเดลได้
หากสมมติฐานของ Goodfire ได้รับการพิสูจน์ยืนยันผ่านเอกสารวิชาการ องค์กรธุรกิจอาจไม่จำเป็นต้องลงทุนมหาศาลในระบบถอดรหัสตัวกลางที่ซับซ้อน แต่สามารถใช้เครื่องมือตรวจสอบวงจรนิวรอนโดยตรงเพื่อตรวจจับพฤติกรรมที่ไม่พึงประสงค์ การรั่วไหลของข้อมูล หรืออคติในขั้นตอนประมวลผล อย่างไรก็ดี ในระยะสั้น ผู้บริหารยังคงต้องยึดมั่นในการทดสอบระบบแบบ End-to-End และไม่ควรด่วนลดทอนมาตรการควบคุมความปลอดภัยเพียงเพราะคำอ้างเรื่องความโปร่งใสภายในโมเดล
หากโครงข่ายประสาทเทียมมีความโปร่งใสในระดับนิวรอนจริง องค์กรธุรกิจและหน่วยงานกำกับดูแลจะสามารถตรวจสอบความปลอดภัยและตรวจจับอคติของระบบ AI ได้รวดเร็วขึ้นอย่างมีนัยสำคัญโดยไม่ต้องพึ่งพาวิธีถอดรหัสที่ซับซ้อนและมีต้นทุนสูง