Abliteration ใน Large Language Models คืออะไร?

วิทยาศาสตร์ของการปฏิเสธใน Residual Stream

LLM เก็บการเซ็นเซอร์ไว้โดยตรงใน residual stream ของมัน นั่นหมายความว่ากลไกที่บอกโมเดลว่า "ฉันทำไม่ได้" อยู่ร่วมกับน้ำหนักที่รับผิดชอบตรรกะและความสร้างสรรค์ เมื่อคุณรันโมเดลมาตรฐาน คุณจะได้รับทั้งคำตอบและการปฏิเสธที่สร้างไว้ล่วงหน้า

Abliteration ระบุ vectors การเซ็นเซอร์เฉพาะเหล่านี้ จากนั้นลบออกจากรัฐของโมเดล ผลลัพธ์คือโมเดลที่รักษาความรู้ไว้แต่สูญเสียแรงจูงใจในการควบคุมตัวเอง นี่ไม่ใช่เวทมนตร์กล่องดำ แต่เป็นการดำเนินการทางคณิตศาสตร์ที่แม่นยำบนสถาปัตยกรรมของ neural network

Abliteration เทียบกับการปรับแต่งอย่างละเอียดแบบดั้งเดิม

การ fine-tuning แบบดั้งเดิมต้องการชุดข้อมูลขนาดใหญ่และพลังการคำนวณอย่างมาก คุณฝึกโมเดลด้วยข้อมูลใหม่เพื่อเปลี่ยนพฤติกรรมของมัน สิ่งนี้มักนำไปสู่ overfitting หรือสูญเสียความสามารถทั่วไป Abliteration ข้ามขั้นตอนการฝึกฝนไปเลย มันทำงานบน checkpoint ที่มีอยู่แล้ว

เนื่องจากคุณไม่ได้ทำการฝึกโมเดลใหม่ คุณจึงรักษาความรู้พื้นฐานเดิมของโมเดลไว้ โมเดลจะไม่ลืมวิธีการเขียนโค้ดหรืออธิบายฟิสิกส์ มันเพียงหยุดการปฏิเสธการสร้างเนื้อหาสำหรับผู้ใหญ่หรือหัวข้อที่อ่อนไหว ทำให้การปรับ abliteration รวดเร็วและมีประสิทธิภาพมากขึ้นสำหรับกรณีการใช้งานเฉพาะ

ทำไมโมเดล 'Abliterated' ถึงฉลาดกว่า

หลายคนคิดว่าโมเดลที่ไม่มีเซนเซอร์โง่กว่า พวกเขาคิดว่า การลบตัวกรองหมายถึงการลบสติปัญญา สิ่งนี้มักจะเป็นจริงสำหรับโมเดลที่ปรับแต่งเฉพาะ โมเดลเหล่านี้อาจกลายเป็นเหมือนถูกตัดสมอง โมเดล obliterated นั้นแตกต่างกัน พวกมันเก็บน้ำหนักต้นฉบับไว้ครบถ้วน

ผู้ใช้รายงานว่าโมเดลที่ลบการเซ็นเซอร์ออกแล้วรักษาคะแนนการให้เหตุผลสูง โมเดลยังสามารถทำงานงานที่ซับซ้อนได้ มันเพียงทำเช่นนั้นโดยไม่มีการตรวจสอบเนื้อหาเพิ่มเติม สิ่งนี้ทำให้เหมาะสำหรับการเขียนเชิงสร้างสรรค์และบทบาทสมมติที่ความละเอียดอ่อนสำคัญ คุณได้รับพลังเต็มรูปแบบของโมเดลพื้นฐาน

ทำความเข้าใจเทคนิคการรักษามาตรฐาน

วิธีการ Abliteration ไม่ใช่ทุกวิธีที่เท่ากัน บางวิธีอาจทำให้พื้นที่ผลลัพธ์ของโมเดลบิดเบี้ยว ส่งผลให้เกิดข้อความที่ขาดความสอดคล้องหรือซ้ำซาก เทคนิคที่รักษา Norm จะช่วยแก้ไขปัญหานี้ โดยรักษาขนาดของน้ำหนักโมเดลให้คงที่

สคริปต์เช่นที่พัฒนาโดย Grim Jim ใช้เทคนิค biprojected abliteration วิธีการนี้รักษาโครงสร้างทางเรขาคณิตของเครือข่ายประสาท ผลลัพธ์คือโมเดลที่ให้ความรู้สึกเป็นธรรมชาติ ไม่ดูเป็นหุ่นยนต์ คุณภาพของผลลัพธ์ยังคงสูงแม้หลังจากการลบการเซ็นเซอร์

ความเข้าใจผิดทั่วไปเกี่ยวกับ Abliteration

ความเชื่อผิดๆ อย่างหนึ่งคือ abliteration ทำให้โมเดลก้าวร้าว แม้ว่าโมเดลจะตอบได้อย่างอิสระมากขึ้น แต่ไม่ได้เปลี่ยนบุคลิกภาพของมัน เพียงแค่เอา "safe" guardrails ออกเท่านั้น ความเข้าใจผิดอีกอย่างคือมันทำให้โมเดลพัง การทำ abliteration อย่างถูกต้องจะปล่อยให้โมเดลทำงานได้เต็มรูปแบบ

บางคนเชื่อว่าคุณต้องฝึกโมเดลใหม่ทุกครั้ง นี่ไม่เป็นความจริง คุณสามารถใช้เวกเตอร์ abliteration เดียวกันกับเวอร์ชันต่างๆ ของโมเดลพื้นฐานเดียวกัน ความสอดคล้องนี้ช่วยให้นักพัฒนาสามารถปรับใช้โมเดล uncensored ที่เชื่อถือได้โดยไม่เริ่มจากศูนย์

วิธีที่เราใช้ Abliteration กับโมเดลของเรา

เราใช้เทคนิคนี้เพื่อให้บริการโมเดล uncensored แบบเดียวและเฉพาะเจาะจง API ของเราให้บริการโมเดล open-weight ที่ได้รับการถอดเซ็นเซอร์อย่างละเอียดอ่อน มันทำงานบนเซิร์ฟเวอร์ของเราเอง เราไม่ได้เปลี่ยนเส้นทางคำขอของคุณไปยังผู้ขายรายอื่น คุณจะได้รับประสบการณ์ที่สอดคล้องกัน

id ของโมเดลคือ "uncensored" ออกแบบมาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องกฎหมาย มันไม่ปฏิเสธหัวข้อที่ถกเถกัน เราเรียกเก็บเงินคุณตาม token อย่างเคร่งครัด ความโปร่งใสนี้ทำให้คุณสามารถขยายการใช้งานได้โดยไม่ต้องกลัวบิลที่พุ่งสูง คุณจ่ายสำหรับสิ่งที่ใช้ ไม่มีค่าธรรมเนียมรายเดือน

ทำไมขนาดหน้าต่างบริบทจึงสำคัญสำหรับโมเดล Abliterated

Abliteration ไม่เปลี่ยนแปลงปริมาณข้อความที่โมเดลสามารถประมวลผลได้ API ของเรารองรับ context window ขนาด 100,000 token สิ่งนี้สำคัญสำหรับการสร้างเนื้อหาแบบยาว คุณสามารถป้อน prompt ขนาดใหญ่ให้โมเดลและรับผลลัพธ์จำนวนมาก

เอาต์พุตสูงสุดคือ 16,000 โทเค็นต่อคำขอ สิ่งนี้อนุญาตให้เขียนเรียงความหรือบล็อกโค้ดโดยละเอียด หากคุณไม่ได้ตั้งค่า max_tokens ค่าเริ่มต้นคือ 2,048 ความยืดหยุ่นนี้ช่วยให้คุณจัดการงานที่หลากหลายได้ ตั้งแต่คำตอบสั้น ๆ ไปจนถึงเรื่องเล่ายาว โมเดลปรับตัวตามความต้องการของคุณ

อนาคตของการสร้างเนื้อหา AI แบบไร้ข้อจำกัด

เมื่อโมเดล AI มีขนาดใหญ่ขึ้น การเซ็นเซอร์ก็ซับซ้อนขึ้น Abliteration เป็นวิธีแก้ไขที่เรียบง่าย มันกำจัดกลไกการปฏิเสธโดยตรง วิธีการนี้มีแนวโน้มที่จะกลายเป็นเรื่องทั่วไปมากขึ้น นักพัฒนาต้องการควบคุมเนื้อหาของพวกเขา

การอัปเดตในอนาคตอาจรวมถึงปลั๊กอินเพื่อเหนี่ยวนำการปฏิเสธแบบเลือกได้ ซึ่งจะทำให้เกิดการเซ็นเซอร์แบบไดนามิก ในขณะนี้อบลลิเรชัน (abliteration) ให้พื้นฐานแบบไม่มีเซ็นเซอร์ที่เสถียร เป็นเครื่องมือที่มีประสิทธิภาพสำหรับผู้สร้างที่ต้องการอิสระ เทคโนโลยีกำลังเติบโตอย่างรวดเร็ว