ผู้ให้บริการ LLM และโมเดล
Klacksy ต้องใช้โมเดลภาษาเพื่อให้เข้าใจและลงมือทำงานได้ ที่ การตั้งค่า > ผู้ให้บริการ LLM, โมเดล LLM และบันทึกการซิงค์ LLM คุณกำหนดได้ว่า Klacks จะใช้ผู้ให้บริการและโมเดลใดบ้าง
วิธีการทำงาน
การเพิ่มผู้ให้บริการ: ผู้ให้บริการหนึ่งรายจะรวม URL พื้นฐาน เวอร์ชัน API และคีย์ API ของผู้ให้บริการนั้นไว้ด้วยกัน มีผู้ให้บริการหกรายที่ฝังไว้ในโค้ดโดยตรง (OpenAI, Anthropic, Google, Azure, Mistral, DeepSeek) ส่วนผู้ให้บริการรายอื่น ๆ จะเชื่อมต่อผ่านอินเทอร์เฟซทั่วไปที่รองรับรูปแบบเดียวกับ OpenAI ซึ่งทำให้สามารถเชื่อมต่อกับผู้ให้บริการอย่าง Groq, Together AI, Fireworks, OpenRouter, xAI, Cerebras, Perplexity หรือแม้แต่โมเดลที่รันเองได้ ผ่านปุ่ม "ค้นหาผู้ให้บริการ" Klacks จะแนะนำผู้ให้บริการที่คุณยังไม่ได้เพิ่มเข้ามาด้วย โดยดึงจากรายการที่คัดสรรและตรวจสอบแล้ว หรือหากมีการตั้งค่าการค้นหาเว็บไว้ ก็จะค้นหาผ่านอินเทอร์เน็ตด้วย ทุกข้อเสนอแนะจะถูกตรวจสอบว่าเข้าถึงได้จริงก่อนแสดงผล ผู้ให้บริการที่เลือกจะถูกเพิ่มเข้ามาในสถานะปิดใช้งานและไม่มีคีย์ API ซึ่งคุณต้องเพิ่มเข้าไปเองในภายหลัง
คีย์ API และลำดับความสำคัญ: หลังจากบันทึกแล้ว คีย์จะไม่แสดงเป็นข้อความธรรมดาบนหน้าจออีกเลย จะเห็นเพียงสถานะว่ามีการตั้งค่าไว้แล้วหรือไม่ ("กำหนดค่าแล้ว") ลำดับความสำคัญเป็นตัวกำหนดว่าจะเรียกใช้ผู้ให้บริการที่เปิดใช้งานตามลำดับใด
การจัดการโมเดล: ที่หน้าโมเดล LLM คุณสามารถเพิ่มโมเดลแต่ละตัวต่อผู้ให้บริการหนึ่งราย (ชื่อที่แสดง, รหัสโมเดลทางเทคนิคของผู้ให้บริการ, ขนาดหน้าต่างบริบท, จำนวนโทเคนสูงสุด, ต้นทุนต่อ 1,000 โทเคนสำหรับอินพุต/เอาต์พุต) โมเดลหนึ่งตัวสามารถกำหนดให้เป็นโมเดลมาตรฐานได้ และผู้ให้บริการจะไม่สามารถลบได้ตราบใดที่โมเดลตัวใดตัวหนึ่งของผู้ให้บริการนั้นยังเป็นค่ามาตรฐานอยู่
บันทึกการซิงค์ LLM: บริการเบื้องหลังจะตรวจสอบโดยอัตโนมัติทุก 24 ชั่วโมงตามค่าเริ่มต้นว่ามีโมเดลใหม่ปรากฏขึ้นหรือถูกยกเลิกไปจากผู้ให้บริการที่เปิดใช้งานอยู่หรือไม่ โมเดลใหม่จะถูกทดสอบล่วงหน้าด้วยคำขอทดสอบจริง และจะถูกเพิ่มเข้ามาในสถานะเปิดใช้งานก็ต่อเมื่อผ่านการทดสอบเท่านั้น ส่วนโมเดลที่ไม่มีให้บริการแล้วจะถูกปิดใช้งานโดยอัตโนมัติ บันทึกการซิงค์จะแสดงประวัติทั้งหมดแยกตามผู้ให้บริการ พร้อมวันที่ จำนวนโมเดลใหม่/ที่ถูกปิดใช้งาน/ที่ล้มเหลว และผลการทดสอบที่สามารถขยายดูรายละเอียดได้ ผู้ดูแลระบบจะได้รับการแจ้งเตือนแบบ toast เกี่ยวกับเหตุการณ์การซิงค์ที่ยังไม่ได้อ่าน เมื่อเข้าสู่ระบบครั้งถัดไป
ข้อมูลที่ควรทราบ
- มีเพียงหกผู้ให้บริการเท่านั้น (OpenAI, Anthropic, Google, Azure, Mistral, DeepSeek) ที่มีการเชื่อมต่อเฉพาะทาง ผู้ให้บริการรายอื่นทั้งหมดใช้อินเทอร์เฟซทั่วไปที่รองรับรูปแบบเดียวกับ OpenAI
- รายการสำหรับ "ค้นหาผู้ให้บริการ" ปัจจุบันมีผู้ให้บริการที่ตรวจสอบแล้วสิบสองราย ข้อเสนอแนะจากเว็บจะปรากฏก็ต่อเมื่อมีการตั้งค่าการค้นหาเว็บไว้ในหน้าการตั้งค่าเท่านั้น
- บริการบันทึกการซิงค์ทำงานอยู่เบื้องหลังโดยไม่ขึ้นกับเซสชันของคุณ — คุณไม่จำเป็นต้องเปิดหน้านี้ค้างไว้
ลองใช้งานได้ทันที: Klacks Playground — เข้าสู่ระบบด้วย admin@test.com / P@ssw0rt1 ข้อมูลจะถูกรีเซ็ตทุกวัน