דלג לתוכן הראשי

ספק LLM ומודלים

Klacksy זקוק למודל שפה כדי להבין ולפעול. תחת הגדרות > ספק LLM, מודלי LLM ו-LLM-Sync-Log אתם קובעים אילו ספקים ואילו מודלים ספציפיים Klacks רשאי להשתמש בהם לצורך זה.

איך זה עובד​

הוספת ספק: ספק מאגד כתובת URL בסיסית, גרסת API ומפתח API של ספק. שישה ספקים (OpenAI, Anthropic, Google, Azure, Mistral, DeepSeek) מוטמעים ישירות בקוד; כל ספק נוסף פועל דרך חיבור גנרי, תואם OpenAI — כך ניתן לחבר למשל את Groq, Together AI, Fireworks, OpenRouter, xAI, Cerebras, Perplexity או מודל המופעל באופן עצמאי. באמצעות "חיפוש ספקים" Klacks גם מציע ספקים שטרם הגדרתם: מתוך קטלוג מאורגן של כתובות מאומתות, או — אם מוגדר חיפוש אינטרנט — באמצעות חקירת אינטרנט. כל הצעה נבדקת בזמן אמת לגבי זמינות לפני ההצגה; ספקים שנבחרו נוצרים במצב מושבת וללא מפתח API, אותו תוסיפו בעצמכם לאחר מכן.

מפתח API ועדיפות: לאחר השמירה המפתח לעולם לא מוצג שוב בממשק בטקסט גלוי — רק אם מפתח מוגדר ("מוגדר"). העדיפות קובעת את הסדר שבו ספקים מופעלים נבחרים.

ניהול מודלים: תחת מודלי LLM אתם יוצרים לכל ספק מודלים בודדים (שם תצוגה, מזהה מודל טכני אצל הספק, חלון הקשר, מקסימום טוקנים, עלות לכל 1000 טוקני קלט/פלט). ניתן לסמן מודל כמודל ברירת מחדל; לא ניתן למחוק ספק כל עוד אחד מהמודלים שלו הוא ברירת המחדל הנוכחית.

LLM-Sync-Log: שירות רקע בודק כברירת מחדל אוטומטית כל 24 שעות אילו מודלים אצל הספקים המופעלים חדשים או הוסרו. מודלים חדשים נבדקים מראש בבקשת בדיקה אמיתית ומוכנסים כמופעלים רק בהצלחה; מודלים שאינם מוצעים עוד מושבתים אוטומטית. יומן הסנכרון מציג את ההיסטוריה המלאה לכל ספק עם תאריך, מספר מודלים חדשים/מושבתים/כושלים ותוצאות בדיקה הניתנות להרחבה. מנהלי מערכת מקבלים לאחר ההתחברות הבאה גם הודעת טוסט על אירועי סנכרון שלא נקראו.

טוב לדעת​

  • רק שישה ספקים (OpenAI, Anthropic, Google, Azure, Mistral, DeepSeek) בעלי מימוש ייעודי — כל שאר הספקים פועלים דרך חיבור גנרי, תואם OpenAI.
  • הקטלוג עבור "חיפוש ספקים" מכיל כרגע שנים עשר ספקים מאומתים; הצעות אינטרנט מופיעות רק אם תחת הגדרות מוגדר חיפוש אינטרנט.
  • שירות יומן הסנכרון פועל ברקע ללא תלות בהפעלה שלכם — אין צורך להשאיר את הדף פתוח לשם כך.

התנסו ישירות: Klacks Playground — התחברות admin@test.com / P@ssw0rt1, הנתונים מתאפסים מדי יום.