본문으로 건너뛰기

LLM 제공자 및 모델

Klacksy는 이해하고 행동하기 위해 언어 모델이 필요합니다. 설정 > LLM 제공자, LLM 모델, LLM 동기화 로그에서 Klacks가 사용할 수 있는 제공자와 구체적인 모델을 지정합니다.

작동 방식

제공자 추가: 제공자는 특정 업체의 기본 URL, API 버전, API 키를 하나로 묶습니다. 여섯 개 업체(OpenAI, Anthropic, Google, Azure, Mistral, DeepSeek)는 코드에 직접 내장되어 있으며, 그 외 모든 제공자는 OpenAI 호환 범용 연동 방식을 통해 동작합니다 — 이를 통해 예를 들어 Groq, Together AI, Fireworks, OpenRouter, xAI, Cerebras, Perplexity나 직접 운영하는 모델도 연결할 수 있습니다. "제공자 검색"을 통해 Klacks는 아직 등록하지 않은 제공자도 추가로 제안합니다: 검증된 주소로 구성된 큐레이션 카탈로그에서, 또는 — 웹 검색이 설정되어 있다면 — 인터넷 조사를 통해서입니다. 각 제안은 화면에 표시되기 전에 실시간으로 접속 가능 여부를 확인하며, 선택된 제공자는 비활성 상태와 API 키 없이 등록되므로 이후 직접 입력해야 합니다.

API 키와 우선순위: 저장 후에는 화면에 키가 평문으로 다시 표시되지 않습니다 — 키가 등록되어 있는지("구성됨") 여부만 표시됩니다. 우선순위는 활성화된 제공자가 사용되는 순서를 결정합니다.

모델 관리: LLM 모델에서는 제공자별로 개별 모델을 등록합니다(표시 이름, 업체의 기술적 모델 ID, 컨텍스트 윈도우, 최대 토큰 수, 입력/출력 토큰 1000개당 비용). 모델 하나를 기본 모델로 지정할 수 있으며, 어떤 모델이 현재 기본값으로 지정되어 있는 한 해당 제공자는 삭제할 수 없습니다.

LLM 동기화 로그: 백그라운드 서비스가 기본적으로 24시간마다 자동으로 활성화된 제공자에서 새로 제공되거나 사라진 모델이 있는지 확인합니다. 새 모델은 실제 테스트 요청으로 사전에 검증되며, 성공한 경우에만 활성 상태로 추가되고, 더 이상 제공되지 않는 모델은 자동으로 비활성화됩니다. 동기화 로그는 제공자별 전체 이력을 날짜, 신규/비활성화/실패한 모델 수, 펼쳐볼 수 있는 테스트 결과와 함께 보여줍니다. 관리자는 다음 로그인 시 읽지 않은 동기화 이벤트에 대한 토스트 알림도 추가로 받습니다.

알아두면 좋은 점

  • 여섯 개 업체(OpenAI, Anthropic, Google, Azure, Mistral, DeepSeek)만 전용 구현을 갖추고 있습니다 — 그 외 모든 제공자는 OpenAI 호환 범용 연동을 통해 동작합니다.
  • "제공자 검색"의 카탈로그에는 현재 열두 개의 검증된 업체가 포함되어 있으며, 웹 제안은 설정에서 웹 검색이 구성된 경우에만 표시됩니다.
  • 동기화 로그 서비스는 사용자의 세션과 무관하게 백그라운드에서 실행됩니다 — 이를 위해 페이지를 계속 열어 둘 필요는 없습니다.

직접 사용해 보기: Klacks Playground — 로그인 admin@test.com / P@ssw0rt1, 데이터는 매일 초기화됩니다.