LLM 모델

LLM 모델 화면에서는 에이전트·워크플로·AI 채팅에 사용할 모델을 등록하고 관리합니다. 등록한 모델은 각 기능의 모델 선택 목록에 표시됩니다.

표시 범위와 권한

목록에는 조회할 수 있는 모델만 표시됩니다. 컬렉션 범위 모델은 해당 컬렉션에 권한이 있는 사용자가 등록하고, 전체 공용(글로벌) 모델은 관리자만 등록합니다.

LLM 모델과 모델 서빙 비교

LLM 모델과 모델 서빙은 서로 다른 화면입니다. 이 페이지에서는 에이전트·워크플로·AI 채팅에 연결할 LLM 모델을 등록합니다.

화면	경로	무엇을 다루나
LLM 모델	/settings/llm-models	에이전트·워크플로·AI 채팅에서 사용할 LLM을 등록하고 관리합니다.
모델 서빙	/models	학습·추론용 ML 모델을 배포하고 서빙합니다.

두 화면은 관리하는 모델과 사용 위치가 다릅니다. 대화형 LLM은 이 페이지에서 등록합니다.

접근 방법

사이드바에서 AI → LLM 모델 메뉴로 들어갑니다.

모델 목록

등록된 LLM 모델이 테이블로 표시됩니다.

컬럼	설명
이름	등록 이름과 표시 이름을 표시합니다. 아래에는 표시 라벨 또는 모델 ID가 함께 표시됩니다.
제공자	모델 호출에 쓰는 제공자를 Anthropic 또는 OpenAI 호환으로 표시합니다.
배치	D.Hub 밖에서 호스팅하면 외부, D.Hub가 배포·관리하면 내부로 표시됩니다.
컬렉션	모델이 속한 컬렉션을 표시하며 지정하지 않으면 —로 표시됩니다.
엔드포인트	외부 모델의 base URL을 표시합니다. 내부 모델은 —로 표시됩니다.
API 키	외부 모델의 키 설정 상태를 설정됨 또는 미설정 배지로 표시합니다. 내부 모델은 —로 표시됩니다.
소유자	모델을 등록하고 소유한 사용자를 표시합니다.
수정일	마지막으로 수정한 날짜를 표시합니다.

• 검색: 상단 검색창에 이름·컬렉션·제공자·모델 ID·엔드포인트를 입력해 목록을 좁힙니다.
• 대량 삭제: 행의 체크박스로 여러 모델을 선택하면 상단에 일괄 작업 막대가 나타납니다. 삭제를 눌러 선택한 모델을 한 번에 지웁니다.
• 개별 삭제는 행 오른쪽 작업 메뉴의 삭제로 실행합니다.

빈 목록은 정상입니다

새로 설치한 환경에는 등록된 모델이 없습니다. 등록된 LLM 모델 없음 안내와 등록 버튼이 표시됩니다.

삭제 시 주의

LLM 모델을 삭제하면 그 모델을 참조하던 에이전트·워크플로는 재설정하기 전까지 실행되지 않습니다. 사용 중인 모델인지 확인한 뒤 삭제합니다.

외부 모델 등록

목록 오른쪽 위의 LLM 모델 등록을 누르면 등록 화면이 열립니다. 이름, 제공자, 모델 ID, 엔드포인트는 필수 항목입니다.

기본 정보

필드	필수	설명
이름 (name)	필수	컬렉션 안에서 고유한 소문자 등록 이름입니다. 에이전트·워크플로는 모델을 고를 때 이 값을 저장합니다. 2–128자이며 소문자로 시작하고 소문자·숫자·밑줄(_)·점(.)만 쓸 수 있습니다. 하이픈은 사용할 수 없습니다. QuantTrio/...처럼 슬래시(/)가 든 제공자 ID는 이 칸이 아니라 모델 ID 칸에 넣습니다.
표시 이름 (alias)		사람이 읽기 좋은 이름을 입력합니다. 예: Claude Opus (운영).
배치 (type)	필수	외부와 내부 중 하나를 선택합니다.
컬렉션		모델을 정리해 둘 컬렉션을 선택합니다.
설명 / 태그		모델의 용도와 분류 정보를 입력합니다.

배치는 나중에 바꿀 수 없습니다

배치(내부/외부)는 생성한 뒤에는 변경할 수 없습니다. 편집 화면에서는 이 항목이 비활성으로 잠기고, 다른 배치로 바꾸려면 모델을 삭제한 뒤 새로 등록해야 합니다.

연결

필드	필수	설명
제공자 (provider)	필수	등록된 제공자 목록에서 고릅니다. Anthropic, OpenAI 호환 등을 선택합니다. 제공자를 고르면 대표 모델의 모델 ID와 표시 라벨을 채우며, 목록에 없는 모델은 직접 입력합니다.
모델 ID (model)	필수	제공자에 요청할 모델 식별자입니다. 예: claude-opus-4-7.
표시 라벨 (label)		에이전트·워크플로 모델 선택기에 보일 이름을 입력합니다. 비우면 모델 ID 또는 등록 이름으로 대체됩니다.
컨텍스트 윈도우 (토큰)		모델의 전체 컨텍스트 크기를 입력합니다. 에이전트 채팅의 컨텍스트 게이지에만 사용하며 요청을 제한하지는 않습니다.

외부 엔드포인트와 API 키

필드	필수	설명
엔드포인트 (base_url)	필수	모델을 제공하는 기본 URL을 입력합니다. 예: https://api.anthropic.com.
API 키 (api_key)		저장한 뒤에는 다시 표시되지 않습니다. 키가 필요 없는 엔드포인트면 비워 둡니다.

API 키는 쓰기 전용입니다

입력한 API 키는 저장한 뒤 다시 표시되지 않습니다. 모델을 편집할 때 API 키 입력란은 빈 상태로 열립니다.

• 빈 칸으로 두면 기존 키를 그대로 유지합니다.
• 새 값을 입력하면 그 값으로 교체합니다.

키가 이미 저장되어 있는지는 목록의 API 키 배지(설정됨 또는 미설정)로 확인합니다.

연결 테스트

외부 모델을 저장하기 전에 연결 확인을 눌러 엔드포인트와 인증 정보를 점검합니다.

• 새 모델을 만드는 동안 제공자·엔드포인트·모델 ID·API 키가 바뀌고 엔드포인트가 입력돼 있으면 약 0.3초 뒤 백그라운드에서 자동으로 연결을 확인합니다. 자동 확인 실패는 입력 중인 URL이나 키 때문일 수 있어 오류를 표시하거나 저장을 즉시 차단하지 않습니다. 편집 화면에서는 자동 확인하지 않습니다.
• 명시적인 결과가 필요하면 연결 확인을 누릅니다. 수동 확인은 성공, 설정한 모델이 목록에 없는 경고, 인증·URL·네트워크·HTTP 오류를 표시합니다.
• 편집 중인 모델은 저장된 API 키를 사용합니다. 새 키를 입력했다면 입력한 값으로 확인합니다.
• 실패하면 인증, URL, 네트워크 중 확인할 항목이 오류 메시지에 표시됩니다.
• 성공하면 감지된 모델 한도에 컨텍스트 윈도우, 최대 출력 토큰과 지원하는 추론 강도가 표시됩니다. 이 값은 안내일 뿐 자동으로 저장되지 않습니다. 폼에 적용을 누르면 토큰 한도와 추론 강도 수준·기본값을 입력란에 반영하며, 버튼을 누르기 전에는 기존 폼 값이 바뀌지 않습니다.

내부 배포 모델

배치에서 내부를 고르면 내부 배포 모델에 필요한 이미지, 포트, 복제 수, GPU·CPU·메모리, 상태 확인 경로와 실행 옵션을 입력합니다. 내부 모델에는 엔드포인트 입력란이 표시되지 않습니다.

생성 파라미터

등록 화면 아래쪽 접이식 생성 파라미터 영역에서 이 모델을 호출할 때 제공자에 전달할 기본값을 조정합니다. 외부·내부 모델 모두에 적용됩니다.

항목	설명
온도 (temperature)	0–2 사이의 샘플링 온도이며 높을수록 무작위성이 커집니다.
최대 토큰 (max tokens)	응답당 최대 출력 토큰 수를 지정합니다.
최대 재시도 (max retries)	실패한 요청을 다시 시도할 횟수를 지정합니다.
요청 타임아웃 (초)	요청당 제한 시간을 초 단위로 지정합니다.
스트리밍	제공자 기본값, 켜짐, 꺼짐 중 하나를 고릅니다. 기본값을 유지하려면 제공자 기본값으로 둡니다.
추가 파라미터 (model_kwargs)	seed·top_p·reasoning_effort 같은 추가 파라미터를 JSON 객체로 입력합니다. D.Hub는 값을 검증하지 않고 제공자에 그대로 전달합니다.

모든 생성 파라미터는 선택 항목입니다. 비워 두면 제공자 기본값을 사용합니다.

생성 파라미터는 여기서 설정합니다

temperature·max_tokens 같은 생성 파라미터는 이 등록 화면에서 입력합니다. 여기서 정한 값은 이 모델을 호출하는 모든 에이전트·워크플로에 공통으로 적용됩니다.

에이전트마다 다른 설정이 필요하다면

같은 모델을 파라미터만 바꿔 별도의 LLM 모델로 여러 번 등록하고 에이전트·워크플로마다 필요한 생성 설정을 연결합니다.

다음 단계

문서	설명
설정 개요	설정 영역의 전체 구성과 사용자 유형을 확인합니다.
에이전트 개요	등록한 LLM 모델을 에이전트에 연결합니다.