Connect와 Gateway
Connect는 Monithub로 데이터를 보내는 수집 경로를 만드는 화면입니다. Gateway는 등록된 AI Gateway 서비스, 라우팅, 요청 테스트 상태를 관리하는 화면입니다.
Connect 카탈로그
Section titled “Connect 카탈로그”
Connect에서 먼저 수집 대상을 선택합니다.
| 영역 | 설명 |
|---|---|
| 연결됨 | 검증된 연결 수입니다. |
| 대기 중 | 생성됐지만 아직 확인이 끝나지 않은 연결 수입니다. |
| 확인 필요 | 사용자가 조치해야 하는 연결 수입니다. |
| 카탈로그 항목 | 연결 가능한 수집 방식 수입니다. |
카탈로그에서는 수집 환경과 방식을 선택합니다.
- Bare Metal: Linux host, Docker host, 애플리케이션 런타임에서 직접 수집합니다.
- Kubernetes: Kubernetes 클러스터 단위로 telemetry를 보냅니다.
- OpenTelemetry Collector: Collector를 통해 metrics, logs, traces를 전달합니다.
- Java Application: OpenTelemetry Java agent를 사용합니다.
- Linux Host, Docker, Custom OTLP도 연결 방식으로 사용할 수 있습니다.
설정 계획 영역에서 Linux, Docker, Kubernetes 같은 실행 환경을 선택하고, 리소스 식별자를 입력해 생성 명령과 설정 파일을 확인합니다.
연결 목록 탭에서는 생성된 연결의 상태를 봅니다. 연결이 대기 중이면 Collector, agent, endpoint, token 설정을 확인한 뒤 다시 검증합니다.
Gateway 개요
Section titled “Gateway 개요”
Gateway 개요에서는 현재 endpoint와 상태 요약을 확인합니다.
| 항목 | 설명 |
|---|---|
| 엔드포인트 | Gateway 요청을 보내는 기본 URL입니다. |
| 헬스 | Gateway 프로세스가 정상 응답하는지 보여줍니다. |
| 레디니스 | 요청을 받을 준비가 되었는지 보여줍니다. |
| 등록된 서비스 | Gateway가 라우팅할 수 있는 서비스 수입니다. |
| 노출된 모델 | 모델 탐색 응답에서 반환된 모델 수입니다. |
| Agent 연결 상태 | 연결된 Agent, 지연된 Agent, 노출된 Agent 서비스, 라우팅 중인 Agent 서비스를 보여줍니다. |
Gateway 서비스
Section titled “Gateway 서비스”
서비스 탭에서는 Gateway 서비스 레지스트리를 확인합니다.
- 서비스 목록에서 등록된 서비스를 선택합니다.
- 상세 패널에서 식별 정보, 라우팅, 정책을 확인합니다.
- 필요한 경우
Gateway 서비스 등록으로 새 서비스를 추가합니다.
운영자가 요청 흐름을 점검할 때는 요청 테스트 탭에서 실제 Gateway 호출이 원하는 upstream으로 가는지 확인합니다.
문제가 있을 때 먼저 볼 것
Section titled “문제가 있을 때 먼저 볼 것”- Gateway endpoint가 현재 환경에 맞는지 확인합니다.
- 헬스와 레디니스가 모두 정상인지 확인합니다.
- 서비스는 등록되어 있지만 노출된 모델이 0이면 모델 탐색 API 또는 upstream 설정을 확인합니다.
- Agent 연결 수가 0이면 agent heartbeat, TTL, 네트워크 접근 경로를 확인합니다.