| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | |||
| 5 | 6 | 7 | 8 | 9 | 10 | 11 |
| 12 | 13 | 14 | 15 | 16 | 17 | 18 |
| 19 | 20 | 21 | 22 | 23 | 24 | 25 |
| 26 | 27 | 28 | 29 | 30 | 31 |
- 개발도구
- 윈도우10 Wake On Lan
- 홈서버
- github
- n8n
- wol
- GIT
- 자동화
- Firefly
- IOCP 클라이언트
- codex
- Winsock
- Wake On Lan
- 셀프호스팅
- hermes
- mobile
- IOCP
- 벤치마크
- docker desktop
- AI
- IOCP 서버
- AI에이전트
- docker
- OpenAI
- docker-compose
- 윈도우10 WOL
- 오픈소스
- telegram
- LLM
- ai 코딩 에이전트
- Today
- Total
목록LLM (3)
;
개요본 포스트는 다양한 LLM 공급자를 하나의 로컬 엔드포인트로 묶는 Weave Router의 설치와 Cursor, Claude Code 연동 과정을 설명합니다.여러 AI 도구를 함께 쓰다 보면 모델별 Base URL과 API 키를 따로 관리해야 해서 설정이 자주 꼬입니다. Weave Router는 http://localhost:8080/v1 하나로 요청을 모아 프롬프트에 맞는 모델을 골라 보내는 프록시입니다.비슷한 흐름의 자동화 구성은 기존 글인 Tasker, n8n, Firefly III 연동 가계부 자동 기록 시스템 구축처럼 중간 계층을 둬서 입력 경로를 단순화하는 방식으로 보시면 됩니다. 이번 글은 가계부 자동화가 아니라 LLM 호출 경로 정리에만 집중합니다.시스템 아키텍처로컬 프록시: local..
개요본 포스트는 NVIDIA Build에서 신용카드 입력 없이 LLM 모델을 체험하고 OpenAI 호환 방식으로 API를 호출하는 과정을 설명합니다. 브라우저에서 모델 응답을 확인한 뒤, API 키와 endpoint를 코드에 넣어 짧은 요청까지 보내는 흐름입니다.NVIDIA Build는 NVIDIA NIM API를 브라우저에서 시험하고, API 키를 발급해 코드로도 호출할 수 있게 해주는 페이지입니다. Llama, DeepSeek, Qwen, Gemma 계열 모델을 한곳에서 확인할 수 있어 새 모델을 빠르게 비교할 때 유용합니다.실제 문제 상황LLM API를 시험해보려면 보통 계정 가입, 카드 등록, 결제 한도 설정부터 확인해야 합니다. 모델마다 endpoint와 SDK 형태도 달라서 간단한 비교만 하려..
개요본 포스트는 9Router를 Hermes 앞단에 두고, 모델 라우팅과 토큰 절약, fallback 구성을 한곳에서 관리하는 과정을 설명합니다. 앞선 포스트에서 설치한 Hermes가 준비되어 있어야 합니다.9Router는 OpenAI 호환 API 형태로 동작하는 사설 라우터입니다. Hermes는 https://router.example.com/v1 같은 주소 하나만 바라보고, 실제 모델 선택과 fallback, quota 관리는 9Router 쪽에서 처리하게 만들 수 있습니다.전체 구성 흐름사용자 → Hermes: 작업 요청.Hermes → 9Router: OpenAI 호환 형식으로 요청 전송.9Router → 모델 공급자: 요청된 모델 이름을 보고 뒤쪽 공급자로 분기. RTK Token Saver, ..
