태그: Proxy
3편
-
LiteLLM으로 여러 LLM을 OpenAI API 하나로 묶기: Fallback, 프록시 게이트웨이, 비용 한도
LiteLLM 정리. OpenAI SDK와 같은 인터페이스로 GPT·Claude·Gemini·Llama 등 여러 LLM을 호출하는 방법, 스트리밍, Fallback, 프록시 게이트웨이와 팀 키·비용 한도, 라우팅, 캐싱, 관측을 다룹니다.
-
C++ Proxy 패턴: 가상·보호·캐싱 프록시로 지연 로딩과 접근 제어 구현하기
무거운 객체를 실제로 필요할 때 만드는 가상 프록시, 권한을 확인한 뒤 호출을 넘기는 보호 프록시, 결과를 저장해 두는 캐싱 프록시를 C++로 구현하고, 스마트 포인터와 Copy-on-Write가 프록시의 한 형태인 이유를 데이터베이스 연결 예제로 설명합니다.
-
C++ 디자인 패턴 | Adapter·Decorator
외부 라이브러리 인터페이스가 맞지 않거나 기존 코드를 고칠 수 없을 때 Adapter와 Decorator로 감싸는 방법을 먼저 보여주고, Proxy·Bridge·Composite까지 구조 패턴을 예제로 비교합니다. 세 래퍼 패턴이 헷갈리는 지점과 Decorator 체인의 메모리 관리도 다룹니다.