Build and operate
Agent Engineering
데모에서 멈추지 않고, 실패해도 다시 이어지는 에이전트 시스템을 만드는 과정을 다룹니다.
- 에이전트와 백엔드가 각각 맡아야 할 일을 나누는 설계
- 비동기 실행, 워커, 스트리밍으로 긴 작업을 다루는 방법
- state, 재시도, 취소, 관측을 연결해 복구 가능한 시스템을 만드는 법
Section 02
Agents, RAG, enterprise transformation, and AI engineering.
Start here
이곳에서는 AI 시스템을 안정적으로 설계하고 운영하는 방법과, 그것을 실제 업무에 정착시켜 성과로 연결하는 방법을 함께 다룹니다. 지금 궁금한 지점에서 시작해도 좋습니다.
Build and operate
데모에서 멈추지 않고, 실패해도 다시 이어지는 에이전트 시스템을 만드는 과정을 다룹니다.
Redesign the work
AI를 도입하는 데서 한 걸음 더 나아가, 조직의 업무와 의사결정 방식을 다시 설계하는 이야기를 다룹니다.
Latest notes
시리즈 밖의 실험과 해설까지, 새로 쓴 순서대로 모았습니다.
사용자가 보낸 요청이 큐와 워커를 거쳐 처리되고, 결과가 다시 화면에 보이기까지
전달된 작업과 완료된 작업을 구분하고, 죽은 consumer의 pending job을 안전하게 회수하는 법
지속되는 대화와 한 번의 실행을 분리하고, tenant·user·session·run의 소유권을 지키는 법
From a Dentist’s AI Stack to the Reinvention of Enterprises and Private Equity
Child Run의 수명 주기, 격리된 state와 부분 실패를 하나의 실행 트리로 다루는 법
RAG가 Agent가 될 때, AI 엔지니어링의 중심은 어떻게 이동하는가
Graph state와 애플리케이션 state를 분리해 worker, Redis, DB, 브라우저의 책임을 설계하는 법
Async generator로 snapshot과 event를 HTTP 연결에 안전하게 흘려보내는 법
그럴듯한 데모에서 예측 가능한 시스템까지, 3개월의 실제 운영 학습
송금 Tool을 두 번 실행하지 않기 위해 사용자 의도와 실행 결과를 연결하는 법
Snapshot으로 화면을 복원하고 timeline과 cursor로 놓친 변화를 안전하게 되돌리는 법
경로를 미리 그리는 일에서, 에이전트가 일할 환경과 경계를 설계하는 일로
영속 기록, 실시간 투영, 재개용 snapshot은 각기 다른 장애 상황에 대비한다
증상·지표·가설·한 변수 실험으로 vLLM 서빙 병목을 좁히는 방법
동시성 도구와 실행 수명 주기의 책임을 구분하는 에이전트 백엔드 설계
제한된 GPU에서 LLM을 안정적으로 서빙하는 방법
기다리는 작업, 블로킹 SDK, CPU 중심 계산에는 서로 다른 실행 도구가 필요하다
LLM·데이터베이스·검색 API의 대기 시간을 처리량으로 바꾸는 실행 모델
보안·데이터 통제·비용·성능을 기준으로 내부 오픈소스 LLM과 vLLM 도입을 판단하는 법
실행 구조의 책임 경계: 전체 관점, 실패 상황, 필요한 곳의 자세한 설명
거대한 자율 루프 대신, 경계가 분명한 제어 흐름을 조합하는 법