AI가 문서를 읽기 전에 권한부터 확인하게 하려면: 역할 기반 OKF 매뉴얼 설계
코드와 사용자·AI 매뉴얼을 하나의 Git 기준점으로 동기화하고, 인증된 역할과 claim으로 본문 검색 전에 지식을 필터링하는 구조를 설명합니다.
Archive / 21 entries
글
배우고, 만들고, 다시 설명하며 남긴 기록입니다.
LLM 평가 결과를 운영 지표로 믿으려면: Voice AI의 Privacy-safe Langfuse 평가 설계
통화 transcript를 외부로 보내지 않고도 업무 완료, 라우팅 정확성, 응답 품질을 Langfuse 세션 점수로 만드는 증거·개인정보·재처리 경계를 설명합니다.
AI가 설정된 인사말 대신 마음대로 말한 이유: AMD와 Agent 전환 사이의 첫 발화 Race Condition
자동응답기 판별 중 들어온 첫 발화가 Agent 교체 이후 완료되면서, 설정된 인사말 대신 LLM의 즉흥 응답이 재생된 장애를 타임라인·메트릭·코드로 추적합니다.
전화가 연결되기 전에 Agent는 무엇을 기다려야 할까?: voxBridge와 LiveKit의 아웃바운드 호출 수명주기
외부 오케스트레이터가 SIP 발신을 소유하는 구조에서 LiveKit Agent가 실제 통화 가능 시점을 어떻게 판단하고, Participant event race·timeout·실패·cleanup 경계를 어떻게 다뤄야 하는지 설명합니다.
예약 조회가 느릴 때 AI는 무엇을 말해야 할까?: LiveKit Async Tools로 dead air 줄이기
병원 예약 API가 늦어질 때 무조건 기다리라는 말을 반복하지 않고, 진행 상태·filler speech·취소·중복 호출을 안전하게 설계하는 방법을 현재 예약 조회 구조와 함께 설명합니다.
AI 상담원은 왜 하나인데, 업무는 여러 Task로 나눌까?: LiveKit Supervisor Pattern으로 설계한 병원 Voice AI
하나의 SingleAgent가 통화 맥락을 유지하면서 예약·DTMF·상담원 연결 같은 전문 업무를 AgentTask에 위임하고, typed result로 제어권을 회수하는 병원 Voice AI의 구조를 설명합니다.
전화가 동시에 몰리면 AI 상담원은 어떻게 버틸까?: 병원 Voice AI의 동시 통화 처리와 확장 설계
한 통씩 길게 이어지는 병원 전화를 LiveKit Worker와 Kubernetes에서 격리·분산하고, 메모리·외부 API·상담원 회선까지 포함해 실제 수용량을 설계하는 방법을 설명합니다.
AI는 언제 도구를 사용하고, 언제 말로 답해야 할까?: 병원 Voice AI의 Tool Calling 안전 설계
병원 Voice AI가 안내·예약·상담원 연결·통화 종료를 구분하고, 동의와 코드 검증을 거쳐 안전하게 도구를 실행하는 구조를 설명합니다.
AI가 실제 예약 요청을 접수하기까지: 병원 Voice AI의 조회·스테이징·확정 설계
환자의 자연어 요청을 실시간 일정 조회, 정확한 후보 스테이징, 최종 동의와 예약 요청 접수로 연결하면서 잘못된 예약을 막는 병원 Voice AI의 설계를 설명합니다.
Voice AI는 장애가 나도 통화를 이어가야 한다: 병원 AI 상담원의 실패 복구 설계
STT, LLM, TTS, 병원 업무 API와 상담원 연결 중 장애가 발생해도 환자 통화를 안전하게 이어가기 위한 재시도, 대체 경로, 제한 모드와 종료 전략을 설명합니다.
출시 전에 AI 상담원을 어떻게 테스트할까: 병원 Voice AI의 4단계 검증 전략
단위 테스트, LiveKit 텍스트 평가, 환자 시뮬레이션, 실제 전화망 테스트를 어떻게 조합해야 병원 Voice AI를 안전하게 출시할 수 있는지 설명합니다.
AI가 병원 정보를 지어내지 않게 하려면: Voice AI의 Grounding과 RAG 설계
병원별 FAQ, Qdrant Vector Search, 실시간 예약 API와 상담원 연결을 구분해 Voice AI가 확인된 정보만 안전하게 답하도록 설계하는 방법을 설명합니다.
통화 종료가 데이터의 시작이다: 병원 Voice AI의 후처리 분석 파이프라인
LiveKit Agent의 대화 기록과 이벤트가 Kafka를 거쳐 분류·전사 보정·요약·성과 분석 데이터로 바뀌고 서비스 개선으로 이어지는 과정을 소개합니다.
AI 전화 상담원이 대답하기까지: STT·LLM·TTS 지연시간 해부하기
환자가 말을 마친 뒤 AI의 첫 음성이 들리기까지, STT·턴 감지·LLM·TTS·재생 단계에서 생기는 지연시간과 측정 방법을 설명합니다.
AI는 환자가 말을 끝낸 순간을 어떻게 알까? Voice AI의 턴 감지와 끼어들기 기술
VAD, Endpointing, Turn Detection과 Interruption이 자연스러운 전화 대화를 만드는 방법을 병원 Voice AI의 실제 설정과 장애 사례로 설명합니다.
병원이 바쁜 순간에도 환자의 전화는 멈추지 않습니다
전화 회선이 모두 통화 중이거나 병원 운영시간이 끝난 뒤, Wise AI 인바운드 에이전트가 환자의 문의를 24시간 이어받는 방법을 소개합니다.
AI에서 사람으로 안전하게 연결하기: Single-Room Warm Transfer
환자는 잠시 대기하고, 상담원은 필요한 내용을 먼저 듣는다. Self-hosted LiveKit에서 안전한 AI·상담원 연결을 설계한 과정을 소개합니다.
How We Built an AI That Answers Hospital Phone Calls
A practical look at LiveKit, SIP, STT–LLM–TTS, tool calling, and the real-time engineering problems that exist beyond the language model.
전화받는 AI는 어떻게 만들어질까? LiveKit Agents로 구축한 병원 인바운드 Voice AI
LiveKit과 LiveKit Agents의 핵심 개념부터 SIP 전화 연결, STT–LLM–TTS 파이프라인, 병원 인바운드 Voice AI의 구조와 운영 과제까지 소개합니다.
9년 동안 제품을 만들며 배운 것
웹과 모바일 제품을 지나 AI 개발자가 되기까지, 기술보다 제품과 운영을 먼저 생각하게 된 과정
IVR을 넘어: 설정 기반 Voice AI Agent 설계하기
결정론적인 콜 플로우와 LLM 에이전트를 결합해 운영 가능한 음성 AI 시스템을 만든 방법