## 업무 채팅방의 AI 어시스턴트: IT 팀을 위한 기술 구현과 실전 사용 사례
클라이언트의 비즈니스 프로세스를 자동화하는 회사가 역설에 봉착했습니다: 자사 프로세스는 여전히 수동적이었습니다. 최고경영자는 반복적인 질문에 답하고, 업무를 지시하며, 매니저들을 지원하느라 몇 시간씩 소비했습니다. 해결책은 내부에서 나왔습니다—업무 Telegram 채팅방에 AI 어시스턴트를 직접 구현한 것입니다. 3개월 만에 이 AI는 완전한 팀 멤버가 되어 요청을 처리하고, GitHub에 태스크를 생성하며, 버그를 진단하게 되었습니다. 이 글에서는 아키텍처의 기술적 세부 사항, 실제 사례, 그리고 한계에 대한 솔직한 평가를 다룹니다.
AI 어시스턴트 아키텍처: 모델보다 컨텍스트가 더 중요합니다
이 시스템은 파인튜닝이나 커스텀 모델에 기반하지 않고, Claude의 API를 통해 스마트한 컨텍스트를 제공하는 방식으로 구축되었습니다. 핵심 구성 요소는 Context Builder로, 최신 메시지만 모으는 것이 아니라 전체 대화 스레드를 수집합니다. 이렇게 하면 AI가 모호한 질문("이거 동작하나요?")에도 논의 내용을 파악할 수 있습니다.
내부 시스템 접근은 Knowledge Base를 통해 조직됩니다:
- 코드베이스: 현재 소스 코드(PHP + Vue)에 대한 완전한 접근으로, 함수 구현을 찾고 검증을 확인할 수 있습니다.
- CRM 데이터베이스: 클라이언트 데이터(플랜, 활동, 상호작용 이력)에 대한 SQL 쿼리.
- GitHub: 기존 이슈 읽기와 API를 통한 신규 이슈 생성.
- 내부 문서: 기술 사양 및 가이드.
아키텍처는 다음과 같습니다:
Telegram Bot API
|
Message Handler (Python)
| filtering: mention / reply / keywords
|
Context Builder
| last N messages + thread topic
|
Knowledge Base
+-- Project code (indexed)
+-- Client DB (SQL queries)
+-- GitHub Issues
+-- Internal documents
|
LLM (Claude) + System Prompt
|
Response -> Telegram / GitHub API효과성의 90%는 정밀한 컨텍스트와 잘 설계된 시스템 프롬프트에서 나오며, 모델의 복잡성에서가 아닙니다.
실전 사용 사례: 지원부터 태스크 배정까지
코드 기반 실시간 버그 진단
매니저가 전화를 받습니다: 클라이언트가 링크가 포함된 템플릿을 저장할 수 없다고 합니다. 개발자 응답을 기다리는 대신 채팅방에 게시합니다:
"팀 여러분, 클라이언트가 물어보네요—링크가 들어간 템플릿 만들 수 있나요? 저장이 안 돼요."
AI 어시스턴트가 30초 만에 응답합니다:
TemplateController@store컨트롤러를 찾습니다.- 검증 분석—
strip_tags()호출이 HTML을 제거합니다. - 결론: 순수 텍스트 URL은 괜찮지만 HTML은 안 됩니다.
응답:
"코드 확인했습니다.
TemplateController@store는 템플릿 텍스트를strip_tags()로 처리해서 HTML 링크는 제거됩니다. 하지만 순수 텍스트 URL(<a href>없이)은 잘 저장됩니다. 클라이언트에게 서식 없이 링크를 텍스트로 붙여넣으라고 하세요."
이로 인해 이전에 루틴 지원 쿼리에 소비되던 주당 최대 30인시를 절약합니다.
자동 GitHub 태스크 생성
최고경영자가 "Rom, Dima한테 태스크 작성해"라고 쓰면 AI는:
- 전체 대화 스레드를 분석합니다.
- 기존 사진 해싱 코드를 찾습니다.
- 기술 세부 사항(Hamming distance, 매칭 임계값, 결합 스코어링)을 포함한 사양을 작성합니다.
- 적절한 라벨과 담당자를 지정해 이슈를 생성합니다.
결과—개발자가 바로 착수할 수 있는 구조화된 태스크로, 테크 리드의 추가 설명이 필요 없습니다.
AI의 강점과 한계
강점
- 루틴 질문 답변: 플랜, 클라이언트 활동, 데이터베이스 객체 수.
- 태스크 작성: 캐주얼 요청을 기술 사양으로 변환.
- 초기 진단: 버그 검색 영역 좁히기, 관련 코드 지시.
- 비업무 시간 지원: 밤이나 주말 즉시 응답.
- 클라이언트 응답 생성: 대화 컨텍스트 기반 이메일 초안.
한계와 위험
- 복잡한 시스템 간 버그: 각 서비스 코드 보이지만 런타임 상호작용 파악 어려움.
- 비즈니스 결정: 데이터 수집 가능하나 결정은 인간 몫.
- 감정적 지원: 클라이언트 갈등 상황은 생생한 매니저 필요.
- 긴 컨텍스트: 며칠에 걸친 토론에서 실마리 놓침.
- 환각: 자신만만한 허구(예: 존재하지 않는 Excel 임포트 기능)로 3개월간 3건 사고 발생.
위험 완화를 위해 시스템 프롬프트에 불확실 시 명시적으로 밝히고 개발자 확인 권고 규칙 포함.
지표와 전략적 함의
3개월간:
- 채팅방 AI 메시지 ~2500개
- GitHub 태스크 생성 ~120개
- 매니저 질문의 60%가 최고경영자 개입 없이 해결
- 평균 응답 시간: 15–40초
- 환각으로 인한 중대 사고 3건
핵심 교훈—가치가 단순 비용 절감이 아니라 속도에 있습니다. 클라이언트가 거의 즉시 답변을 받아 이탈률 감소.
핵심 포인트
- AI 효과성의 80%는 컨텍스트 품질에 달려 있으며 모델 선택이 아닙니다.
- AI 신뢰는 비선형적으로 성장: 형식적 쿼리에서 이름 부르기로.
- 클라이언트에게 도달한 한 번의 오류가 회사 전체 신뢰를 무너뜨릴 수 있습니다.
- AI는 사람을 대체하지 않고 역할을 변화시킵니다: 최고경영자는 전략으로, 매니저는 실무 지원으로.
- CRM은 인간 관리 도구에서 인간이 관찰·수정하는 자율 시스템으로 진화.
다음 단계—통화 분석 AI 통합(STT → LLM → 보고서), 개인화 이메일 생성, 자동 클라이언트 프로필 생성.
— Editorial Team
아직 댓글이 없습니다.