들어가며
요즘 기업 내부에서도 자연스럽게 LLM 기반 도구를 도입하려는 움직임이 늘어나고 있다.
“사내 검색을 빠르게”, “문서 자동화”, “보고서 작성” 같은 장점이 자주 언급되지만, 실제로 LLM이 지식 노동 방식(knowledge work) 자체를 어떻게 바꾸는지에 대해선 상대적으로 덜 이야기된다.
이번 글에서는 여러 LLM 실험을 진행하며 발견한, Enterprise LLM이 업무 방식을 바꾸는 5가지 지점을 정리해본다.
개발자, 기획자, 운영자, 분석가 모두에게 참고가 되길 바라며 기록한다.
1. 검색(Search)의 재정의
"문서를 찾는 검색"에서 "답을 찾는 검색"으로
키워드 기반 검색은 문서를 찾아주지만,
원하는 답을 얻는 데는 여전히 사람의 해석 비용이 필요하다.
LLM 기반 검색은 방향이 다르다.
❝이 정책에서 출장비 지급 기준만 핵심만 말해줘. 예외 규정도 함께.❞
❝이 오류 코드가 발생하면 어떤 절차로 대응해야 해?❞
목표가 문서의 위치가 아니라, 맥락에 맞춘 정답이 된다.
특히 효과적이었던 프롬프트 패턴:
지식의 검색 가능성(Searchability)이 조직 전체 효율에 미치는 영향은 생각보다 크다.
2. 문서화 & 지식 자산화
경험과 암묵지를 "검색 가능한 형태"로 변환
많은 조직은 문서가 없어서가 아니라,
찾아지지 않아서 지식이 사라진다.
LLM은 이 지점을 근본적으로 개선한다.
회의록 → 주요 결정과 논의 이유 정리
보고서 → 의사결정 배경 + 대안 비교 포함
업무 매뉴얼 → "이 상황에서 어떻게 해야 하나?" 질문 기반 구조화
특히 반복 작성되는 문서 생성이 강력했다.
예: 기획서/제안서/업데이트 리포트 템플릿 생성
다음 형식으로 작성해줘: 1) 문제 정의 2) 기존 방식의 한계 3) 제안 내용 (3줄 요약 + 상세) 4) 기대효과 (정량/정성)
문서 작성이 표현의 문제가 아니라 구조 설계 문제로 바뀐다.
3. 온보딩(Onboarding)의 방식 변화
온보딩은 보통 두 가지 문제가 있다:
| 문서가 너무 많다 | 하지만 정작 필요한 내용은 흩어져 있음 |
| 신입이 무엇을 모르는지 모른다 | 질문하기도 쉽지 않음 |
LLM 기반 온보딩 에이전트가 만들어내는 변화:
❝이 시스템에 신규 매장을 등록하려면 어떤 단계로 처리해?❞
❝고객 클레임 유형별 대응 프로세스 알려줘.❞
즉, 온보딩은 더 이상 읽기 기반 교육이 아니라,
대화형 업무 습득으로 바뀐다.
4. 회의 & 커뮤니케이션 자동화
듣는다 → 정리한다 → 조치(Action)를 만든다
회의 자동화는 단순 요약을 넘어 다음 단계로 간다:
- 실시간 STT 변환
- 발언별 논점 구조화
- Action Item / Owner / Due Date 추출
- 후속 이메일·보고 자동 생성
📌 Action Item Extractor Prompt 예시
지식 노동에서 말이 결과가 되기까지의 거리가 줄어든다.
5. 보고 & 의사결정 지원
LLM 기반 보고는 단순 요약이 아니다.
KPI 변동 원인을 가설 형태로 설명
대안/리스크/추가 데이터 제안
의사결정 관점에서 해석된 보고
예시 Prompt 패턴:
지표를 나열하는 보고에서 벗어나,
의미를 다루는 보고로 진화한다.
마무리: LLM은 문서 도구가 아니라 "업무 방식"을 바꾼다
지식 노동자는 정보를 찾고, 정리하고, 설명하고, 전달하는 데
업무 시간의 상당 부분을 사용한다.
LLM이 바꾸는 것은 결국 다음 한 줄에 압축된다.
일을 ‘하는’ 시간보다, 일을 ‘결정하는’ 시간이 많아지는 것.