현장에서 AI를 쓴다는 것

 

비개발 부서의 조용한 실험, 그리고 솔직한 고백

 

요즘 회사에서는  'xxAI 활용해 보셨어요?'라는 말이 자연스럽게 오가고 있습니다. 마케팅팀도, 영업팀도, 심지어 재무팀도 생성형 AI를 쓴다고 합니다. 메가존클라우드와 IDG가 국내 기업 749곳을 조사한 결과, 이미 55.7%가 생성형 AI를 전사적으로 또는 일부 부서에서 활용 중이며, 2026년에는 85%를 넘어설 전망입니다. 숫자만 보면 혁명이 완성된 것 같습니다.

 

하지만 실제 현장은 조금 다릅니다. 저는 AI 신봉론자도 반대론자도 아닙니다. 다만 비즈니스 현장에서 AI가 어떻게 쓰이고, 어디서 막히고, 무엇이 진짜로 달라지고 있는지를 솔직하게 들여다보고 싶습니다. 성공과 실패를 논하기에는 아직 이릅니다. 우리는 지금 AI 도입의 초입에 있다고 생각합니다..

 

비개발 부서의 AI, 지금 실제로 무엇을 하는가 

맥킨지가 2025년 발표한 보고서에 따르면, 생성형 AI 경제적 가치의 28%가 마케팅·영업 부문에서 나오고, 고객 서비스가 11%를 차지합니다. 개발 부서가 아닌, 바로 비즈니스 현장이 AI의 핵심 수혜 영역인 것입니다.

 

국내 기업 현장에서 비개발 부서의 주요 AI 활용 방식은 크게 세 가지로 수렵 되는것 같습니다.

 

첫째, 보고서 작성, 이메일 초안, 제안서 구성, 회의록 정리 등초안 생성'입니다.  조사에 따르면 '문서 요약 및 보고서 작성'이 43.1%로 가장 많이 활용되는 업무 유형으로 꼽혔습니다. 삼성전자가 자체 AI '삼성 가우스'를 통해 이메일 초안과 문서 요약에 활용하고 있고, 한화그룹의 사내 챗봇 'AIDA'는 건설 프로젝트 법규 검색 시간을 대폭 단축했습니다. 과거 2시간이 걸리던 일이 20분으로 줄었다는 현장 증언이 나오고 있습니다.

 

둘째, '정보 탐색과 분석'입니다. '데이터 분석 및 인사이트 도출'은 40.3%의 활용 비율을 기록했습니다. 포스코그룹의 'P-GPT'는 이차전지 시장 뉴스를 준실시간으로 분석하고 전문 용어까지 처리합니다. 영업팀이 경쟁사 동향을 파악하거나, 마케팅팀이 소비자 데이터를 해석하는 데 AI가 보조자 역할을 하고 있습니다.

 

셋째, '개인화된 커뮤니케이션'입니다. SAS의 2025년 전망 보고서는 마케팅 담당자들이 단순 콘텐츠 생성을 넘어 경쟁 우위를 위한 고도화된 AI를 도입하고 있다고 진단합니다. 개인화 메시지, 제안서 맞춤화, 고객 여정 분석—이 영역에서 AI는 이미 작동 중입니다.

그런데, 진짜로 달라졌는가 

여기서 솔직해질 필요가 있습니다. 도입률과 성과는 다른 이야기입니다.

 

맥킨지의 2025년 AI 현황 보고서는 88%의 조직이 AI를 활용한다고 밝혔지만, EBIT(영업이익)에 실질적 영향이 있다고 응답한 곳은 39%에 불과했습니다. BCG는 더 냉정합니다. 투자를 했음에도 60%의 기업이 실질적 가치를 창출하지 못하고 있으며, 의미 있는 성과를 내는 기업은 5%에 그친다고 분석했습니다.

 

이 간극은 왜 생기는 걸까요. 가장 큰 이유는 'AI를 도입했지만 일하는 방식은 바뀌지 않았기 때문'입니다. 맥킨지는 EBIT에 가장 큰 영향을 미치는 요인으로 '워크플로우 재설계'를 꼽았습니다. 단순히 기존 프로세스 위에 AI를 얹는 것이 아니라, 일하는 구조 자체를 다시 설계해야 한다는 뜻입니다. 그런데 그 수준까지 간 기업은 전체의 21%에 불과합니다.

 

비개발 부서의 현실을 솔직히 말씀드리면 이렇습니다. AI가 초안을 써주면 사람이 수정하고, AI가 데이터를 분석하면 사람이 판단합니다. 일의 속도는 빨라졌습니다. 하지만 판단과 책임의 구조는 그대로입니다. 영업 전략을 AI가 짜주지 않고, 고객과의 신뢰를 AI가 쌓아주지 않습니다. '보조자'의 역할을 잘 하고 있지만, '동료'가 되기까지는 아직 거리가 있습니다. 

도입 초기라는 현실을 직시해야 합니다

AI가 가져올 변화를 부정하는 것이 아닙니다. 하지만 지금 우리가 있는 위치에 대해서는 냉정하게 봐야 합니다. 맥킨지의 백서 한 줄이 현재를 정확히 요약합니다. 'AI는 더 이상 실험적이지 않다. 하지만 대부분의 기업에서 그 완전한 영향력은 아직 오지 않았다.'

 

AI는 지금 비즈니스 부서에서 '도구'로 정착하고 있습니다. 엑셀이 그랬고, 스마트폰이 그랬습니다. 처음엔 낯설고 불편하고 한계가 분명해 보입니다. 그러다 어느 순간 없으면 이상한 존재가 됩니다. 우리는 그 전환점을 지나고 있습니다.

 

그러나 AI가 비즈니스의 본질을 바꾸려면 의사결정 방식, 조직 구조, 업무 역할 자체를 재정의하려면 상당한 시간이 필요합니다. '몇 개월 만에 강산이 바뀐다'는 말이 사실이더라도, 그것은 기술의 진화 속도이지 현장의 적응 속도가 아닙니다. 사람이 바뀌는 속도, 문화가 바뀌는 속도는 기술보다 언제나 느립니다.

그렇다면 우리는 무엇을 해야 하는가 

AI 고성과 기업들의 공통점이 있습니다. 이들을 'AI 하이 퍼포머'라 부르며, 전체의 6%에 불과하다고합니다. 이들의 특징은 단순합니다. 비용 절감에만 집중하지 않고 성장과 혁신을 목표로 삼았고, 워크플로우를 실제로 재설계했으며, 최고 경영진이 AI 도입을 직접 이끌었습니다.

 

비개발 부서의 비즈니스 리더에게 필요한 것은 AI 기술에 대한 맹목적 신뢰도, 막연한 거부감도 아닙니다. 필요한 것은 '우리 팀의 어떤 일이 달라질 수 있는가'에 대한 구체적인 질문입니다. 전략 보고서 초안을 AI가 써준다면, 그 시간에 무엇을 할 것인가. 고객 데이터 분석을 AI가 처리한다면, 어떤 판단을 더 잘할 수 있는가.

 

일의 진행 형태가 바뀌고 속도가 달라지는 것, 그것만으로도 지금 단계에서는 충분한 시작입니다. 완전한 전환을 기대하며 아무것도 하지 않거나, 과대 포장된 성공 사례에 현혹되어 맹목적으로 뛰어드는 것, 그 두 가지 모두 피해야 할 함정입니다.

마치며: 목격자가 되는 일 

책장에서 10년 된 AI 책을 꺼내 다시 읽으며 드는 생각이 있습니다. 그 책은 방향을 맞혔지만 속도를 틀렸습니다. 지금 우리도 마찬가지입니다. AI의 방향은 맞습니다. 하지만 속도는 여전히 가늠하기 어렵습니다.

 

비개발 부서의 현장 리더로서 할 수 있는 일은, 예언자가 되려는 욕심을 내려놓고 정직한 목격자가 되는 것입니다. 오늘 우리 팀에서 AI가 무엇을 했고, 무엇을 하지 못했는지. 어떤 일이 빨라졌고, 어떤 판단은 여전히 사람이 해야 하는지. 그 관찰이 쌓일 때, 우리 조직만의 AI 활용법이 만들어집니다.

 

속도에 휩쓸리지 않으면서도 속도를 놓치지 않는 것. 기술을 이해하되 기술에 지배당하지 않는 것. 그것이 지금 비즈니스 현장에서 AI와 함께 일하는 우리 모두에게 필요한, 가장 오래된 새로운 지혜가 아닐까 생각합니다.

 

* 논쟁을 생각하며 쓴글은 아닙니다. 그저 비개발자로 비지니스 부서에서 일하며 공부해서 바라본 입장이니 전문가 분들의 넓은 양해 부탁 드립니다.

 

※ 참고: McKinsey & Company 'The State of AI 2025', BCG 'AI at Scale Report 2025', 메가존클라우드·파운드리 '국내 기업 AI 이용 현황 조사 2025'