[딥테크] AI 생산성, 도입의 속도 아닌 활용의 질이 관건
입력
수정
생성형 AI 확산, 초기 효과는 경력 짧은 인력과 반복 업무에서 뚜렷 정기적 활용은 제한적이며 제도와 프로세스 개편이 성과 확산의 관건 기술 진보만으로는 부족, 도입 방식과 관리 체계가 지속 성장을 좌우
본 기사는 스위스 인공지능연구소(SIAI)의 SIAI Research Memo 시리즈 기고문을 한국 시장 상황에 맞춰 재구성한 글입니다. 본 시리즈는 최신 기술·경제·정책 이슈에 대해 연구자의 시각을 담아, 일반 독자들에게도 이해하기 쉽게 전달하는 것을 목표로 합니다. 기사에 담긴 견해는 집필자의 개인적 의견이며, SIAI 또는 그 소속 기관의 공식 입장과 일치하지 않을 수 있습니다.
생성형 AI의 경제적 파급력은 여전히 논쟁적이다. 장밋빛 기대와 회의론이 교차하는 가운데, 최근 조사에서는 규모는 크지 않지만, 의미 있는 변화가 확인됐다. 2024년 말 미국 근로자 조사에 따르면, 생성형 AI를 활용한 근로자는 주당 평균 5.4%의 시간을 절약했다. 연구자들은 이를 전체 노동력 기준 약 1.1%의 생산성 향상으로 환산했다. 대규모 혁신이라 보기는 어렵지만, 주 40시간 근무자라면 매주 2시간 이상을 확보할 수 있는 수준이다. 중요한 것은 단순히 AI가 문서를 작성하거나 자료를 정리하느냐가 아니라, 절약된 시간이 실제 성과 개선으로 이어지도록 조직과 제도가 얼마나 빠르게 변할 수 있느냐다.
성과의 편차
생성형 AI의 효과는 균등하지 않다. 한 대규모 고객지원 부서에서 어시스턴트를 무작위로 도입한 결과, 상담원의 생산성이 평균 14~15% 향상됐다. 특히 경험이 부족한 직원에게 가장 큰 효과가 나타났다. 이는 AI의 이점이 경력 초기 인력에 집중될 수 있음을 보여준다.
반대로 판단력과 맥락 이해가 중요한 업무에서는 오히려 성과가 저하되기도 했다. 컨설팅 분야 실험에서도 유사한 결과가 나타났다. 잘 정의된 과제에서는 성과가 개선됐지만, 복잡한 문제에서는 효과가 제한적이었다. 결국 AI는 전 영역에서 동일한 성과를 내기보다 특정 업무 흐름에서만 뚜렷한 생산성 향상을 이끌어낸다.
제한된 도입
확산 속도 역시 과제다. 미국 조사에 따르면 생성형 AI 사용자는 빠르게 늘었지만, 업무에 정기적으로 활용하는 비율은 낮다. 한 연구에서는 취업자의 23%가 지난주 업무 중 최소 한 번은 AI를 활용했다고 응답했다. 오픈AI 분석에 따르면 ChatGPT 사용의 약 30%가 업무와 관련 있으며, 나머지는 개인적 용도였다.
현장에서도 일부 직원은 간단한 작업에 AI를 활용하지만, 핵심 업무 구조는 크게 달라지지 않았다. 제한적 활용만으로는 조직 전체의 생산성을 끌어올리기 어렵다. 이는 기술의 한계가 아니라, 제도와 정책이 중요한 업무 흐름에서 AI를 깊이 활용하도록 유도해야 함을 시사한다.
주: 생성형 AI 사용 비율(X축), AI 활용 목적-전체, 업무 목적, 업무 외 목적(Y축)/지난주 매일 사용(짙은 갈색), 지난주 1회 이상 사용(빨간 갈색), 최근 사용 경험 있으나 지난주 미사용(분홍색)
기술만으로는 부족
기술은 빠르게 진화하고 있지만, 생산성을 현실화하려면 양질의 데이터, 재설계된 업무 흐름, 실질적 훈련, 견고한 안전장치가 필요하다. 공공 부문 사례에 따르면 성과는 가능하지만, 통합 비용·감독·보안·변화 관리에 상당한 자원이 요구된다. 이는 부차적 요소가 아니라 성과를 좌우하는 핵심이다.
소프트웨어 개발 사례는 이를 잘 보여준다. AI 페어 프로그래머를 활용하면 잘 정의된 과제는 작업 시간이 평균 55% 단축됐다. 그러나 실제 성과는 프로세스 표준화, 프롬프트 문서화, 검토 체계 개선이 함께 이뤄졌을 때 나타났다.
위험 관리도 필수적이다. AI는 사실과 다른 내용을 그럴듯하게 만들어내는 환각 현상(hallucination)을 일으킨다. 정교한 검색과 구조화된 프롬프트로 줄일 수 있지만 완전히 없애기는 어렵다. 여기에 더해 개인정보 규제는 활용할 수 있는 데이터 범위를 제한하며, 기존 체계와의 정렬에도 시간이 소요된다. 이 때문에 AI 확산에도 불구하고 국가 차원의 생산성은 단기간에 급등하지 않았다. 실제로 미국 노동생산성은 2024년 2.3%, 2025년 2분기 전년 대비 1.5% 성장에 그쳤다. 반등세이지만, AI가 이끈 급격한 도약이라 보기는 어렵다.
성과는 맥락 속에서 평가해야
AI 생산성은 단순한 증가율보다 맥락에서 평가해야 한다. 성과가 어떤 업무에서 발생했는지, 누구에게 집중됐는지, 어떤 비용이 들었는지가 핵심이다. 반복 업무를 줄여 핵심 활동에 시간을 재투자하거나, 평가의 일관성을 높여 취약 집단을 지원하고, 병목을 완화해 대응 속도를 높이는 것 모두 성과로 볼 수 있다. 특히 경험이 부족한 인력이 AI 지원으로 숙련자와 격차를 좁히는 현상은 정책적으로 중요한 의미를 지닌다.
펜실베이니아 대학교 와튼 스쿨의 초당적 연구 그룹인 펜와튼 예산 모형(PWBM)은 AI가 단기간에 폭발적 효과를 내기보다 점진적이고 비선형적인 영향을 줄 것으로 전망한다. 효과는 2030년대 초반 가장 크고, 제도가 적응하면 완화될 가능성이 크다. 초기 도입자는 성과를 선점하지만, 늦은 도입자는 지연된 효과와 더 큰 비용을 감수할 수밖에 없다. 따라서 절감된 시간, 성과 편차 축소, 오류율 등 구체적 지표의 기록과 관리가 필수다. 관리되지 않는 생산성은 결국 추측에 불과하다.
향후 18개월 과제
AI 도입은 선택과 집중이 필요하다. 효과가 분명한 분야부터 시작하는 것이 현실적이다. 문서 작성·검토, 반복 보고서·자료 생성 등이 대표적이다. 먼저 기존 기준을 세운 뒤 반복 업무는 AI가 맡고, 최종 결정은 사람이 검증하는 구조를 갖춰야 한다. 인사 평가나 투자 승인처럼 중요한 사안은 반드시 사람이 최종 책임을 져야 한다.
도입 방식도 중요하다. 단순 라이선스 구매가 아니라 교육, 내부 시스템과 연동된 프롬프트 라이브러리, 안전한 검색 환경까지 포함돼야 한다. 부서 간에는 사용 경험을 공유해 어떤 프롬프트가 효과적이고 어떤 산출물이 거부됐는지 기록해야 한다. 초기에는 소규모 시범 사업으로 시작하는 것이 바람직하다. 책임자, 데이터 관리자, 실무자, IT 담당이 팀을 꾸려 분기 단위로 목표와 결과를 검증하는 방식이다.
성과 측정에는 비용까지 포함돼야 한다. 라이선스와 시스템 비용뿐 아니라 재설계와 검토에 투입되는 인력까지 계산해야 한다. 예컨대 보고서 작성 시간을 10시간 줄였지만, 검토에 6시간을 썼다면 실제 절감 시간은 4시간에 불과하다. 의미 있는 성과지만 개선은 필요하다. 프롬프트 안정화, 초안 검증 훈련, 자동화 점검이 대안이 될 수 있다.
주: 특정 업무별 AI 활용 응답 비율(X축), 업무 유형(Y축)/문서·글쓰기, 사실·정보 검색, 문서화·세부 지침 작성, 해석·번역·요약, 행정 업무 처리, 소프트웨어 코딩, 데이터 분석·시각화, 고객·동료 지원, 아이디어 창출·개발, 학습·교육 보조, 기타(상단부터)
작은 변화의 누적 효과
AI 생산성은 거대한 도약이 아니라 작은 변화에서 시작된다. 반복 업무를 줄이고 절차를 표준화할 때 성과가 나타나며, 초기 인력의 격차도 줄어든다. 위험과 비용은 분명 존재하지만, 실제 업무 흐름에 깊이 적용하고 보완적 도구를 갖추면 방향은 달라진다. 중요한 것은 도입 여부가 아니라 활용 방식과 관리 체계다. 시간 절감, 품질 개선, 오류율 감소 같은 구체적 지표로 확인해야 한다. 작은 개선이 쌓일 때 생산성의 곡선이 바뀌고, 조직 전체의 변화로 이어질 수 있다.
본 연구 기사의 원문은 AI Productivity in Education: Real Gains, Costs, and What to Do Next를 참고해 주시기 바랍니다. 본 기사의 저작권은 스위스 인공지능연구소(SIAI)에 있습니다.
