포스코경영연구원 한장규 리더

2022년 11월, 오픈AI(OpenAI)가 대화형 인공지능 서비스 ‘ChatGPT’를 출시했습니다. 단 2개월 만에 사용자가 1억 명을 돌파하며, 역사상 가장 빠른 확산 속도를 기록했죠. AI가 시를 쓰고, 코드를 작성하고, 사람처럼 대화하는 모습은 전 세계에 큰 충격을 주었는데요. 글로벌 경영 컨설팅사 맥킨지(McKinsey & Company)는 생성형 AI의 연간 경제적 가치를 4조 4,000억 달러로 추정하며, 기업과 투자자들의 기대를 최고조로 끌어올렸습니다.

이 시기에는 ‘프롬프트 엔지니어링(Prompt Engineering)’이 생성형 AI의 핵심 역량으로 주목받았습니다. AI에게 원하는 결과를 얻기 위해 질문이나 지시문을 효과적으로 설계하는 기술로, 초기에는 ‘AI와 대화하는 법’으로 불렸는데요. 프롬프트 작성 능력이 중요한 경쟁 요소가 되면서 MS-구글 간 검색 시장 주도권 경쟁에도 영향을 미쳤습니다.

미국의 정보 기술 연구 및 자문회사인 가트너(Gartner)는 ‘2024 생성형 AI 하이프 사이클(2024 Gartner Hype Cycle for Generative AI) 보고서’를 통해 신기술의 성숙 과정을 5단계로 설명했습니다. 가트너의 기술 성숙도 곡선(Hype Cycle)에 따르면, 2023년 AI는 ‘기대의 정점(Peak of Inflated Expectations)’ 단계에 진입했습니다. 하지만 곧 ‘환각(Hallucination)’ 문제, 즉 그럴듯한 거짓 정보를 만들어내는 현상이 드러나면서 신뢰성에 대한 우려가 커졌죠. 그럼에도 불구하고 이 시기 AI의 기업 도입률은 50%에서 65%로 급등했고, 경영진의 최우선 의제로 자리 잡았습니다.

2024년은 텍스트를 넘어 이미지, 비디오, 오디오를 동시에 처리하는 ‘멀티모달 AI’가 보편화되었습니다. 한 번의 요청으로 보고서 문장·설명 이미지·프레젠테이션용 음성을 동시에 만들어내는 방식이죠. 또한, 인터넷 연결 없이 구동되는 온디바이스 AI(AI 폰, AI PC)도 등장해 시장의 새로운 표준으로 정착했습니다.

더불어 데이터의 정확성을 높이기 위해 검색증강생성(RAG, Retrieval-Augmented Generation) 기술도 기업용 AI의 핵심으로 부상했습니다. AI가 답을 만들 때 외부 데이터베이스나 사내 문서를 실시간 검색해 사실과 맥락을 함께 반영하는 방식이죠. 예를 들면 제조업에서 설비 매뉴얼·공정 데이터·안전 규정 등을 AI가 즉시 참조해 현장 작업자가 더 정확한 답을 받을 수 있도록 하는 것입니다.

하지만 현실은 냉정했습니다. 맥킨지 조사에 따르면 기업들이 운영한 AI 파일럿 프로젝트의 90%가 전사 확산에 실패한 것으로 나타난 것이죠. AI 기술은 이제 단순한 기술 잠재력을 넘어, 실질적인 성과와 수익을 입증해야 했습니다. 이같은 ‘쇼 미더 머니(Show me the money)’ 담론이 본격화되면서 AI의 투자수익률(Return on Investment) 검증이 필수 과제로 떠올랐습니다. 이에 따라 일부 국가에서는 자국의 언어·문화·규제에 맞춘 ‘소버린 AI’ 개발을 통해 데이터 주권과 기술 자립을 강화하려는 움직임도 나타났습니다.

가트너는 이 시기 생성형 AI가 ‘환멸의 골짜기’에 진입했다고 선언했습니다. ‘환멸의 골짜기’란 하이프 사이클의 세 번째 단계로, 기술이 현실과 부딪히며 실망이 확산되는 구간을 말합니다. 모든 유망 기술이 거쳐야 하는 성장통의 시기이며, 이를 잘 통과해야 진정한 성숙 단계에 도달할 수 있다고 보는 것이죠.

2025년 AI는 단순히 답을 생성하는 것을 넘어, 스스로 계획을 세우고 도구를 사용해 과업을 완수하는 ‘에이전트 AI’로 진화했습니다. 맥킨지의 2025년 조사를 기준으로 살펴보면 62%의 기업이 에이전트 AI에 대한 확장(23%)과 실험(39%) 중인 것으로 나타났습니다.

지난해에는 OpenAI의 o1(오원) 시리즈 등 복잡한 문제를 단계적으로 사고하며 해결하는 추론 모델(Reasoning Model)도 상용화되어 연구 개발 분야의 생산성 혁신을 견인했습니다. 기존 GPT 시리즈(GPT-4 등)가 빠른 응답에 초점을 맞췄다면, o1은 복잡한 수학·과학·코딩 문제를 ‘생각하는 시간’을 갖고 단계적으로 추론하여 해결하는 것이 특징입니다.

또한, 화면 속에 머물던 AI가 휴머노이드 로봇 등 하드웨어와 결합하여 물리적 작업을 수행하는 ‘피지컬 AI(Physical AI)’ 담론이 부상했습니다. 피지컬 AI는 기존에 소프트웨어 영역에 머물던 인공지능이 로봇, 자율주행차, 드론 등 물리적 하드웨어와 결합하여 실제 세계에서 행동하고 작업을 수행하는 형태를 말합니다. 엔비디아(NVIDIA)는 CES 2025에서 “피지컬 AI가 50조 달러 규모의 제조 및 물류 산업을 혁신할 것”이라 선언했습니다.

그러나 기업의 AI 도입률이 78%에 달해도, 전사적 EBIT(Earnings Before Interest and Taxes)* 영향을 보고한 기업은 39%에 불과하며, AI 성숙 단계임을 자평하는 기업은 1%에 그쳤습니다.  ‘도입-가치’ 격차가 핵심 과제로 가시화되었습니다.
*EBIT(Earnings Before Interest and Taxes) : 이자와 세금을 빼기 전의 이익. 기업의 핵심 사업 성과를 평가하고, 자본 구조나 세금 환경이 다른 회사 간의 순수 운영 능력을 비교하기 위한 개념

화려함(Flair)에서 기능(Function)으로

2026년 AI 담론의 핵심 기조는 ‘화려함(Flair)에서 기능(Function)’으로 초점을 옮겼습니다. 미국 리서치 기업 포레스터(Forrester)는 2026년을 “AI가 티아라를 벗고 하드햇(Hard Hat, 실용적 가치)을 쓰는 해”로 명명했습니다. 하드햇(Hard Hat)이란, 건설 현장에서 착용하는 안전모를 의미하며, 땀 흘리며 가치를 증명한다는 의미입니다. 즉, 실용적 가치 증명이 AI 투자의 유일한 평가 기준으로 정착할 것으로 내다보고 있습니다. 또한 기업의 25%가 투자수익률(ROI) 미검증을 이유로 AI 투자를 2027년으로 늦출 것으로 예상하고 있습니다. 글로벌 회계 컨설팅 그룹 PwC(Pricewaterhouse Coopers)는 AI 가치 창출의 핵심 요소는 기술 20%, 워크플로 재설계 80%이며, 업무 프로세스 혁신 없이는 AI 투자 효과가 제한적이라고 강조했습니다.

에이전트 오케스트레이션의 본격화

올해는 여러 AI 에이전트를 통합적으로 관리·조율하여 복잡한 업무 프로세스를 자동화하는 에이전트 오케스트레이션(Agent Orchestration)이 본격화될 것으로 보입니다. 마치 오케스트라 지휘자처럼 각 에이전트의 역할을 조정하는 것이죠. ICT 시장조사기관인 IDC(International Data Corporation)은 2026년까지 G2000* 기업 직무의 40%가 AI 에이전트와 협업하는 형태로 전환될 것으로 전망하였으며, 가트너는 2028년까지 기업 의사결정의 15%가 에이전트에 의해 자율 수행될 것으로 예측했습니다. 2024년에는 0%였던 것에 비해 매우 높은 비율입니다.
*G2000 : 포브스가 선정하는 전 세계 상위 2,000대 기업(Global 2000). 매출, 이익, 자산, 시가총액을 종합 평가하여 선정

이러한 에이전트 오케스트레이션 역량은 결국 ‘미래의 중간관리자 리더십’과 직결됩니다. 중간관리자는 사람뿐만 아니라 AI 에이전트들 간의 업무 분장과 리소스 점유 갈등을 조율하는 능력이 요구되며, 이는 관리자 역할의 근본적 재정의를 의미합니다.

피지컬 AI와 로봇의 변곡점

글로벌 제조업에서 노동력 부족 문제는 로보틱스 채택을 촉진하는 중요한 요인이 되고 있습니다. 2026년 전세계 산업용 로봇 누적 설치 대수는 550만 대에 도달할 전망이며 특히 휴머노이드 로봇은 2030년 연간 100만 대 판매, 2040년 누적 4억 대가 판매될 것으로 보입니다.

▲현대자동차그룹이 CES 2026에서 선보인 AI 로보틱스 아틀라스와 스팟(출처 : 현대자동차그룹 공식유튜브)

에이전트 AI와 피지컬 AI가 2026년 화두로 부상하는 가운데, 제조 현장은 오히려 유리한 출발선에 설 수 있을 것으로 보입니다. 철강·소재·이차전지 등 제조 현장에는 이미 수년에서 수십 년간 축적된 설비와 공정 데이터가 풍부하게 존재합니다. 현장 데이터와 물리적 자동화의 결합이 제조업 AI 전략의 핵심 차별화 포인트로 작용할 전망입니다. 따라서 소프트웨어 AI보다 피지컬 AI가 더 빠른 투자수익률(ROI)을 가져다줄 기회가 될 수 있습니다.

3년간 AI 담론 변화의 핵심은 결국 ‘인간과 AI의 관계 재정립 과정’으로 요약할 수 있습니다. 2023년이 ‘AI에게 질문하는 법’을 배우는 시기였다면, 지금은 ‘AI에게 일을 시키는 법(위임)’을 설계하는 시기입니다. AI를 ‘도구’가 아닌 ‘동료’ 또는 ‘부하직원’처럼 다루는 역량이 요구되며, 이는 조직 내 AI 리터러시* 교육의 방향성을 재설정 해야 함을 의미합니다.
*AI 리터러시(AI Literacy) : AI의 작동 원리를 이해하고, AI 도구를 효과적으로 활용하며, AI의 한계와 윤리적 이슈를 인식하는 종합적 역량

글로벌 전망에 따르면, 2026년까지 절반 이상의 기업이 AI 도움 없이 사고력을 측정하는 ‘AI-free’ 역량 평가를 도입할 것으로 예상됩니다. 또, 일부 분석에서는 AI가 초급 직무를 대체하면서 신입 인재의 실무 경험 기회가 줄어드는 ‘경험 격차’ 현상을 지적하며, AI 활용 역량 강화와 대안적 인재 육성 경로의 필요성을 강조하고 있습니다.

결국, 지난 3년의 변화는 AI를 어떻게 활용할지뿐 아니라, AI와 어떤 관계를 맺을지를 결정하는 시대가 왔음을 보여줍니다. 그리고 그 선택이 앞으로 조직의 경쟁력을 좌우하게 될 것입니다.