광고

AI 경영도입...솔루션 쇼핑 멈추고 조직 뼈대부터 다시 세워라!

김종범 국민대 행정학과 명예교수 | 기사입력 2026/04/19 [10:28]

▲필자/김종범 국민대 행정학과 명예교수.     ©브레이크뉴스

요즘 기업 경영진을 만나보면 열에 아홉은 인공지능 도입을 가장 시급한 과제로 꼽는다. 경쟁사가 최신 기술로 비용을 줄이고 생산성을 높였다는 소식에 마음이 조급해지기 때문이다. 그래서 적지 않은 자금을 들여 최신 인공지능 솔루션을 구매하고, 본부 한구석에 작은 전담팀을 꾸리는 것으로 우리도 혁신을 시작했다고 안도하는 경우가 많다.

 

하지만 단언컨대 이런 겉핥기식 접근은 실패할 수밖에 없다. 비유하자면 최고급 스포츠카의 엔진을 사서 낡은 나무 수레에 얹는 격이다. 엔진의 강력한 힘을 견디지 못한 낡은 수레는 앞으로 나아가기는커녕 이내 산산조각이 나고 말 것이다. 인공지능은 엑셀이나 워드 같은 단순한 사무용 프로그램이 아니다. 기업이 일하는 방식과 소통하는 구조, 그리고 의사결정의 규칙을 송두리째 바꾸는 경영 패러다임 그 자체다. 일반인도 체감할 수 있는 진정한 인공지능 경영의 핵심은 겉보기에 화려한 기술의 확보가 아니라 조직의 체질을 완전히 뜯어고치는 데 있다.

 

과거의 전통적인 기업 구조를 떠올려 보자. 영업, 마케팅, 생산, 재무 등 각 부서는 견고한 벽을 치고 자신들만의 데이터를 독점해 왔다. 곡식을 저장하는 굴뚝 모양의 창고에 빗대어 이를 사일로 현상이라고 부른다. 인공지능이 진정으로 제 기능을 발휘하려면 회사 전체의 데이터를 골고루 먹고 자라야 한다. 마케팅 부서의 고객 데이터와 생산 라인의 품질 데이터가 유기적으로 섞여야만 어떤 디자인의 제품이 불량률도 낮고 고객 반응도 좋은지 정확하게 찾아낼 수 있다.

 

이처럼 부서 간의 장벽을 허물고 데이터가 흐르는 구조를 만드는 것은 단순히 기업의 단기적인 이윤 창출이나 업무 효율성 제고만을 위한 것이 아니다. 오늘날 기업의 장기적인 생존과 직결된 지속가능경영을 실현하는 데 있어서도 인공지능과 조직 개편의 융합은 핵심적인 역할을 한다. 온실가스 배출량을 정확히 예측하여 에너지를 절감하거나, 복잡한 공급망 전체의 환경 및 인권 리스크를 투명하게 관리하는 일은 방대한 데이터 분석 없이는 불가능하다. 인공지능은 이러한 환경적, 사회적 난제를 해결하는 가장 강력한 무기지만, 생산 라인의 전력 소비 데이터와 구매 부서의 협력사 데이터가 단절되어 있다면 결코 최적의 해답을 내놓을 수 없다. 인공지능을 활용해 ESG 경영의 복잡한 실타래를 풀고 진정한 의미의 지속가능성을 확보하기 위해서라도 전사적인 데이터 융합과 조직 구조 개편은 선택이 아닌 필수다.

 

실제로 변화에 성공하는 기업들은 이 벽을 허물고 일하는 구조를 바꾸는 데 사활을 걸고 있다. 최근 국내 기업들도 발 빠르게 조직 개편에 나서고 있다. HD현대의 사례가 대표적이다. HD현대는 단순히 인공지능 기술을 연구하는 수준을 넘어, 그룹 내 인공지능 전담 조직을 대표이사 직속으로 격상하는 전면적인 편제 개편을 단행했다. 현장에 산적한 문제를 인공지능으로 즉각 해결하고 제조 산업의 근간을 바꾸기 위해, 기술 조직과 사업 조직이 유기적으로 결합할 수 있는 강력한 지휘 체계를 구축한 것이다.

 

금융권에서는 KB국민은행이 부서 간의 경계를 허무는 애자일 스쿼드 조직을 선도적으로 도입해 구체적인 성과를 내고 있다. 기존의 딱딱하고 수직적인 부서 체제에서 벗어나, 기획자와 개발자, 마케터가 소규모 팀으로 뭉쳐 하나의 프로젝트를 책임지는 방식이다. 직급이나 부서 이기주의에 얽매이지 않고 유연하게 소통하는 구조 덕분에, 현장에서 꼭 필요한 인공지능 기반의 금융 서비스가 막힘없이 빠르게 개발되고 현업에 적용될 수 있었다.

 

우리 기업들이 무늬만 혁신이 아닌 진짜 인공지능 경영을 안착시키려면 세 가지 근본적인 변화가 반드시 선행되어야 한다.

 

첫째, 기존의 수직적이고 폐쇄적인 부서 중심 조직을 유연한 융합형 프로젝트 팀 위주로 재편해야 한다. 특정한 과제가 주어지면 부서를 초월해 다양한 전문가들이 한시적으로 모여 일하는 유연한 구조가 일상화되어야 데이터가 원활하게 흐를 수 있다.

 

둘째, 사람을 향한 직무의 재설계가 시급하다. 많은 직원이 인공지능의 도입을 자신의 일자리를 위협하는 요소로 여긴다. 이때 경영진은 명확한 메시지를 전달해야 한다. 단순 반복적인 데이터 정리나 보고서 초안 작성은 인공지능에게 맡기고, 사람은 타인의 마음을 읽고 공감하며 창의적인 아이디어를 내는 고차원적인 업무에 집중하도록 역할의 무게중심을 옮겨주어야 한다.

 

셋째, 실패를 용인하고 장려하는 유연한 리더십이 필수적이다. 인공지능은 마법의 지팡이가 아니기 때문에 초기에는 예측이 빗나가거나 엉뚱한 결과를 내놓기도 한다. 단 한 번의 실패로 담당자를 문책하는 경직된 기업 문화에서는 아무도 새로운 기술을 시도하려 하지 않을 것이다. 작게 시도하고 빠르게 실패하며, 그 과정에서 얻은 교훈을 다음 단계에 반영하는 심리적 안전감이 조직 기저에 깔려 있어야 한다.

 

결국 인공지능 시대의 성패를 가르는 것은 기술 자체가 아니라 사람과 조직이다. 인공지능 경영은 IT 부서에만 맡겨둘 숙제가 아니라 최고경영자가 직접 챙겨야 할 가장 중요한 생존 전략이자 지속가능한 미래를 위한 주춧돌이다. 겉보기에 번지르르한 솔루션 쇼핑은 이제 멈추고, 우리 조직의 부서 간 벽이 얼마나 높은지, 직원들이 새로운 변화를 받아들일 준비가 되어 있는지 냉정하게 진단해야 할 때다. 기술 발전의 속도를 조직의 문화가 따라가지 못한다면, 그 어떤 훌륭한 인공지능도 결코 혁신이라는 열매를 맺을 수 없다.

 

*필자/김종범 국민대 행정학과 명예교수.

 

*아래는 위 기사를 '구글 번역'으로 번역한 영문 기사의 [전문]입니다. '구글번역'은 이해도 높이기를 위해 노력하고 있습니다. 영문 번역에 오류가 있을 수 있음을 전제로 합니다.<*The following is [the full text] of the English article translated by 'Google Translate'. 'Google Translate' is working hard to improve understanding. It is assumed that there may be errors in the English translation.>

 

Adopting AI in Management... Stop Shopping for Solutions and Rebuild the Organization's Framework!

- Kim Jong-beom, Professor Emeritus, Department of Public Administration, Kookmin University

 

When meeting with corporate executives these days, nine out of ten cite the adoption of artificial intelligence as their most urgent task. This is because they become anxious upon hearing news that competitors have reduced costs and increased productivity using the latest technology. Consequently, many feel relieved, believing they have begun innovation simply by spending a considerable amount of money to purchase the latest AI solutions and setting up a small dedicated team in a corner of their headquarters.

However, I can assert that such a superficial approach is bound to fail. To use an analogy, it is like buying the engine of a top-of-the-line sports car and placing it on an old wooden cart. Unable to withstand the engine's powerful force, the old cart will not only fail to move forward but will soon shatter into pieces. Artificial intelligence is not merely a simple office program like Excel or Word. It is a management paradigm in itself that completely transforms the way a company works, its communication structure, and the rules of decision-making. The core of true AI management, which even the general public can experience, lies not in securing seemingly flashy technology, but in completely overhauling the organization's fundamental nature.

Let us recall the traditional corporate structures of the past. Departments such as sales, marketing, production, and finance have erected solid walls and monopolized their own data. This phenomenon is referred to as the "silo effect," likening it to a warehouse shaped like a chimney for storing grain. For AI to truly function properly, it must grow by feeding evenly on data from the entire company. Only when customer data from the marketing department and quality data from the production line are organically mixed can it accurately identify which product designs have low defect rates and receive positive customer feedback.

As such, breaking down departmental barriers and creating a structure where data flows is not merely for the purpose of generating short-term profits or improving operational efficiency. The convergence of AI and organizational restructuring plays a pivotal role in realizing sustainable management, which is directly linked to the long-term survival of companies today. Accurately predicting greenhouse gas emissions to save energy, or transparently managing environmental and human rights risks across a complex supply chain, are impossible without the analysis of vast amounts of data. While artificial intelligence is the most powerful weapon for solving these environmental and social challenges, it can never provide the optimal solution if power consumption data from production lines and supplier data from purchasing departments remain disconnected. To unravel the complex tangle of ESG management using AI and secure true sustainability, company-wide data integration and organizational restructuring are not options, but necessities.

In fact, companies that succeed in change are staking their survival on breaking down these barriers and transforming their working structures. Recently, domestic companies have also been rapidly moving forward with organizational restructuring. The case of HD Hyundai is a prime example. Going beyond simply researching AI technology, HD Hyundai implemented a comprehensive organizational overhaul by elevating its dedicated AI organization within the group to report directly under the CEO. To immediately solve pressing issues on the ground using AI and transform the foundation of the manufacturing industry, they established a powerful command structure that allows technology and business organizations to be organically integrated.

In the financial sector, KB Kookmin Bank is achieving tangible results by pioneering the introduction of Agile Squad organizations that break down departmental boundaries. Breaking away from the existing rigid and hierarchical departmental system, this approach involves planners, developers, and marketers forming small teams to take responsibility for a single project. Thanks to a structure that fosters flexible communication unbound by rank or departmental self-interest, AI-based financial services essential for the field could be developed rapidly and seamlessly, and applied to actual operations.

To ensure that our companies establish genuine AI management rather than merely superficial innovation, three fundamental changes must take precedence.

First, existing vertical and closed department-centric organizations must be reorganized around flexible, convergent project teams. Data can flow smoothly only when a flexible structure becomes commonplace, where diverse experts from across departments temporarily gather to work on specific tasks.

Second, a redesign of job roles focused on people is urgently needed. Many employees view the introduction of AI as a threat to their jobs. In this context, management must deliver a clear message. The center of gravity must be shifted so that simple, repetitive tasks like data organization or drafting reports are entrusted to AI, while humans focus on high-level tasks such as reading others' minds, empathizing, and generating creative ideas. Third, flexible leadership that tolerates and encourages failure is essential. Since artificial intelligence is not a magic wand, predictions may go awry or unexpected results may be produced in the early stages. In a rigid corporate culture where those in charge are reprimanded for a single failure, no one will be willing to try new technologies. A sense of psychological safety must be established at the foundation of the organization, allowing for small attempts and rapid failures, while incorporating the lessons learned into the next stage.

Ultimately, what determines success or failure in the age of AI is not the technology itself, but the people and the organization. AI management is not a task to be left solely to the IT department; it is the most critical survival strategy that the CEO must personally oversee, as well as a cornerstone for a sustainable future. It is time to stop shopping for superficial solutions and instead objectively assess how high the walls between departments are and whether employees are ready to embrace new changes. If the organizational culture fails to keep pace with the speed of technological advancement, no matter how excellent the AI ​​may be, it can never bear the fruit of innovation.

 

*Author / Kim Jong-beom, Professor Emeritus, Department of Public Administration, Kookmin University

기사제보 및 보도자료 119@breaknews.com
ⓒ 한국언론의 세대교체 브레이크뉴스 / 무단전재 및 재배포금지
 
  • 도배방지 이미지

광고
광고