“AI 압박 늘었지만 13%만이 준비됐다고 생각”··· 시스코, ‘2024 AI 준비지수’ 발표

시스코가 지난해에 이어 2번째로 발표한 연례 ‘AI 준비 지수’에 따르면, AI 계획을 실행해야 한다는 압박이 늘고 있지만 AI 워크로드를 처리하기 위한 네트워크 준비도는 지난해보다 오히려 감소했다.

시스코 보고서는 기업이 느끼는 AI 도입 시급성과 실제 구현 역량 사이에 “큰 간극이 있다”라고 지적했다. AI 준비지수는 전 세계 8,000개 기업을 대상으로 하며, 조직의 AI 투자, 구축, 활용 준비 상태 측정을 목표로 한다.

시스코는 “거의 모든 기업(98%)이 지난해 AI 도입 시급성이 높아졌다고 보고했다”라고 밝혔다. 그러나 지난해와 올해 사이 기업의 전반적인 AI 준비 수준은 감소했다. 시스코는 현재 AI 잠재력을 완전히 활용한 준비가 된 기업이 13%에 불과하며, 지난해 14%에서 하락했다고 설명했다.

또한 비즈니스 리더들은 AI에 대한 집중과 투자에도 불구하고 AI 목표 달성을 위한 진전이 충분하지 않다고 느꼈다. 시스코는 “리더들은 AI에 대한 투자를 계속하고 지출을 늘릴 것이라고 답했다. 현재 상황이 이들의 의지에 미치는 영향은 크지 않다”라고 설명했다. 조사에 따르면 응답자 50%가 현재 IT 예산 중 10~30%를 AI에 할당하고 있다.

보고서는 “흥미롭게도 조사에 참여한 응답자 중 상당수는 AI 투자가 아직 기대한 만큼의 성과를 거두지 못했다고 밝혔다. 약 50%가 프로세스, 운영 지원, 보강, 자동화 등의 영역에서 아무런 이익을 얻지 못했거나 기대 이하의 성과만 있었다고 답했다”라고 설명했다.

다만 올해 주요 분야에서 AI 도입 성과가 기대에 미치지 못했다고 응답한 기업 중 59%는 5년 후에 AI 투자 효과가 기대 이상의 성과를 낼 것으로 전망했다.

시스코 부회장 겸 최고 제품 책임자인 지투 파텔은 “AI 여정의 어느 단계에 있든, 조직은 변화하는 요구 사항에 맞춰 기존 데이터센터와 클라우드 전략을 준비하고, 전략이 발전함에 따라 민첩성과 복원력을 갖춘 AI 도입 계획을 수립해야 한다”라고 설명했다.

이번 조사에서는 대규모 AI 워크로드를 처리하는 데 필요한 실제 인프라 및 네트워킹 장비에 대한 준비 수준이 낮은 것으로 나타났다. 시스코는 “응답자 93%가 AI 기반 기술 도입으로 조직의 인프라 워크로드가 늘어날 것으로 예상하고 있어 우려스럽다”라고 지적했다. 또한 응답 기업의 54%가 AI 수요 증가에 대응하기 위한 인프라의 확장성과 유연성이 제한적이거나 보통 수준에 그친다고 인정했다.

시스코 보고서는 “응답자 79%가 미래의 AI 워크로드를 지원하려면 데이터센터 GPU가 더 필요하다고 답했다. 지난해 76%에서 증가한 수치다. 마찬가지로 응답자 78%는 AI 워크로드를 위한 컴퓨팅 자원의 가용성을 확신하지 못하고 있으며, 이 수치는 지난해 76%에서 증가했다”라고 설명했다.

시스코 CEO의 인프라 현대화 관련 견해

시스코 CEO 척 로빈스는 최근 월가 애널리스트와의 재무 컨퍼런스 콜에서 기업 고객이 인프라 현대화에 나서고 있다고 말했다. 그는 “지금부터 6개월, 9개월, 12개월 후에 어떤 AI 애플리케이션을 배포할지 확신할 수 없더라도, 기업들은 준비를 위해 현대적 인프라가 필요하다는 것을 알고 있다. 이에 대비하기 위해 투자가 진행 중이며, 지난 몇 분기 동안의 패턴과 동일하다”라고 설명했다.

로빈스는 “기업들은 2가지 상황을 검토하고 있다. AI를 준비하기 위해 인프라를 업데이트하는 한편, AI 애플리케이션의 광범위한 배포를 준비하고 있다”라고 말했다.

그는 현재 고객이 클라우드에서 애플리케이션을 실행할 위치를 결정하고, AI를 지원하기 위해 어떤 인프라를 구축해야 할지 결정하는 과정에 있다고 전했다.

AI 준비 지수 보고서의 세부 내용

시스코 AI 준비 지수에서 확인된 기타 주목할 만한 내용은 다음과 같다.

• 사이버 보안이 중요해지고 있다. 머신러닝 관련 위협에 대한 이해가 부족한 응답자 비율은 지난해 65%에서 올해 67%로 증가했다. 마찬가지로 AI 시스템 및 데이터 세트에 대한 접근 제어 관리의 모범 사례도 점점 더 어려움을 겪고 있다. 이 영역에서 강력한 보안 태세를 갖추지 못한 기업이 지난해 68%에서 올해 72%로 증가했다.
• 기업은 AI 이니셔티브를 위해 데이터를 효과적으로 관리할 준비가 덜 됐다고 느꼈다. 응답자 약 3분의 1(32%)만이 데이터 측면에서 AI 기술을 적용, 배포, 활용할 수 있는 충분한 준비를 갖췄다고 밝혔다. AI 프로젝트를 위한 데이터 전처리와 정제 과정에서 일관성 부족이 나타났다는 기업은 80%로, 지난해(81%)와 비슷한 수준이었다. 64%는 데이터 출처 추적에 개선이 필요하다고 답했다.
• 숙련된 인재 부족이 인프라, 데이터, 거버넌스 전반에서 주요 과제다. 31%만이 AI를 완전히 활용할 수 있는 인재를 갖췄다고 언급했다. 24%는 AI 배포에 필요한 사내 인재가 부족하다고 답했으며, 또 다른 24%는 해당 분야에 AI 수요 증가를 해결할 기술을 가진 인재가 부족하다고 말했다.
• 효과적인 AI 거버넌스가 어려워지고 있다. 조직의 AI 정책과 프로토콜의 포괄성을 묻는 질문에 31%의 조직만이 매우 포괄적이라고 답했다. 또한 응답자의 51%는 거버넌스 준비도를 개선하기 위한 주요 과제로 ‘시장에서 AI 거버넌스, 법률, 윤리 분야의 전문성을 갖춘 인재 부족’을 꼽았다.
• AI를 수용하는 문화 준비 수준이 눈에 띄게 감소했다. 다시 말해 AI가 가져올 변화를 받아들이려는 의지가 전반적으로 약화됐다. 특히 이사회의 경우 AI의 혁신적 잠재력을 수용하는 태도가 크게 위축됐다. ‘적극적’ 또는 ‘보통’ 수준의 수용도 비율이 지난해 82%에서 올해 66%로 하락했다. 또한 조직의 30%는 직원이 AI 도입에 소극적이거나 명백한 거부감을 드러냈다고 밝혔다.

dl-ciokorea@foundryco.com