AI 에이전트란? 너도나도 뛰어드는 이유는?

생성형 AI는 지난 2년 동안 프롬프트 엔지니어링과 명령어 미세 조정에서 시작해 챗봇 답변의 정확성을 높이기 위해 외부 지식 소스를 통합하는 방향으로 빠르게 발전해 왔다.

가장 최근의 진전은 자율 에이전트(autonomous agent)다. 자율 에이전트는 환경을 인식하고 결정을 내리며, 특정 목표를 달성하기 위해 행동을 취할 수 있는 AI 기반 애플리케이션을 말한다. 핵심은 ‘에이전시(agency)’, 즉 소프트웨어가 독립적으로 행동할 수 있는 능력이다. 기존 생성형 AI 도구가 텍스트, 이미지, 음악 등 콘텐츠 생성에 초점을 맞췄다면, AI 에이전트는 문제 해결과 복잡한 작업 실행에 더 중점을 둔다.

AI 에이전트를 간단히 정의하면, LLM과 전통적인 소프트웨어 애플리케이션이 결합돼 자율적으로 작업을 수행하는 시스템이다.

딜로이트 보고서에 따르면, 2025년에는 생성형 AI를 사용하는 기업의 25%가 AI 에이전트의 파일럿 프로젝트나 개념 증명을 시작할 것으로 예상된다. 2027년에는 이 비율이 절반까지 증가할 전망이다. 딜로이트는 “2025년 후반부터 일부 AI 에이전트 애플리케이션이 실제 워크플로우에 도입될 가능성이 있다”라며, “AI 에이전트는 지식 노동자의 생산성을 높이고 다양한 워크플로우를 더욱 효율적으로 만들 수 있다. 하지만 ‘자율성’이라는 측면에서의 광범위한 채택은 시간이 걸릴 것”이라고 언급했다.

여러 기업이 크고 작게 생성형 AI 기반 에이전트를 서둘러 선보이고 있다. 마이크로소프트는 지난 11월 M365 코파일럿에 자동화된 에이전트를 추가한다고 발표했으며, 시스코는 고객 서비스를 위한 에이전트를 지난 10월 공개했다. 같은 달, 아틀라시안은 로보(Rovo) 생성형 AI 어시스턴트를, 아사나는 에이전트를 구축할 수 있는 AI 스튜디오를 각각 발표했다.

즉, AI 에이전트는 곧 다른 생성형 AI 도구만큼 널리 사용될 가능성이 높다.

AI 에이전트의 핵심 작동 방식

AI 에이전트는 개방형 웹, 모바일 앱, OS에서 자율적으로 작업을 수행할 수 있는 특화된 에이전트를 제공한다. 대화형 웹 에이전트라는 특정 유형의 AI 에이전트는 챗봇과 유사하게 작동하지만, 조지아 공과대학교 전기컴퓨터공학 및 인터랙티브 컴퓨팅 교수 래리 헥에 따르면 단순한 텍스트 채팅을 넘어 다중 모달 대화를 통해 사용자와 상호작용한다.

헥은 “기존의 가상 비서인 시리, 알렉사, 또는 구글 어시스턴트가 제한된 생태계 내에서 작동하는 것과 달리 대화형 웹 에이전트는 사용자가 개방형 웹과 앱에서 자유롭게 작업을 수행할 수 있도록 돕는다. AI 에이전트는 다양한 분야에서 널리 사용될 것으로 예상된다. 가장 일반적인 사용례는 웹 검색 엔진의 확장 기능이나 시리, 알렉사, 구글 어시스턴트 같은 기존 가상 비서에 통합되는 형태일 것”이라고 전망했다.

AI 에이전트의 산업별 활용례

다양한 기술 기업, 클라우드 서비스 업체 등이 독자적인 AI 에이전트 솔루션을 개발하거나 전략적 인수를 통해 시장 점유율을 확대하고 있다. 신생업체의 AI 에이전트 기술을 라이선스하거나, 회사를 인수하지 않고 관련 기술을 보유한 직원만 채용하는 방식도 점차 늘어나고 있다. 딜로이트에 따르면, 지난 2년 동안 엔터프라이즈 시장을 타깃으로 하는 AI 에이전트 신생업체에 20억 달러 이상이 투자됐다.

AI 에이전트는 예상치 못한 곳에서도 이미 활용되고 있다. 예를 들어, 자율주행 차량 대부분은 센서를 통해 주변 데이터를 수집한 뒤, AI 에이전트 소프트웨어를 사용해 지도 작성 및 차량 주행을 제어한다. AI 에이전트는 자율주행 차량의 경로 최적화, 교통 관리, 실시간 의사 결정 등 여러 중요한 역할을 수행한다. 심지어 차량이 언제 유지보수가 필요한지 예측하기도 한다.

IDC 리서치의 그룹 부사장 리투 조티에 따르면, 앞으로 AI 에이전트는 자동화된 운전 경험 전반을 혁신할 잠재력을 지니고 있다. 예를 들어, 올해 초 엔비디아는 자율주행 차량을 위한 LLM 기반 에이전트인 에이전트 드라이버(Agent Driver)를 출시했는데, 이는 더 “인간에 가까운 자율주행”을 구현하는 데 초점을 맞추고 있다.

AI 에이전트는 금융, 의료 등 다양한 산업에서 폭넓게 활용되고 있다. 금융 산업에서는 고객신원확인(Know Your Customer, KYC) 애플리케이션의 일환으로 정보를 수집하고, 의료 분야에서는 대화형 설문을 통해 환자 상태를 조사하거나 처방전을 갱신하는 데 사용된다. AI 에이전트가 처리할 수 있는 작업은 매우 다양하다.

• 자율 진단 시스템 : 예를 들어, 구글의 딥마인드(DeepMind)는 망막 스캔과 같은 의료 이미지를 분석해 진단과 치료 방안을 제안한다.
• 알고리즘 기반 트레이딩 봇 : 금융 시장 데이터를 분석하고 트렌드를 예측하며, 최소한의 인간 개입으로 거래를 실행한다.
• 보험 산업의 AI 에이전트 : 여러 채널에서 핵심 데이터를 수집하고 이를 분석해 상태 업데이트를 제공한다. 가입 전 사전 질문을 처리하고 전자 승인을 제공하는 역할도 한다.
• 공급망 커뮤니케이션 에이전트 : 솔루션 제공업체의 성과를 추적하고 지연을 감지 및 대응함으로써 고객이 공급망을 최적화하고 비용이 많이 드는 중단을 최소화할 수 있도록 돕는다. 이를 통해 조달팀은 시간 소모적인 수동 모니터링과 긴급 대응 업무에서 벗어날 수 있다.
• 영업 자격 심사 에이전트 : IDC의 조티에 따르면, 이런 에이전트는 리드를 조사하고, 기회 우선순위를 정하고, 개인화된 이메일과 응답을 통해 고개 지원을 안내하며 영업팀이 우선순위가 높은 기회에 집중할 수 있도록 돕는다.
• 고객 의도 및 고객 지식 관리 에이전트 : 많은 통화량과 인력 부족, 높은 고객 기대치에 직면한 고객관리팀에서 첫 접점을 맡아 고객 질문을 파악하고, 적절한 정보를 제공하거나 다음 단계를 안내함으로써 고객에게 긍정적인 첫인상을 형성할 수 있다.

조티는 “이런 에이전트는 고객 서비스 담당자와 협력해 고객 문제를 해결하는 방법을 배우고, 지식 기반 문서를 자율적으로 추가해 팀 전체에서 최상의 실무를 확산시킨다”라고 부연했다.

개발자를 위한 AI 에이전트 도구

코그니션 랩스(Cognition Labs)는 지난 3월 데빈 AI(Devin AI)를 출시했다. 소규모 소프트웨어 엔지니어팀이 수행하던 작업을 자율적으로 처리할 수 있는 DIY AI 에이전트 도구다. 데빈은 애플리케이션을 처음부터 끝까지 구축하고 배포할 수 있으며, 코드베이스의 버그를 독립적으로 찾아 수정할 수 있다. 또한 자체 AI 모델을 학습하고 미세 조정하는 기능도 갖추고 있다.

심지어 익숙하지 않은 기술에 대한 자체 연구를 수행해 사용법을 배울 수도 있다.

AI 에이전트는 과거의 상호작용과 행동을 기억하는 기능도 갖추고 있다. IDC에 따르면, 이런 경험을 저장하고 ‘자기반성’이나 평가를 수행해 향후 행동에 정보를 제공할 수도 있다. 이런 메모리 기능을 바탕으로 AI 에이전트는 시간이 지나면서 더욱 정교한 작업을 수행할 수 있도록 연속성과 성능을 개선한다.

알파고(AlphaGo), 알파제로(AlphaZero), 오픈AI의 도타 2(Dota 2) 봇과 같은 AI 에이전트 시스템은 강화 학습을 사용해 게임이나 시뮬레이션에서 자율적으로 전략을 세우고 의사 결정을 내려 보상을 극대화하도록 훈련할 수 있다.

AI 에이전트 소프트웨어 개발 동향

소프트웨어 개발 전문 시장조사 기관 에반스 데이터(Evans Data Corp.)가 434명의 AI/ML 개발자를 대상으로 다국적 설문 조사를 실시한 결과, 생성형 AI 도구를 활용해 가장 많이 개발할 것으로 예상되는 항목은 소프트웨어 코드였으며, 알고리즘과 LLM이 뒤를 이었다. 또한 응답자들은 생성형 AI를 통해 개발 주기를 단축하고 ML 기능을 더 쉽게 추가할 수 있을 것으로 예상했다.

개발자는 생성형 AI 도구에 자연어 프롬프트나 부분적인 코드를 입력해 더 빠르고, 종종 더 정확하게 코드를 작성할 수 있다. 일부 이메일 플랫폼에서 제공하는 AI 기능처럼 코드를 실시간으로 자동 완성하도록 제안하기도 한다.

가트너에 따르면, 2027년까지 전체 전문 개발자의 70%가 AI 기반 코딩 도구를 사용할 것으로 전망된다. 이는 2023년 9월 기준 10% 미만에서 크게 증가한 수치다. 또한 가트너는 향후 3년 내에 전체 기업의 80%가 AI 보강 테스트 도구를 소프트웨어 엔지니어링 툴체인에 통합할 것으로 예상했다. 2023년 초 약 15%였던 비율에서 큰 폭으로 늘어날 전망이다.

생성형 AI를 활용한 소프트웨어 개발 도구 중 가장 널리 사용되는 도구 중 하나는 깃허브 코파일럿(GitHub Copilot)이다. 이 도구는 깃허브, 챗GPT 개발사 오픈AI, 그리고 마이크로소프트가 개발한 생성형 AI 모델로 구동된다. 공개 리포지토리에 포함된 모든 자연어 데이터를 학습한다.

깃허브는 여러 AI 에이전트를 결합해 협력적으로 코딩 작업을 해결할 수 있는 다중 AI 에이전트 시스템을 구현했다. 다중 에이전트 시스템은 여러 애플리케이션이 공통된 목적을 위해 함께 작업하도록 한다. 예를 들어, 깃허브가 올해 초 코파일럿 네이티브 개발자의 기술 프리뷰로 출시한 코파일럿 워크스페이스(Copilot Workspace)는 여러 전문 에이전트가 협력하고 소통해 단일 에이전트보다 더 효율적으로 복잡한 문제를 해결할 수 있게 한다.

깃허브 블로그에 따르면, 코파일럿 워크스페이스와 코드 스캔 자동 수정과 같은 AI 에이전트 코딩 도구는 개발자가 더 효율적으로 보안성이 높은 소프트웨어를 구축할 수 있도록 돕는다.

AI 에이전트의 과제

하지만 AI 에이전트 기술은 부정적인 결과를 초래할 수 있다. 예를 들어 AI 에이전트가 온라인 고객의 의도를 더 잘 파악할 수 있다면, 검색 및 브라우징 중 민감한 정보가 노출될 위험이 커질 수 있다. 헥 교수는 AI 에이전트가 사용자의 의도를 더 정확하게 이해함으로써 기업이 이 데이터를 더 높은 수준으로 수익화할 수 있게 될 것이라고 설명했다.

다만 헥은 “사용자 의도를 더 세밀하게 파악할 수 있는 만큼 안전장치를 마련하지 않으면 보안 및 개인정보 보호 문제가 발생할 가능성도 커질 수 있다”라고 지적했다.

AI 에이전트 도구 대부분은 안전하고 신뢰할 수 있다고 주장하지만, 이들의 안전성과 신뢰성은 사용되는 정보 출처에 따라 달라진다. 에이전트가 사용하는 데이터 소스는 제한된 기업 데이터에서부터 개방형 인터넷에 이르기까지 다양할 수 있다. 후자의 경우 생성형 AI 출력에 영향을 미치고 오류나 환각(hallucination)을 초래할 수 있다.

정보 접근에 대한 안전장치를 설정하면 관리자가 AI 에이전트의 행동에 제한을 둘 수 있다. 제니티(Zenity)의 마케팅 디렉터 앤드류 실버먼은 이런 이유 때문에 사용자 교육과 훈련은 AI 에이전트와 코파일럿의 안전한 구현과 사용에 필수적이라고 강조했다.

실버먼은 “사용자는 이런 도구를 작동하는 방법뿐 아니라 그 한계, 잠재적 편향, 그리고 보안상의 영향을 이해해야 한다”라며 “의심스러운 AI 행동을 인지하고 보고하는 방법, AI 도구의 적절한 사용례 이해, AI 시스템과 상호작용 시 데이터 프라이버시 유지와 같은 주제를 훈련 프로그램에 포함해야 한다”라고 조언했다.
dl-ciokorea@foundryco.com