최근 1년 사이 생성형 AI와 AI 에이전트의 활용이 빠르게 확산되고 있다. 실제로 데이터이쿠 고객의 20% 이상이 생성형 AI를 자사 비즈니스와 데이터 워크플로우에 통합했으며, 고객당 1,000건 이상의 활성 활용 사례를 가진 프로젝트도 다수 있는 것으로 나타났다.
그러나 기업들이 AI 에이전트를 급하게 도입하면서, 에이전트가 IT 통제 없이 운영되거나, 품질이 일관되지 않으며, 여러 조직에 무분별하게 퍼지는 비효율적인 아키텍처가 생성되는 경우가 많다. 이러한 문제를 해결하기 위해 데이터이쿠는 통합 AI 플랫폼 내 에이전트 기능을 엔터프라이즈 환경에 맞게 고도화했다. 데이터이쿠 AI 에이전트는 신뢰할 수 있는 데이터를 기반으로 작동하며, 기존 운영 워크플로우와 통합되고, 다양한 AI 입력과도 유기적으로 연결된다. 또, 기업의 핵심 자산 수준으로 안전하게 관리할 수 있도록 설계됐다.
플로리안 두에토(Florian Douetteau) 데이터이쿠 CEO는 “AI는 원초적인 기술이며, 이제 기업들이 AI를 주도적으로 통제해야 할 때다. 지난 20년간 스노우플레이크(Snowflacke), 워크데이(Workday), SAP 같은 시스템을 기반으로 한 엔터프라이즈 애플리케이션을 AI 기반의 애플리케이션으로 전환해야 할 시점이 온 것이다. 이를 위해서는 분석, 모델, 에이전트를 유기적으로 결합하는 것이 필수이며, 데이터이쿠는 이를 통합적으로 지원하는 유일한 플랫폼이다”고 밝혔다.
이어 “기업들은 이제 에이전트를 탐색하는 초기 단계를 넘어, 실제 운영 단계에 접어들고 있다. 이 과정에서 에이전트의 무분별한 확산을 막고, 중앙 통제가 가능하며, 성능을 지속적으로 최적화하는 동시에 기존 IT 자산과 통합해 운영하는 것이 중요하다는 사실을 점차 깨닫게 될 것이다. 데이터이쿠는 변화하는 시장 요구에 맞춰 통합 AI 플랫폼의 기능을 지속해서 강화하고 있다”고 덧붙였다.
중앙 집중형 기능으로 AI 에이전트 거버넌스 강화
많은 기업들은 이미 조직 전반에 걸쳐 정비되지 않고 통제되지 않은 에이전트 이니셔티브가 난립함에 따라 그 부작용을 체감하기 시작하고 있다. 데이터이쿠는 이러한 문제를 해결하기 위해, 기술 수준에 관계없이 사용자들이 AI 에이전트를 중앙에서 효율적으로 생성하고 관리할 수 있도록 지원한다. 비기술적 비즈니스 사용자를 위한 노코드 기반 ‘비주얼 에이전트(Visual Agent)’와 개발자를 위한 풀코드 기반 ‘코드 에이전트(Code Agent)’를 모두 동일한 플랫폼 내에서 사용할 수 있으며, 생성 방식에 상관없이 통합된 거버넌스를 구현할 수 있다.
거버넌스를 보장하는 핵심적인 기능에는 에이전트에 사용되는 툴을 중앙에서 검증하는 ‘관리형 에이전트 툴(Managed Agent Tool)’, 조직 전체에 에이전트 활용 사례를 통합 관리하고, 비즈니스 가치와 리스크를 체계적으로 평가할 수 있는 ‘생성형 AI 레지스트리(GenAI Registry)’, 운영 환경에 배포하기 전 리스크를 점검할 수 있는 ‘위험 모니터링 승인(Sign-off for risk monitoring)’ 등이 있다.
데이터이쿠 LLM 메시 아키텍처(Mesh Architecture) 기반의 안전한 에이전틱 오케스트레이션(Agentic Orchestration)
에이전트 생태계는 AI 모델이 급격히 진화하고 비용을 모니터링하기 어렵기 때문에 보안 및 거버넌스 리스크가 증가하고 있다. 이에 따라 IT팀은 자체 보호장치를 구축할지, 특정 보안 업체를 선택할지, 혹은 실험을 자유롭게 허용할지를 두고 선택의 기로에 놓여 있으며, 각 선택지마다 확장성과 제어에 따른 위험을 감수해야 하는 상황에 놓이게 된다.
데이터이쿠는 IT팀이 대규모로 에이전트를 오케스트레이션 할 수 있는 다양한 기능을 제공한다. ‘데이터이쿠 LLM 메시(Dataiku LLM Mesh)’는 오픈AI(OpenAI), 앤스로픽(Anthropic), 미스트랄(Mistral) 등 주요 상용 모델은 물론, 베드락(Bedrock), 애저(Azure), 제미나이(Gemini) 등 클라우드 서비스와 라마(Llama), 딥시크(DeepSeek) 등 오픈소스 모델까지 통합적으로 관리할 수 있다.
또, 기업 정책에 따라 보호책을 유연하게 정의하고 적용할 수 있는 ‘세이프가드(Safe Guard)’가 있으며, 조직 내 에이전트 접근을 단일 인터페이스에서 통합 관리할 수 있는 ‘에이전트 커넥트(Agent Connect)’를 통해, 단일 에이전트에게 요청을 분배하거나 여러 에이전트를 활용해 요청을 분배하도록 설정할 수 있다.
AI 에이전트는 본질적으로 변화가 잦고 불안정한 특성이 있기 때문에, 예기치 못한 오류가 발생하거나 시간이 지나면서 성능이 저하될 수 있다. 따라서 기업들은 에이전트 성능을 지속적으로 테스트하고 최적화하는 운영 문화를 갖춰야 한다. 데이터이쿠는 이를 지원하기 위해 고도화된 관찰 및 성능 모니터링 기능을 제공한다.
‘트레이스 익스플로러(Trace Explorer)’는 에이전트의 의사결정 과정, 입출력 흐름, 오류 원인 등을 투명하게 추적하고 디버깅할 수 있게 하고, ‘퀄리티 가드(Quality Guard)’는 평가형 LLM-as-a-judge 방식, 테스트용 평가 세트, 골든 데이터 세트 등을 활용해 성능을 지속적으로 점검하고 검증할 수 있게 한다. 또, ‘코스트 가드(Cost Guard)’는 실시간 사용량 추적과 예산 관리, 내부 비용 배분 등을 통해 효율적인 운영을 가능하게 한다.
비즈니스와 연결되는 에이전트
데이터이쿠는 자사의 독보적인 에이전트 AI 접근 방식으로 스노우플레이크, 데이터브릭스(Databricks), 마이크로소프트, AWS, 구글 등 주요 클라우드, AI 모델 공급사, 데이터 플랫폼과 연동하여, AI 에이전트가 기업이 데이터를 보유한 모든 환경에서 에이전트가 원활히 작동하도록 지원한다.
이러한 기능들은 데이터이쿠의 통합 AI 플랫폼 내에서 통합적으로 제공되므로, 고객은 기존 데이터 파이프라인, 머신러닝 최적화(MLOps), 모델 거버넌스 프로세스에 연결할 수 있고, 중복 작업을 줄여 ROI(수익률) 향상에 기여한다.
데이터이쿠 AI 에이전트는 현재 바로 사용 가능하며, 자세한 내용은 공식 웹사이트에서 확인할 수 있다.
[글로벌에픽 안재후 CP / anjaehoo@naver.com]
<저작권자 ©GLOBALEPIC 무단 전재 및 재배포 금지>
