AI 이제 공짜 아니다…기업들 비용 관리 필요

인공지능(AI) 도구를 무료 또는 저렴하게 사용하는 시대가 끝나가면서 기업들이 AI 사용 비용과 운영 위험을 체계적으로 관리해야 한다는 지적이 나왔습니다.

뉴질랜드 기술서비스 기업 Fusion5의 Kristy Brown 최고경영자는 최근 보고서를 통해 AI 에이전트의 사용이 확대되면서 기업들이 예상하지 못한 막대한 비용을 부담할 수 있다고 경고했습니다.

과거에는 AI 확산을 위해 무료 또는 정액제 서비스가 주를 이뤘지만, 이제는 사용량에 따라 비용을 지불하는 ‘토큰 기반’ 요금제가 확대되고 있습니다. Anthropic의 Claude, Google의 Gemini, Microsoft의 Copilot 등이 대표적입니다.

Brown CEO는 단순한 질문 하나뿐 아니라 AI가 답을 찾기 위해 반복적으로 추론하는 과정까지 비용으로 이어진다며, 특히 자율형 AI 에이전트가 작업을 반복하는 경우 사용자가 알아차리기 전에 상당한 비용이 발생할 수 있다고 설명했습니다.

또 AI 에이전트가 기업의 결제와 거래, 의사결정 등 중요한 업무에 직접 관여하면서 비용뿐 아니라 규제 준수와 보안, 기업 운영 리스크도 커지고 있다고 지적했습니다.

기업 내부의 데이터와 업무 지식이 제대로 정리돼 있지 않은 것도 문제입니다. AI가 필요한 정보를 찾지 못해 불필요한 검색과 추론을 반복하면 기업은 추가적인 컴퓨팅 비용을 지불하게 되고, 잘못된 정보로 인해 또 다른 손실을 입을 수 있다는 것입니다.

Brown CEO는 기업들이 AI를 단순히 도입하는 데 그치지 않고 어떻게 운영하고 통제할 것인지에 대한 관리 체계를 마련해야 한다고 강조했습니다.

이에 따라 Fusion5는 AI 에이전트를 실시간으로 모니터링하고 비용을 추적하며, 설정된 한도를 넘거나 문제가 발생할 경우 사람에게 즉시 알리는 ‘Agent Operations Centre(AOC)’를 구축하고 있습니다. 이 서비스는 올해 4분기 공식 출시될 예정이며, 뉴질랜드와 호주 지역의 기존 고객 약 1400개 기업을 대상으로 제공될 예정입니다.

한편 Tesla, Uber, Meta, Amazon 등 글로벌 기업들도 AI 에이전트 사용에 대한 직원들의 접근을 제한하는 등 비용과 생산성 사이의 균형을 관리하기 시작한 것으로 전해졌습니다.

Brown CEO는 앞으로 기업의 경쟁력은 단순히 AI를 도입하는 데 있는 것이 아니라 AI를 효율적이고 안전하게 운영하는 능력에 달려 있을 것이라고 강조했습니다.

출처: RNZ / 이미지: Moor Studio