탈레스, 구글 클라우드와 협력 확대…자율형 AI 에이전트 보안 강화

프랑스 방산·사이버보안 기업 탈레스(Thales)가 구글 클라우드와 협력을 확대하고, 기업의 자율형 인공지능(AI) 활용 과정에서 발생할 수 있는 보안 위협과 데이터 유출 위험에 대응하기 위한 통합 보안체계 구축에 나선다.

탈레스는 20일 구글 클라우드의 기업용 AI 플랫폼 ‘제미나이 엔터프라이즈(Gemini Enterprise)’에 자사의 ‘AI 시큐리티 패브릭(AI Security Fabric)’을 통합해 AI 에이전트의 활동을 실시간으로 감시하고 통제할 수 있는 보안 기능을 제공한다고 밝혔다.

이번 협력은 AI가 단순히 질문에 답하거나 문서를 작성하는 수준을 넘어, 스스로 판단하고 업무를 수행하는 ‘에이전틱 AI(Agentic AI)’로 발전하면서 새롭게 등장한 보안 문제에 대응하기 위한 것이다.

기존 기업용 소프트웨어가 사전에 정해진 절차에 따라 작동하는 것과 달리, AI 에이전트는 다른 시스템이나 AI 에이전트와 정보를 주고받으며 자율적으로 업무를 수행할 수 있다. 이 과정에서 승인되지 않은 데이터 접근이나 개인정보 유출, 권한을 벗어난 업무 실행 등 새로운 보안 위험이 발생할 수 있다.

탈레스 AI 시큐리티 패브릭은 이러한 위험을 줄이기 위해 AI 에이전트와 모델, 기업 데이터, 업무 도구 간 상호작용에 보안 통제 기능을 적용한다. 기업은 AI 에이전트가 어떤 정보에 접근하고 누구와 공유하며 어떤 작업을 실행할 수 있는지 정책을 설정하고 관리할 수 있다.

특히 외부 입력을 통해 AI의 행동을 조작하는 ‘프롬프트 인젝션(Prompt Injection)’ 공격을 비롯해 민감정보 유출, 부적절한 결과물 생성, 승인되지 않은 업무 실행 등을 탐지하고 차단하도록 설계됐다.

예를 들어 보험금 지급 업무를 수행하는 AI 에이전트가 허용된 범위를 벗어나 외부 개인정보를 활용하거나 승인되지 않은 결정을 내리려는 경우, 보안 정책에 따라 해당 데이터 접근이나 작업을 제한하는 방식이다.

탈레스는 이를 통해 기업이 AI 활용 범위를 확대하면서도 개인정보 보호와 내부 통제, 규정 준수에 필요한 관리체계를 유지할 수 있도록 지원한다는 방침이다.

에바 루딘(Eva Rudin) 탈레스 사이버보안 제품 수석부사장은 “기업들은 AI 어시스턴트를 넘어 자율적으로 행동하고, 의사결정을 내리며, 핵심 비즈니스 시스템과 상호작용할 수 있는 AI 에이전트로 이동하고 있다”며 “이를 위해서는 근본적으로 다른 보안 접근 방식이 필요하다”고 설명했다.

이어 구글 클라우드와의 협력 확대를 통해 차세대 기업용 AI에 필요한 보안과 거버넌스 기반을 제공하겠다고 밝혔다.

구글 클라우드 역시 기업이 AI 에이전트를 실제 업무에 도입하는 과정에서 보안과 관리체계의 중요성이 커지고 있다고 강조했다.

비니트 반(Vineet Bhan) 구글 클라우드 보안 및 아이덴티티 파트너십 디렉터는 “에이전트의 역량이 강화되고 핵심 데이터 및 시스템과 연결됨에 따라 고객들은 운영 방식 자체에 내장된 보안과 거버넌스를 필요로 한다”며 “탈레스와의 협업은 기업이 에이전틱 AI 워크플로를 보호하고 차세대 AI를 도입하는 데 필요한 추가적인 역량을 제공한다”고 말했다.

탈레스는 앞으로 AI 시스템의 데이터 접근과 에이전트 간 통신, 업무 수행 전반에 대한 가시성과 통제 기능을 제공하고, 기업이 중앙집중식으로 AI 보안 정책과 규정 준수 요건을 관리할 수 있도록 지원할 계획이다.

이번 협력은 기업의 AI 활용이 확대되는 상황에서 기술 도입뿐 아니라 AI의 자율적 행동을 어디까지 허용하고 통제할 것인지가 주요 보안·거버넌스 과제로 부상하고 있음을 보여준다.