제품 소개
에이전트고 가드(AgentGo Guard)는 인공지능(특히 생성형 AI와 LLM)이 윤리적·법적 규정을 준수하고, 안전한 범위 내에서 작동하도록 입력과 출력을 실시간으로 감시·통제하는 보안 및 관리 시스템입니다.
에이전트고 가드의 특장점
에이전트고 가드(AgentGo Guard)는 AI 시스템의 신뢰성과 책임성을 확보하기 위해 안전한 이용 경계를 규제하는 정책 및 기술적 통제 장치입니다.
| 구분 | 내용 |
|---|---|
| 1. 계층화된 방어지원 | - 프롬프트 인젝션 탐지, 악성 패턴 필터링, 개인정보 비식별화, 금칙어 필터링,
유사도를 활용한 반복공격 방어 제공 - Guardrail LLM과 정규식, NLP를 활용한 전략적 방어 기능 제공 |
| 2. 모니터링 및 정책관리 | - 대시보드, 알림으로 관리자에게 즉각적인 알림과 로그를 통한 감사기능 제공 - Guardrail Set을 활용한 체계적인 접근방식 제공 |
| 3. 테스트 및 시뮬레이션 | - 다양한 공격과 추출공격에 대한 테스트 및 가드레일 효과 검증 방안 제공 - 계획-실행-점검-조치(Plan-Do-Check-Act) 방안을 위한 시뮬레이터 제공 |
| 4. 쉬운 도입과 편리한 구성 | - REST-API를 통한 효율적인 구성으로 기존 시스템과 신규 시스템에 가드레일 기능 제공 - 도커(Docker), K8s 등 다양한 환경 구성 가능 |
| 5. 환경변화에 따른 지속적 고도화 지원 | - AI 보안 위협의 변화와 진화에 대응하는 보안기능 확대와 유지보수 가능 - 새로운 보안과 위협에 대응하는 AI 방어체계 |
시스템 구성
에이전트고 가드의 가장 큰 장점은 바로 뛰어난 범용성과 연동성입니다. 간단하게 API 형태로 연동하여 즉시 보안 체계를 구축할 수 있습니다. 악의적인 공격을 통한 AI 시스템의 오작동과 적대적 공격을 차단하고, AI의 안전 가이드라인을 우회하여 편향되거나 위험한 답변을 유도하는 행위를 실시간으로 감시합니다.
가드레일 보안 구성
AgentGo Guard는 플랫폼 기반의 최적화된 단계별 보안을 지원합니다. 입력부터 출력 처리까지 여러 단계를 통제하여 가드레일 효과적인 관리는 입력 전처리, 모델 단계의 입력 검수, 출력 후 데이터 검수 및 비식별화로 나누어 계층적으로 관리 가능합니다.
| 구분 | 대상 | 주요 내용 |
|---|---|---|
| 입력 | 입력 필터 | 사용자의 입력을 모니터링하여 (증오, 폭력, 자해 등) 내용을 실시간으로 탐지합니다. • 개인정보 보호 (비식별) • NLP 기반 금칙어 / 패턴 식별 |
| 가드레일 | 역할극, 인코딩 문자열 등 우회 패턴을 식별하여 악의적인 프롬프트를 차단합니다. | |
| 모델 | 콘텐츠 가드레일 | 유해하거나 해로운 입력을 차단하여 일관되고 예측 가능한 행동을 지원하고, 편향성 감소를 위한 보안 체계를 제공합니다. |
| 출력 | 가드레일 | 유해하거나 해로운 부적절한 답변을 차단합니다. |
| 출력 필터 | 유해 답변 생성 시 즉시 탐지하여 대체 텍스트로 수정하거나 차단합니다. | |
| 로그 암호화 | 로그 데이터 암호화, 비식별화 적용 및 감사 기능을 제공합니다. • 단체 / 개인화된 암호화 적용 가능 • AES-256 암호화 적용, 보안성 향상 |
기대효과
에이전트고 가드(AgentGo Guard)는 단순한 보안 도구를 넘어, 기업의 AI 자산 효율성과 더불어 AI의 안전성과 신뢰성을 확보하기 위한 필수적인 거버넌스 인프라입니다.
| 구분 | 내용 |
|---|---|
| 레거시 데이터 보호 및 보안 (Data Security) |
민감정보 유출방지
AI 서비스가 데이터에 접근할 때, 주민등록번호, 결제 정보 등 개인정보(PII)나 기업 기밀이 외부로 노출되지 않도록 필터링하여 데이터를 보호합니다. |
| 시스템 안정성 유지 (Data Integrity & Stability) |
비정상적 명령(Prompt Injection) 차단
사용자가 AI를 속여 레거시 시스템의 DB를 삭제하거나(SQL Injection과 유사한 위험), 시스템 설정을 변경하는 악의적인 명령을 내리지 못하도록 방어합니다. |
| 규제 준수 및 거버넌스 (Compliance) |
리스크 방지
엄격한 규제를 받는 산업군(금융, 의료, 공공 등)에서 AI 도입 시 발생할 수 있는 컴플라이언스 위반을 실시간으로 감시하고 기록(Auditing)합니다. |
FAQ
Q.시중 가드레일 솔루션과 무엇이 다른가요?
에이전트고 가드는 적용 시스템의 코드 수준의 변경 없이 보안정책 변경만으로 즉각적인 다층적 방어(Layered Defense) 구성 및 적용이 가능합니다.
Q.CSP에서 제공하는 가드레일 기능과 어떻게 차별화되나요?
CSP에서 제공하는 가드레일은 특정 클라우드 벤더나 특정 LLM에서만 원활하게 작동합니다. 만약 내부 폐쇄망(On-Premise)이라면 적용이 매우 까다롭습니다. 또한 LLM 입력, 출력 시 모델자체의 기본 안전필터, 정책에 의존하며 정책적인 방어체계 구축이 불가능합니다.
| 구분 | CSP 가드레일 | 에이전트고 가드 |
|---|---|---|
| 종속성 및 인프라 | 클라우드 인프라 종속성 (자사 LLM 및 파이프라인 중심) |
독립형 솔루션 (인프라 제약 없음) |
| 방어 아키텍처 | 모델 레이어 기반 필터링 및 규칙 (규칙 변경 및 추가 불가) |
규칙(금칙어·정규식) + 문맥 분석 + LLM 기반 등 다층 방어 체계 |
Q.에이전트고와 에이전트고 가드는 무슨 차이가 있나요?
·AgentGo : 기업용 멀티 AI 에이전트 관리 플랫폼입니다. 챗봇, 문서 요약, 데이터 분석 등 각기 다른 역할을 하는 AI들을 유기적으로 연결해 실제 업무(프로세스 자동화)를 구현합니다.
·AgentGo Guard : AI의 입력과 출력 과정에서 발생하는 보안 위협을 전문적으로 방어하는 '보안 특화 솔루션'입니다.
| 구분 | 에이전트고 | 에이전트고 가드 |
|---|---|---|
| 특징 | 기업용 멀티 AI 에이전트 통합 관리 플랫폼 (MAMP) |
AI 보안 솔루션 (AI 가드레일) |
| 주요 역할 | Agentic AI 개발, 업무자동화 등 운영, 통제의 전과정을 보안 정책하에 통합 관리 | AI 입출력 시 프롬프트 인젝션·탈옥 차단, 민감정보 비식별화 |
Q.어떤 기업이 이 제품을 도입해야 하나요?
AI 서비스를 운영 중이거나 반드시 필요한 영역은 크게 B2C 대고객 서비스, 규제 및 보안 민감 산업, 개인정보 취급 서비스 등 외부에 데이터 유출, 차단이 필요한 서비스입니다.
Q.폐쇄망을 지원하나요?
일반 퍼블릭 클라우드는 물론, 강력한 보안이 요구되는 사내 폐쇄망 환경에서도 완벽하게 구동이 가능합니다.
더 다양한 AgentGo Guard에 대한 정보가 필요하신가요?
아래 서비스들을 방문해서 AgentGo Guard를 검색해보세요.