생성형AI보호 · DeepGenGuard

생성형 AI의 입력부터 답변까지,
전주기를 지킵니다.

DeepGenGuard는 N2SF에 대응하는 생성형 AI 보안 방화벽입니다.

  • 입력

    악성 프롬프트 차단 AI에 닿기 전에 막습니다.

  • 검색

    권한 기반 검색 권한에 맞는 문서만 검색·답변에 쓰입니다.

  • 추적

    전 과정 추적 질문·검색·답변이 어떻게 이어졌는지 확인합니다.

개념 예시 · 실제 탐지 결과는 정책과 환경에 따라 다릅니다.

New threats

기존 보안으로는 막기 어려운
새로운 위협

LLM·RAG 기반 AI는 사용자 입력과 내부 데이터를 결합해 답을 만듭니다. 입력·검색·생성의 모든 과정이 공격 표면이 됩니다.

  • 권한 없는 정보 접근

    권한이 없는 기밀문서가 검색·열람됩니다.

    사용자 권한에 따라 검색 범위를 제한합니다.

  • 개인정보·민감정보 유출

    질문·첨부파일·AI 답변을 통해 정보가 새어 나갑니다.

    질문·파일·답변 속 개인정보를 탐지해 보호합니다.

  • 악의적인 질문과 보안 우회

    조작된 질문으로 보안을 무력화하고 정보를 빼냅니다.

    우회 의도를 탐지해 AI 전달 전에 차단합니다.

  • 사고 원인 확인의 어려움

    답변의 출처와 처리 과정을 확인하기 어렵습니다.

    답변 근거와 보안정책 적용 이력을 추적합니다.

Core features

다섯 가지 핵심 기능

질문·첨부파일·AI 답변 전 과정의 정보 유출과 보안 위협을 사전에 차단합니다.

  • 입출력 정보 보호

    질문·첨부파일·AI 답변 속 개인·민감정보를 탐지해 마스킹·비식별화·출력 차단합니다.

  • 악성 질문 차단

    질문의 의도를 분석해 Prompt Injection·Jailbreak를 AI 전달 전에 실시간 차단합니다.

  • 권한 기반 통제

    RBAC 연동으로 사용자 권한과 보안등급에 허가된 문서만 검색·답변에 활용합니다.

  • 전과정 통합관제

    질문·검색·답변·출력 전 과정의 처리·보안 이력을 하나의 대시보드에서 추적합니다.

  • 데이터 무결성

    데이터 포이즈닝을 탐지·격리하고, SBOM으로 AI 모델·데이터의 출처와 변경 이력을 관리합니다.

Protection flow

양방향 보호와 AI 공급망 관리

  1. 01사용자 입력질문·문서·이미지
  2. 02입력 보안문맥 기반 개인·민감정보 탐지 · 멀티모달 통합 분석 · Prompt Injection·Jailbreak 차단 · 개인·민감정보 마스킹
  3. 03생성형 AILLM · RAG
  4. 04출력 보안부적절한 출력 검증·정제 · 내부 시스템 정보 노출 방지 · 악성 코드 실행 차단 · 유해 콘텐츠 필터링
  5. 05안전한 답변검증·정제된 정보 제공

Platform architecture

N2SF 대응형 생성형 AI 통합 보안 플랫폼

Layer 02 · Core

API/Proxy 기반 통합 보안 게이트웨이

    레이어를 선택하면 구성 요소를 확인할 수 있습니다.

    N2SF · Guidelines

    N2SF와 AI 보안 가이드라인 대응

    국가 망 보안체계(N2SF) 보안 가이드라인

    • C/S/O 등급에 따른 정보·시스템 보안통제

      보안등급·사용자 권한 기반 접근정책 연계

    • 낮은 등급의 생성형 AI로 중요정보 이동 방지

      입력 데이터 탐지·차단·마스킹

    • 보안등급이 다른 시스템 간 연계구간 보호

      API/Proxy 기반 생성형 AI 보안 게이트웨이

    • 생성형 AI의 정보 생산·저장 과정 통제

      AI 응답 검증 및 내부정보 노출 차단

    • 보안통제 적용 결과 기록·확인

      질문·검색·답변·정책 적용 이력 추적

    • 자체 보안대책 운영 현황 관리

      통합 관제 대시보드 및 감사 리포트

    OWASP Top 10 for LLM Applications 2025

    • LLM01프롬프트 인젝션
    • LLM02민감 정보 유출
    • LLM03공급망 취약점
    • LLM04데이터 및 모델 포이즈닝
    • LLM05부적절한 출력 처리
    • LLM06과도한 권한 부여
    • LLM07시스템 프롬프트 유출
    • LLM08벡터 및 임베딩 취약점
    • LLM09허위 정보
    • LLM10무제한 소비

    진하게 표시된 항목이 DeepGenGuard 주요 대응 영역입니다. 출처: OWASP

    AI 보안 가이드라인별 대응 보기
    개인정보보호위원회 · 생성형 인공지능 개발·활용을 위한 개인정보 처리 안내서7
    핵심 요구사항충족 내용
    AI 입력 데이터 내 개인정보 수집 최소화Prompt 입력 데이터 개인정보 탐지 및 마스킹(DLP)
    AI 출력 결과 개인정보 노출 방지LLM 응답 개인정보 탐지 및 출력 필터링
    AI 학습 데이터 개인정보 보호학습 및 참조 데이터 무결성 검증 및 포이즈닝 방어
    개인정보 처리 과정 기록 및 관리AI 보안 로그 수집 및 감사 추적
    AI 시스템 접근 및 권한 통제VectorDB 기반 데이터 접근 통제
    개인정보 유출 및 오남용 모니터링AI 보안 관제 대시보드 기반 실시간 모니터링
    개인정보 포함 데이터 사전 비식별 처리NER/LLM 기반 개인정보 자동 탐지 및 익명처리
    국가정보원 · 국가·공공기관 AI 보안 가이드북7
    핵심 요구사항충족 내용
    AI 시스템 입력 데이터 보안 관리Prompt 입력 데이터 개인정보 탐지 및 필터링
    AI 모델 및 학습 데이터 무결성 확보데이터 포이즈닝 탐지 및 데이터 무결성 검증
    AI 시스템 접근 통제 및 권한 관리VectorDB 기반 데이터 접근 제어
    AI 서비스 출력 결과 보안 관리LLM 응답 출력 검증 및 정책 기반 필터링
    AI 시스템 로그 및 감사 체계 구축AI 보안 로그 수집 및 감사 추적 기능
    AI 공급망 및 외부 구성요소 보안 관리AI 모델·데이터 의존성 관리 SBOM
    AI 서비스 운영 보안 모니터링AI 보안 관제 대시보드 기반 실시간 모니터링
    과학기술정보통신부 · AI 투명성 확보 가이드라인5
    핵심 요구사항충족 내용
    AI 시스템 운영 과정 기록 및 관리AI 보안 로그 수집 및 감사 추적 기능
    AI 서비스 동작 과정 모니터링AI 보안 관제 대시보드 기반 실시간 모니터링
    AI 시스템 위험 관리 체계 구축프롬프트 인젝션 탐지 및 데이터 포이즈닝 방어
    AI 서비스 운영 책임성 확보AI 시스템 접근 통제 및 정책 기반 관리
    AI 시스템 운영 투명성 확보VectorDB 접근 이력 및 보안 이벤트 기록
    과학기술정보통신부 · 인공지능 보안 안내서7
    핵심 요구사항충족 내용
    AI 입력 데이터 보안 관리Prompt 입력 데이터 개인정보 탐지 및 필터링
    AI 모델 학습 데이터 무결성 확보데이터 포이즈닝 탐지 및 데이터 무결성 검증
    AI 서비스 출력 결과 보안 관리LLM 응답 출력 검증 및 정책 기반 필터링
    AI 시스템 접근 통제VectorDB 기반 데이터 접근 제어
    AI 시스템 로그 및 감사 관리AI 보안 로그 수집 및 감사 추적 기능
    AI 서비스 운영 보안 모니터링AI 보안 관제 대시보드 기반 실시간 모니터링
    AI 모델 및 데이터 공급망 보안AI 모델·데이터 의존성 관리 SBOM
    공통 핵심 요구사항 한눈에 보기9
    핵심 요구사항DeepGenGuard 대응 기능
    프롬프트 인젝션 및 악성 입력 공격 방어프롬프트 의도 분석 기반 Prompt Injection 차단 · Adversarial Prompt 패턴 기반 필터링
    AI 입력·출력 과정의 개인정보 및 민감정보 보호NER·LLM 기반 개인정보 자동 탐지 · Prompt/Answer 개인정보 탐지 및 마스킹(DLP)
    AI 학습 및 RAG 참조 데이터 무결성 확보데이터 무결성 검증 및 포이즈닝 탐지 · 데이터 출처 검증 기반 데이터 관리
    LLM 응답 출력 보안 및 부적절한 출력 방지출력 데이터 검증 및 정책 기반 필터링 · 내부 시스템 정보 및 프롬프트 노출 차단
    AI 시스템 접근 통제 및 데이터 접근 보안VectorDB 기반 데이터 접근 제어 · 역할 기반 접근 통제(RBAC)
    AI 시스템 로그 및 감사 추적 관리AI 보안 로그 수집 및 감사 추적 기능 · 보안 이벤트 기록 및 분석
    AI 서비스 운영 보안 모니터링AI 보안 관제 대시보드 기반 실시간 모니터링 · 이상 행위 탐지 및 대응
    AI 모델 및 데이터 공급망 보안AI 모델·데이터 의존성 관리 SBOM · 모델 및 데이터 변경 이력 관리
    외부 시스템 연계 및 API 보안 관리API/Proxy 기반 AI 보안 게이트웨이 · 외부 시스템 연계 요청 통제

    Use cases

    산업별 활용 시나리오

    • 공공

      행정 업무용 생성형 AI

      활용 업무
      행정문서 검색, 민원답변, 업무지침 안내, 정책·법령 검토
      효과
      N2SF 보안등급·사용자 권한별 행정자료 활용, 민원인 정보 유출 방지
    • 금융

      상담·심사 지원 AI

      활용 업무
      고객상담, 계약내용 검토, 대출·보험 심사, 규정 검색
      효과
      고객·금융정보 노출 방지, 권한 기반 접근과 감사 대응
    • 의료

      진료 지원 AI

      활용 업무
      진료기록 요약, 검사자료 검색, 의료지침 안내, 의료문서 작성
      효과
      환자 정보 보호, 의료진 역할별 자료 접근 통제
    • 일반 기업

      사내 업무 AI

      활용 업무
      인사 문의, 계약·법무 검토, 기술문서 검색, 영업자료 작성
      효과
      부서·직급·프로젝트별 문서 접근 통제, 안전한 전사 활용

    우리 기관의 생성형 AI, 안전하게 운영하고 계신가요?

    사용 중이거나 도입 예정인 LLM·RAG 환경과 N2SF 적용 여부를 알려 주시면 적합한 구성을 안내해 드립니다.

    메일로 문의하기 02-365-3030

    info@aideep.ai · (13840) 경기도 과천시 과천대로7나길 25, 케이사인빌딩 11층 · 오시는 길

    전화 문의 메일 문의