AI 및 데이터 보안 전문 기업 S2W(대표 서상덕)가 19일 기업 맞춤형 생성형 AI 플랫폼 ‘SAIP(S2W AI Platform)’에 새로운 보안 기술 ‘시큐리티 가드레일(Security Guardrail)’을 적용했다고 밝혔다. 이를 통해 AI 모델의 데이터 운용 안정성을 강화하고, 보안 위협을 최소화하기 위한 구체적인 대응 방안을 제시했다.

SAIP는 기업의 보안 요구와 사용 목적에 맞춘 생성형 AI 플랫폼으로, 대규모 언어 모델(LLM)과 지식그래프 기술을 활용해 설계됐다. 이 플랫폼은 제로 트러스트(Zero Trust) 기반으로 개발되어, 특정 도메인에 특화된 정보와 데이터를 사용자에게 제공한다. 특히, 기업 내부 데이터 보호와 생산성 향상을 목표로 한다.

‘시큐리티 가드레일’로 보안 문제 대응

최근 생성형 AI가 데이터 운용 효율성을 높이는 동시에, 데이터 유출과 악의적 활용 같은 보안 문제가 발생할 가능성이 제기되고 있다. S2W는 이런 문제를 해결하기 위해 시큐리티 가드레일을 적용했다.

이 기술은 다음과 같은 기능을 포함한다:

-데이터 검증 및 정제: AI 학습 데이터 세트를 검토하고, 민감한 정보를 사전에 제거해 정보 유출 위험을 줄인다.

-프롬프트 인젝션 방지: AI 모델이 악의적 프롬프트에 의해 잘못된 응답을 생성하지 않도록 설계됐다. 모델 응답은 사전 정의된 규칙에 따라 검증된다.

-비윤리적 응답 필터링: 범죄, 비윤리적, 또는 정치적 편향 내용을 포함하지 않도록 응답을 필터링한다.

-정기적 보안 점검: 내부 보안 분석 조직의 점검 보고서를 통해 플랫폼 취약점을 파악하고 개선한다.

S2W는 SAIP와 시큐리티 가드레일 기술을 금융, 제조, 유통 등 다양한 산업에 적용하고 있으며, 데이터 안정성을 중시하는 공공 및 민간 기관과 협업을 진행하고 있다.

서상덕 대표는 “AI와 데이터를 안전하게 활용할 수 있는 환경을 구축하기 위해 지속적으로 기술을 개발하고 고도화하고 있다”고 말했다.

S2W는 자사의 AI 플랫폼 기술력을 국내외 특허와 학술 논문을 통해 인정받고 있다. 이를 기반으로 산업별 맞춤형 솔루션을 제공하며 시장 확장을 이어가고 있다.

이번 기술 적용은 생성형 AI 플랫폼의 보안성과 신뢰성을 강화하려는 시장의 요구에 부응한 것으로 평가된다. S2W는 앞으로도 관련 기술 개발과 협력 범위를 넓혀갈 계획이다.

★정보보안 대표 미디어 데일리시큐 /Dailysecu, Korea's leading security media!★