API 거버넌스 전문기업 소프트프릭(대표 김동철)이 멀티모달 AI 모델의 프라이버시 취약점 진단 기술과 AI 게이트웨이의 보안 제어 기술에 대한 특허권을 확보했다. 등록된 특허는 2건이며, 회사는 이 권리를 기존 취약점 진단 솔루션 파바타(F-Avata)와 개발 중인 게이트웨이 제품에 단계적으로 적용할 예정이다.
등록 특허 2건의 권리 내용
첫 번째 특허는 ‘인공지능 모델의 프라이버시 취약점 진단을 위한 멀티 모달 공격 방법’이다. 텍스트·이미지 등 다양한 입력 형태를 활용한 공격 시나리오로 민감정보가 노출될 가능성을 점검하는 기술이다. 텍스트 기반 진단만으로는 확인하기 어려운 멀티모달 AI의 취약점을 사전에 파악하는 것이 목적이다. 이 기술은 AI 모델 자체의 안전성을 검증하는 AI 보안 테스팅(AI Security Testing) 분야에 활용할 수 있다.
두 번째 특허는 ‘AI 게이트웨이가 실행하는 프롬프트 및 시스템 행위에 대한 보안 제어 방법’이다. AI 게이트웨이가 프롬프트와 시스템 이용 행위를 보안정책에 따라 통제하는 방식으로, AI 에이전트의 API·데이터·외부 도구 접근 권한과 실행 행위를 관리하고 추적하는 내용을 담았다.
소프트프릭은 지난해 AI 프라이버시 취약점 진단과 관련해 5건의 특허를 출원했고, 첫 번째 등록 특허는 이 가운데 하나다.
필요성: 생성형 AI 도입 확대
기업의 생성형 AI 도입이 늘고 있다. AI 에이전트가 기업 내부 데이터와 업무 시스템을 이용하는 만큼, 민감정보가 새어 나갈 가능성을 살피고 에이전트의 실행 행위를 통제해야 한다는 필요가 커졌다. 두 특허는 이 필요에 대응하는 기술이다.
김동철 소프트프릭 대표는 공격자의 AI 활용 상황을 이렇게 설명했다. “공격자가 AI로 취약점을 찾고 공격을 자동화하면서 사람 중심의 대응만으로는 공격의 속도와 규모를 따라가기 어려워지고 있다”는 것이다. 이어 “방어에도 AI를 적극 활용하는 동시에 기업이 사용하는 AI의 안전성을 검증하고 접근과 행위를 통제해야 한다”고 말했다.
사업화 경로: 파바타와 AI 게이트웨이
소프트프릭은 프라이버시 취약점 진단 기술을 파바타의 AI 보안 진단 기능으로 개발하고 있다. 소프트프릭이 API 관리·보안 분야에서 쌓은 인증·인가·접근제어 기술을 기반으로 기존 API 게이트웨이 기능을 LLM 게이트웨이·AI 게이트웨이로 확장하는 작업도 진행 중이다. 게이트웨이 쪽에서는 보안 제어 기능을 구현하면서 제품화를 위한 기술 검증을 병행하고 있다.
회사는 등록 특허 기술을 파바타와 개발 중인 게이트웨이에 단계적으로 적용할 계획이다. 검증이 끝난 기능부터 기존 솔루션과 연계한다는 방침이다.
후속 출원과 체계 구축
등록이 아닌 출원 단계의 기술도 이어지고 있다. LLM이 보안 가이드라인을 분석해 점검 규칙과 진단 스크립트를 자동 생성하는 기술은 특허를 출원했으며, 파바타와의 연계를 추진하고 있다. 위험도별 보호 정책을 조정하는 기술과 생성형 AI 모델의 재학습·증류·미세 조정을 추적하는 워터마킹 기술 등 모델 보호 관련 특허 출원도 계속하고 있다.
소프트프릭은 API 게이트웨이, 취약점 진단, 계정관리, 접근제어 솔루션에 AI 보안을 결합해 모델 검증부터 에이전트 통제, 보안 자동화까지 아우르는 AI 보안 및 API 거버넌스 체계를 구축할 계획이다.