과학기술정보통신부는 딥페이크의 부작용에 대한 대안으로 생성형 인공지능(AI)을 사용해 콘텐츠를 만들 경우 워터마크를 표기하게끔 하는 내용을 AI 기본법에 담을 것이라고 밝히면서 에스피소프트 등 워터마크 기술을 보유한 기업들이 주목받고 있다.

29일 업계에 따르면 제57회 국민생활과학기술포럼에서 진행된 생성형 AI 관련 토론에서 김남철 과기정통부 정보통신정책총괄과장은 "가짜뉴스나 딥페이크와 관련해 워터마크 제도를 (AI 기본법에) 담으려고 준비하고 있다"며 "생성형 AI라는 것을 표기하도록 하는 규정을 담아 투명성을 높이려고 한다"고 했다. 이번 포럼은 '생성형 AI의 사회적 이슈와 대응'이라는 주제로 진행됐다.
김 과장은 이어 "고위험 AI에 대해서는 신뢰성을 보장할 수 있도록 AI 안전연구소와 관련한 조항도 반영해 입법 작업을 하고 있다"고 덧붙였다.

다만 워터마크 제도에도 법의 현실적 제약이 있기 때문에 생성형 AI에 대한 개인의 인식을 높이는 것도 중요하다고 했다. 김 과장은 "텔레그램은 국내에 서버가 없어 법 위반 사실을 알아도 접근이 어렵다"며 "대응에 최선을 다하고 있지만, 기술에 따라 법이 바뀌는 어려움도 있다"고 했다.

그러면서 "학교에서부터 개인의 윤리, 문화에 따라 불법적인 것들을 받아들이지 않는 교육이 함께 가야 한다"며 "공동체에서 위험성 인식과 함께 인식 제고 사업도 병행해야 할 것으로 보인다"고 덧붙였다.

과기정통부는 이 외에도 딥페이크에 대응하기 위해 2022년부터 탐지·차단 기술 연구개발(R&D)을 하고 있다고 덧붙였다.
9월 중 출범 예정인 국가인공지능위원회의 역할에 대해서도 강조했다. 김 과장은 "이달 (위원회의) 설치 근거 규정이 공포가 됐고 민간위원 위촉 작업을 하고 있다"며 "다음달 중 위원회가 출범하면서 정부, 민간 전문가·기업이 머리를 맞대고 긍정적인 면은 발전시키고 딥페이크 같은 부작용은 안전책을 만드는 기회가 될 것"이라고 전했다.

한퍈 가상화 솔루션 전문 기업인 ㈜에스피소프트가 자체 개발한 워터마크 및 캡처 금지, 사이트 접근 차단 등 강력한 보안 기능을 탑재한 솔루션인 gDaaS v2.0가 주목을 받고 있다. gDaaS v2.0은 경쟁사 대비 15% 이상 향상된 그래픽 처리 능력을 보유하고 있으며, 국가정보원의 '보안기능 확인서'를 획득했다.

'보안기능 확인서'는 정부가 정보보호시스템 및 네트워크 장비 등 IT 제품의 안정성을 사전 검증하는 제도다. 국가와 공공기관에 제품을 공급하려는 기업이라면 '보안기능 확인서'를 필수적으로 취득해야 한다. 현재 높은 보안성을 요하는 공공금〮융기관들도 현재 'gDaaS v2.0'를 이용하고 있다.

글로벌에픽 증권팀 박진현 기자 epic@globalepic.co.kr