2025년 7월호

최근 AI 기술은 단순한 챗봇이나 자동화 수준을 넘어, 기업의 데이터와 결합해 실제 비즈니스 가치를 창출하는 단계로 진화하고 있습니다. 그중 "RAG(Retrieval-Augmented Generation)"는 사내·외 방대한 데이터에서 필요한 정보를 검색하고, 이를 AI가 이해하고 가공해 신뢰성 있는 답변과 인사이트를 제공하는 기술로 주목받고 있습니다.

RAG를 활용하면 AI가 사전에 학습하지 않은 데이터도 실시간으로 반영함에 따라 사내 지식 자산의 활용을 극대화할 수 있어 디지털 혁신과 생산성 향상을 가속화할 수 있습니다. 이번 뉴스레터에서는 RAG의 개념과 도입 시 기대효과를 소개하고, 이 기술을 적용하여 개발되고 있는 한솔PNS의 AI 서비스에 대해 간략하게 알려드리겠습니다.

[한솔그룹 AI 서비스(프로젝트명 Atlas) 구성도]
*MCP는 4월 CIO 레터 참고

AI 기술이 빠르게 발전하는 가운데, 생성형 AI의 한계를 보완하고 보다 정확하고 신뢰성 높은 결과를 제공하기 위한 혁신적인 방법 중 하나가 바로 RAG(Retrieval-Augmented Generation)입니다.

RAG를 번역하면 "검색 증강 생성"으로, 학습 데이터에만 의존하여 최신 정보나 특정 분야의 전문적인 지식에 대해서는 부정확하거나 환각 현상이 발생했던 전통적인 생성형 AI와 달리 외부 지식에서 관련 정보를 검색한 뒤 그 정보를 활용해 결과를 생성합니다. 이 방식은 사람이 질문을 받고 모르는 내용은 자료를 찾아본 후 대답하는 것과 유사하며, 2020년 페이스북(현재의 Meta)이 처음 소개한 개념으로 생성형 모델과 검색 시스템을 결합하여 응답의 정확도와 신뢰성을 높이는 데 목적이 있었습니다.

1. RAG의 작동 원리

• ① Retrieval (검색) : 사용자의 질문을 바탕으로, 외부 데이터베이스(예: 위키피디아, 기업 내부 문서 등)에서 관련된 정보를 찾아냅니다.
• ② Augmentation (증강) : 검색된 정보를 생성형 모델의 입력에 추가합니다.
• ③ Generation (생성) : 입력된 정보를 사용하여 생성형 모델이 자연스러운 문장으로 응답을 생성합니다.

2. RAG 사용 시 얻을 수 있는 이점

• • 정확성 향상 : 최신 정보나 내부 데이터를 기반으로 답변을 생성하여 정보의 정확성 향상
• • 신뢰성 증대 : 단순 예측이 아니라, 실제 데이터를 기반으로 답변하여 신뢰도 향상
• • 환각 현상 감소 : 부정확하거나 존재하지 않는 정보를 생성하는 환각 현상을 줄여 더욱 안정적인 서비스 제공
• • 투명성 확보 : 답변의 근거가 되는 정보를 함께 제시하여 사용자가 정보의 출처를 확인

현재 한솔PNS가 그룹 임직원들에게 서비스하기 위해 개발하고 있는 『AI Atlas』는 대내/외 정보와 데이터, 문서를 연결하고 통합하는 단일지식체계를 지향하고 있습니다. 이를 위하여 이번에 소개한 RAG 기술을 포함하여 아래 4개 핵심 기능을 구현할 계획입니다.

• • 지식 응답 기능 : RAG 기반 질의 응답 기능으로 향후 "문서중앙화"까지 연동
• • 보안·통제 기능 : DRM 연동하여 암호 해제 작업 없이 활용, 조직/역할 기반 접근 통제
• • 업무 실행 기능 : ERP, MES 등 기존 시스템에 명령 전달 및 자동 실행
• • Agent 서비스화 : 자주 사용하는 작업의 Agent 자동 생성 및 공유, 협업 체계

『AI Atlas』는 '25년에 문서 기반의 도메인 특화된 AI 서비스를 출시할 예정이며, 이후 Agent 포탈 서비스 및 현장의 지능형 감시/조치 Agent로 계속 고도화해 나갈 예정이니 많은 관심 가져 주시기 바랍니다.

2025년 7월 18일, 국제 AI 커뮤니티를 뒤흔든 벤치마크가 발표됐습니다. 중국의 AI스타트업인 Moonshot AI가 발표한 오픈소스 AI서비스인 Kimi K2는 올해 1월에 발표된 딥시크에 버금가는 파장을 불러 일으키고 있습니다.

Kimi K2의 SWE-bench Verified(코딩 자동화) 점수는 65.8%로, GPT-4.1의 54.6%를 넘겼고, LiveCodeBench(실제 코딩 작업)에서도 Kimi K2는 GPT-4.1보다 월등하고, 수학·논리 분야 MATH-500에서도 97.4%라는 최고의 점수로 주요 상업 모델들을 제쳤다는 평가를 받았습니다.

벤치마크	Kimi K2	GPT-4.1	DeepSeek-V3	비고
SWE-bench	65.8%	54.6%	57.6%	코딩 자동화
LiveCodeBench	53.7%	44.7%	46.9%	실제 코딩 작업
MATH-500	97.4%	92.4%	89.3%	수학·논리 분야

이 평가가 주목을 받은 이유 중 하나는 바로 Kimi K2가 무료로 공개되는 오픈소스이기 때문입니다. 이제 "오픈소스는 무료라는 것만 좋고, 성능은 아쉽다"는 편견이 깨지고 있습니다. 불과 2~3년 전만 해도 최첨단 인공지능은 거대 IT기업의 전유물이라는 인식이 강했습니다. 그러나 올해 여름, Moonshot AI의 Kimi K2가 오픈 소스로 전 세계에 공개되면서 "AI의 민주화"라는 말이 현실이 되고 있습니다. 지금 개발자와 일반인 모두가 왜 Kimi K2에 열광하는지 알아보겠습니다.

• • 대규모 파라미터와 효율적인 활성화
  • - 총 1조 개의 파라미터를 가지고 있지만, 실제 추론 시에는 320억 개의 파라미터만 활성화됨. 이는 모델 전체의약 3.2%만 사용된다는 의미로, 엄청난 효율성을 제공
  • - 특정 작업을 처리할 때 필요한 "전문가" 부분만 선택적으로 활성화하여 연산량을 줄이고 속도를 높이는 방식
• • 전문가 시스템
  • - Kimi K2는 384개의 개별 "전문가" 신경망으로 구성
  • - 각 토큰(단어 또는 하위 단어)을 처리할 때, 모델은 지능적으로 이 전문가들 중 8개의 전문가를 선택하여 계산을 전문화하고 더욱 미묘하고 정확한 출력을 생성
• • 효율성 및 성능
  • - 1조 파라미터라는 거대한 규모에도 불구하고, 활씬 적은 계산 리소스로 고성능 달성
  • - 추론(inference) 시 효율성을 극대화하여 대규모 모델을 더 빠르고 경제적으로 운영
• • 다양한 활용성
  • - 에이전트 지능에 특화되어 코딩, 수학, 추론, 도구 사용 등 다양한 실제 적용 분야에서 뛰어난 성능 발휘

현재 AI 시장은 소수의 빅테크 기업들이 개발한 독점적인 모델들이 지배하고 있습니다. 이 모델들은 막대한 자본과 기술력을 바탕으로 개발되며, API 사용료 등 비용을 지불해야만 접근할 수 있습니다. 예로 OpenAl의 GPT 시리즈와 같은 독점 모델들이 강력한 성능을 보여주지만, 폐쇄적인 구조와 높은 비용으로 인해 접근성 한계가 있었습니다. Kimi K2는 이러한 독점 모델들과 견줄 만한 성능을 보여주면서도, 개방적인 API 정책과 효율성을 통해 더 많은 개발자와 기업들이 고성능 AI를 활용할 수 있는 기회를 제공합니다. 이는 '모두를 위한 AI'라는 오픈소스의 가치와 일맥상통합니다.

Kimi K2는 단순히 고성능 AI 모델을 넘어, 대규모 AI 모델의 효율성과 접근성을 혁신하며 오픈소스 AI로의 전환을 이끄는 중요한 아이콘이 되고 있습니다. 강력한 성능과 혁신적인 구조 설계, 그리고 개발자 친화적인 접근 방식은 AI 기술이 소수의 기업에 독점되는 것이 아니라, 더 많은 이들에게 확산되어 새로운 가치를 창출하는 데 기여하고 있습니다. Kimi K2의 행보는 앞으로 AI 생태계가 더욱 개방적이고 협력적인 방향으로 나아가는 데 중요한 이정표가 될 것입니다.

※ 첨부 파일은 "KIMI K2가 AI 시장에 미치는 영향 분석" 레포트로 AI서비스(Skywork.ai)에 간단한 주제를 등록 후 5분만에 제작되었으며, Al를 업무에 적극적으로 활용하면 업무 생산성을 크게 향상 시킬 수 있습니다.

최근 2년간 글로벌 제조업과 산업 인프라를 겨냥한 OT(Operational Technology) 공격이 급격히 증가하고 있습니다. 랜섬웨어, 국가 지원 해킹조직의 침투, 공급망 공격으로 인해 생산 라인 중단, 지식재산 유출, 사회 기반시설 마비같은 현실적 피해가 잇따르고 있습니다.

2023년 미국 Clorox 공장은 랜섬웨어로 생산라인 중단으로 3억 달러 이상 손실이 발생되었으며, 2024년 우크라이나 도시 난방 시스템 Modbus 제어망 공격으로 600여 가구 난방 중단되었고, 한국에서도 2023년 스마트팜 OT 제어망 침투 사례 발생, 생산 차질이 발생되었습니다. 이처럼 OT 환경은 한 번 침해되면 물리적 운영 중단으로 직결되어, 전통적 IT 보안만으로는 방어가 어렵습니다.

OT(Operation Technology)는 IT(Information Technology)와 비교해 사용하는 경우가 많은데 IT는 정보의 효율적인 처리 및 통신과 관련이 있다면 OT는 물리적인 장치를 제어하고 모니터링하는데 사용되는 기술로 기존에 산업제어 시스템으로 불리던 것이 최근에는 보다 넓은 영역인 OT로 확장되어 쓰이고 있으며 이에 대한 보안을 OT 보안이라 합니다.

구분	내용
OT	• Operation Technology, 산업운영관리 컴퓨팅 시스템 • 전반을 포괄하는 기계, 공정 운영을 위한 기술/시스템
ICS	• Industrial Control System, 산업제어시스템 • 공장, 시설의 기계/공정을 제어하기 위한 시스템
SCADA	• Supervisory Control & Data Acquisition, 작업공정 감시/제어 시스템
DCS	• Distributed Control System, 분산제어시스템 • 자동제어 컴퓨터를 기능별로 분산해 중앙관리/제어
PLC	• Programmable Logic Controller, 프로그램 된 제어장치 • 산업플랜트의 자동제어 및 감시용 제어시스템

[산업 현장의 보안 영역, 가트너/이글루시큐리티 참조]

IT 보안이 기밀성과 데이터 보호를 최우선으로 하는 반면, OT 보안은 설비의 연속성과 운영 안정성, 즉 가용성을 가장 중요한 보안 요소로 봅니다. 이는 OT 환경이 정보 처리보다 물리적 장비의 제어에 중점을 두고, 일반적으로 인터넷과 분리된 폐쇄망을 기반으로 하기 때문입니다.

구분	IT (PC 등)	OT (설비 등)
운영 환경	높은 성능 장비	저사양 장비
	일반 소프트웨어	특정 산업 특화 소프트웨어
	인터넷 사용	인터넷 제한
요구 사항	기밀성 우선	가용성 우선
	주기적 패치	패치 최소화
	개인 PC관리	1:N 장비 관리

제조 공장이나 플랜트, 에너지 설비에 사용되는 OT 시스템은 10년 이상 된 레거시 장비가 많아, 운영체제나 펌웨어의 보안 업데이트와 패치가 거의 불가능한 경우가 많습니다. 또한 IT와 달리 24시간 가동이 필수적인 설비가 많아 정기적인 점검이나 재부팅조차 어려운 환경이 일반적입니다.

최근에는 스마트팩토리, lloT(산업용 사물인터넷) 도입으로 IT 네트워크와 OT 네트워크 간 연계가 늘어나면서 공격 표면이 확대되고 있습니다. 하지만 많은 기업이 여전히 OT 네트워크를 독립적이고 폐쇄된 시스템으로 간주해, 방화벽이나 보안 관제 같은 IT 수준의 보호체계를 적용하지 못하고 있습니다.

또한 보안 예산과 인력도 주로 IT 영역에 집중돼 있어, 전문 보안 인력이 부족하고 OT 전용 모니터링 체계나 위협 대응 프로세스가 부재한 경우가 많습니다. 여기에 Volt Typhoon이나 Sandworm 같은 국가 지원 해킹조직이 OT 시스템을 표적 삼으면서, 기존의 수동적 보안 방식으로는 방어가 점점 더 어려워지고 있습니다.

결과적으로 OT 보안은 기술적 한계(레거시·패치 불가)와 운영상의 제약(가동 중단 불가), 관리적 한계(전문 인력·예산 부족)가 복합적으로 작용해 IT 보안과는 다른 고유의 어려움을 안고 있습니다.

OT보안은 단순한 정보 유출 등의 이슈에 그치지 않고 시설에 대해 직접적인 피해를 주기에 기존의 IT보안과는 별개로 대책을 수립하고 관리해야 합니다.

보안 관리체계 수립	OT 환경 분석	보안 아키텍처 수립
• 경영진 의지 반영 • OT보안 표준 및 관리체계 수립 • 정책, 조직, 기술, 프로세스 수립	• 보호대상 OT 시스템 식별 • OT 네트워크 구조 파악 • 시스템 운영 담당자 확인	• OT보안 최적화 솔루션 구축 • 통합 보안 관리 아키텍처 설계 • 보안 로그, 이벤트 모니터링 및 대응 체계 운영

한솔PNS는 OT 보안 강화를 위한 방안을 준비 중 입니다. 일부 사업장에서는 보안 솔루션을 활용해 OT 자산을 관리하고 있으나, 기술적 제약과 체계적인 관리 부재로 인해 보안 수준이 제한적인 상황입니다.

특히 고객사의 설비용 PC에는 수동으로 동작하는 OT 전용 백신만 적용되어 있어, 위협 탐지와 대응에 명확한 한계가 존재합니다. 이에 따라 OT 보안 솔루션 도입을 통한 보안 강화가 필요하며, 하반기 중 고객사와 협력하여 실시간 모니터링 및 대응 기반을 마련하는 솔루션 도입을 검토하고 있습니다.

향후 이를 통해 핵심 설비의 안정적 운영과 전반적인 보안 수준 향상을 기대하고 있습니다.

TOP