본문으로 건너뛰기

에이전트코리아 · 2026-08-26

사내 RAG·온톨로지 구축의 비용과 평가, Claude·Codex 작업 한도와 마운트 문제, AI 뉴스와 로컬·보안 도구에 관한 대화를 정리했습니다.

#chat-digest#agent_korea#AI#개발

최신 제품·뉴스·비용 정보

모델 기능과 한도, 온톨로지·RAG 구축비, 뉴스와 도구 비교는 채팅방의 공유 자료와 참여자 경험이다. 공식 문서, 원문 기사와 실제 환경을 확인하기 전까지 확정된 사실이나 일반적 성능 평가로 보지 않는다.

오늘의 대화

사내 인프라·ERP에 Graph RAG와 온톨로지를 적용할 때 얼마의 데이터와 비용이 필요한지를 묻는 상담으로 하루가 시작됐다. 목적과 KPI를 작게 잡고 데이터를 정리한 뒤 검색 품질을 평가해야 한다는 실무 경험이 구체적인 수치와 함께 공유됐다. 이후 Claude·Codex의 사용 한도와 마운트·컨텍스트 인계 문제, 에이전트용 인프라 뉴스와 로컬·보안 환경에 대한 이야기가 이어졌다.

이야기 나온 주제

사내 RAG·온톨로지의 범위·비용·평가

약 1,020쪽 PDF를 e5 모델로 임베딩하는 데 57시간이 걸렸다는 사례와, OCR을 포함하면 페이지당 1520원 정도를 잡는 편이 낫다는 경험이 나왔다. 검색 호출 비용과 데이터 투입 비용은 모델·자체 GPU·데이터 분할 방식에 따라 달라지며, AIOps처럼 여러 부서의 책임과 문서가 얽힌 온톨로지는 목적과 범위를 먼저 줄이지 않으면 구축비가 크게 늘 수 있다는 경고가 있었다.

RAG는 목적에 맞는 작은 데이터셋과 검색 전략을 정한 뒤 R@10·R@20으로 필요한 문서가 검색되는지, nDCG@10으로 순위가 맞는지를 평가하자는 제안이 나왔다. 회의록의 여러 버전처럼 정답과 탈락안이 섞인 자료를 테스트셋으로 쓰면 검색 품질과 최신본 판별 능력을 볼 수 있다는 설명도 있었다. 임베딩 서버와 검색 서버를 분리하고, 사용량이 많지 않으면 사내 GPU에서 처리할 수 있다는 의견은 특정 환경의 경험으로 남긴다.

  • 원본 시각: 09:39–10:15

AI 뉴스 브리핑과 에이전트 인프라

공유된 아침 브리핑은 Claude와 Cowork의 기억 통합, 생성물 워터마크, OpenAI의 ‘할라피뇨’ 추론 칩, NVIDIA·Groq의 추론 인프라, 에이전트용 웹 색인 서비스를 주요 소식으로 소개했다. 방에서는 이를 더 큰 모델 자체보다 기억·출처 표시·토큰 처리 인프라가 에이전트 사용성을 좌우하는 흐름으로 읽었다.

이 내용은 TechCrunch·New Atlas·NVIDIA News 등의 링크를 첨부한 참여자 브리핑으로 공유된 것이며, 제품 출시 시점·벤치마크·정책은 기사 원문과 공식 발표를 대조해야 한다. AI가 코드를 생성하는 능력보다 문제 정의와 결과 검증이 중요해진다는 SNS 브리핑의 관찰도 함께 언급됐다.

  • 원본 시각: 08:03–08:47

공유된 것

모델 사용량·하네스와 프로젝트 마운트 문제

Claude·Codex의 5시간 제한, Fable 사용량과 초기화 여부를 두고 계정별 체감이 달랐다. Claude 프로젝트에 연결한 폴더가 컴팩트나 세션 전환 뒤 반복해서 해제된다는 질문에는, 스킬 충돌·컨텍스트 승계 누락·버전 문제를 점검하고 컨텍스트 60%쯤에서 핸드오프 문서를 작성해 새 세션에서 읽히는 방식을 시도해보라는 제안이 나왔다. 다만 원인은 재현되지 않아 해결책으로 확정하지 않았다.

모델이 갑자기 지시를 놓칠 때는 다른 모델로 바꾸기 전에 툴 호출, 스킬, 플랜 문서, 버전과 하네스를 차례로 점검하자는 경험적 순서도 공유됐다. 이는 특정 에이전트의 일반 보장이 아니라 참여자가 사용하는 작업 환경에서 나온 진단 방식이다.

  • 원본 시각: 09:24–11:00, 13:35–14:31, 15:21–15:25

로컬 모델·보안과 에이전트 작업 도구

사내 데이터와 고객 정보는 보안 때문에 로컬 모델을 고려할 수 있지만, 로컬 GPU 비용과 모델 성능을 함께 봐야 한다는 의견이 나왔다. 삼성전자·SK하이닉스의 생산 장비에 AI 에이전트를 도입한다는 기사와, 반도체 공정의 에어갭 환경에서 온디바이스 연산이 필요하다는 설명도 공유됐다. 이 역시 기사와 참여자 해석을 구분해 기록한다.

저녁에는 수달빔·파세오·오르카 같은 작업 도구의 가벼움과 UI, 무료 세션 제한을 비교하는 사용기가 나왔다. Windows 지원 여부와 무료·유료 조건에 대한 질문은 남았고, 각 도구의 현재 기능과 가격을 확인할 필요가 있다. 작업 도중의 가족·일상 대화는 도구 사용 맥락을 보여주는 범위에서만 반영했다.

  • 원본 시각: 13:55–14:03, 15:12–15:25, 17:35–18:41, 21:03

연결