고정 크기 hidden state는 메모리인가, 압축인가?
고정 크기 recurrent hidden state를 기억 장치와 정보 압축의 관점에서 구분한다. S4, Mamba, RWKV, Resona를 중심으로 상태의 역할을 설명하고, Qdrant와 Statey는 외부 메모리 맥락으로 분리해 다룬다.
// TOPIC STREAM
"LLM" 태그 글 31개
대규모 언어 모델의 구조, 학습, 추론, 도구 / LLM architecture, training, inference, and tooling.
Recurrent state는 새로운 공격 표면인가?
Recurrent state와 에이전트 메모리를 보안 경계로 보는 관점. Mamba, Hidden State Poisoning, trajeckt, Valmis를 연결하되, 논문 증거와 제품·보안 맥락을 분리해 상태 오염·재사용·데이터 흐름 위험을 검토한다.
SSM은 Transformer를 대체하는가, 아니면 역할을 나누는가?
상태공간 모델과 Transformer의 경쟁을 구조적 대체가 아닌 역할 분담의 문제로 읽는다. Mamba, Griffin, Jamba, Mamba-3의 초록과 공개된 주장에 근거해 긴 문맥·생성·하드웨어 효율성의 트레이드오프를 정리한다.
Textbooks Are All You Need — 고품질 교재 데이터로 작은 코드 LLM 성능 끌어올리기
Microsoft Research의 'Textbooks Are All You Need' 논문 요약과 분석. 1.3B 파라미터 코드 LLM(phi-1)이 '교재 품질' 데이터와 소규모 합성 연습 데이터로 HumanEval/MBPP 성능을 크게 향상시킨 방법과 한계 검토.
AgentsCAD: FDM 부품용 자동 제조 설계 — 다중 에이전트 LLM 추론과 기하학적 특징 인식
AgentsCAD(논문 요약): STEP B-Rep 파싱, 과대격차(overhang) 감지, GraphSAGE 기반 의미 레이블 주입, 다중 에이전트 LLM 추론(Claude Sonnet) 및 GPT-4o 시각검증을 결합해 FDM용 설계-제조(DFAM) 수정을 자동화하는 연구를 기술적으로 검토합니다. 증거가 제한적일 때의 불확실성도 명시합니다.
Best AI agent red teaming tools in 2026: 기능, 한계, 그리고 도입 고려사항
2026년 기준 에이전트형 AI(red-teaming) 도구 비교와 평가 프레임워크. 보안·품질 통합, 에이전트 네이티브 테스트, 취약점 대응 파이프라인, 그리고 조직적 프로세스화를 중심으로 요약합니다. 출처 자료의 범위와 한계도 명시합니다.
AISBF — OpenAI-호환 라우터와 로컬 CoderAI 워커 운영
AISBF가 제안하는 OpenAI-호환 게이트웨이 기반 라우팅, 로컬 CoderAI 워커 통합, 그리고 프라이버시·페일오버 정책의 실무적 시사점을 정리합니다. 데모·셀프호스트 옵션과 운영상의 고려사항을 기술 증거에 근거해 분석합니다.
AutoGPT 플랫폼 분석: 에이전트 플랫폼 구조와 자가호스팅 실무 가이드
Significant-Gravitas/AutoGPT의 README와 문서 조각을 바탕으로 AutoGPT 플랫폼(autogpt_platform) 구성요소, 자가호스팅 흐름, 주요 툴(Forge, agbenchmark, 프론트엔드, CLI)과 라이선스 관점을 기술적으로 정리합니다. 일부 세부는 원문이 부분적이므로 공식 문서 확인을 권합니다.
DemoPSD: 불일치 조절 정책 자기-지식증류(Policy Self-Distillation) 분석
DemoPSD 논문의 핵심 아이디어와 함의 요약. 불일치 기반의 선택적 교사 지침 채택, reverse-KL barycenter 목표, 그리고 privileged information leakage와 탐색 보존 관련 이론적 주장 및 실험적 결과를 정리합니다. 원문(arXiv 2607.02502v1)을 근거로 하되, 제공된 증거집의 범위 밖 상세 사항은 불확실함을 명시합니다.
EAGLE-360: 360° 환경에서의 전신형 능동 전역-지역 탐색
EAGLE-360 논문(2026)은 360° 파노라마 공간에서의 능동 탐색을 위해 전역-지역(Global-to-Local) 전략과 RoPE Rolling positional encoding, SFT+GRPO 훈련 파이프라인을 제안한다. 이 글은 공개된 초록을 기반으로 핵심 기여와 설계 요소를 기술적으로 정리하고, 논문에서 명시된 데이터셋·성능 주장에 대해 근거와 불확실성을 함께 설명한다.