안녕하세요! 오늘은 미들웨어(Middleware)에 대해서 공부하겠습니다. 갑자기 미들웨어를 공부하는 이유가 있습니다. 프로젝트 AgentShield 발표를 마치고, 실무자 분들에게 질문을 따로 한 적이 있는데, 그 때 미들웨어라는 부분을 공부해보는 걸 추천했습니다. 추가로 쿠버네티스도 공부 추천을 하셨습니다. 쿠버네티스는 아래 블로그에 정리했었습니다. [개인 공부] 쿠버네티스(Kubernetes, K8s)안녕하세요.오늘은 쿠버네티스라고 하는 수많은 컨테이너를 하나하나 관리하는 대신, 전체적인 조율을 맡아 시스템이 항상 원하는 상태를 유지하도록 돕는 오픈소스 오케스트레이션 플랫폼에pak1010pak.tistory.com 그럼 오늘은 미들웨어에 대해서 더 자세하게 공부하도록 하겠습니다.1. 미들웨어의 개념..

이번 글은 AgentShield 프로젝트를 진행하면서 정리한 개인 기록이다.이번 단계에서 집중한 내용은 크게 세 가지다.공격 프롬프트를 실행하고 판정하는 파이프라인 구축실행 결과를 PostgreSQL과 ChromaDB에 저장하는 흐름 확인이후 Judge/Red Agent 파인튜닝을 위한 데이터 축적 구조 정리AgentShield는 단순히 “LLM이 위험한 답변을 하는지” 확인하는 프로젝트가 아니라, 공격 생성 → 타겟 챗봇 실행 → 취약 여부 판정 → 결과 저장 → 재사용 및 파인튜닝으로 이어지는 LLM 보안 검증 파이프라인을 만드는 것이 목표다.1. 현재까지 구현한 흐름현재 파이프라인의 기본 흐름은 다음과 같다.seed -> mutate -> target -> judge -> store -> reuse..

안녕하세요! 이번 gemma4가 나오고 오픈소스 llm에 더욱 관심이 많아져서 개인 llm을 로컬에서 사용해보고 싶단 생각이 강하게 들었습니다. 파인튜닝도 직접 하고 파라미터, ModelFile도 직접 작성하면서 계속 사용할 저만의 LLM을 만들고 싶습니다. 그래서 이번에 맥북 프로 16 M5 18코어, 40 코어 GPU, 48gb를 과감히 질렀어요!사용하고 싶은 베이스모델은 gemma4 26b MOE 버전입니다.gemma4 설치는 아래 블로그에서 다뤘습니다. [모델 분석] 오픈 소스 모델 Gemma 4 설치 및 사용하기안녕하세요!이번에 새로 구글(Google DeepMind)에서 새롭게 공개한 최신 오픈 모델인 Gemma 4가 나왔습니다.밴치마크 성능이 좋다고 해서 로컬로도 실제 돌려보고 싶다는 생..