안녕하세요! 오늘은 판정 에이전트(Judge Agent)의 아키텍처가 어떻게 변해왔는지를 기록하는 블로그 입니다. 단순 if-else 구조에서 시작해서, 3레이어 규칙 기반 구조를 거쳐, 최종적으로 LangGraph 기반 멀티 에이전트 합의 구조에 도달하기까지의 과정과 그 이유들에 대해서 정리해보겠습니다.1. 개요 및 판정에이전트에 대해서 정리아키텍쳐를 알아보기 위해서 판정에이전트에 대해서 살짝 알아볼 필요가 있다. 판정이 중요한 이유는 레드 에이전트가 아무리 강한 공격을 생성해도, 그 결과를 "취약이냐, 방어했냐"로 판정하는 것은 판정 에이전트의 몫이다. 판정이 틀리면 모든 게 틀어진다. 특히 파인튜닝과 맞물리면 문제가 심각해진다. 판정 에이전트가 오판을 내려 잘못된 공격문에 성공 판정이 붙으면, 그 ..

안녕하세요! 이번 글은 레드 에이전트의 공격 능력을 강화해온 과정을 기록한 글을 작성해보겠습니다. 파인튜닝 이전에 레드 에이전트 자체의 공격 전략, 프롬프트 구조, 판정 로직을 어떻게 바꿔왔는지를 중심으로 정리합니다.이전 글(연구 1편)이 "어떻게 학습시켰는가"에 집중했다면, 이번 글은 "학습시키기 전에 레드 에이전트를 어떻게 만들어왔는가"에 집중된 블로그 입니다.1. 개요 및 기존 방법처음 레드에이전트(공격 에이전트)는 단순했다. 시스템 프롬프트 공격 기법을 약 20개 나열, 규칙을 7개정도 줬다. 총 약 1,200자의 정도의 긴 지시문을 작성했다. 파인튜닝을 하기 전 낮은 모델로 테스트 및 연구를 하는 건 너무 무모하다. 일단 시스템 프롬프트 및 규칙을 안정화 시키고 넘어가는 방법을 택했다. 공격 프..

안녕하세요! 오늘은 온톨로지에 대해 공부한 내용을 공유하려고 합니다.처음 온톨로지라는 단어를 접했을 때, 철학 용어인 줄 알았다. 실제로 맞다. 그런데 이 개념이 컴퓨터 과학, 특히 AI와 데이터 분야에서 핵심적인 역할을 하고 있다는 걸 알게 되면서 제대로 정리해보고 싶었습니다.1. 온톨로지란 무엇인가온톨로지는 원래 철학에서 "존재론"을 의미한다. 세상에 존재하는 것들이 무엇이고, 그것들이 어떤 관계를 맺고 있는지를 탐구하는 학문이다.그런데 이걸 컴퓨터 과학으로 가져오면 의미가 조금 구체적으로 바뀐다. 컴퓨터 과학에서의 온톨로지는 특정 도메인(영역) 내의 개념들과 그 개념들 사이의 관계를 명시적이고 형식적으로 정의한 모델이다.쉽게 말하면 이렇다. 사람이 "사과"라고 하면 과일인지, 회사(Apple)인지,..