Architecture Guide

AI Consulting Assistant Platform: 기술 아키텍처 및 워크플로우 설계서

Version 3.0 Last Updated: 2026.02.17

1. 플랫폼 개요

AiNex는 기업의 AI 전환(AX)을 지원하는 멀티 에이전트 기반 컨설팅 플랫폼입니다. 인간 컨설턴트와 멀티 AI 에이전트가 역할 기반 협업(Role-based Collaboration)을 수행하여 전략 수립부터 인프라 구축까지의 과정을 자동화합니다.

핵심 특징

보안 중심 설계 (Local LLM - Ollama)
7개 멀티 에이전트 프레임워크 통합
가중치 기반 정량 평가 엔진
5단계 컨설팅 프레임워크 자동화
145개 API 엔드포인트, 98.1% 테스트 통과

기술 스택

FrontendJinja2 + HTML5, Bootstrap 5, Chart.js
BackendFastAPI + Uvicorn (Python 3.12)
LLM EngineOllama (llama3.2:3b, Local)
멀티 에이전트LangGraph, CrewAI, AutoGen (AG2)
고급 프레임워크DSPy, LangChain (LCEL), LlamaIndex (RAG)
Native OrchestratorAiNex 자체 순차 오케스트레이터
DatabaseSQLite + aiosqlite
Embeddingnomic-embed-text
서버 포트8001

2. 하이브리드 LLM 아키텍처

AiNex은 보안을 최우선으로 하는 하이브리드 접근법을 채택합니다. 민감한 기업 데이터는 사내 폐쇄망의 Local LLM(Ollama)에서 처리하며, 일반적인 추론 및 성능 극대화가 필요한 경우 온라인 LLM과 연동할 수 있는 지능형 라우팅을 지원합니다.

                                    class LLMProvider:
                                    def __init__(self, model: str = "llama3.2:3b", base_url: str = "localhost:11434"):
                                    self.model = model
                                    self.base_url = base_url
                                

요소	Local LLM	Online LLM
데이터 보안	완벽 보호	위험 존재
네트워크 의존	없음	있음
운영 비용	초기 설치비	사용량 기반
모델 최적화	가능	제한적

3. 멀티 에이전트 프레임워크 (7개)

LangGraph

StateGraph

5 에이전트, 8 노드 기반 조건부 엣지, 품질 기반 재시도

CrewAI

Role-Based

5 에이전트, 6 태스크, Sequential/Hierarchical 프로세스

AutoGen (AG2)

GroupChat

5 에이전트, RoundRobin/Selector 모드 그룹챗

DSPy

Signatures

5 Signature, 5 CoT Module, 프로그래밍 방식 프롬프트 최적화

LangChain

LCEL Pipeline

5 Chain, PromptTemplate, ChatHistory, Callbacks

LlamaIndex

RAG Workflow

4 ISO 표준 (15문서), VectorStore, SentenceSplitter

Native

Sequential

AiNex 자체 5 에이전트 순차 오케스트레이터

4. 5단계 컨설팅 워크플로우

Strategy

비전 수립 & 성숙도 진단

Design

아키텍처 및 워크플로우 설계

Build

PoC 및 구축

Scale

전사 확산 및 변화 관리

Operate

지속적 모니터링 & 최적화

5. 가중치 기반 분석 시스템

컨설턴트가 입력한 기업 데이터를 바탕으로 실시간 가중치 알고리즘을 실행합니다. IT 인프라 인프라, 데이터 자산, 구성원 역량 점수를 합산하여 최종 성숙도와 ROI를 도출합니다.

                        # 성숙도 점수 계산 알고리즘 예시
                        def calculate_maturity(company):
                        score = 2.0 # 기본값
                        if company.executive_support >= 4: score += 1.0
                        if company.gpu_available: score += 0.5
                        if company.data_scientists > 0: score += 1.0
                        return score
                    

가중치 영향도

IT Infrastructure+2.0 점

Data Quality+1.5 점

HR Capability+2.5 점

6. 주요 API 엔드포인트 총 145개

시스템 & 멀티 에이전트

Method	Endpoint	Description
GET	/api/v1/health	시스템 헬스체크
GET	/api/v1/multi-agent/frameworks	프레임워크 목록
GET	/api/v1/multi-agent/health	LangGraph/CrewAI/AutoGen 헬스체크
POST	/api/v1/multi-agent/langgraph/run	LangGraph 실행
POST	/api/v1/multi-agent/crewai/run	CrewAI 실행
POST	/api/v1/multi-agent/autogen/run	AutoGen 실행

고급 프레임워크

Method	Endpoint	Description
GET	/api/v1/advanced-frameworks/overview	프레임워크 개요
POST	/api/v1/advanced-frameworks/dspy/run	DSPy 실행 (maturity)
POST	/api/v1/advanced-frameworks/langchain/run	LangChain 실행
POST	/api/v1/advanced-frameworks/llamaindex/query	LlamaIndex RAG 질의

5단계 프레임워크 & 보안

Method	Endpoint	Description
POST	/api/v1/framework/projects/{id}/stage1~5	5단계 컨설팅 프레임워크 (각 단계별 3 엔드포인트)
GET	/api/v1/framework/projects/{id}/summary	프로젝트 종합 요약
GET	/api/security/audit/logs	보안 감사 로그
GET	/api/security/monitoring/checklist	모니터링 체크리스트