COMING SOON 🚀

wowfast

최근 AI개발에 대해서 많은 고민을 하며... 현실적으로 돈도 아끼고 효과는 높일 수 없는지 고민하다가...

최근 AI개발에 대해서 많은 고민을 하며...

현실적으로 돈도 아끼고 효과는 높일 수 없는지 고민하다가... 

여러가지 나눈 대화들 중에 가장 최근의 대화를 남겨봅니다. 

저는 제플(제미니플래시)이랑 많이 나눕니다. 

--------------
제 질문: 

이건 말이야 그냥 개인적인 생각이야.
모든 정보들이 회사내부 시스템에 제대로 기록만 되어있다면
php, mysql이든 어떤 닷넷 프로그램이든,

기업의 요구사항이 보통 어떤 경우들이 있을지 한 100가지 정도로 
요구사항을 받은 다음 모두 sql로 결과물을 낼수 있다면 

유저의 챗봇의 내용과 그 100가지 요구사항과 가장 가까운 의미를 찾아서 
해당 sql 반환을 기반으로 설명해주면 좋겠다는 생각이 들기도한다. 

그러니 실제 구현은 엔지니어가 있는 회사는 그가 하고, 
AI(또는 벡터디비 의미 높은순 연결)은 요구사항과 준비된 메서드(?)와 연결해주는 작업만 해도 대단한 듯...

샘플로
1. 우리회사 가장 매출을 많이 해준 업체는?
2. 가장 한달 자주 연락을 나눴던 업체는?
3. 우리회사 펑크를 가장 많이 낸 회사는?


========
제플3 답: 

그 생각이 바로 **전사적 자원 관리(ERP)의 미래이자, 실용적인 AI 도입의 핵심**입니다.

말씀하신 방식은 기술적으로 **`Text-to-SQL`**과 **`Semantic Routing(의미적 라우팅)`**을 결합한 아주 영리한 구조입니다. 모든 것을 AI에게 통째로 맡기는 것이 아니라, **검증된 SQL 쿼리(메서드)**를 AI가 적재적소에 꺼내 쓰게 만드는 것이죠.

---

## 1. 이 방식의 "현실적인" 장점 (안정성 & 보안)

중소기업에서 AI를 도입할 때 가장 무서워하는 것이 **할루시네이션(환각)**과 **데이터 유출**입니다. 그런데 제안하신 방식은 이 문제를 완벽히 회피합니다.

* **정확성:** AI가 SQL을 실시간으로 생성하다가 실수하는 게 아니라, 엔지니어가 미리 짜둔 **'정답 쿼리'**를 실행하므로 숫자가 틀릴 일이 없습니다.
* **보안:** AI에게 DB 구조 전체를 알려줄 필요 없이, 쿼리 결과값만 전달하면 됩니다.
* **성능:** 수천만 건의 데이터를 AI가 직접 읽는 게 아니라, DB 엔진(MySQL 등)이 광속으로 처리한 '결과 요약'만 AI가 읽습니다.

---

## 2. 100가지 요구사항과 SQL 매칭 예시 (샘플 확장)

제시해주신 샘플을 바탕으로 시스템이 어떻게 동작할지 시나리오를 짜보겠습니다.

| 번호 | 유저의 의도 (Semantic Tag) | 엔지니어가 준비한 SQL (Prepared Method) | AI의 역할 (Bridging) |
| --- | --- | --- | --- |
| **1** | **매출 기여도 1위 업체** | `SELECT client_name, SUM(amount) FROM sales GROUP BY...` | "가장 돈 많이 벌어다 준 곳 누구야?" → 1번 쿼리 매칭 |
| **2** | **최다 소통/컨택 업체** | `SELECT client_name, COUNT(*) FROM contacts WHERE date...` | "요즘 누구랑 제일 자주 얘기해?" → 2번 쿼리 매칭 |
| **3** | **납기 미준수/불량 업체** | `SELECT client_name, COUNT(*) FROM issues WHERE type='delay'...` | "사고 제일 많이 치는 업체 어디야?" → 3번 쿼리 매칭 |
| **4** | **재고 부족 알림** | `SELECT item_name FROM inventory WHERE stock < threshold...` | "지금 당장 주문해야 할 부품 있어?" → 4번 쿼리 매칭 |
| **5** | **신규 입사자 교육 현황** | `SELECT member_name, progress FROM training WHERE...` | "이번에 들어온 신입들 공부 어디까지 했어?" → 5번 쿼리 매칭 |

---

## 3. 엔지니어와 AI의 "분업" 구조

이 시스템을 구축한다면 역할 분담은 이렇게 됩니다.

### **엔지니어의 역할 (The Foundation)**

* 회사의 핵심 지표를 추출하는 **SQL 쿼리 100개**를 작성합니다.
* 각 쿼리에 대해 "이 쿼리는 어떤 질문에 대한 답인가?"를 설명하는 **설명서(Metadata)**를 적습니다.
* 그누보드4든 닷넷이든 기존 DB에 안전하게 접근하는 **API 통로**를 만듭니다.

### **AI의 역할 (The Translator & Librarian)**

* 직원의 일상적인 질문(예: "우리 우수고객 리스트 좀 뽑아봐")을 듣습니다.
* **벡터 DB**에서 해당 질문과 가장 의미가 가까운 **'엔지니어의 설명서'**를 찾습니다.
* 연결된 쿼리를 실행하여 나온 '숫자 데이터'를 보고, **"네, 우리 회사 매출 1위는 (주)하늘이며 총 5억 원의 실적을 냈습니다"**라고 예쁘게 답합니다.

---

## 4. 왜 중소기업에 이게 더 적합할까요?

중소기업은 대기업처럼 거대한 GPU 서버를 갖추기 어렵습니다. 하지만 **수십 년간 쌓인 게시판과 DB**는 있죠.

1. **가성비:** 엔지니어가 며칠 고생해서 쿼리 100개만 잘 짜두면, AI 사용료는 거의 들지 않습니다.
2. **지속성:** 인력 교체가 잦아도 이 "질의응답 시스템"은 회사에 남아 후임자들에게 **비즈니스 로직**을 가르쳐주는 스승 역할을 합니다.
3. **투명성:** "왜 이 결과가 나왔어?"라고 물으면 실행된 SQL을 보여주면 되므로 결과에 투명성이 생깁니다.

---

> "데이터는 이미 다 있다. 다만 꺼내 쓰기 어려울 뿐이다."

이 문장이 그누보드4 인트라넷을 쓰는 그 회사에 딱 맞는 말 같습니다. 십수 년의 데이터를 **엔지니어의 SQL 실력**과 **AI의 문맥 파악 능력**으로 연결하면, 그 자체가 가장 강력한 기업용 AI 서비스가 될 것 같습니다.

이런 구조를 위해 **엔지니어가 관리하기 편한 '쿼리-설명서' 관리 도구**나 **AI 매칭 로직**을 구체화하는 작업부터 시작해보면 어떨까요? 제가 그 구조 설계를 구체적으로 도와드릴 수도 있습니다. 구미가 당기는 프로젝트네요!
|

댓글 4개

로컬LLM 알아보세요. ㅎㅎ

로컬 LLM 의 경우 최소 64g ram 에 5080 급으로 가셔야 gpt 4 정도 나옵니다.
cpu 는 크게 중요하지 않고 램 + VRAM 이고 그래픽은 RTX 계열로 가면 좋습니다.

저는 라이젠 7500 + 32g ram + 4070 ti super 16g vram 으로 구성했는데

이정도는 제가 생각한 성능 30% 도 안나오더라구요..

RAG 구축 및 챗봇 연동입니다.
요즘 챗봇도 안 만들고, 슬랙봇으로 연동합니다.

실제 RAG 를 만들지 않더라도 MCP 로 데이타 연결만 해도 기존 AI 모델의 성능이 뛰어나서 어지간히 해결됩니다.
(데이타 연결을 위한 API 일부와 MCP 서버 구성만 하면됩니다.)

나머지 고도화 관련된 기능은 MCP 를 붙혀서 chatgpt 에서 답변이 어떻게 나오는지를 테스트 해본뒤에 결정해도 됩니다.
기업 정보를 MCP 에 연결하는게 우선입니다.(보안 데이타는 필터링)
 
 


text2sql 제 생각에 가장 근접하게 구현해주는 것 같아요. 
결국 궁극적으로 회사의 내부사정을 DB RDB등으로 잘 구현해두는 것이 정말 가장 기초적인 작업일 수도 있겠다는 생각이 듭니다. 
댓글을 작성하시려면 로그인이 필요합니다.

자유게시판

+
제목 글쓴이 날짜 조회
3시간 전 조회 18
7시간 전 조회 73
8시간 전 조회 89
12시간 전 조회 71
12시간 전 조회 83
14시간 전 조회 154
15시간 전 조회 77
17시간 전 조회 114
17시간 전 조회 139
17시간 전 조회 193
어제 조회 252
어제 조회 79
어제 조회 168
어제 조회 232
어제 조회 68
어제 조회 160
어제 조회 83
어제 조회 116
어제 조회 82
2일 전 조회 140
2일 전 조회 144
2일 전 조회 179
2일 전 조회 111
2일 전 조회 191
2일 전 조회 144
2일 전 조회 84
2일 전 조회 156
2일 전 조회 116
2일 전 조회 79
2일 전 조회 109