새로운 사실을 알게 되었네요. 즐거운 시간 되세요.

LLM 위키라
이미 다들 어느정도 사용하고 있는것을 누군가 확실하게 정리해 주었네요
로컬용 LLM에 적용하면 딱이겠습니다.

저는 사실 저 영상보고 뭐라고 하는건지 하나도 못 알아들었습니다. 저게 지금 설치가 가능한건가요? 아니면 나중에 좋은게 나온다고 소개하는 건가요?

아뇨 설치라는 말은 안맞고
하나의 개념이라고 보면 됩니다.

LLM 초창기에는 검색도 안되고 진짜 답변해주는 모델 하나밖에 없어서
할루시네이션도 심하고 모델 생성시점 기준 이후 데이터는 내가 검색해서 넣는것 이외에는 방법이 없었지만

RAG 및 검색가능한 도구를 개발함으로써 어느정도 해결했습니다.
여기서 RAG는 벡터디비 기반으로 AI가 지식베이스를 넓히는 방식으로 많이 활용했습니다.

그러나 RAG는 항상 벡터로 변환해야해서 번거롭고 벡터 변환비용도 만만치 않습니다.
그래서 체계적으로 지식을 정리하고 검색가능하게 만들어서
AI가 알아서 지식베이스를 구축하고 검색가능하도록 하는 개념을 말합니다.
(사실 AI가 많이 똑똑해져서 이제 이런게 가능해진겁니다.)

대부분 실제 제품개발하고 확장할때에 이렇게 비슷하게 많이들 활용하고 있습니다.
각자의 취향대로 만들어 썼었는데
이제는 표준처럼 만들어서 쓰겠다는 내용이죠.

아직 어려운 개념이긴 하지만 설명을 들은 훨씬 낫군요