2026, 새로운 도약을 시작합니다.

라마 ai와 연동

라마 ai를 보다 쉽게 다룰 수 있는 ollama라는 프로그램이 있는데 리눅스(우분투)에서 잘돌아 갑니다.

ollama와 그누보드를 연동하는 것은 어떨까요?

검색어 제안/단순 일치하는 검색어만 찾는 것이 아닌 ai를 활용한 관련 검색어 포함 검색 기능 등을 만들면 좋을 것 같아요. 그리고 이를 기반으로 각각의 ip에 컨텐츠 알고리즘을 형성하는 기능을 유료컨텐츠로 제공하면 좋을 것 같아요

|

댓글 1개

글 자체를 백터화시키고, 그거랑 맞는 추천 score를 알고리즘으로 구해야하는데 단순 llm 으로 생성이 가능할까요? 

gpt api 사용해서 관련 검색어에 대한 추천 검색어를 캐싱혹은 디비에 저장해서 서빙하는게 더 싸게먹힐것같습니다.

라마 모델 작은거 서빙한다고가정했을때 일반 웹서버로는 tps 가 안나올거구요.

댓글 작성

댓글을 작성하시려면 로그인이 필요합니다.

로그인하기

그누보드5 제안

이런 기능이 필요합니다. 질문도 애매하고, 의뢰도 애매한 내용들을 제안하세요. 영카트 포함입니다.
번호 제목 글쓴이 날짜 조회
공지 1년 전 조회 887
42 2일 전 조회 23
41 3일 전 조회 30
40 2개월 전 조회 224
39 2개월 전 조회 175
38 3개월 전 조회 213
37 3개월 전 조회 245
36 4개월 전 조회 275
35 4개월 전 조회 200
34 4개월 전 조회 320
33 5개월 전 조회 550
32 9개월 전 조회 913
31 9개월 전 조회 855
30 10개월 전 조회 863
29 10개월 전 조회 480
28 11개월 전 조회 615
27 1년 전 조회 665
26 1년 전 조회 752
25 1년 전 조회 584
24 1년 전 조회 940
23 1년 전 조회 1,004
22 1년 전 조회 976
21 1년 전 조회 820
20 1년 전 조회 1,186
19 1년 전 조회 798
18 1년 전 조회 640
17 1년 전 조회 786
16 1년 전 조회 806
15 1년 전 조회 677
14 1년 전 조회 709
13 1년 전 조회 773
🐛 버그신고