5090은 그렇고 3080ti 가 적당하다 싶습니다. 정보
5090은 그렇고 3080ti 가 적당하다 싶습니다.
본문
로컬용 AI를 돌리려고 했더니 여러 제약사항이 많네요. 일단 글픽 먼저 바꿔보고 살살 올려봐야겠습니다. 가격이 약 5배 차이나는 5090은 아직 이르다 싶고 요놈을 구입하기로 했네요. 어느정도 쓸만한 속도는 나와야 할 텐데 걱정이네요.
건설 입찰이란게 상당히 예민한 입찰이라 예측이 힘든데 정말 근소한 차이로 1위를 놓쳐 떨어지는 경우가 많아 기존의 방대한 데이터로 교육(딥러닝)을 시킨 후 추론화 과정까지 이끌어 보려합니다.
이게 어느정도 잘 되면 좋겠는데 게임도 하지 않는 사람이라 사실 좋은 글픽이 필요없는 사람이거든요.
4
베스트댓글
혹시 건축 입찰에서도 사정율이라는 단어를 쓰시나요?
최근 입찰 예측 관련된 프로젝트를 보다가 위의 단어가 나와서요.
사정율을 높히는게 목표인것 같은데, 인공지능을 이용하여 수익화를 기대해볼수 있는 영역이 아닌가 해서요.
지식나눔 요청드립니다.
그리고 이런건 RAG 구축해야 합니다. 내부에서 글픽 카드로 돌려서는 성능이 높게 나오지 않을거에요. n8n 을 사용해서 추론 ai 돌려야 하는데, api 비용이 생각보다 높게 나오고 성능이 각기 달라서 프롬프트랑 데이타 구축을 얼마나 잘하느냐에 따라 판가름이 나지 않을까 합니다.
퇴사하면 이걸 할지도 모르겠네요. 요즘 여러가지로 간을 보고 있습니다.
@솔그루 혹시 건설. 건축쪽에 근무하시나요? 아직 엑셀로 평균데이터 참조해가며 한땀한땀 넣는 수준이라 각 건설사들에 대한 입찰감은 있는데 이걸 전문성이라고 하기는 뭐 해서 지식을 나눌 뭐가 없고 사실 지식을 제가 나눔받아야 할 입장이랄까요?ㅎㅎㅎ
그리고 RAG와 n8n ai 관계에 대해 설명하셨는데 이건 베이스가 AI죠 RAG는 AI의 전문성을 높일 수단이구요. n8n은 저는 그냥 기존의 자동화 툴(Zapier, ifttt)의 확장형으로만 단편적로만 알고 있고 제가 생각하는 아이템을 위한 강화학습 자료는 약, 5개사의 최근 3년치 입찰 데이터 분량을 가지고 있어 웹 크롤링으로 별도의 자료를 모을 필요는 없고 현재 엑셀로 보관하는 있는 데이터를 JSON과 같은 형식으로 데이터를 나누어줄 생각인데 RAG를 한다면 아마 이 과정에서 할거란 막연한 생각입니다.
제가 로컬에 ai를 돌리려는 이유중 비중있게 생각하는 부분이 각 건설사들에 맞는 입찰금액(사실 오묘함)에 대한 확율을 넣은 추론이고 입찰이 하루에 몇 십번을 하는 것도 아니고 정말 신중하게 주에 1,2번 하는 정도라 정확도만 높여주면 되는 일이기도 합니다. 각 공정에 대한 일위대가에서 입찰을 보고자 하는 해당사에 대한 입찰 성공률을 높이자는 생각이라 베이스는 결국 AI인거죠.
@하늘뚱 간만의 컴퓨터 업글이라 기대가 많이 되기는 하네요.
댓글 14개
혹시 건축 입찰에서도 사정율이라는 단어를 쓰시나요?
최근 입찰 예측 관련된 프로젝트를 보다가 위의 단어가 나와서요.
사정율을 높히는게 목표인것 같은데, 인공지능을 이용하여 수익화를 기대해볼수 있는 영역이 아닌가 해서요.
지식나눔 요청드립니다.
그리고 이런건 RAG 구축해야 합니다. 내부에서 글픽 카드로 돌려서는 성능이 높게 나오지 않을거에요. n8n 을 사용해서 추론 ai 돌려야 하는데, api 비용이 생각보다 높게 나오고 성능이 각기 달라서 프롬프트랑 데이타 구축을 얼마나 잘하느냐에 따라 판가름이 나지 않을까 합니다.
퇴사하면 이걸 할지도 모르겠네요. 요즘 여러가지로 간을 보고 있습니다.
@솔그루 혹시 건설. 건축쪽에 근무하시나요? 아직 엑셀로 평균데이터 참조해가며 한땀한땀 넣는 수준이라 각 건설사들에 대한 입찰감은 있는데 이걸 전문성이라고 하기는 뭐 해서 지식을 나눌 뭐가 없고 사실 지식을 제가 나눔받아야 할 입장이랄까요?ㅎㅎㅎ
그리고 RAG와 n8n ai 관계에 대해 설명하셨는데 이건 베이스가 AI죠 RAG는 AI의 전문성을 높일 수단이구요. n8n은 저는 그냥 기존의 자동화 툴(Zapier, ifttt)의 확장형으로만 단편적로만 알고 있고 제가 생각하는 아이템을 위한 강화학습 자료는 약, 5개사의 최근 3년치 입찰 데이터 분량을 가지고 있어 웹 크롤링으로 별도의 자료를 모을 필요는 없고 현재 엑셀로 보관하는 있는 데이터를 JSON과 같은 형식으로 데이터를 나누어줄 생각인데 RAG를 한다면 아마 이 과정에서 할거란 막연한 생각입니다.
제가 로컬에 ai를 돌리려는 이유중 비중있게 생각하는 부분이 각 건설사들에 맞는 입찰금액(사실 오묘함)에 대한 확율을 넣은 추론이고 입찰이 하루에 몇 십번을 하는 것도 아니고 정말 신중하게 주에 1,2번 하는 정도라 정확도만 높여주면 되는 일이기도 합니다. 각 공정에 대한 일위대가에서 입찰을 보고자 하는 해당사에 대한 입찰 성공률을 높이자는 생각이라 베이스는 결국 AI인거죠.
@Gothrock 고록님 쪽지 주시면 감사하겠습니다.
@하늘뚱 쪽지라하시면 어떤 쪽지를 말씀하시는 건지요? 일단 쪽은 드리겠습니다. 쪽!
딥러닝은 분야가 또 다른 분야라 메모리만 좀 빠방하게 하시면 될것 같습니다.
@똥싼너구리 위에 언급한 글과 같이 베이스는 AI로 하고 전문성은 RAG가야죠. 데이터를 기반으로 한 단순 입찰 수 식을 만들어 N8N과 같은 자동화 툴을 돌려 입찰을 보는 방식과는 좀 다른 생각이기도 합니다. 논리를 기반으로 하는 확신으로 성공율을 높인다고 할까요? 여기까지도 사실 생각해본적은 없고 입찰이란게 저가 1순위 입찰이라 너무 낮아도 너무 높아도 안 되는 일이라 이게 좀 막연하거든요.
이런 생각을 하시다니...
역시 기발하십니다.
@쪼각조각 머리가 딸리니 보조도구가 필요한 일이라 일종에 틀니나 보청기같은 그런 일이기도 합니다.
@Gothrock 그 머리도 없는 저로서는... ㅠㅠ
@쪼각조각 시간이 없으신 분이지 지성으로 따지면 조각님 따라갈 사람이 없다 생각합니다.
그래픽 카드가 예전 컴보다 더 좋은 듯 하네요. 축하드립니다.
@하늘뚱 간만의 컴퓨터 업글이라 기대가 많이 되기는 하네요.
음...뭔가 심오한...;;;;
@두리삼촌v 저 위 내용을 말씀하시는 거라면 가르키는 단어가 생소해서 그렇지 자동화 툴, 전문서 주입, 그리고 추론형 AI 에 대한 글이지 별거 없는 내용이에요. 해보면 간단한데 해보거나 시도하지 않아 어렵게 느껴지는 사랑?과 같은 거라고 하면..음..이게 더 심오하네요.ㅎㅎㅎㅎ
