| 단축 URL: https://humoruniv.com/pdswait12135739 URL 복사 |
로컬 ai모델 가성빈데 이게…
| ※ 로그인 없이 추천 가능 | ||
 |
 |
 |
추천되었습니다.
|
|
| ▲ 다음글 | ㅏ 뭐하지 | 컴공과노예 |
 0
 0
 2
 0
|
2026-04-01 [19:26] |
| ▼ 이전글 | 개쩌는 컵을 가지고 있는 바리스타 | 오유의감동브레이커 |
4
0
5
0
|
2026-04-01 [19:25] |
답글마당 (14)
|
b0ss 
|
교수님께 아양떨고 선물받기 :3
|
00 |
 추천
반대
 신고
 답글
|
2026-04-01 |
 |
 laplacian |
흐흑 논문 마니써야게따 ;ω·…
|
00 |
추천
반대
신고
|
2026-04-01 |
|
달랑베르시안 |
로컬 어쩐일로 쓰시는 건가여!!
|
00 |
추천
반대
신고
답글
|
2026-04-01 |
|
laplacian |
기업들이 점점 ai 가격을 올리면 올리지 내릴것같지도 않고… 이번 클로드 코드 유출 건으로 좀 더 낮은 성능의 모델도 좋은 결과물 내기 좋아질 거 같기도 하고 의존성도 좀 줄이고싶고 복합적이네요 :3…
|
00 |
추천
반대
신고
|
2026-04-01 |
|
kubernetes |
코딩용이면 qwen 3.5 27b 워낙 잘나와서 5090사서 빨리돌리는게 좋고 200b까지 벤치상이나 실무상 크게 이득이 없음. 아싸리 512가서 397b가야하는데 m5울트라라해도 프리필이 답이없을꺼임. 아예느긋하게 쓸꺼면 몰라도... 이미지용이거나 코딩이더라도 취업목적이면 dgx spark 레노버나 델꺼사서 1개나 2개 쓰고 tensor parallel 올려서 쓰셈 레노버에서 2개사면 연결선 개비싼거 꽁짜로 줘서 좋음. 엔비디아꺼는 4테라 고정에 개봉하면 보증날라가서 비추함. 중소기업이라 회사에서 m3ultra512-cluster 2대랑 pro6000 4대랑 dgx spark레노버꺼 2개 묶어서 써봄. 그이상은 나도 몰겠당...
|
00 |
추천
반대
신고
답글
|
2026-04-01 |
|
kubernetes |
교수님 얘기하는거면 대학생~대학원일텐데 회사는 보통 cuda라서... rocm은 안전성이나 커리어나 둘다 애매함...
|
00 |
추천
반대
신고
|
2026-04-01 |
|
laplacian |
안그래도 gb300 기반 제품들 탐은 나는데 가격대가 어떨지 모르겠기도 하고.. 고거 따라갈 생각 하면 pro6000 세 대는 엮어야 vram 용량 겨우 비비는데 그럼 삼천,,, 흑흑… 사실상 용도는 코딩과 연구죠. AI 삼대장들이 가격은 더 올릴 것이고 회사에 해가 되는 프롬프트에 대해 제약을 걸 것 같다는 우려도 개인적으로 있고 하는 와중에 로컬 ai 에 대한 욕심이 나기 시작한거라..
|
00 |
추천
반대
신고
|
2026-04-01 |
|
kubernetes |
pro6000한대가 수랭하면 1대당 1.7천만일텐데?? 2개꽂으면 글카만 3천가볍게 넘음 에픽 프로세서에 6채널 32긱으로 맞추기도 빡세고.. 으리는 서버에디션 사서 모라랑 칠러로 냉각함 글고 글카는 무조건 짝수임 홀수는 텐서는 pp든 어중간해서 하지않음. 목적이 바이브코딩/코딩에이전트/직원처럼 1가지 단순반복업무 맡기기 머임? m3ultra 2대 클러터해놓은거에 glm 4.7 16bit dba업무에 쓰는방식인데... hbm쪽은 솔직히 예산넘치는것아니면 무리라고 생각함... 전기부터 5kw선깔고 냉각하고하면 쉽지않아서... 파워 200만원씩하는데 2년도 안갈꺼고...
|
00 |
추천
반대
신고
|
2026-04-01 |
|
kubernetes |
rag을 해봐용... Qlora나 튜닝은 좀 애매해진시대라... 고걸 감안하고 모델정하고 예산에 vram맞춰야지뭐... 오픈라우터에서 모델 다양하게 써봐용
|
00 |
추천
반대
신고
|
2026-04-01 |
|
laplacian |
수랭말고 웤스 생각하긴 했었습니다. 근데 사실 지금 사기만해도 감지덕지라 환경구축은 생각못하고있었네요.. 프로6000 블로워팬 달린게 1300이었던걸로 기억해요
|
00 |
추천
반대
신고
|
2026-04-01 |
|
kubernetes |
웤스는 고민해봐요.. 개인으로 5090fe쓰는데 열 못잡아요... 리안링 o11d케이스에 140팬 전면킷까지해서 쓰는중인데 여름에 에어컨켜도 애매합니다.... 2개이상 꽂는건 불가라고 봐도돼요. 2슬롯 500w제한도 쉽지않아요... 서버실 20도 해도 2년정도쓰면 소자들이 많이 열화될꺼라... 그리고 같은 pro6000이 코어수가 다른게 랜덤으로 들어가서 실제 토큰이 미세하게 다릅니다. 웤스쪽이 컷칩이 비눌이 롹실히 높아요... 커넥터번 이슈도 웤스쩍이 훨 위험하구.... 학생이시면 성공하세요!!! 전 아직도 퇴근을못해서....
|
00 |
추천
반대
신고
|
2026-04-01 |
|
laplacian |
댓글달고 가격찾아보니 이게 또 가격이 1700이 되어있네요..? 크아ㅏ악… 현직자의 피나는 조언 감사드립니다.. 머학원생이고 본격적인 ai 랩실은 아니라 생각 못했던 부분들에 대해 많이 알게되어 감사하네요,, 야근 화이팅..!
|
00 |
추천
반대
신고
|
2026-04-01 |
|
kubernetes |
개인적으로 속도 포기히고 dgx spark 2개사서 vllm올리고 쓰는거 추천해요... 회사애서도 좋아하는 내용이고 예산최적화도 좋구요....양자화도 엔비디아 전용 그거두 있고... mlx는 써봐서 말하는데 일단 회사에서 스펙으로 안봄+ 공부도 안됨...있어요... 파이팅!!!
|
00 |
추천
반대
신고
|
2026-04-01 |
|
kubernetes |
저도 주니어라 많이 틀릴꺼에요... 내용들을 의심해줘요!!!
|
00 |
추천
반대
신고
|
2026-04-01 |
상대방에 대한 배려는 네티켓의 기본입니다.게시물에 상관없는 답글이나 추천유도성 답글을 달지 마세요.
스포일러성 답글이 신고되거나 발견되면 이유불문 삭제 혹은 정학처리 됩니다. 유의 부탁 드립니다.
| ▲ 다음글 | ㅏ 뭐하지 | 컴공과노예 |
0
0
2
0
|
2026-04-01 [19:26] |
| ▼ 이전글 | 개쩌는 컵을 가지고 있는 바리스타 | 오유의감동브레이커 |
4
0
5
0
|
2026-04-01 [19:25] |
← CTRL+C 로 복사하고 CTRL+V 로 붙여넣으세요!
(주)웃긴대학재단 | 사업자등록번호 107-81-76979 | 서울시 송파구 충민로 66, 제와이-2123호 (문정동, 가든파이브라이프) | Fax 02-6280-9094
대표이사 이정민 | 개인정보 보호책임자 이정민 | 민원, 운영자메일, 관리안내 | 통신판매업신고 제 2010-서울강남-01011호
Since 1998.8.24, Copyright (c) 2026 humoruniv.com All right reserved.
대표이사 이정민 | 개인정보 보호책임자 이정민 | 민원, 운영자메일, 관리안내 | 통신판매업신고 제 2010-서울강남-01011호
Since 1998.8.24, Copyright (c) 2026 humoruniv.com All right reserved.