|
 , Hit : 1500 |
|
|
||||
|
|||||
|
|
|
안녕하세요. 호기심 많은 50대 입니다 ㅎㅎ ChatGPT도 구독하고는 있는데 사실 너무 비싸죠. Microsoft에서 copilot 이라는게 나온다는데 이건 30불... 그런데 결국 쓰게 될 것 같아요. ChatGPT는 22달러인데, 일단 영어로 뭔가를 써야 한다면 매우 유용합니다. 여하튼, 그러다 Meta에서 발표한 Llama2 를 개인 컴퓨터에서 돌릴 수 있다고 하길래 시도해 봤어요. Llama2 70B 모델이 대략 GPT 3.5 정도는 된다길래 해 보려고 했는데요. 게임용 노트북인데 32GB 램에 4090인가 하는 8GB GPU... 결국 사양이 부족하더라구요. 제가 하고 싶은건, 소위 fine tuning으로 제가 하는 일 관련 문서를 다 집어 넣고 물어보려고 했거든요. 70B 모델은 커녕 7B 모델도 안돌아가네요. 70B 모델을 돌리려면 GPU 메모리가 80GB 정도가 필요하다고 ㅎㅎㅎ |
|
||||||||
|
||
|
||
| ||
|
||
|
||
|
||
| ||
|
||
|
||
|
||
| ||
|
||
|
||
|
||
| ||
|
||
|
||
|
||
| ||
|
||
|
||
|
||
| ||
|
||
|
||
|
||
| ||
|
