Dalaix (LLaMA local machine) - windows 설치
Dalaix - windows 설치
GitHub - BenHerbst/Dalaix: Easy installer for Dalai: LLaMA on your local machine
어떤 사람이 원클릭으로 설치할수 있게 dalaix라는 프로그램을 만들어놔서 윈도우에선 이걸 그냥 쓰면됨
설치후 dalai를 켜서 원하는 모델을 다운받고 start dalai를 실행하면 실행됨 (윈도우 검색창에 치면 바로 나옴)
정상적으로 실행되면 http://localhost:3000/에서 열렸다고 뜨고 거기로 가서 사용하면됨. 종료할때는 stop dalai를 실행하면 알아서 꺼짐

[windows 용 Dalaix 파일 다운로드 위치]
https://github.com/BenHerbst/Dalaix/releases/tag/v1.1.0
[windows 용 Dalaix 파일 설치 가이드]
https://github.com/BenHerbst/Dalaix
설치 가이드대로 하면, start.bat 배치 파일을 제공해 주며, cmd 창에서 start.bat 를 실행해 봅니다.

dalai 을 인식하지 못할 경우가 있습니다.
npm install dalai alpaca 7b 를 cmd 창에서 설치합니다.
[설치하기]
https://huggingface.co/Sosaka/Alpaca-native-4bit-ggml/tree/main

참고 사이트
https://github.com/cocktailpeanut/dalai/issues/232
Dalai Alpaca install failing to run, invalid model file 'models/7B/ggml-model-q4_0.bin'
https://stackoverflow.com/a/76673967
https://cocktailpeanut.github.io/dalai
https://arca.live/b/alpaca/73209432