Trikang

아무 생각 없이 계속해서 모델 파라미터를 받다 보니 캐시만 300GB가 넘는 상황이 발생했다. huggingface-cli 패키지가 설치되어 있다고 가정하고, 아래의 명령을 통해 캐시 목록을 확인할 수 있다.huggingface-cli scan-cache이렇게 입력하면 아래처럼 와랄랄랄라 나온다 huggingface의 자료에 따르면, 캐싱 시스템은 아래와 같은 디렉토리로 구성되어 있다고 함(https://huggingface.co/docs/huggingface_hub/en/guides/manage-cache)├─ ├─ ├─ 저장 예시├─ models--julien-c--EsperBERTo-small├─ models--lysandrejik--arxiv-nlp├─ models--bert-base-cased..

ollama 설치curl -fsSL https://ollama.com/install.sh | sh 그리고 프로세스가 실행되지 않았으면 아래와 같이 실행ollama serve 서버에서 설치했는데, 특정 포트를 외부에 오픈하지 않았을 때 임시로 테스트하려면이미 ssh key 설정이 되어있어야. 안 되어있으면 별명 대신 정석적인 방법 사용하면 됨ssh -L 11434:127.0.0.1:11434 {서버 별명} 이렇게 해서 연결한 다음에 테스트 하면 됨GUI를 사용하기 위해서 open-webui를 사용 python 가상환경 위에 설치하는 방법conda create -n ollama python=3.11 이후 해당 환경 activate그리고 open-webui 설치pip install open-webui 그리고 ..