Update app.py
Browse files
app.py
CHANGED
@@ -4,7 +4,7 @@ from huggingface_hub import hf_hub_download
|
|
4 |
|
5 |
# Automatické stažení modelu z HF中国镜像站 Hub
|
6 |
# Ujistěte se, že model je veřejně přístupný a jeho repo_id a filename jsou správné.
|
7 |
-
model_file = hf_hub_download(repo_id="TheBloke/
|
8 |
|
9 |
# Inicializace GGUF modelu pomocí llama-cpp-python
|
10 |
llm = Llama(model_path=model_file, n_ctx=2048, n_threads=4)
|
|
|
4 |
|
5 |
# Automatické stažení modelu z HF中国镜像站 Hub
|
6 |
# Ujistěte se, že model je veřejně přístupný a jeho repo_id a filename jsou správné.
|
7 |
+
model_file = hf_hub_download(repo_id="TheBloke/LLaMA-Pro-8B-Instruct-GGUF", filename="OpenLLaMA-7B.gguf")
|
8 |
|
9 |
# Inicializace GGUF modelu pomocí llama-cpp-python
|
10 |
llm = Llama(model_path=model_file, n_ctx=2048, n_threads=4)
|