|
--- |
|
license: apache-2.0 |
|
--- |
|
|
|
|
|
|
|
### Usage |
|
```sh |
|
mkdir $HOME/lince-model |
|
|
|
wget https://huggingface.co/clibrain/lince-zero-f16-ggml-q4_0/resolve/main/lince-zero-f16-ggml-q4_0.bin -O $HOME/lince-model/lince-zero-f16-ggml-q4_0.bin |
|
|
|
git clone https://github.com/mrm8488/ggml-lince.git |
|
|
|
cd ggml-lince |
|
|
|
mkdir build && cd build |
|
|
|
cmake .. |
|
|
|
cd examples/falcon |
|
|
|
make |
|
|
|
cd ../../ |
|
|
|
cd build/bin |
|
|
|
./lince -h |
|
|
|
./lince \ |
|
-m $HOME/lince-model/lince-zero-f16-ggml-q4_0.bin \ |
|
-p "A continuaci贸n hay una instrucci贸n que describe una tarea, junto con una entrada que\ |
|
proporciona m谩s contexto. Escriba una respuesta que complete adecuadamente la solicitud.\n\n\ |
|
### Instruccti贸n:\nDame una lista de sitios a visitar en Espa帽a\n\n### Respuesta:" \ |
|
-n 64 |
|
``` |
