Spaces:
Runtime error
Runtime error
IMG / MMPROJ Support
Browse files- Dockerfile +3 -1
Dockerfile
CHANGED
@@ -9,5 +9,7 @@ WORKDIR /opt/koboldcpp
|
|
9 |
COPY default.json /opt/koboldcpp/default.json
|
10 |
RUN make LLAMA_OPENBLAS=1 LLAMA_CUBLAS=1 LLAMA_PORTABLE=1
|
11 |
RUN wget -O model.ggml $MODEL
|
12 |
-
|
|
|
|
|
13 |
|
|
|
9 |
COPY default.json /opt/koboldcpp/default.json
|
10 |
RUN make LLAMA_OPENBLAS=1 LLAMA_CUBLAS=1 LLAMA_PORTABLE=1
|
11 |
RUN wget -O model.ggml $MODEL
|
12 |
+
RUN wget -O imgmodel.ggml $IMGMODEL
|
13 |
+
RUN wget -O mmproj.ggml $MMPROJ
|
14 |
+
CMD /bin/python3 ./koboldcpp.py --model model.ggml --sdconfig imgmodel.ggml --mmproj mmproj.ggml $ADDITIONAL --port 7860 --hordeconfig $MODEL_NAME 1 1 --preloadstory default.json --ignoremissing
|
15 |
|