Spaces:
Sleeping
Sleeping
공식 이미지로 변경
Browse files- Dockerfile +12 -29
Dockerfile
CHANGED
|
@@ -1,38 +1,21 @@
|
|
| 1 |
-
# 1.
|
| 2 |
-
|
|
|
|
| 3 |
|
| 4 |
-
# 2.
|
| 5 |
-
RUN apt-get update && apt-get install -y build-essential gcc-11 g++-11 cmake
|
| 6 |
-
|
| 7 |
-
# 3. 파이썬의 패키지 설치 도구(pip) 자체를 최신 버전으로 업그레이드.
|
| 8 |
RUN python3 -m pip install --upgrade pip setuptools wheel
|
| 9 |
|
| 10 |
-
#
|
| 11 |
WORKDIR /app
|
| 12 |
|
| 13 |
-
#
|
| 14 |
-
|
| 15 |
-
|
| 16 |
-
|
| 17 |
-
|
| 18 |
-
# 6. 환경 변수를 설정.
|
| 19 |
-
ENV HF_HOME /app/huggingface_cache
|
| 20 |
-
ENV PATH="/home/user/.local/bin:${PATH}"
|
| 21 |
-
|
| 22 |
-
# 7. requirements.txt 파일을 복사.
|
| 23 |
-
COPY ./requirements.txt requirements.txt
|
| 24 |
-
|
| 25 |
-
# 8. llama-cpp-python을 '똑똑하게' 설치하기 위한 모든 옵션을 설정.
|
| 26 |
-
ARG CMAKE_ARGS="-DLLAMA_CUBLAS=OFF -DLLAMA_HIPBLAS=OFF -DLLAMA_OPENBLAS=OFF"
|
| 27 |
-
ENV FORCE_CMAKE=1
|
| 28 |
-
ENV CC=gcc-11
|
| 29 |
-
ENV CXX=g++-11
|
| 30 |
-
|
| 31 |
-
# 9. 라이브러리 설치. (경로 수정 완료!)
|
| 32 |
-
RUN pip install --no-cache-dir --upgrade -r requirements.txt
|
| 33 |
|
| 34 |
-
#
|
| 35 |
COPY . /app
|
| 36 |
|
| 37 |
-
#
|
|
|
|
| 38 |
CMD ["uvicorn", "app:app", "--host", "0.0.0.0", "--port", "7860"]
|
|
|
|
| 1 |
+
# 1. 기반 이미지를 python:3.9 대신, llama.cpp 공식 이미지로 변경.
|
| 2 |
+
# 'full' 버전에는 python과 pip, 모든 빌드 도구가 이미 포함되어 있음.
|
| 3 |
+
FROM ghcr.io/ggml-org/llama.cpp:full
|
| 4 |
|
| 5 |
+
# 2. 파이썬 패키지 설치 도구(pip)를 한번 더 최신으로 업그레이드. (안정성을 위해)
|
|
|
|
|
|
|
|
|
|
| 6 |
RUN python3 -m pip install --upgrade pip setuptools wheel
|
| 7 |
|
| 8 |
+
# 3. 컨테이너 내부에 코드를 저장할 작업 폴더를 만듦.
|
| 9 |
WORKDIR /app
|
| 10 |
|
| 11 |
+
# 4. requirements.txt 파일을 복사하고 라이브러리를 설치.
|
| 12 |
+
# 이제 이 환경에는 모든 C++ 도구가 준비되어 있으므로, llama-cpp-python 설치가 문제없이 진행됨.
|
| 13 |
+
COPY ./requirements.txt /app/requirements.txt
|
| 14 |
+
RUN pip install --no-cache-dir --upgrade -r /app/requirements.txt
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 15 |
|
| 16 |
+
# 5. 나머지 모든 소스 코드를 작업 폴더에 복사.
|
| 17 |
COPY . /app
|
| 18 |
|
| 19 |
+
# 6. 모든 준비가 끝나면, FastAPI 서버를 실행.
|
| 20 |
+
# (보안을 위한 user 설정은 일단 생략하고, 가장 간단한 실행에 집중.)
|
| 21 |
CMD ["uvicorn", "app:app", "--host", "0.0.0.0", "--port", "7860"]
|