병렬 ON

Dockerfile

@@ -1,21 +1,38 @@
-# 1. 기반 이미지를 python:3.9 대신, llama.cpp 공식 이미지로 변경.
-#    'full' 버전에는 python과 pip, 모든 빌드 도구가 이미 포함되어 있음.
-FROM ghcr.io/ggml-org/llama.cpp:full
+# 1. 기반이 될 공식 파이썬 이미지를 지정.
+FROM python:3.9
 
-# 2. 파이썬 패키지 설치 도구(pip)를 한번 더 최신으로 업그레이드. (안정성을 위해)
+# 2. C++ 컴파일러(gcc/g++) 버전 11과 필수 빌드 도구들을 설치.
+RUN apt-get update && apt-get install -y build-essential gcc-11 g++-11 cmake
+
+# 3. 파이썬의 패키지 설치 도구(pip) 자체를 최신 버전으로 업그레이드.
 RUN python3 -m pip install --upgrade pip setuptools wheel
 
-# 3. 컨테이너 내부에 코드를 저장할 작업 폴더를 만듦.
+# 4. 컨테이너 내부에 코드를 저장할 작업 폴더를 만듦.
 WORKDIR /app
 
-# 4. requirements.txt 파일을 복사하고 라이브러리를 설치.
-#    이제 이 환경에는 모든 C++ 도구가 준비되어 있으므로, llama-cpp-python 설치가 문제없이 진행됨.
-COPY ./requirements.txt /app/requirements.txt
-RUN pip install --no-cache-dir --upgrade -r /app/requirements.txt
+# 5. 보안을 위해 권한이 제한된 새로운 사용자(user)를 생성하고 소유권을 이전.
+RUN useradd -m -u 1000 user
+RUN chown -R user:user /app
+USER user
+
+# 6. 환경 변수를 설정.
+ENV HF_HOME /app/huggingface_cache
+ENV PATH="/home/user/.local/bin:${PATH}"
+
+# 7. requirements.txt 파일을 복사.
+COPY ./requirements.txt requirements.txt
+
+# 8. llama-cpp-python을 '똑똑하게' 설치하기 위한 모든 옵션을 설정.
+ENV CMAKE_ARGS="-DLLAMA_CUBLAS=OFF -DLLAMA_HIPBLAS=OFF -DLLAMA_OPENBLAS=OFF -DLLAMA_CMAKE_BUILD_PARALLEL=ON"
+ENV FORCE_CMAKE=1
+ENV CC=gcc-11
+ENV CXX=g++-11
+
+# 9. 라이브러리 설치. (경로 수정 완료!)
+RUN pip install --no-cache-dir --upgrade -r requirements.txt
 
-# 5. 나머지 모든 소스 코드를 작업 폴더에 복사.
+# 10. 나머지 모든 소스 코드를 작업 폴더에 복사.
 COPY . /app
 
-# 6. 모든 준비가 끝나면, FastAPI 서버를 실행.
-#    (보안을 위한 user 설정은 일단 생략하고, 가장 간단한 실행에 집중.)
+# 11. 모든 준비가 끝나면, 서버를 실행.
 CMD ["uvicorn", "app:app", "--host", "0.0.0.0", "--port", "7860"]