koh1018 commited on
Commit
d516149
·
1 Parent(s): ad9c6ca

공식 이미지로 변경

Browse files
Files changed (1) hide show
  1. Dockerfile +12 -29
Dockerfile CHANGED
@@ -1,38 +1,21 @@
1
- # 1. 기반이 공식 파이썬 이미지를 지정.
2
- FROM python:3.9
 
3
 
4
- # 2. C++ 컴파일러(gcc/g++) 버전 11과 필수 빌드 도구들을 설치.
5
- RUN apt-get update && apt-get install -y build-essential gcc-11 g++-11 cmake
6
-
7
- # 3. 파이썬의 패키지 설치 도구(pip) 자체를 최신 버전으로 업그레이드.
8
  RUN python3 -m pip install --upgrade pip setuptools wheel
9
 
10
- # 4. 컨테이너 내부에 코드를 저장할 작업 폴더를 만듦.
11
  WORKDIR /app
12
 
13
- # 5. 보안을 위해 권한이 제한된 새로운 사용자(user)를 생성하고 소유권을 이전.
14
- RUN useradd -m -u 1000 user
15
- RUN chown -R user:user /app
16
- USER user
17
-
18
- # 6. 환경 변수를 설정.
19
- ENV HF_HOME /app/huggingface_cache
20
- ENV PATH="/home/user/.local/bin:${PATH}"
21
-
22
- # 7. requirements.txt 파일을 복사.
23
- COPY ./requirements.txt requirements.txt
24
-
25
- # 8. llama-cpp-python을 '똑똑하게' 설치하기 위한 모든 옵션을 설정.
26
- ARG CMAKE_ARGS="-DLLAMA_CUBLAS=OFF -DLLAMA_HIPBLAS=OFF -DLLAMA_OPENBLAS=OFF"
27
- ENV FORCE_CMAKE=1
28
- ENV CC=gcc-11
29
- ENV CXX=g++-11
30
-
31
- # 9. 라이브러리 설치. (경로 수정 완료!)
32
- RUN pip install --no-cache-dir --upgrade -r requirements.txt
33
 
34
- # 10. 나머지 모든 소스 코드를 작업 폴더에 복사.
35
  COPY . /app
36
 
37
- # 11. 모든 준비가 끝나면, 서버를 실행.
 
38
  CMD ["uvicorn", "app:app", "--host", "0.0.0.0", "--port", "7860"]
 
1
+ # 1. 기반 이미지를 python:3.9 대신, llama.cpp 공식 이미지로 변경.
2
+ # 'full' 버전에는 python과 pip, 모든 빌드 도구가 이미 포함되어 있음.
3
+ FROM ghcr.io/ggml-org/llama.cpp:full
4
 
5
+ # 2. 파이썬 패키지 설치 도구(pip) 한번 최신으로 업그레이드. (안정성을 위해)
 
 
 
6
  RUN python3 -m pip install --upgrade pip setuptools wheel
7
 
8
+ # 3. 컨테이너 내부에 코드를 저장할 작업 폴더를 만듦.
9
  WORKDIR /app
10
 
11
+ # 4. requirements.txt 파일을 복사하고 라이브러리를 설치.
12
+ # 이제 환경에는 모든 C++ 도구가 준비되어 있으므로, llama-cpp-python 설치가 문제없이 진행됨.
13
+ COPY ./requirements.txt /app/requirements.txt
14
+ RUN pip install --no-cache-dir --upgrade -r /app/requirements.txt
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
15
 
16
+ # 5. 나머지 모든 소스 코드를 작업 폴더에 복사.
17
  COPY . /app
18
 
19
+ # 6. 모든 준비가 끝나면, FastAPI 서버를 실행.
20
+ # (보안을 위한 user 설정은 일단 생략하고, 가장 간단한 실행에 집중.)
21
  CMD ["uvicorn", "app:app", "--host", "0.0.0.0", "--port", "7860"]