# NVIDIAのCUDAランタイムイメージをベースにする (Ubuntu 22.04) FROM nvidia/cuda:11.8.0-cudnn8-runtime-ubuntu22.04 # 作業ディレクトリを設定 WORKDIR /app # 必要なパッケージをインストール RUN apt-get update && \ apt-get install -y --no-install-recommends \ software-properties-common && \ add-apt-repository ppa:deadsnakes/ppa && \ apt-get update && \ apt-get install -y --no-install-recommends \ python3.10 \ python3-pip \ python3.10-venv \ curl \ git && \ apt-get clean && rm -rf /var/lib/apt/lists/* # Pythonのシンボリックリンクを作成 RUN ln -s /usr/bin/python3.10 /usr/bin/python # Pythonパッケージをインストール RUN pip install --upgrade pip RUN pip install --upgrade \ vllm>=0.6.4.post1 \ mistral_common>=1.5.0 \ huggingface_hub # Hugging Faceのキャッシュディレクトリを設定 ENV HF_HOME=/app/.cache/huggingface # 書き込み可能なディレクトリを作成 RUN mkdir -p /app/.config/matplotlib && chmod -R 777 /app/.config # 環境変数 MPLCONFIGDIR を設定 ENV MPLCONFIGDIR=/app/.config/matplotlib # NVIDIA GPUの設定 (CUDAの自動検出) ENV NVIDIA_VISIBLE_DEVICES all ENV NVIDIA_DRIVER_CAPABILITIES compute,utility # アプリケーションコードをコンテナ内にコピー COPY app.py /app/app.py # アプリケーション実行コマンド CMD ["python", "app.py"]