main.py

# /home/aistudio/work
print('----远程执行-----')
import os
import subprocess
import sys
import configparser
import shutil
import openi

# openi 数据下载 数据集必须为公开数据集
openi_datasets = [
        # {
        #     "dataset_name": "qilan2/SD-QL",# 数据集路径
        #     "file_name": "SD模型3.zip",# 数据集名
        #     "save_path": "/tmp/code/sd/stable-diffusion-webui/models/Stable-diffusion/",# 解压路径结尾带/
        #     "extract": True, # 是否解压文件 True  False
        #     "use_unzip": True # unzip解压 True 7z解压 False
        # },
    # {
    #         "dataset_name": "qilan2/qilan_TTS",
    #         "file_name": "tts-mode.zip",
    #         "save_path": "/home/aistudio/work/",
    #         "extract": True,
    #         "use_unzip": True 
    #     }
    ]
mode_url = [
    #'文件名:URL'
    # 'tts1.zip:https://open-data.obs.cn-south-222.ai.pcl.cn:443/attachment/c/e/ce3364d5-e727-4ff3-8438-be5b4f6067de/tts1.zip?response-content-disposition=attachment%3B+filename%3D%22tts1.zip%22&AWSAccessKeyId=ZSCXA9TLRN1USYWIF7A5&Expires=1733754134&Signature=wcy5vx%2FYYgRsCaz4HTK1rV7oGAE%3D'
    
]


# 安装环境
# os.system('apt install aria2 -y')


def download_mode(file_urls, download_dir='/home/aistudio/work'):
    os.makedirs(download_dir, exist_ok=True)
    for file_url in file_urls:
        try:
            file_name, url = file_url.split(':', 1)
            download_wget(file_name, download_dir, url)
        except ValueError:
            print(f'无效的文件 URL 格式: {file_url}')

def download_wget(file_name, download_dir, url):
    download_path = os.path.join(download_dir, file_name)
    
    # 检查文件是否已经下载完成
    if os.path.exists(download_path):
        print(f'文件 {file_name} 已存在, URL: {url}')
        return
    
    # 如果文件没有下载完成, 则开始断点下载
    wget_args = (
        f'wget -c --directory-prefix={download_dir} '
        '--tries=5 --timeout=60 --waitretry=30 '
        '--read-timeout=60 --continue '
        '{url} -O {file_name}'
    )
    try:
        os.system(wget_args.format(url=url, file_name=file_name))
        print(f'已成功下载: {file_name}')
    except Exception as e:
        print(f'下载 {url} 失败: {e}')

def download_openi(datasets):
    for dataset in datasets:
        dataset_name = dataset["dataset_name"]
        file_name = dataset["file_name"]
        save_path = os.path.join(".", dataset["save_path"])
        extract = dataset.get("extract", True)
        use_unzip = dataset.get("use_unzip", True)

        if not os.path.exists(save_path):
            os.makedirs(save_path)
        os.chdir(save_path)

        config = configparser.ConfigParser()
        config.read('time.ini')
        print('执行指令',f'openi dataset download {dataset_name} {file_name}  --cluster NPU --save_path {save_path}')
        if config.has_option('downloaded_files', file_name):
            print(f"配置文件中已存在 {file_name},跳过下载。")
            continue

        # 下载文件
        openi.download_file(
            repo_id=dataset_name, 
            file=file_name, 
            cluster="npu", 
            save_path=save_path,
            force=True,
        )

        # 检查文件是否下载成功
        if not os.path.exists(file_name):
            print(f"下载 {file_name} 失败,跳过后续步骤。")
            continue

        print(f"数据集 {file_name} 已下载到 {save_path} 目录。")

        # 写入配置文件
        if not config.has_section('downloaded_files'):
            config.add_section('downloaded_files')
        config.set('downloaded_files', file_name, 'True')
        with open('time.ini', 'w') as configfile:
            config.write(configfile)

        # 解压文件
        if extract:
            extract_path = os.path.join(save_path, os.path.splitext(file_name)[0])
            if not os.path.exists(extract_path):
                os.makedirs(extract_path)
            if use_unzip:
                os.system(f'unzip -j {file_name} -d {extract_path}')
            else:
                os.system(f'7z x {file_name} -o{extract_path} -aoa')

            print(f"数据集 {file_name} 已解压到 {save_path} 目录。")

        # 删除压缩包文件
        os.remove(file_name)
        print(f"已删除压缩包文件 {file_name}。")

        

download_openi(openi_datasets)
download_mode(mode_url)