File size: 2,060 Bytes
7f11ff0 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 |
import pandas as pd
import os
import requests
from urllib.parse import urlparse, parse_qs
import time
import random
# Cargar el archivo CSV
df = pd.read_csv('metadata.csv')
# Crear la carpeta donde se guardarán los archivos descargados
os.makedirs('files', exist_ok=True)
ifile = 0
log = open("log.txt", "w")
# Recorrer el DataFrame por filas
for index, row in df.iterrows():
if row['nombre'] == 'filelink':
value = row['value']
if 'isAllowed=y' in value:
ifile += 1
print(ifile)
log.write(str(ifile)+"\n")
log.flush()
if ifile < 43310:
continue
# Obtener la URL completa agregando el dominio
file_url = "https://repositorio.uchile.cl" + value
try:
# Parsear la URL para extraer id_coleccion e id_recurso
parsed_url = urlparse(row['origen'])
path_parts = parsed_url.path.split('/')
id_coleccion = path_parts[2]
id_recurso = path_parts[3]
# Obtener el nombre del archivo con su extensión
file_name = value.split('/')[-1].split('?')[0]
# Crear el nombre final del archivo
final_file_name = f"files/{id_coleccion}_{id_recurso}_{file_name}"
#continue
time.sleep(random.uniform(3,5))
# Descargar el archivo
response = requests.get(file_url)
if response.status_code == 200:
with open(final_file_name, 'wb') as f:
f.write(response.content)
log.write(f"Archivo descargado: {final_file_name}\n")
else:
log.write(f"Error al descargar {final_file_name}: {response.status_code}\n")
log.flush()
except:
log.write("Error")
log.flush()
print(ifile) |