Backfill: Apr + May 2026 OHLCV 1-min

#3

Contribuição de 2 meses em falta no dataset (último ficheiro existente: ohlcv_2026-03.parquet).

Cobertura

  • data/ohlcv_2026-04.parquet: 5.78M linhas · 320 tickers · 21 pregões · 53 MB
  • data/ohlcv_2026-05.parquet: 5.09M linhas · 325 tickers · 20 pregões · 56 MB

Schema: idêntico aos restantes ficheiros — timestamp (TIMESTAMP WITH TIME ZONE, UTC), open/high/low/close/volume (DOUBLE), ticker (VARCHAR). Janela: 04:00 → 20:00 ET (pré-mercado + RTH + after-hours).

Fontes: IBKR (TRADES whatToShow, paper account) para os meses completos; yfinance (prepost=True) como fallback para a janela de 8 dias que o IBKR não cobriu no momento da recolha. Volume é IEX nos dias yfinance e SIP-consolidated nos IBKR.

Universo: 320 tickers do US options weeklies (S&P 500 + mega-caps + ETFs/ADRs líquidos).

Thanks @mito0o852 for the dataset — usámo-lo para um estudo de gap-tail e queríamos retribuir.

Heads-up sobre o scope desta PR — para ser transparente:

O dataset original (Mar 2026) tem 22.057 tickers (universo US-listed completo via Finnhub). Esta PR contribui apenas 320 tickers (1.4% do universo) — o universo de US options weeklies que estávamos a usar internamente (S&P 500 mega-caps + ETFs líquidos como QQQ/SPY/IWM + ADRs principais).

Não é um backfill completo dos meses Apr+Mai 2026 — quem consultar estes 2 meses procurando tickers fora do nosso universo (micro-caps, OTC, etc.) terá linhas em falta vs Mar/Jun.

Aceita merge se considerares útil para os nomes líquidos cobertos; caso contrário fecha a PR sem cerimónia. Tentámos cobrir os 22k via Alpaca free SIP mas o signup é burocrático demais para o objetivo. Obrigado pelo dataset — usámo-lo num estudo de gap-tail e queríamos retribuir algo, mesmo que parcial.

Validated the two new months (2026-04, 2026-05) from this PR against our pipeline — looks good ✅

  • Schema intact (timestamp/OHLC/volume/ticker), IWM present: 8,211 (Apr) + 7,813 (May) RTH bars.
  • Real price action confirmed, not flat/duplicated: IWM +11.55% in April, +4.02% in May, with thousands of distinct intraday closes.
  • Integrated into our 26-year IWM backtest (now 2000→2026-05, ~2.26M bars) with no anomalies — per-setup win-rates shifted <0.01.

Thanks for keeping the dataset current! 🙏

Ready to merge
This branch is ready to get merged automatically.

Sign up or log in to comment