HaianCao/BinanceData

Binance Market Data

Giới thiệu

Dataset này là snapshot dữ liệu thị trường tài chính/crypto được thu thập từ các public market-data API của Binance. Dữ liệu chủ yếu là nến giao dịch 1 phút (1-minute OHLCV), được lưu ở hai định dạng:

• CSV: định dạng văn bản để tương thích và kiểm tra thủ công.
• Parquet: định dạng columnar nén Zstandard, phù hợp cho phân tích lớn bằng Polars, PyArrow, pandas, DuckDB, Spark và Hugging Face Datasets.

Dataset không phải là dữ liệu tài khoản, dữ liệu cá nhân, khóa API, dữ liệu giao dịch riêng tư hay lời khuyên đầu tư. Dữ liệu chỉ phản ánh lịch sử market data tại thời điểm thu thập và có thể không đại diện cho giá hiện tại.

Nguồn gốc dữ liệu

Nguồn dữ liệu gốc là các endpoint market-data công khai của Binance, không yêu cầu thông tin tài khoản cho việc đọc dữ liệu thị trường:

• Binance Spot API, Kline/Candlestick data: https://developers.binance.com/docs/binance-spot-api-docs/rest-api/market-data-endpoints#kline-candlestick-data
• Binance Public Data repository: https://github.com/binance/binance-public-data
• Binance API documentation: https://developers.binance.com/docs/binance-spot-api-docs/quick-start
• Binance Terms of Use: https://www.binance.com/en/terms

Dữ liệu trong repository này là bản sao đã được tải về và chuyển đổi định dạng. Repository này không phải là sản phẩm, dịch vụ hay repository chính thức của Binance và không được Binance bảo trợ.

Người dùng nên tự kiểm tra điều khoản sử dụng, giới hạn tái phân phối, nhãn hiệu và chính sách hiện hành của nhà cung cấp trước khi sử dụng lại hoặc phân phối dataset. Public API không tự động đồng nghĩa với public domain.

Phạm vi snapshot

• Số file: phụ thuộc vào snapshot thực tế trong các thư mục csv/ và parquet/.
• Mỗi symbol thường có một file CSV và một file Parquet cùng tên.
• Tần suất cột mốc: 1 phút, tương ứng 60,000 milliseconds giữa hai open_time liên tiếp trong các đoạn dữ liệu liên tục.
• Khoảng thời gian, số dòng và số symbol có thể khác nhau giữa các file do symbol có lịch sử niêm yết khác nhau.
• open_time và close_time là Unix timestamp theo milliseconds, nên được diễn giải theo UTC.
• Snapshot này không nên được coi là dữ liệu realtime. Hãy kiểm tra trường open_time lớn nhất trước khi phân tích.

Cấu trúc repository

.
├── README.md
├── csv/
│   ├── SYMBOL_1.csv
│   ├── SYMBOL_2.csv
│   └── ...
└── parquet/
    ├── SYMBOL_1.parquet
    ├── SYMBOL_2.parquet
    ├── ...
    └── .conversion_manifest.json

csv/SYMBOL.csv và parquet/SYMBOL.parquet cùng biểu diễn một symbol và cùng tập trường. File .conversion_manifest.json chỉ là metadata nội bộ dùng để theo dõi quá trình chuyển đổi CSV sang Parquet; không phải dữ liệu giao dịch.

Schema dữ liệu

Mỗi dòng là một nến giao dịch 1 phút của một symbol.

Trường	Kiểu CSV	Kiểu Parquet	Mô tả
open_time	integer	int64	Thời điểm mở nến, Unix timestamp milliseconds, UTC.
open	decimal text	double	Giá mở cửa của nến.
high	decimal text	double	Giá cao nhất trong nến.
low	decimal text	double	Giá thấp nhất trong nến.
close	decimal text	double	Giá đóng cửa của nến.
volume	decimal text	double	Khối lượng tài sản cơ sở được giao dịch trong nến.
close_time	integer	int64	Thời điểm kết thúc nến, Unix timestamp milliseconds, UTC.
quote_volume	decimal text	double	Tổng khối lượng tính theo quote asset, ví dụ USDT, USDC hoặc BUSD.
count	integer	int64	Số lượng giao dịch trong nến.
taker_buy_volume	decimal text	double	Khối lượng mua chủ động của taker, tính theo tài sản cơ sở.
taker_buy_quote_volume	decimal text	double	Khối lượng mua chủ động của taker, tính theo quote asset.
ignore	numeric text	double	Trường dự phòng từ nguồn Binance, thường có giá trị 0 và không nên dùng làm biến phân tích.

Quy ước symbol và quote asset

Tên file có dạng BASEQUOTE.csv hoặc BASEQUOTE.parquet, ví dụ XRPUSDT.csv.

• BASE là tài sản cơ sở.
• QUOTE là tài sản dùng để định giá.
• Không nên gộp trực tiếp các symbol có quote asset khác nhau mà không chuẩn hóa, ví dụ USDT, USDC và BUSD.
• Số chữ số thập phân của giá có thể khác nhau giữa các symbol.

CSV và Parquet

CSV lưu dữ liệu dạng text theo dòng. Đây là định dạng dễ tương thích, nhưng khi đọc cần parse chuỗi thành số.

Parquet lưu dữ liệu dạng columnar binary và giữ schema số học. Các file Parquet trong dataset được tạo từ CSV bằng PyArrow, đọc theo batch và nén Zstandard. Hai định dạng có cùng các trường logic, nhưng Parquet phù hợp hơn cho truy vấn một số cột, lọc theo thời gian và xử lý dữ liệu lớn.

Vi du doc Parquet bang Polars:

import polars as pl

path = "parquet/XRPUSDT.parquet"
df = pl.read_parquet(path)
print(df.head())

Đọc tiết kiệm bộ nhớ:

import polars as pl

result = (
    pl.scan_parquet("parquet/XRPUSDT.parquet")
    .select(["open_time", "close", "volume"])
    .filter(pl.col("open_time") >= 1700000000000)
    .collect()
)

Kiểm tra và sử dụng an toàn

Trước khi dùng cho mô hình, nên:

1. Chuyển timestamp sang datetime UTC.
2. Sắp xếp theo open_time.
3. Kiểm tra nến trùng và khoảng thiếu lớn hơn 1 phút.
4. Kiểm tra low <= open, low <= close, high >= open, high >= close.
5. Kiểm tra volume và count không âm.
6. Xử lý riêng các symbol có lịch sử ngắn hoặc đã ngừng giao dịch.
7. Tránh look-ahead bias: chỉ dùng thông tin đã có tại thời điểm dự báo.
8. Không xem dữ liệu lịch sử là lời khuyên đầu tư hay bảo đảm lợi nhuận.

Bản quyền và giấy phép

Metadata của dataset sử dụng license: other. Dữ liệu được thu thập từ các endpoint market-data công khai của Binance và được phân phối theo các điều khoản áp dụng của nguồn dữ liệu.

Dataset này không được phát hành theo CC0, MIT, Apache-2.0, CC BY hoặc một giấy phép mở khác. Việc API có thể truy cập công khai không đồng nghĩa với việc dữ liệu thuộc public domain hoặc người thu thập có quyền cấp lại giấy phép cho dữ liệu gốc.

Quyền sử dụng, sao chép, sửa đổi và tái phân phối dữ liệu phụ thuộc vào điều khoản hiện hành của Binance và các quyền liên quan đến dữ liệu thị trường. Vui lòng tham khảo:

• Binance API documentation: https://developers.binance.com/docs/binance-spot-api-docs/quick-start
• Binance Terms of Use: https://www.binance.com/en/terms