danny2507/learning-xu-ly-video

Nghiên cứu xử lý video: phát hiện chuyển động, benchmark WiseNET và đếm giao thông Hà Nội

Dạ thưa, đây là repository tổng hợp ba giai đoạn nghiên cứu xử lý video của con. Phần đầu nghiên cứu các thuật toán phát hiện vùng chuyển động cơ bản; phần tiếp theo benchmark trên bộ dữ liệu WiseNET; và phần gần đây nhất xây dựng hệ thống phát hiện, theo vết và đếm phương tiện giao thông tại Hà Nội.

1. Tháng 4 — Nghiên cứu nền tảng: ba thuật toán phát hiện chuyển động

Mục tiêu ở giai đoạn này là hiểu cách phát hiện chuyển động trên camera cố định trước khi dùng mô hình học sâu. Ba thuật toán được triển khai là:

Thuật toán	Nguyên lý	Điểm mạnh	Hạn chế
MOG2 background subtraction	Học mô hình nền bằng Gaussian Mixture Model; phần khác nền được xem là foreground	Phù hợp camera cố định, chạy nhanh	Rất nhạy với rung camera, bóng, lá cây và thay đổi ánh sáng
Frame differencing	Lấy chênh lệch pixel giữa hai frame liên tiếp	Đơn giản nhất, rất nhanh, ít bộ nhớ	Bỏ sót vật thể di chuyển chậm; box thường bị vỡ hoặc chỉ còn một phần vật thể
Dense optical flow	Ước lượng vector chuyển động tại từng pixel	Bắt chuyển động tốt hơn hai cách trên	Tốn CPU, vẫn có false positive khi nền động

Các ảnh dưới đây là kết quả detect thực tế từ ba video đầu ra. Box nhiều và có thể phủ lên cả cây/nền là minh hoạ trực tiếp cho giới hạn của các thuật toán cơ bản: chúng phát hiện chuyển động, chưa hiểu ngữ nghĩa như “người”, “xe máy” hay “ô tô”.

MOG2 background subtraction	Frame differencing	Dense optical flow

Kết quả benchmark đã điều chỉnh trên WiseNET cho thấy MOG2 có thể chạy nhanh hơn thời gian thực (41.03 FPS, F1 0.376); frame differencing nhanh nhất (83.15 FPS, F1 0.177); còn optical flow chính xác hơn trong ba thuật toán cổ điển (F1 0.600) nhưng chỉ đạt 5.33 FPS. Chi tiết nằm trong báo cáo so sánh phương pháp.

2. Tháng 5–6 — WiseNET: benchmark phát hiện người trong video giám sát

WiseNET là gì?

WiseNET là bộ dữ liệu video giám sát trong nhà, đa camera và đa không gian dành cho phát hiện và theo vết người. Bộ dữ liệu gồm 11 video set, tổng cộng 62 video từ 6 camera, hơn một giờ video, 77 track người; đi kèm nhãn phát hiện/theo vết ở JSON và thông tin bối cảnh toà nhà theo BIM/IFC. Đây là bộ dữ liệu phù hợp để đánh giá phát hiện người trên camera cố định, không phải dataset giao thông. Bài báo mô tả WiseNET

Con đã thử nghiệm gì?

Trên cùng video WiseNET và cùng ground truth người, con so sánh sáu hướng tiếp cận:

• Ba thuật toán cơ bản từ tháng 4: MOG2, frame differencing, dense optical flow.
• Hai detector YOLO đã huấn luyện sẵn: YOLO11n và YOLO26n.
• Một baseline không phải YOLO: Faster R-CNN MobileNet V3 320 FPN.

Minh hoạ trực tiếp trên WiseNET

Mỗi hình bên dưới chia cùng một frame thành các panel: ground truth, ba thuật toán cơ bản, YOLO11n, YOLO26n và Faster R-CNN. Vì vậy có thể nhìn trực tiếp khác biệt giữa việc chỉ bắt vùng chuyển động và phát hiện người bằng detector học sâu.

Người ở xa: MOG2 tạo nhiều box dư	Người rõ hơn: detector học sâu bắt đúng người

Preview động dưới đây là một clip WiseNET đã ghép panel. Nó cho thấy box ground truth và kết quả của từng phương pháp biến đổi theo thời gian:

Tóm tắt ngắn: YOLO11n đạt F1 cao nhất (0.939); MOG2 là phương án cổ điển chạy realtime CPU hợp lý (47.23 FPS, F1 0.376); frame differencing nhẹ nhất nhưng F1 thấp. Bảng đầy đủ, biểu đồ RAM/FPS và phân tích storage nằm trong báo cáo benchmark WiseNET một CPU core.

3. Tháng 8 — Phát hiện và đếm giao thông Hà Nội

Giai đoạn hiện tại chuyển từ phát hiện người trong nhà sang video giao thông thực tế: Ha Noi - Bach Mai Street - Vietnam Traffic Survey Footage.mp4.

Pipeline hiện tại:

YOLO11n phát hiện xe theo từng frame
        ↓
ByteTrack gán ID và theo vết qua nhiều frame
        ↓
Ổn định class bằng confidence-weighted voting theo từng track
        ↓
Đếm một lần khi tâm box đi từ trái sang phải qua vạch dọc giữa khung hình

Các class đang xử lý là bicycle, car, motorcycle, bus, truck. Hệ thống đã có side-state cho hai phía của vạch, track buffer 60 frame và class lock sau các quan sát nhất quán để giảm bỏ sót khi xe đi qua vạch hoặc bị đổi nhãn trong vài frame.

Vấn đề đang gặp

• Xe đạp bị nhận nhầm là xe máy: class bicycle và motorcycle có hình dáng gần nhau ở ảnh xa/nhòe; class voting chỉ làm nhãn ổn định hơn, không tự sửa được lỗi detector.
• Xe đi sát/chồng lên nhau: detector có thể mất box, ByteTrack có thể đổi ID hoặc tách/gộp nhầm track, dẫn đến thiếu hoặc đếm trùng.
• Xe nhỏ, xa và giao thông đông: ảnh 1280×720 nhưng nhiều xe chiếm ít pixel, đặc biệt ở phía xa của đường.

Lỗi class: xe đạp bị nhận thành motorcycle	Lỗi occlusion: xe đi sát/chồng box

4. Hướng dẫn chạy

Cài môi trường

uv sync

Chạy ba thuật toán cơ bản

uv run detect-motion path\to\video.mp4 --min-area 1500 --history 300 --threshold 20
uv run detect-motion-frame-diff path\to\video.mp4 --min-area 1500 --threshold 25
uv run detect-motion-optical-flow path\to\video.mp4 --min-area 1500 --magnitude-threshold 2.0

Chạy benchmark WiseNET

uv run python tools\benchmark_wisenet_methods.py `
  --video path\to\video1_2.avi `
  --annotations path\to\video1_2.json `
  --output-dir outputs\wisenet_benchmark `
  --methods mog2 frame_diff optical_flow yolo11n yolo26n fasterrcnn

WiseNET cần được tải riêng theo cấu trúc mô tả trong ghi chú dataset và artifact. Có thể tạo video WiseNET dài để stress test theo hướng dẫn tạo long video.

Chạy đếm giao thông Hà Nội

uv run python vehicle_detection_counter/count_vehicles.py

Kiểm tra nhanh 100 frame đầu:

uv run python vehicle_detection_counter/count_vehicles.py --max-frames 100

Đưa video và artifact lên Hugging Face

Điền HF_TOKEN vào file .env, sau đó xem trước danh sách upload:

uv run python tools\publish_huggingface.py

Để tạo/upload dataset repository danny2507/learning-xu-ly-video:

uv run python tools\publish_huggingface.py --publish

Thư mục có hơn 10 ảnh được chuyển vào IGNORE/, không được upload lên GitHub hoặc Hugging Face. Danh sách, nguồn gốc và cách tái tạo nằm trong ignored-artifacts.md.

Cấu trúc repository

learning_xu_ly_video/        Ba thuật toán phát hiện chuyển động
vehicle_detection_counter/   YOLO11n + ByteTrack đếm xe qua vạch
tools/                       Benchmark, tạo ví dụ và uploader Hugging Face
reports/                     Báo cáo và ghi chú dataset/artifact
assets/                      Hình minh hoạ trong README
IGNORE/                      Dữ liệu cục bộ nhiều ảnh, bị loại khỏi upload