Upload ProDiff/verify_data.py with huggingface_hub

ProDiff/verify_data.py

@@ -0,0 +1,75 @@
+import pandas as pd
+from tqdm import tqdm
+
+def verify_trajectory_frequency(file_path):
+    """
+    验证轨迹数据是否为每分钟一个点。
+
+    Args:
+        file_path (str): 轨迹数据文件路径。
+    """
+    print(f"正在验证文件: {file_path}")
+    
+    try:
+        df = pd.read_csv(file_path)
+    except FileNotFoundError:
+        print(f"❌ 错误：文件未找到 -> {file_path}")
+        print("请先确保 'prepare_data.py' 脚本已成功运行并生成了 'matched_trajectory_data.csv' 文件。")
+        return
+
+    if 'datetime' not in df.columns or 'date' not in df.columns or 'userid' not in df.columns:
+        print(f"❌ 错误：文件中缺少 'datetime', 'date', 或 'userid' 列。实际列: {df.columns.tolist()}")
+        return
+    
+    # 转换数据类型
+    df['datetime'] = pd.to_datetime(df['datetime'])
+    
+    # 按用户和日期分组
+    grouped = df.groupby(['userid', 'date'])
+    
+    total_groups = len(grouped)
+    inconsistent_groups = []
+    
+    print(f"总共找到 {total_groups} 个用户-日期组合，正在逐一检查...")
+    
+    for (userid, date), group in tqdm(grouped, total=total_groups, desc="检查时间频率"):
+        # 按时间排序
+        group_sorted = group.sort_values('datetime')
+        
+        # 计算时间差
+        time_diffs = group_sorted['datetime'].diff().dropna()
+        
+        # 检查是否所有时间差都是1分钟
+        # 使用 isclose 允许微小的浮点数误差
+        is_consistent = all(pd.Timedelta(minutes=1) - pd.Timedelta(seconds=1) < diff < pd.Timedelta(minutes=1) + pd.Timedelta(seconds=1) for diff in time_diffs)
+        
+        if not is_consistent:
+            # 记录不一致的组和详细信息
+            non_one_minute_diffs = time_diffs[~time_diffs.apply(lambda x: pd.Timedelta(minutes=1) - pd.Timedelta(seconds=1) < x < pd.Timedelta(minutes=1) + pd.Timedelta(seconds=1))]
+            inconsistent_groups.append({
+                'userid': userid,
+                'date': date,
+                'details': non_one_minute_diffs.to_dict()
+            })
+
+    print("\\n" + "="*50)
+    print("      验证结果")
+    print("="*50)
+    
+    if not inconsistent_groups:
+        print(f"✅ 验证通过！")
+        print(f"所有 {total_groups} 个用户-日期组合的轨迹数据都严格遵循 '一分钟一个点' 的格式。")
+    else:
+        print(f"⚠️ 验证失败！发现 {len(inconsistent_groups)} 个用户-日期组合的时间频率不一致。")
+        print("以下是前5个不一致组的详细信息：")
+        for i, group_info in enumerate(inconsistent_groups[:5]):
+            print(f"\\n  --- 示例 {i+1} ---")
+            print(f"  - 用户ID: {group_info['userid']}, 日期: {group_info['date']}")
+            for time_index, diff in list(group_info['details'].items())[:3]: # 只显示前3个异常
+                timestamp = df.loc[time_index, 'datetime']
+                print(f"    - 在时间点 {timestamp}, 检测到异常时间差: {diff}")
+    
+    print("="*50)
+
+if __name__ == "__main__":
+    verify_trajectory_frequency('data/matched_trajectory_data.csv')