AlphaSlayer/tahoe-processed

数据设置

下载数据集

cd ~/data/tahoe
modelscope download \
  --dataset arcinstitute/State-Tahoe-Filtered \
  --local_dir ~/data/tahoe

原始数据路径

~/data/tahoe/*.h5ad

基因表达谱情况

表达矩阵是在原始counts的基础上，做了sc.pp.normalize_total(adata,target_sum=4000)处理。

数据划分规则

要验证集：

1. 训练集(40个):c0-c3，c5-c16,c21,c25-c30,c32-c37,c39-c49
2. 验证集(5个):c4,c17,c18,c23,c38
3. 测试集(5个):c19,c20,c22,c24,c31

不要验证集：

1. 训练集(45个):c0-c18,c21,c23,c25-c30,c32-c49
2. 测试集(5个):c19,c20,c22,c24,c31

数据预处理流程

分别对每一个数据集: 1.仅保留obs['drugname_drugconc']/obs['drug']/obs['cell_name']/obs['plate']，删除其他所有obs列 2.删除全部obsm信息 3.读取 ~/data/docs/ST_tahoe_var_dims.pkl。 该文件是一个字典结构，需要从中提取键名为 "gene_names" 对应的值，作为高变基因名称列表。 将当前 AnnData 对象中的基因（adata.var_names）与上述参考基因列表取交集，只保留那些同时存在的基因，丢弃不在参考列表中的基因。 注意：基因顺序要保持和pkl文件中的顺序一致。 4. 增加2个obs列：

• obs['drug_index']，其中的drug_index按照obs['drug']在~/data/docs/drug_name_list.csv文件中的排序确定。已知，csv文件只有一列，且第一行是表头，名称是"drug_name"。
• obs['cell_type']，其中的cell_type用文件名称，例如：~/data/tahoe/c10.h5ad文件的cell_type是c10。

5. 将每一个数据集，按照obs['drug_index']列拆分，路径为：~/data/tahoe_for_scgen/split_by_drug/
6. 数据集的命名规则参见“tahoe_for_scgen文件夹概况”