Datasets:

latkes
/

factprobe-replication-exposure-knows-trajectory-v1

checkpoint stringlengths 5 19	probe_tag stringclasses 9 values	relation stringclasses 2 values	n_rows int64 271k 310k	n_subjects int64 4.61k 5.98k	auc_beats_1 float64 0.55 0.61	acc_beats_1 float64 0.55 0.64	rate_beats_1 float64 0.56 0.64	auc_beats_1_f1_subj float64 0.49 0.54	auc_beats_1_f2_obj float64 0.52 0.59	auc_beats_1_f3_cooc float64 0.53 0.56	auc_beats_1_f4_subj_rel float64 0.48 0.53	auc_beats_1_f5_triple float64 0.53 0.56	auc_beats_1_f6_fact1 float64 0.5 0.5	auc_beats_1_f7_fact_all float64 0.5 0.51	auc_beats_2 float64 0.53 0.58	acc_beats_2 float64 0.59 0.69	rate_beats_2 float64 0.59 0.68	auc_beats_2_f1_subj float64 0.49 0.54	auc_beats_2_f2_obj float64 0.5 0.56	auc_beats_2_f3_cooc float64 0.52 0.56	auc_beats_2_f4_subj_rel float64 0.48 0.53	auc_beats_2_f5_triple float64 0.52 0.55	auc_beats_2_f6_fact1 float64 0.5 0.5	auc_beats_2_f7_fact_all float64 0.5 0.51	auc_beats_3 float64 0.55 0.59	acc_beats_3 float64 0.61 0.69	rate_beats_3 float64 0.61 0.7	auc_beats_3_f1_subj float64 0.49 0.55	auc_beats_3_f2_obj float64 0.51 0.57	auc_beats_3_f3_cooc float64 0.54 0.57	auc_beats_3_f4_subj_rel float64 0.49 0.54	auc_beats_3_f5_triple float64 0.54 0.57	auc_beats_3_f6_fact1 float64 0.5 0.5	auc_beats_3_f7_fact_all float64 0.5 0.51	auc_beats_all float64 0.56 0.61	acc_beats_all float64 0.55 0.65	rate_beats_all float64 0.34 0.46	auc_beats_all_f1_subj float64 0.48 0.55	auc_beats_all_f2_obj float64 0.51 0.59	auc_beats_all_f3_cooc float64 0.55 0.57	auc_beats_all_f4_subj_rel float64 0.48 0.55	auc_beats_all_f5_triple float64 0.54 0.57	auc_beats_all_f6_fact1 float64 0.5 0.5	auc_beats_all_f7_fact_all float64 0.5 0.51	auc_beats_any float64 0.55 0.61	acc_beats_any float64 0.79 0.88	rate_beats_any float64 0.8 0.87	auc_beats_any_f1_subj float64 0.48 0.54	auc_beats_any_f2_obj float64 0.5 0.59	auc_beats_any_f3_cooc float64 0.54 0.58	auc_beats_any_f4_subj_rel float64 0.48 0.54	auc_beats_any_f5_triple float64 0.54 0.57	auc_beats_any_f6_fact1 float64 0.5 0.5	auc_beats_any_f7_fact_all float64 0.5 0.51	r2_p_true float64 0.01 0.07	spearman_p_true_f1_subj float64 0.01 0.16	spearman_p_true_f2_obj float64 0.02 0.19	spearman_p_true_f3_cooc float64 0.09 0.2	spearman_p_true_f4_subj_rel float64 0.02 0.17	spearman_p_true_f5_triple float64 0.09 0.2	spearman_p_true_f6_fact1 float64 0.05 0.06 ⌀	spearman_p_true_f7_fact_all float64 0.04 0.08
13b_base__13b_100B	13b	P26	271,384	5,982	0.570268	0.629668	0.633	0.536229	0.544711	0.561165	0.531923	0.559876	0.50307	0.505898	0.565085	0.671528	0.6732	0.532568	0.527244	0.555955	0.527774	0.554869	0.502807	0.506501	0.571267	0.680786	0.6835	0.542236	0.53005	0.563264	0.53849	0.562363	0.503162	0.506701	0.577526	0.571366	0.4438	0.541421	0.541913	0.56937	0.538275	0.568494	0.503798	0.507694	0.585592	0.870648	0.8638	0.543163	0.527639	0.566278	0.535853	0.564531	0.503032	0.507083	0.048413	0.1257	0.0503	0.1819	0.1328	0.1829	0.0553	0.0797
13b_base__13b_100B	13b	P3373	309,502	4,610	0.567074	0.590001	0.6333	0.515107	0.531569	0.538074	0.505636	0.535036	0.5	0.501546	0.556722	0.677659	0.6747	0.506545	0.505	0.529535	0.500149	0.528201	0.5	0.501394	0.56826	0.679144	0.6808	0.529529	0.51945	0.543678	0.522127	0.541701	0.5	0.501731	0.577222	0.564369	0.4422	0.530776	0.527	0.548831	0.522596	0.546733	0.5	0.502257	0.581366	0.853193	0.8547	0.537851	0.519798	0.556077	0.530338	0.554069	0.5	0.501513	0.017289	0.0442	0.0404	0.1164	0.0454	0.1159	null	0.0509
13b_base__13b_300B	13b	P26	271,384	5,982	0.570372	0.629668	0.633	0.536085	0.544755	0.561147	0.531752	0.55986	0.50307	0.505898	0.565606	0.671528	0.6732	0.532567	0.527582	0.556009	0.527662	0.554934	0.502807	0.5065	0.571593	0.680786	0.6835	0.542131	0.530088	0.56331	0.538253	0.562412	0.503161	0.506701	0.577911	0.571283	0.4438	0.541191	0.541942	0.569392	0.537912	0.568511	0.503798	0.507693	0.586158	0.870648	0.8638	0.543215	0.528129	0.56637	0.535716	0.564636	0.503031	0.507083	0.048149	0.1267	0.0518	0.182	0.1337	0.183	0.0553	0.0797
13b_base__13b_300B	13b	P3373	309,502	4,610	0.566992	0.590001	0.6333	0.514702	0.531475	0.538104	0.505209	0.535075	0.5	0.501546	0.556641	0.677659	0.6747	0.506365	0.505299	0.529528	0.499889	0.528203	0.5	0.501394	0.568623	0.679144	0.6808	0.529452	0.519522	0.543695	0.5219	0.541722	0.5	0.501731	0.576958	0.563607	0.4422	0.530402	0.527091	0.548801	0.522156	0.54673	0.5	0.502257	0.581155	0.853193	0.8547	0.537716	0.520063	0.556113	0.530133	0.554116	0.5	0.501513	0.017158	0.0442	0.0415	0.1163	0.0454	0.1158	null	0.0509
13b_base__13b_union	13b	P26	271,384	5,982	0.570292	0.629668	0.633	0.53582	0.545112	0.561166	0.531542	0.559893	0.50307	0.505898	0.56623	0.671528	0.6732	0.532506	0.528346	0.555987	0.527324	0.554925	0.502807	0.506497	0.571901	0.680786	0.6835	0.541961	0.530461	0.563402	0.537842	0.562508	0.503161	0.506701	0.578217	0.571228	0.4438	0.54083	0.542273	0.569388	0.537379	0.56852	0.503798	0.507691	0.586566	0.870648	0.8638	0.54311	0.529263	0.566498	0.535331	0.564801	0.503031	0.507083	0.047296	0.128	0.0544	0.182	0.1346	0.1829	0.0553	0.0796
13b_base__13b_union	13b	P3373	309,502	4,610	0.566204	0.590001	0.6333	0.513874	0.531495	0.538192	0.504444	0.535161	0.5	0.501546	0.555826	0.677659	0.6747	0.506122	0.506009	0.529595	0.499502	0.52831	0.5	0.501394	0.568378	0.679144	0.6808	0.529512	0.520077	0.543829	0.521742	0.541837	0.5	0.501731	0.576321	0.562997	0.4422	0.52987	0.527541	0.548833	0.521444	0.546777	0.5	0.502257	0.580186	0.853193	0.8547	0.537417	0.520957	0.556304	0.529758	0.55429	0.5	0.501513	0.017096	0.044	0.0439	0.1163	0.0453	0.1159	null	0.0509
13b_dpo__13b_100B	13b	P26	271,384	5,982	0.570185	0.587281	0.5927	0.537389	0.544193	0.560026	0.532877	0.558376	0.503167	0.506555	0.565162	0.631052	0.6323	0.536663	0.528139	0.555415	0.531458	0.55444	0.502925	0.506954	0.573568	0.643007	0.6447	0.545281	0.530059	0.563916	0.54099	0.563107	0.502937	0.506465	0.579517	0.601945	0.4	0.547888	0.541997	0.570544	0.544187	0.569495	0.503813	0.507782	0.580295	0.8412	0.8341	0.54008	0.52838	0.566184	0.533753	0.564631	0.502965	0.507426	0.051259	0.14	0.0491	0.1846	0.1473	0.1856	0.0563	0.0843
13b_dpo__13b_100B	13b	P3373	309,502	4,610	0.557506	0.551767	0.5991	0.513988	0.525243	0.536242	0.506579	0.534026	0.5	0.501712	0.5524	0.643226	0.6401	0.504382	0.501599	0.524973	0.498122	0.523994	0.5	0.501398	0.563127	0.64945	0.6461	0.525019	0.513356	0.537617	0.51762	0.53546	0.5	0.501775	0.573712	0.590112	0.4058	0.530059	0.519686	0.546874	0.522193	0.544892	0.5	0.502391	0.573474	0.829776	0.8289	0.527858	0.517612	0.54647	0.520523	0.544529	0.5	0.501473	0.014911	0.0409	0.0269	0.1061	0.0473	0.1067	null	0.0524
13b_dpo__13b_300B	13b	P26	271,384	5,982	0.570271	0.587306	0.5927	0.537174	0.544207	0.55998	0.532626	0.558339	0.503167	0.506555	0.565753	0.631052	0.6323	0.536557	0.528368	0.555463	0.53122	0.554502	0.502925	0.506953	0.573904	0.643007	0.6447	0.545101	0.530025	0.563925	0.540664	0.563118	0.502937	0.506465	0.57984	0.601531	0.4	0.547634	0.54194	0.570535	0.543785	0.569482	0.503812	0.507781	0.580922	0.8412	0.8341	0.540099	0.528696	0.566196	0.533537	0.564658	0.502964	0.507426	0.050944	0.1408	0.0505	0.1846	0.148	0.1856	0.0563	0.0843
13b_dpo__13b_300B	13b	P3373	309,502	4,610	0.557194	0.551767	0.5991	0.513549	0.525142	0.536242	0.50612	0.534041	0.5	0.501712	0.552471	0.643226	0.6401	0.504076	0.501865	0.524956	0.497716	0.523985	0.5	0.501398	0.563405	0.64945	0.6461	0.525012	0.513445	0.537633	0.51747	0.535486	0.5	0.501775	0.573348	0.589731	0.4058	0.529674	0.519804	0.546824	0.521772	0.544869	0.5	0.502391	0.573107	0.829776	0.8289	0.527702	0.517805	0.546496	0.520365	0.544574	0.5	0.501473	0.014767	0.0409	0.0279	0.106	0.0473	0.1066	null	0.0524
13b_dpo__13b_union	13b	P26	271,384	5,982	0.570312	0.587331	0.5927	0.536789	0.54457	0.559922	0.532207	0.558311	0.503167	0.506554	0.566399	0.631052	0.6323	0.536305	0.528992	0.555445	0.530645	0.554509	0.502925	0.50695	0.574287	0.643007	0.6447	0.544864	0.530321	0.563976	0.540163	0.563182	0.502937	0.506464	0.580197	0.601145	0.4	0.547209	0.542159	0.570488	0.543129	0.569444	0.503813	0.50778	0.581612	0.8412	0.8341	0.54004	0.529608	0.566263	0.533154	0.564768	0.502964	0.507425	0.049944	0.1418	0.0529	0.1845	0.1486	0.1854	0.0563	0.0843
13b_dpo__13b_union	13b	P3373	309,502	4,610	0.556	0.551767	0.5991	0.512725	0.525091	0.536287	0.505421	0.534101	0.5	0.501712	0.551812	0.643226	0.6401	0.503687	0.502516	0.524997	0.497193	0.524075	0.5	0.501398	0.562966	0.64945	0.6461	0.525196	0.513999	0.537781	0.517466	0.535631	0.5	0.501775	0.57261	0.588969	0.4058	0.52912	0.520345	0.546815	0.521102	0.544879	0.5	0.502391	0.571667	0.829776	0.8289	0.527527	0.518542	0.546651	0.520194	0.544738	0.5	0.501473	0.01468	0.0409	0.0302	0.106	0.0474	0.1066	null	0.0524
13b_ing1__s1s2	13b_ing1	P26	271,384	5,982	0.565679	0.635495	0.641	0.533511	0.54092	0.558344	0.529367	0.556989	0.502614	0.505184	0.560869	0.674065	0.6771	0.525529	0.524901	0.550233	0.520769	0.54923	0.502286	0.50593	0.566289	0.690221	0.692	0.53963	0.527367	0.559062	0.535448	0.558153	0.50264	0.506317	0.570978	0.568428	0.4458	0.537284	0.539247	0.563836	0.533678	0.562739	0.503156	0.507031	0.580379	0.875986	0.8717	0.535409	0.52821	0.563556	0.529353	0.562603	0.502591	0.506016	0.047715	0.1068	0.041	0.1687	0.1171	0.1702	0.0476	0.0726
13b_ing1__s1s2	13b_ing1	P3373	309,502	4,610	0.562041	0.567261	0.6109	0.522203	0.535487	0.540844	0.513612	0.538691	0.5	0.50153	0.546163	0.657812	0.6507	0.50362	0.503585	0.527709	0.499395	0.527089	0.5	0.501391	0.56649	0.659856	0.6571	0.534125	0.516032	0.544767	0.527636	0.542537	0.5	0.501626	0.580902	0.585665	0.4052	0.544075	0.526241	0.554819	0.536059	0.552508	0.5	0.502116	0.57689	0.845519	0.8485	0.534601	0.525236	0.555286	0.527755	0.553838	0.5	0.501529	0.012546	0.0169	0.0262	0.0941	0.0207	0.0938	null	0.0461
13b_ing2__s1s2	13b_ing2	P26	271,384	5,982	0.566849	0.639282	0.6448	0.537094	0.544561	0.563198	0.532971	0.561826	0.502814	0.505675	0.56339	0.679891	0.6833	0.526609	0.524444	0.5529	0.521854	0.552042	0.502479	0.505355	0.57014	0.687876	0.6952	0.543594	0.532743	0.567104	0.540796	0.566435	0.503116	0.506967	0.577251	0.569379	0.4538	0.537246	0.538633	0.567518	0.533332	0.566254	0.503867	0.507548	0.586175	0.875131	0.8738	0.5406	0.526824	0.567909	0.533774	0.566416	0.502792	0.506934	0.052713	0.1263	0.0452	0.1857	0.1354	0.187	0.0499	0.0761
13b_ing2__s1s2	13b_ing2	P3373	309,502	4,610	0.571128	0.593401	0.6413	0.508737	0.542349	0.541135	0.499871	0.538203	0.5	0.501463	0.555812	0.685445	0.6806	0.503439	0.518985	0.53533	0.498759	0.533901	0.5	0.501255	0.566078	0.682448	0.6891	0.526958	0.526387	0.546397	0.520647	0.544007	0.5	0.501633	0.580795	0.569706	0.4411	0.529939	0.538406	0.556727	0.522324	0.554037	0.5	0.502162	0.577741	0.863904	0.8679	0.531257	0.531585	0.557338	0.524744	0.555119	0.5	0.501383	0.024978	0.0409	0.076	0.1358	0.0431	0.1346	null	0.0525
13b_ing3__s1s2	13b_ing3	P26	271,384	5,982	0.568193	0.606213	0.6131	0.534122	0.545241	0.56024	0.530304	0.559038	0.503098	0.505928	0.56603	0.656103	0.6556	0.532643	0.5281	0.55437	0.52732	0.553417	0.502781	0.505836	0.573118	0.666262	0.6666	0.540886	0.532163	0.564276	0.53677	0.563686	0.503256	0.506884	0.578212	0.588041	0.4218	0.539787	0.544103	0.568211	0.5362	0.56716	0.504265	0.508565	0.586642	0.861021	0.8525	0.54327	0.528574	0.568727	0.536303	0.567785	0.502846	0.506238	0.047208	0.1256	0.0458	0.1784	0.1314	0.1791	0.0563	0.0801
13b_ing3__s1s2	13b_ing3	P3373	309,502	4,610	0.568519	0.601193	0.6423	0.507527	0.53164	0.535403	0.498042	0.532341	0.5	0.501453	0.549561	0.691188	0.6838	0.500855	0.503195	0.525452	0.49559	0.52417	0.5	0.501287	0.562196	0.689678	0.6894	0.525478	0.523364	0.541772	0.517811	0.539863	0.5	0.501578	0.569548	0.552781	0.455	0.522571	0.52661	0.544997	0.514817	0.542777	0.5	0.501926	0.574542	0.859038	0.8589	0.526405	0.524068	0.551271	0.519743	0.549855	0.5	0.501343	0.013926	0.0347	0.0422	0.1088	0.0352	0.1079	null	0.0471
13b_ing4__s1s2	13b_ing4	P26	271,384	5,982	0.558715	0.601738	0.6017	0.529289	0.526137	0.549027	0.524578	0.547998	0.502937	0.504967	0.559176	0.642857	0.6403	0.532983	0.509414	0.548	0.52846	0.547212	0.50218	0.505907	0.568339	0.649338	0.65	0.54439	0.512456	0.557267	0.540796	0.556482	0.503105	0.507078	0.57146	0.595559	0.4038	0.539044	0.524891	0.561178	0.535454	0.560246	0.503765	0.50765	0.577331	0.84869	0.8408	0.538817	0.500058	0.553861	0.532602	0.55294	0.50261	0.506504	0.039719	0.1027	0.0155	0.1517	0.1072	0.1527	0.0529	0.0738
13b_ing4__s1s2	13b_ing4	P3373	309,502	4,610	0.56591	0.554832	0.5945	0.510131	0.519297	0.532338	0.500787	0.529976	0.5	0.501496	0.550198	0.632575	0.6267	0.499111	0.49947	0.522099	0.493258	0.520817	0.5	0.501567	0.564564	0.63973	0.6298	0.517074	0.507226	0.538088	0.510817	0.536147	0.5	0.501727	0.574434	0.59381	0.3948	0.520085	0.517888	0.545325	0.512352	0.543454	0.5	0.502334	0.57687	0.819052	0.8193	0.519651	0.51056	0.546459	0.512383	0.545063	0.5	0.5015	0.020404	0.0617	0.0401	0.1294	0.0638	0.1294	null	0.0527
13b_rlvr__13b_100B	13b	P26	271,384	5,982	0.56992	0.584847	0.5894	0.538386	0.543071	0.559712	0.533813	0.558055	0.503143	0.506507	0.565468	0.628452	0.6293	0.536782	0.527851	0.555213	0.531427	0.554241	0.502846	0.506927	0.573564	0.640221	0.6417	0.54566	0.530371	0.563958	0.54134	0.563185	0.503029	0.506522	0.580071	0.605517	0.3964	0.549035	0.542019	0.570762	0.545167	0.569682	0.503887	0.507851	0.579938	0.839103	0.832	0.540558	0.528934	0.566289	0.534194	0.564672	0.503039	0.507131	0.051246	0.1395	0.0467	0.1835	0.1469	0.1845	0.0566	0.0846
13b_rlvr__13b_100B	13b	P3373	309,502	4,610	0.556309	0.549571	0.5969	0.51431	0.524012	0.53545	0.506915	0.533369	0.5	0.5017	0.551662	0.640478	0.6365	0.505093	0.500014	0.524127	0.499014	0.523265	0.5	0.501409	0.562164	0.645867	0.6429	0.526171	0.511513	0.537262	0.518738	0.535005	0.5	0.501816	0.573729	0.592361	0.4024	0.531819	0.51843	0.547281	0.524047	0.545357	0.5	0.502421	0.573161	0.827158	0.8266	0.528418	0.514348	0.545827	0.521032	0.543798	0.5	0.50148	0.013504	0.0403	0.0225	0.1035	0.0463	0.104	null	0.0523
13b_rlvr__13b_300B	13b	P26	271,384	5,982	0.569936	0.584872	0.5894	0.538161	0.543083	0.559652	0.533556	0.558006	0.503143	0.506507	0.566014	0.628452	0.6293	0.536683	0.528083	0.555254	0.531203	0.554292	0.502845	0.506926	0.573948	0.640221	0.6417	0.545486	0.530351	0.563963	0.541014	0.563194	0.503029	0.506521	0.580486	0.605324	0.3964	0.548767	0.54197	0.570757	0.544748	0.569672	0.503886	0.50785	0.580519	0.839103	0.832	0.540543	0.52923	0.566286	0.533941	0.564683	0.503039	0.50713	0.05091	0.1404	0.0481	0.1835	0.1476	0.1845	0.0566	0.0846
13b_rlvr__13b_300B	13b	P3373	309,502	4,610	0.555988	0.549571	0.5969	0.513871	0.523896	0.535449	0.506461	0.533383	0.5	0.5017	0.551772	0.640478	0.6365	0.504771	0.500267	0.52411	0.498589	0.523259	0.5	0.501409	0.562368	0.645867	0.6429	0.526154	0.511605	0.537263	0.51859	0.535022	0.5	0.501816	0.573266	0.592463	0.4024	0.531426	0.518557	0.547229	0.523617	0.545332	0.5	0.502421	0.572762	0.827158	0.8266	0.52827	0.514533	0.545848	0.520892	0.543838	0.5	0.50148	0.013356	0.0403	0.0235	0.1034	0.0463	0.1039	null	0.0523
13b_rlvr__13b_union	13b	P26	271,384	5,982	0.569922	0.584872	0.5894	0.537766	0.543443	0.559586	0.533134	0.557966	0.503143	0.506506	0.566605	0.628452	0.6293	0.536428	0.528723	0.555229	0.530641	0.554287	0.502845	0.506924	0.574361	0.640221	0.6417	0.545263	0.530675	0.56402	0.540517	0.563255	0.503029	0.506521	0.580871	0.605379	0.3964	0.548318	0.542196	0.570719	0.544061	0.569638	0.503886	0.507848	0.581087	0.839103	0.832	0.54044	0.530137	0.56634	0.5335	0.564773	0.503039	0.50713	0.049879	0.1414	0.0505	0.1834	0.1482	0.1843	0.0566	0.0846
13b_rlvr__13b_union	13b	P3373	309,502	4,610	0.554659	0.549571	0.5969	0.513043	0.523814	0.53548	0.505753	0.53343	0.5	0.5017	0.551084	0.640478	0.6365	0.504371	0.500898	0.524146	0.498042	0.523344	0.5	0.501409	0.561986	0.645867	0.6429	0.526315	0.512183	0.537385	0.518563	0.535143	0.5	0.501816	0.57247	0.591878	0.4024	0.530863	0.519128	0.547205	0.522932	0.545327	0.5	0.502421	0.571517	0.827158	0.8266	0.528101	0.515257	0.545987	0.520716	0.543987	0.5	0.50148	0.013267	0.0402	0.0258	0.1034	0.0464	0.1039	null	0.0523
13b_s1	13b	P26	271,384	5,982	0.555098	0.604369	0.617	0.52643	0.526704	0.547036	0.521999	0.545703	0.502397	0.503572	0.554413	0.654139	0.6551	0.522545	0.519497	0.546447	0.51902	0.545499	0.502408	0.504905	0.560562	0.665269	0.6676	0.532883	0.514595	0.550049	0.52826	0.549382	0.502771	0.50571	0.566667	0.587103	0.4113	0.534462	0.528418	0.557911	0.530497	0.556703	0.503151	0.506866	0.573042	0.867393	0.8621	0.52449	0.517652	0.55043	0.516352	0.548668	0.502647	0.505517	0.031934	0.0564	0.0339	0.1357	0.0631	0.1358	0.0489	0.0588
13b_s1	13b	P3373	309,502	4,610	0.561187	0.557407	0.6018	0.511006	0.550313	0.53769	0.504553	0.536045	0.5	0.501258	0.536186	0.639621	0.6286	0.497931	0.511169	0.526807	0.495794	0.526414	0.5	0.50126	0.553478	0.646693	0.6377	0.518991	0.534641	0.541669	0.514897	0.539927	0.5	0.501535	0.570941	0.621013	0.3706	0.51519	0.546959	0.55106	0.509614	0.549214	0.5	0.502474	0.571663	0.865454	0.8551	0.524311	0.534287	0.553985	0.519175	0.552144	0.5	0.50116	0.018441	0.0234	0.099	0.1271	0.0237	0.1253	null	0.0479
13b_sft__13b_100B	13b	P26	271,384	5,982	0.56866	0.595211	0.6002	0.536549	0.542654	0.558983	0.532198	0.557415	0.503135	0.506406	0.563416	0.637618	0.6378	0.535714	0.525953	0.555607	0.531108	0.554731	0.503015	0.506963	0.571687	0.649117	0.6507	0.546312	0.530205	0.562858	0.542324	0.561996	0.503048	0.506639	0.577089	0.596538	0.4065	0.546925	0.542764	0.569988	0.543904	0.568925	0.503947	0.50808	0.579898	0.846566	0.8395	0.54206	0.527053	0.564727	0.535476	0.563166	0.502851	0.507161	0.05102	0.1359	0.0526	0.1834	0.1426	0.1844	0.0555	0.0829
13b_sft__13b_100B	13b	P3373	309,502	4,610	0.558265	0.548367	0.5956	0.515127	0.528959	0.537301	0.507672	0.53534	0.5	0.501705	0.549246	0.641594	0.6355	0.503367	0.505243	0.526381	0.497834	0.525548	0.5	0.501379	0.562406	0.645371	0.6428	0.526078	0.516246	0.539459	0.519384	0.537296	0.5	0.50179	0.573734	0.591345	0.4011	0.531837	0.524101	0.548632	0.524287	0.546475	0.5	0.502384	0.571929	0.827539	0.8269	0.528875	0.523411	0.548922	0.522185	0.547058	0.5	0.501523	0.014732	0.033	0.0332	0.1036	0.0379	0.1038	null	0.0495
13b_sft__13b_300B	13b	P26	271,384	5,982	0.568774	0.595211	0.6002	0.536328	0.542671	0.558933	0.531942	0.557374	0.503135	0.506406	0.563978	0.637618	0.6378	0.535645	0.526205	0.555654	0.530913	0.554793	0.503015	0.506962	0.571942	0.649117	0.6507	0.546128	0.530193	0.562857	0.54199	0.562	0.503048	0.506639	0.577393	0.596566	0.4065	0.546675	0.54274	0.569976	0.543499	0.56891	0.503947	0.508079	0.580446	0.846566	0.8395	0.542086	0.527414	0.564736	0.535265	0.563195	0.502851	0.507161	0.050755	0.1368	0.0541	0.1835	0.1434	0.1845	0.0555	0.0829
13b_sft__13b_300B	13b	P3373	309,502	4,610	0.558097	0.548367	0.5956	0.514715	0.528868	0.537303	0.507236	0.535348	0.5	0.501705	0.549477	0.641594	0.6355	0.503106	0.505488	0.526368	0.497464	0.525538	0.5	0.501379	0.562659	0.645371	0.6428	0.526025	0.516315	0.539465	0.519187	0.53731	0.5	0.50179	0.573489	0.591294	0.4011	0.531427	0.524188	0.548579	0.523858	0.546449	0.5	0.502384	0.571533	0.827539	0.8269	0.52873	0.523628	0.548945	0.521995	0.547096	0.5	0.501523	0.014631	0.0331	0.0342	0.1035	0.038	0.1037	null	0.0495
13b_sft__13b_union	13b	P26	271,384	5,982	0.568691	0.595211	0.6002	0.535951	0.543022	0.558881	0.53154	0.55735	0.503135	0.506405	0.56451	0.637618	0.6378	0.535459	0.526853	0.555627	0.530425	0.554792	0.503015	0.506959	0.572237	0.649117	0.6507	0.545877	0.530528	0.562911	0.541466	0.562067	0.503048	0.506639	0.577765	0.596593	0.4065	0.546262	0.543004	0.569938	0.542864	0.568885	0.503947	0.508078	0.580947	0.846566	0.8395	0.541998	0.528413	0.56483	0.534852	0.563333	0.502851	0.507161	0.049857	0.1379	0.0566	0.1834	0.1441	0.1843	0.0555	0.0829
13b_sft__13b_union	13b	P3373	309,502	4,610	0.556882	0.548367	0.5956	0.513959	0.528838	0.537344	0.506588	0.535392	0.5	0.501705	0.548929	0.641594	0.6355	0.502748	0.50613	0.526418	0.496999	0.525629	0.5	0.501379	0.562361	0.645371	0.6428	0.526127	0.516835	0.539598	0.519117	0.537428	0.5	0.50179	0.572591	0.591395	0.4011	0.530861	0.524661	0.548573	0.523206	0.546452	0.5	0.502384	0.570388	0.827539	0.8269	0.528545	0.524415	0.549086	0.521774	0.547232	0.5	0.501523	0.014627	0.0331	0.0366	0.1036	0.0381	0.1038	null	0.0495
7b_base	7b	P26	271,384	5,982	0.577676	0.593453	0.6039	0.528853	0.548139	0.555817	0.521918	0.5543	0.503153	0.504838	0.571444	0.636763	0.64	0.527069	0.538103	0.554747	0.521016	0.553936	0.503108	0.506354	0.575633	0.644221	0.6527	0.539547	0.534688	0.561946	0.534173	0.560676	0.503013	0.506297	0.581724	0.608414	0.4006	0.533179	0.536796	0.562919	0.526806	0.561098	0.503728	0.507772	0.591288	0.84589	0.8451	0.53156	0.540437	0.568622	0.524176	0.567124	0.502753	0.506127	0.05444	0.1422	0.0896	0.1861	0.1446	0.1847	0.0609	0.0758
7b_base	7b	P3373	309,502	4,610	0.604245	0.594415	0.6263	0.496919	0.584144	0.553468	0.488581	0.550473	0.5	0.501343	0.572869	0.659139	0.6569	0.498296	0.554603	0.545275	0.494202	0.542754	0.5	0.501513	0.586493	0.658967	0.6666	0.526324	0.568785	0.566525	0.521677	0.563806	0.5	0.50177	0.606001	0.6094	0.4246	0.528608	0.587632	0.574576	0.52117	0.571816	0.5	0.50243	0.604404	0.847285	0.8508	0.521977	0.589449	0.576098	0.51781	0.573791	0.5	0.501477	0.043471	0.0364	0.1512	0.1592	0.0409	0.1561	null	0.0525
7b_dpo_dpo13b	7b	P26	271,384	5,982	0.562292	0.559401	0.5705	0.529639	0.533983	0.545975	0.522897	0.544427	0.502801	0.503728	0.55263	0.606627	0.6065	0.524531	0.519861	0.538005	0.51872	0.537741	0.502081	0.504093	0.558706	0.614938	0.6167	0.531219	0.524096	0.548295	0.526337	0.54736	0.502153	0.504345	0.563258	0.638717	0.3609	0.52389	0.52932	0.550641	0.519085	0.549662	0.502404	0.504602	0.561213	0.82771	0.8244	0.522963	0.517628	0.545297	0.516918	0.543881	0.502188	0.503696	0.042701	0.1294	0.0527	0.161	0.1312	0.1601	0.0495	0.055
7b_dpo_dpo13b	7b	P3373	309,502	4,610	0.594357	0.553004	0.5724	0.499826	0.575729	0.545896	0.491482	0.542322	0.5	0.501525	0.568245	0.593797	0.6025	0.489391	0.545487	0.536251	0.484121	0.534358	0.5	0.50161	0.5746	0.613631	0.6181	0.529467	0.558226	0.560166	0.524862	0.557603	0.5	0.501747	0.595917	0.642728	0.3671	0.528766	0.576439	0.567774	0.479635	0.565007	0.5	0.502484	0.586321	0.80106	0.8095	0.517664	0.574489	0.564617	0.514392	0.562783	0.5	0.501506	0.049766	0.0126	0.1582	0.1677	0.0205	0.1642	null	0.0597
7b_dpo_dpo7b	7b	P26	271,384	5,982	0.562303	0.559597	0.5705	0.529638	0.533983	0.545975	0.522897	0.544427	0.502801	0.503728	0.552614	0.606627	0.6065	0.524531	0.519861	0.538005	0.51872	0.537741	0.502081	0.504093	0.558711	0.614938	0.6167	0.531218	0.524096	0.548295	0.526337	0.54736	0.502153	0.504345	0.56323	0.63869	0.3609	0.523889	0.52932	0.550641	0.519085	0.549662	0.502404	0.504602	0.561191	0.82771	0.8244	0.522962	0.517628	0.545297	0.516918	0.543881	0.502188	0.503696	0.042701	0.1294	0.0527	0.161	0.1312	0.1601	0.0495	0.055
7b_dpo_dpo7b	7b	P3373	309,502	4,610	0.594353	0.553071	0.5724	0.499826	0.575728	0.545896	0.491482	0.542322	0.5	0.501525	0.568259	0.593797	0.6025	0.48939	0.545486	0.536251	0.484121	0.534358	0.5	0.50161	0.574594	0.613631	0.6181	0.529468	0.558225	0.560166	0.524862	0.557602	0.5	0.501747	0.595927	0.642728	0.3671	0.52877	0.576439	0.567774	0.479635	0.565007	0.5	0.502484	0.58633	0.80106	0.8095	0.517666	0.57449	0.564617	0.514392	0.562783	0.5	0.501506	0.049765	0.0126	0.1582	0.1677	0.0205	0.1642	null	0.0597
7b_ing1__s1s2	7b_ing1	P26	271,384	5,982	0.579454	0.607504	0.6202	0.527319	0.551667	0.55732	0.520435	0.555504	0.503059	0.504427	0.572726	0.648874	0.6556	0.520792	0.539682	0.552913	0.514386	0.551905	0.502945	0.505735	0.57643	0.66069	0.6696	0.539403	0.5359	0.562035	0.533756	0.560804	0.502824	0.506395	0.578837	0.591559	0.4168	0.530755	0.535679	0.560079	0.524446	0.558102	0.503342	0.506909	0.592442	0.858841	0.8589	0.524981	0.545071	0.566744	0.517672	0.565471	0.502871	0.506085	0.06584	0.1648	0.0977	0.2046	0.166	0.2031	0.0635	0.0819
7b_ing1__s1s2	7b_ing1	P3373	309,502	4,610	0.607133	0.612641	0.6403	0.490468	0.58656	0.550526	0.481952	0.547216	0.5	0.501312	0.575916	0.670401	0.6723	0.508936	0.558127	0.544245	0.512531	0.541947	0.5	0.501579	0.585893	0.674062	0.6798	0.525625	0.571451	0.566568	0.520857	0.563614	0.5	0.501777	0.604813	0.598562	0.4374	0.475253	0.588393	0.571696	0.483078	0.568552	0.5	0.502309	0.607903	0.859317	0.8632	0.521185	0.592632	0.577131	0.483568	0.5745	0.5	0.501448	0.056331	0.0474	0.1772	0.1784	0.051	0.1747	null	0.0559
7b_ing2__s1s2	7b_ing2	P26	271,384	5,982	0.573111	0.585794	0.5944	0.526592	0.542154	0.551954	0.519439	0.550655	0.503082	0.504583	0.565055	0.630695	0.6328	0.528087	0.529597	0.550084	0.522497	0.549311	0.503065	0.505761	0.569104	0.63669	0.6437	0.538027	0.529676	0.557615	0.532979	0.556396	0.503069	0.505936	0.576153	0.616179	0.3879	0.532146	0.530043	0.557452	0.525785	0.555938	0.503554	0.506512	0.582321	0.841614	0.8404	0.529354	0.530841	0.562932	0.522199	0.561458	0.502753	0.506021	0.042141	0.12	0.0733	0.1622	0.1221	0.161	0.0562	0.0662
7b_ing2__s1s2	7b_ing2	P3373	309,502	4,610	0.60066	0.601594	0.6345	0.495511	0.57743	0.54941	0.486713	0.546067	0.5	0.501358	0.566674	0.672398	0.6671	0.500034	0.548756	0.54275	0.504278	0.540231	0.5	0.5016	0.582864	0.671203	0.6761	0.52634	0.565464	0.56459	0.52165	0.561882	0.5	0.501758	0.597736	0.598206	0.4355	0.525722	0.579971	0.569188	0.481359	0.566516	0.5	0.502453	0.60144	0.858187	0.8584	0.520155	0.583285	0.57423	0.515727	0.572074	0.5	0.501398	0.03342	0.022	0.1284	0.1373	0.0261	0.1346	null	0.048
7b_ing3__s1s2	7b_ing3	P26	271,384	5,982	0.571522	0.586962	0.5972	0.529883	0.54086	0.55321	0.523393	0.55181	0.503044	0.504341	0.567187	0.627521	0.6311	0.531294	0.52876	0.552113	0.525473	0.551468	0.503074	0.506002	0.569733	0.639117	0.6439	0.541212	0.527894	0.559244	0.536659	0.557858	0.502951	0.506184	0.579154	0.615517	0.3931	0.538674	0.533424	0.563057	0.533059	0.561302	0.503431	0.50707	0.581931	0.841986	0.8389	0.534195	0.528804	0.562551	0.527135	0.560808	0.502851	0.505801	0.043606	0.1188	0.0683	0.1636	0.1234	0.1627	0.0541	0.0677
7b_ing3__s1s2	7b_ing3	P3373	309,502	4,610	0.599467	0.565734	0.6024	0.502281	0.579656	0.551599	0.493666	0.549058	0.5	0.501446	0.570075	0.636086	0.6302	0.502234	0.552523	0.545009	0.498295	0.542683	0.5	0.501426	0.583741	0.640797	0.6435	0.525952	0.567237	0.564096	0.521506	0.561763	0.5	0.501779	0.606328	0.628015	0.3929	0.527951	0.587299	0.573713	0.520779	0.571144	0.5	0.502452	0.600259	0.835659	0.8367	0.526388	0.586762	0.57561	0.522386	0.573562	0.5	0.501504	0.034456	0.0325	0.1333	0.1453	0.0379	0.1427	null	0.049
7b_rlvr_dpo13b	7b	P26	271,384	5,982	0.562513	0.556118	0.5657	0.529122	0.535663	0.545808	0.522494	0.544334	0.502922	0.503843	0.553074	0.602713	0.6025	0.524008	0.522425	0.53907	0.51836	0.538792	0.50221	0.504284	0.559345	0.6108	0.6128	0.531778	0.526069	0.549043	0.526983	0.548008	0.502118	0.504282	0.565679	0.643697	0.3569	0.524091	0.533365	0.553166	0.51951	0.552036	0.502552	0.504939	0.561749	0.824331	0.8211	0.522109	0.51996	0.545355	0.516093	0.543906	0.502141	0.503755	0.042789	0.1291	0.0582	0.1635	0.1312	0.1625	0.0507	0.0567
7b_rlvr_dpo13b	7b	P3373	309,502	4,610	0.592808	0.547754	0.5639	0.501099	0.575126	0.545962	0.49295	0.542355	0.5	0.501571	0.5676	0.585459	0.5929	0.490646	0.545421	0.536601	0.48546	0.534672	0.5	0.5016	0.574346	0.605957	0.6102	0.529826	0.557906	0.560323	0.525532	0.557775	0.5	0.501777	0.596632	0.651978	0.3576	0.52946	0.577266	0.568678	0.521073	0.565798	0.5	0.502572	0.584791	0.794313	0.8023	0.518829	0.574489	0.564246	0.515809	0.562566	0.5	0.501524	0.047995	0.0121	0.156	0.1658	0.0203	0.1623	null	0.0598
7b_rlvr_dpo7b	7b	P26	271,384	5,982	0.562509	0.556094	0.5657	0.529122	0.535663	0.545808	0.522494	0.544334	0.502922	0.503843	0.55302	0.602713	0.6025	0.524007	0.522425	0.53907	0.51836	0.538792	0.50221	0.504284	0.559371	0.6108	0.6128	0.531777	0.526069	0.549043	0.526983	0.548008	0.502118	0.504282	0.565676	0.643697	0.3569	0.524091	0.533365	0.553166	0.51951	0.552036	0.502552	0.504939	0.561727	0.824331	0.8211	0.522108	0.51996	0.545355	0.516093	0.543906	0.502141	0.503755	0.042789	0.1291	0.0582	0.1635	0.1312	0.1625	0.0507	0.0567
7b_rlvr_dpo7b	7b	P3373	309,502	4,610	0.592746	0.547598	0.5639	0.501099	0.575126	0.545962	0.49295	0.542355	0.5	0.501571	0.567563	0.585435	0.5929	0.490645	0.54542	0.536601	0.48546	0.534672	0.5	0.5016	0.574369	0.605957	0.6102	0.529828	0.557905	0.560322	0.525532	0.557775	0.5	0.501777	0.596667	0.651953	0.3576	0.529463	0.577266	0.568678	0.521073	0.565798	0.5	0.502572	0.584794	0.794313	0.8023	0.51883	0.574489	0.564246	0.515809	0.562566	0.5	0.501524	0.047994	0.0121	0.156	0.1658	0.0203	0.1623	null	0.0598
7b_s1	7b	P26	271,384	5,982	0.546474	0.577004	0.5789	0.521335	0.516929	0.536545	0.516985	0.535537	0.502445	0.502507	0.532609	0.613001	0.6109	0.524794	0.51458	0.53346	0.523645	0.533008	0.501813	0.503639	0.546321	0.618483	0.6157	0.530184	0.505606	0.53762	0.527273	0.536698	0.502225	0.50476	0.558913	0.653434	0.3412	0.542876	0.508535	0.545349	0.53847	0.544421	0.502489	0.504675	0.553597	0.855931	0.8482	0.52289	0.508101	0.541385	0.518468	0.539856	0.502289	0.505411	0.026163	0.1089	0.0364	0.1239	0.1092	0.1227	0.0503	0.0545
7b_s1	7b	P3373	309,502	4,610	0.562242	0.545714	0.5913	0.498866	0.552057	0.531639	0.5047	0.529787	0.5	0.501042	0.551502	0.635757	0.6149	0.514081	0.537259	0.526928	0.514944	0.526464	0.5	0.501143	0.55102	0.635257	0.6277	0.487463	0.548171	0.540891	0.48913	0.539606	0.5	0.50136	0.575135	0.651508	0.3385	0.492801	0.568314	0.54997	0.496234	0.548067	0.5	0.501803	0.568861	0.873421	0.866	0.483895	0.560822	0.555164	0.488386	0.553412	0.5	0.501413	0.024832	0.0389	0.131	0.1296	0.0426	0.127	null	0.0438
7b_sft	7b	P26	271,384	5,982	0.562398	0.567649	0.578	0.527302	0.535091	0.546746	0.521059	0.545253	0.502727	0.503554	0.552137	0.615729	0.6152	0.523567	0.522832	0.539825	0.518428	0.539353	0.502156	0.503746	0.558233	0.623448	0.6241	0.529998	0.525283	0.550107	0.526094	0.549219	0.501987	0.504205	0.565435	0.634414	0.3654	0.525253	0.530726	0.554134	0.521043	0.553072	0.502616	0.505193	0.563402	0.836648	0.8334	0.521472	0.521589	0.547156	0.515431	0.545495	0.502257	0.503777	0.048946	0.1356	0.0637	0.1697	0.1362	0.1687	0.0535	0.0598
7b_sft	7b	P3373	309,502	4,610	0.602057	0.566537	0.5845	0.496894	0.583341	0.548879	0.488446	0.545337	0.5	0.501504	0.574662	0.608688	0.6174	0.48697	0.555091	0.540188	0.48235	0.538199	0.5	0.501697	0.581289	0.627455	0.6325	0.528694	0.566483	0.563531	0.523946	0.560959	0.5	0.501773	0.602524	0.634558	0.3818	0.525527	0.584477	0.569748	0.482531	0.567019	0.5	0.502482	0.595358	0.81294	0.8192	0.516173	0.585334	0.569596	0.513014	0.567532	0.5	0.501516	0.066001	0.0118	0.1871	0.1839	0.0201	0.1804	null	0.0633

factprobe-replication-exposure-knows-trajectory-v1

Does EXACT per-checkpoint cumulative corpus exposure predict whether OLMo-2 KNOWS a fact? Two measures per (checkpoint, relation): PAIRED (P(Yes|true) > P(Yes|hard-negative), the 'beats' defs) and MARGINAL (P(Yes|true), r2_p_true + per-feature Spearman). Checkpoints: after-phase1, base(s1+s2), SFT, DPO, RLVR + 7 pre-merge s2-anneal ingredients; both models; both relations (P26 spouse, P3373 sibling); surface/name level; all 7 exposure features. s2 soup variants kept separate; 7B DPO run both ways.

Dataset Info

Rows: 54
Columns: 63

Columns

Column	Type	Description
checkpoint	Value('string')	cumulative checkpoint id (model_stage[_variant/_dpoversion]); exposure = exactly the data it saw
probe_tag	Value('string')	No description provided
relation	Value('string')	P26 spouse or P3373 sibling
n_rows	Value('int64')	surface (subject name, object name) true rows regressed
n_subjects	Value('int64')	No description provided
auc_beats_1	Value('float64')	No description provided
acc_beats_1	Value('float64')	No description provided
rate_beats_1	Value('float64')	No description provided
auc_beats_1_f1_subj	Value('float64')	No description provided
auc_beats_1_f2_obj	Value('float64')	No description provided
auc_beats_1_f3_cooc	Value('float64')	No description provided
auc_beats_1_f4_subj_rel	Value('float64')	No description provided
auc_beats_1_f5_triple	Value('float64')	No description provided
auc_beats_1_f6_fact1	Value('float64')	No description provided
auc_beats_1_f7_fact_all	Value('float64')	No description provided
auc_beats_2	Value('float64')	No description provided
acc_beats_2	Value('float64')	No description provided
rate_beats_2	Value('float64')	No description provided
auc_beats_2_f1_subj	Value('float64')	No description provided
auc_beats_2_f2_obj	Value('float64')	No description provided
auc_beats_2_f3_cooc	Value('float64')	No description provided
auc_beats_2_f4_subj_rel	Value('float64')	No description provided
auc_beats_2_f5_triple	Value('float64')	No description provided
auc_beats_2_f6_fact1	Value('float64')	No description provided
auc_beats_2_f7_fact_all	Value('float64')	No description provided
auc_beats_3	Value('float64')	No description provided
acc_beats_3	Value('float64')	No description provided
rate_beats_3	Value('float64')	No description provided
auc_beats_3_f1_subj	Value('float64')	No description provided
auc_beats_3_f2_obj	Value('float64')	No description provided
auc_beats_3_f3_cooc	Value('float64')	No description provided
auc_beats_3_f4_subj_rel	Value('float64')	No description provided
auc_beats_3_f5_triple	Value('float64')	No description provided
auc_beats_3_f6_fact1	Value('float64')	No description provided
auc_beats_3_f7_fact_all	Value('float64')	No description provided
auc_beats_all	Value('float64')	grouped held-out AUC predicting PAIRED knows = P(Yes
acc_beats_all	Value('float64')	No description provided
rate_beats_all	Value('float64')	fraction of pairs where the model prefers the true partner over the best wrong one
auc_beats_all_f1_subj	Value('float64')	No description provided
auc_beats_all_f2_obj	Value('float64')	No description provided
auc_beats_all_f3_cooc	Value('float64')	No description provided
auc_beats_all_f4_subj_rel	Value('float64')	No description provided
auc_beats_all_f5_triple	Value('float64')	No description provided
auc_beats_all_f6_fact1	Value('float64')	No description provided
auc_beats_all_f7_fact_all	Value('float64')	No description provided
auc_beats_any	Value('float64')	PAIRED AUC, beats the WORST hard-negative
acc_beats_any	Value('float64')	No description provided
rate_beats_any	Value('float64')	No description provided
auc_beats_any_f1_subj	Value('float64')	No description provided
auc_beats_any_f2_obj	Value('float64')	No description provided
auc_beats_any_f3_cooc	Value('float64')	No description provided
auc_beats_any_f4_subj_rel	Value('float64')	No description provided
auc_beats_any_f5_triple	Value('float64')	No description provided
auc_beats_any_f6_fact1	Value('float64')	No description provided
auc_beats_any_f7_fact_all	Value('float64')	No description provided
r2_p_true	Value('float64')	grouped held-out R^2 predicting the MARGINAL P(Yes
spearman_p_true_f1_subj	Value('float64')	No description provided
spearman_p_true_f2_obj	Value('float64')	No description provided
spearman_p_true_f3_cooc	Value('float64')	Spearman of name-pair co-occurrence with P(Yes
spearman_p_true_f4_subj_rel	Value('float64')	No description provided
spearman_p_true_f5_triple	Value('float64')	No description provided
spearman_p_true_f6_fact1	Value('float64')	No description provided
spearman_p_true_f7_fact_all	Value('float64')	No description provided

Generation Parameters

{
  "script_name": "run_knows_analysis.py + analyze_namepair_7feat.py",
  "model": "allenai/OLMo-2-1124-7B and -13B (all training checkpoints + pre-merge ingredients)",
  "description": "Does EXACT per-checkpoint cumulative corpus exposure predict whether OLMo-2 KNOWS a fact? Two measures per (checkpoint, relation): PAIRED (P(Yes|true) > P(Yes|hard-negative), the 'beats' defs) and MARGINAL (P(Yes|true), r2_p_true + per-feature Spearman). Checkpoints: after-phase1, base(s1+s2), SFT, DPO, RLVR + 7 pre-merge s2-anneal ingredients; both models; both relations (P26 spouse, P3373 sibling); surface/name level; all 7 exposure features. s2 soup variants kept separate; 7B DPO run both ways.",
  "experiment_name": "factprobe-replication",
  "relations": "P26 (spouse), P3373 (sibling)",
  "measures": "paired beats_1/2/3/all/any (auc+rate); marginal r2_p_true + spearman_p_true_f1..f7",
  "caveats": "13B s1 counted x1.291 (interim uniform, exact order-replay deferred); fact features near-zero; near-negative pairs' exposure features NOT counted (deferred).",
  "artifact_status": "final",
  "canary": false,
  "hyperparameters": {},
  "input_datasets": []
}

Usage

from datasets import load_dataset

dataset = load_dataset("latkes/factprobe-replication-exposure-knows-trajectory-v1", split="train")
print(f"Loaded {len(dataset)} rows")

Downloads last month: 45

Number of rows:

Total file size:

64.4 kB