Dataset Viewer
Auto-converted to Parquet Duplicate
tokens
listlengths
3
384
ner_tags
listlengths
3
384
spans
listlengths
0
25
corpus
stringclasses
2 values
origin
stringclasses
5 values
language
stringclasses
27 values
[ "*", "*", "<", "u", ">", "BWINDI", "IMPENETRABLE", "NATIONAL", "PARK", "<", "/", "u", ">", "*", "*", "there", "is", "no", "connection", "to", "the", "national", "electricity", "grid", "in", "the", "vicinity", ".", "As", "a", "result", ",", "the", "on...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 252, "end": 253, "text": "Biodiversity surveys", "label": "DATA_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ "negative", "effects", ",", "such", "as", "market", "spoilage", "and", "oversupply", ",", "were", "increasingly", "prevalent", ".", "6", ".", "Supply", "and", "manufacturing", "capacity", "lagged", "far", "behind", "and", "were", "unable", "to", "meet", "the",...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 202, "end": 207, "text": "national stakeholder consultation and market survey", "label": "DATA_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ "population", "shocks", "across", "rural", "and", "urban", "areas", ".", "Population", "levels", "in", "areas", "with", "initially", "high", "population", "densities", "experience", "further", "agglomeration", ",", "i", ".", "e", ".", "exogenous", "immigration", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 206, "end": 207, "text": "census data", "label": "DATA_MENTION" }, { "start": 239, "end": 240, "text": "population data", "label": "DATA_MENTION" } ]
prwp
general_prwp
en
[ ".", "0", "|", "2", ".", "8", "|", "2", ".", "7", "|", "0", ".", "6", "|", "20", "|", "0", ".", "80", "|", "|", "Uganda", "|", "2", ".", "3", "|", "3", ".", "2", "|", "1", ".", "3", "|", "0", ".", "40", "|", "92", "|", "1", ".", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 308, "end": 308, "text": "Surveys", "label": "DATA_MENTION" } ]
prwp
general_prwp
en
[ ",", "a", "major", "means", "of", "transport", "has", "greatly", "increased", "as", "well", "as", "bicycle", "traffic", ".", "At", "grassroot", "level", ",", "about", "500", "groups", "were", "mobilised", "and", "trained", "and", "many", "are", "engaged", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 137, "end": 139, "text": "terminal household survey", "label": "DATA_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ "A", "key", "issue", "in", "analyzing", "any", "intervention", "using", "survey", "data", "is", "the", "extent", "to", "which", "the", "treatment", "changes", "self-reporting", "of", "outcomes", "holding", "actual", "outcomes", "constant", ".", "For", "example",...
[ "O", "O", "O", "O", "O", "O", "O", "O", "B-DATA_MENTION", "I-DATA_MENTION", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...
[ { "start": 8, "end": 9, "text": "survey data", "label": "DATA_MENTION" } ]
prwp
general_prwp
en
[ "-", "Klimek", ",", "P", ".", ",", "Yegorov", ",", "Y", ".", ",", "Hanel", ",", "R", ".", ",", "and", "Thurner", ",", "S", ".", "(", "2012", ")", ".", "Statistical", "detection", "of", "systematic", "election", "irregularities", ".", "_Proceedings", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[]
prwp
general_prwp
en
[ ",", "informal", "associations", ",", "or", "Rotating", "Saving", "and", "Credit", "Associations", "(", "ROSCA", ",", "or", "_tontine_", "in", "Senegal", ")", "and", "savings", "held", "at", "home", ".", "#", "_Descriptive", "Statistics_", "Our", "sample", "...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 112, "end": 113, "text": "PSF survey", "label": "DATA_MENTION" } ]
prwp
general_prwp
en
[ "tables", "in", "STEP", ")", ",", "the", "country", "’", "s", "own", "procurement", "procedures", "may", "be", "used", ".", "When", "the", "Borrower", "uses", "its", "own", "national", "open", "competitive", "procurement", "arrangements", "as", "set", "forth...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[]
fcv
fcv_pads_east_africa
en
[ "The", "analysis", "demonstrates", "that", "if", "the", "predictors", "in", "the", "target", "survey", "are", "elicited", "through", "questions", "that", "are", "identical", "to", "their", "counterparts", "in", "the", "base", "survey", ",", "imputation", "accura...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 138, "end": 138, "text": "TZNPS", "label": "DATA_MENTION" }, { "start": 140, "end": 141, "text": "TA 1", "label": "DATA_MENTION" } ]
prwp
general_prwp
en
[ "*", "*", "Somalia", "Protection", "Analysis", "Update", "*", "*", "September", "2022", "#", "#", "#", "#", "#", "*", "*", "Mental", "Health", "&", "Psychosocial", "Distress", "*", "*", "Mental", "health", "and", "psychosocial", "distress", "continue", "to...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 317, "end": 321, "text": "assessment conducted in Southwest State", "label": "DATA_MENTION" } ]
fcv
reliefweb
en
[ "HARTEREDB", "<", "/", "sup", ">", "<", "br", ">", "*", "*", "AMOUNT", "*", "*", "<", "br", ">", "A", "|", "<", "sup", ">", "ANK", "<", "/", "sup", ">", "<", "br", ">", "_", "<", "br", ">", "MO", "|", "__", "-", "-", "-", "<", "br", "...
[ "B-NON_MENTION", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...
[ { "start": 0, "end": 0, "text": "HARTEREDB", "label": "NON_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ "with", "the", "Protection", "Cluster", ")", ",", "actively", "participating", "in", "and", "supporting", "their", "initiatives", "to", "underscore", "and", "highlight", "the", "significance", "of", "the", "HLP", "component", "within", "the", "overall", "activitie...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 324, "end": 328, "text": "Interagency Durable Solutions Indicator Library", "label": "NON_MENTION" } ]
fcv
reliefweb
en
[ "*", "*", "The", "World", "Bank", "*", "*", "Productive", "Safety", "Net", "for", "Socioeconomic", "Opportunities", "Project", "(", "P177663", ")", "|", "Number", "of", "beneficiary", "households", "|", "working", "on", "LIPW", "under", "sub", "-", "<", "b...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 183, "end": 184, "text": "SNSOP MIS", "label": "NON_MENTION" }, { "start": 200, "end": 201, "text": "Payment data", "label": "NON_MENTION" }, { "start": 351, "end": 352, "text": "Beneficiary data", "label": "NON_MENTION" } ]
fcv
refugee_pads
en
[ "|", "Potential", "advisory", "service", "<", "br", ">", "providers", "receive", "orientation", "<", "br", ">", "and", "assistance", "in", "establisbing", "<", "br", ">", "credentials", "and", "capacity", "to", "<", "br", ">", "fulfill", "advisory", "service...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 304, "end": 307, "text": "IUBOS / IFPRI Surveys", "label": "NON_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ "urban", "areas", ".", "Four", "waves", "have", "been", "conducted", "since", "2011", ",", "and", "ESS4", "is", "the", "most", "recent", "in", "2018", "/", "19", ".", "ESS4", "included", "a", "total", "of", "6", ",", "770", "households", ".", "In", "...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DATA_MENTION", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O...
[ { "start": 12, "end": 12, "text": "ESS4", "label": "DATA_MENTION" }, { "start": 123, "end": 124, "text": "ESS4 database", "label": "DATA_MENTION" }, { "start": 168, "end": 169, "text": "ESS4 data", "label": "DATA_MENTION" } ]
prwp
general_prwp
en
[ "The", "normal", "blood", "supply", "of", "pigs", "estimated", "to", "be", "about", "8", "%", "of", "the", "body", "weight", ".", "A", "complete", "bleeding", "of", "pigs", "at", "slaughter", "yields", "only", "5", "%", "to", "6", "%", "of", "body", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 153, "end": 156, "text": "Avergelle one year data", "label": "DATA_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ "<", "sup", ">", "50", "<", "/", "sup", ">", ",", "it", "is", "not", "certain", "to", "what", "degree", "they", "may", "have", "influenced", "such", "dynamics", "in", "the", "long", "term", ".", "Returnee", "numbers", "have", "been", "on", "comparative...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 80, "end": 81, "text": "Monitoring data", "label": "DATA_MENTION" } ]
fcv
reliefweb
en
[ "Policy", "Research", "Working", "Paper", "10396", "#", "*", "*", "Abstract", "*", "*", "Work-related", "migration", "has", "many", "potential", "drivers", ".", "While", "current", "literature", "has", "outlined", "a", "theoretical", "framework", "of", "various"...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 131, "end": 138, "text": "primary household survey among migrant communities in Indonesia", "label": "DATA_MENTION" } ]
prwp
general_prwp
en
[ "each", "case", ".", "On", "the", "other", "hand", ",", "the", "interpretation", "of", "these", "results", "regarding", "the", "inspection", "data", "needs", "to", "consider", "two", "things", ":", "first", ",", "the", "ability", "of", "the", "regulator", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DATA_MENTION", "I-DATA_MENTION", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O"...
[ { "start": 15, "end": 16, "text": "inspection data", "label": "DATA_MENTION" } ]
prwp
general_prwp
en
[ "000", "|", "475", ",", "000", ".", "00", "|", "|", "|", "|", "Number", "of", "deliveries", "attended", "by", "skilled", "health", "<", "br", ">", "personnel", "(", "CRI", ",", "Number", ")", "|", "|", "#", "|", "0", "|", "160", ",", "000", "|"...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 145, "end": 146, "text": "administrative data", "label": "NON_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ "state", ",", "sector", "(", "census", "versus", "sample", ")", "and", "industry", ",", "a", "joint", "return", "can", "be", "furnished", ".", "In", "the", "population", "of", "firms", ",", "fewer", "than", "2", "%", "of", "the", "observations", "report"...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 50, "end": 51, "text": "ASI data", "label": "DATA_MENTION" }, { "start": 158, "end": 160, "text": "Input-Output Transactions Table", "label": "DATA_MENTION" } ]
prwp
general_prwp
en
[ "Figure", "9", ":", "The", "2016", "amnesty", "raised", "the", "total", "value", "of", "wealth", "reported", "by", "tax", "filers", "<", "!", "-", "-", "Start", "of", "picture", "text", "-", "-", ">", "Assets", "value", "<", "br", ">", "(", "2015", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 214, "end": 216, "text": "AFIP statistical yearbooks", "label": "DATA_MENTION" } ]
prwp
general_prwp
en
[ ".", "00", "|", "550000", ".", "00", "|", "|", "Date", "|", "01-Jul-2013", "|", "31-Jul-2015", "|", "31-Jul-2015", "|", "31-Dec-2016", "|", "|", "", "Poor", "households", "receiving", "health", "insurance", "subsidies", "(", "Number", ",", "Custom", ")", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 144, "end": 144, "text": "KDHS-2014", "label": "DATA_MENTION" }, { "start": 178, "end": 184, "text": "latest data made available by the NHIF", "label": "DATA_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ "15", "-", "#", "#", "#", "In", "the", "Highlands", "-", "(", "b", ")", "construction", "and", "maintenance", "of", "about", "400", "to", "500", "kms", "of", "rural", "roads", ";", "-", "(", "c", ")", "the", "construction", "of", "water", "supply", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 59, "end": 61, "text": "water resource surveys", "label": "NON_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ ">", "Sewerage", "Company", "’", "s", "GIS", "Maps", ",", "<", "br", ">", "|", "Planned", "|", "170", ",", "000", "|", "QCBS", "|", "Post", "|", "3-Mar-13", "|", "12-May", "-", "<", "br", ">", "13", "|", "|", "|", "Water", "Network", "Model", "...
[ "O", "O", "O", "O", "O", "B-NON_MENTION", "I-NON_MENTION", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ { "start": 5, "end": 6, "text": "GIS Maps", "label": "NON_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ "#", "#", "#", "#", "#", "#", "*", "*", "TABLE", "4", ":", "GULF", "COUNTRY", "GRANTS", "TO", "JORDAN", "(", "MARCH", "2011", "-", "­", "‐", "JUNE", "2014", ")", "*", "*", "|", "*", "*", "Gulf", "Country", "*", "*", "|", "*", "*", "Contributi...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[]
fcv
reliefweb
en
[ "3", ".", "Preparation", "of", "REDD", "+", "Pilot", "Projects", "4", ".", "4", "#", "*", "*", "_Component", "1", ".", "_", "Support", "to", "the", "National", "Readiness", "Management", "Arrangements", "(", "US", "$", "1", ".", "2M", ")", ":", "*", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 355, "end": 357, "text": "National Forestry Inventory", "label": "DATA_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ "for", "a", "month", "each", ",", "plus", "the", "time", "of", "one", "consultant", ".", "The", "project", "preparation", "facility", "for", "the", "Ethiopia", "Family", "Health", "Project", "(", "1986", ",", "Case", "5", ")", "funded", "a", "functional", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 150, "end": 152, "text": "routine service statistics", "label": "DATA_MENTION" } ]
prwp
general_prwp
en
[ ",", "Riverbanks", "and", "Lakeshores", "Management", ")", "Regulations", "(", "SI", "153-5", ")", ".", "-", "26", ".", "The", "Uganda", "HIV", "/", "AIDS", "Country", "Progress", "Report", "July", "2015-June", "2016", "-", "27", ".", "Uganda", "Bureau", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-NON_MENTION", "I-NON_MENTION", "I-NO...
[ { "start": 39, "end": 43, "text": "National Population and Housing Census", "label": "NON_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ "a", "liberalized", "foreign", "exchange", "regime", ",", "improved", "foreign", "exchange", "management", ",", "and", "the", "debt", "restructuring", "of", "EEP", ".", "These", "measures", "are", "perceived", "as", "addressing", "some", "of", "the", "key", "c...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 184, "end": 187, "text": "Ethiopian Energy Outlook 2025", "label": "DATA_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ "This", "paper", "expands", "on", "this", "literature", "by", "combining", "data", "on", "several", "cross", "sections", "of", "global", "input-output", "(", "IO", ")", "tables", ",", "social", "accounting", "matrices", "and", "exports", "to", "construct", "th...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 76, "end": 77, "text": "employment data", "label": "DATA_MENTION" }, { "start": 109, "end": 115, "text": "labor content of exports data for 2011", "label": "DATA_MENTION" }, { "start": 286, "end": 287, "text": "LACEX database", "label": "DATA_MENTIO...
prwp
general_prwp
en
[ "*", "*", "<", "br", ">", "*", "*", "(", "ETB", ")", "*", "*", "|", "*", "*", "Performance", "*", "*", "<", "br", ">", "*", "*", "(", "%", ")", "*", "*", "|", "|", "EEU", "|", "4", ",", "183", ".", "06", "|", "4", ",", "050", ".", "...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 316, "end": 320, "text": "data generated from the ERP-SAP", "label": "DATA_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ "percent", "of", "households", "perceives", "Local", "Council", "Courts", "to", "offer", "better", "prospects", "for", "fair", "and", "transparent", "treatment", "than", "a", "Court", "presided", "by", "a", "magistrate", "/", "judge", ".", "Eighty-nine", "percen...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 124, "end": 127, "text": "land and companies registries", "label": "NON_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ "Iizumi", ",", "T", ".", "and", "Wagai", ",", "R", ".", "(", "2019", ")", "‘", "Leveraging", "drought", "risk", "reduction", "for", "sustainable", "food", ",", "soil", "and", "climate", "via", "soil", "organic", "carbon", "sequestration", "’", ",", "_Sci...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[]
prwp
general_prwp
en
[ "variables", "to", "indicate", "the", "size", "of", "the", "household", ",", "the", "presence", "of", "children", ",", "the", "age", "of", "the", "head", ",", "and", "the", "region", ".", "The", "budget", "constraint", "for", "household", "_k_", "is", ":...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 117, "end": 120, "text": "cross-sectional consumer expenditure data", "label": "DATA_MENTION" }, { "start": 162, "end": 164, "text": "consumer survey data", "label": "DATA_MENTION" } ]
prwp
general_prwp
en
[ "2006", ";", "Chen", "et", "al", ".", ",", "2008", ";", "Cerra", "and", "Saxena", ",", "2008", ")", ",", "while", "in", "other", "cases", "negative", "consequences", "are", "found", "to", "persist", "over", "longer", "periods", "(", "Blattman", "and", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DATA_MENTION...
[ { "start": 43, "end": 45, "text": "household survey data", "label": "DATA_MENTION" }, { "start": 382, "end": 383, "text": "highfrequency data", "label": "NON_MENTION" } ]
prwp
general_prwp
en
[ "NDP", "III", ",", "which", "covers", "FY21", "–", "25", ",", "notes", "that", "digital", "technology", "can", "play", "a", "key", "role", "in", "catalyzing", "the", "nation", "’", "s", "objectives", ",", "from", "raising", "agricultural", "productivity", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 138, "end": 142, "text": "2020 UN e-Government Development Index", "label": "NON_MENTION" } ]
fcv
jdc_operational
en
[ "For", "instance", ",", "hazardous", "waste", "facilities", "are", "disproportionately", "sited", "in", "minority", "communities", "(", "Boer", "et", "al", ".", ",", "1997", ";", "Graham", "et", "al", ".", ",", "1999", ")", ".", "Analyzing", "environmental",...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 235, "end": 238, "text": "2014 National Emissions Inventory", "label": "DATA_MENTION" } ]
prwp
general_prwp
en
[ "line", "citizen", "engagement", "survey", "will", "be", "conducted", "by", "the", "TKYB", "to", "seek", "feedback", "from", "beneficiary", "firms", "on", "their", "satisfaction", "with", "the", "project", ".", "The", "PIU", "will", "discuss", "the", "survey",...
[ "B-NON_MENTION", "I-NON_MENTION", "I-NON_MENTION", "I-NON_MENTION", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O...
[ { "start": 0, "end": 3, "text": "line citizen engagement survey", "label": "NON_MENTION" }, { "start": 125, "end": 129, "text": "statistics on formal employment creation", "label": "NON_MENTION" } ]
fcv
refugee_pads
en
[ "minimum", "wage", "increase", "in", "2018", "was", "the", "highest", "since", "2001", ",", "when", "Korea", "was", "recovering", "from", "a", "deep", "economic", "recession", "associated", "with", "the", "Asian", "financial", "crisis", ".", "Relatively", "low...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 99, "end": 101, "text": "OECD Statistics Database", "label": "DATA_MENTION" } ]
prwp
general_prwp
en
[ "is", "that", "the", "impacts", "of", "the", "management", "training", "and", "consulting", "on", "sales", "and", "profits", "are", "economically", "large", "but", "are", "statistically", "weak", ".", "This", "paper", "attempts", "to", "extend", "this", "line"...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DATA_MENTION", "I-DATA_MENTION", "O", "O", "O", "O", "O", "O", "O"...
[ { "start": 33, "end": 34, "text": "experimental data", "label": "DATA_MENTION" } ]
prwp
general_prwp
en
[ "*", "*", "<", "u", ">", "36", "<", "/", "u", ">", "*", "*", "According", "to", "gathered", "data", "from", "CRPC", "and", "HCIT", "during", "2019", ",", "266", "persons", "returned", "from", "Bosnia", "and", "Herzegovina", "voluntarily", ".", "Majorit...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DATA_MENTION", "I-DATA_MENTION", "I-DATA_MENTION", "I-DATA_MENTION", "I-DATA_MENTION", "I-DATA_MENTION", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", ...
[ { "start": 14, "end": 19, "text": "gathered data from CRPC and HCIT", "label": "DATA_MENTION" } ]
fcv
reliefweb
en
[ "project", ",", "with", "the", "use", "of", "the", "screening", "tool", "as", "attached", "to", "the", "ESMF", "(", "see", "Section", "5", ".", "1", "of", "the", "ESMF", ")", ".", "This", "will", "be", "part", "of", "the", "environmental", "and", "so...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 109, "end": 114, "text": "socio-economic survey and land asset inventory", "label": "NON_MENTION" }, { "start": 147, "end": 151, "text": "Socio-economic Survey and Asset Inventory", "label": "NON_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ "f", "environmental", "services", "from", "forests", "and", "the", "associated", "benefits", "are", "omitted", "from", "the", "ERR", "because", "the", "precise", "nature", "o", "f", "this", "intervention", "has", "not", "yet", "been", "specified", "in", "a", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 192, "end": 194, "text": "management information database", "label": "NON_MENTION" } ]
fcv
refugee_pads
en
[ "information", "dissemination", "shall", "be", "in", "form", "of", "radio", "talk", "shows", ",", "Information", "and", "Education", "Materials", ",", "and", "trainings", ".", "-", "Conduct", "meaningful", "community", "and", "stakeholder", "engagements", ".", "...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 311, "end": 315, "text": "grievance register and Complaints Logbook", "label": "DATA_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ "The", "top", "panel", "of", "Table", "2", "displays", "the", "proportion", "of", "the", "population", "in", "different", "quantiles", "of", "the", "true", "per", "capita", "consumption", "quantiles", "(", "columns", ")", "deemed", "eligible", "for", "Samurdhi...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 140, "end": 140, "text": "HIES", "label": "DATA_MENTION" } ]
prwp
general_prwp
en
[ "on", "LANDSAT", "8", "imagery", ".", "Displacement", "figures", "were", "derived", "from", "compiled", "IDP", "data", "from", "IOM", ",", "UN", "Habitat", ",", "UNHCR", "and", "local", "Ministries", "of", "Interior", ".", "Agriculture", "and", "livestock", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DATA_MENTION", "I-DATA_MENTION", "I-DATA_MENTION", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-D...
[ { "start": 10, "end": 12, "text": "compiled IDP data", "label": "DATA_MENTION" }, { "start": 39, "end": 41, "text": "FAO FSNAU database", "label": "DATA_MENTION" }, { "start": 46, "end": 49, "text": "UNFPA 2014 population data", "label": "DATA_MENTION" }, ...
fcv
refugee_pads
en
[ "is", "followed", "by", "Bermuda", "(", "36", ".", "24", ")", "and", "Aruba", "(", "36", ".", "08", ")", ",", "countries", "with", "the", "highest", "income", "level", "in", "the", "Caribbean", ".", "In", "some", "way", ",", "the", "correlation", "be...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[]
prwp
general_prwp
en
[ "alleviate", "their", "vulnerability", "to", "shocks", ".", "The", "labor", "intensive", "public", "works", ",", "investments", "in", "market", "infrastructure", ",", "and", "regulatory", "reforms", "to", "promote", "economic", "opportunities", "are", "expected", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[]
fcv
refugee_pads
en
[ "DTM", "Mali", "–", "Décembre", "2022", "#", "#", "#", "*", "*", "SIGLES", "ET", "ABREVIATIONS", "*", "*", "<", "!", "-", "-", "Start", "of", "picture", "text", "-", "-", ">", "CEDEAO", "Communauté", "économique", "des", "Etats", "de", "l", "’", "A...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[]
fcv
reliefweb
fr
[ "sup", ">", "2", "<", "/", "sup", ">", "consisting", "of", "6", "administrative", "zones", "and", "35", "woredas", ".", "CSA", "population", "census", "of", "2007", "indicated", "that", "there", "are", "4", ".", "3", "million", "people", "in", "the", "...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DATA_MENTION", "I-DATA_MENTION", "I-DATA_MENTION", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O",...
[ { "start": 16, "end": 18, "text": "CSA population census", "label": "DATA_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ "#", "*", "*", "Appendix", ":", "Robustness", "Checks", "*", "*", "We", "include", "three", "robustness", "checks", "on", "our", "main", "estimates", "of", "African", "inequality", ".", "First", ",", "we", "restrict", "the", "sample", "to", "those", "count...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 45, "end": 50, "text": "raw data set of decile groups", "label": "DATA_MENTION" } ]
prwp
general_prwp
en
[ "2025-04-15", "<", "br", ">", ")", "in", "9", "No", ".", "selected", "informal", "s", "<", "br", ">", "ettlements", "in", "Trans", "Nzoia", "an", "<", "br", ">", "d", "Homa", "Bay", "Counties", "(", "Phase", "<", "br", ">", "2", ",", "Cluster", "...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[ { "start": 57, "end": 59, "text": "NATIONAL GEO DAT", "label": "NON_MENTION" } ]
fcv
fcv_pads_east_africa
en
[ "|", "Bosnia", "and", "<", "br", ">", "Herzegovina", "|", "35", "|", "|", "Pakistan", "|", "91", "|", "Occupied", "Palestinian", "<", "br", ">", "Territory", "|", "*", "|", "Serbia", "|", "8", "|", "Belarus", "|", "11", "|", "Russian", "Fed", ".", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[]
fcv
reliefweb
en
[ "|", "|", "2", ".", "Implement", "road", "construction", "and", "maintenance", "schemes", "to", "<", "br", ">", "seek", "to", "generate", "employment", "for", "the", "poor", "at", "wages", "defined", "by", "<", "br", ">", "existing", "wage", "guidelines", ...
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "...
[]
fcv
fcv_pads_east_africa
en
End of preview. Expand in Data Studio

Data-Use Mentions — Displacement View

Derived from rafmacalaba/data-use-mentions (originals untouched). Every source span keeps its label verdict, so the kept-vs-dropped split is explicitly trackable and auditable in every row — nothing is silently removed.

  • kept → DATA_MENTION: evidential and declaration data-use mentions (the positive label).
  • dropped → NON_MENTION: non-mentions and junk (the negative label).

Why “displacement”

Non-mention/junk spans are displaced from the positive label set — so training sees them as negatives — but stay in the data with their verdict attached, rather than being deleted from the record.

Configurations

config fields purpose
gliner_displacement tokenized_text, corpus, origin, language, ner, spans GLiNER-style span extraction; ner lists only kept DATA_MENTION spans, spans carries the per-span uid, tier, and source for full auditability
bio_displacement tokens, ner_tags, spans, corpus, origin, language token-level BIO with two explicit classes (DATA_MENTION, NON_MENTION), overlap-safe longest-first; spans is the readable reconstruction of the tags
readable_displacement text, spans, corpus, origin, origin_model, language human-readable: full window text with character-offset spans ({start, end, text, label, tier, source})

Label scheme

label meaning
DATA_MENTION kept span — evidential or declaration data-use mention (positive)
NON_MENTION dropped span — non-mention or junk (negative)

Verdict provenance

  • Luna judgments win for any span they cover (val/holdout, plus the judged train subset).
  • Unjudged train spans use the v3 classifier's predicted class (train_v3_remaining_scores.jsonl).
  • A span with no resolvable id stays tagged DATA_MENTION (asymmetric keep: never risk dropping a positive).
  • Same-surface conflicts keep when any positive verdict is present.
  • A Luna review pass (refine_band.py, label-blind) adjudicated the ~6.3k highest-risk kept spans across all splits; spans it confirmed T3/junk flipped to NON_MENTION (source luna_review), confirmed T1/T2 stayed.

Splits and sizes

Total: 122,864 rows, 148,584 spans (117,380 kept, 31,204 dropped, 1,149 same-surface conflicts).

split rows spans kept (DATA_MENTION) dropped (NON_MENTION) conflicts
train 85,003 103,230 81,995 21,235 758
val 19,152 23,302 18,141 5,161 229
holdout 18,709 22,052 17,244 4,808 162

Source corpora

Rows come from the fcv and prwp corpora with five source origins: fcv_pads_east_africa, general_prwp, reliefweb, refugee_pads, jdc_operational. This dataset contains only real (non-synthetic) rows; origin_model is "" for every row.

Usage

from datasets import load_dataset

ds = load_dataset("rafmacalaba/datause-displacement",
                  "readable_displacement", split="train")

The origin field is normalized (legacy suffixes stripped).

{"holdout": {"by_source": {"luna": 21409}, "conflict_spans": 162, "dropped_T3junk": 4808, "kept_T1T2": 17244, "review_drop_flips": 159, "review_keep_flips": 0, "rows": 18709, "spans": 22052, "tiers": {"junk": 299, "tier1_evidential": 13326, "tier2_declaration": 3918, "tier3_nonmention": 4509}}, "train": {"by_source": {"classifier": 70385, "luna": 26779}, "conflict_spans": 758, "dropped_T3junk": 21235, "kept_T1T2": 81995, "review_drop_flips": 1983, "review_keep_flips": 0, "rows": 85003, "spans": 103230, "tiers": {"junk": 1758, "tier1_evidential": 63880, "tier2_declaration": 18115, "tier3_nonmention": 19477}}, "val": {"by_source": {"luna": 22552}, "conflict_spans": 229, "dropped_T3junk": 5161, "kept_T1T2": 18141, "review_drop_flips": 172, "review_keep_flips": 0, "rows": 19152, "spans": 23302, "tiers": {"junk": 299, "tier1_evidential": 14169, "tier2_declaration": 3972, "tier3_nonmention": 4862}}}

Downloads last month
-