Datasets:

Naiina

/

UD_animacy_en

like 0

[ "Figure", "1", "." ]

[ -100, -100, -100 ]

[ "January", "-", "june", "2016", "philippine", "power", "demand" ]

[ -100, -100, -100, -100, -100, 0, 0 ]

[ "Now", "that", "the", "world", "is", "in", "the", "age", "where", "lighting", "seems", "to", "be", "a", "daily", "necessity", ",", "typical", "homes", "as", "shown", "in", "figure", "1", ",", "consume", "nearly", "27", "percent", "of", "the", "energy", "used", "today", ":", "making", "lighting", "as", "the", "major", "source", "of", "electricity", "consumption", "." ]

[ -100, -100, -100, 0, -100, -100, -100, 0, -100, 0, -100, -100, -100, -100, -100, 0, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, 0, -100, 0, -100, -100, 0, -100, -100, -100, 0, -100, 0, 0, -100 ]

[ "Lighting", "plays", "a", "large", "part", "on", "the", "consumption", "of", "household", "electrical", "energy", ";", "it", "consumes", "about", "18", "%", "of", "the", "total", "generated", "electricity", "of", "total", "energy", "consumption", "in", "residential", "sectors", "as", "shown", "in", "figure", "2", "[", "2", "]", "." ]

[ 0, -100, -100, -100, 0, -100, -100, 0, -100, 0, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, 0, 0, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100 ]

[ "Figure", "2", "." ]

[ -100, -100, -100 ]

[ "Estimated", "electricity", "use", "in", "residential", "sector" ]

[ -100, 0, 0, -100, -100, 0 ]

[ "One", "of", "the", "main", "factors", "in", "lighting", "energy", "consumption", "is", "the", "light", "bulb", "." ]

[ -100, -100, -100, -100, 0, -100, 0, 0, 0, -100, -100, 0, 0, -100 ]

[ "The", "use", "of", "correct", "and", "appropriate", "type", "of", "light", "bulb", "improves", "the", "efficiency", "of", "energy", "usage", "." ]

[ -100, 0, -100, -100, -100, -100, 0, -100, 0, 0, -100, -100, 0, -100, 0, 0, -100 ]

[ "There", "are", "three", "general", "types", "of", "lighting", "that", "are", "widely", "used", "in", "the", "household", "nowadays", ":", "the", "(", "light", "-", "emitting", "diode", ")", "LED", "bulb", ",", "(", "compact", "fluorescent", "light", ")", "CFL", "bulb", "and", "the", "incandescent", "bulb", "." ]

[ -100, -100, -100, -100, 0, -100, 0, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, 0, -100, -100, 0, -100, 0, 0, -100, -100, -100, -100, 0, -100, 0, 0, -100, -100, -100, 0, -100 ]

[ "But", "each", "of", "them", "has", "their", "perks", "and", "perils", "[", "3", "]", "." ]

[ -100, -100, -100, -100, -100, -100, 0, -100, 0, -100, -100, -100, -100 ]

[ "Unfortunately", ",", "most", "of", "the", "time", ",", "people", "in", "the", "residential", "end", "up", "choosing", "a", "lamp", "based", "on", "it", "is", "price", "rather", "than", "its", "efficiency", "and", "this", "cause", "us", "to", "pay", "for", "our", "lighting", "more", "than", "necessary", "." ]

[ -100, -100, -100, -100, -100, 0, -100, 0, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, 0, -100, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100 ]

[ "Today", ",", "CFLs", "are", "the", "most", "used", "lighting", "sources", "in", "the", "household", "." ]

[ 0, -100, 0, -100, -100, -100, -100, 0, 0, -100, -100, 0, -100 ]

[ "Using", "CFLs", "will", "allow", "people", "to", "decrease", "their", "energy", "consumption", ";", "also", "it", "is", "a", "good", "start", "to", "decrease", "greenhouse", "emissions", "." ]

[ -100, 0, -100, -100, 0, -100, -100, -100, 0, 0, -100, -100, -100, -100, -100, -100, 0, -100, -100, 0, 0, -100 ]

[ "However", ",", "the", "main", "problem", "of", "CFLs", "is", "the", "mercury", "they", "contain", "." ]

[ -100, -100, -100, -100, 0, -100, 0, -100, -100, 0, -100, -100, -100 ]

[ "When", "products", "and", "wastes", "containing", "mercury", "are", "improperly", "disposed", "of", ",", "mercury", "is", "released", "into", "the", "air", ",", "ground", "or", "water", "." ]

[ -100, 0, -100, 0, -100, 0, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, 0, -100, 0, -100, 0, -100 ]

[ "It", "is", "persistent", "in", "the", "environment", ";", "it", "never", "breaks", "down", "nor", "goes", "away", "." ]

[ -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100 ]

[ "In", "addition", "to", "the", "harmful", "effects", "of", "mercury", "is", "that", "it", "emits", "Ultraviolet", "(", "UV", ")", "Radiation", "." ]

[ -100, 0, -100, -100, -100, 0, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100 ]

[ "This", "UV", "radiation", "interacts", "with", "the", "chemicals", "on", "the", "inside", "of", "the", "bulb", "to", "generate", "light", "." ]

[ -100, -100, 0, -100, -100, -100, 0, -100, -100, 0, -100, -100, 0, -100, -100, 0, -100 ]

[ "The", "acute", "and", "chronic", "effects", "are", "the", "normal", "responses", "of", "the", "skin", "to", "UVR", ";", "acute", "reactions", "considered", "will", "be", "erythema", "(", "sunburn", ")", "and", "vitamin", "D", "production", "." ]

[ -100, -100, -100, -100, 0, -100, -100, -100, 0, -100, -100, 1, -100, 0, -100, -100, 0, -100, -100, -100, 0, -100, 0, -100, -100, 0, 0, 0, -100 ]

[ "Skin", "aging", "and", "skin", "cancer", "will", "be", "discussed", "as", "those", "reactions", "produced", "by", "prolonged", "or", "repeated", "UVR", "exposure", "[", "4", "]", "." ]

[ 1, 0, -100, 1, 0, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100, 0, 0, -100, -100, -100, -100 ]

[ "In", "response", "to", "the", "aforementioned", "situation", "where", "the", "three", "types", "of", "lights", "are", "compared", "by", "their", "efficiency", "and", "effectiveness", "as", "light", "sources", ",", "the", "proponents", "conducted", "this", "study", "." ]

[ -100, 0, -100, -100, -100, 0, -100, -100, -100, 0, -100, 0, -100, -100, -100, -100, 0, -100, 0, -100, -100, 0, -100, -100, 1, -100, -100, 0, -100 ]

[ "Since", "the", "CFLs", "are", "the", "most", "commonly", "used", "light", "bulbs", "in", "the", "residential", "and", "has", "a", "great", "compatibility", "to", "LED", "in", "terms", "of", "design", "and", "materials", ",", "the", "proponents", "conducted", "a", "study", "about", "innovating", "and", "recycling", "CFL", "into", "a", "more", "efficient", "and", "environment", "friendly", "LED", "light", "bulb", "." ]

[ -100, -100, 0, -100, -100, -100, -100, -100, 0, 0, -100, -100, -100, -100, -100, -100, -100, 0, -100, 0, -100, 0, -100, 0, -100, 0, -100, -100, 1, -100, -100, 0, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100, 0, -100, 0, 0, 0, -100 ]

[ "Design", "of", "Mutation", "Operators", "for", "Testing", "Geographic", "Information", "Systems" ]

[ 0, -100, 1, 1, -100, -100, -100, 0, 0 ]

[ "Suilen", "H.", "Alvarado", "Laboratorio", "de", "Bases", "de", "Datos", "Campus", "de", "Elviña", ",", "Centro", "de", "investigación", "CITIC", ",", "Universidade", "da", "Coruña", ",", "15071", "A", "Coruña", ",", "Spain", ";", "s.hernandez@udc.es" ]

[ -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100 ]

[ "Presented", "at", "the", "2nd", "XoveTIC", "Congress", ",", "A", "Coruña", ",", "Spain", ",", "5", "–", "6", "September", "2019", "." ]

[ -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100 ]

[ "Abstract", ":" ]

[ 0, -100 ]

[ "In", "this", "article", ",", "we", "propose", "the", "definition", "of", "specific", "mutation", "operators", "for", "testing", "Geographic", "Information", "Systems", "." ]

[ -100, -100, 0, -100, -100, -100, -100, 0, -100, -100, 1, 0, -100, -100, -100, 0, 0, -100 ]

[ "We", "describe", "the", "process", "for", "applying", "the", "operators", "and", "generating", "mutants", ",", "and", "present", "a", "case", "study", "where", "these", "mutation", "operators", "are", "applied", "to", "two", "real", "-", "world", "applications", "." ]

[ -100, -100, -100, 0, -100, -100, -100, 0, -100, -100, 1, -100, -100, -100, -100, 0, 0, -100, -100, 1, 0, -100, -100, -100, -100, -100, -100, 0, 0, -100 ]

[ "Keywords", ":", "mutation", "operators", ";", "geographic", "information", "systems", ";", "mutation", "testing" ]

[ 0, -100, 1, 0, -100, -100, 0, 0, -100, 1, 0 ]

[ "1.", "Introduction" ]

[ -100, 0 ]

[ "Mutation", "-", "based", "testing", "[", "1", "]", "is", "a", "test", "technique", "that", "involves", "artificially", "introducing", "errors", "into", "a", "System", "Under", "Test", "(", "SUT", ")", "." ]

[ 1, -100, -100, 0, -100, -100, -100, -100, -100, 0, 0, -100, -100, -100, -100, 0, -100, -100, 0, -100, 0, -100, 0, -100, -100 ]

[ "A", "mutant", "is", "a", "copy", "of", "the", "system", "in", "which", "a", "change", "has", "been", "done", "that", ",", "in", "most", "cases", ",", "will", "lead", "to", "a", "behaviour", "different", "than", "expected", "." ]

[ -100, 1, -100, -100, 0, -100, -100, 0, -100, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100 ]

[ "The", "different", "mutants", "are", "generated", "automatically", "by", "the", "application", "of", "mutation", "operators", "." ]

[ -100, -100, 1, -100, -100, -100, -100, -100, 0, -100, 1, 0, -100 ]

[ "In", "the", "state", "of", "the", "art", ",", "we", "have", "found", "mutation", "operators", ",", "both", "general", "purpose", "and", "specific", "to", "different", "technologies", ",", "languages", "and", "paradigms", "[", "2", "–", "9", "]", "." ]

[ -100, -100, 0, -100, -100, 0, -100, -100, -100, -100, 0, 0, -100, -100, -100, 0, -100, -100, -100, -100, 0, -100, 0, -100, 0, -100, -100, -100, -100, -100, -100 ]

[ "However", ",", "these", "operators", "are", "not", "adequate", "when", "trying", "to", "test", "software", "features", "associated", "with", "specific", "domains", "." ]

[ -100, -100, -100, 1, -100, -100, -100, -100, -100, -100, -100, 0, 0, -100, -100, -100, 0, -100 ]

[ "In", "this", "article", ",", "we", "propose", "mutation", "operators", "specific", "to", "the", "domain", "of", "Geographic", "Information", "Systems", "(", "GIS", ")", "applications", "." ]

[ -100, -100, 0, -100, -100, -100, 0, 0, -100, -100, -100, 0, -100, -100, 0, 0, -100, 0, -100, 0, -100 ]

[ "These", "operators", "reproduce", "programming", "errors", "that", "are", "litely", "to", "occur", "during", "the", "development", "of", "this", "type", "of", "applications", "." ]

[ -100, 1, -100, 0, 0, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, 0, -100, 0, -100 ]

[ "In", "addition", ",", "we", "present", "the", "implementation", "of", "these", "operators", "and", "as", "proof", "of", "concept", "we", "apply", "these", "operators", "to", "two", "real", "-", "world", "GIS", "applications", "and", "we", "generate", "the", "mutants", "." ]

[ -100, 0, -100, -100, -100, -100, 0, -100, -100, 0, -100, -100, 0, -100, 0, -100, -100, -100, 0, -100, -100, -100, -100, 0, 0, 0, -100, -100, -100, -100, 1, -100 ]

[ "2.", "Mutation", "Operators", "for", "GIS" ]

[ -100, -100, -100, -100, -100 ]

[ "As", "a", "previous", "step", "to", "designing", "the", "mutation", "operators", ",", "we", "analyzed", "the", "main", "technologies", "used", "specifically", "in", "the", "development", "of", "GIS", ",", "and", "we", "identified", "typical", "errors", "a", "programmer", "can", "introduce", "during", "the", "development", "." ]

[ -100, -100, -100, 0, -100, -100, -100, 1, 0, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, 0, -100, 0, -100, -100, -100, -100, -100, 0, -100, 1, -100, -100, -100, -100, 0, -100 ]

[ "These", "errors", "were", "formalized", "into", "mutation", "operators", "." ]

[ -100, 0, -100, -100, -100, 0, 0, -100 ]

[ "In", "order", "to", "apply", "these", "operators", "to", "a", "SUT", ",", "we", "rely", "on", "Java", "reflection", "and", "aspect", "-", "oriented", "programming", "." ]

[ -100, 0, -100, -100, -100, 0, -100, -100, 0, -100, -100, -100, -100, -100, 0, -100, 0, -100, -100, 0, -100 ]

[ "Reflection", "allows", "us", "to", "obtain", "the", "list", "of", "classes", "and", "methods", "of", "the", "SUT", ",", "so", "the", "user", "can", "decide", "the", "methods", "to", "wish", "the", "operators", "will", "be", "applied", "." ]

[ 0, -100, -100, -100, -100, -100, 0, -100, 0, -100, 0, -100, -100, 0, -100, -100, -100, 1, -100, -100, -100, 0, -100, -100, -100, 0, -100, -100, -100, -100 ]

[ "Later", ",", "we", "capture", "information", "about", "the", "methods", "of", "the", "SUT", "to", "be", "mutated", ",", "together", "with", "the", "information", "of", "the", "mutation", "operators", "that", "were", "already", "defined", "." ]

[ -100, -100, -100, -100, 0, -100, -100, 0, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, 1, 0, -100, -100, -100, -100, -100 ]

[ "From", "these", "data", ",", "we", "generate", "the", "mutation", "operator", ",", "in", "the", "form", "of", "on", "aspect", ",", "which", "will", "then", "be", "possible", "to", "interweave", "with", "the", "SUT", "which", "generates", "a", "mutant", "of", "the", "SUT", "." ]

[ -100, -100, 0, -100, -100, -100, -100, 1, 0, -100, -100, -100, 0, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, 1, -100, -100, 0, -100 ]

[ "Next", ",", "we", "describe", "the", "definition", "of", "two", "operators", "and", "two", "cases", "of", "application", "on", "real", "-", "world", "GIS", "applications", "." ]

[ -100, -100, -100, -100, -100, 0, -100, -100, 0, -100, -100, 0, -100, 0, -100, -100, -100, 0, 0, 0, -100 ]

[ "ChangeCoordSys", "Operator", "(", "Listing", "1", ")", ":" ]

[ -100, -100, -100, -100, -100, -100, -100 ]

[ "It", "exchanges", "the", "coordinate", "system", "of", "a", "geometry", ",", "so", "it", "does", "not", "match", "the", "coordinate", "system", "that", "is", "being", "used", "in", "the", "user", "interface", "." ]

[ -100, -100, -100, 0, 0, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, 0, 0, -100, -100, -100, -100, -100, -100, 1, 0, -100 ]

[ "It", "simulates", "the", "error", "of", "not", "checking", "that", "the", "coordinate", "system", "is", "correct", "." ]

[ -100, -100, -100, 0, -100, -100, -100, -100, -100, 0, 0, -100, -100, -100 ]

[ "The", "error", "is", "introduced", "by", "directly", "modifying", "the", "coordinate", "system", "of", "geometry", "when", "recovering", "the", "wrapping", "of", "the", "figure", "." ]

[ -100, 0, -100, -100, -100, -100, -100, -100, 0, 0, -100, 0, -100, -100, -100, 0, -100, -100, 0, -100 ]

[ "Listing", "1", ":", "A", "simplified", "definition", "of", "the", "ChangeCoordSys", "Operator", "." ]

[ -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100 ]

[ "This", "operator", "was", "applied", "to", "a", "mobile", "technology", "GIS", "application", "." ]

[ -100, 1, -100, -100, -100, -100, -100, 0, 0, 0, -100 ]

[ "This", "application", "allows", "registering", "places", "of", "interest", "for", "the", "user", "." ]

[ -100, 0, -100, -100, 0, -100, 0, -100, -100, 1, -100 ]

[ "These", "areas", "of", "interest", "are", "called", "Geofences", "." ]

[ -100, 0, -100, 0, -100, -100, 0, -100 ]

[ "A", "Geofence", "is", "determined", "by", "a", "geographical", "location", "expressed", "in", "terms", "of", "latitude", ",", "longitude", ",", "and", "a", "radius", "around", "that", "location", "." ]

[ -100, 0, -100, -100, -100, -100, -100, 0, -100, -100, 0, -100, 0, -100, 0, -100, -100, -100, 0, -100, -100, 0, -100 ]

[ "By", "creating", "a", "Geofence", "with", "an", "erroneous", "location", "from", "its", "central", "location", ",", "the", "device", "will", "receive", "incorrect", "location", "notifications", "." ]

[ -100, -100, -100, 0, -100, -100, -100, 0, -100, -100, -100, 0, -100, -100, 0, -100, -100, -100, 0, 0, -100 ]

[ "As", "a", "result", ",", "the", "user", "will", "see", "in", "the", "application’s", "application", "’s", "map", "viewer", "the", "Geofences", "drawn", "in", "erroneous", "zones", "(", "Figure", "1", ")", "." ]

[ -100, -100, 0, -100, -100, 1, -100, -100, -100, -100, -100, 0, -100, 0, 1, -100, 0, -100, -100, -100, 0, -100, -100, -100, -100, -100 ]

[ "Figure", "1", ".", "Original", "and", "mutant", "application", "." ]

[ -100, -100, -100, -100, -100, -100, 0, -100 ]

[ "BooleanPolygonConstraint", "Operator", "(", "Listing", "2", ")", ":" ]

[ -100, -100, -100, -100, -100, -100, -100 ]

[ "It", "introduces", "errors", "in", "the", "processing", "of", "geometries", ",", "manipulating", "the", "result", "of", "the", "operations", "that", "carry", "out", "the", "verification", "of", "different", "topological", "restrictions", "between", "geometries", ",", "such", "as", "intersects", ",", "covers", "or", "overlap", "." ]

[ -100, -100, 0, -100, -100, 0, -100, 0, -100, -100, -100, 0, -100, -100, 0, -100, -100, -100, -100, 0, -100, -100, -100, 0, -100, 0, -100, -100, -100, 0, -100, 0, -100, 0, -100 ]

[ "Listing", "2", ":", "A", "simplified", "definition", "of", "the", "BooleanPolygonConstraint", "Operator", "." ]

[ -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100 ]

[ "To", "test", "this", "operator", "it", "was", "applied", "to", "a", "land", "reparcelling", "system", "." ]

[ -100, -100, -100, 1, -100, -100, -100, -100, -100, 0, -100, 0, -100 ]

[ "The", "objective", "of", "the", "land", "reparcelling", "is", "to", "reunify", "the", "lands", "of", "an", "owner", "to", "facilitate", "their", "exploitation", "." ]

[ -100, 0, -100, -100, 1, 0, -100, -100, -100, -100, 0, -100, -100, 1, -100, -100, -100, 0, -100 ]

[ "In", "this", "application", ",", "the", "result", "of", "the", "operation", "between", "two", "polygons", "has", "been", "affected", "." ]

[ -100, -100, 0, -100, -100, 0, -100, -100, 0, -100, -100, 0, -100, -100, -100, -100 ]

[ "This", "error", "causes", "the", "incorrect", "display", "of", "the", "resulting", "geometry", "that", "should", "be", "drawn", "in", "the", "user", "interface", "after", "the", "operation", "applied", "to", "the", "two", "initial", "geometries", "(", "Figure", "2", ")", "." ]

[ -100, 0, -100, -100, -100, 0, -100, -100, -100, 0, -100, -100, -100, -100, -100, -100, 1, 0, -100, -100, 0, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100 ]

[ "Figure", "2", ".", "Original", "and", "mutant", "application", "." ]

[ -100, -100, -100, -100, -100, -100, 0, -100 ]

[ "3.", "Conclusions" ]

[ -100, 0 ]

[ "In", "existing", "proposals", ",", "we", "can", "find", "both", "generic", "and", "specific", "mutation", "operators", "." ]

[ -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, 1, 0, -100 ]

[ "However", ",", "these", "are", "not", "adequate", "to", "cover", "errors", "in", "particular", "domains", "." ]

[ -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, 0, -100 ]

[ "We", "have", "defined", "new", "operators", "specific", "to", "the", "GIS", "domain", "and", "a", "way", "to", "apply", "them", "to", "a", "SUT", "." ]

[ -100, -100, -100, -100, 0, -100, -100, -100, 0, 0, -100, -100, 0, -100, -100, -100, -100, -100, 0, -100 ]

[ "In", "addition", ",", "we", "have", "tested", "the", "operators", "defined", "in", "two", "GIS", "applications", "." ]

[ -100, 0, -100, -100, -100, -100, -100, 0, -100, -100, -100, 0, 0, -100 ]

[ "As", "future", "work", ",", "we", "intend", "to", "extend", "this", "approach", "to", "other", "domains", ",", "as", "well", "as", "to", "use", "the", "developed", "operators", "for", "the", "automatic", "improvement", "of", "sets", "of", "test", "cases", "." ]

[ -100, -100, 0, -100, -100, -100, -100, -100, -100, 0, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, 1, -100, -100, -100, 0, -100, 0, -100, 0, 0, -100 ]

[ "Replication", "in", "Second", "Language", "Research", ":" ]

[ 0, -100, -100, 0, 0, -100 ]

[ "Narrative", "and", "Systematic", "Reviews", "and", "Recommendations", "for", "the", "Field" ]

[ -100, -100, -100, 0, -100, 0, -100, -100, 0 ]

[ "Replication", "studies", "are", "considered", "by", "many", "to", "play", "a", "fundamental", "role", "in", "any", "scientific", "endeavor", "." ]

[ 0, 0, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, 0, -100 ]

[ "When", "using", "the", "same", "materials", "and", "procedures", "as", "a", "previous", "study", ",", "replication", "studies", "serve", "to", "test", "the", "reliability", "of", "the", "previous", "study’s", "study", "’s", "findings", "." ]

[ -100, -100, -100, -100, 0, -100, 0, -100, -100, -100, 0, -100, 0, 0, -100, -100, -100, -100, 0, -100, -100, -100, -100, 0, -100, 0, -100 ]

[ "When", "altering", "specific", "methodological", "or", "participant", "characteristics", "of", "a", "previous", "study", ",", "they", "serve", "to", "test", "generalizability", "of", "the", "earlier", "findings", "under", "different", "conditions", "." ]

[ -100, -100, -100, -100, -100, 1, 0, -100, -100, -100, 0, -100, -100, -100, -100, -100, 0, -100, -100, -100, 0, -100, -100, 0, -100 ]

[ "One", "indication", "of", "the", "importance", "of", "replication", "is", "found", "in", "the", "50", "or", "more", "calls", "for", "replication", "research", "in", "the", "field", "of", "second", "language", "(", "L2", ")", "research", "alone", "(", "see", "references", "for", "50", "calls", "and", "commentaries", "in", "Appendix", "S1", "in", "the", "Supporting", "Information", "online", ")", ":", "from", "Santos", "(", "1989", ")", "through", "Polio", "and", "Gass", "1997", "to", "very", "recent", "proposals", "for", "specific", "replication", "studies", ",", "such", "as", "Vandergrift", "and", "Cross", "2017", "and", "even", "a", "book", "-", "length", "treatment", "(", "Porte", ",", "2012", ")", "." ]

[ -100, 0, -100, -100, 0, -100, 0, -100, -100, -100, -100, -100, -100, -100, 0, -100, 0, 0, -100, -100, 0, -100, -100, 0, -100, 0, -100, 0, -100, -100, -100, 0, -100, -100, 0, -100, 0, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, 0, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, 0, 0, -100, -100, -100, -100, -100, -100 ]

[ "Beyond", "these", "calls", ",", "efforts", "to", "actively", "promote", "and", "facilitate", "replication", "studies", "have", "also", "emerged", "." ]

[ -100, -100, 0, -100, 0, -100, -100, -100, -100, -100, 0, 0, -100, -100, -100, -100 ]

[ "For", "example", ",", "the", "Instruments", "for", "Research", "into", "Second", "Languages", "(", "IRIS", ")", "repository", "(", "http://www.irisdatabase.org", ")", "was", "established", "in", "2011", "and", "holds", ",", "at", "the", "time", "of", "writing", ",", "over", "3,800", "materials", "that", "can", "be", "used", "for", "replication", ",", "among", "other", "purposes", ",", "in", "L2", "research", "(", "Marsden", "&", "Mackey", ",", "2014", ";", "Marsden", ",", "Mackey", ",", "&", "Plonsky", ",", "2016", ")", "." ]

[ -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100, 0, -100, -100, -100, 0, -100, -100, 0, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100 ]

[ "The", "Open", "Science", "Framework", "(", "https://osf.io", ")", ",", "also", "established", "in", "2011", ",", "provides", "a", "web", "infrastructure", "to", "facilitate", "collaboration", "and", "has", "been", "used", "for", "large", "replication", "efforts", "in", "psychology", "(", "e.g.", ",", "Open", "Science", "Collaboration", ",", "2015", ")", ",", "which", "continue", "to", "make", "waves", "in", "academia", "(", "Laws", ",", "2016", ";", "Lindsay", ",", "2015", ";", "Martin", "&", "Clarke", ",", "2017", ")", "and", "the", "general", "media", "(", "Baker", ",", "2015", ";", "Devlin", ",", "2016", ")", "." ]

[ -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, 0, -100, -100, 0, -100, -100, -100, -100, -100, -100, 0, 0, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100 ]

[ "In", "some", "fields", ",", "a", "flourishing", "metascience", ",", "that", "is", ",", "the", "scientific", "study", "of", "science", "(", "see", "Munafò", "et", "al.", ",", "2017", ")", ",", "has", "included", "syntheses", "assessing", "the", "quantity", "and", "nature", "of", "replication", "efforts", ",", "for", "example", ",", "in", "education", "(", "Makel", "&", "Plucker", ",", "2014", "and", "in", "psychology", "(", "Makel", "et", "al.", ",", "2012", ")", "." ]

[ -100, -100, 0, -100, -100, -100, 0, -100, -100, -100, -100, -100, -100, 0, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, 0, -100, 0, -100, 0, 0, -100, -100, 0, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100 ]

[ "The", "driving", "force", "behind", "this", "battery", "of", "calls", ",", "commentaries", ",", "infrastructure", ",", "and", "metascience", "is", "a", "perceived", "crisis", "in", "the", "state", "of", "replication", "research", "." ]

[ -100, -100, 0, -100, -100, 0, -100, 0, -100, 0, -100, 0, -100, -100, 0, -100, -100, -100, 0, -100, -100, 0, -100, 0, 0, -100 ]

[ "The", "severe", "concerns", "underpinning", "the", "alleged", "crisis", "have", "several", "dimensions", "relating", "to", ":", "(a)", "the", "(", "small", ")", "amount", "of", "published", "replication", "research", ";", "(b)", "the", "(", "poor", ")", "quality", "of", "replication", "research", ";", "and", "(c)", "the", "(", "lack", "of", ")", "reproducibility", ",", "which", "refers", "to", "the", "extent", "to", "which", "findings", "can", "(", "not", ")", "be", "reproduced", "in", "replication", "attempts", "that", "have", "been", "undertaken", "." ]

[ -100, -100, 0, -100, -100, -100, 0, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, 0, 0, -100, -100, -100, -100, -100, -100, 0, -100, 0, 0, -100, -100, -100, -100, -100, 0, -100, -100, 0, -100, -100, -100, -100, -100, 0, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, 0, 0, -100, -100, -100, -100, -100 ]

[ "These", "concerns", "speak", "to", "the", "very", "core", "of", "science", ",", "raising", "fundamental", "questions", "about", "the", "validity", "and", "reliability", "of", "our", "work", "." ]

[ -100, 0, -100, -100, -100, -100, 0, -100, 0, -100, -100, -100, 0, -100, -100, 0, -100, 0, -100, -100, 0, -100 ]

[ "Indeed", ",", "some", "commentators", "have", "called", "replication", "the", "“", "gold", "standard", "”", "of", "research", "evidence", "(", "Jasny", ",", "Chin", ",", "Chong", ",", "&", "Vignieri", ",", "2011", ",", "p.", "1225", ")", "and", "a", "“", "linchpin", "of", "the", "scientific", "process", "”", "(", "Let’s", "Let", "’s", "replicate", ",", "2006", ",", "p.", "330", ")", "." ]

[ -100, -100, -100, 1, -100, -100, 0, -100, -100, 0, 0, -100, -100, 0, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100, 0, -100, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100 ]

[ "In", "the", "field", "of", "L2", "research", ",", "given", "the", "importance", "of", "replication", "and", "the", "50", "calls", "for", "replication", "in", "L2", "research", "that", "we", "identified", ",", "one", "might", "expect", "a", "substantial", "number", "of", "published", "replication", "studies", "by", "now", "." ]

[ -100, -100, 0, -100, 0, 0, -100, -100, -100, 0, -100, 0, -100, -100, -100, 0, -100, 0, -100, 0, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, 0, 0, -100, -100, -100 ]

[ "However", ",", "a", "perceived", "lack", "of", "prestige", ",", "excitement", ",", "and", "originality", "of", "replication", "plagues", "L2", "research", "(", "Porte", ",", "2012", ")", ",", "as", "it", "does", "other", "disciplines", "(", "Berez", "-", "Kroeker", "et", "al.", ",", "2017", ";", "Branco", ",", "Cohen", ",", "Vossen", ",", "Ide", ",", "&", "Calzolari", ",", "2017", ";", "Chambers", ",", "2017", ";", "Schmidt", ",", "2009", ")", ",", "and", "these", "perceptions", "are", "thought", "to", "have", "caused", ",", "at", "least", "in", "part", "(", "directly", "or", "indirectly", ")", ",", "alleged", "low", "rates", "and", "a", "poor", "quality", "of", "published", "replication", "studies", "." ]

[ -100, -100, -100, -100, 0, -100, 0, -100, 0, -100, -100, 0, -100, 0, -100, 0, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, 0, -100, -100, 0, 0, -100 ]

[ "However", ",", "a", "systematic", "metascience", "on", "replication", "research", "has", "not", "yet", "been", "established", "in", "the", "field", "of", "L2", "research", ",", "leaving", "a", "poor", "understanding", "of", "the", "actual", "number", "and", "nature", "of", "replication", "studies", "that", "have", "been", "published", "." ]

[ -100, -100, -100, -100, 0, -100, 0, 0, -100, -100, -100, -100, -100, -100, -100, 0, -100, 0, 0, -100, -100, -100, -100, 0, -100, -100, -100, 0, -100, 0, -100, 0, 0, -100, -100, -100, -100, -100 ]

[ "The", "current", "study", "begins", "to", "address", "this", "gap", "through", "narrative", "and", "systematic", "reviews", "." ]

[ -100, -100, 0, -100, -100, -100, -100, 0, -100, -100, -100, -100, 0, -100 ]

[ "The", "narrative", "review", "considers", "challenges", "in", "replication", "research", "and", "is", "largely", "informed", "by", "commentaries", "and", "metascience", "from", "psychology", ",", "given", "that", "the", "cognitive", "and", "social", "subdomains", "of", "psychology", "are", "highly", "influential", "in", "L2", "research", ",", "and", "also", "from", "education", ",", "another", "key", "sister", "discipline", "." ]

[ -100, -100, 0, -100, 0, -100, 0, 0, -100, -100, -100, -100, -100, 0, -100, 0, -100, 0, -100, -100, -100, -100, -100, -100, -100, 0, -100, 0, -100, -100, -100, -100, 0, 0, -100, -100, -100, -100, 0, -100, -100, -100, 1, 0, -100 ]

[ "The", "narrative", "review", "is", "organized", "around", "four", "broad", "themes", ":", "(a)", "the", "quantity", "of", "replication", "research", ",", "(b)", "the", "nature", "of", "replication", "research", ",", "(c)", "the", "relationship", "between", "initial", "and", "replication", "studies", ",", "and", "(d)", "the", "interpretation", "and", "extent", "of", "reproducibility", "of", "the", "findings", "of", "initial", "studies", "." ]

[ -100, -100, 0, -100, -100, -100, -100, -100, 0, -100, -100, -100, 0, -100, 0, 0, -100, -100, -100, 0, -100, 0, 0, -100, -100, -100, 0, -100, -100, -100, 0, 0, -100, -100, -100, -100, 0, -100, 0, -100, 0, -100, -100, 0, -100, -100, 0, -100 ]

[ "To", "gain", "insight", "into", "these", "issues", "in", "the", "context", "of", "L2", "research", ",", "the", "systematic", "review", "provides", "a", "synthesis", "of", "L2", "studies", "in", "journal", "articles", "that", "self", "-", "labeled", "as", "replications", "." ]

[ -100, -100, 0, -100, -100, 0, -100, -100, 0, -100, 0, 0, -100, -100, -100, 0, -100, -100, 0, -100, 0, 0, -100, 0, 0, -100, 1, -100, -100, -100, 0, -100 ]

[ "The", "research", "questions", "and", "methods", "of", "the", "systematic", "review", "were", "largely", "determined", "by", "the", "narrative", "review", "but", "also", "emerged", "through", "the", "design", "and", "piloting", "of", "the", "coding", "instrument", "." ]

[ -100, 0, 0, -100, 0, -100, -100, -100, 0, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100, 0, -100, 0, -100, -100, -100, 0, -100 ]

[ "Finally", ",", "we", "offer", "further", "discussion", "and", "16", "recommendations", "for", "future", "replication", "work", "that", "draw", "on", "our", "narrative", "and", "systematic", "reviews", "and", "on", "our", "experience", "of", "carrying", "out", "multisite", "(", "Morgan", "-", "Short", "et", "al.", ",", "2018", ")", "1", "and", "single", "site", "(", "Faretta", "-", "Stutenberg", "&", "Morgan", "-", "Short", ",", "2011", ";", "Marsden", ",", "Williams", ",", "&", "Liu", ",", "2013", ";", "McManus", "&", "Marsden", ",", "2017", ";", "Morgan", "-", "Short", ",", "Heil", ",", "Botero", "-", "Moriaty", ",", "&", "Ebert", ",", "2012", ")", "replications", "." ]

[ -100, -100, -100, -100, -100, 0, -100, -100, 0, -100, -100, 0, 0, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, -100, 0, -100 ]

[ "We", "start", "from", "the", "widely", "agreed", "premise", "that", "testing", "the", "reproducibility", "of", "findings", "should", "have", "an", "essential", "role", "in", "the", "testing", "and", "refinement", "of", "theory", ",", "at", "least", "for", "hypothesis", "-", "testing", "epistemologies", "that", "seek", "to", "ascertain", "generalizability", "and", "for", "other", "epistemologies", "in", "which", "constructs", "are", "deemed", "to", "be", "definable", "and", "observable", "." ]

[ -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, 0, -100, 0, -100, -100, -100, -100, 0, -100, -100, 0, -100, 0, -100, 0, -100, -100, -100, -100, 0, -100, 0, 0, -100, -100, -100, -100, 0, -100, -100, -100, 0, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100 ]

[ "Thus", ",", "our", "overall", "aim", "is", "to", "provide", "conceptual", "clarification", "and", "an", "empirical", "base", "for", "future", "discussion", "and", "production", "of", "replication", "studies", ",", "with", "a", "view", "to", "improving", "the", "amount", "and", "quality", "of", "L2", "replication", "research", "." ]

[ -100, -100, -100, -100, 0, -100, -100, -100, -100, 0, -100, -100, -100, 0, -100, -100, 0, -100, 0, -100, 0, 0, -100, -100, -100, 0, -100, -100, -100, 0, -100, 0, -100, 0, 0, 0, -100 ]

[ "1.", "Introduction" ]

[ -100, 0 ]

[ "Salinity", "is", "one", "of", "the", "most", "important", "marine", "parameters", ",", "which", "controls", "many", "processes", "such", "as", "physical", "circulations", ",", "biogeochemistry", "dynamics", "from", "regional", "to", "global", "ocean", "[", "1", ",", "2", "]", "." ]

[ 0, -100, -100, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, 0, -100, -100, -100, 0, -100, 0, 0, -100, -100, -100, -100, 0, -100, -100, -100, -100, -100, -100 ]

[ "Although", "drifters", "and", "buoys", ",", "together", "with", "cruises", ",", "have", "accumulated", "large", "amount", "in", "-", "situ", "water", "salinity", "data", "in", "different", "regions", ",", "it", "is", "still", "difficult", "to", "monitor", "global", "ocean", "salinity", "with", "high", "temporal", "-", "spatial", "resolution", "by", "the", "in", "situ", "measurements", "." ]

[ -100, 1, -100, 0, -100, -100, -100, 0, -100, -100, -100, -100, 0, -100, -100, -100, 0, 0, 0, -100, -100, 0, -100, -100, -100, -100, -100, -100, -100, -100, 0, 0, -100, -100, -100, -100, -100, 0, -100, -100, -100, -100, 0, -100 ]