anlp/sentence_w_elimination · Datasets at Hugging Face

sentences sequence	new_gt sequence
[ ",", "2020", ")", "Wang", "et", "al", "(", "2023", ")", "tackle", "ECSP", "with", "code", "generation", "based", "on", "code", "pretraining", "However", ",", "these", "approaches", "are", "equipped", "with", "fairly", "simplis-", "tic", "event", "structures", "and", "have", "difﬁculty", "in", "tackling", "complex", "dependency", "in", "events", "Besides", ",", "most", "of", "them", "fail", "to", "represent", "manifold", "events", "effectively", "Energy", "Networks", "for", "Structured", "Prediction", "and", "Hyperspheres", "for", "Class", "Representation", "Energy", "networks", "deﬁne", "an", "energy", "function", "over", "input", "/", "output", "pairs", "with", "arbitrary", "neural", "networks", ",", "which", "places", "no", "limits", "on", "the", "size", "of", "the", "structured", "components", ",", "making", "it", "advantageous", "in", "modeling", "complex", "and", "manifold", "event", "structures", "Lecun", "et", "al", "(", "2006", ")", ";", "Belanger", "and", "McCallum", "(", "2016", ")", "associate", "a", "scalar", "measure", "to", "evaluate", "the", "compatibility", "to", "each", "conﬁguration", "of", "inputs", "and", "outputs", "(", "Belanger", "and", "McCallum", ",", "2016", ")", "formulate", "deep", "energy", "-", "based", "models", "for", "structured", "prediction", ",", "called", "structured", "prediction", "energy", "networks", "(", "SPENs", ")" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O" ]
[ "Belanger", "et", "al", "(", "2017", ")", "present", "end", "-", "to", "-", "end", "learning", "for", "SPENs", ",", "Tu", "and", "Gimpel", "(", "2018", ")", "jointly", "train", "structured", "en-", "ergy", "functions", "and", "inference", "networks", "with", "large-", "margin", "objectives" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Some", "previous", "researches", "also", "regard", "event", "-", "centric", "NLP", "tasks", "as", "structured", "predic-", "tion", "(", "Li", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ ",", "2013", ";", "Paolini", "et", "al", ",", "2021", ")", "Further-", "more", ",", "to", "effectively", "obtain", "event", "representations", ",", "Deng", "et", "al", "(", "2022", ")", "demonstrate", "that", "hyperspheri-", "cal", "prototypical", "networks", "(", "Mettes", "et", "al", ",", "2019", ")", "are", "powerful", "to", "encode", "enriched", "semantics", "and", "depen-", "dency", "in", "event", "structures", ",", "but", "they", "merely", "consider", "support", "for", "pairwise", "event", "structures.352", "3", "Methodology", "3.1", "Preliminaries", "For", "structured", "prediction", "tasks", ",", "given", "input", "x∈X", ",", "we", "denote", "the", "structured", "outputs", "by", "MΦ", "(", "x", ")", "∈˜Y", "with", "a", "prediction", "model", "MΦ", "Structured", "Prediction", "Energy", "Networks", "(", "SPENs", ")", "score", "structured", "outputs", "with", "an", "energy", "function", "EΘ", ":", "X×", "˜Y→Rparam-", "eterized", "by", "Θthat", "iteratively", "optimize", "the", "energy", "between", "the", "input", "/", "output", "pair", "(", "Belanger", "and", "Mc-", "Callum", ",", "2016", ")", ",", "where", "lower", "energy", "means", "greater", "compatibility", "between", "the", "pair" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "introduce", "event", "-", "centric", "structured", "prediction", "(", "ECSP", ")", "following", "the", "similar", "setting", "as", "SPENs", "for", "multi", "-", "label", "classiﬁcation", "and", "sequence", "labeling", "pro-", "posed", "by", "Tu", "and", "Gimpel", "(", "2018", ")" ]	[ "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Given", "a", "feature", "vector", "xbelonging", "to", "one", "of", "Tlabels", ",", "the", "model", "output", "isMΦ", "(", "x", ")", "=", "{", "0,1", "}", "T∈˜Yfor", "all", "x", "The", "energy", "function", "contains", "two", "terms", ":", "EΘ", "(", "x", ",", "y", ")", "=", "Elocal", "Θ", "(", "x", ",", "y", ")", "+", "Elabel", "Θ", "(", "y", ")", "=", "T", "/", "summationdisplay", "i=1yiV", "/", "latticetop", "if", "(", "x", ")", "+", "w", "/", "latticetopg", "(", "Wy", ")", "(", "1", ")", "whereElocal", "Θ", "(", "x", ",", "y", ")", "=", "/", "summationtextT", "i=1yiV", "/", "latticetop", "if", "(", "x", ")", "is", "the", "sum", "of", "linear", "models", ",", "and", "yi∈y", ",", "Viis", "a", "parameter", "vec-", "tor", "for", "label", "iandf", "(", "x", ")", "is", "a", "multi", "-", "layer", "perceptron", "computing", "a", "feature", "representation", "for", "the", "input", "x", ";", "Elabel", "Θ", "(", "y", ")", "=", "w", "/", "latticetopg", "(", "Wy", ")", "returns", "a", "scalar", "which", "quantiﬁes", "the", "full", "set", "of", "labels", ",", "scoring", "yindepen-", "dent", "of", "x", ",", "thereinto", ",", "wis", "a", "parameter", "vector", ",", "g", "(", "·", ")", "is", "an", "elementwise", "non", "-", "linearity", "function", ",", "and", "W", "is", "a", "parameter", "matrix", "learned", "from", "data", "indicating", "the", "interaction", "between", "labels", "After", "learning", "the", "energy", "function", ",", "prediction", "minimizes", "energy", ":", "˜y=", "arg", "min", "y∈˜YEΘ", "(", "x", ",", "y", ")", "(", "2", ")", "The", "ﬁnal", "theoretical", "optimum", "for", "SPEN", "is", "de-", "noted", "by", ":", "min", "Θmax", "Φ", "/", "summationdisplay", "/", "bracketleftbig", "/", "triangle", "(", "MΦ", "(", "xi", ")", ",", "yi", ")", "−", "EΘ", "(", "xi", ",", "MΦ", "(", "xi", ")", ")", "+", "EΘ", "(", "xi", ",", "yi", ")", "/", "bracketrightbig", "+", "(", "3", ")", "where", "[", "a", "]", "+=", "max", "(", "0", ",", "a", ")", ",", "and", "/", "triangle", "(", "˜y", ",", "y", ")", ",", "often", "re-", "ferred", "to", "“", "margin", "-", "rescaled", "”", "structured", "hinge", "loss", ",", "is", "a", "structured", "cost", "function", "that", "returns", "a", "nonneg-", "ative", "value", "indicating", "the", "difference", "between", "the", "predicted", "result", "˜yand", "ground", "truth", "y.3.2", "Problem", "Formulation", "In", "this", "paper", ",", "we", "focus", "on", "ECSP", "tasks", "of", "event", "de-", "tection", "(", "ED", ")", "and", "event", "-", "relation", "extraction", "(", "ERE", ")" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O" ]
[ "ED", "can", "be", "divided", "into", "trigger", "classiﬁcation", "for", "to-", "kens", "and", "event", "classiﬁcation", "for", "sentences" ]	[ "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "denote", "the", "dataset", "by", "D=", "{", "E", ",", "R", ",", "X", "}", "contain-", "ing", "an", "event", "class", "set", "E", ",", "a", "multi", "-", "faceted", "event-", "relation", "setRand", "the", "event", "corpus", "X", ",", "thereinto", ",", "E=", "{", "ei\|i∈", "[", "1", ",", "\|E\|", "]", "}", "contains\|E\|event", "classes", "including", "a", "None", ";", "R=", "{", "ri\|i∈", "[", "1", ",", "\|R\|", "]", "}", "contains", "\|R\|temporal", ",", "causal", ",", "subevent", "and", "coreference", "re-", "lationships", "among", "event", "mentions", "including", "a", "NA", "event", "-", "relation", ";", "X=", "{", "Xi\|i∈", "[", "1", ",", "K", "]", "}", "consists", "of", "Kevent", "mentions", ",", "where", "Xiis", "denoted", "as", "a", "token", "sequence", "x=", "{", "xj\|j∈", "[", "1", ",", "L", "]", "}", "with", "maximum", "Ltokens", "For", "trigger", "classiﬁcation", ",", "the", "goal", "is", "to", "predict", "the", "index", "t", "(", "1≤t≤L", ")", "of", "the", "trigger", "xt", "in", "each", "token", "sequence", "xand", "categorize", "xtinto", "a", "speciﬁc", "event", "class", "ei∈E", "For", "event", "classiﬁca-", "tion", ",", "we", "expect", "to", "predict", "the", "event", "label", "eifor", "each", "event", "mention", "Xi" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "event", "-", "relation", "extraction", ",", "we", "require", "to", "identify", "the", "relation", "ri∈R", "for", "a", "pair", "of", "event", "mentions", "¨X", "/", "angbracketleftij", "/", "angbracketright=", "(", "Xi", ",", "Xj", ")" ]	[ "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "summary", ",", "our", "goal", "is", "to", "design", "an", "ECSP", "modelMΦ", ",", "aiming", "to", "tackle", "the", "tasks", "of", ":", "(", "1", ")", "trig-", "ger", "classiﬁcation", ":", "to", "predict", "the", "token", "label", "˜y=", "MΦ", "(", "x", ")", "for", "the", "token", "list", "x", ";", "(", "2", ")", "event", "classiﬁcation", ":", "to", "predict", "the", "event", "class", "label", "˜Y", "=", "MΦ", "(", "X", ")", "for", "the", "event", "mention", "X", ";", "(", "3", ")", "event", "-", "relation", "extraction", ":", "to", "predict", "the", "event", "-", "relation", "label", "˜z", "=", "MΦ", "(", "¨X", ")", "for", "the", "event", "mention", "pair", "¨X", "3.3", "Model", "Overview", "As", "seen", "in", "Figure", "2", ",", "SPEECH", "combines", "three", "lev-", "els", "of", "energy", ":", "token", ",", "sentence", ",", "as", "well", "as", "docu-", "ment", ",", "and", "they", "respectively", "serve", "for", "three", "kinds", "of", "ECSP", "tasks", ":", "(", "1", ")", "token", "-", "level", "energy", "for", "trigger", "classiﬁcation", ":", "considering", "energy", "-", "based", "modeling", "is", "able", "to", "capture", "long", "-", "range", "dependency", "among", "tokens", "without", "limits", "to", "token", "size", ";", "(", "2", ")", "sentence-", "level", "energy", "for", "event", "classiﬁcation", ":", "considering", "energy", "-", "based", "hyperspheres", "can", "model", "the", "complex", "event", "structures", "and", "represent", "events", "efﬁciently", ";", "and", "(", "3", ")", "document", "-", "level", "energy", "for", "event", "-", "relation", "extraction", ":", "considering", "energy", "-", "based", "modeling", "en-", "ables", "us", "to", "address", "the", "association", "among", "event", "mention", "pairs", "and", "event", "-", "relations" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "leverage", "the", "trigger", "embeddings", "as", "event", "mention", "embeddings", ";", "the", "energy", "-", "based", "hyperspheres", "with", "a", "centroid", "and", "a", "radius", "as", "event", "class", "embeddings", ",", "and", "these", "three", "tasks", "are", "associative", "to", "each", "other.353", "KillingLegal_rulings", "Token", "-", "LevelEnergy", "Sentence", "-", "LevelEnergy", "Document", "-", "LevelEnergy", "[", "CLS", "]", "Davidwasconvictedto25yearsand9monthsinprisonforkillingGlover", "[", "SEP", "]", "[", "PAD", "]", "ℰ+2ℰ+1ℰ+12ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+2ℰ+2", "[", "CLS", "]", "FormerNOPDpoliceofficerDavidWarrenshotandkilledHenryGlover", "[", "SEP", "]", "[", "PAD", "]", "[", "PAD", "]", "[", "PAD", "]", "ℰ+2ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+13ℰ+1ℰ+1ℰ+2ℰ+2ℰ+2ℰ+2", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "𝐶𝐴𝑈𝑆𝐸Energy", "-", "basedhypersphereembeddingwithacentroidandaradiusas", "event", "type", "embedding", "1to", "ℰ", ":", "event", "typesℰ+1", ":", "non", "-", "triggerℰ+2", ":", "padding", "…", "…", "…", "…", "…", "…", "…", "…", "Triggerembeddingas", "event", "mention", "embedding", "(", "Trigger", "Classification", ")", "(", "Event", "Classification", ")", "(", "Event", "Classification", ")", "(", "Event", "-", "Relation", "Extraction", ")", "Figure", "2", ":", "Overview", "of", "S", "PEECH", "with", "examples", ",", "where", "token", "-", "level", "energy", "serves", "for", "event", "trigger", "classiﬁcation", ",", "sentence", "-", "level", "energy", "serves", "for", "event", "classiﬁcation", "and", "document", "-", "level", "energy", "serves", "for", "event", "-", "relation", "extraction", "3.4", "Token", "-", "Level", "Energy", "Token", "-", "level", "energy", "serves", "for", "trigger", "classiﬁcation", "Given", "a", "token", "sequence", "x=", "{", "xj\|j∈", "[", "1", ",", "L", "]", "}", "with", "trigger", "xt", ",", "we", "leverage", "a", "pluggable", "backbone", "en-", "coder", "to", "obtain", "the", "contextual", "representation", "f1", "(", "x", ")", "for", "each", "token", ",", "such", "as", "pre", "-", "trained", "BERT", "(", "Devlin", "et", "al", ",", "2019", ")", ",", "RoBERTa", "(", "Liu", "et", "al", ",", "2019", ")", ",", "Distil-", "BERT", "(", "Sanh", "et", "al", ",", "2019", ")", "and", "so", "on", "We", "then", "pre-", "dict", "the", "label", "˜y", "=", "MΦ", "(", "x", ")", "of", "each", "token", "with", "an", "additional", "linear", "classiﬁer", "Inspired", "by", "SPENs", "for", "sequence", "labeling", "(", "Tu", "and", "Gimpel", ",", "2018", ")", ",", "we", "also", "adopt", "an", "energy", "function", "for", "token", "classiﬁcation" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Energy", "Function", "The", "token", "-", "level", "energy", "func-", "tion", "is", "inherited", "from", "Eq", "(", "1", ")", ",", "deﬁned", "as", ":", "EΘ", "(", "x", ",", "y", ")", "=", "−", "L", "/", "summationdisplay", "n=1\|E\|+2", "/", "summationdisplay", "i=1yi", "n", "/", "parenleftBig", "V", "/", "latticetop", "1", ",", "if1", "(", "xn", ")", "/", "parenrightBig", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "local+L", "/", "summationdisplay", "n=1y", "/", "latticetop", "n−1W1yn", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "label", "", "(", "4", ")", "whereyi", "nis", "theithentry", "of", "the", "vector", "yn∈y", ",", "indicating", "the", "probability", "of", "the", "nthtoken", "xnbe-", "ing", "labeled", "with", "i", "(", "iforei", ",", "\|E\|+1", "for", "non", "-", "trigger", "and\|E\|+2", "for", "padding", "token", ")", "f1", "(", "·", ")", "denotes", "the", "feature", "encoder", "of", "tokens", "Here", "our", "learnable", "pa-", "rameters", "are", "Θ", "=", "(", "V1", ",", "W1", ")", ",", "thereinto", ",", "V1", ",", "i∈Rd", "is", "a", "parameter", "vector", "for", "token", "label", "i", ",", "andW1∈", "R", "(", "\|E\|+2", ")", "×", "(", "\|E\|+2", ")", "contains", "the", "bilinear", "product", "be-", "tweenyn−1andynfor", "token", "label", "pair", "terms" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Loss", "Function", "The", "training", "objective", "for", "trig-", "ger", "classiﬁcation", "is", "denoted", "by", ":", "Ltok=", "/", "summationdisplayL", "i=1", "/", "bracketleftbig", "/", "triangle", "(", "˜yi", ",", "yi", ")", "−EΘ", "(", "xi", ",", "˜yi", ")", "+", "EΘ", "(", "xi", ",", "yi", ")", "/", "bracketrightbig", "+", "+", "µ1LCE", "(", "˜yi", ",", "yi", ")", "(", "5", ")", "where", "˜yiandyirespectively", "denote", "predicted", "re-", "sults", "and", "ground", "truth", "The", "ﬁrst", "half", "of", "Eq", "(", "5", ")", "is", "inherited", "from", "Eq", "(", "3", ")", "for", "the", "energy", "function", ",", "and", "in", "the", "latter", "half", ",", "LCE", "(", "˜yi", ",", "yi", ")", "is", "the", "trigger", "classi-", "ﬁcation", "cross", "entropy", "loss", ",", "and", "µ1is", "its", "ratio", "3.5", "Sentence", "-", "Level", "Energy", "Sentence", "-", "level", "energy", "serves", "for", "event", "classiﬁca-", "tion", "Given", "the", "event", "mention", "Xiwith", "the", "trig-", "gerxt", ",", "we", "utilize", "the", "trigger", "embedding", "f1", "(", "xt", ")", "as", "the", "event", "mention", "embedding", "f2", "(", "X", ")", ",", "where", "f2", "(", "·", ")", "denotes", "the", "feature", "encoder", "of", "event", "men-", "tions", "We", "then", "predict", "the", "class", "of", "each", "event", "men-", "tion", "with", "energy", "-", "based", "hyperspheres", ",", "denoted", "by", "˜Y", "=", "MΦ", "(", "X", ")", "Speciﬁcally", ",", "we", "use", "an", "energy", "-", "based", "hyper-", "sphere", "to", "represent", "each", "event", "class", ",", "and", "assume", "that", "the", "event", "mentions", "of", "each", "event", "class", "should", "distribute", "on", "the", "corresponding", "hypersphere", "with", "the", "lowest", "energy", "We", "then", "calculate", "the", "probability", "of", "the", "event", "mention", "Xcategorizing", "into", "the", "class", "eiwith", "a", "hyperspherical", "measurement", "function", ":", "S", "(", "X", ",", "Pi", ")", "=", "exp−", "[", "/", "bardblPi−f2", "(", "X", ")", "/", "bardbl2−γ", "]", "+", "/", "summationtext\|E\|", "j=1exp−", "[", "/", "bardblPj−f2", "(", "X", ")", "/", "bardbl2−γ", "]", "+", "(", "6", ")", "where", "[", "a", "]", "+=", "max", "(", "0", ",", "a", ")", ",", "Pidenotes", "the", "hyper-", "sphere", "centroid", "embedding", "of", "ei.", "/", "bardbl·", "/", "bardbl", "denotes", "the", "Euclidean", "distance", "γis", "the", "radius", "of", "the", "hyper-", "sphere", ",", "which", "can", "be", "scalable", "or", "constant", "We", "sim-", "ply", "setγ=", "1", "in", "this", "paper", ",", "meaning", "that", "each", "event", "class", "is", "represented", "by", "a", "unit", "hypersphere", "Larger", "S", "(", "X", ",", "Pi", ")", "signiﬁes", "that", "the", "event", "mention", "Xare", "more", "likely", "be", "categorized", "into", "Picorresponding354", "toei", "To", "measure", "the", "energy", "score", "between", "event", "classes", "and", "event", "mentions", ",", "we", "also", "adopt", "an", "en-", "ergy", "function", "for", "event", "classiﬁcation", "Energy", "Function", "The", "sentence", "-", "level", "energy", "function", "is", "inherited", "from", "Eq", "(", "1", ")", ",", "deﬁned", "as", ":", "EΘ", "(", "X", ",", "Y", ")", "=", "−", "\|E\|", "/", "summationdisplay", "i=1Yi", "/", "parenleftBig", "V", "/", "latticetop", "2", ",", "if2", "(", "X", ")", "/", "parenrightBig", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "local+w", "/", "latticetop", "2g", "(", "W2Y", ")", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "label", "", "(", "7", ")", "where", "Yi∈Yindicates", "the", "probability", "of", "the", "event", "mention", "Xbeing", "categorized", "to", "ei", "Here", "our", "learn-", "able", "parameters", "are", "Θ", "=", "(", "V2", ",", "w2", ",", "W2", ")", ",", "thereinto", ",", "V2", ",", "i∈Rdis", "a", "parameter", "vector", "for", "ei", ",", "w2∈R\|E\|", "andW2∈R\|E\|×\|E\|" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O" ]
[ "Loss", "Function", "The", "training", "objective", "for", "event", "classiﬁcation", "is", "denoted", "by", ":", "Lsen=", "/", "summationdisplayK", "i=1", "/", "bracketleftbig", "/", "triangle", "/", "parenleftBig", "˜Yi", ",", "Yi", "/", "parenrightBig", "−EΘ", "/", "parenleftBig", "Xi", ",", "˜Yi", "/", "parenrightBig", "+", "EΘ", "(", "Xi", ",", "Yi", ")", "/", "bracketrightbig", "+", "+", "µ2LCE", "/", "parenleftBig", "˜Yi", ",", "Yi", "/", "parenrightBig", "(", "8", ")", "where", "the", "ﬁrst", "half", "is", "inherited", "from", "Eq", "(", "3", ")", ",", "and", "in", "the", "latter", "half", ",", "LCEis", "a", "cross", "entropy", "loss", "for", "predicted", "results", "˜Yiand", "ground", "truth", "Yi.µ2is", "a", "ratio", "for", "event", "classiﬁcation", "cross", "entropy", "loss", "3.6", "Document", "-", "Level", "Energy", "Document", "-", "level", "energy", "serves", "for", "event", "-", "relation", "extraction", "Given", "event", "mentions", "Xin", "each", "docu-", "ment", ",", "we", "model", "the", "embedding", "interactions", "of", "each", "event", "mention", "pair", "with", "a", "comprehensive", "feature", "vectorf3", "(", "¨X", "/", "angbracketleftij", "/", "angbracketright", ")", "=", "/", "bracketleftbig", "f2", "(", "Xi", ")", ",", "f2", "(", "Xj", ")", ",", "f2", "(", "Xi", ")", "⊙", "f2", "(", "Xj", ")", "/", "bracketrightbig", "We", "then", "predict", "the", "relation", "between", "each", "event", "mention", "pair", "with", "a", "linear", "classiﬁer", ",", "de-", "noted", "by", "˜z", "=", "MΦ", "(", "¨X", ")", "Inspired", "by", "SPENs", "for", "multi", "-", "label", "classiﬁcation", "(", "Tu", "and", "Gimpel", ",", "2018", ")", ",", "we", "also", "adopt", "an", "energy", "function", "for", "ERE" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName" ]
[ "Energy", "Function", "The", "document", "-", "level", "energy", "function", "is", "inherited", "from", "Eq", "(", "1", ")", ",", "deﬁned", "as", ":", "EΘ", "(", "¨X", ",", "z", ")", "=", "−", "\|R\|", "/", "summationdisplay", "i=1zi", "/", "parenleftBig", "V", "/", "latticetop", "3", ",", "if3", "(", "¨X", ")", "/", "parenrightBig", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "local+w", "/", "latticetop", "3g", "(", "W3z", ")", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "label", "", "(", "9", ")", "where", "zi∈zindicates", "the", "probability", "of", "the", "event", "mention", "pair", "¨Xhaving", "the", "relation", "of", "ri", "Here", "our", "learnable", "parameters", "are", "Θ", "=", "(", "V3", ",", "w3", ",", "W3", ")", ",", "thereinto", ",", "V3", ",", "i∈R3dis", "a", "parameter", "vector", "for", "ri", ",", "w3∈R\|R\|andW3∈R\|R\|×\|R\|.Loss", "Function" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O" ]
[ "The", "training", "objective", "for", "event-", "relation", "extraction", "is", "denoted", "by", ":", "Ldoc=", "/", "summationdisplayN", "k=1", "/", "bracketleftBig", "/", "triangle", "(", "˜zk", ",", "zk", ")", "−EΘ", "/", "parenleftBig", "¨Xk", ",", "˜zk", "/", "parenrightBig", "+", "EΘ", "/", "parenleftBig", "¨Xk", ",", "zk", "/", "parenrightBig", "/", "bracketrightBig", "+", "+", "µ3LCE", "(", "˜zk", ",", "zk", ")", "(", "10", ")", "where", "the", "ﬁrst", "half", "is", "inherited", "from", "Eq", "(", "3", ")", ",", "and", "in", "the", "latter", "half", ",", "LCE", "(", "˜zk", ",", "zk", ")", "is", "the", "event", "-", "relation", "extraction", "cross", "entropy", "loss", ",", "µ3is", "its", "ratio", ",", "and", "N", "denotes", "the", "quantity", "of", "event", "mention", "pairs", "Theﬁnal", "training", "loss", "forSPEECHMΦparam-", "eterized", "by", "Φis", "deﬁned", "as", ":", "L", "=", "λ1Ltok+λ2Lsen+λ3Ldoc+", "/", "bardblΦ", "/", "bardbl2", "2", "(", "11", ")", "whereλ1", ",", "λ2", ",", "λ3are", "the", "loss", "ratios", "respectively", "for", "trigger", "classiﬁcation", ",", "event", "classiﬁcation", "and", "event", "-", "relation", "extraction", "tasks", "We", "add", "the", "penalty", "term", "/", "bardblΦ", "/", "bardbl2", "2withL2regularization", "4", "Experiments", "The", "experiments", "refer", "to", "event", "-", "centric", "structured", "prediction", "(", "ECSP", ")", "and", "comprise", "three", "tasks", ":", "(", "1", ")", "Trigger", "Classiﬁcation", ";", "(", "2", ")", "Event", "Classiﬁcation", ";", "and", "(", "3", ")", "Event", "-", "Relation", "Extraction" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]
[ "4.1", "Datasets", "and", "Baselines", "MAVEN", "-ERE", "ONTOEVENT", "-DOC", "#", "Document", "4,480", "4,115", "#", "Mention", "112,276", "60,546", "#", "Temporal", "1,216,217", "5,914", "#", "Causal", "57,992", "14,155", "#", "Subevent", "15,841", "/", "Table", "1", ":", "The", "statistics", "about", "M", "AVEN", "-EREand", "ONTOEVENT", "-DOCused", "in", "this", "paper" ]	[ "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O" ]
[ "Datasets", "Considering", "event", "-", "centric", "structured", "prediction", "tasks", "in", "this", "paper", "require", "ﬁne", "-", "grained", "annotations", "for", "events", ",", "such", "as", "labels", "of", "tokens", ",", "event", "mentions", ",", "and", "event", "-", "relations", ",", "we", "select", "two", "newly", "-", "proposed", "datasets", "meeting", "the", "require-", "ments", ":", "MAVEN", "-ERE", "(", "Wang", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]
[ ",", "2022", ")", "and", "ONTOEVENT", "-DOC", "(", "Deng", "et", "al" ]	[ "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]
[ ",", "2021", ")", "Note", "that", "ONTOEVENT", "-DOCis", "derived", "from", "ONTOEVENT", "(", "Deng", "et", "al" ]	[ "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "O", "O", "O", "O" ]
[ ",", "2021", ")", "which", "is", "formatted", "in", "a", "sen-", "tence", "level", "We", "reorganize", "it", "and", "make", "it", "format", "in", "a", "document", "level", ",", "similar", "to", "MAVEN", "-ERE" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName" ]
[ "Thus", "the", "train", ",", "validation", ",", "and", "test", "sets", "of", "ONTOEVENT", "-", "DOCare", "also", "different", "from", "the", "original", "ONTO-", "EVENT" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName" ]
[ "We", "release", "the", "reconstructed", "dataset", "and355", "ModelMAVEN", "-ERE", "ONTOEVENT", "-DOC", "P", "R", "F1", "P", "R", "F1", "DMCNN†60.09±0.36", "60.34", "±0.45", "60.21", "±0.21", "50.42±0.99", "52.24", "±0.46", "51.31", "±0.39", "BiLSTM", "-", "CRF†61.30±1.07", "64.95", "±1.03", "63.06", "±0.23", "48.86±0.81", "55.91", "±0.56", "52.10", "±0.43", "DMBERT†56.79±0.54", "76.24", "±0.26", "65.09", "±0.32", "53.82±1.01", "66.12", "±1.02", "59.32", "±0.24", "BERT", "-", "CRF†62.79±0.34", "70.51", "±0.94", "65.73", "±0.57", "52.18±0.81", "62.31", "±0.45", "56.80", "±0.53", "MLBiNet‡63.50±0.57", "63.80", "±0.47", "63.60", "±0.52", "56.09±0.93", "57.67", "±0.81", "56.87", "±0.87", "TANL‡68.66±0.18", "63.79", "±0.19", "66.13", "±0.15", "57.73±0.65", "59.93", "±0.31", "59.13", "±0.52", "TEXT2EVENT‡59.91±0.83", "64.62", "±0.65", "62.16", "±0.25", "52.93±0.94", "62.27", "±0.49", "57.22", "±0.75", "CorED", "-", "BERT‡67.62±1.03", "69.49", "±0.63", "68.49", "±0.42", "60.27±0.55", "62.25", "±0.66", "61.25", "±0.19", "SPEECH", "78.82±0.82", "79.37±0.75", "79.09±0.82", "74.67±0.58", "74.73±0.62", "74.70±0.58", "w", "/", "o", "energy", "76.12±0.32", "76.66", "±0.25", "76.38", "±0.28", "71.76±0.38", "72.17", "±0.39", "71.96", "±0.38", "Table", "2", ":", "Performance", "(", "%", ")", "of", "trigger", "classiﬁcation", "on", "M", "AVEN", "-EREvalid", "set", "and", "O", "NTOEVENT", "-DOCtest", "set", ".†", ":", "re-", "sults", "are", "produced", "with", "codes", "referred", "to", "Wang", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2020b", ")", ";", "‡", ":", "results", "are", "produced", "with", "ofﬁcial", "implementation", "Best", "results", "are", "marked", "in", "bold", ",", "and", "the", "second", "best", "results", "are", "underlined", "code", "in", "Github1for", "reproduction", "To", "simplify", "the", "experiment", "settings", ",", "we", "dismiss", "hierarchical", "rela-", "tions", "of", "ONTOEVENT", "and", "coreference", "relations", "of", "MAVEN", "-EREin", "this", "paper" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O" ]
[ "More", "details", "of", "multi-", "faceted", "event", "-", "relations", "of", "these", "two", "datasets", "are", "introduced", "in", "Appendix", "A", "and", "Github", "We", "present", "the", "statistics", "about", "these", "two", "datasets", "in", "Table", "1", "The", "document", "quantity", "for", "train", "/", "valid", "/", "test", "set", "of", "MAVEN", "-EREandONTOEVENT", "are", "respectively", "2,913", "/", "710", "/", "857", ",", "and", "2,622", "/", "747", "/", "746" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Baselines", "For", "trigger", "classiﬁcation", "and", "event", "classiﬁcation", ",", "we", "adopt", "models", "aggregated", "dy-", "namic", "multi", "-", "pooling", "mechanism", ",", "i.e.", ",", "DMCNN", "(", "Chen", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]
[ ",", "2015", ")", "and", "DMBERT", "(", "Wang", "et", "al" ]	[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]
[ ",", "2019", ")", ";", "sequence", "labeling", "models", "with", "conditional", "random", "ﬁeld", "(", "CRF", ")", "(", "Lafferty", "et", "al", ",", "2001", ")", ",", "i.e.", ",", "BiLSTM", "-", "CRF", "and", "BERT", "-", "CRF", ";", "generative", "ED", "models", ",", "i.e.", ",", "TANL", "(", "Paolini", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]
[ ",", "2021", ")", "and", "TEXT2EVENT", "(", "Lu", "et", "al" ]	[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]
[ ",", "2021", ")", "We", "also", "adopt", "some", "ED", "models", "considering", "document", "-", "level", "as-", "sociations", ",", "i.e.", ",", "MLBiNet", "(", "Lou", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]
[ ",", "2021", ")", "and", "CorED", "-", "BERT", "(", "Sheng", "et", "al" ]	[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O" ]
[ ",", "2022", ")", "Besides", ",", "we", "compare", "our", "energy", "-", "based", "hyperspheres", "with", "the", "vanilla", "hyperspherical", "prototype", "network", "(", "HPN", ")", "(", "Mettes", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O" ]
[ ",", "2019", ")", "and", "prototype", "-", "based", "model", "OntoED", "(", "Deng", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]
[ ",", "2021", ")", "Note", "that", "unlike", "vanilla", "HPN", "(", "Mettes", "et", "al", ",", "2019", ")", "which", "represents", "all", "classes", "on", "one", "hypersphere", ",", "the", "HPN", "adopted", "in", "this", "paper", "represents", "each", "class", "with", "a", "distinct", "hypersphere" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "event", "-", "relation", "extraction", ",", "we", "se-", "lect", "RoBERTa", "(", "Liu", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]
[ ",", "2019", ")", ",", "which", "is", "the", "same", "baseline", "used", "in", "MAVEN", "-ERE", "(", "Wang", "et", "al", ",", "2022", ")", ",", "and", "also", "serves", "as", "the", "backbone", "for", "most", "of", "recent", "ERE", "models", "(", "Hwang", "et", "al", ",", "2022", ";", "Man", "et", "al", ",", "2022", ")", "1https", ":", "/", "/", "github.com", "/", "zjunlp", "/", "SPEECH.4.2", "Implementation", "Details", "With", "regard", "to", "settings", "of", "the", "training", "process", ",", "Adam", "(", "Kingma", "and", "Ba", ",", "2015", ")", "optimizer", "is", "used", ",", "with", "the", "learning", "rate", "of", "5e-5", "The", "maximum", "length", "Lof", "a", "token", "sequence", "is", "128", ",", "and", "the", "maximum", "quantity", "of", "event", "mentions", "in", "one", "document", "is", "set", "to", "40", "for", "MAVEN", "-EREand", "50", "for", "ONTOEVENT", "-", "DOC" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName" ]
[ "The", "loss", "ratios", ",", "µ1", ",", "µ2", ",", "µ3", ",", "for", "token", ",", "sen-", "tence", "and", "document", "-", "level", "energy", "function", "are", "all", "set", "to", "1", "The", "value", "of", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", ",", "for", "trigger", "classiﬁcation", ",", "event", "classiﬁcation", "and", "event-", "relation", "extraction", "depends", "on", "different", "tasks", ",", "and", "we", "introduce", "them", "in", "Appendix", "B", "We", "evaluate", "the", "performance", "of", "ED", "and", "ERE", "with", "micro", "precision", "(", "P", ")", ",", "Recall", "(", "R", ")", "and", "F1", "Score", "(", "F1", ")" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricValue", "O" ]
[ "4.3", "Event", "Trigger", "Classiﬁcation", "We", "present", "details", "of", "event", "trigger", "classiﬁcation", "experiment", "settings", "in", "Appendix", "B.1", "As", "seen", "from", "the", "results", "in", "Table", "2", ",", "SPEECH", "demonstrates", "supe-", "rior", "performance", "over", "all", "baselines", ",", "notably", "MLBi-", "Net", "(", "Lou", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O" ]
[ ",", "2021", ")", "and", "CorED", "-", "BERT", "(", "Sheng", "et", "al" ]	[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O" ]
[ ",", "2022", ")", ",", "even", "if", "these", "two", "models", "consider", "cross", "-", "sentence", "semantic", "information", "or", "incorpo-", "rate", "type", "-", "level", "and", "instance", "-", "level", "correlations", "The", "main", "reason", "may", "be", "due", "to", "the", "energy", "-", "based", "nature", "ofSPEECH" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName" ]
[ "As", "seen", "from", "the", "last", "row", "of", "Table", "2", ",", "the", "removal", "of", "energy", "functions", "from", "SPEECH", "can", "result", "in", "a", "performance", "decrease" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O" ]
[ "Speciﬁcally", "for", "trigger", "classiﬁcation", ",", "energy", "-", "based", "modeling", "en-", "ables", "capture", "long", "-", "range", "dependency", "of", "tokens", "and", "places", "no", "limits", "on", "the", "size", "of", "event", "structures", "In", "addition", ",", "SPEECH", "also", "excels", "generative", "models", ",", "i.e.", ",", "TANL", "(", "Paolini", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ ",", "2021", ")", "and", "TEXT2EVENT", "(", "Lu", "et", "al", ",", "2021", ")", ",", "thereby", "demonstrating", "the", "efﬁcacy", "of", "energy", "-", "based", "modeling.356", "ModelMAVEN", "-ERE", "ONTOEVENT", "-DOC", "P", "R", "F1", "P", "R", "F1", "DMCNN", "61.74±0.32", "63.11", "±0.34", "62.42", "±0.15", "51.52±0.87", "52.84", "±0.61", "52.02", "±0.36", "DMBERT", "59.45±0.48", "77.77±0.21", "67.39", "±0.25", "57.06±1.04", "72.97±1.11", "65.03±0.45", "HPN", "62.80±0.72", "62.62", "±0.99", "62.71", "±0.85", "61.18±0.81", "60.88", "±0.79", "61.03", "±0.81", "OntoED", "67.82±1.70", "67.72", "±1.52", "67.77", "±1.61", "64.32±1.15", "64.16", "±1.31", "64.25", "±1.22", "TANL", "68.73±0.16", "65.65", "±0.63", "67.15", "±0.29", "60.34±0.71", "62.52", "±0.43", "61.42", "±0.51", "TEXT2EVENT", "61.14±0.80", "65.93", "±0.69", "63.44", "±0.19", "56.76±0.97", "66.78", "±0.48", "61.36", "±0.77", "SPEECH", "72.91±0.76", "72.81", "±0.76", "72.86±0.77", "58.92±0.96", "58.45", "±1.08", "58.69", "±1.40", "w", "/", "o", "energy", "71.22±0.58", "71.07", "±0.45", "71.12", "±0.45", "56.12±1.87", "55.69", "±1.66", "55.91", "±1.76", "Table", "3", ":", "Performance", "(", "%", ")", "of", "event", "classiﬁcation", "on", "M", "AVEN", "-EREvalid", "set", "and", "O", "NTOEVENT", "-DOCtest", "set", "4.4", "Event", "Classiﬁcation", "The", "speciﬁcs", "of", "event", "classiﬁcation", "experiment", "set-", "tings", "are", "elaborated", "in", "Appendix", "B.2", ",", "with", "results", "illustrated", "in", "Table", "3", "We", "can", "observe", "that", "SPEECH", "provides", "considerable", "advantages", "on", "MAVEN", "-ERE", ",", "while", "the", "performance", "on", "ONTOEVENT", "-DOCis", "not", "superior", "enough" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O" ]
[ "ONTOEVENT", "-DOCcontains", "overlapping", "where", "multiple", "event", "classes", "may", "ex-", "ist", "in", "the", "same", "event", "mention", ",", "which", "could", "be", "the", "primary", "reason", "for", "SPEECH", "not", "performing", "well", "enough", "in", "this", "case" ]	[ "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]
[ "This", "impact", "could", "be", "exacer-", "bated", "when", "joint", "training", "with", "other", "ECSP", "tasks" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]
[ "Upon", "comparison", "with", "prototype", "-", "based", "methods", "without", "energy", "-", "based", "modeling", ",", "i.e.", ",", "HPN", "(", "Mettes", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]
[ ",", "2019", ")", "and", "OntoED", "(", "Deng", "et", "al" ]	[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]
[ ",", "2021", ")", ",", "SPEECH", "is", "still", "dominant", "on", "MAVEN", "-ERE", ",", "despite", "HPN", "represents", "classes", "with", "hyperspheres", "and", "On-", "toED", "leverages", "hyperspheres", "integrated", "with", "event-", "relation", "semantics" ]	[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O" ]
[ "If", "we", "exclude", "energy", "functions", "from", "SPEECH", ",", "performance", "will", "degrade", ",", "as", "seen", "from", "the", "last", "row", "in", "Table", "3" ]	[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "This", "insight", "sug-", "gests", "that", "energy", "functions", "contribute", "positively", "to", "event", "classiﬁcation", ",", "which", "enable", "the", "model", "to", "directly", "capture", "complicated", "dependency", "be-", "tween", "event", "mentions", "and", "event", "types", ",", "instead", "of", "implicitly", "inferring", "from", "data", "Besides", ",", "SPEECH", "also", "outperforms", "generative", "models", "like", "TANL", "and", "TEXT2EVENT", "onMAVEN", "-ERE", ",", "indicating", "the", "su-", "periority", "of", "energy", "-", "based", "hyperspherical", "modeling" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "4.5", "Event", "-", "Relation", "Extraction", "We", "present", "the", "speciﬁcs", "of", "event", "-", "relation", "extrac-", "tion", "experiment", "settings", "in", "Appendix", "B.3", "As", "seen", "from", "the", "results", "in", "Table", "4", ",", "SPEECH", "achieves", "dif-", "ferent", "performance", "across", "the", "two", "ERE", "datasets" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "OnONTOEVENT", "-DOCdataset", ",", "SPEECH", "observ-", "ably", "outperforms", "RoBERTa", "on", "all", "ERE", "sub-", "tasks", ",", "demonstrating", "the", "effectiveness", "of", "SPEECH", "equipped", "with", "energy", "-", "based", "hyperspheres", ",", "so", "that", "SPEECH", "can", "capture", "the", "dependency", "among", "eventERE", "Task", "RoBERTa", "SPEECH", "TemporalMAVEN", "-ERE", "49.21±0.33", "39.64±0.79", "+", "joint", "49.91±0.58", "40.23±0.34", "ONTOEVENT", "-DOC", "37.68±0.47", "52.36±0.71", "+", "joint", "35.63±0.70", "65.69±0.39", "CausalMAVEN", "-ERE", "29.91±0.34", "16.28±0.53", "+", "joint", "29.03±0.91", "16.31±0.97", "ONTOEVENT", "-DOC", "35.48±1.77", "79.29±2.15", "+", "joint", "44.99±0.29", "67.76±1.28", "SubeventMAVEN", "-ERE", "19.80±0.44", "19.91±0.52", "+", "joint", "19.14±2.81", "21.96±1.24", "All", "JointMAVEN", "-ERE", "34.79±1.13", "37.85±0.72", "ONTOEVENT", "-DOC", "28.60±0.13", "54.19±2.28", "Table", "4", ":", "F1", "(", "%", ")", "performance", "of", "ERE", "on", "M", "AVEN", "-ERE", "valid", "set", "and", "O", "NTOEVENT", "-DOCtest", "set" ]	[ "B-TaskName", "I-TaskName", "O", "B-MethodName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "“", "+", "joint", "”", "in", "the", "2", "ndcolumn", "denotes", "jointly", "training", "on", "all", "ERE", "tasks", "and", "evaluating", "on", "the", "speciﬁc", "one", ",", "with", "the", "same", "setting", "as", "Wang", "et", "al", "(", "2022", ")", "“", "All", "Joint", "”", "in", "the", "last", "two", "rows", "denotes", "treating", "all", "ERE", "tasks", "as", "one", "task" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O" ]
[ "mention", "pairs", "and", "event", "-", "relation", "labels", "While", "on", "MAVEN", "-ERE", ",", "SPEECH", "signiﬁcantly", "outperforms", "RoBERTa", "on", "ERE", "subtasks", "referring", "to", "subevent", "relations", "or", "trained", "on", "all", "event", "-", "relations", ",", "but", "fails", "to", "exceed", "RoBERTa", "on", "ERE", "subtasks", "referring", "to", "temporal", "and", "causal", "relations" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "B-MethodName", "O", "O", "B-MethodName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "possible", "reason", "is", "that", "MAVEN", "-EREcontains", "less", "positive", "event-", "relations", "than", "negative", "NA", "relations" ]	[ "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Given", "that", "SPEECH", "models", "all", "these", "relations", "equivalently", "with", "the", "energy", "function", ",", "it", "becomes", "challenging", "to", "classify", "NA", "effectively" ]	[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "But", "this", "issue", "will", "be", "markedly", "improved", "if", "the", "quantity", "of", "positive", "event-", "relations", "decreases", ",", "since", "SPEECH", "performs", "better", "on", "subevent", "relations", "despite", "MAVEN", "-EREhav-", "ing", "much", "less", "subevent", "relations", "than", "temporal", "and", "causal", "ones", "as", "shown", "in", "Table", "1" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Furthermore", ",", "even", "though", "ONTOEVENT", "-DOCcontaining", "fewer", "posi-", "tive", "event", "-", "relations", "than", "NA", "overall", ",", "SPEECH", "still", "performs", "well" ]	[ "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O" ]
[ "These", "results", "suggest", "that", "SPEECH", "excels", "in", "modeling", "classes", "with", "fewer", "samples" ]	[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]
[ "Note", "that", "SPEECH", "also", "performs", "well", "when", "train-", "ing", "on", "all", "event", "-", "relations", "(", "“", "All", "Joint", "”", ")", "of", "the", "two", "datasets", ",", "indicating", "that", "SPEECH", "is", "still", "advanta-", "geous", "in", "the", "scenario", "with", "more", "classes.357", "5", "Further", "Analysis", "5.1", "Analysis", "On", "Energy", "-", "Based", "Modeling", "We", "list", "some", "values", "of", "energy", "loss", "deﬁned", "in", "Eq", "(", "5", ")", ",", "(", "8", ")", "and", "(", "10", ")", "when", "training", "respectively", "for", "token", ",", "sentence", "and", "document", ",", "as", "presented", "in", "Figure", "3" ]	[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "values", "of", "token", "-", "level", "energy", "loss", "are", "observ-", "ably", "larger", "than", "those", "at", "the", "sentence", "and", "document", "levels", "This", "can", "be", "attributed", "to", "the", "fact", "that", "the", "en-", "ergy", "loss", "is", "related", "to", "the", "quantity", "of", "samples", ",", "and", "a", "single", "document", "typically", "contains", "much", "more", "tokens", "than", "sentences", "or", "sentence", "pairs", "All", "three", "levels", "of", "energy", "loss", "exhibit", "a", "gradual", "decrease", "over", "the", "course", "of", "training", ",", "indicating", "that", "SPEECH", ",", "through", "energy", "-", "based", "modeling", ",", "effectively", "mini-", "mizes", "the", "discrepancy", "between", "predicted", "results", "and", "ground", "truth" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "energy", "functions", "for", "token", ",", "sentence", "and", "document", "deﬁned", "in", "Eq", "(", "4", ")", ",", "(", "7", ")", "and", "(", "9", ")", ",", "reﬂect", "that", "the", "implementation", "of", "energy", "-", "based", "modeling", "in", "SPEECH", "is", "geared", "towards", "enhanc-", "ing", "compatibility", "between", "input", "/", "output", "pairs" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "gradually", "-", "decreasing", "energy", "loss", "demonstrates", "that", "SPEECH", "can", "model", "intricate", "event", "structures", "at", "the", "token", ",", "sentence", ",", "and", "document", "levels", "through", "energy", "-", "based", "optimization", ",", "thereby", "improving", "the", "outcomes", "of", "structured", "prediction" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "0", "5", "10", "15", "200255075100125150175200Loss", "for", "Energy", "token", "-", "level", "0", "5", "10", "15", "20", "Iteration", "Step02468Loss", "for", "Energy", "sentence", "-", "level", "document", "-", "level", "Figure", "3", ":", "Illustration", "of", "loss", "for", "energy", "5.2", "Case", "Study", ":", "Energy", "-", "Based", "Hyperspheres", "As", "seen", "in", "Figure", "4", ",", "we", "visualize", "the", "event", "class", "embedding", "of", "“", "Attack", "”", "and", "20", "event", "mention", "embeddings", "as", "generated", "by", "both", "SPEECH", "and", "SPEECH", "without", "energy", "functions" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O" ]
[ "We", "observe", "thatforSPEECH", "with", "energy", "-", "based", "modelling", ",", "the", "instances", "lie", "near", "the", "surface", "of", "the", "correspond-", "ing", "hypersphere", ",", "while", "they", "are", "more", "scattered", "when", "not", "equipped", "with", "energy", "-", "based", "modeling", ",", "which", "subsequently", "diminishes", "the", "performance", "of", "event", "classiﬁcation", "This", "observation", "suggests", "that", "SPEECH", "derives", "signiﬁcant", "beneﬁts", "from", "modeling", "with", "energy", "-", "based", "hyperspheres" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "visualiza", "-", "tion", "results", "further", "demonstrate", "the", "effectiveness", "of", "SPEECH", "equipped", "with", "energy", "-", "based", "modeling" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O" ]
[ "1.00", "0.75", "0.50", "0.25", "0.00", "0.25", "0.50", "0.75", "1.001.00", "0.75", "0.50", "0.25", "0.000.250.500.751.001.0", "0.5", "0.00.51.0", "SPEECH", "SPEECH", "w", "/", "o", "energy", "Figure", "4", ":", "Visualization", "of", "an", "example", "event", "class" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "5.3", "Error", "Analysis", "We", "further", "conduct", "error", "analysis", "by", "a", "retrospection", "of", "experimental", "results", "and", "datasets", "(", "1", ")", "One", "typi-", "cal", "error", "relates", "to", "the", "unbalanced", "data", "distribution", "Considering", "every", "event", "type", "and", "event", "-", "relation", "contain", "different", "amount", "of", "instances", ",", "uniﬁed", "mod-", "eling", "with", "energy", "-", "based", "hyperspheres", "may", "not", "al-", "ways", "be", "impactful", "(", "2", ")", "The", "second", "error", "relates", "to", "the", "overlapping", "event", "mentions", "among", "event", "types", ",", "meaning", "that", "the", "same", "sentence", "may", "mention", "mul-", "tiple", "event", "types", "As", "ONTOEVENT", "-DOCcontains", "many", "overlappings", ",", "it", "might", "be", "the", "reason", "for", "its", "mediocre", "performance", "on", "ED" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName" ]
[ "(", "3", ")", "The", "third", "error", "relates", "to", "associations", "with", "event", "-", "centric", "structured", "prediction", "tasks", "As", "trigger", "classiﬁcation", "is", "closely", "related", "to", "event", "classiﬁcation", ",", "wrong", "prediction", "of", "tokens", "will", "also", "inﬂuence", "classifying", "events", "6", "Conclusion", "and", "Future", "Work", "In", "this", "paper", ",", "we", "propose", "a", "novel", "approach", "entitled", "SPEECH", "to", "tackle", "event", "-", "centric", "structured", "predic-", "tion", "with", "energy", "-", "based", "hyperspheres" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "represent", "event", "classes", "as", "hyperspheres", "with", "token", ",", "sentence", "and", "document", "-", "level", "energy", ",", "respectively", "for", "trigger", "classiﬁcation", ",", "event", "classiﬁcation", "and", "event", "rela-", "tion", "extraction", "tasks", "We", "evaluate", "SPEECH", "on", "two", "event", "-", "centric", "structured", "prediction", "datasets", ",", "and", "experimental", "results", "demonstrate", "that", "SPEECH", "is", "able", "to", "model", "manifold", "event", "structures", "with", "depen-", "dency", "and", "obtain", "effective", "event", "representations" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "the", "future", ",", "we", "intend", "to", "enhance", "our", "work", "by", "mod-", "eling", "more", "complicated", "structures", "and", "extend", "it", "to", "other", "structured", "prediction", "tasks.358", "Acknowledgements", "We", "would", "like", "to", "express", "gratitude", "to", "the", "anony-", "mous", "reviewers", "for", "their", "kind", "comments", "This", "work", "was", "supported", "by", "the", "Zhejiang", "Provin-", "cial", "Natural", "Science", "Foundation", "of", "China", "(", "No", "LGG22F030011", ")", ",", "Yongjiang", "Talent", "Introduction", "Programme", "(", "2021A-156", "-", "G", ")", ",", "CAAI", "-", "Huawei", "Mind-", "Spore", "Open", "Fund", ",", "and", "NUS", "-", "NCS", "Joint", "Laboratory", "(", "A-0008542", "-", "00", "-", "00", ")", "Limitations", "Although", "SPEECH", "performs", "well", "on", "event", "-", "centric", "structured", "prediction", "tasks", "in", "this", "paper", ",", "it", "still", "has", "some", "limitations" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "ﬁrst", "limitation", "relates", "to", "efﬁciency", "As", "SPEECH", "involves", "many", "tasks", "and", "requires", "complex", "calculation", ",", "the", "training", "pro-", "cess", "is", "not", "very", "prompt" ]	[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "second", "limitation", "relates", "to", "robustness", "As", "seen", "in", "the", "experimen-", "tal", "analysis", "in§4.5", ",", "SPEECH", "seems", "not", "always", "robust", "to", "unevenly", "-", "distributed", "data" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "third", "limitation", "relates", "to", "universality", "Not", "all", "event-", "centric", "structured", "prediction", "tasks", "can", "simultane-", "ously", "achieve", "the", "best", "performance", "at", "the", "same", "settings", "of", "S", "PEECH" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName" ]
[ "References", "David", "Belanger", "and", "Andrew", "McCallum", "2016", "Struc-", "tured", "prediction", "energy", "networks", "In", "ICML", ",", "vol-", "ume", "48", "of", "JMLR", "Workshop", "and", "Conference", "Pro-", "ceedings", ",", "pages", "983–992", "JMLR.org", "David", "Belanger", ",", "Bishan", "Yang", ",", "and", "Andrew", "McCallum", "2017", "End", "-", "to", "-", "end", "learning", "for", "structured", "prediction", "energy", "networks", "In", "ICML", ",", "volume", "70", "of", "Proceed-", "ings", "of", "Machine", "Learning", "Research", ",", "pages", "429–439", "PMLR", "Yubo", "Chen", ",", "Liheng", "Xu", ",", "Kang", "Liu", ",", "Daojian", "Zeng", ",", "and", "Jun", "Zhao", "2015", "Event", "extraction", "via", "dynamic", "multi-", "pooling", "convolutional", "neural", "networks", "In", "ACL", "(", "1", ")", ",", "pages", "167–176", "The", "Association", "for", "Computer", "Lin-", "guistics", "Shiyao", "Cui", ",", "Bowen", "Yu", ",", "Tingwen", "Liu", ",", "Zhenyu", "Zhang", ",", "Xuebin", "Wang", ",", "and", "Jinqiao", "Shi", "2020", "Edge-", "enhanced", "graph", "convolution", "networks", "for", "event", "de-", "tection", "with", "syntactic", "relation", "In", "EMNLP", "(", "Find-", "ings", ")", ",", "pages", "2329–2339", "Association", "for", "Computa-", "tional", "Linguistics", "Shumin", "Deng", ",", "Ningyu", "Zhang", ",", "Hui", "Chen", ",", "Chuanqi", "Tan", ",", "Fei", "Huang", ",", "Changliang", "Xu", ",", "and", "Huajun", "Chen", "2022", "Low", "-", "resource", "extraction", "with", "knowledge-", "aware", "pairwise", "prototype", "learning", "Knowl", "Based", "Syst", ",", "235:107584.Shumin", "Deng", ",", "Ningyu", "Zhang", ",", "Jiaojian", "Kang", ",", "Yichi", "Zhang", ",", "Wei", "Zhang", ",", "and", "Huajun", "Chen", "2020", "Meta-", "learning", "with", "dynamic", "-", "memory", "-", "based", "prototypical", "network", "for", "few", "-", "shot", "event", "detection", "In", "WSDM", ",", "pages", "151–159", "ACM", "Shumin", "Deng", ",", "Ningyu", "Zhang", ",", "Luoqiu", "Li", ",", "Hui", "Chen", ",", "Huaixiao", "Tou", ",", "Mosha", "Chen", ",", "Fei", "Huang", ",", "and", "Hua-", "jun", "Chen", "2021", "Ontoed", ":", "Low", "-", "resource", "event", "detec-", "tion", "with", "ontology", "embedding", "In", "ACL", "/", "IJCNLP", "(", "1", ")", ",", "pages", "2828–2839", "Association", "for", "Computational", "Linguistics", "Jacob", "Devlin", ",", "Ming", "-", "Wei", "Chang", ",", "Kenton", "Lee", ",", "and", "Kristina", "Toutanova", "2019", "BERT", ":", "pre", "-", "training", "of", "deep", "bidirectional", "transformers", "for", "language", "under-", "standing", "In", "NAACL", "-", "HLT", "(", "1", ")", ",", "pages", "4171–4186", "As-", "sociation", "for", "Computational", "Linguistics", "Ning", "Ding", ",", "Xiaobin", "Wang", ",", "Yao", "Fu", ",", "Guangwei", "Xu", ",", "Rui", "Wang", ",", "Pengjun", "Xie", ",", "Ying", "Shen", ",", "Fei", "Huang", ",", "Hai", "-", "Tao", "Zheng", ",", "and", "Rui", "Zhang", "2021", "Prototypical", "repre-", "sentation", "learning", "for", "relation", "extraction", "In", "ICLR", "OpenReview.net", "Xinya", "Du", "and", "Claire", "Cardie", "2020", "Event", "extraction", "by", "answering", "(", "almost", ")", "natural", "questions", "In", "EMNLP", "(", "1", ")", ",", "pages", "671–683", "Association", "for", "Computational", "Linguistics", "Rujun", "Han", ",", "Yichao", "Zhou", ",", "and", "Nanyun", "Peng", "2020", "Do-", "main", "knowledge", "empowered", "structured", "neural", "net", "for", "end", "-", "to", "-", "end", "event", "temporal", "relation", "extraction", "InEMNLP", "(", "1", ")", ",", "pages", "5717–5729", "Association", "for", "Computational", "Linguistics", "I", "-", "Hung", "Hsu", ",", "Kuan", "-", "Hao", "Huang", ",", "Elizabeth", "Boschee", ",", "Scott", "Miller", ",", "Prem", "Natarajan", ",", "Kai", "-", "Wei", "Chang", ",", "and", "Nanyun", "Peng", "2022", "DEGREE", ":", "A", "data-", "efﬁcient", "generation", "-", "based", "event", "extraction", "model", "InNAACL", "-", "HLT", ",", "pages", "1890–1908", "Association", "for", "Computational", "Linguistics", "EunJeong", "Hwang", ",", "Jay", "-", "Yoon", "Lee", ",", "Tianyi", "Yang", ",", "Dhru-", "vesh", "Patel", ",", "Dongxu", "Zhang", ",", "and", "Andrew", "McCallum", "2022", "Event", "-", "event", "relation", "extraction", "using", "proba-", "bilistic", "box", "embedding", "In", "ACL", "(", "2", ")", ",", "pages", "235–244", "Association", "for", "Computational", "Linguistics", "Abhyuday", "Jagannatha", "and", "Hong", "Yu", "2016", "Structured", "prediction", "models", "for", "RNN", "based", "sequence", "labeling", "in", "clinical", "text", "In", "EMNLP", ",", "pages", "856–865", "The", "As-", "sociation", "for", "Computational", "Linguistics", "Diederik", "P", "Kingma", "and", "Jimmy", "Ba", "2015", "Adam", ":", "A", "method", "for", "stochastic", "optimization", "In", "ICLR", "(", "Poster", ")", "Julia", "Kreutzer", ",", "Stefan", "Riezler", ",", "and", "Carolin", "Lawrence", "2021", "Ofﬂine", "reinforcement", "learning", "from", "human", "feedback", "in", "real", "-", "world", "sequence", "-", "to", "-", "sequence", "tasks", "InSPNLP", "@", "ACL", "-", "IJCNLP", ",", "pages", "37–43", "Associa-", "tion", "for", "Computational", "Linguistics.359", "Julia", "Kreutzer", ",", "Artem", "Sokolov", ",", "and", "Stefan", "Riezler", "2017", "Bandit", "structured", "prediction", "for", "neural", "sequence", "-", "to", "-", "sequence", "learning", "In", "ACL", "(", "1", ")", ",", "pages", "1503–1513", "Association", "for", "Computational", "Linguis-", "tics", "John", "D", "Lafferty", ",", "Andrew", "McCallum", ",", "and", "Fernando", "C", "N", "Pereira", "2001", "Conditional", "random", "ﬁelds", ":", "Probabilistic", "models", "for", "segmenting", "and", "labeling", "se-", "quence", "data", "In", "ICML", ",", "pages", "282–289", "Morgan", "Kaufmann", "Viet", "Dac", "Lai", ",", "Franck", "Dernoncourt", ",", "and", "Thien", "Huu", "Nguyen", "2021", "Learning", "prototype", "representations", "across", "few", "-", "shot", "tasks", "for", "event", "detection", "In", "EMNLP", "(", "1", ")", ",", "pages", "5270–5277", "Association", "for", "Computa-", "tional", "Linguistics", "Viet", "Dac", "Lai", ",", "Tuan", "Ngo", "Nguyen", ",", "and", "Thien", "Huu", "Nguyen", "2020", "Event", "detection", ":", "Gate", "diversity", "and", "syntactic", "importance", "scores", "for", "graph", "convolution", "neural", "networks", "In", "EMNLP", "(", "1", ")", ",", "pages", "5405–5411", "Association", "for", "Computational", "Linguistics", "Yann", "Lecun", ",", "Sumit", "Chopra", ",", "Raia", "Hadsell", ",", "Marc", "Aure-", "lio", "Ranzato", ",", "and", "Fu", "Jie", "Huang", "2006", "A", "tutorial", "on", "energy", "-", "based", "learning", "Predicting", "structured", "data", "Manling", "Li", ",", "Qi", "Zeng", ",", "Ying", "Lin", ",", "Kyunghyun", "Cho", ",", "Heng", "Ji", ",", "Jonathan", "May", ",", "Nathanael", "Chambers", ",", "and", "Clare", "R", "V", "oss", "2020", "Connecting", "the", "dots", ":", "Event", "graph", "schema", "induction", "with", "path", "language", "modeling", "In", "EMNLP", "(", "1", ")", ",", "pages", "684–695", "Association", "for", "Com-", "putational", "Linguistics", "Qi", "Li", ",", "Heng", "Ji", ",", "and", "Liang", "Huang", "2013", "Joint", "event", "extraction", "via", "structured", "prediction", "with", "global", "fea-", "tures", "In", "ACL", "(", "1", ")", ",", "pages", "73–82", "The", "Association", "for", "Computer", "Linguistics", "Ying", "Lin", ",", "Heng", "Ji", ",", "Fei", "Huang", ",", "and", "Lingfei", "Wu", "2020", "A", "joint", "neural", "model", "for", "information", "extraction", "with", "global", "features", "In", "ACL", ",", "pages", "7999–8009", "Associa-", "tion", "for", "Computational", "Linguistics", "Jian", "Liu", ",", "Yubo", "Chen", ",", "Kang", "Liu", ",", "Wei", "Bi", ",", "and", "Xiaojiang", "Liu", "2020a", "Event", "extraction", "as", "machine", "reading", "comprehension", "In", "EMNLP", "(", "1", ")", ",", "pages", "1641–1651", "Association", "for", "Computational", "Linguistics", "Kang", "Liu", ",", "Yubo", "Chen", ",", "Jian", "Liu", ",", "Xinyu", "Zuo", ",", "and", "Jun", "Zhao", "2020b", "Extracting", "events", "and", "their", "relations", "from", "texts", ":", "A", "survey", "on", "recent", "research", "progress", "and", "challenges", "AI", "Open", ",", "1:22–39", "Yinhan", "Liu", ",", "Myle", "Ott", ",", "Naman", "Goyal", ",", "Jingfei", "Du", ",", "Man-", "dar", "Joshi", ",", "Danqi", "Chen", ",", "Omer", "Levy", ",", "Mike", "Lewis", ",", "Luke", "Zettlemoyer", ",", "and", "Veselin", "Stoyanov", "2019", "Roberta", ":", "A", "robustly", "optimized", "BERT", "pretraining", "ap-", "proach", "CoRR", ",", "abs", "/", "1907.11692", "Dongfang", "Lou", ",", "Zhilin", "Liao", ",", "Shumin", "Deng", ",", "Ningyu", "Zhang", ",", "and", "Huajun", "Chen", "2021", "Mlbinet", ":", "A", "cross-", "sentence", "collective", "event", "detection", "network", "In", "ACL", "Association", "for", "Computational", "Linguistics", "Yaojie", "Lu", ",", "Hongyu", "Lin", ",", "Jin", "Xu", ",", "Xianpei", "Han", ",", "Jialong", "Tang", ",", "Annan", "Li", ",", "Le", "Sun", ",", "Meng", "Liao", ",", "and", "Shaoyi", "Chen", "2021", "Text2event", ":", "Controllable", "sequence", "-", "to-", "structure", "generation", "for", "end", "-", "to", "-", "end", "event", "extraction", "InACL", "/", "IJCNLP", "(", "1", ")", ",", "pages", "2795–2806", "Association", "for", "Computational", "Linguistics", "Yaojie", "Lu", ",", "Qing", "Liu", ",", "Dai", "Dai", ",", "Xinyan", "Xiao", ",", "Hongyu", "Lin", ",", "Xianpei", "Han", ",", "Le", "Sun", ",", "and", "Hua", "Wu", "2022", "Uni-", "ﬁed", "structure", "generation", "for", "universal", "information", "extraction", "In", "ACL", "(", "1", ")", ",", "pages", "5755–5772", "Associ-", "ation", "for", "Computational", "Linguistics", "Hieu", "Man", ",", "Nghia", "Trung", "Ngo", ",", "Linh", "Ngo", "Van", ",", "and", "Thien", "Huu", "Nguyen", "2022", "Selecting", "optimal", "con-", "text", "sentences", "for", "event", "-", "event", "relation", "extraction", "In", "AAAI", ",", "pages", "11058–11066", "AAAI", "Press", "Yuanliang", "Meng", "and", "Anna", "Rumshisky", "2018", "Context-", "aware", "neural", "model", "for", "temporal", "information", "extrac-", "tion", "In", "ACL", "(", "1", ")", ",", "pages", "527–536", "Association", "for", "Computational", "Linguistics", "Pascal", "Mettes", ",", "Elise", "van", "der", "Pol", ",", "and", "Cees", "Snoek", "2019", "Hyperspherical", "prototype", "networks", "In", "Advances", "in", "Neural", "Information", "Processing", "Systems", "32", ",", "pages", "1487–1497", "Curran", "Associates", ",", "Inc", "Thien", "Huu", "Nguyen", ",", "Kyunghyun", "Cho", ",", "and", "Ralph", "Grish-", "man", "2016", "Joint", "event", "extraction", "via", "recurrent", "neu-", "ral", "networks", "In", "HLT", "-", "NAACL", ",", "pages", "300–309", "The", "Association", "for", "Computational", "Linguistics", "Trung", "Minh", "Nguyen", "and", "Thien", "Huu", "Nguyen", "2019", "One", "for", "all", ":", "Neural", "joint", "modeling", "of", "entities", "and", "events", "In", "AAAI", ",", "pages", "6851–6858", "AAAI", "Press", "Giovanni", "Paolini", ",", "Ben", "Athiwaratkun", ",", "Jason", "Krone", ",", "Jie", "Ma", ",", "Alessandro", "Achille", ",", "Rishita", "Anubhai", ",", "Cícero", "Nogueira", "dos", "Santos", ",", "Bing", "Xiang", ",", "and", "Ste-", "fano", "Soatto", "2021", "Structured", "prediction", "as", "transla-", "tion", "between", "augmented", "natural", "languages", "In", "ICLR", "OpenReview.net", "Colin", "Raffel", ",", "Noam", "Shazeer", ",", "Adam", "Roberts", ",", "Katherine", "Lee", ",", "Sharan", "Narang", ",", "Michael", "Matena", ",", "Yanqi", "Zhou", ",", "Wei", "Li", ",", "and", "Peter", "J", "Liu", "2020", "Exploring", "the", "limits", "of", "transfer", "learning", "with", "a", "uniﬁed", "text", "-", "to", "-", "text", "trans-", "former", "J", "Mach", "Learn", "Res", ",", "21:140:1–140:67", "Victor", "Sanh", ",", "Lysandre", "Debut", ",", "Julien", "Chaumond", ",", "and", "Thomas", "Wolf", "2019", "Distilbert", ",", "a", "distilled", "version", "of", "BERT", ":", "smaller", ",", "faster", ",", "cheaper", "and", "lighter", "In", "Fifth", "Workshop", "on", "Energy", "Efﬁcient", "Machine", "Learn-", "ing", "and", "Cognitive", "Computing", "-", "NeurIPS", "Edition", "(", "EMC2", "-", "NIPS", ")", "IEEE", "Jiawei", "Sheng", ",", "Rui", "Sun", ",", "Shu", "Guo", ",", "Shiyao", "Cui", ",", "Jiangxia", "Cao", ",", "Lihong", "Wang", ",", "Tingwen", "Liu", ",", "and", "Hongbo", "Xu", "2022", "Cored", ":", "Incorporating", "type", "-", "level", "and", "instance-", "level", "correlations", "for", "ﬁne", "-", "grained", "event", "detection", "InSIGIR", ",", "pages", "1122–1132", "ACM", "Noah", "A", "Smith", "2011", "Linguistic", "Structure", "Prediction", "Synthesis", "Lectures", "on", "Human", "Language", "Technolo-", "gies", "Morgan", "&", "Claypool", "Publishers.360", "Benjamin", "Taskar", ",", "Vassil", "Chatalbashev", ",", "Daphne", "Koller", ",", "and", "Carlos", "Guestrin", "2005", "Learning", "structured", "pre-", "diction", "models", ":", "a", "large", "margin", "approach", "In", "ICML", ",", "volume", "119", "of", "ACM", "International", "Conference", "Pro-", "ceeding", "Series", ",", "pages", "896–903", "ACM", "Lifu", "Tu", "and", "Kevin", "Gimpel", "2018", "Learning", "approx-", "imate", "inference", "networks", "for", "structured", "prediction", "InICLR", "(", "Poster", ")", "OpenReview.net", "Haoyu", "Wang", ",", "Muhao", "Chen", ",", "Hongming", "Zhang", ",", "and", "Dan", "Roth", "2020a", "Joint", "constrained", "learning", "for", "event", "-", "event", "relation", "extraction", "In", "EMNLP", "(", "1", ")", ",", "pages", "696–706", "Association", "for", "Computational", "Lin-", "guistics", "Tongzhou", "Wang", "and", "Phillip", "Isola", "2020", "Understand-", "ing", "contrastive", "representation", "learning", "through", "align-", "ment", "and", "uniformity", "on", "the", "hypersphere", "In", "ICML", ",", "volume", "119", "of", "Proceedings", "of", "Machine", "Learning", "Re-", "search", ",", "pages", "9929–9939", "PMLR", "Xiaozhi", "Wang", ",", "Yulin", "Chen", ",", "Ning", "Ding", ",", "Hao", "Peng", ",", "Zimu", "Wang", ",", "Yankai", "Lin", ",", "Xu", "Han", ",", "Lei", "Hou", ",", "Juanzi", "Li", ",", "Zhiyuan", "Liu", ",", "Peng", "Li", ",", "and", "Jie", "Zhou", "2022", "MA", "VEN", "-", "ERE", ":", "A", "uniﬁed", "large", "-", "scale", "dataset", "for", "event", "coreference", ",", "temporal", ",", "causal", ",", "and", "subevent", "re-", "lation", "extraction", "In", "EMNLP", ",", "pages", "926–941", "Asso-", "ciation", "for", "Computational", "Linguistics", "Xiaozhi", "Wang", ",", "Xu", "Han", ",", "Zhiyuan", "Liu", ",", "Maosong", "Sun", ",", "and", "Peng", "Li", "2019", "Adversarial", "training", "for", "weakly", "supervised", "event", "detection", "In", "NAACL", "-", "HLT", "(", "1", ")", ",", "pages", "998–1008", "Association", "for", "Computational", "Linguistics", "Xiaozhi", "Wang", ",", "Ziqi", "Wang", ",", "Xu", "Han", ",", "Wangyi", "Jiang", ",", "Rong", "Han", ",", "Zhiyuan", "Liu", ",", "Juanzi", "Li", ",", "Peng", "Li", ",", "Yankai", "Lin", ",", "and", "Jie", "Zhou", "2020b", "MA", "VEN", ":", "A", "massive", "gen-", "eral", "domain", "event", "detection", "dataset", "In", "EMNLP", "(", "1", ")", ",", "pages", "1652–1671", "Association", "for", "Computational", "Linguistics", "Xingyao", "Wang", ",", "Sha", "Li", ",", "and", "Heng", "Ji", "2023", "Code4struct", ":", "Code", "generation", "for", "few", "-", "shot", "structured", "prediction", "from", "natural", "language", "In", "ACL", "(", "1", ")", "Association", "for", "Computational", "Linguistics", "Haoran", "Yan", ",", "Xiaolong", "Jin", ",", "Xiangbin", "Meng", ",", "Jiafeng", "Guo", ",", "and", "Xueqi", "Cheng", "2019", "Event", "detection", "with", "multi", "-", "order", "graph", "convolution", "and", "aggregated", "atten-", "tion", "In", "EMNLP", "/", "IJCNLP", "(", "1", ")", ",", "pages", "5765–5769", "As-", "sociation", "for", "Computational", "Linguistics", "Appendices", "A", "Multi", "-", "Faceted", "Event", "-", "Relations", "Note", "that", "MAVEN", "-EREandONTOEVENT", "-DOC", "both", "includes", "multi", "-", "faceted", "event", "-", "relations" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "MAVEN", "-EREin", "this", "paper", "contains", "6", "tempo-", "ral", "relations", ":", "BEFORE", ",", "OVERLAP", ",", "CONTAINS", ",", "SIMULTANEOUS", ",", "BEGINS", "-", "ON", ",", "ENDS", "-", "ON", ";", "2causal", "relations", ":", "CAUSE", ",", "PRECONDITION", ";", "and", "1", "subevent", "relation", ":", "subevent_relations" ]	[ "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "ONTOEVENT", "-DOCin", "this", "paper", "contains", "3", "tem-", "poral", "relations", ":", "BEFORE", ",", "AFTER", ",", "EQUAL", ";", "and", "2", "causal", "relations", ":", "CAUSE", ",", "CAUSEDBY" ]	[ "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "also", "add", "a", "NA", "relation", "to", "signify", "no", "relation", "between", "the", "event", "mention", "pair", "for", "the", "two", "datasets", "B", "Implementation", "Details", "for", "Different", "Tasks", "B.1", "Event", "Trigger", "Classiﬁcation", "Settings", "We", "follow", "the", "similar", "evaluation", "protocol", "of", "standard", "ED", "models", "(", "Chen", "et", "al", ",", "2015", ";", "Sheng", "et", "al", ",", "2022", ")", "on", "trigger", "classiﬁcation", "tasks", "We", "present", "the", "results", "in", "Table", "2", "when", "jointly", "training", "with", "event", "classiﬁcation", "and", "the", "whole", "ERE", "task", "(", "“", "All", "Joint", "”", "in", "Table", "4", ")" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "backbone", "encoder", "is", "pretrained", "BERT", "(", "Devlin", "et", "al" ]	[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]
[ ",", "2019", ")", "The", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", "in", "Eq", "(", "11", ")", "are", "respectively", "set", "to", "1", ",", "0.1", ",", "0.1", "for", "both", "ONTOEVENT", "-DOCandMAVEN", "-", "ERE" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName" ]
[ "B.2", "Event", "Classiﬁcation", "Settings", "We", "follow", "the", "similar", "evaluation", "pro-", "tocol", "of", "standard", "ED", "models", "(", "Chen", "et", "al", ",", "2015", ";", "Deng", "et", "al", ",", "2021", ")", "on", "event", "classiﬁcation", "tasks", "We", "present", "the", "results", "in", "Table", "3", "when", "jointly", "train-", "ing", "with", "trigger", "classiﬁcation", "and", "all", "ERE", "subtasks", "(", "“", "+", "joint", "”", "in", "Table", "4", ")", "The", "backbone", "encoder", "is", "pre-", "trained", "DistilBERT", "(", "Sanh", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]
[ ",", "2019", ")", "The", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", "in", "Eq", "(", "11", ")", "are", "respectively", "set", "to", "0.1", ",", "1", ",", "0.1", "for", "ONTOEVENT", "-DOCand", "1", ",", "0.1", ",", "0.1", "for", "M", "AVEN", "-ERE" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName" ]
[ "B.3", "Event", "-", "Relation", "Extraction", "Settings", "We", "follow", "the", "similar", "ERE", "experiment", "settings", "with", "Wang", "et", "al", "(", "2022", ")", "on", "several", "sub-", "tasks", ",", "by", "separately", "and", "jointly", "training", "on", "tem-", "poral", ",", "causal", ",", "and", "subevent", "event", "-", "relations", "We", "present", "the", "results", "in", "Table", "4", "when", "jointly", "training", "with", "trigger", "classiﬁcation", "and", "event", "classiﬁcation", "tasks", "The", "backbone", "encoder", "is", "pretrained", "Distil-", "BERT", "(", "Sanh", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O" ]
[ ",", "2019", ")", "On", "ONTOEVENT", "-DOC", "dataset", ",", "the", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", "in", "Eq", "(", "11", ")", "are", "re-", "spectively", "set", "to", "1", ",", "0.1", ",", "0.1", "for", "all", "ERE", "subtasks" ]	[ "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "On", "MAVEN", "-EREdataset", ",", "λ1", ",", "λ2", ",", "λ3are", "respectively", "set", "to", "0.1", ",", "0.1", ",", "1", "for", "“", "All", "Joint", "”", "ERE", "subtasks", "in", "Ta-", "ble", "4", ";", "1", ",", "1", ",", "4", "for", "“", "+", "joint", "”", ";", "1", ",", "0.1", ",", "0.1", "for", "“", "Temporal", "”", "and", "“", "Causal", "”", ";", "and", "1", ",", "0.1", ",", "0.08", "for", "“", "Subevent”.361", "ACL", "2023", "Responsible", "NLP", "Checklist", "A", "For", "every", "submission", ":", "/", "square\u0013A1" ]	[ "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Did", "you", "describe", "the", "limitations", "of", "your", "work", "?", "Left", "blank", "/", "squareA2", "Did", "you", "discuss", "any", "potential", "risks", "of", "your", "work", "?", "Not", "applicable", "Left", "blank", "/", "square\u0013A3", "Do", "the", "abstract", "and", "introduction", "summarize", "the", "paper", "’s", "main", "claims", "?", "Abstract", "&", "at", "the", "end", "of", "Section", "1", "&", "Section", "6", "/", "square\u0017A4", "Have", "you", "used", "AI", "writing", "assistants", "when", "working", "on", "this", "paper", "?", "Left", "blank", "B", "/", "square\u0013Did", "you", "use", "or", "create", "scientiﬁc", "artifacts", "?", "Section", "4", "/", "square\u0013B1", "Did", "you", "cite", "the", "creators", "of", "artifacts", "you", "used", "?", "Section", "4.1", "/", "square\u0013B2", "Did", "you", "discuss", "the", "license", "or", "terms", "for", "use", "and", "/", "or", "distribution", "of", "any", "artifacts", "?", "Section", "4", "/", "square\u0013B3", "Did", "you", "discuss", "if", "your", "use", "of", "existing", "artifact", "(", "s", ")", "was", "consistent", "with", "their", "intended", "use", ",", "provided", "that", "it", "was", "speciﬁed", "?", "For", "the", "artifacts", "you", "create", ",", "do", "you", "specify", "intended", "use", "and", "whether", "that", "is", "compatible", "with", "the", "original", "access", "conditions", "(", "in", "particular", ",", "derivatives", "of", "data", "accessed", "for", "research", "purposes", "should", "not", "be", "used", "outside", "of", "research", "contexts", ")", "?", "Section", "4", "/", "squareB4", "Did", "you", "discuss", "the", "steps", "taken", "to", "check", "whether", "the", "data", "that", "was", "collected", "/", "used", "contains", "any", "information", "that", "names", "or", "uniquely", "identiﬁes", "individual", "people", "or", "offensive", "content", ",", "and", "the", "steps", "taken", "to", "protect", "/", "anonymize", "it", "?", "Not", "applicable", "I", "use", "the", "existing", "benchmark", "/", "squareB5", "Did", "you", "provide", "documentation", "of", "the", "artifacts", ",", "e.g.", ",", "coverage", "of", "domains", ",", "languages", ",", "and", "linguistic", "phenomena", ",", "demographic", "groups", "represented", ",", "etc", "?", "Not", "applicable", "need", "n’t", "to", "/", "square\u0013B6", "Did", "you", "report", "relevant", "statistics", "like", "the", "number", "of", "examples", ",", "details", "of", "train", "/", "test", "/", "dev", "splits", ",", "etc", "for", "the", "data", "that", "you", "used", "/", "created", "?", "Even", "for", "commonly", "-", "used", "benchmark", "datasets", ",", "include", "the", "number", "of", "examples", "in", "train", "/", "validation", "/", "test", "splits", ",", "as", "these", "provide", "necessary", "context", "for", "a", "reader", "to", "understand", "experimental", "results", "For", "example", ",", "small", "differences", "in", "accuracy", "on", "large", "test", "sets", "may", "be", "signiﬁcant", ",", "while", "on", "small", "test", "sets", "they", "may", "not", "be", "Section", "4.1", "C", "/", "square\u0013Did", "you", "run", "computational", "experiments", "?", "Section", "4", "Datasets", "and", "Baselines", "are", "in", "Section", "4.1", "Implementation", "Details", "are", "in", "Section", "4.2", "&", "Appendix", "B", "Main", "experiments", "are", "in", "Section", "4.3", ",", "4.4", ",", "4.5", ",", "and", "Further", "Analysis", "is", "in", "Section", "5", "/", "square\u0017C1", "Did", "you", "report", "the", "number", "of", "parameters", "in", "the", "models", "used", ",", "the", "total", "computational", "budget", "(", "e.g.", ",", "GPU", "hours", ")", ",", "and", "computing", "infrastructure", "used", "?", "I", "have", "listed", "the", "implementation", "details", "of", "experiments", "at", "Sec", "4.2", "&", "Appendix", "B", "The", "total", "computa-", "tional", "budget", "&", "computing", "infrastructure", "used", "are", "not", "the", "main", "concerns", "of", "our", "work", ",", "and", "we", "also", "The", "Responsible", "NLP", "Checklist", "used", "at", "ACL", "2023", "is", "adopted", "from", "NAACL", "2022", ",", "with", "the", "addition", "of", "a", "question", "on", "AI", "writing", "assistance.362", "did", "n’t", "run", "time", "statistics", "But", "we", "will", "provide", "more", "details", "when", "publication", ",", "and", "the", "codes", "will", "also", "mention", "more", "details", "on", "it", "/", "square\u0013C2", "Did", "you", "discuss", "the", "experimental", "setup", ",", "including", "hyperparameter", "search", "and", "best", "-", "found", "hyperparameter", "values", "?", "Section", "4.2", ",", "Appendix", "B", "/", "square\u0013C3", "Did", "you", "report", "descriptive", "statistics", "about", "your", "results", "(", "e.g.", ",", "error", "bars", "around", "results", ",", "summary", "statistics", "from", "sets", "of", "experiments", ")", ",", "and", "is", "it", "transparent", "whether", "you", "are", "reporting", "the", "max", ",", "mean", ",", "etc", "or", "just", "a", "single", "run", "?", "We", "run", "our", "model", "and", "baselines", "multiple", "times", "and", "calculate", "an", "average", "with", "upper", "and", "lower", "bounds", ",", "which", "are", "shown", "in", "Section", "4.3", ",", "4.4", ",", "4.5", "/", "squareC4", "If", "you", "used", "existing", "packages", "(", "e.g.", ",", "for", "preprocessing", ",", "for", "normalization", ",", "or", "for", "evaluation", ")", ",", "did", "you", "report", "the", "implementation", ",", "model", ",", "and", "parameter", "settings", "used", "(", "e.g.", ",", "NLTK", ",", "Spacy", ",", "ROUGE", ",", "etc", ")", "?", "Not", "applicable", "Implementation", "Details", "are", "in", "Section", "4.2", "&", "Appendix", "B", "D", "/", "square\u0017Did", "you", "use", "human", "annotators", "(", "e.g.", ",", "crowdworkers", ")", "or", "research", "with", "human", "participants", "?", "Left", "blank", "/", "squareD1", "Did", "you", "report", "the", "full", "text", "of", "instructions", "given", "to", "participants", ",", "including", "e.g.", ",", "screenshots", ",", "disclaimers", "of", "any", "risks", "to", "participants", "or", "annotators", ",", "etc", "?", "No", "response", "/", "squareD2", "Did", "you", "report", "information", "about", "how", "you", "recruited", "(", "e.g.", ",", "crowdsourcing", "platform", ",", "students", ")", "and", "paid", "participants", ",", "and", "discuss", "if", "such", "payment", "is", "adequate", "given", "the", "participants", "’", "demographic", "(", "e.g.", ",", "country", "of", "residence", ")", "?", "No", "response", "/", "squareD3", "Did", "you", "discuss", "whether", "and", "how", "consent", "was", "obtained", "from", "people", "whose", "data", "you", "’re", "using", "/", "curating", "?", "For", "example", ",", "if", "you", "collected", "data", "via", "crowdsourcing", ",", "did", "your", "instructions", "to", "crowdworkers", "explain", "how", "the", "data", "would", "be", "used", "?", "No", "response", "/", "squareD4", "Was", "the", "data", "collection", "protocol", "approved", "(", "or", "determined", "exempt", ")", "by", "an", "ethics", "review", "board", "?", "No", "response", "/", "squareD5", "Did", "you", "report", "the", "basic", "demographic", "and", "geographic", "characteristics", "of", "the", "annotator", "population", "that", "is", "the", "source", "of", "the", "data", "?", "No", "response.363" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "855–876", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "On", "-", "the", "-", "fly", "Cross", "-", "lingual", "Masking", "for", "Multilingual", "Pre", "-", "training", "Xi", "Ai", "College", "of", "Computer", "Science", "Chongqing", "University", "barid.x.ai", "@", "gmail.comBin", "Fang", "College", "of", "Computer", "Science", "Chongqing", "University", "fb", "@", "cqu.edu.cn", "Abstract", "In", "multilingual", "pre", "-", "training", "with", "the", "objective", "of", "MLM", "(", "masked", "language", "modeling", ")", "on", "mul-", "tiple", "monolingual", "corpora", ",", "multilingual", "mod-", "els", "only", "learn", "cross", "-", "linguality", "implicitly", "from", "isomorphic", "spaces", "formed", "by", "overlapping", "dif-", "ferent", "language", "spaces", "due", "to", "the", "lack", "of", "ex-", "plicit", "cross", "-", "lingual", "forward", "pass" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "this", "work", ",", "we", "present", "CLPM", "(", "Cross", "-", "lingual", "Prototype", "Masking", ")", ",", "a", "dynamic", "and", "token", "-", "wise", "masking", "scheme", ",", "for", "multilingual", "pre", "-", "training", ",", "using", "a", "special", "token", "[", "C", "]", "xto", "replace", "a", "random", "token", "xin", "the", "input", "sentence" ]	[ "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "[", "C", "]", "xis", "a", "cross", "-", "lingual", "prototype", "for", "xand", "then", "forms", "an", "explicit", "cross-", "lingual", "forward", "pass", "We", "instantiate", "CLPM", "for", "the", "multilingual", "pre", "-", "training", "phase", "of", "UNMT", "(", "unsupervised", "neural", "machine", "translation", ")", ",", "and", "experiments", "show", "that", "CLPM", "can", "consistently", "improve", "the", "performance", "of", "UNMT", "models", "on", "{", "De", ",", "Ro", ",", "Ne", "}", "↔", "En" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Beyond", "UNMT", "or", "bilingual", "tasks", ",", "we", "show", "that", "CLPM", "can", "consis-", "tently", "improve", "the", "performance", "of", "multilingual", "models", "on", "cross", "-", "lingual", "classification" ]	[ "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]
[ "1", "Introduction", "With", "tied", "weights", "across", "the", "languages", "and", "the", "help", "of", "language", "identifications", "(", "Johnson", "et", "al", ",", "2017", ")", ",", "multilingual", "models", "only", "have", "access", "to", "monolin-", "gual", "corpora", "in", "different", "languages", "Stemming", "from", "BERT", "/", "MLM", "(", "Devlin", "et", "al", ",", "2019", ")", "and", "GPT", "(", "Radford", "et", "al", ",", "2018", ";", "Alec", "Radford", ",", "2020", ")", ",", "for", "cross", "-", "lingual", "knowledge", ",", "multilingual", "pre", "-", "training", "with", "the", "objective", "of", "MLM", "on", "multiple", "monolin-", "gual", "corpora", "is", "introduced", "by", "XLM", "(", "Lample", "and", "Conneau", ",", "2019", ")", ",", "explored", "by", "MASS", "(", "Song", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ ",", "2019", ")", "and", "mBART", "(", "Liu", "et", "al", ",", "2020", ";", "Lewis", "et", "al", ",", "2020", ")", ",", "and", "scaled", "by", "XLM", "-", "R", "(", "Conneau", "et", "al", ",", "2020", ")", "and", "mT5", "(", "Xue", "et", "al", ",", "2021", ")", "Essentially", ",", "in", "multilingual", "MLM", "pre", "-", "training", ",", "models", "are", "encouraged", "to", "learn", "implicit", "cross-", "linguality", "from", "both", "linguistic", "similarities", "and", "shared", "tokens", "(", "Karthikeyan", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ ",", "2020", ";", "Wu", "and", "Dredze", ",", "2019", ";", "Pires", "et", "al", ",", "2019", ";", "Dufter", "andSchütze", ",", "2020", ")", "for", "translation", "and", "cross", "-", "lingual", "transfer", "However", ",", "it", "does", "not", "learn", "any", "explicit", "and", "principled", "cross", "-", "lingual", "forward", "pass", "from", "in-", "puts", "to", "outputs", ",", "only", "relying", "on", "the", "isomorphic", "space", "that", "emerged", "from", "multilingual", "MLM", "pre-", "training", "by", "overlapping", "language", "spaces", "agnosti-", "cally", "Given", "the", "nature", "of", "translation", "and", "cross-", "lingual", "transfer", ",", "models", "should", "understand", "ex-", "plicit", "cross", "-", "lingual", "forward", "passes", "initiating", "cross-", "lingual", "knowledge", "directly" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Considering", "this", "aspect", ",", "beyond", "the", "implicit", "andagnostic", "cross", "-", "linguality", ",", "we", "are", "interested", "in", "the", "question", ":", "can", "models", "learn", "explicit", "andprincipled", "cross", "-", "linguality", "in", "multilin-", "gual", "pre", "-", "training", "without", "any", "supervision", "?" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O" ]
[ "Following", "this", "idea", ",", "for", "multilingual", "pre", "-", "training", ",", "we", "present", "a", "dynamic", "and", "token", "-", "wise", "masking", "scheme", ",", "CLPM", "(", "Cross", "-", "lingual", "Prototype", "Mask-", "ing", ")", ",", "to", "compute", "a", "special", "token", "[", "C", "]", "xrepresenting", "a", "cross", "-", "lingual", "prototype", "for", "a", "selected", "token", "x", "and", "then", "replace", "xwith", "[", "C", "]", "xinstead", "of", "the", "stan-", "dard", "token", "[", "M", "]", "in", "multilingual", "MLM", "pre", "-", "training" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "present", "an", "example", "in", "Table", "1", "Significantly", ",", "when", "predicting", "the", "selected", "and", "replaced", "x", ",", "we", "model", "an", "explicit", "cross", "-", "lingual", "forward", "pass", "from", "the", "cross", "-", "lingual", "prototype", "[", "C", "]", "xtox", "Source", "The", "investment", "fund", "that", "owned", "the", "building", "had", "to", "make", "a", "choice", "[", "M", "]", "The", "[", "M", "]", "fund", "[", "M", "]", "owned", "[", "M", "]", "building", "[", "M", "]", "to", "make", "a", "choice", "[", "C", "]", "x", "The", "[", "C", "]", "x1fund", "[", "C", "]", "x3owned", "[", "C", "]", "x5building", "[", "C", "]", "x7to", "make", "a", "choice", "Table", "1", ":", "Examples", "of", "[", "C", "]", "xand", "[", "M", "]", "{", "x1", ",", "x3", ",", "x5", ",", "x7", "}", "at", "position", "{", "1,3,5,7", "}", "are", "randomly", "selected", "for", "replacing", "Then", ",", "we", "compute", "the", "[", "C", "]", "xset", "{", "[", "C", "]", "x1", ",", "[", "C", "]", "x3", ",", "[", "C", "]", "x5", ",", "[", "C", "]", "x7", "}", "for", "replacing", "and", "pre", "-", "train", "MLM", "without", "any", "other", "change", ",", "treating", "[", "C", "]", "xas", "[", "M", "]", "In", "multilingual", "pre", "-", "training", ",", "computing", "[", "C", "]", "xis", "a", "challenge", "on", "multiple", "monolingual", "corpora", "with-", "out", "any", "supervision", "from", "parallel", "corpora", ",", "transla-", "tion", "tables", "(", "Dufter", "and", "Schütze", ",", "2020", ";", "Ren", "et", "al", ",", "2019b", ";", "Chaudhary", "et", "al", ",", "2020", ")", ",", "or", "data", "augmenta-", "tion", "processes", "(", "Krishnan", "et", "al", ",", "2021", ";", "Chaudhary855", "et", "al", ",", "2020", ";", "Tarunesh", "et", "al", ",", "2021", ")", "Fortunately", ",", "we", "find", "that", "suitable", "candidates", "can", "be", "dynamically", "obtained", "in", "the", "multilingual", "embedding", "space", ",", "con-", "sidering", "the", "relevance", "between", "the", "selected", "token", "and", "the", "tokens", "in", "the", "other", "language", "Meanwhile", ",", "naive", "token", "-", "to", "-", "token", "relevance", "is", "reported", "to", "mis-", "represent", "morphological", "variations", "(", "Artetxe", "et", "al", ",", "2020", ";", "Czarnowska", "et", "al", ",", "2020", ";", "Kementchedjhieva", "et", "al", ",", "2020", ")", ",", "which", "limits", "the", "improvements", "for", "translation", "and", "cross", "-", "lingual", "transfer", "tasks" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]
[ "Thus", ",", "we", "approximate", "multiple", "candidates", "in", "the", "other", "language", "for", "[", "C", "]", "x", ",", "expecting", "to", "cover", "morphologi-", "cal", "variations", "Unfortunately", ",", "the", "input", "dependency", "is", "perturbed", "by", "[", "C", "]", "xbecause", "[", "C", "]", "xis", "not", "agnostic", "and", "not", "static", "as", "[", "M", "]", "but", "dynamically", "obtained", "from", "the", "other", "language", "Eventually", ",", "it", "potentially", "results", "in", "a", "lack", "of", "learning", "internal", "structures", "of", "languages", "To", "alleviate", "this", "pain", "but", "still", "use", "[", "C", "]", "x", ",", "we", "alternate", "between", "[", "M", "]", "and", "[", "C", "]", "x", ",", "where", "[", "M", "]", "is", "agnostic", "and", "does", "not", "perturb", "input", "language", "domain", "We", "attempt", "UNMT", "and", "(", "zero", "-", "shot", ")", "cross", "-", "lingual", "transfer", "tasks" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]
[ "For", "UNMT", ",", "we", "consider", "X↔En", "on", "a", "rich", "-", "resource", "language", "De", ",", "a", "low", "-", "resource", "language", "Ro", ",", "and", "a", "dissimilar", "language", "Ne", "In-", "tuitively", ",", "CLPM", "yields", "improvements", "because", "of", "the", "dynamical", "approximations", "of", "token", "-", "level", "cross-", "lingual", "information" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "then", "justify", "this", "on", "cross-", "lingual", "word", "similarity", "tasks", "from", "MUSE", "(", "Lam-", "ple", "et", "al", ",", "2018b", ")", "Beyond", "UNMT", ",", "we", "experiment", "with", "the", "cross", "-", "lingual", "classification", "task", "on", "XNLI", "(", "Conneau", "et", "al" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ ",", "2018", ")", "to", "test", "general", "cross", "-", "lingual", "transfer", "CLPM", "improves", "within", "a", "pivoting", "-", "based", "framework.par", "We", "have", "three", "contributions" ]	[ "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2020", ")", "Wang", "et", "al", "(", "2023", ")", "tackle", "ECSP", "with", "code", "generation", "based", "on", "code", "pretraining", "However", ",", "these", "approaches", "are", "equipped", "with", "fairly", "simplis-", "tic", "event", "structures", "and", "have", "difﬁculty", "in", "tackling", "complex", "dependency", "in", "events", "Besides", ",", "most", "of", "them", "fail", "to", "represent", "manifold", "events", "effectively", "Energy", "Networks", "for", "Structured", "Prediction", "and", "Hyperspheres", "for", "Class", "Representation", "Energy", "networks", "deﬁne", "an", "energy", "function", "over", "input", "/", "output", "pairs", "with", "arbitrary", "neural", "networks", ",", "which", "places", "no", "limits", "on", "the", "size", "of", "the", "structured", "components", ",", "making", "it", "advantageous", "in", "modeling", "complex", "and", "manifold", "event", "structures", "Lecun", "et", "al", "(", "2006", ")", ";", "Belanger", "and", "McCallum", "(", "2016", ")", "associate", "a", "scalar", "measure", "to", "evaluate", "the", "compatibility", "to", "each", "conﬁguration", "of", "inputs", "and", "outputs", "(", "Belanger", "and", "McCallum", ",", "2016", ")", "formulate", "deep", "energy", "-", "based", "models", "for", "structured", "prediction", ",", "called", "structured", "prediction", "energy", "networks", "(", "SPENs", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O" ]

[ "Belanger", "et", "al", "(", "2017", ")", "present", "end", "-", "to", "-", "end", "learning", "for", "SPENs", ",", "Tu", "and", "Gimpel", "(", "2018", ")", "jointly", "train", "structured", "en-", "ergy", "functions", "and", "inference", "networks", "with", "large-", "margin", "objectives" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Some", "previous", "researches", "also", "regard", "event", "-", "centric", "NLP", "tasks", "as", "structured", "predic-", "tion", "(", "Li", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2013", ";", "Paolini", "et", "al", ",", "2021", ")", "Further-", "more", ",", "to", "effectively", "obtain", "event", "representations", ",", "Deng", "et", "al", "(", "2022", ")", "demonstrate", "that", "hyperspheri-", "cal", "prototypical", "networks", "(", "Mettes", "et", "al", ",", "2019", ")", "are", "powerful", "to", "encode", "enriched", "semantics", "and", "depen-", "dency", "in", "event", "structures", ",", "but", "they", "merely", "consider", "support", "for", "pairwise", "event", "structures.352", "3", "Methodology", "3.1", "Preliminaries", "For", "structured", "prediction", "tasks", ",", "given", "input", "x∈X", ",", "we", "denote", "the", "structured", "outputs", "by", "MΦ", "(", "x", ")", "∈˜Y", "with", "a", "prediction", "model", "MΦ", "Structured", "Prediction", "Energy", "Networks", "(", "SPENs", ")", "score", "structured", "outputs", "with", "an", "energy", "function", "EΘ", ":", "X×", "˜Y→Rparam-", "eterized", "by", "Θthat", "iteratively", "optimize", "the", "energy", "between", "the", "input", "/", "output", "pair", "(", "Belanger", "and", "Mc-", "Callum", ",", "2016", ")", ",", "where", "lower", "energy", "means", "greater", "compatibility", "between", "the", "pair" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "introduce", "event", "-", "centric", "structured", "prediction", "(", "ECSP", ")", "following", "the", "similar", "setting", "as", "SPENs", "for", "multi", "-", "label", "classiﬁcation", "and", "sequence", "labeling", "pro-", "posed", "by", "Tu", "and", "Gimpel", "(", "2018", ")" ]

[ "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Given", "a", "feature", "vector", "xbelonging", "to", "one", "of", "Tlabels", ",", "the", "model", "output", "isMΦ", "(", "x", ")", "=", "{", "0,1", "}", "T∈˜Yfor", "all", "x", "The", "energy", "function", "contains", "two", "terms", ":", "EΘ", "(", "x", ",", "y", ")", "=", "Elocal", "Θ", "(", "x", ",", "y", ")", "+", "Elabel", "Θ", "(", "y", ")", "=", "T", "/", "summationdisplay", "i=1yiV", "/", "latticetop", "if", "(", "x", ")", "+", "w", "/", "latticetopg", "(", "Wy", ")", "(", "1", ")", "whereElocal", "Θ", "(", "x", ",", "y", ")", "=", "/", "summationtextT", "i=1yiV", "/", "latticetop", "if", "(", "x", ")", "is", "the", "sum", "of", "linear", "models", ",", "and", "yi∈y", ",", "Viis", "a", "parameter", "vec-", "tor", "for", "label", "iandf", "(", "x", ")", "is", "a", "multi", "-", "layer", "perceptron", "computing", "a", "feature", "representation", "for", "the", "input", "x", ";", "Elabel", "Θ", "(", "y", ")", "=", "w", "/", "latticetopg", "(", "Wy", ")", "returns", "a", "scalar", "which", "quantiﬁes", "the", "full", "set", "of", "labels", ",", "scoring", "yindepen-", "dent", "of", "x", ",", "thereinto", ",", "wis", "a", "parameter", "vector", ",", "g", "(", "·", ")", "is", "an", "elementwise", "non", "-", "linearity", "function", ",", "and", "W", "is", "a", "parameter", "matrix", "learned", "from", "data", "indicating", "the", "interaction", "between", "labels", "After", "learning", "the", "energy", "function", ",", "prediction", "minimizes", "energy", ":", "˜y=", "arg", "min", "y∈˜YEΘ", "(", "x", ",", "y", ")", "(", "2", ")", "The", "ﬁnal", "theoretical", "optimum", "for", "SPEN", "is", "de-", "noted", "by", ":", "min", "Θmax", "Φ", "/", "summationdisplay", "/", "bracketleftbig", "/", "triangle", "(", "MΦ", "(", "xi", ")", ",", "yi", ")", "−", "EΘ", "(", "xi", ",", "MΦ", "(", "xi", ")", ")", "+", "EΘ", "(", "xi", ",", "yi", ")", "/", "bracketrightbig", "+", "(", "3", ")", "where", "[", "a", "]", "+=", "max", "(", "0", ",", "a", ")", ",", "and", "/", "triangle", "(", "˜y", ",", "y", ")", ",", "often", "re-", "ferred", "to", "“", "margin", "-", "rescaled", "”", "structured", "hinge", "loss", ",", "is", "a", "structured", "cost", "function", "that", "returns", "a", "nonneg-", "ative", "value", "indicating", "the", "difference", "between", "the", "predicted", "result", "˜yand", "ground", "truth", "y.3.2", "Problem", "Formulation", "In", "this", "paper", ",", "we", "focus", "on", "ECSP", "tasks", "of", "event", "de-", "tection", "(", "ED", ")", "and", "event", "-", "relation", "extraction", "(", "ERE", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O" ]

[ "ED", "can", "be", "divided", "into", "trigger", "classiﬁcation", "for", "to-", "kens", "and", "event", "classiﬁcation", "for", "sentences" ]

[ "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "denote", "the", "dataset", "by", "D=", "{", "E", ",", "R", ",", "X", "}", "contain-", "ing", "an", "event", "class", "set", "E", ",", "a", "multi", "-", "faceted", "event-", "relation", "setRand", "the", "event", "corpus", "X", ",", "thereinto", ",", "E=", "{", "ei|i∈", "[", "1", ",", "|E|", "]", "}", "contains|E|event", "classes", "including", "a", "None", ";", "R=", "{", "ri|i∈", "[", "1", ",", "|R|", "]", "}", "contains", "|R|temporal", ",", "causal", ",", "subevent", "and", "coreference", "re-", "lationships", "among", "event", "mentions", "including", "a", "NA", "event", "-", "relation", ";", "X=", "{", "Xi|i∈", "[", "1", ",", "K", "]", "}", "consists", "of", "Kevent", "mentions", ",", "where", "Xiis", "denoted", "as", "a", "token", "sequence", "x=", "{", "xj|j∈", "[", "1", ",", "L", "]", "}", "with", "maximum", "Ltokens", "For", "trigger", "classiﬁcation", ",", "the", "goal", "is", "to", "predict", "the", "index", "t", "(", "1≤t≤L", ")", "of", "the", "trigger", "xt", "in", "each", "token", "sequence", "xand", "categorize", "xtinto", "a", "speciﬁc", "event", "class", "ei∈E", "For", "event", "classiﬁca-", "tion", ",", "we", "expect", "to", "predict", "the", "event", "label", "eifor", "each", "event", "mention", "Xi" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "event", "-", "relation", "extraction", ",", "we", "require", "to", "identify", "the", "relation", "ri∈R", "for", "a", "pair", "of", "event", "mentions", "¨X", "/", "angbracketleftij", "/", "angbracketright=", "(", "Xi", ",", "Xj", ")" ]

[ "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "summary", ",", "our", "goal", "is", "to", "design", "an", "ECSP", "modelMΦ", ",", "aiming", "to", "tackle", "the", "tasks", "of", ":", "(", "1", ")", "trig-", "ger", "classiﬁcation", ":", "to", "predict", "the", "token", "label", "˜y=", "MΦ", "(", "x", ")", "for", "the", "token", "list", "x", ";", "(", "2", ")", "event", "classiﬁcation", ":", "to", "predict", "the", "event", "class", "label", "˜Y", "=", "MΦ", "(", "X", ")", "for", "the", "event", "mention", "X", ";", "(", "3", ")", "event", "-", "relation", "extraction", ":", "to", "predict", "the", "event", "-", "relation", "label", "˜z", "=", "MΦ", "(", "¨X", ")", "for", "the", "event", "mention", "pair", "¨X", "3.3", "Model", "Overview", "As", "seen", "in", "Figure", "2", ",", "SPEECH", "combines", "three", "lev-", "els", "of", "energy", ":", "token", ",", "sentence", ",", "as", "well", "as", "docu-", "ment", ",", "and", "they", "respectively", "serve", "for", "three", "kinds", "of", "ECSP", "tasks", ":", "(", "1", ")", "token", "-", "level", "energy", "for", "trigger", "classiﬁcation", ":", "considering", "energy", "-", "based", "modeling", "is", "able", "to", "capture", "long", "-", "range", "dependency", "among", "tokens", "without", "limits", "to", "token", "size", ";", "(", "2", ")", "sentence-", "level", "energy", "for", "event", "classiﬁcation", ":", "considering", "energy", "-", "based", "hyperspheres", "can", "model", "the", "complex", "event", "structures", "and", "represent", "events", "efﬁciently", ";", "and", "(", "3", ")", "document", "-", "level", "energy", "for", "event", "-", "relation", "extraction", ":", "considering", "energy", "-", "based", "modeling", "en-", "ables", "us", "to", "address", "the", "association", "among", "event", "mention", "pairs", "and", "event", "-", "relations" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "leverage", "the", "trigger", "embeddings", "as", "event", "mention", "embeddings", ";", "the", "energy", "-", "based", "hyperspheres", "with", "a", "centroid", "and", "a", "radius", "as", "event", "class", "embeddings", ",", "and", "these", "three", "tasks", "are", "associative", "to", "each", "other.353", "KillingLegal_rulings", "Token", "-", "LevelEnergy", "Sentence", "-", "LevelEnergy", "Document", "-", "LevelEnergy", "[", "CLS", "]", "Davidwasconvictedto25yearsand9monthsinprisonforkillingGlover", "[", "SEP", "]", "[", "PAD", "]", "ℰ+2ℰ+1ℰ+12ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+2ℰ+2", "[", "CLS", "]", "FormerNOPDpoliceofficerDavidWarrenshotandkilledHenryGlover", "[", "SEP", "]", "[", "PAD", "]", "[", "PAD", "]", "[", "PAD", "]", "ℰ+2ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+13ℰ+1ℰ+1ℰ+2ℰ+2ℰ+2ℰ+2", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "𝐶𝐴𝑈𝑆𝐸Energy", "-", "basedhypersphereembeddingwithacentroidandaradiusas", "event", "type", "embedding", "1to", "ℰ", ":", "event", "typesℰ+1", ":", "non", "-", "triggerℰ+2", ":", "padding", "…", "…", "…", "…", "…", "…", "…", "…", "Triggerembeddingas", "event", "mention", "embedding", "(", "Trigger", "Classification", ")", "(", "Event", "Classification", ")", "(", "Event", "Classification", ")", "(", "Event", "-", "Relation", "Extraction", ")", "Figure", "2", ":", "Overview", "of", "S", "PEECH", "with", "examples", ",", "where", "token", "-", "level", "energy", "serves", "for", "event", "trigger", "classiﬁcation", ",", "sentence", "-", "level", "energy", "serves", "for", "event", "classiﬁcation", "and", "document", "-", "level", "energy", "serves", "for", "event", "-", "relation", "extraction", "3.4", "Token", "-", "Level", "Energy", "Token", "-", "level", "energy", "serves", "for", "trigger", "classiﬁcation", "Given", "a", "token", "sequence", "x=", "{", "xj|j∈", "[", "1", ",", "L", "]", "}", "with", "trigger", "xt", ",", "we", "leverage", "a", "pluggable", "backbone", "en-", "coder", "to", "obtain", "the", "contextual", "representation", "f1", "(", "x", ")", "for", "each", "token", ",", "such", "as", "pre", "-", "trained", "BERT", "(", "Devlin", "et", "al", ",", "2019", ")", ",", "RoBERTa", "(", "Liu", "et", "al", ",", "2019", ")", ",", "Distil-", "BERT", "(", "Sanh", "et", "al", ",", "2019", ")", "and", "so", "on", "We", "then", "pre-", "dict", "the", "label", "˜y", "=", "MΦ", "(", "x", ")", "of", "each", "token", "with", "an", "additional", "linear", "classiﬁer", "Inspired", "by", "SPENs", "for", "sequence", "labeling", "(", "Tu", "and", "Gimpel", ",", "2018", ")", ",", "we", "also", "adopt", "an", "energy", "function", "for", "token", "classiﬁcation" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Energy", "Function", "The", "token", "-", "level", "energy", "func-", "tion", "is", "inherited", "from", "Eq", "(", "1", ")", ",", "deﬁned", "as", ":", "EΘ", "(", "x", ",", "y", ")", "=", "−", "L", "/", "summationdisplay", "n=1|E|+2", "/", "summationdisplay", "i=1yi", "n", "/", "parenleftBig", "V", "/", "latticetop", "1", ",", "if1", "(", "xn", ")", "/", "parenrightBig", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "local+L", "/", "summationdisplay", "n=1y", "/", "latticetop", "n−1W1yn", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "label", "", "(", "4", ")", "whereyi", "nis", "theithentry", "of", "the", "vector", "yn∈y", ",", "indicating", "the", "probability", "of", "the", "nthtoken", "xnbe-", "ing", "labeled", "with", "i", "(", "iforei", ",", "|E|+1", "for", "non", "-", "trigger", "and|E|+2", "for", "padding", "token", ")", "f1", "(", "·", ")", "denotes", "the", "feature", "encoder", "of", "tokens", "Here", "our", "learnable", "pa-", "rameters", "are", "Θ", "=", "(", "V1", ",", "W1", ")", ",", "thereinto", ",", "V1", ",", "i∈Rd", "is", "a", "parameter", "vector", "for", "token", "label", "i", ",", "andW1∈", "R", "(", "|E|+2", ")", "×", "(", "|E|+2", ")", "contains", "the", "bilinear", "product", "be-", "tweenyn−1andynfor", "token", "label", "pair", "terms" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Loss", "Function", "The", "training", "objective", "for", "trig-", "ger", "classiﬁcation", "is", "denoted", "by", ":", "Ltok=", "/", "summationdisplayL", "i=1", "/", "bracketleftbig", "/", "triangle", "(", "˜yi", ",", "yi", ")", "−EΘ", "(", "xi", ",", "˜yi", ")", "+", "EΘ", "(", "xi", ",", "yi", ")", "/", "bracketrightbig", "+", "+", "µ1LCE", "(", "˜yi", ",", "yi", ")", "(", "5", ")", "where", "˜yiandyirespectively", "denote", "predicted", "re-", "sults", "and", "ground", "truth", "The", "ﬁrst", "half", "of", "Eq", "(", "5", ")", "is", "inherited", "from", "Eq", "(", "3", ")", "for", "the", "energy", "function", ",", "and", "in", "the", "latter", "half", ",", "LCE", "(", "˜yi", ",", "yi", ")", "is", "the", "trigger", "classi-", "ﬁcation", "cross", "entropy", "loss", ",", "and", "µ1is", "its", "ratio", "3.5", "Sentence", "-", "Level", "Energy", "Sentence", "-", "level", "energy", "serves", "for", "event", "classiﬁca-", "tion", "Given", "the", "event", "mention", "Xiwith", "the", "trig-", "gerxt", ",", "we", "utilize", "the", "trigger", "embedding", "f1", "(", "xt", ")", "as", "the", "event", "mention", "embedding", "f2", "(", "X", ")", ",", "where", "f2", "(", "·", ")", "denotes", "the", "feature", "encoder", "of", "event", "men-", "tions", "We", "then", "predict", "the", "class", "of", "each", "event", "men-", "tion", "with", "energy", "-", "based", "hyperspheres", ",", "denoted", "by", "˜Y", "=", "MΦ", "(", "X", ")", "Speciﬁcally", ",", "we", "use", "an", "energy", "-", "based", "hyper-", "sphere", "to", "represent", "each", "event", "class", ",", "and", "assume", "that", "the", "event", "mentions", "of", "each", "event", "class", "should", "distribute", "on", "the", "corresponding", "hypersphere", "with", "the", "lowest", "energy", "We", "then", "calculate", "the", "probability", "of", "the", "event", "mention", "Xcategorizing", "into", "the", "class", "eiwith", "a", "hyperspherical", "measurement", "function", ":", "S", "(", "X", ",", "Pi", ")", "=", "exp−", "[", "/", "bardblPi−f2", "(", "X", ")", "/", "bardbl2−γ", "]", "+", "/", "summationtext|E|", "j=1exp−", "[", "/", "bardblPj−f2", "(", "X", ")", "/", "bardbl2−γ", "]", "+", "(", "6", ")", "where", "[", "a", "]", "+=", "max", "(", "0", ",", "a", ")", ",", "Pidenotes", "the", "hyper-", "sphere", "centroid", "embedding", "of", "ei.", "/", "bardbl·", "/", "bardbl", "denotes", "the", "Euclidean", "distance", "γis", "the", "radius", "of", "the", "hyper-", "sphere", ",", "which", "can", "be", "scalable", "or", "constant", "We", "sim-", "ply", "setγ=", "1", "in", "this", "paper", ",", "meaning", "that", "each", "event", "class", "is", "represented", "by", "a", "unit", "hypersphere", "Larger", "S", "(", "X", ",", "Pi", ")", "signiﬁes", "that", "the", "event", "mention", "Xare", "more", "likely", "be", "categorized", "into", "Picorresponding354", "toei", "To", "measure", "the", "energy", "score", "between", "event", "classes", "and", "event", "mentions", ",", "we", "also", "adopt", "an", "en-", "ergy", "function", "for", "event", "classiﬁcation", "Energy", "Function", "The", "sentence", "-", "level", "energy", "function", "is", "inherited", "from", "Eq", "(", "1", ")", ",", "deﬁned", "as", ":", "EΘ", "(", "X", ",", "Y", ")", "=", "−", "|E|", "/", "summationdisplay", "i=1Yi", "/", "parenleftBig", "V", "/", "latticetop", "2", ",", "if2", "(", "X", ")", "/", "parenrightBig", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "local+w", "/", "latticetop", "2g", "(", "W2Y", ")", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "label", "", "(", "7", ")", "where", "Yi∈Yindicates", "the", "probability", "of", "the", "event", "mention", "Xbeing", "categorized", "to", "ei", "Here", "our", "learn-", "able", "parameters", "are", "Θ", "=", "(", "V2", ",", "w2", ",", "W2", ")", ",", "thereinto", ",", "V2", ",", "i∈Rdis", "a", "parameter", "vector", "for", "ei", ",", "w2∈R|E|", "andW2∈R|E|×|E|" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O" ]

[ "Loss", "Function", "The", "training", "objective", "for", "event", "classiﬁcation", "is", "denoted", "by", ":", "Lsen=", "/", "summationdisplayK", "i=1", "/", "bracketleftbig", "/", "triangle", "/", "parenleftBig", "˜Yi", ",", "Yi", "/", "parenrightBig", "−EΘ", "/", "parenleftBig", "Xi", ",", "˜Yi", "/", "parenrightBig", "+", "EΘ", "(", "Xi", ",", "Yi", ")", "/", "bracketrightbig", "+", "+", "µ2LCE", "/", "parenleftBig", "˜Yi", ",", "Yi", "/", "parenrightBig", "(", "8", ")", "where", "the", "ﬁrst", "half", "is", "inherited", "from", "Eq", "(", "3", ")", ",", "and", "in", "the", "latter", "half", ",", "LCEis", "a", "cross", "entropy", "loss", "for", "predicted", "results", "˜Yiand", "ground", "truth", "Yi.µ2is", "a", "ratio", "for", "event", "classiﬁcation", "cross", "entropy", "loss", "3.6", "Document", "-", "Level", "Energy", "Document", "-", "level", "energy", "serves", "for", "event", "-", "relation", "extraction", "Given", "event", "mentions", "Xin", "each", "docu-", "ment", ",", "we", "model", "the", "embedding", "interactions", "of", "each", "event", "mention", "pair", "with", "a", "comprehensive", "feature", "vectorf3", "(", "¨X", "/", "angbracketleftij", "/", "angbracketright", ")", "=", "/", "bracketleftbig", "f2", "(", "Xi", ")", ",", "f2", "(", "Xj", ")", ",", "f2", "(", "Xi", ")", "⊙", "f2", "(", "Xj", ")", "/", "bracketrightbig", "We", "then", "predict", "the", "relation", "between", "each", "event", "mention", "pair", "with", "a", "linear", "classiﬁer", ",", "de-", "noted", "by", "˜z", "=", "MΦ", "(", "¨X", ")", "Inspired", "by", "SPENs", "for", "multi", "-", "label", "classiﬁcation", "(", "Tu", "and", "Gimpel", ",", "2018", ")", ",", "we", "also", "adopt", "an", "energy", "function", "for", "ERE" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName" ]

[ "Energy", "Function", "The", "document", "-", "level", "energy", "function", "is", "inherited", "from", "Eq", "(", "1", ")", ",", "deﬁned", "as", ":", "EΘ", "(", "¨X", ",", "z", ")", "=", "−", "|R|", "/", "summationdisplay", "i=1zi", "/", "parenleftBig", "V", "/", "latticetop", "3", ",", "if3", "(", "¨X", ")", "/", "parenrightBig", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "local+w", "/", "latticetop", "3g", "(", "W3z", ")", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "label", "", "(", "9", ")", "where", "zi∈zindicates", "the", "probability", "of", "the", "event", "mention", "pair", "¨Xhaving", "the", "relation", "of", "ri", "Here", "our", "learnable", "parameters", "are", "Θ", "=", "(", "V3", ",", "w3", ",", "W3", ")", ",", "thereinto", ",", "V3", ",", "i∈R3dis", "a", "parameter", "vector", "for", "ri", ",", "w3∈R|R|andW3∈R|R|×|R|.Loss", "Function" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O" ]

[ "The", "training", "objective", "for", "event-", "relation", "extraction", "is", "denoted", "by", ":", "Ldoc=", "/", "summationdisplayN", "k=1", "/", "bracketleftBig", "/", "triangle", "(", "˜zk", ",", "zk", ")", "−EΘ", "/", "parenleftBig", "¨Xk", ",", "˜zk", "/", "parenrightBig", "+", "EΘ", "/", "parenleftBig", "¨Xk", ",", "zk", "/", "parenrightBig", "/", "bracketrightBig", "+", "+", "µ3LCE", "(", "˜zk", ",", "zk", ")", "(", "10", ")", "where", "the", "ﬁrst", "half", "is", "inherited", "from", "Eq", "(", "3", ")", ",", "and", "in", "the", "latter", "half", ",", "LCE", "(", "˜zk", ",", "zk", ")", "is", "the", "event", "-", "relation", "extraction", "cross", "entropy", "loss", ",", "µ3is", "its", "ratio", ",", "and", "N", "denotes", "the", "quantity", "of", "event", "mention", "pairs", "Theﬁnal", "training", "loss", "forSPEECHMΦparam-", "eterized", "by", "Φis", "deﬁned", "as", ":", "L", "=", "λ1Ltok+λ2Lsen+λ3Ldoc+", "/", "bardblΦ", "/", "bardbl2", "2", "(", "11", ")", "whereλ1", ",", "λ2", ",", "λ3are", "the", "loss", "ratios", "respectively", "for", "trigger", "classiﬁcation", ",", "event", "classiﬁcation", "and", "event", "-", "relation", "extraction", "tasks", "We", "add", "the", "penalty", "term", "/", "bardblΦ", "/", "bardbl2", "2withL2regularization", "4", "Experiments", "The", "experiments", "refer", "to", "event", "-", "centric", "structured", "prediction", "(", "ECSP", ")", "and", "comprise", "three", "tasks", ":", "(", "1", ")", "Trigger", "Classiﬁcation", ";", "(", "2", ")", "Event", "Classiﬁcation", ";", "and", "(", "3", ")", "Event", "-", "Relation", "Extraction" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]

[ "4.1", "Datasets", "and", "Baselines", "MAVEN", "-ERE", "ONTOEVENT", "-DOC", "#", "Document", "4,480", "4,115", "#", "Mention", "112,276", "60,546", "#", "Temporal", "1,216,217", "5,914", "#", "Causal", "57,992", "14,155", "#", "Subevent", "15,841", "/", "Table", "1", ":", "The", "statistics", "about", "M", "AVEN", "-EREand", "ONTOEVENT", "-DOCused", "in", "this", "paper" ]

[ "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O" ]

[ "Datasets", "Considering", "event", "-", "centric", "structured", "prediction", "tasks", "in", "this", "paper", "require", "ﬁne", "-", "grained", "annotations", "for", "events", ",", "such", "as", "labels", "of", "tokens", ",", "event", "mentions", ",", "and", "event", "-", "relations", ",", "we", "select", "two", "newly", "-", "proposed", "datasets", "meeting", "the", "require-", "ments", ":", "MAVEN", "-ERE", "(", "Wang", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ ",", "2022", ")", "and", "ONTOEVENT", "-DOC", "(", "Deng", "et", "al" ]

[ "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ ",", "2021", ")", "Note", "that", "ONTOEVENT", "-DOCis", "derived", "from", "ONTOEVENT", "(", "Deng", "et", "al" ]

[ "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "O", "O", "O", "O" ]

[ ",", "2021", ")", "which", "is", "formatted", "in", "a", "sen-", "tence", "level", "We", "reorganize", "it", "and", "make", "it", "format", "in", "a", "document", "level", ",", "similar", "to", "MAVEN", "-ERE" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName" ]

[ "Thus", "the", "train", ",", "validation", ",", "and", "test", "sets", "of", "ONTOEVENT", "-", "DOCare", "also", "different", "from", "the", "original", "ONTO-", "EVENT" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName" ]

[ "We", "release", "the", "reconstructed", "dataset", "and355", "ModelMAVEN", "-ERE", "ONTOEVENT", "-DOC", "P", "R", "F1", "P", "R", "F1", "DMCNN†60.09±0.36", "60.34", "±0.45", "60.21", "±0.21", "50.42±0.99", "52.24", "±0.46", "51.31", "±0.39", "BiLSTM", "-", "CRF†61.30±1.07", "64.95", "±1.03", "63.06", "±0.23", "48.86±0.81", "55.91", "±0.56", "52.10", "±0.43", "DMBERT†56.79±0.54", "76.24", "±0.26", "65.09", "±0.32", "53.82±1.01", "66.12", "±1.02", "59.32", "±0.24", "BERT", "-", "CRF†62.79±0.34", "70.51", "±0.94", "65.73", "±0.57", "52.18±0.81", "62.31", "±0.45", "56.80", "±0.53", "MLBiNet‡63.50±0.57", "63.80", "±0.47", "63.60", "±0.52", "56.09±0.93", "57.67", "±0.81", "56.87", "±0.87", "TANL‡68.66±0.18", "63.79", "±0.19", "66.13", "±0.15", "57.73±0.65", "59.93", "±0.31", "59.13", "±0.52", "TEXT2EVENT‡59.91±0.83", "64.62", "±0.65", "62.16", "±0.25", "52.93±0.94", "62.27", "±0.49", "57.22", "±0.75", "CorED", "-", "BERT‡67.62±1.03", "69.49", "±0.63", "68.49", "±0.42", "60.27±0.55", "62.25", "±0.66", "61.25", "±0.19", "SPEECH", "78.82±0.82", "79.37±0.75", "79.09±0.82", "74.67±0.58", "74.73±0.62", "74.70±0.58", "w", "/", "o", "energy", "76.12±0.32", "76.66", "±0.25", "76.38", "±0.28", "71.76±0.38", "72.17", "±0.39", "71.96", "±0.38", "Table", "2", ":", "Performance", "(", "%", ")", "of", "trigger", "classiﬁcation", "on", "M", "AVEN", "-EREvalid", "set", "and", "O", "NTOEVENT", "-DOCtest", "set", ".†", ":", "re-", "sults", "are", "produced", "with", "codes", "referred", "to", "Wang", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2020b", ")", ";", "‡", ":", "results", "are", "produced", "with", "ofﬁcial", "implementation", "Best", "results", "are", "marked", "in", "bold", ",", "and", "the", "second", "best", "results", "are", "underlined", "code", "in", "Github1for", "reproduction", "To", "simplify", "the", "experiment", "settings", ",", "we", "dismiss", "hierarchical", "rela-", "tions", "of", "ONTOEVENT", "and", "coreference", "relations", "of", "MAVEN", "-EREin", "this", "paper" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O" ]

[ "More", "details", "of", "multi-", "faceted", "event", "-", "relations", "of", "these", "two", "datasets", "are", "introduced", "in", "Appendix", "A", "and", "Github", "We", "present", "the", "statistics", "about", "these", "two", "datasets", "in", "Table", "1", "The", "document", "quantity", "for", "train", "/", "valid", "/", "test", "set", "of", "MAVEN", "-EREandONTOEVENT", "are", "respectively", "2,913", "/", "710", "/", "857", ",", "and", "2,622", "/", "747", "/", "746" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Baselines", "For", "trigger", "classiﬁcation", "and", "event", "classiﬁcation", ",", "we", "adopt", "models", "aggregated", "dy-", "namic", "multi", "-", "pooling", "mechanism", ",", "i.e.", ",", "DMCNN", "(", "Chen", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2015", ")", "and", "DMBERT", "(", "Wang", "et", "al" ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2019", ")", ";", "sequence", "labeling", "models", "with", "conditional", "random", "ﬁeld", "(", "CRF", ")", "(", "Lafferty", "et", "al", ",", "2001", ")", ",", "i.e.", ",", "BiLSTM", "-", "CRF", "and", "BERT", "-", "CRF", ";", "generative", "ED", "models", ",", "i.e.", ",", "TANL", "(", "Paolini", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2021", ")", "and", "TEXT2EVENT", "(", "Lu", "et", "al" ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2021", ")", "We", "also", "adopt", "some", "ED", "models", "considering", "document", "-", "level", "as-", "sociations", ",", "i.e.", ",", "MLBiNet", "(", "Lou", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2021", ")", "and", "CorED", "-", "BERT", "(", "Sheng", "et", "al" ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2022", ")", "Besides", ",", "we", "compare", "our", "energy", "-", "based", "hyperspheres", "with", "the", "vanilla", "hyperspherical", "prototype", "network", "(", "HPN", ")", "(", "Mettes", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O" ]

[ ",", "2019", ")", "and", "prototype", "-", "based", "model", "OntoED", "(", "Deng", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2021", ")", "Note", "that", "unlike", "vanilla", "HPN", "(", "Mettes", "et", "al", ",", "2019", ")", "which", "represents", "all", "classes", "on", "one", "hypersphere", ",", "the", "HPN", "adopted", "in", "this", "paper", "represents", "each", "class", "with", "a", "distinct", "hypersphere" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "event", "-", "relation", "extraction", ",", "we", "se-", "lect", "RoBERTa", "(", "Liu", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2019", ")", ",", "which", "is", "the", "same", "baseline", "used", "in", "MAVEN", "-ERE", "(", "Wang", "et", "al", ",", "2022", ")", ",", "and", "also", "serves", "as", "the", "backbone", "for", "most", "of", "recent", "ERE", "models", "(", "Hwang", "et", "al", ",", "2022", ";", "Man", "et", "al", ",", "2022", ")", "1https", ":", "/", "/", "github.com", "/", "zjunlp", "/", "SPEECH.4.2", "Implementation", "Details", "With", "regard", "to", "settings", "of", "the", "training", "process", ",", "Adam", "(", "Kingma", "and", "Ba", ",", "2015", ")", "optimizer", "is", "used", ",", "with", "the", "learning", "rate", "of", "5e-5", "The", "maximum", "length", "Lof", "a", "token", "sequence", "is", "128", ",", "and", "the", "maximum", "quantity", "of", "event", "mentions", "in", "one", "document", "is", "set", "to", "40", "for", "MAVEN", "-EREand", "50", "for", "ONTOEVENT", "-", "DOC" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName" ]

[ "The", "loss", "ratios", ",", "µ1", ",", "µ2", ",", "µ3", ",", "for", "token", ",", "sen-", "tence", "and", "document", "-", "level", "energy", "function", "are", "all", "set", "to", "1", "The", "value", "of", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", ",", "for", "trigger", "classiﬁcation", ",", "event", "classiﬁcation", "and", "event-", "relation", "extraction", "depends", "on", "different", "tasks", ",", "and", "we", "introduce", "them", "in", "Appendix", "B", "We", "evaluate", "the", "performance", "of", "ED", "and", "ERE", "with", "micro", "precision", "(", "P", ")", ",", "Recall", "(", "R", ")", "and", "F1", "Score", "(", "F1", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricValue", "O" ]

[ "4.3", "Event", "Trigger", "Classiﬁcation", "We", "present", "details", "of", "event", "trigger", "classiﬁcation", "experiment", "settings", "in", "Appendix", "B.1", "As", "seen", "from", "the", "results", "in", "Table", "2", ",", "SPEECH", "demonstrates", "supe-", "rior", "performance", "over", "all", "baselines", ",", "notably", "MLBi-", "Net", "(", "Lou", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2021", ")", "and", "CorED", "-", "BERT", "(", "Sheng", "et", "al" ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2022", ")", ",", "even", "if", "these", "two", "models", "consider", "cross", "-", "sentence", "semantic", "information", "or", "incorpo-", "rate", "type", "-", "level", "and", "instance", "-", "level", "correlations", "The", "main", "reason", "may", "be", "due", "to", "the", "energy", "-", "based", "nature", "ofSPEECH" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName" ]

[ "As", "seen", "from", "the", "last", "row", "of", "Table", "2", ",", "the", "removal", "of", "energy", "functions", "from", "SPEECH", "can", "result", "in", "a", "performance", "decrease" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O" ]

[ "Speciﬁcally", "for", "trigger", "classiﬁcation", ",", "energy", "-", "based", "modeling", "en-", "ables", "capture", "long", "-", "range", "dependency", "of", "tokens", "and", "places", "no", "limits", "on", "the", "size", "of", "event", "structures", "In", "addition", ",", "SPEECH", "also", "excels", "generative", "models", ",", "i.e.", ",", "TANL", "(", "Paolini", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2021", ")", "and", "TEXT2EVENT", "(", "Lu", "et", "al", ",", "2021", ")", ",", "thereby", "demonstrating", "the", "efﬁcacy", "of", "energy", "-", "based", "modeling.356", "ModelMAVEN", "-ERE", "ONTOEVENT", "-DOC", "P", "R", "F1", "P", "R", "F1", "DMCNN", "61.74±0.32", "63.11", "±0.34", "62.42", "±0.15", "51.52±0.87", "52.84", "±0.61", "52.02", "±0.36", "DMBERT", "59.45±0.48", "77.77±0.21", "67.39", "±0.25", "57.06±1.04", "72.97±1.11", "65.03±0.45", "HPN", "62.80±0.72", "62.62", "±0.99", "62.71", "±0.85", "61.18±0.81", "60.88", "±0.79", "61.03", "±0.81", "OntoED", "67.82±1.70", "67.72", "±1.52", "67.77", "±1.61", "64.32±1.15", "64.16", "±1.31", "64.25", "±1.22", "TANL", "68.73±0.16", "65.65", "±0.63", "67.15", "±0.29", "60.34±0.71", "62.52", "±0.43", "61.42", "±0.51", "TEXT2EVENT", "61.14±0.80", "65.93", "±0.69", "63.44", "±0.19", "56.76±0.97", "66.78", "±0.48", "61.36", "±0.77", "SPEECH", "72.91±0.76", "72.81", "±0.76", "72.86±0.77", "58.92±0.96", "58.45", "±1.08", "58.69", "±1.40", "w", "/", "o", "energy", "71.22±0.58", "71.07", "±0.45", "71.12", "±0.45", "56.12±1.87", "55.69", "±1.66", "55.91", "±1.76", "Table", "3", ":", "Performance", "(", "%", ")", "of", "event", "classiﬁcation", "on", "M", "AVEN", "-EREvalid", "set", "and", "O", "NTOEVENT", "-DOCtest", "set", "4.4", "Event", "Classiﬁcation", "The", "speciﬁcs", "of", "event", "classiﬁcation", "experiment", "set-", "tings", "are", "elaborated", "in", "Appendix", "B.2", ",", "with", "results", "illustrated", "in", "Table", "3", "We", "can", "observe", "that", "SPEECH", "provides", "considerable", "advantages", "on", "MAVEN", "-ERE", ",", "while", "the", "performance", "on", "ONTOEVENT", "-DOCis", "not", "superior", "enough" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O" ]

[ "ONTOEVENT", "-DOCcontains", "overlapping", "where", "multiple", "event", "classes", "may", "ex-", "ist", "in", "the", "same", "event", "mention", ",", "which", "could", "be", "the", "primary", "reason", "for", "SPEECH", "not", "performing", "well", "enough", "in", "this", "case" ]

[ "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "impact", "could", "be", "exacer-", "bated", "when", "joint", "training", "with", "other", "ECSP", "tasks" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]

[ "Upon", "comparison", "with", "prototype", "-", "based", "methods", "without", "energy", "-", "based", "modeling", ",", "i.e.", ",", "HPN", "(", "Mettes", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2019", ")", "and", "OntoED", "(", "Deng", "et", "al" ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2021", ")", ",", "SPEECH", "is", "still", "dominant", "on", "MAVEN", "-ERE", ",", "despite", "HPN", "represents", "classes", "with", "hyperspheres", "and", "On-", "toED", "leverages", "hyperspheres", "integrated", "with", "event-", "relation", "semantics" ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "If", "we", "exclude", "energy", "functions", "from", "SPEECH", ",", "performance", "will", "degrade", ",", "as", "seen", "from", "the", "last", "row", "in", "Table", "3" ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "insight", "sug-", "gests", "that", "energy", "functions", "contribute", "positively", "to", "event", "classiﬁcation", ",", "which", "enable", "the", "model", "to", "directly", "capture", "complicated", "dependency", "be-", "tween", "event", "mentions", "and", "event", "types", ",", "instead", "of", "implicitly", "inferring", "from", "data", "Besides", ",", "SPEECH", "also", "outperforms", "generative", "models", "like", "TANL", "and", "TEXT2EVENT", "onMAVEN", "-ERE", ",", "indicating", "the", "su-", "periority", "of", "energy", "-", "based", "hyperspherical", "modeling" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.5", "Event", "-", "Relation", "Extraction", "We", "present", "the", "speciﬁcs", "of", "event", "-", "relation", "extrac-", "tion", "experiment", "settings", "in", "Appendix", "B.3", "As", "seen", "from", "the", "results", "in", "Table", "4", ",", "SPEECH", "achieves", "dif-", "ferent", "performance", "across", "the", "two", "ERE", "datasets" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "OnONTOEVENT", "-DOCdataset", ",", "SPEECH", "observ-", "ably", "outperforms", "RoBERTa", "on", "all", "ERE", "sub-", "tasks", ",", "demonstrating", "the", "effectiveness", "of", "SPEECH", "equipped", "with", "energy", "-", "based", "hyperspheres", ",", "so", "that", "SPEECH", "can", "capture", "the", "dependency", "among", "eventERE", "Task", "RoBERTa", "SPEECH", "TemporalMAVEN", "-ERE", "49.21±0.33", "39.64±0.79", "+", "joint", "49.91±0.58", "40.23±0.34", "ONTOEVENT", "-DOC", "37.68±0.47", "52.36±0.71", "+", "joint", "35.63±0.70", "65.69±0.39", "CausalMAVEN", "-ERE", "29.91±0.34", "16.28±0.53", "+", "joint", "29.03±0.91", "16.31±0.97", "ONTOEVENT", "-DOC", "35.48±1.77", "79.29±2.15", "+", "joint", "44.99±0.29", "67.76±1.28", "SubeventMAVEN", "-ERE", "19.80±0.44", "19.91±0.52", "+", "joint", "19.14±2.81", "21.96±1.24", "All", "JointMAVEN", "-ERE", "34.79±1.13", "37.85±0.72", "ONTOEVENT", "-DOC", "28.60±0.13", "54.19±2.28", "Table", "4", ":", "F1", "(", "%", ")", "performance", "of", "ERE", "on", "M", "AVEN", "-ERE", "valid", "set", "and", "O", "NTOEVENT", "-DOCtest", "set" ]

[ "B-TaskName", "I-TaskName", "O", "B-MethodName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "“", "+", "joint", "”", "in", "the", "2", "ndcolumn", "denotes", "jointly", "training", "on", "all", "ERE", "tasks", "and", "evaluating", "on", "the", "speciﬁc", "one", ",", "with", "the", "same", "setting", "as", "Wang", "et", "al", "(", "2022", ")", "“", "All", "Joint", "”", "in", "the", "last", "two", "rows", "denotes", "treating", "all", "ERE", "tasks", "as", "one", "task" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O" ]

[ "mention", "pairs", "and", "event", "-", "relation", "labels", "While", "on", "MAVEN", "-ERE", ",", "SPEECH", "signiﬁcantly", "outperforms", "RoBERTa", "on", "ERE", "subtasks", "referring", "to", "subevent", "relations", "or", "trained", "on", "all", "event", "-", "relations", ",", "but", "fails", "to", "exceed", "RoBERTa", "on", "ERE", "subtasks", "referring", "to", "temporal", "and", "causal", "relations" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "B-MethodName", "O", "O", "B-MethodName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "possible", "reason", "is", "that", "MAVEN", "-EREcontains", "less", "positive", "event-", "relations", "than", "negative", "NA", "relations" ]

[ "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Given", "that", "SPEECH", "models", "all", "these", "relations", "equivalently", "with", "the", "energy", "function", ",", "it", "becomes", "challenging", "to", "classify", "NA", "effectively" ]

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "But", "this", "issue", "will", "be", "markedly", "improved", "if", "the", "quantity", "of", "positive", "event-", "relations", "decreases", ",", "since", "SPEECH", "performs", "better", "on", "subevent", "relations", "despite", "MAVEN", "-EREhav-", "ing", "much", "less", "subevent", "relations", "than", "temporal", "and", "causal", "ones", "as", "shown", "in", "Table", "1" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Furthermore", ",", "even", "though", "ONTOEVENT", "-DOCcontaining", "fewer", "posi-", "tive", "event", "-", "relations", "than", "NA", "overall", ",", "SPEECH", "still", "performs", "well" ]

[ "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O" ]

[ "These", "results", "suggest", "that", "SPEECH", "excels", "in", "modeling", "classes", "with", "fewer", "samples" ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "Note", "that", "SPEECH", "also", "performs", "well", "when", "train-", "ing", "on", "all", "event", "-", "relations", "(", "“", "All", "Joint", "”", ")", "of", "the", "two", "datasets", ",", "indicating", "that", "SPEECH", "is", "still", "advanta-", "geous", "in", "the", "scenario", "with", "more", "classes.357", "5", "Further", "Analysis", "5.1", "Analysis", "On", "Energy", "-", "Based", "Modeling", "We", "list", "some", "values", "of", "energy", "loss", "deﬁned", "in", "Eq", "(", "5", ")", ",", "(", "8", ")", "and", "(", "10", ")", "when", "training", "respectively", "for", "token", ",", "sentence", "and", "document", ",", "as", "presented", "in", "Figure", "3" ]

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "values", "of", "token", "-", "level", "energy", "loss", "are", "observ-", "ably", "larger", "than", "those", "at", "the", "sentence", "and", "document", "levels", "This", "can", "be", "attributed", "to", "the", "fact", "that", "the", "en-", "ergy", "loss", "is", "related", "to", "the", "quantity", "of", "samples", ",", "and", "a", "single", "document", "typically", "contains", "much", "more", "tokens", "than", "sentences", "or", "sentence", "pairs", "All", "three", "levels", "of", "energy", "loss", "exhibit", "a", "gradual", "decrease", "over", "the", "course", "of", "training", ",", "indicating", "that", "SPEECH", ",", "through", "energy", "-", "based", "modeling", ",", "effectively", "mini-", "mizes", "the", "discrepancy", "between", "predicted", "results", "and", "ground", "truth" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "energy", "functions", "for", "token", ",", "sentence", "and", "document", "deﬁned", "in", "Eq", "(", "4", ")", ",", "(", "7", ")", "and", "(", "9", ")", ",", "reﬂect", "that", "the", "implementation", "of", "energy", "-", "based", "modeling", "in", "SPEECH", "is", "geared", "towards", "enhanc-", "ing", "compatibility", "between", "input", "/", "output", "pairs" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "gradually", "-", "decreasing", "energy", "loss", "demonstrates", "that", "SPEECH", "can", "model", "intricate", "event", "structures", "at", "the", "token", ",", "sentence", ",", "and", "document", "levels", "through", "energy", "-", "based", "optimization", ",", "thereby", "improving", "the", "outcomes", "of", "structured", "prediction" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "0", "5", "10", "15", "200255075100125150175200Loss", "for", "Energy", "token", "-", "level", "0", "5", "10", "15", "20", "Iteration", "Step02468Loss", "for", "Energy", "sentence", "-", "level", "document", "-", "level", "Figure", "3", ":", "Illustration", "of", "loss", "for", "energy", "5.2", "Case", "Study", ":", "Energy", "-", "Based", "Hyperspheres", "As", "seen", "in", "Figure", "4", ",", "we", "visualize", "the", "event", "class", "embedding", "of", "“", "Attack", "”", "and", "20", "event", "mention", "embeddings", "as", "generated", "by", "both", "SPEECH", "and", "SPEECH", "without", "energy", "functions" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O" ]

[ "We", "observe", "thatforSPEECH", "with", "energy", "-", "based", "modelling", ",", "the", "instances", "lie", "near", "the", "surface", "of", "the", "correspond-", "ing", "hypersphere", ",", "while", "they", "are", "more", "scattered", "when", "not", "equipped", "with", "energy", "-", "based", "modeling", ",", "which", "subsequently", "diminishes", "the", "performance", "of", "event", "classiﬁcation", "This", "observation", "suggests", "that", "SPEECH", "derives", "signiﬁcant", "beneﬁts", "from", "modeling", "with", "energy", "-", "based", "hyperspheres" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "visualiza", "-", "tion", "results", "further", "demonstrate", "the", "effectiveness", "of", "SPEECH", "equipped", "with", "energy", "-", "based", "modeling" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O" ]

[ "1.00", "0.75", "0.50", "0.25", "0.00", "0.25", "0.50", "0.75", "1.001.00", "0.75", "0.50", "0.25", "0.000.250.500.751.001.0", "0.5", "0.00.51.0", "SPEECH", "SPEECH", "w", "/", "o", "energy", "Figure", "4", ":", "Visualization", "of", "an", "example", "event", "class" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5.3", "Error", "Analysis", "We", "further", "conduct", "error", "analysis", "by", "a", "retrospection", "of", "experimental", "results", "and", "datasets", "(", "1", ")", "One", "typi-", "cal", "error", "relates", "to", "the", "unbalanced", "data", "distribution", "Considering", "every", "event", "type", "and", "event", "-", "relation", "contain", "different", "amount", "of", "instances", ",", "uniﬁed", "mod-", "eling", "with", "energy", "-", "based", "hyperspheres", "may", "not", "al-", "ways", "be", "impactful", "(", "2", ")", "The", "second", "error", "relates", "to", "the", "overlapping", "event", "mentions", "among", "event", "types", ",", "meaning", "that", "the", "same", "sentence", "may", "mention", "mul-", "tiple", "event", "types", "As", "ONTOEVENT", "-DOCcontains", "many", "overlappings", ",", "it", "might", "be", "the", "reason", "for", "its", "mediocre", "performance", "on", "ED" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName" ]

[ "(", "3", ")", "The", "third", "error", "relates", "to", "associations", "with", "event", "-", "centric", "structured", "prediction", "tasks", "As", "trigger", "classiﬁcation", "is", "closely", "related", "to", "event", "classiﬁcation", ",", "wrong", "prediction", "of", "tokens", "will", "also", "inﬂuence", "classifying", "events", "6", "Conclusion", "and", "Future", "Work", "In", "this", "paper", ",", "we", "propose", "a", "novel", "approach", "entitled", "SPEECH", "to", "tackle", "event", "-", "centric", "structured", "predic-", "tion", "with", "energy", "-", "based", "hyperspheres" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "represent", "event", "classes", "as", "hyperspheres", "with", "token", ",", "sentence", "and", "document", "-", "level", "energy", ",", "respectively", "for", "trigger", "classiﬁcation", ",", "event", "classiﬁcation", "and", "event", "rela-", "tion", "extraction", "tasks", "We", "evaluate", "SPEECH", "on", "two", "event", "-", "centric", "structured", "prediction", "datasets", ",", "and", "experimental", "results", "demonstrate", "that", "SPEECH", "is", "able", "to", "model", "manifold", "event", "structures", "with", "depen-", "dency", "and", "obtain", "effective", "event", "representations" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "the", "future", ",", "we", "intend", "to", "enhance", "our", "work", "by", "mod-", "eling", "more", "complicated", "structures", "and", "extend", "it", "to", "other", "structured", "prediction", "tasks.358", "Acknowledgements", "We", "would", "like", "to", "express", "gratitude", "to", "the", "anony-", "mous", "reviewers", "for", "their", "kind", "comments", "This", "work", "was", "supported", "by", "the", "Zhejiang", "Provin-", "cial", "Natural", "Science", "Foundation", "of", "China", "(", "No", "LGG22F030011", ")", ",", "Yongjiang", "Talent", "Introduction", "Programme", "(", "2021A-156", "-", "G", ")", ",", "CAAI", "-", "Huawei", "Mind-", "Spore", "Open", "Fund", ",", "and", "NUS", "-", "NCS", "Joint", "Laboratory", "(", "A-0008542", "-", "00", "-", "00", ")", "Limitations", "Although", "SPEECH", "performs", "well", "on", "event", "-", "centric", "structured", "prediction", "tasks", "in", "this", "paper", ",", "it", "still", "has", "some", "limitations" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "ﬁrst", "limitation", "relates", "to", "efﬁciency", "As", "SPEECH", "involves", "many", "tasks", "and", "requires", "complex", "calculation", ",", "the", "training", "pro-", "cess", "is", "not", "very", "prompt" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "second", "limitation", "relates", "to", "robustness", "As", "seen", "in", "the", "experimen-", "tal", "analysis", "in§4.5", ",", "SPEECH", "seems", "not", "always", "robust", "to", "unevenly", "-", "distributed", "data" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "third", "limitation", "relates", "to", "universality", "Not", "all", "event-", "centric", "structured", "prediction", "tasks", "can", "simultane-", "ously", "achieve", "the", "best", "performance", "at", "the", "same", "settings", "of", "S", "PEECH" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName" ]

[ "References", "David", "Belanger", "and", "Andrew", "McCallum", "2016", "Struc-", "tured", "prediction", "energy", "networks", "In", "ICML", ",", "vol-", "ume", "48", "of", "JMLR", "Workshop", "and", "Conference", "Pro-", "ceedings", ",", "pages", "983–992", "JMLR.org", "David", "Belanger", ",", "Bishan", "Yang", ",", "and", "Andrew", "McCallum", "2017", "End", "-", "to", "-", "end", "learning", "for", "structured", "prediction", "energy", "networks", "In", "ICML", ",", "volume", "70", "of", "Proceed-", "ings", "of", "Machine", "Learning", "Research", ",", "pages", "429–439", "PMLR", "Yubo", "Chen", ",", "Liheng", "Xu", ",", "Kang", "Liu", ",", "Daojian", "Zeng", ",", "and", "Jun", "Zhao", "2015", "Event", "extraction", "via", "dynamic", "multi-", "pooling", "convolutional", "neural", "networks", "In", "ACL", "(", "1", ")", ",", "pages", "167–176", "The", "Association", "for", "Computer", "Lin-", "guistics", "Shiyao", "Cui", ",", "Bowen", "Yu", ",", "Tingwen", "Liu", ",", "Zhenyu", "Zhang", ",", "Xuebin", "Wang", ",", "and", "Jinqiao", "Shi", "2020", "Edge-", "enhanced", "graph", "convolution", "networks", "for", "event", "de-", "tection", "with", "syntactic", "relation", "In", "EMNLP", "(", "Find-", "ings", ")", ",", "pages", "2329–2339", "Association", "for", "Computa-", "tional", "Linguistics", "Shumin", "Deng", ",", "Ningyu", "Zhang", ",", "Hui", "Chen", ",", "Chuanqi", "Tan", ",", "Fei", "Huang", ",", "Changliang", "Xu", ",", "and", "Huajun", "Chen", "2022", "Low", "-", "resource", "extraction", "with", "knowledge-", "aware", "pairwise", "prototype", "learning", "Knowl", "Based", "Syst", ",", "235:107584.Shumin", "Deng", ",", "Ningyu", "Zhang", ",", "Jiaojian", "Kang", ",", "Yichi", "Zhang", ",", "Wei", "Zhang", ",", "and", "Huajun", "Chen", "2020", "Meta-", "learning", "with", "dynamic", "-", "memory", "-", "based", "prototypical", "network", "for", "few", "-", "shot", "event", "detection", "In", "WSDM", ",", "pages", "151–159", "ACM", "Shumin", "Deng", ",", "Ningyu", "Zhang", ",", "Luoqiu", "Li", ",", "Hui", "Chen", ",", "Huaixiao", "Tou", ",", "Mosha", "Chen", ",", "Fei", "Huang", ",", "and", "Hua-", "jun", "Chen", "2021", "Ontoed", ":", "Low", "-", "resource", "event", "detec-", "tion", "with", "ontology", "embedding", "In", "ACL", "/", "IJCNLP", "(", "1", ")", ",", "pages", "2828–2839", "Association", "for", "Computational", "Linguistics", "Jacob", "Devlin", ",", "Ming", "-", "Wei", "Chang", ",", "Kenton", "Lee", ",", "and", "Kristina", "Toutanova", "2019", "BERT", ":", "pre", "-", "training", "of", "deep", "bidirectional", "transformers", "for", "language", "under-", "standing", "In", "NAACL", "-", "HLT", "(", "1", ")", ",", "pages", "4171–4186", "As-", "sociation", "for", "Computational", "Linguistics", "Ning", "Ding", ",", "Xiaobin", "Wang", ",", "Yao", "Fu", ",", "Guangwei", "Xu", ",", "Rui", "Wang", ",", "Pengjun", "Xie", ",", "Ying", "Shen", ",", "Fei", "Huang", ",", "Hai", "-", "Tao", "Zheng", ",", "and", "Rui", "Zhang", "2021", "Prototypical", "repre-", "sentation", "learning", "for", "relation", "extraction", "In", "ICLR", "OpenReview.net", "Xinya", "Du", "and", "Claire", "Cardie", "2020", "Event", "extraction", "by", "answering", "(", "almost", ")", "natural", "questions", "In", "EMNLP", "(", "1", ")", ",", "pages", "671–683", "Association", "for", "Computational", "Linguistics", "Rujun", "Han", ",", "Yichao", "Zhou", ",", "and", "Nanyun", "Peng", "2020", "Do-", "main", "knowledge", "empowered", "structured", "neural", "net", "for", "end", "-", "to", "-", "end", "event", "temporal", "relation", "extraction", "InEMNLP", "(", "1", ")", ",", "pages", "5717–5729", "Association", "for", "Computational", "Linguistics", "I", "-", "Hung", "Hsu", ",", "Kuan", "-", "Hao", "Huang", ",", "Elizabeth", "Boschee", ",", "Scott", "Miller", ",", "Prem", "Natarajan", ",", "Kai", "-", "Wei", "Chang", ",", "and", "Nanyun", "Peng", "2022", "DEGREE", ":", "A", "data-", "efﬁcient", "generation", "-", "based", "event", "extraction", "model", "InNAACL", "-", "HLT", ",", "pages", "1890–1908", "Association", "for", "Computational", "Linguistics", "EunJeong", "Hwang", ",", "Jay", "-", "Yoon", "Lee", ",", "Tianyi", "Yang", ",", "Dhru-", "vesh", "Patel", ",", "Dongxu", "Zhang", ",", "and", "Andrew", "McCallum", "2022", "Event", "-", "event", "relation", "extraction", "using", "proba-", "bilistic", "box", "embedding", "In", "ACL", "(", "2", ")", ",", "pages", "235–244", "Association", "for", "Computational", "Linguistics", "Abhyuday", "Jagannatha", "and", "Hong", "Yu", "2016", "Structured", "prediction", "models", "for", "RNN", "based", "sequence", "labeling", "in", "clinical", "text", "In", "EMNLP", ",", "pages", "856–865", "The", "As-", "sociation", "for", "Computational", "Linguistics", "Diederik", "P", "Kingma", "and", "Jimmy", "Ba", "2015", "Adam", ":", "A", "method", "for", "stochastic", "optimization", "In", "ICLR", "(", "Poster", ")", "Julia", "Kreutzer", ",", "Stefan", "Riezler", ",", "and", "Carolin", "Lawrence", "2021", "Ofﬂine", "reinforcement", "learning", "from", "human", "feedback", "in", "real", "-", "world", "sequence", "-", "to", "-", "sequence", "tasks", "InSPNLP", "@", "ACL", "-", "IJCNLP", ",", "pages", "37–43", "Associa-", "tion", "for", "Computational", "Linguistics.359", "Julia", "Kreutzer", ",", "Artem", "Sokolov", ",", "and", "Stefan", "Riezler", "2017", "Bandit", "structured", "prediction", "for", "neural", "sequence", "-", "to", "-", "sequence", "learning", "In", "ACL", "(", "1", ")", ",", "pages", "1503–1513", "Association", "for", "Computational", "Linguis-", "tics", "John", "D", "Lafferty", ",", "Andrew", "McCallum", ",", "and", "Fernando", "C", "N", "Pereira", "2001", "Conditional", "random", "ﬁelds", ":", "Probabilistic", "models", "for", "segmenting", "and", "labeling", "se-", "quence", "data", "In", "ICML", ",", "pages", "282–289", "Morgan", "Kaufmann", "Viet", "Dac", "Lai", ",", "Franck", "Dernoncourt", ",", "and", "Thien", "Huu", "Nguyen", "2021", "Learning", "prototype", "representations", "across", "few", "-", "shot", "tasks", "for", "event", "detection", "In", "EMNLP", "(", "1", ")", ",", "pages", "5270–5277", "Association", "for", "Computa-", "tional", "Linguistics", "Viet", "Dac", "Lai", ",", "Tuan", "Ngo", "Nguyen", ",", "and", "Thien", "Huu", "Nguyen", "2020", "Event", "detection", ":", "Gate", "diversity", "and", "syntactic", "importance", "scores", "for", "graph", "convolution", "neural", "networks", "In", "EMNLP", "(", "1", ")", ",", "pages", "5405–5411", "Association", "for", "Computational", "Linguistics", "Yann", "Lecun", ",", "Sumit", "Chopra", ",", "Raia", "Hadsell", ",", "Marc", "Aure-", "lio", "Ranzato", ",", "and", "Fu", "Jie", "Huang", "2006", "A", "tutorial", "on", "energy", "-", "based", "learning", "Predicting", "structured", "data", "Manling", "Li", ",", "Qi", "Zeng", ",", "Ying", "Lin", ",", "Kyunghyun", "Cho", ",", "Heng", "Ji", ",", "Jonathan", "May", ",", "Nathanael", "Chambers", ",", "and", "Clare", "R", "V", "oss", "2020", "Connecting", "the", "dots", ":", "Event", "graph", "schema", "induction", "with", "path", "language", "modeling", "In", "EMNLP", "(", "1", ")", ",", "pages", "684–695", "Association", "for", "Com-", "putational", "Linguistics", "Qi", "Li", ",", "Heng", "Ji", ",", "and", "Liang", "Huang", "2013", "Joint", "event", "extraction", "via", "structured", "prediction", "with", "global", "fea-", "tures", "In", "ACL", "(", "1", ")", ",", "pages", "73–82", "The", "Association", "for", "Computer", "Linguistics", "Ying", "Lin", ",", "Heng", "Ji", ",", "Fei", "Huang", ",", "and", "Lingfei", "Wu", "2020", "A", "joint", "neural", "model", "for", "information", "extraction", "with", "global", "features", "In", "ACL", ",", "pages", "7999–8009", "Associa-", "tion", "for", "Computational", "Linguistics", "Jian", "Liu", ",", "Yubo", "Chen", ",", "Kang", "Liu", ",", "Wei", "Bi", ",", "and", "Xiaojiang", "Liu", "2020a", "Event", "extraction", "as", "machine", "reading", "comprehension", "In", "EMNLP", "(", "1", ")", ",", "pages", "1641–1651", "Association", "for", "Computational", "Linguistics", "Kang", "Liu", ",", "Yubo", "Chen", ",", "Jian", "Liu", ",", "Xinyu", "Zuo", ",", "and", "Jun", "Zhao", "2020b", "Extracting", "events", "and", "their", "relations", "from", "texts", ":", "A", "survey", "on", "recent", "research", "progress", "and", "challenges", "AI", "Open", ",", "1:22–39", "Yinhan", "Liu", ",", "Myle", "Ott", ",", "Naman", "Goyal", ",", "Jingfei", "Du", ",", "Man-", "dar", "Joshi", ",", "Danqi", "Chen", ",", "Omer", "Levy", ",", "Mike", "Lewis", ",", "Luke", "Zettlemoyer", ",", "and", "Veselin", "Stoyanov", "2019", "Roberta", ":", "A", "robustly", "optimized", "BERT", "pretraining", "ap-", "proach", "CoRR", ",", "abs", "/", "1907.11692", "Dongfang", "Lou", ",", "Zhilin", "Liao", ",", "Shumin", "Deng", ",", "Ningyu", "Zhang", ",", "and", "Huajun", "Chen", "2021", "Mlbinet", ":", "A", "cross-", "sentence", "collective", "event", "detection", "network", "In", "ACL", "Association", "for", "Computational", "Linguistics", "Yaojie", "Lu", ",", "Hongyu", "Lin", ",", "Jin", "Xu", ",", "Xianpei", "Han", ",", "Jialong", "Tang", ",", "Annan", "Li", ",", "Le", "Sun", ",", "Meng", "Liao", ",", "and", "Shaoyi", "Chen", "2021", "Text2event", ":", "Controllable", "sequence", "-", "to-", "structure", "generation", "for", "end", "-", "to", "-", "end", "event", "extraction", "InACL", "/", "IJCNLP", "(", "1", ")", ",", "pages", "2795–2806", "Association", "for", "Computational", "Linguistics", "Yaojie", "Lu", ",", "Qing", "Liu", ",", "Dai", "Dai", ",", "Xinyan", "Xiao", ",", "Hongyu", "Lin", ",", "Xianpei", "Han", ",", "Le", "Sun", ",", "and", "Hua", "Wu", "2022", "Uni-", "ﬁed", "structure", "generation", "for", "universal", "information", "extraction", "In", "ACL", "(", "1", ")", ",", "pages", "5755–5772", "Associ-", "ation", "for", "Computational", "Linguistics", "Hieu", "Man", ",", "Nghia", "Trung", "Ngo", ",", "Linh", "Ngo", "Van", ",", "and", "Thien", "Huu", "Nguyen", "2022", "Selecting", "optimal", "con-", "text", "sentences", "for", "event", "-", "event", "relation", "extraction", "In", "AAAI", ",", "pages", "11058–11066", "AAAI", "Press", "Yuanliang", "Meng", "and", "Anna", "Rumshisky", "2018", "Context-", "aware", "neural", "model", "for", "temporal", "information", "extrac-", "tion", "In", "ACL", "(", "1", ")", ",", "pages", "527–536", "Association", "for", "Computational", "Linguistics", "Pascal", "Mettes", ",", "Elise", "van", "der", "Pol", ",", "and", "Cees", "Snoek", "2019", "Hyperspherical", "prototype", "networks", "In", "Advances", "in", "Neural", "Information", "Processing", "Systems", "32", ",", "pages", "1487–1497", "Curran", "Associates", ",", "Inc", "Thien", "Huu", "Nguyen", ",", "Kyunghyun", "Cho", ",", "and", "Ralph", "Grish-", "man", "2016", "Joint", "event", "extraction", "via", "recurrent", "neu-", "ral", "networks", "In", "HLT", "-", "NAACL", ",", "pages", "300–309", "The", "Association", "for", "Computational", "Linguistics", "Trung", "Minh", "Nguyen", "and", "Thien", "Huu", "Nguyen", "2019", "One", "for", "all", ":", "Neural", "joint", "modeling", "of", "entities", "and", "events", "In", "AAAI", ",", "pages", "6851–6858", "AAAI", "Press", "Giovanni", "Paolini", ",", "Ben", "Athiwaratkun", ",", "Jason", "Krone", ",", "Jie", "Ma", ",", "Alessandro", "Achille", ",", "Rishita", "Anubhai", ",", "Cícero", "Nogueira", "dos", "Santos", ",", "Bing", "Xiang", ",", "and", "Ste-", "fano", "Soatto", "2021", "Structured", "prediction", "as", "transla-", "tion", "between", "augmented", "natural", "languages", "In", "ICLR", "OpenReview.net", "Colin", "Raffel", ",", "Noam", "Shazeer", ",", "Adam", "Roberts", ",", "Katherine", "Lee", ",", "Sharan", "Narang", ",", "Michael", "Matena", ",", "Yanqi", "Zhou", ",", "Wei", "Li", ",", "and", "Peter", "J", "Liu", "2020", "Exploring", "the", "limits", "of", "transfer", "learning", "with", "a", "uniﬁed", "text", "-", "to", "-", "text", "trans-", "former", "J", "Mach", "Learn", "Res", ",", "21:140:1–140:67", "Victor", "Sanh", ",", "Lysandre", "Debut", ",", "Julien", "Chaumond", ",", "and", "Thomas", "Wolf", "2019", "Distilbert", ",", "a", "distilled", "version", "of", "BERT", ":", "smaller", ",", "faster", ",", "cheaper", "and", "lighter", "In", "Fifth", "Workshop", "on", "Energy", "Efﬁcient", "Machine", "Learn-", "ing", "and", "Cognitive", "Computing", "-", "NeurIPS", "Edition", "(", "EMC2", "-", "NIPS", ")", "IEEE", "Jiawei", "Sheng", ",", "Rui", "Sun", ",", "Shu", "Guo", ",", "Shiyao", "Cui", ",", "Jiangxia", "Cao", ",", "Lihong", "Wang", ",", "Tingwen", "Liu", ",", "and", "Hongbo", "Xu", "2022", "Cored", ":", "Incorporating", "type", "-", "level", "and", "instance-", "level", "correlations", "for", "ﬁne", "-", "grained", "event", "detection", "InSIGIR", ",", "pages", "1122–1132", "ACM", "Noah", "A", "Smith", "2011", "Linguistic", "Structure", "Prediction", "Synthesis", "Lectures", "on", "Human", "Language", "Technolo-", "gies", "Morgan", "&", "Claypool", "Publishers.360", "Benjamin", "Taskar", ",", "Vassil", "Chatalbashev", ",", "Daphne", "Koller", ",", "and", "Carlos", "Guestrin", "2005", "Learning", "structured", "pre-", "diction", "models", ":", "a", "large", "margin", "approach", "In", "ICML", ",", "volume", "119", "of", "ACM", "International", "Conference", "Pro-", "ceeding", "Series", ",", "pages", "896–903", "ACM", "Lifu", "Tu", "and", "Kevin", "Gimpel", "2018", "Learning", "approx-", "imate", "inference", "networks", "for", "structured", "prediction", "InICLR", "(", "Poster", ")", "OpenReview.net", "Haoyu", "Wang", ",", "Muhao", "Chen", ",", "Hongming", "Zhang", ",", "and", "Dan", "Roth", "2020a", "Joint", "constrained", "learning", "for", "event", "-", "event", "relation", "extraction", "In", "EMNLP", "(", "1", ")", ",", "pages", "696–706", "Association", "for", "Computational", "Lin-", "guistics", "Tongzhou", "Wang", "and", "Phillip", "Isola", "2020", "Understand-", "ing", "contrastive", "representation", "learning", "through", "align-", "ment", "and", "uniformity", "on", "the", "hypersphere", "In", "ICML", ",", "volume", "119", "of", "Proceedings", "of", "Machine", "Learning", "Re-", "search", ",", "pages", "9929–9939", "PMLR", "Xiaozhi", "Wang", ",", "Yulin", "Chen", ",", "Ning", "Ding", ",", "Hao", "Peng", ",", "Zimu", "Wang", ",", "Yankai", "Lin", ",", "Xu", "Han", ",", "Lei", "Hou", ",", "Juanzi", "Li", ",", "Zhiyuan", "Liu", ",", "Peng", "Li", ",", "and", "Jie", "Zhou", "2022", "MA", "VEN", "-", "ERE", ":", "A", "uniﬁed", "large", "-", "scale", "dataset", "for", "event", "coreference", ",", "temporal", ",", "causal", ",", "and", "subevent", "re-", "lation", "extraction", "In", "EMNLP", ",", "pages", "926–941", "Asso-", "ciation", "for", "Computational", "Linguistics", "Xiaozhi", "Wang", ",", "Xu", "Han", ",", "Zhiyuan", "Liu", ",", "Maosong", "Sun", ",", "and", "Peng", "Li", "2019", "Adversarial", "training", "for", "weakly", "supervised", "event", "detection", "In", "NAACL", "-", "HLT", "(", "1", ")", ",", "pages", "998–1008", "Association", "for", "Computational", "Linguistics", "Xiaozhi", "Wang", ",", "Ziqi", "Wang", ",", "Xu", "Han", ",", "Wangyi", "Jiang", ",", "Rong", "Han", ",", "Zhiyuan", "Liu", ",", "Juanzi", "Li", ",", "Peng", "Li", ",", "Yankai", "Lin", ",", "and", "Jie", "Zhou", "2020b", "MA", "VEN", ":", "A", "massive", "gen-", "eral", "domain", "event", "detection", "dataset", "In", "EMNLP", "(", "1", ")", ",", "pages", "1652–1671", "Association", "for", "Computational", "Linguistics", "Xingyao", "Wang", ",", "Sha", "Li", ",", "and", "Heng", "Ji", "2023", "Code4struct", ":", "Code", "generation", "for", "few", "-", "shot", "structured", "prediction", "from", "natural", "language", "In", "ACL", "(", "1", ")", "Association", "for", "Computational", "Linguistics", "Haoran", "Yan", ",", "Xiaolong", "Jin", ",", "Xiangbin", "Meng", ",", "Jiafeng", "Guo", ",", "and", "Xueqi", "Cheng", "2019", "Event", "detection", "with", "multi", "-", "order", "graph", "convolution", "and", "aggregated", "atten-", "tion", "In", "EMNLP", "/", "IJCNLP", "(", "1", ")", ",", "pages", "5765–5769", "As-", "sociation", "for", "Computational", "Linguistics", "Appendices", "A", "Multi", "-", "Faceted", "Event", "-", "Relations", "Note", "that", "MAVEN", "-EREandONTOEVENT", "-DOC", "both", "includes", "multi", "-", "faceted", "event", "-", "relations" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "MAVEN", "-EREin", "this", "paper", "contains", "6", "tempo-", "ral", "relations", ":", "BEFORE", ",", "OVERLAP", ",", "CONTAINS", ",", "SIMULTANEOUS", ",", "BEGINS", "-", "ON", ",", "ENDS", "-", "ON", ";", "2causal", "relations", ":", "CAUSE", ",", "PRECONDITION", ";", "and", "1", "subevent", "relation", ":", "subevent_relations" ]

[ "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "ONTOEVENT", "-DOCin", "this", "paper", "contains", "3", "tem-", "poral", "relations", ":", "BEFORE", ",", "AFTER", ",", "EQUAL", ";", "and", "2", "causal", "relations", ":", "CAUSE", ",", "CAUSEDBY" ]

[ "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "also", "add", "a", "NA", "relation", "to", "signify", "no", "relation", "between", "the", "event", "mention", "pair", "for", "the", "two", "datasets", "B", "Implementation", "Details", "for", "Different", "Tasks", "B.1", "Event", "Trigger", "Classiﬁcation", "Settings", "We", "follow", "the", "similar", "evaluation", "protocol", "of", "standard", "ED", "models", "(", "Chen", "et", "al", ",", "2015", ";", "Sheng", "et", "al", ",", "2022", ")", "on", "trigger", "classiﬁcation", "tasks", "We", "present", "the", "results", "in", "Table", "2", "when", "jointly", "training", "with", "event", "classiﬁcation", "and", "the", "whole", "ERE", "task", "(", "“", "All", "Joint", "”", "in", "Table", "4", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "backbone", "encoder", "is", "pretrained", "BERT", "(", "Devlin", "et", "al" ]

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2019", ")", "The", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", "in", "Eq", "(", "11", ")", "are", "respectively", "set", "to", "1", ",", "0.1", ",", "0.1", "for", "both", "ONTOEVENT", "-DOCandMAVEN", "-", "ERE" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName" ]

[ "B.2", "Event", "Classiﬁcation", "Settings", "We", "follow", "the", "similar", "evaluation", "pro-", "tocol", "of", "standard", "ED", "models", "(", "Chen", "et", "al", ",", "2015", ";", "Deng", "et", "al", ",", "2021", ")", "on", "event", "classiﬁcation", "tasks", "We", "present", "the", "results", "in", "Table", "3", "when", "jointly", "train-", "ing", "with", "trigger", "classiﬁcation", "and", "all", "ERE", "subtasks", "(", "“", "+", "joint", "”", "in", "Table", "4", ")", "The", "backbone", "encoder", "is", "pre-", "trained", "DistilBERT", "(", "Sanh", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2019", ")", "The", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", "in", "Eq", "(", "11", ")", "are", "respectively", "set", "to", "0.1", ",", "1", ",", "0.1", "for", "ONTOEVENT", "-DOCand", "1", ",", "0.1", ",", "0.1", "for", "M", "AVEN", "-ERE" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName" ]

[ "B.3", "Event", "-", "Relation", "Extraction", "Settings", "We", "follow", "the", "similar", "ERE", "experiment", "settings", "with", "Wang", "et", "al", "(", "2022", ")", "on", "several", "sub-", "tasks", ",", "by", "separately", "and", "jointly", "training", "on", "tem-", "poral", ",", "causal", ",", "and", "subevent", "event", "-", "relations", "We", "present", "the", "results", "in", "Table", "4", "when", "jointly", "training", "with", "trigger", "classiﬁcation", "and", "event", "classiﬁcation", "tasks", "The", "backbone", "encoder", "is", "pretrained", "Distil-", "BERT", "(", "Sanh", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2019", ")", "On", "ONTOEVENT", "-DOC", "dataset", ",", "the", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", "in", "Eq", "(", "11", ")", "are", "re-", "spectively", "set", "to", "1", ",", "0.1", ",", "0.1", "for", "all", "ERE", "subtasks" ]

[ "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "On", "MAVEN", "-EREdataset", ",", "λ1", ",", "λ2", ",", "λ3are", "respectively", "set", "to", "0.1", ",", "0.1", ",", "1", "for", "“", "All", "Joint", "”", "ERE", "subtasks", "in", "Ta-", "ble", "4", ";", "1", ",", "1", ",", "4", "for", "“", "+", "joint", "”", ";", "1", ",", "0.1", ",", "0.1", "for", "“", "Temporal", "”", "and", "“", "Causal", "”", ";", "and", "1", ",", "0.1", ",", "0.08", "for", "“", "Subevent”.361", "ACL", "2023", "Responsible", "NLP", "Checklist", "A", "For", "every", "submission", ":", "/", "square\u0013A1" ]

[ "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Did", "you", "describe", "the", "limitations", "of", "your", "work", "?", "Left", "blank", "/", "squareA2", "Did", "you", "discuss", "any", "potential", "risks", "of", "your", "work", "?", "Not", "applicable", "Left", "blank", "/", "square\u0013A3", "Do", "the", "abstract", "and", "introduction", "summarize", "the", "paper", "’s", "main", "claims", "?", "Abstract", "&", "at", "the", "end", "of", "Section", "1", "&", "Section", "6", "/", "square\u0017A4", "Have", "you", "used", "AI", "writing", "assistants", "when", "working", "on", "this", "paper", "?", "Left", "blank", "B", "/", "square\u0013Did", "you", "use", "or", "create", "scientiﬁc", "artifacts", "?", "Section", "4", "/", "square\u0013B1", "Did", "you", "cite", "the", "creators", "of", "artifacts", "you", "used", "?", "Section", "4.1", "/", "square\u0013B2", "Did", "you", "discuss", "the", "license", "or", "terms", "for", "use", "and", "/", "or", "distribution", "of", "any", "artifacts", "?", "Section", "4", "/", "square\u0013B3", "Did", "you", "discuss", "if", "your", "use", "of", "existing", "artifact", "(", "s", ")", "was", "consistent", "with", "their", "intended", "use", ",", "provided", "that", "it", "was", "speciﬁed", "?", "For", "the", "artifacts", "you", "create", ",", "do", "you", "specify", "intended", "use", "and", "whether", "that", "is", "compatible", "with", "the", "original", "access", "conditions", "(", "in", "particular", ",", "derivatives", "of", "data", "accessed", "for", "research", "purposes", "should", "not", "be", "used", "outside", "of", "research", "contexts", ")", "?", "Section", "4", "/", "squareB4", "Did", "you", "discuss", "the", "steps", "taken", "to", "check", "whether", "the", "data", "that", "was", "collected", "/", "used", "contains", "any", "information", "that", "names", "or", "uniquely", "identiﬁes", "individual", "people", "or", "offensive", "content", ",", "and", "the", "steps", "taken", "to", "protect", "/", "anonymize", "it", "?", "Not", "applicable", "I", "use", "the", "existing", "benchmark", "/", "squareB5", "Did", "you", "provide", "documentation", "of", "the", "artifacts", ",", "e.g.", ",", "coverage", "of", "domains", ",", "languages", ",", "and", "linguistic", "phenomena", ",", "demographic", "groups", "represented", ",", "etc", "?", "Not", "applicable", "need", "n’t", "to", "/", "square\u0013B6", "Did", "you", "report", "relevant", "statistics", "like", "the", "number", "of", "examples", ",", "details", "of", "train", "/", "test", "/", "dev", "splits", ",", "etc", "for", "the", "data", "that", "you", "used", "/", "created", "?", "Even", "for", "commonly", "-", "used", "benchmark", "datasets", ",", "include", "the", "number", "of", "examples", "in", "train", "/", "validation", "/", "test", "splits", ",", "as", "these", "provide", "necessary", "context", "for", "a", "reader", "to", "understand", "experimental", "results", "For", "example", ",", "small", "differences", "in", "accuracy", "on", "large", "test", "sets", "may", "be", "signiﬁcant", ",", "while", "on", "small", "test", "sets", "they", "may", "not", "be", "Section", "4.1", "C", "/", "square\u0013Did", "you", "run", "computational", "experiments", "?", "Section", "4", "Datasets", "and", "Baselines", "are", "in", "Section", "4.1", "Implementation", "Details", "are", "in", "Section", "4.2", "&", "Appendix", "B", "Main", "experiments", "are", "in", "Section", "4.3", ",", "4.4", ",", "4.5", ",", "and", "Further", "Analysis", "is", "in", "Section", "5", "/", "square\u0017C1", "Did", "you", "report", "the", "number", "of", "parameters", "in", "the", "models", "used", ",", "the", "total", "computational", "budget", "(", "e.g.", ",", "GPU", "hours", ")", ",", "and", "computing", "infrastructure", "used", "?", "I", "have", "listed", "the", "implementation", "details", "of", "experiments", "at", "Sec", "4.2", "&", "Appendix", "B", "The", "total", "computa-", "tional", "budget", "&", "computing", "infrastructure", "used", "are", "not", "the", "main", "concerns", "of", "our", "work", ",", "and", "we", "also", "The", "Responsible", "NLP", "Checklist", "used", "at", "ACL", "2023", "is", "adopted", "from", "NAACL", "2022", ",", "with", "the", "addition", "of", "a", "question", "on", "AI", "writing", "assistance.362", "did", "n’t", "run", "time", "statistics", "But", "we", "will", "provide", "more", "details", "when", "publication", ",", "and", "the", "codes", "will", "also", "mention", "more", "details", "on", "it", "/", "square\u0013C2", "Did", "you", "discuss", "the", "experimental", "setup", ",", "including", "hyperparameter", "search", "and", "best", "-", "found", "hyperparameter", "values", "?", "Section", "4.2", ",", "Appendix", "B", "/", "square\u0013C3", "Did", "you", "report", "descriptive", "statistics", "about", "your", "results", "(", "e.g.", ",", "error", "bars", "around", "results", ",", "summary", "statistics", "from", "sets", "of", "experiments", ")", ",", "and", "is", "it", "transparent", "whether", "you", "are", "reporting", "the", "max", ",", "mean", ",", "etc", "or", "just", "a", "single", "run", "?", "We", "run", "our", "model", "and", "baselines", "multiple", "times", "and", "calculate", "an", "average", "with", "upper", "and", "lower", "bounds", ",", "which", "are", "shown", "in", "Section", "4.3", ",", "4.4", ",", "4.5", "/", "squareC4", "If", "you", "used", "existing", "packages", "(", "e.g.", ",", "for", "preprocessing", ",", "for", "normalization", ",", "or", "for", "evaluation", ")", ",", "did", "you", "report", "the", "implementation", ",", "model", ",", "and", "parameter", "settings", "used", "(", "e.g.", ",", "NLTK", ",", "Spacy", ",", "ROUGE", ",", "etc", ")", "?", "Not", "applicable", "Implementation", "Details", "are", "in", "Section", "4.2", "&", "Appendix", "B", "D", "/", "square\u0017Did", "you", "use", "human", "annotators", "(", "e.g.", ",", "crowdworkers", ")", "or", "research", "with", "human", "participants", "?", "Left", "blank", "/", "squareD1", "Did", "you", "report", "the", "full", "text", "of", "instructions", "given", "to", "participants", ",", "including", "e.g.", ",", "screenshots", ",", "disclaimers", "of", "any", "risks", "to", "participants", "or", "annotators", ",", "etc", "?", "No", "response", "/", "squareD2", "Did", "you", "report", "information", "about", "how", "you", "recruited", "(", "e.g.", ",", "crowdsourcing", "platform", ",", "students", ")", "and", "paid", "participants", ",", "and", "discuss", "if", "such", "payment", "is", "adequate", "given", "the", "participants", "’", "demographic", "(", "e.g.", ",", "country", "of", "residence", ")", "?", "No", "response", "/", "squareD3", "Did", "you", "discuss", "whether", "and", "how", "consent", "was", "obtained", "from", "people", "whose", "data", "you", "’re", "using", "/", "curating", "?", "For", "example", ",", "if", "you", "collected", "data", "via", "crowdsourcing", ",", "did", "your", "instructions", "to", "crowdworkers", "explain", "how", "the", "data", "would", "be", "used", "?", "No", "response", "/", "squareD4", "Was", "the", "data", "collection", "protocol", "approved", "(", "or", "determined", "exempt", ")", "by", "an", "ethics", "review", "board", "?", "No", "response", "/", "squareD5", "Did", "you", "report", "the", "basic", "demographic", "and", "geographic", "characteristics", "of", "the", "annotator", "population", "that", "is", "the", "source", "of", "the", "data", "?", "No", "response.363" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "855–876", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "On", "-", "the", "-", "fly", "Cross", "-", "lingual", "Masking", "for", "Multilingual", "Pre", "-", "training", "Xi", "Ai", "College", "of", "Computer", "Science", "Chongqing", "University", "barid.x.ai", "@", "gmail.comBin", "Fang", "College", "of", "Computer", "Science", "Chongqing", "University", "fb", "@", "cqu.edu.cn", "Abstract", "In", "multilingual", "pre", "-", "training", "with", "the", "objective", "of", "MLM", "(", "masked", "language", "modeling", ")", "on", "mul-", "tiple", "monolingual", "corpora", ",", "multilingual", "mod-", "els", "only", "learn", "cross", "-", "linguality", "implicitly", "from", "isomorphic", "spaces", "formed", "by", "overlapping", "dif-", "ferent", "language", "spaces", "due", "to", "the", "lack", "of", "ex-", "plicit", "cross", "-", "lingual", "forward", "pass" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "this", "work", ",", "we", "present", "CLPM", "(", "Cross", "-", "lingual", "Prototype", "Masking", ")", ",", "a", "dynamic", "and", "token", "-", "wise", "masking", "scheme", ",", "for", "multilingual", "pre", "-", "training", ",", "using", "a", "special", "token", "[", "C", "]", "xto", "replace", "a", "random", "token", "xin", "the", "input", "sentence" ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "[", "C", "]", "xis", "a", "cross", "-", "lingual", "prototype", "for", "xand", "then", "forms", "an", "explicit", "cross-", "lingual", "forward", "pass", "We", "instantiate", "CLPM", "for", "the", "multilingual", "pre", "-", "training", "phase", "of", "UNMT", "(", "unsupervised", "neural", "machine", "translation", ")", ",", "and", "experiments", "show", "that", "CLPM", "can", "consistently", "improve", "the", "performance", "of", "UNMT", "models", "on", "{", "De", ",", "Ro", ",", "Ne", "}", "↔", "En" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Beyond", "UNMT", "or", "bilingual", "tasks", ",", "we", "show", "that", "CLPM", "can", "consis-", "tently", "improve", "the", "performance", "of", "multilingual", "models", "on", "cross", "-", "lingual", "classification" ]

[ "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]

[ "1", "Introduction", "With", "tied", "weights", "across", "the", "languages", "and", "the", "help", "of", "language", "identifications", "(", "Johnson", "et", "al", ",", "2017", ")", ",", "multilingual", "models", "only", "have", "access", "to", "monolin-", "gual", "corpora", "in", "different", "languages", "Stemming", "from", "BERT", "/", "MLM", "(", "Devlin", "et", "al", ",", "2019", ")", "and", "GPT", "(", "Radford", "et", "al", ",", "2018", ";", "Alec", "Radford", ",", "2020", ")", ",", "for", "cross", "-", "lingual", "knowledge", ",", "multilingual", "pre", "-", "training", "with", "the", "objective", "of", "MLM", "on", "multiple", "monolin-", "gual", "corpora", "is", "introduced", "by", "XLM", "(", "Lample", "and", "Conneau", ",", "2019", ")", ",", "explored", "by", "MASS", "(", "Song", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2019", ")", "and", "mBART", "(", "Liu", "et", "al", ",", "2020", ";", "Lewis", "et", "al", ",", "2020", ")", ",", "and", "scaled", "by", "XLM", "-", "R", "(", "Conneau", "et", "al", ",", "2020", ")", "and", "mT5", "(", "Xue", "et", "al", ",", "2021", ")", "Essentially", ",", "in", "multilingual", "MLM", "pre", "-", "training", ",", "models", "are", "encouraged", "to", "learn", "implicit", "cross-", "linguality", "from", "both", "linguistic", "similarities", "and", "shared", "tokens", "(", "Karthikeyan", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2020", ";", "Wu", "and", "Dredze", ",", "2019", ";", "Pires", "et", "al", ",", "2019", ";", "Dufter", "andSchütze", ",", "2020", ")", "for", "translation", "and", "cross", "-", "lingual", "transfer", "However", ",", "it", "does", "not", "learn", "any", "explicit", "and", "principled", "cross", "-", "lingual", "forward", "pass", "from", "in-", "puts", "to", "outputs", ",", "only", "relying", "on", "the", "isomorphic", "space", "that", "emerged", "from", "multilingual", "MLM", "pre-", "training", "by", "overlapping", "language", "spaces", "agnosti-", "cally", "Given", "the", "nature", "of", "translation", "and", "cross-", "lingual", "transfer", ",", "models", "should", "understand", "ex-", "plicit", "cross", "-", "lingual", "forward", "passes", "initiating", "cross-", "lingual", "knowledge", "directly" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Considering", "this", "aspect", ",", "beyond", "the", "implicit", "andagnostic", "cross", "-", "linguality", ",", "we", "are", "interested", "in", "the", "question", ":", "can", "models", "learn", "explicit", "andprincipled", "cross", "-", "linguality", "in", "multilin-", "gual", "pre", "-", "training", "without", "any", "supervision", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O" ]

[ "Following", "this", "idea", ",", "for", "multilingual", "pre", "-", "training", ",", "we", "present", "a", "dynamic", "and", "token", "-", "wise", "masking", "scheme", ",", "CLPM", "(", "Cross", "-", "lingual", "Prototype", "Mask-", "ing", ")", ",", "to", "compute", "a", "special", "token", "[", "C", "]", "xrepresenting", "a", "cross", "-", "lingual", "prototype", "for", "a", "selected", "token", "x", "and", "then", "replace", "xwith", "[", "C", "]", "xinstead", "of", "the", "stan-", "dard", "token", "[", "M", "]", "in", "multilingual", "MLM", "pre", "-", "training" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "present", "an", "example", "in", "Table", "1", "Significantly", ",", "when", "predicting", "the", "selected", "and", "replaced", "x", ",", "we", "model", "an", "explicit", "cross", "-", "lingual", "forward", "pass", "from", "the", "cross", "-", "lingual", "prototype", "[", "C", "]", "xtox", "Source", "The", "investment", "fund", "that", "owned", "the", "building", "had", "to", "make", "a", "choice", "[", "M", "]", "The", "[", "M", "]", "fund", "[", "M", "]", "owned", "[", "M", "]", "building", "[", "M", "]", "to", "make", "a", "choice", "[", "C", "]", "x", "The", "[", "C", "]", "x1fund", "[", "C", "]", "x3owned", "[", "C", "]", "x5building", "[", "C", "]", "x7to", "make", "a", "choice", "Table", "1", ":", "Examples", "of", "[", "C", "]", "xand", "[", "M", "]", "{", "x1", ",", "x3", ",", "x5", ",", "x7", "}", "at", "position", "{", "1,3,5,7", "}", "are", "randomly", "selected", "for", "replacing", "Then", ",", "we", "compute", "the", "[", "C", "]", "xset", "{", "[", "C", "]", "x1", ",", "[", "C", "]", "x3", ",", "[", "C", "]", "x5", ",", "[", "C", "]", "x7", "}", "for", "replacing", "and", "pre", "-", "train", "MLM", "without", "any", "other", "change", ",", "treating", "[", "C", "]", "xas", "[", "M", "]", "In", "multilingual", "pre", "-", "training", ",", "computing", "[", "C", "]", "xis", "a", "challenge", "on", "multiple", "monolingual", "corpora", "with-", "out", "any", "supervision", "from", "parallel", "corpora", ",", "transla-", "tion", "tables", "(", "Dufter", "and", "Schütze", ",", "2020", ";", "Ren", "et", "al", ",", "2019b", ";", "Chaudhary", "et", "al", ",", "2020", ")", ",", "or", "data", "augmenta-", "tion", "processes", "(", "Krishnan", "et", "al", ",", "2021", ";", "Chaudhary855", "et", "al", ",", "2020", ";", "Tarunesh", "et", "al", ",", "2021", ")", "Fortunately", ",", "we", "find", "that", "suitable", "candidates", "can", "be", "dynamically", "obtained", "in", "the", "multilingual", "embedding", "space", ",", "con-", "sidering", "the", "relevance", "between", "the", "selected", "token", "and", "the", "tokens", "in", "the", "other", "language", "Meanwhile", ",", "naive", "token", "-", "to", "-", "token", "relevance", "is", "reported", "to", "mis-", "represent", "morphological", "variations", "(", "Artetxe", "et", "al", ",", "2020", ";", "Czarnowska", "et", "al", ",", "2020", ";", "Kementchedjhieva", "et", "al", ",", "2020", ")", ",", "which", "limits", "the", "improvements", "for", "translation", "and", "cross", "-", "lingual", "transfer", "tasks" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]

[ "Thus", ",", "we", "approximate", "multiple", "candidates", "in", "the", "other", "language", "for", "[", "C", "]", "x", ",", "expecting", "to", "cover", "morphologi-", "cal", "variations", "Unfortunately", ",", "the", "input", "dependency", "is", "perturbed", "by", "[", "C", "]", "xbecause", "[", "C", "]", "xis", "not", "agnostic", "and", "not", "static", "as", "[", "M", "]", "but", "dynamically", "obtained", "from", "the", "other", "language", "Eventually", ",", "it", "potentially", "results", "in", "a", "lack", "of", "learning", "internal", "structures", "of", "languages", "To", "alleviate", "this", "pain", "but", "still", "use", "[", "C", "]", "x", ",", "we", "alternate", "between", "[", "M", "]", "and", "[", "C", "]", "x", ",", "where", "[", "M", "]", "is", "agnostic", "and", "does", "not", "perturb", "input", "language", "domain", "We", "attempt", "UNMT", "and", "(", "zero", "-", "shot", ")", "cross", "-", "lingual", "transfer", "tasks" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]

[ "For", "UNMT", ",", "we", "consider", "X↔En", "on", "a", "rich", "-", "resource", "language", "De", ",", "a", "low", "-", "resource", "language", "Ro", ",", "and", "a", "dissimilar", "language", "Ne", "In-", "tuitively", ",", "CLPM", "yields", "improvements", "because", "of", "the", "dynamical", "approximations", "of", "token", "-", "level", "cross-", "lingual", "information" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "then", "justify", "this", "on", "cross-", "lingual", "word", "similarity", "tasks", "from", "MUSE", "(", "Lam-", "ple", "et", "al", ",", "2018b", ")", "Beyond", "UNMT", ",", "we", "experiment", "with", "the", "cross", "-", "lingual", "classification", "task", "on", "XNLI", "(", "Conneau", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2018", ")", "to", "test", "general", "cross", "-", "lingual", "transfer", "CLPM", "improves", "within", "a", "pivoting", "-", "based", "framework.par", "We", "have", "three", "contributions" ]

[ "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]