Datasets:

anlp

/

anno_augmented

like 0

Follow

anlp team project 4

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "338–350", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "Text", "Adversarial", "Purification", "as", "Defense", "against", "Adversarial", "Attacks", "Linyang", "Li", "Demin", "Song", ",", "Xipeng", "Qiu", "School", "of", "Computer", "Science", ",", "Fudan", "University", "Shanghai", "Key", "Laboratory", "of", "Intelligent", "Information", "Processing", ",", "Fudan", "University", "{", "linyangli19", ",", "dmsong20", ",", "xpqiu", "}", "@", "fudan.edu.cn", "Abstract", "Adversarial", "purification", "is", "a", "successful", "defense", "mechanism", "against", "adversarial", "attacks", "without", "requiring", "knowledge", "of", "the", "form", "of", "the", "incom-", "ing", "attack", ".", "Generally", ",", "adversarial", "purification", "aims", "to", "remove", "the", "adversarial", "perturbations", "therefore", "can", "make", "correct", "predictions", "based", "on", "the", "recovered", "clean", "samples", ".", "Despite", "the", "success", "of", "adversarial", "purification", "in", "the", "com-", "puter", "vision", "field", "that", "incorporates", "generative", "models", "such", "as", "energy", "-", "based", "models", "and", "dif-", "fusion", "models", ",", "using", "purification", "as", "a", "defense", "strategy", "against", "textual", "adversarial", "attacks", "is", "rarely", "explored", ".", "In", "this", "work", ",", "we", "introduce", "a", "novel", "adversarial", "purification", "method", "that", "fo-", "cuses", "on", "defending", "against", "textual", "adversarial", "attacks", ".", "With", "the", "help", "of", "language", "models", ",", "we", "can", "inject", "noise", "by", "masking", "input", "texts", "and", "reconstructing", "the", "masked", "texts", "based", "on", "the", "masked", "language", "models", ".", "In", "this", "way", ",", "we", "con-", "struct", "an", "adversarial", "purification", "process", "for", "textual", "models", "against", "the", "most", "widely", "used", "word", "-", "substitution", "adversarial", "attacks", ".", "We", "test", "our", "proposed", "adversarial", "purification", "method", "on", "several", "strong", "adversarial", "attack", "methods", "in-", "cluding", "Textfooler", "and", "BERT", "-", "Attack", "and", "exper-", "imental", "results", "indicate", "that", "the", "purification", "al-", "gorithm", "can", "successfully", "defend", "against", "strong", "word", "-", "substitution", "attacks", ".", "1", "Introduction", "Adversarial", "examples", "(", "Goodfellow", "et", "al", ".", ",", "2014", ")", "can", "successfully", "mislead", "strong", "neural", "models", "in", "both", "computer", "vision", "tasks", "(", "Carlini", "and", "Wagner", ",", "2016", ")", "and", "language", "understanding", "tasks", "(", "Alzantot", "et", "al", ".", ",", "2018", ";", "Jin", "et", "al", ".", ",", "2019", ")", ".", "An", "adversarial", "example", "is", "a", "maliciously", "crafted", "example", "attached", "with", "an", "imperceptible", "perturbation", "and", "can", "mislead", "neural", "networks", ".", "To", "defend", "attack", "examples", "of", "images", ",", "the", "most", "effective", "method", "is", "adversarial", "training", "(", "Goodfellow", "et", "al", ".", ",", "2014", ";", "Madry", "et", "al", ".", ",", "2019", ")", "which", "is", "a", "mini", "-", "max", "game", "used", "to", "incorporate", "perturba-", "tions", "into", "the", "training", "process", ".", "Defending", "adversarial", "attacks", "is", "extremely", "im-", "portant", "in", "improving", "model", "robustness", ".", "How-", "ever", ",", "defending", "adversarial", "examples", "in", "natural", "languages", "is", "more", "challenging", "due", "to", "the", "discrete", "nature", "of", "texts", ".", "That", "is", ",", "gradients", "can", "not", "be", "used", "directly", "in", "crafting", "perturbations", ".", "The", "substitution-", "based", "adversarial", "examples", "are", "more", "complicated", "than", "gradient", "-", "based", "adversarial", "examples", "in", "im-", "ages", ",", "making", "it", "difficult", "for", "neural", "networks", "to", "de-", "fend", "against", "these", "substitution", "-", "based", "attacks", ".", "The", "first", "challenge", "of", "defending", "against", "adver-", "sarial", "attacks", "in", "NLP", "is", "that", "due", "to", "the", "discrete", "na-", "ture", ",", "these", "substitution", "-", "based", "adversarial", "examples", "can", "have", "substitutes", "in", "any", "token", "of", "the", "sentence", "and", "each", "substitute", "has", "a", "large", "candidate", "list", ".", "This", "would", "cause", "a", "combinatorial", "explosion", "problem", ",", "making", "it", "hard", "to", "apply", "adversarial", "training", "meth-", "ods", ".", "Strong", "attacking", "methods", "such", "as", "Jin", "et", "al", ".", "(", "2019", ")", "show", "that", "using", "the", "crafted", "adversarial", "ex-", "amples", "as", "data", "augmentation", "in", "adversarial", "training", "can", "not", "effectively", "defend", "against", "these", "substitution-", "based", "attacks", ".", "Further", ",", "defending", "strategies", "such", "as", "adversarial", "training", "rely", "on", "the", "assumption", "that", "the", "candidate", "lists", "of", "the", "substitutions", "are", "accessible", ".", "However", ",", "the", "candidate", "lists", "of", "the", "substitutions", "should", "notbe", "exposed", "to", "the", "target", "model", ";", "that", "is", ",", "the", "target", "model", "should", "be", "unfamiliar", "to", "the", "candi-", "date", "list", "of", "the", "adversarial", "examples", ".", "In", "real", "-", "world", "defense", "systems", ",", "the", "defender", "is", "not", "aware", "of", "the", "strategy", "the", "potential", "attacks", "might", "use", ",", "so", "the", "as-", "sumption", "that", "the", "candidate", "list", "is", "available", "would", "significantly", "constrain", "the", "potential", "applications", "of", "these", "defending", "methods", ".", "Considering", "that", "it", "is", "challenging", "to", "defend", "against", "textual", "adversarial", "attacks", "when", "the", "form", "of", "the", "attacks", "can", "not", "be", "acknowledged", "in", "advance", ",", "we", "introduce", "a", "novel", "adversarial", "purification", "method", "as", "a", "feasible", "defense", "mechanism", "against", "these", "at-", "tacks", ".", "The", "adversarial", "purification", "method", "is", "to", "purify", "adversarially", "perturbed", "input", "samples", "before", "making", "predictions", "(", "Srinivasan", "et", "al", ".", ",", "2021", ";", "Shi338", "et", "al", ".", ",", "2021", ";", "Yoon", "et", "al", ".", ",", "2021", ")", ".", "The", "major", "works", "about", "adversarial", "purification", "focus", "on", "purifying", "continuous", "inputs", "such", "as", "images", ",", "therefore", "these", "works", "explore", "different", "generative", "models", "such", "as", "GANs", "(", "Samangouei", "et", "al", ".", ",", "2018", ")", ",", "energy", "-", "based", "models", "(", "EBMs", ")", "(", "LeCun", "et", "al", ".", ",", "2006", ")", "and", "recently", "developed", "diffusion", "models", "(", "Song", "et", "al", ".", ",", "2021", ";", "Nie", "et", "al", ".", ",", "2022", ")", ".", "However", ",", "in", "textual", "adversarial", "at-", "tacks", ",", "the", "inputs", "are", "discrete", "tokens", "which", "makes", "it", "more", "challenging", "to", "deploy", "previous", "adversarial", "purification", "methods", ".", "Therefore", ",", "we", "introduce", "a", "purification", "mecha-", "nism", "with", "the", "help", "of", "masked", "language", "models", ".", "We", "first", "consider", "the", "widely", "used", "masking", "process", "to", "inject", "noise", "into", "the", "input", ";", "then", "we", "recover", "the", "clean", "texts", "from", "the", "noisy", "inputs", "with", "the", "help", "of", "the", "masked", "language", "models", "(", "e.g", ".", "a", "BERT", "(", "De-", "vlin", "et", "al", ".", ",", "2018", ")", ")", ".", "Further", ",", "considering", "that", "the", "iterative", "process", "in", "previous", "adversarial", "purifica-", "tion", "algorithms", "can", "be", "extremely", "costly", "(", "e.g", ".", "a", "VP", "-", "SDE", "process", "in", "diffusion", "models", "(", "Song", "et", "al", ".", ",", "2021", ")", ")", ",", "we", "instead", "simplify", "the", "iterative", "process", "to", "an", "ensemble", "-", "purifying", "process", "that", "conducting", "adversarial", "purification", "multiple", "times", "to", "obtain", "an", "ensembled", "result", "as", "a", "compromise", "to", "the", "time", "cost", "in", "traditional", "adversarial", "purification", "process", ".", "Through", "extensive", "experiments", ",", "we", "prove", "that", "the", "proposed", "text", "adversarial", "purification", "algorithm", "can", "successfully", "serve", "as", "defense", "against", "strong", "at-", "tacks", "such", "as", "Textfooler", "and", "BERT", "-", "Attack", ".", "Exper-", "iment", "results", "show", "that", "the", "accuracy", "under", "attack", "in", "baseline", "defense", "methods", "is", "lower", "than", "random", "guesses", ",", "while", "after", "text", "purification", ",", "the", "perfor-", "mance", "can", "reach", "only", "a", "few", "percent", "lower", "than", "the", "original", "accuracy", "when", "the", "candidate", "range", "of", "the", "attack", "is", "limited", ".", "Further", ",", "extensive", "results", "indicate", "that", "the", "candidate", "range", "of", "the", "attacker", "score", "is", "essential", "for", "successful", "attacks", ",", "which", "is", "a", "key", "fac-", "tor", "in", "maintaining", "the", "semantics", "of", "the", "adversaries", ".", "Therefore", "we", "also", "recommend", "that", "future", "attacking", "methods", "can", "focus", "on", "achieving", "successful", "attacks", "with", "tighter", "constraints", ".", "To", "summarize", "our", "contributions", ":", "(", "1", ")", "We", "raise", "the", "concern", "of", "defending", "substitution", "-", "based", "adversarial", "attacks", "without", "ac-", "knowledging", "the", "form", "of", "the", "attacks", "in", "NLP", "tasks", ".", "(", "2", ")", "To", "the", "best", "of", "our", "knowledge", ",", "we", "are", "the", "first", "to", "consider", "adversarial", "purification", "as", "a", "defense", "against", "textual", "adversarial", "attacks", "exemplified", "by", "strong", "word", "-", "substitution", "attacks", "and", "combine", "text", "adversarial", "purification", "with", "pre", "-", "trained", "models.", "(", "3", ")", "We", "perform", "extensive", "experiments", "to", "demon-", "strate", "that", "the", "adversarial", "purification", "method", "is", "capable", "of", "defending", "strong", "adversarial", "attacks", ",", "which", "brings", "a", "new", "perspective", "to", "defending", "tex-", "tual", "adversarial", "attacks", ".", "2", "Related", "Work", "2.1", "Adversarial", "Attacks", "in", "NLP", "In", "NLP", "tasks", ",", "current", "methods", "use", "substitution-", "based", "strategies", "(", "Alzantot", "et", "al", ".", ",", "2018", ";", "Jin", "et", "al", ".", ",", "2019", ";", "Ren", "et", "al", ".", ",", "2019", ")", "to", "craft", "adversarial", "exam-", "ples", ".", "Most", "works", "focus", "on", "the", "score", "-", "based", "black-", "box", "attack", ",", "that", "is", ",", "attacking", "methods", "know", "the", "logits", "of", "the", "output", "prediction", ".", "These", "methods", "use", "different", "strategies", "(", "Yoo", "et", "al", ".", ",", "2020", ";", "Morris", "et", "al", ".", ",", "2020b", ")", "to", "find", "words", "to", "replace", ",", "such", "as", "genetic", "algorithm", "(", "Alzantot", "et", "al", ".", ",", "2018", ")", ",", "greedy", "-", "search", "(", "Jin", "et", "al", ".", ",", "2019", ";", "Li", "et", "al", ".", ",", "2020", ")", "or", "gradient", "-", "based", "methods", "(", "Ebrahimi", "et", "al", ".", ",", "2017", ";", "Cheng", "et", "al", ".", ",", "2019", ")", "and", "get", "substitutes", "using", "synonyms", "(", "Jin", "et", "al", ".", ",", "2019", ";", "Mrkši", "´", "c", "et", "al", ".", ",", "2016", ";", "Ren", "et", "al", ".", ",", "2019", ")", "or", "language", "models", "(", "Li", "et", "al", ".", ",", "2020", ";", "Garg", "and", "Ramakrishnan", ",", "2020", ";", "Shi", "et", "al", ".", ",", "2019", ")", ".", "2.2", "Adversarial", "Defenses", "We", "divide", "the", "defense", "methods", "for", "word-", "substitution", "attacks", "by", "whether", "the", "defense", "method", "requires", "knowledge", "of", "the", "form", "of", "the", "attack", ".", "When", "the", "candidate", "list", "is", "known", ",", "recent", "works", "introduce", "defense", "strategies", "that", "incorporate", "the", "candidates", "of", "the", "words", "to", "be", "replaced", "as", "an", "aug-", "mentation", ".", "Jin", "et", "al", ".", "(", "2019", ")", ";", "Li", "et", "al", ".", "(", "2020", ")", ";", "Si", "et", "al", ".", "(", "2020", ")", "uses", "generated", "adversaries", "to", "augment", "the", "classifier", "for", "better", "defense", "performances", ";", "Jia", "et", "al", ".", "(", "2019", ")", ";", "Huang", "et", "al", ".", "(", "2019", ")", "introduce", "a", "certified", "robust", "model", "to", "construct", "a", "certified", "space", "within", "the", "range", "of", "a", "candidate", "list", "therefore", "the", "substitu-", "tions", "in", "the", "candidate", "list", "can", "not", "perturb", "the", "model", ".", "Zhou", "et", "al", ".", "(", "2020", ")", ";", "Dong", "et", "al", ".", "(", "2021", ")", "construct", "a", "convex", "hull", "based", "on", "the", "candidate", "list", "which", "can", "resist", "substitutions", "in", "the", "candidate", "list", ".", "To", "defend", "unknown", "attacks", ",", "NLP", "models", "can", "in-", "corporate", "gradient", "-", "based", "adversarial", "training", "strate-", "gies", "(", "Miyato", "et", "al", ".", ",", "2016", ";", "Madry", "et", "al", ".", ",", "2019", ")", "since", "recent", "works", "(", "Ebrahimi", "et", "al", ".", ",", "2017", ";", "Cheng", "et", "al", ".", ",", "2019", ";", "Zhu", "et", "al", ".", ",", "2019", ";", "Li", "and", "Qiu", ",", "2020", ")", "show", "that", "gradient", "-", "based", "adversarial", "training", "can", "also", "improve", "defense", "performances", "against", "word-", "substitution", "attacks.339", "Adversarial", "Image", "(", "Gibbon", ")", "Purified", "Image", "(", "Panda", ")", "a", "continuous", "image", "re", "-", "construct", "process", "from", "a", "noisy", "image", "e.g", ".", "using", "Diffusion", "Models", "/", "Score", "-", "based", "Models", "I", "possess", "the", "good", "common", "logical", "sense", "to", "realize", "...", "it", "is", "something", "I", "like", "...", "Adversarial", "Text", "(", "Negative", ")", "...", "I", "[", "MASK", "]", "the", "good", "common", "logical", "sense", "to", "[", "MASK", "]", "...", "it", "is", "something", "I", "like", "...", "I", "possess", "the", "good", "common", "logical", "[", "MASK", "]", "to", "realize", "...", "it", "is", "[", "MASK", "]", "I", "like", "...", "...", "...", "MLMI", "know", "the", "good", "common", "logical", "sense", "to", "sense", "...", "it", "is", "something", "I", "like", "...", "Purified", "TextsI", "possess", "the", "good", "common", "logical", "feel", "to", "realize", "...", "it", "is", "something", "I", "like", "...", "(", "Positive", ")", "I", "possess", "the", "good", "common", "logical", "[", "MASK", "]", "to", "[", "MASK", "]", "...", "it", "is", "something", "I", "like", "...", "I", "possess", "the", "good", "common", "logical", "feel", "to", "realize", "...", "it", "is", "something", "I", "like", "...", "Figure", "1", ":", "Text", "Adversarial", "Purification", "Process", ":", "Compared", "with", "Image", "Purification", ",", "we", "use", "masked", "language", "models", "to", "recover", "noisy", "texts", "to", "purify", "adversarial", "texts", "as", "a", "defense", "against", "word", "-", "substitutions", "attacks", ".", "2.3", "Adversarial", "Purification", "Adversarial", "purification", "is", "a", "defense", "strategy", "that", "uses", "generative", "models", "to", "purify", "adversarial", "inputs", "before", "making", "predictions", ",", "which", "is", "a", "promising", "direction", "in", "adversarial", "defense", ".", "Samangouei", "et", "al", ".", "(", "2018", ")", "uses", "a", "defensive", "GAN", "framework", "to", "build", "clean", "images", "to", "avoid", "adversarial", "attacks", ".", "Energy-", "based", "models", "(", "EBMs", ")", "are", "used", "to", "purify", "attacked", "images", "via", "Langevin", "dynamics", "(", "LeCun", "et", "al", ".", ",", "2006", ")", ".", "Score", "-", "based", "models", "(", "Yoo", "et", "al", ".", ",", "2020", ")", "is", "also", "in-", "troduced", "as", "a", "purification", "strategy", ".", "Recent", "works", "focus", "on", "exploring", "diffusion", "models", "as", "the", "purifi-", "cation", "model", "in", "purifying", "the", "attacked", "images", "(", "Nie", "et", "al", ".", ",", "2022", ")", ".", "Though", "widely", "explored", ",", "adversarial", "purification", "strategy", "is", "less", "explored", "in", "the", "NLP", "field", ".", "3", "Text", "Adversarial", "Purification", "3.1", "Background", "of", "Adversarial", "Purification", "A", "classic", "adversarial", "purification", "process", "is", "to", "grad-", "ually", "purify", "the", "input", "through", "Tsteps", "of", "purifica-", "tion", "runs", ".", "As", "seen", "in", "Figure", "1", ",", "the", "purification", "process", "in", "the", "image", "domain", "is", "to", "first", "constructan", "input", "x′from", "the", "perturbed", "input", "xby", "injecting", "random", "noise", ".", "Then", "the", "purification", "algorithm", "will", "recover", "the", "clean", "image", "/", "hatwidexfrom", "the", "noisy", "image", "x′", "which", "usually", "takes", "multiple", "rounds", ".", "The", "intuition", "of", "such", "a", "purification", "process", "is", "that", "the", "recovered", "inputs", "will", "not", "contain", "adversarial", "effects", ".", "Specifically", ",", "in", "the", "score", "-", "based", "adversarial", "purifi-", "cation", "(", "Yoo", "et", "al", ".", ",", "2020", ")", ",", "the", "sample", "injected", "with", "random", "noise", "is", "x′=x+εwhere", "ε∼", "N", "(", "0", ",", "σ2I", ")", "and", "the", "goal", "is", "to", "purify", "x′with", "score", "network", "sθ", ".", "In", "a", "continuous", "time", "step", "where", "x0", "=", "x′", ",", "the", "goal", "is", "to", "recover", "x0through", "a", "score", "-", "based", "generative", "model", "xt", "=", "xt−1+αt−1sθ", "(", "xt−1", ")", "where", "αis", "the", "step", "size", "related", "to", "xt−1", ".", "After", "Ttimes", "of", "gener-", "ation", ",", "the", "recovered", "/", "hatwidex", "=", "xTis", "used", "in", "the", "final", "prediction", "which", "contains", "less", "adversarial", "effect", ".", "As", "for", "the", "diffusion", "-", "based", "purification", "methods", "(", "Nie", "et", "al", ".", ",", "2022", ")", ",", "the", "process", "includes", "a", "forward", "diffusion", "process", "and", "a", "reverse", "recovery", "process", ".", "The", "noise", "injection", "process", "is", "a", "forward", "stochastic", "differential", "equation", "(", "SDE", ")", ",", "that", "is", ",", "the", "noisy", "input", "x′=x", "(", "T", ")", "and", "initial", "perturbed", "input", "x", "=", "x", "(", "0", ")", ".", "The", "diffusion", "process", "is", "x", "(", "T", ")", "=", "/", "radicalbig", "α", "(", "T", ")", "x", "(", "0", ")", "+", "/", "radicalbig", "1−α", "(", "T", ")", "εwhere", "weight", "decay", "a", "hyper", "-", "parameter", "and340", "ε∼", "N", "(", "0", ",", "σ2I", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "final", "purified", "input", "/", "hatwidex=", "/", "hatwidex", "(", "0", ")", "where", "/", "hatwidex", "(", "0", ")", "is", "the", "reverse", "-", "time", "SDE", "generated", "input", "from", "the", "diffused", "input", "x", "(", "T", ")", ".", "3.2", "Text", "Adversarial", "Purification", "with", "BERT", "Instead", "of", "the", "iterative", "purification", "process", "used", "in", "purifying", "images", ",", "we", "introduce", "a", "novel", "purification", "method", "that", "purifies", "the", "input", "texts", "via", "masking", "and", "masks", "prediction", "with", "pre", "-", "trained", "masked", "language", "models", "exemplified", "by", "BERT", "(", "Devlin", "et", "al", ".", ",", "2018", ")", ".", "As", "seen", "in", "Figure", "1", ",", "instead", "of", "gradually", "adding", "noise", "and", "recovering", "the", "clean", "sample", "from", "the", "noisy", "samples", ",", "we", "inject", "random", "noise", "into", "the", "input", "texts", "multiple", "times", "and", "recover", "the", "noisy", "data", "to", "a", "clean", "text", "based", "on", "the", "mask", "-", "prediction", "ability", "of", "the", "masked", "language", "model", "Fm", "(", "·", ")", ".", "Considering", "that", "the", "perturbed", "text", "is", "X", ",", "we", "can", "inject", "noise", "to", "construct", "multiple", "copies", "X′", "i=", "[", "w0", ",", "···", ",", "[", "MASK", "]", ",", "wn", ",", "·", "·", "·", ",", "]", ".", "We", "use", "two", "simple", "masking", "strategies", ":", "(", "1", ")", "Randomly", "mask", "the", "input", "texts", ";", "(", "2", ")", "Randomly", "insert", "masks", "into", "the", "input", "texts", ".", "Such", "a", "random", "masking", "process", "is", "similar", "to", "adding", "a", "random", "noise", "ε∼", "N", "(", "0", ",", "σ2I", ")", "to", "the", "inputs", "x", ".", "After", "constructing", "multiple", "noisy", "inputs", ",", "we", "run", "the", "denoise", "process", "via", "masked", "language", "models", ":", "/", "hatwideXi", "=", "Fm", "(", "X′", "i", ")", ".", "With", "Nrecovered", "texts", ",", "we", "are", "able", "to", "make", "predictions", "with", "the", "classifier", "Fc", "(", "·", ")", ":", "Si=", "1", "N", "/", "summationtextN", "i=0", "/", "parenleftig", "Softmax", "(", "Fc", "(", "/", "hatwideXi", ")", ")", "/", "parenrightig", ".", "Unlike", "continuous", "perturbations", "to", "images", ",", "word", "-", "substitution", "adversarial", "samples", "only", "contain", "several", "perturbed", "words", ".", "Therefore", ",", "we", "consider", "using", "a", "multiple", "-", "time", "mask", "-", "and", "-", "recover", "process", "as", "text", "adversarial", "purification", ",", "which", "makes", "full", "use", "of", "the", "pre", "-", "trained", "ability", "of", "the", "masked", "lan-", "guage", "models", ".", "Compared", "with", "the", "generation", "pro-", "cess", "used", "in", "image", "adversarial", "purification", ",", "masked", "language", "model", "-", "based", "purification", "method", "is", "eas-", "ier", "to", "implement", "and", "utilize", "in", "pre", "-", "trained", "model-", "based", "applications", "as", "a", "defense", "against", "strong", "word-", "substitution", "adversarial", "attacks", ".", "3.3", "Combining", "with", "Classifier", "Normal", "adversarial", "purification", "methods", "are", "plug-", "and", "-", "play", "processes", "inserted", "before", "the", "classifica-", "tion", ",", "however", ",", "the", "masked", "language", "model", "itself", "is", "a", "widely", "used", "classification", "model", ".", "That", "is", ",", "the", "purification", "model", "Fm", "(", "·", ")", "and", "the", "classification", "model", "Fc", "(", "·", ")", "can", "share", "the", "same", "model", ".", "There-", "fore", ",", "instead", "of", "using", "a", "normal", "masked", "languagemodel", "such", "as", "BERT", ",", "we", "train", "the", "classifier", "and", "the", "mask", "-", "filling", "ability", "as", "multi", "-", "tasks", ".", "The", "classifica-", "tion", "loss", "is", "Lc", "=", "L", "(", "Fc", "(", "X′", ")", ",", "y", ",", "θ", ")", "+L", "(", "Fc", "(", "X", ")", ",", "y", ",", "θ", ")", "and", "the", "masked", "language", "model", "loss", "is", "Lmlm=", "L", "(", "Fm", "(", "X′", ")", ",", "X", ",", "θ", ")", ".", "Here", ",", "the", "input", "Xis", "the", "clean", "text", "used", "in", "training", "the", "classifier", "and", "the", "X′is", "the", "random", "masked", "text", ".", "The", "loss", "function", "L", "(", "·", ")", "is", "the", "cross", "-", "entropy", "loss", "used", "in", "both", "the", "text", "classifica-", "tion", "head", "and", "masked", "language", "modeling", "head", "in", "the", "pre", "-", "trained", "models", "exemplified", "by", "BERT", ".", "In", "this", "way", ",", "we", "are", "utilizing", "the", "pre", "-", "trained", "mod-", "els", "to", "their", "full", "ability", "by", "using", "both", "the", "mask", "-", "filling", "function", "learned", "during", "the", "pre", "-", "training", "stage", "as", "well", "as", "the", "generalization", "ability", "to", "downstream", "tasks", ".", "Algorithm", "1", "Adversarial", "Training", "Require", ":", "Training", "Sample", "X", ",", "adversarial", "step", "Ta", "1", ":", "X′←Inject", "Noise", "X", "2", ":", "δ0←1√DN", "(", "0", ",", "σ2", ")", "/", "/", "Init", "Perturb", "3", ":", "fort=", "0,1", ",", "...", "T", "ado", "4", ":", "gδ←", "▽", "δ", "(", "Lc+Lmlm", ")", "/", "/", "Get", "Perturbation", "5", ":", "δt←", "/", "producttext", "||δ||F", "<", "ϵ", "(", "δt+α·gδ", "/", "||gδ||F", ")", "6", ":", "Lnoise←", "L", "(", "Fm", "(", "X′+δt", ")", ",", "X", ",", "θ", ")", "7", ":", "X′←X′+δt", "/", "/", "Update", "Input", "8", ":", "gt+1", "=", "gt+", "▽", "θ", "(", "Lc+Lmlm+Lnoise", ")", "9", ":", "θ←θ−gT+1", "/", "/", "Update", "model", "parameter", "θ", "3.4", "Combining", "with", "Adversarial", "Training", "Different", "from", "the", "image", "field", "where", "adver-", "saries", "are", "usually", "generated", "by", "gradients", ",", "word-", "substitution", "attacks", "do", "not", "have", "direct", "connections", "with", "gradient", "-", "based", "adversaries", "in", "the", "text", "domain", ".", "Therefore", ",", "it", "is", "intuitive", "to", "incorporate", "gradient-", "based", "adversarial", "training", "in", "the", "purification", "pro-", "cess", "when", "the", "purification", "process", "is", "combined", "with", "the", "classifier", "training", ".", "We", "introduce", "the", "adversarial", "training", "process", "therefore", "the", "purification", "function", "Fm", "(", "·", ")", "includes", "mask", "-", "prediction", "and", "recovering", "clean", "texts", "from", "inputs", "with", "gradient", "-", "based", "perturbations", ",", "which", "leads", "to", "stronger", "purification", "ability", "compared", "with", "a", "standard", "BERT", ".", "Following", "standard", "adversarial", "training", "process", "with", "gradient", "-", "based", "adversaries", "introduced", "by", "Zhu", "et", "al", ".", "(", "2019", ")", ";", "Li", "and", "Qiu", "(", "2020", ")", ".", "In", "the", "adversarial", "training", "process", ",", "a", "gradient", "-", "based", "perturbation", "δis", "added", "to", "the", "embedding", "output", "of", "the", "input", "text", "X", "(", "for", "simplicity", ",", "we", "still", "use", "XandX′to", "denote", "the341", "embedding", "output", "in", "the", "Algorithm", "1", ")", ".", "Then", "the", "perturbed", "inputs", "are", "added", "to", "the", "training", "set", "in", "the", "training", "process", ".", "We", "combine", "gradient", "-", "based", "ad-", "versarial", "training", "with", "the", "text", "purification", "process", ".", "As", "illustrated", "in", "Algorithm", "1", ",", "for", "an", "adversarial", "training", "step", ",", "we", "add", "perturbations", "to", "the", "masked", "textX′and", "run", "Tatimes", "of", "updates", ".", "We", "calculate", "gradients", "based", "on", "both", "classification", "losses", "Lcand", "masked", "language", "modeling", "losses", "Lmlm", ";", "further", ",", "as", "seen", "in", "line", "6", ",", "we", "also", "calculate", "the", "loss", "that", "the", "masked", "language", "model", "will", "predict", "the", "texts", "from", "the", "perturbed", "text", "X′+δ", ",", "which", "enhanced", "the", "text", "recover", "ability", "from", "noisy", "or", "adversarial", "texts", ".", "4", "Experiments", "4.1", "Datasets", "We", "use", "two", "widely", "used", "text", "classification", "datasets", ":", "IMDB1", "(", "Maas", "et", "al", ".", ",", "2011", ")", "and", "AG", "’s", "News2", "(", "Zhang", "et", "al", ".", ",", "2015", ")", "in", "our", "experiments", ".", "The", "IMDB", "dataset", "is", "a", "bi", "-", "polar", "movie", "review", "classification", "task", ";", "the", "AG", "’s", "News", "dataset", "is", "a", "four", "-", "class", "news", "genre", "classification", "task", ".", "The", "average", "length", "is", "220", "words", "in", "the", "IMDB", "dataset", ",", "and", "40", "words", "in", "the", "AG", "’s", "News", "dataset", ".", "We", "use", "the", "test", "set", "fol-", "lowing", "the", "Textfooler", "1k", "test", "set", "in", "the", "main", "re-", "sult", "and", "sample", "100", "samples", "for", "the", "rest", "of", "the", "experiments", "since", "the", "attacking", "process", "is", "seriously", "slowed", "down", "when", "the", "model", "is", "defensive", ".", "4.2", "Attack", "Methods", "Popular", "attack", "methods", "exemplified", "by", "genetic", "Al-", "gorithm", "(", "Alzantot", "et", "al", ".", ",", "2018", ")", ",", "Textfooler", "(", "Jin", "et", "al", ".", ",", "2019", ")", "and", "BERT", "-", "Attack", "(", "Li", "et", "al", ".", ",", "2020", ")", "can", "successfully", "mislead", "strong", "models", "of", "both", "IMDB", "and", "AG", "’s", "News", "task", "with", "a", "very", "small", "per-", "centage", "of", "substitutions", ".", "Therefore", ",", "we", "use", "these", "strong", "adversarial", "attack", "methods", "as", "the", "attacker", "to", "test", "the", "effectiveness", "of", "our", "defense", "method", ".", "The", "hyperparameters", "used", "in", "the", "attacking", "algorithm", "vary", "in", "different", "settings", ":", "we", "choose", "candidate", "list", "sizeKto", "be", "12", ",", "48", ",", "and", "50", "which", "are", "used", "in", "the", "Textfooler", "and", "BERT", "-", "Attack", "methods", ".", "We", "use", "the", "exact", "same", "metric", "used", "in", "Textfooler", "and", "BERT", "-", "Attack", "that", "calculates", "the", "perplexity", ",", "which", "is", "the", "targeted", "adversarial", "evalu-", "ation", "defined", "by", "Si", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2020", ")", ".", "The", "time_to_converge", "measures", "the", "actual", "defense", "ability", "of", "the", "system", "under", "adversarial", "attacks", "." ]

[ "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "1https", ":", "/", "/", "datasets.imdbws.com", "/", "2https", ":", "/", "/", "www.kaggle.com", "/", "amananandrai", "/", "ag-news-", "classification", "-", "dataset4.3", "Victim", "Models", "and", "Defense", "Baselines", "The", "victim", "models", "are", "the", "fine", "-", "tuned", "pre", "-", "train", "mod-", "els", "exemplified", "by", "BERT", "and", "RoBERTa", ",", "which", "we", "implement", "based", "on", "Huggingface", "Transformers3", "(", "Wolf", "et", "al", ".", ",", "2020", ")", ".", "As", "discussed", "above", ",", "there", "are", "few", "works", "concerning", "adversarial", "defenses", "against", "attacks", "without", "knowing", "the", "candidates", "in", "NLP", "tasks", ".", "Moreover", ",", "previous", "works", "do", "not", "focus", "on", "recent", "strong", "attack", "algorithms", "such", "as", "Textfooler", "(", "Jin", "et", "al", ".", ",", "2019", ")", ",", "BERT", "-", "involved", "attacks", "(", "Li", "et", "al", ".", ",", "2020", ";", "Garg", "and", "Ramakrishnan", ",", "2020", ")", "Therefore", ",", "we", "first", "list", "methods", "that", "can", "defend", "against", "adver-", "sarial", "attacks", "without", "accessing", "the", "candidate", "list", "as", "our", "baselines", ":", "Adv", "-", "Train", "(", "Adv", "-", "HotFlip", ")", ":", "Ebrahimi", "et", "al", ".", "(", "2017", ")", "introduces", "the", "adversarial", "training", "method", "used", "in", "defending", "against", "substitution", "-", "based", "adver-", "sarial", "attacks", "in", "NLP", ".", "It", "uses", "gradients", "to", "find", "actual", "adversaries", "in", "the", "embedding", "space", ".", "Virtual", "-", "Adv", "-", "Train", "(", "FreeLB", ")", ":", "Li", "and", "Qiu", "(", "2020", ")", ";", "Zhu", "et", "al", ".", "(", "2019", ")", "use", "virtual", "adversaries", "to", "improve", "the", "performances", "in", "fine", "-", "tuning", "pre-", "trained", "models", ",", "which", "can", "also", "be", "used", "to", "deal", "with", "adversarial", "attacks", "without", "accessing", "the", "candidate", "list", ".", "We", "follow", "the", "standard", "FreeLB", "training", "pro-", "cess", "to", "re", "-", "implement", "the", "defense", "results", ".", "Further", ",", "there", "are", "some", "works", "that", "require", "the", "candidate", "list", ",", "it", "is", "not", "a", "fair", "comparison", "with", "de-", "fense", "methods", "without", "accessing", "the", "candidates", ",", "so", "we", "list", "them", "separately", ":", "Adv", "-", "Augmentation", ":", "We", "generate", "adversarial", "examples", "of", "the", "training", "dataset", "as", "a", "data", "augmen-", "tation", "method", ".", "We", "mix", "the", "generated", "adversarial", "examples", "and", "the", "original", "training", "dataset", "to", "train", "a", "model", "in", "a", "standard", "fine", "-", "tuning", "process", ".", "ASCC", ":", "Dong", "et", "al", ".", "(", "2021", ")", "also", "uses", "a", "convex-", "hull", "concept", "based", "on", "the", "candidate", "vocabulary", "as", "a", "strong", "adversarial", "defense", ".", "ADA", ":", "Si", "et", "al", ".", "(", "2020", ")", "uses", "a", "mixup", "strategy", "based", "on", "the", "generated", "adversarial", "examples", "to", "achieve", "adversarial", "defense", "with", "variants", "AMDA-", "SMix", "that", "mixup", "the", "special", "tokens", ".", "FreeLB++", ":", "Li", "et", "al", ".", "(", "2021", ")", "introduces", "a", "variant", "of", "FreeLB", "method", "that", "expands", "the", "norm", "bound", ".", "RanMASK", ":", "Zeng", "et", "al", ".", "(", "2021", ")", "introduces", "a", "masking", "strategy", "that", "makes", "use", "of", "noises", "to", "im-", "prove", "robustness", ".", "3https", ":", "/", "/", "github.com", "/", "huggingface", "/", "transformers342", "Defense", "↓Attacks", "→Origin", "Textfooler", "BERT", "-", "Attack", "Textfooler", "BERT", "-", "Attack", "(", "K=12", ")", "(", "K=12", ")", "(", "K=50", ")", "(", "K=48", ")", "IMDB", "↓", "BERT", "(", "Devlin", "et", "al", ".", ",", "2018", ")", "94.1", "20.4", "18.5", "2.8", "3.2", "RoBERTa", "(", "Liu", "et", "al", ".", ",", "2019", ")", "97.3", "26.3", "24.5", "25.2", "23.0", "●", "Adv", "-", "HotFlip", "(", "BERT", ")", "(", "Ebrahimi", "et", "al", ".", ",", "2017", ")", "95.1", "36.1", "34.2", "8.0", "6.2", "■", "FreeLB", "(", "BERT", ")", "(", "Li", "and", "Qiu", ",", "2020", ")", "96.0", "30.2", "30.4", "7.3", "2.3", "■", "FreeLB++", "(", "BERT", ")", "(", "Li", "et", "al", ".", ",", "2021", ")", "93.2", "-", "-", "45.3", "39.9", "▲", "RanMASK", "(", "RoBERTa", ")", "(", "Zeng", "et", "al", ".", ",", "2021", ")", "93.0", "-", "-", "23.7", "26.8", "▲", "Text", "Purification", "(", "BERT", ")", "93.0", "81.5", "76.7", "51.0", "44.5", "▲", "Text", "Purification", "(", "RoBERTa", ")", "96.1", "84.2", "82.0", "54.3", "52.2", "AG", "’s", "News", "↓", "BERT", "(", "Devlin", "et", "al", ".", ",", "2018", ")", "92.0", "32.8", "34.3", "19.4", "14.1", "RoBERTa", "(", "Liu", "et", "al", ".", ",", "2019", ")", "97.3", "26.3", "24.5", "25.2", "23.0", "●", "Adv", "-", "HotFlip", "(", "BERT", ")", "91.2", "35.3", "34.1", "18.2", "8.5", "■", "FreeLB", "(", "BERT", ")", "90.5", "40.1", "34.2", "20.1", "8.5", "▲", "Text", "Purification", "(", "BERT", ")", "90.6", "61.5", "49.7", "34.9", "22.5", "▲", "Text", "Purification", "(", "RoBERTa", ")", "90.8", "59.1", "41.2", "34.2", "19.5", "Table", "1", ":", "After", "-", "Attack", "Accuracy", "compared", "with", "defense", "methods", "that", "can", "defend", "attacks", "without", "acknowledging", "the", "form", "of", "the", "attacks", ".", "That", "is", ",", "the", "substitution", "candidates", "of", "the", "attack", "methods", "are", "unknown", "to", "defense", "systems", ".", "Methods", "Origin", "Textfooler", "GA", "IMDB", "↓", "BERT", "94.0", "2.0", "45.0", "■", "Data", "-", "Augmentation", "93.0", "18.0", "53.0", "●", "ADA", "(", "Si", "et", "al", ".", ",", "2020", ")", "96.7", "3.0", "-", "●", "AMDA", "(", "Si", "et", "al", ".", ",", "2020", ")", "96.9", "17.4", "-", "▲", "ASCC", "(", "Dong", "et", "al", ".", ",", "2021", ")", "77.0", "-", "71.0", "▲", "Text", "Purification", "(", "BERT", ")", "93.0", "51.0", "79.0", "Table", "2", ":", "After", "-", "Attack", "Accuracy", "compared", "with", "access-", "candidates", "methods", "based", "on", "the", "BERT", "model", ".", "Here", "we", "implement", "Textfooler", "with", "num", "attention", "heads", "for", "consistency", "with", "previous", "works", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O" ]

[ "GA", "is", "the", "Genetic", "Attack", "method", ".", "We", "use", "the", "AMDA", "-", "SMix", "setup", "for", "the", "AMDA", "method", ".", "4.4", "Implementations", "We", "use", "BERT", "-", "BASE", "and", "RoBERTa", "-", "BASE", "models", "based", "on", "the", "Huggingface", "Transformers4", ".", "We", "mod-", "ify", "the", "adversarial", "training", "with", "virtual", "adversaries", "based", "on", "the", "implementation", "of", "FreeLB", ",", "TA", "V", "AT", ",", "and", "FreeLB++", ".", "The", "training", "hyper", "-", "parameters", "we", "use", "are", "different", "from", "FreeLB", "and", "TA", "V", "AT", "since", "we", "aim", "to", "find", "large", "perturbations", "to", "simulate", "adver-", "saries", ".", "We", "set", "num", "attention", "heads", "optimizer", "to", "and", "learning", "rate", "gradient", "clipping", "in", "all", "tasks", "." ]

[ "B-MethodName", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O" ]

[ "We", "set", "the", "multiple", "attention", "type", "weight", "decay", "=", "to", "16", "for", "all", "tasks", "and", "we", "will", "discuss", "the", "selection", "of", "Nin", "the", "later", "section", "." ]

[ "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "our", "text", "adversarial", "purification", "method", ",", "we", "4https", ":", "/", "/", "github.com", "/", "huggingface", "/", "transformersuse", "the", "model", "that", "is", "trained", "with", "gradient", "-", "based", "adversarial", "training", "as", "the", "purification", "model", "Fm", "(", "·", ")", "and", "the", "classifier", "Fc", "(", "·", ")", "for", "the", "main", "experiments", "and", "conduct", "thorough", "ablations", "to", "explore", "the", "ef-", "fect", "of", "combining", "purification", "with", "classifier", "and", "adversarially", "trained", "classifier", ".", "As", "for", "implementing", "adversarial", "attack", "methods", ",", "we", "use", "the", "TextAttack", "toolkit", "while", "referring", "the", "official", "codes", "of", "the", "corresponding", "attack", "methods", "5", "(", "Morris", "et", "al", ".", ",", "2020a", ")", ".", "The", "similarity", "thresholds", "of", "the", "word", "-", "substitution", "range", "are", "the", "main", "fac-", "tors", "of", "the", "attacking", "algorithm", ".", "We", "tune", "the", "max", "seq", "length", "0.5", "for", "the", "AG", "task", "and", "0.7", "for", "the", "IMDB", "task", "and", "0.5", "for", "the", "hidden", "size", "of", "the", "synonyms", "embedding", "(", "Mrkši", "´", "c", "et", "al", ".", ",", "2016", ")", "which", "can", "reproduce", "the", "re-", "sults", "of", "the", "attacking", "methods", "reported", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "B-TaskName", "O", "O", "B-HyperparameterValue", "O", "O", "B-TaskName", "O", "O", "B-HyperparameterValue", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.5", "Results", "As", "seen", "in", "Table", "1", ",", "the", "proposed", "Text", "Adversar-", "ial", "Purification", "algorithm", "can", "successfully", "defend", "strong", "attack", "methods", ".", "The", "cross_entropy", "of", "our", "defend-", "ing", "method", "under", "attack", "is", "significantly", "higher", "than", "non", "-", "defense", "models", "(", "50", "%", "vs", "20", "%", "in", "the", "IMDB", "dataset", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricValue", "I-MetricValue", "O", "O", "B-DatasetName", "O", "O", "O" ]

[ "Compared", "with", "previous", "defense", "methods", ",", "our", "proposed", "method", "can", "achieve", "higher", "defense", "accuracy", "in", "both", "the", "IMDB", "task", "and", "AG", "’s", "News", "task", ".", "The", "Adv", "-", "HotFlip", "and", "the", "FreeLB", "methods", "5https", ":", "/", "/", "github.com", "/", "QData", "/", "TextAttack343", "Defense", "↓Attacks", "→Origin", "Textfooler", "BERT", "-", "Attack", "(", "K=12", ")", "(", "K=12", ")", "▲", "Text", "Purification", "Only", "↓", "✔", "AUC", "94.0", "72.0", "60.0", "✔", "Purification", "✖", "Multi", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O" ]

[ "F1_score", "87.0", "20.0", "13.0", "✔", "Purification", "✖", "Mask", "Insertion", "✖", "Multi", "." ]

[ "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "model_size", "92.0", "11.0", "3.0", "▲", "Combining", "Classifier", "↓", "✔", "Purification", "✔", "Comb", "." ]

[ "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Classifier", "95.0", "76.0", "67.0", "✔", "Purification", "✔", "Comb", ".", "Classifier", "✖", "Multi", ".", "cross_entropy", "95.0", "45.0", "34.0", "✔", "Purification", "✔", "Comb", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O" ]

[ "Classifier", "✖", "Multi", ".", "Recovery", "✖", "Mask", "Insertion", "95.0", "29.0", "17.0", "▲", "Combining", "Adversarially", "Trained", "Classifier", "↓", "✔", "Purification", "✔", "AT", "Classifier", "93.0", "86.0", "77.0", "✔", "Purification", "✔", "AT", "Classifier", "✖", "Multi", ".", "Recovery", "93.0", "63.0", "52.0", "✔", "Purification", "✔", "AT", "Classifier", "✖", "Multi", ".", "Recovery", "✖", "Mask", "Insertion", "93.0", "42.0", "29.0", "BERT", "94.0", "10.0", "5.0", "Table", "3", ":", "Ablations", "results", "tested", "on", "attacking", "the", "IMDB", "task", "based", "on", "BERT", "models", ".", "Comb", ".", "Classifier", "is", "the", "combined", "fine", "-", "tuned", "Fc", "(", "·", ")", "andFm", "(", "·", ")", "and", "AT", "Classifier", "is", "the", "adversarially", "trained", "Fc", "(", "·", ")", ".", "Mask", "Insertion", "is", "to", "use", "both", "mask", "-", "replacing", "and", "mask", "-", "insertion", "in", "injecting", "noise", ".", "are", "effective", ",", "which", "indicates", "that", "gradient", "-", "based", "adversaries", "are", "not", "very", "similar", "to", "actual", "substitu-", "tions", ".", "We", "can", "see", "that", "Adv", "-", "HotFlip", "and", "FreeLB", "methods", "achieve", "similar", "results", "(", "around", "30", "%", "when", "K=", "12", ")", "which", "indicates", "that", "gradient", "-", "based", "adver-", "sarial", "training", "methods", "have", "similar", "defense", "abili-", "ties", "no", "matter", "whether", "the", "adversaries", "are", "virtual", "or", "real", "since", "they", "are", "both", "unaware", "of", "the", "attacker", "’s", "candidate", "list", ".", "Also", ",", "the", "original", "accuracy", "(", "on", "the", "clean", "data", ")", "of", "our", "method", "is", "only", "a", "little", "lower", "than", "the", "baseline", "methods", ",", "which", "indicates", "that", "the", "purified", "texts", "still", "contain", "enough", "information", "for", "classification", ".", "The", "RoBERTa", "model", "also", "shows", "robustness", "using", "both", "original", "fine", "-", "tuned", "model", "and", "our", "defensive", "framework", ",", "which", "indicates", "our", "purification", "algorithm", "can", "be", "used", "in", "various", "pre-", "trained", "language", "models", ".", "Compared", "with", "methods", "that", "specifically", "focus", "on", "adversarial", "defense", ",", "our", "proposed", "method", "can", "still", "surpass", "the", "state", "-", "of", "-", "the-", "art", "defense", "system", "FreeLB++", "(", "Li", "et", "al", ".", ",", "2021", ")", "and", "RanMASK", "(", "Zeng", "et", "al", ".", ",", "2021", ")", ".", "Further", ",", "the", "epochs", "is", "extremely", "im-", "portant", "in", "defending", "against", "adversarial", "attacks", ",", "when", "the", "candidate", "size", "is", "smaller", ",", "exemplified", "by", "attention", "type", "12", ",", "our", "method", "can", "achieve", "very", "promising", "results", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "pointed", "out", "by", "Morris", "et", "al", ".", "(", "2020b", ")", ",", "the", "candidate", "size", "should", "not", "be", "too", "large", "that", "the", "quality", "of", "the", "adversarial", "examples", "is", "largely", "dam-", "aged", ".", "As", "seen", "in", "Table", "2", ",", "we", "compare", "our", "method", "with", "previous", "access", "-", "candidates", "defense", "methods", ".", "When", "defending", "against", "the", "widely", "used", "Textfooler", "attack", "and", "genetic", "attack", "(", "Alzantot", "et", "al", ".", ",", "2018", ")", ",", "our", "method", "can", "achieve", "similar", "accuracy", "even", "compared", "with", "known", "-", "candidates", "defense", "meth-", "ods", ".", "As", "seen", ",", "the", "data", "augmentation", "method", "can-", "not", "significantly", "improve", "model", "robustness", "since", "the", "candidates", "can", "be", "very", "diversified", ".", "Therefore", ",", "using", "generated", "adversarial", "samples", "as", "an", "aug-", "mentation", "strategy", "does", "not", "guarantee", "robustness", "against", "greedy", "-", "searched", "methods", "like", "Textfooler", "and", "BERT", "-", "Attack", ".", "4.6", "Analysis", "4.6.1", "Ablations", "As", "we", "design", "an", "adversarial", "purification", "algo-", "rithm", "with", "masked", "language", "models", "and", "propose", "a", "multiple", "-", "recovering", "strategy", ",", "we", "aim", "to", "explore", "which", "process", "helps", "more", "in", "the", "purification", "de-", "fense", "system", ".", "Plus", ",", "we", "combine", "classifiers", "within", "the", "purification", "model", "so", "it", "is", "also", "important", "to", "explore", "whether", "such", "a", "combination", "is", "helpful", ".", "For", "each", "type", "of", "purification", "method", ",", "we", "test", "whether", "the", "specific", "purification", "process", "we", "pro-", "pose", "is", "effective", ".", "That", "is", ",", "we", "test", "whether", "making", "multiple", "recoveries", "in", "the", "purification", "process", "is", "helpful", ";", "also", ",", "we", "test", "whether", "using", "both", "masking", "tokens", "and", "inserting", "additional", "masks", "is", "helpful", ".", "As", "seen", "in", "Table", "3", ",", "we", "can", "summarize", "that", ":", "(", "1", ")", "Multi", "-", "time", "recovering", "is", "necessary", ":", "in", "the", "image", "domain", ",", "multiple", "reconstructions", "with", "a", "con-", "tinuous", "time", "purification", "process", "are", "necessary.344", "Texts", "Confidence", "(", "Positive", ")", "Clean", "-", "SampleI", "have", "the", "good", "common", "logical", "sense", "to", "know", "that", "oil", "can", "not", "last", "forever", "and", "I", "am", "acutely", "aware", "of", "how", "much", "of", "my", "life", "in", "the", "suburbs", "revolves", "around", "petrochemical", "products", ".", "I", "’ve", "been", "an", "avid", "consumer", "of", "new", "technology", "and", "I", "keep", "running", "out", "of", "space", "on", "powerboards", "-", "so", "...", "93.2", "%", "Adv", ".", "of", "BERTI", "possess", "the", "good", "common", "logical", "sense", "to", "realize", "that", "oil", "can", "not", "last", "forever", "and", "I", "am", "acutely", "aware", "of", "how", "much", "of", "my", "life", "in", "the", "suburbs", "spins", "around", "petrochemical", "products", ".", "I", "’ve", "been", "an", "avid", "consumer", "of", "new", "technology", "and", "I", "keep", "running", "out", "of", "space", "on", "powerboards", "-", "well", "...", "38.3", "%", "Adv", ".", "of", "Text", "PureI", "know", "the", "wonderful", "general", "sense", "to", "knows", "that", "oils", "can", "not", "last", "endless", "and", "I", "am", "acutely", "know", "of", "how", "majority", "of", "my", "lived", "in", "the", "city", "spins", "around", "petrochemical", "products", ".", "I", "’ve", "been", "an", "amateur", "consumers", "of", "newly", "technologies", "and", "I", "kept", "working", "out", "of", "spaces", "on", "powerboards", "!", "well", "...", "80.1", "%", "Purified", "TextsWell", "I", "know", "the", "wonderful", "general", "sense", "notion", "to", "knows", "that", "oils", "production", "can", "not", "last", "for", "endless", "years", "and", "I", "am", "acutely", "know", "of", "how", "the", "majority", "of", "my", "live", "in", "the", "city", "spins", "around", "the", "petrochemical", "production", "...", "I", "’ve", "been", "an", "amateur", "consumers", "of", "new", "technologies", "and", "I", "kept", "working", "out", "of", "spaces", "on", "power", "skateboards", "!", "well", "...", "80.4", "%", "I", "know", "the", "wonderful", "common", "sense", "notion", "to", "knows", "that", "oils", "can", "not", "last", "forever", "and", "I", "also", "acutely", "know", "of", "how", "majority", "of", "my", "lived", "in", "the", "world", "and", "around", "petrochemical", "production", "...", "I", "’ve", "been", "an", "amateur", "consumers", "of", "newly", "technologies", "and", "I", "kept", "working", "out", "of", "them", "on", "skateboards", "!", "well", "...", "81.4", "%", "I", "know", "the", "wonderfully", "general", "sense", "notion", "to", "knows", "that", "oils", "can", "not", "last", "endless", "and", "I", "am", "acutely", "know", "of", "how", "majority", "part", "of", "my", "lived", "in", "the", "big", "city", "spins", "around", "petrocochemical", "production", "...", "I", "should", "have", "been", "an", "amateur", "consumers", "fan", "of", "newly", "technologies", "and", "I", "kept", "on", "working", "out", "of", "spaces", "and", "on", "powerboards", "!", "well", "...", "76.2", "%", "I", "am", "the", "the", "general", "sense", "notion", "and", "knows", "that", "oils", "can", "not", "last", "endless", "and", "I", "am", "acutely", "know", "of", "the", "part", "of", "my", "lived", "as", "the", "city", "spins", "around", "petrochemical", "production", "...", "I", "’ve", "been", "an", "amateur", "consumers", "of", "newly", "technologies", "and", "I", "kept", "working", "out", "of", "bed", "on", "powerboards", "!", "well", "...", "78.5", "%", "Table", "4", ":", "A", "random", "selected", "sample", "that", "BERT", "model", "failed", "to", "defend", "against", "the", "Textfooler", "Attack", "in", "the", "IMDB", "dataset", "and", "Text", "Pure", "(", "Text", "Adversarial", "Purification", ")", "succeed", ".", "Adv", ".", "of", "BERT", "is", "the", "adversarial", "sample", "generated", "by", "Textfooler", "to", "attack", "the", "classifier", ".", "Adv", ".", "of", "Text", "Pure", "is", "the", "sample", "generated", "by", "Textfooler", "to", "attack", "the", "classifier", "but", "failed", ".", "The", "purified", "texts", "are", "also", "listed", ".", "Similarly", ",", "the", "multi", "-", "recovery", "process", "is", "important", "in", "obtaining", "high", "-", "quality", "purification", "results", ".", "We", "can", "observe", "that", "one", "-", "time", "recovery", "can", "not", "achieve", "promising", "defense", "performances", ".", "(", "2", ")", "Combining", "classifiers", "is", "effective", ":", "we", "can", "observe", "that", "when", "we", "use", "trained", "classifiers", "and", "masked", "language", "models", ",", "the", "defense", "perfor-", "mances", "are", "better", "than", "using", "fine", "-", "tuned", "classifier", "and", "vanilla", "BERT", "as", "a", "masked", "language", "model", ",", "indicating", "that", "such", "a", "combined", "training", "process", "is", "helpful", "in", "obtaining", "more", "strong", "defense", "systems", ".", "Also", ",", "with", "gradient", "-", "based", "adversarial", "training", ",", "the", "purification", "process", "can", "obtain", "a", "further", "boost", ",", "indi-", "cating", "that", "our", "proposed", "text", "purification", "algorithm", "can", "be", "used", "together", "with", "previous", "defense", "meth-", "ods", "as", "an", "advanced", "defense", "system", ".", "4.6.2", "Example", "of", "Purification", "Results", "As", "seen", "in", "Table", "4", ",", "we", "construct", "multiple", "recoveries", "and", "use", "the", "averaged", "score", "as", "the", "final", "classifica-", "tion", "result", ".", "Such", "a", "purification", "process", "is", "effective", "compared", "with", "vanilla", "fine", "-", "tuned", "BERT", ".", "We", "can", "observe", "that", "the", "adversarial", "sample", "that", "successfully", "attacked", "the", "vanilla", "BERT", "model", "only", "achieves", "this", "by", "replacing", "only", "a", "few", "tokens", ".", "While", "with", "the", "purification", "process", ",", "the", "attack", "algorithm", "is", "struggling", "in", "finding", "effective", "substitutions", "to", "achieve", "a", "successful", "attack", ".", "Even", "replacing", "a", "large", "number", "of", "tokens", "that", "seriously", "hurt", "the", "semantics", "of", "the", "input", "texts", ",", "with", "the", "purification", "process", "in-", "volved", ",", "the", "classifier", "can", "still", "resist", "the", "adversarialeffect", ".", "Further", ",", "by", "observing", "the", "purified", "texts", ",", "we", "can", "find", "that", "the", "purified", "texts", "can", "make", "predictions", "correctly", "though", "some", "substitutes", "still", "exist", "in", "the", "purified", "texts", ",", "indicating", "that", "making", "predictions", "based", "on", "purified", "texts", "using", "the", "combined", "trained", "classifier", "can", "obtain", "a", "promising", "defense", "perfor-", "mance", ".", "That", "is", ",", "our", "proposed", "method", ",", "though", "is", "not", "a", "plug", "-", "and", "-", "play", "system", ",", "can", "be", "used", "as", "a", "gen-", "eral", "system", "as", "a", "defense", "against", "substitution", "-", "based", "attacks", ".", "5", "Conclusion", "and", "Future", "Work", "In", "this", "paper", ",", "we", "introduce", "a", "textual", "adversar-", "ial", "purification", "algorithm", "as", "a", "defense", "against", "substitution", "-", "based", "adversarial", "attacks", ".", "We", "utilize", "the", "mask", "-", "infill", "ability", "of", "pre", "-", "trained", "models", "to", "re-", "cover", "noisy", "texts", "and", "use", "these", "purified", "texts", "to", "make", "predictions", ".", "Experiments", "show", "that", "the", "pu-", "rification", "method", "is", "effective", "in", "defending", "strong", "adversarial", "attacks", "without", "acknowledging", "the", "sub-", "stitution", "range", "of", "the", "attacks", ".", "We", "are", "the", "first", "to", "consider", "the", "adversarial", "purification", "method", "with", "a", "multiple", "-", "recovering", "strategy", "in", "the", "text", "domain", "while", "previous", "successes", "of", "adversarial", "purifica-", "tion", "strategies", "usually", "focus", "on", "the", "image", "field", ".", "Therefore", ",", "we", "hope", "that", "the", "adversarial", "purification", "method", "can", "be", "further", "explored", "in", "NLP", "applica-", "tions", "as", "a", "powerful", "defense", "strategy.345", "Limitations", "In", "this", "paper", ",", "we", "discuss", "an", "important", "topic", "in", "the", "NLP", "field", ",", "the", "defense", "against", "adversarial", "attacks", "in", "NLP", "applications", ".", "We", "provide", "a", "strong", "defense", "strategy", "against", "the", "most", "widely", "used", "word", "substi-", "tution", "attacks", "in", "the", "NLP", "field", ",", "which", "is", "limited", "in", "several", "directions", ".", "•We", "are", "testing", "defense", "strategies", "using", "down-", "stream", "task", "models", "such", "as", "BERT", "and", "RoBERTa", ",", "and", "the", "purification", "tool", "is", "a", "model", "with", "a", "mask", "-", "filling", "ability", "such", "as", "BERT", ".", "Such", "a", "process", "can", "be", "further", "improved", "with", "strong", "models", "such", "as", "large", "language", "models", ".", "•We", "study", "the", "concept", "of", "adversarial", "purifica-", "tion", "in", "the", "adversarial", "attack", "scenarios", "with", "word", "-", "substitution", "attacks", "on", "small", "fine", "-", "tuned", "models", ".", "The", "concept", "of", "adversarial", "purifica-", "tion", "can", "be", "further", "expanded", "to", "various", "NLP", "applications", ".", "For", "instance", ",", "the", "purification", "of", "natural", "language", "can", "be", "used", "in", "malicious", "text", "purification", "which", "is", "more", "suitable", "in", "applica-", "tions", "with", "large", "language", "models", ".", "Acknowledgement", "This", "work", "was", "supported", "by", "the", "National", "Natu-", "ral", "Science", "Foundation", "of", "China", "(", "No", ".", "62236004", "and", "No", ".", "62022027", ")", "and", "CAAI", "-", "Huawei", "MindSpore", "Open", "Fund", ".", "References", "Moustafa", "Alzantot", ",", "Yash", "Sharma", ",", "Ahmed", "Elgohary", ",", "Bo-", "Jhang", "Ho", ",", "Mani", "B", ".", "Srivastava", ",", "and", "Kai", "-", "Wei", "Chang", ".", "2018", ".", "Generating", "natural", "language", "adversarial", "exam-", "ples", ".", "CoRR", ",", "abs", "/", "1804.07998", ".", "Nicholas", "Carlini", "and", "David", "A", ".", "Wagner", ".", "2016", ".", "Towards", "evaluating", "the", "robustness", "of", "neural", "networks", ".", "CoRR", ",", "abs", "/", "1608.04644", ".", "Daniel", "Cer", ",", "Yinfei", "Yang", ",", "Sheng", "-", "yi", "Kong", ",", "Nan", "Hua", ",", "Nicole", "Limtiaco", ",", "Rhomni", "St", "John", ",", "Noah", "Constant", ",", "Mario", "Guajardo", "-", "Cespedes", ",", "Steve", "Yuan", ",", "Chris", "Tar", ",", "et", "al", ".", "2018", ".", "Universal", "sentence", "encoder", ".", "arXiv", "preprint", "arXiv:1803.11175", ".", "Yong", "Cheng", ",", "Lu", "Jiang", ",", "and", "Wolfgang", "Macherey", ".", "2019", ".", "Robust", "neural", "machine", "translation", "with", "doubly", "adver-", "sarial", "inputs", ".", "arXiv", "preprint", "arXiv:1906.02443", ".", "Jacob", "Devlin", ",", "Ming", "-", "Wei", "Chang", ",", "Kenton", "Lee", ",", "and", "Kristina", "Toutanova", ".", "2018", ".", "BERT", ":", "pre", "-", "training", "of", "deep", "bidirectional", "transformers", "for", "language", "under-", "standing", ".", "CoRR", ",", "abs", "/", "1810.04805.Xinshuai", "Dong", ",", "Hong", "Liu", ",", "Rongrong", "Ji", ",", "and", "Anh", "Tuan", "Luu", ".", "2021", ".", "Towards", "robustness", "against", "natural", "lan-", "guage", "word", "substitutions", ".", "In", "International", "Confer-", "ence", "on", "Learning", "Representations", ".", "Javid", "Ebrahimi", ",", "Anyi", "Rao", ",", "Daniel", "Lowd", ",", "and", "De-", "jing", "Dou", ".", "2017", ".", "Hotflip", ":", "White", "-", "box", "adversarial", "examples", "for", "text", "classification", ".", "arXiv", "preprint", "arXiv:1712.06751", ".", "Siddhant", "Garg", "and", "Goutham", "Ramakrishnan", ".", "2020", ".", "Bae", ":", "Bert", "-", "based", "adversarial", "examples", "for", "text", "classifica-", "tion", ".", "arXiv", "preprint", "arXiv:2004.01970", ".", "Ian", "J", "Goodfellow", ",", "Jonathon", "Shlens", ",", "and", "Christian", "Szegedy", ".", "2014", ".", "Explaining", "and", "harnessing", "adver-", "sarial", "examples", ".", "arXiv", "preprint", "arXiv:1412.6572", ".", "Po", "-", "Sen", "Huang", ",", "Robert", "Stanforth", ",", "Johannes", "Welbl", ",", "Chris", "Dyer", ",", "Dani", "Yogatama", ",", "Sven", "Gowal", ",", "Krish-", "namurthy", "Dvijotham", ",", "and", "Pushmeet", "Kohli", ".", "2019", ".", "Achieving", "verified", "robustness", "to", "symbol", "substitu-", "tions", "via", "interval", "bound", "propagation", ".", "arXiv", "preprint", "arXiv:1909.01492", ".", "Robin", "Jia", ",", "Aditi", "Raghunathan", ",", "Kerem", "Göksel", ",", "and", "Percy", "Liang", ".", "2019", ".", "Certified", "robustness", "to", "adversarial", "word", "substitutions", ".", "CoRR", ",", "abs", "/", "1909.00986", ".", "Di", "Jin", ",", "Zhijing", "Jin", ",", "Joey", "Tianyi", "Zhou", ",", "and", "Peter", "Szolovits", ".", "2019", ".", "Is", "BERT", "really", "robust", "?", "natural", "language", "attack", "on", "text", "classification", "and", "entailment", ".", "CoRR", ",", "abs", "/", "1907.11932", ".", "Yann", "LeCun", ",", "Sumit", "Chopra", ",", "Raia", "Hadsell", ",", "M", "Ranzato", ",", "and", "F", "Huang", ".", "2006", ".", "A", "tutorial", "on", "energy", "-", "based", "learn-", "ing", ".", "Predicting", "structured", "data", ",", "1", "(", "0", ")", ".", "Linyang", "Li", ",", "Ruotian", "Ma", ",", "Qipeng", "Guo", ",", "Xiangyang", "Xue", ",", "and", "Xipeng", "Qiu", ".", "2020", ".", "Bert", "-", "attack", ":", "Adver-", "sarial", "attack", "against", "bert", "using", "bert", ".", "arXiv", "preprint", "arXiv:2004.09984", ".", "Linyang", "Li", "and", "Xipeng", "Qiu", ".", "2020", ".", "Textat", ":", "Ad-", "versarial", "training", "for", "natural", "language", "understand-", "ing", "with", "token", "-", "level", "perturbation", ".", "arXiv", "preprint", "arXiv:2004.14543", ".", "Zongyi", "Li", ",", "Jianhan", "Xu", ",", "Jiehang", "Zeng", ",", "Linyang", "Li", ",", "Xiao-", "qing", "Zheng", ",", "Qi", "Zhang", ",", "Kai", "-", "Wei", "Chang", ",", "and", "Cho", "-", "Jui", "Hsieh", ".", "2021", ".", "Searching", "for", "an", "effective", "defender", ":", "Benchmarking", "defense", "against", "adversarial", "word", "sub-", "stitution", ".", "arXiv", "preprint", "arXiv:2108.12777", ".", "Yinhan", "Liu", ",", "Myle", "Ott", ",", "Naman", "Goyal", ",", "Jingfei", "Du", ",", "Man-", "dar", "Joshi", ",", "Danqi", "Chen", ",", "Omer", "Levy", ",", "Mike", "Lewis", ",", "Luke", "Zettlemoyer", ",", "and", "Veselin", "Stoyanov", ".", "2019", ".", "Roberta", ":", "A", "robustly", "optimized", "bert", "pretraining", "ap-", "proach", ".", "arXiv", "preprint", "arXiv:1907.11692", ".", "Andrew", "Maas", ",", "Raymond", "E", "Daly", ",", "Peter", "T", "Pham", ",", "Dan", "Huang", ",", "Andrew", "Y", "Ng", ",", "and", "Christopher", "Potts", ".", "2011", ".", "Learning", "word", "vectors", "for", "sentiment", "analysis", ".", "In", "Proceedings", "of", "the", "49th", "annual", "meeting", "of", "the", "associ-", "ation", "for", "computational", "linguistics", ":", "Human", "language", "technologies", ",", "pages", "142–150.346", "Aleksander", "Madry", ",", "Aleksandar", "Makelov", ",", "Ludwig", "Schmidt", ",", "Dimitris", "Tsipras", ",", "and", "Adrian", "Vladu", ".", "2019", ".", "Towards", "deep", "learning", "models", "resistant", "to", "adversarial", "attacks", ".", "Takeru", "Miyato", ",", "Andrew", "M", ".", "Dai", ",", "and", "Ian", "J", ".", "Goodfellow", ".", "2016", ".", "Virtual", "adversarial", "training", "for", "semi", "-", "supervised", "text", "classification", ".", "ArXiv", ",", "abs", "/", "1605.07725", ".", "John", "Morris", ",", "Eli", "Lifland", ",", "Jin", "Yong", "Yoo", ",", "Jake", "Grigsby", ",", "Di", "Jin", ",", "and", "Yanjun", "Qi", ".", "2020a", ".", "Textattack", ":", "A", "frame-", "work", "for", "adversarial", "attacks", ",", "data", "augmentation", ",", "and", "adversarial", "training", "in", "nlp", ".", "In", "Proceedings", "of", "the", "2020", "Conference", "on", "Empirical", "Methods", "in", "Natu-", "ral", "Language", "Processing", ":", "System", "Demonstrations", ",", "pages", "119–126", ".", "John", "X", ".", "Morris", ",", "Eli", "Lifland", ",", "Jack", "Lanchantin", ",", "Yangfeng", "Ji", ",", "and", "Yanjun", "Qi", ".", "2020b", ".", "Reevaluating", "adversar-", "ial", "examples", "in", "natural", "language", ".", "In", "ArXiv", ",", "volume", "abs", "/", "2004.14174", ".", "Nikola", "Mrkši", "´", "c", ",", "Diarmuid", "O", "Séaghdha", ",", "Blaise", "Thom-", "son", ",", "Milica", "Gaši", "´", "c", ",", "Lina", "Rojas", "-", "Barahona", ",", "Pei", "-", "Hao", "Su", ",", "David", "Vandyke", ",", "Tsung", "-", "Hsien", "Wen", ",", "and", "Steve", "Young", ".", "2016", ".", "Counter", "-", "fitting", "word", "vectors", "to", "linguistic", "con-", "straints", ".", "arXiv", "preprint", "arXiv:1603.00892", ".", "Weili", "Nie", ",", "Brandon", "Guo", ",", "Yujia", "Huang", ",", "Chaowei", "Xiao", ",", "Arash", "Vahdat", ",", "and", "Animashree", "Anandkumar", ".", "2022", ".", "Diffusion", "models", "for", "adversarial", "purification", ".", "In", "In-", "ternational", "Conference", "on", "Machine", "Learning", ",", "ICML", "2022", ",", "17", "-", "23", "July", "2022", ",", "Baltimore", ",", "Maryland", ",", "USA", ",", "volume", "162", "of", "Proceedings", "of", "Machine", "Learning", "Research", ",", "pages", "16805–16827", ".", "PMLR", ".", "Shuhuai", "Ren", ",", "Yihe", "Deng", ",", "Kun", "He", ",", "and", "Wanxiang", "Che", ".", "2019", ".", "Generating", "natural", "language", "adversarial", "exam-", "ples", "through", "probability", "weighted", "word", "saliency", ".", "In", "Proceedings", "of", "the", "57th", "Annual", "Meeting", "of", "the", "Asso-", "ciation", "for", "Computational", "Linguistics", ",", "pages", "1085", "–", "1097", ".", "Pouya", "Samangouei", ",", "Maya", "Kabkab", ",", "and", "Rama", "Chel-", "lappa", ".", "2018", ".", "Defense", "-", "gan", ":", "Protecting", "classifiers", "against", "adversarial", "attacks", "using", "generative", "models", ".", "CoRR", ",", "abs", "/", "1805.06605", ".", "Changhao", "Shi", ",", "Chester", "Holtz", ",", "and", "Gal", "Mishne", ".", "2021", ".", "Online", "adversarial", "purification", "based", "on", "self-", "supervised", "learning", ".", "In", "9th", "International", "Conference", "on", "Learning", "Representations", ",", "ICLR", "2021", ",", "Virtual", "Event", ",", "Austria", ",", "May", "3", "-", "7", ",", "2021", ".", "OpenReview.net", ".", "Zhouxing", "Shi", ",", "Minlie", "Huang", ",", "Ting", "Yao", ",", "and", "Jing-", "fang", "Xu", ".", "2019", ".", "Robustness", "to", "modification", "with", "shared", "words", "in", "paraphrase", "identification", ".", "CoRR", ",", "abs", "/", "1909.02560", ".", "Chenglei", "Si", ",", "Zhengyan", "Zhang", ",", "Fanchao", "Qi", ",", "Zhiyuan", "Liu", ",", "Yasheng", "Wang", ",", "Qun", "Liu", ",", "and", "Maosong", "Sun", ".", "2020", ".", "Better", "robustness", "by", "more", "coverage", ":", "Adver-", "sarial", "training", "with", "mixup", "augmentation", "for", "robust", "fine", "-", "tuning", ".", "arXiv", "preprint", "arXiv:2012.15699", ".Yang", "Song", ",", "Jascha", "Sohl", "-", "Dickstein", ",", "Diederik", "P", ".", "Kingma", ",", "Abhishek", "Kumar", ",", "Stefano", "Ermon", ",", "and", "Ben", "Poole", ".", "2021", ".", "Score", "-", "based", "generative", "modeling", "through", "stochastic", "differential", "equations", ".", "In", "9th", "International", "Conference", "on", "Learning", "Representations", ",", "ICLR", "2021", ",", "Virtual", "Event", ",", "Austria", ",", "May", "3", "-", "7", ",", "2021", ".", "OpenRe-", "view.net", ".", "Vignesh", "Srinivasan", ",", "Csaba", "Rohrer", ",", "Arturo", "Marbán", ",", "Klaus", "-", "Robert", "Müller", ",", "Wojciech", "Samek", ",", "and", "Shinichi", "Nakajima", ".", "2021", ".", "Robustifying", "models", "against", "ad-", "versarial", "attacks", "by", "langevin", "dynamics", ".", "Neural", "Net-", "works", ",", "137:1–17", ".", "Thomas", "Wolf", ",", "Lysandre", "Debut", ",", "Victor", "Sanh", ",", "Julien", "Chaumond", ",", "Clement", "Delangue", ",", "Anthony", "Moi", ",", "Pier-", "ric", "Cistac", ",", "Tim", "Rault", ",", "Rémi", "Louf", ",", "Morgan", "Funtowicz", ",", "Joe", "Davison", ",", "Sam", "Shleifer", ",", "Patrick", "von", "Platen", ",", "Clara", "Ma", ",", "Yacine", "Jernite", ",", "Julien", "Plu", ",", "Canwen", "Xu", ",", "Teven", "Le", "Scao", ",", "Sylvain", "Gugger", ",", "Mariama", "Drame", ",", "Quentin", "Lhoest", ",", "and", "Alexander", "M", ".", "Rush", ".", "2020", ".", "Transform-", "ers", ":", "State", "-", "of", "-", "the", "-", "art", "natural", "language", "processing", ".", "In", "Proceedings", "of", "the", "2020", "Conference", "on", "Empirical", "Methods", "in", "Natural", "Language", "Processing", ":", "System", "Demonstrations", ",", "pages", "38–45", ",", "Online", ".", "Association", "for", "Computational", "Linguistics", ".", "Jin", "Yong", "Yoo", ",", "John", "X", ".", "Morris", ",", "Eli", "Lifland", ",", "and", "Yanjun", "Qi", ".", "2020", ".", "Searching", "for", "a", "search", "method", ":", "Bench-", "marking", "search", "algorithms", "for", "generating", "nlp", "adver-", "sarial", "examples", ".", "ArXiv", ",", "abs", "/", "2009.06368", ".", "Jongmin", "Yoon", ",", "Sung", "Ju", "Hwang", ",", "and", "Juho", "Lee", ".", "2021", ".", "Adversarial", "purification", "with", "score", "-", "based", "generative", "models", ".", "In", "Proceedings", "of", "the", "38th", "International", "Conference", "on", "Machine", "Learning", ",", "ICML", "2021", ",", "18", "-", "24", "July", "2021", ",", "Virtual", "Event", ",", "volume", "139", "of", "Proceedings", "of", "Machine", "Learning", "Research", ",", "pages", "12062–12072", ".", "PMLR", ".", "Jiehang", "Zeng", ",", "Xiaoqing", "Zheng", ",", "Jianhan", "Xu", ",", "Linyang", "Li", ",", "Liping", "Yuan", ",", "and", "Xuanjing", "Huang", ".", "2021", ".", "Certified", "robustness", "to", "text", "adversarial", "attacks", "by", "randomized", "[", "mask", "]", ".", "arXiv", "preprint", "arXiv:2105.03743", ".", "Xiang", "Zhang", ",", "Junbo", "Zhao", ",", "and", "Yann", "LeCun", ".", "2015", ".", "Character", "-", "level", "convolutional", "networks", "for", "text", "clas-", "sification", ".", "In", "Advances", "in", "neural", "information", "pro-", "cessing", "systems", ",", "pages", "649–657", ".", "Yi", "Zhou", ",", "Xiaoqing", "Zheng", ",", "Cho", "-", "Jui", "Hsieh", ",", "Kai", "-", "wei", "Chang", ",", "and", "Xuanjing", "Huang", ".", "2020", ".", "Defense", "against", "adversarial", "attacks", "in", "nlp", "via", "dirichlet", "neighborhood", "ensemble", ".", "arXiv", "preprint", "arXiv:2006.11627", ".", "Chen", "Zhu", ",", "Yu", "Cheng", ",", "Zhe", "Gan", ",", "Siqi", "Sun", ",", "Thomas", "Gold-", "stein", ",", "and", "Jingjing", "Liu", ".", "2019", ".", "Freelb", ":", "Enhanced", "ad-", "versarial", "training", "for", "language", "understanding", ".", "arXiv", "preprint", "arXiv:1909.11764", ".347", "Appendix", "Recovery", "Number", "Analysis", "One", "key", "problem", "is", "that", "how", "many", "recoveries", "we", "should", "use", "in", "the", "recovering", "process", ",", "as", "finding", "a", "proper", "Tis", "also", "important", "in", "the", "image", "-", "domain", "purification", "process", ".", "We", "use", "two", "attack", "methods", "withK=", "12", "to", "test", "how", "the", "accuracy", "varies", "when", "using", "different", "recovery", "number", "N", ".", "As", "seen", "in", "Fig", ".", "2", "(", "a", ")", ",", "the", "ensemble", "size", "is", "actu-", "ally", "not", "a", "key", "factor", ".", "Larger", "ensemble", "size", "would", "not", "result", "in", "further", "improvements", ".", "We", "assume", "that", "larger", "ensemble", "size", "will", "smooth", "the", "output", "score", "which", "will", "benefit", "the", "attack", "algorithm", ".", "That", "is", ",", "the", "tiny", "difference", "between", "substitutes", "can", "be", "de-", "tected", "by", "the", "attack", "algorithm", "since", "the", "confidence", "score", "is", "given", "to", "the", "attack", "algorithms", ".", "Still", ",", "we", "can", "conclude", "that", "a", "multiple", "recovery", "process", "is", "ef-", "fective", "in", "the", "purification", "process", "and", "quite", "simple", "to", "implement", ".", "Candidate", "Size", "Analysis", "The", "attack", "algorithms", "such", "as", "BERT", "-", "Attack", "and", "Textfooler", "use", "a", "wide", "range", "of", "substitution", "set", "(", "e.g", ".", "K=50", "in", "Textfooler", "means", "for", "each", "token", "to", "replace", ",", "the", "algorithm", "will", "find", "the", "best", "replacement", "in", "50", "candidates", ")", ",", "which", "seriously", "harms", "the", "quality", "of", "the", "input", "texts", ".", "As", "seen", "in", "Fig", ".", "2", "(", "b", ")", ",", "when", "the", "candidate", "is", "0", ",", "the", "accuracy", "is", "high", "on", "the", "clean", "samples", ".", "When", "the", "candidate", "is", "6", ",", "the", "normal", "fine", "-", "tuned", "BERT", "model", "can", "not", "correctly", "predict", "the", "generated", "adversarial", "examples", ".", "This", "indicates", "that", "normal", "fine", "-", "tuned", "BERT", "is", "not", "robust", "even", "when", "the", "candidate", "size", "is", "small", ".", "After", "purification", ",", "the", "model", "can", "tolerate", "these", "limited", "candidate", "size", "attacks", ".", "When", "the", "can-", "didate", "size", "grows", ",", "the", "performance", "of", "our", "defense", "framework", "drops", "by", "a", "relatively", "large", "margin", ".", "We", "assume", "that", "large", "candidate", "size", "would", "seriously", "harm", "the", "semantics", "which", "is", "also", "explored", "in", "Mor-", "ris", "et", "al", ".", "(", "2020b", ")", ",", "while", "these", "adversaries", "can", "not", "be", "well", "evaluated", "even", "using", "human", "-", "evvaluations", "since", "the", "change", "rate", "is", "still", "low", ".", "perplexity", "18163264", "BERT", "-", "Attack", "(", "layer", "norm", ")", "-Text", "Purification", "Textfooler", "(", "beam", "size", ")", "-Text", "Purification", "(", "a", ")", "Recovery", "Number", "Influence", "Accuracy", "Under", "Attack020406080100", "0612243648", "Textfooler", "-", "BERT", "Textfooler", "-", "Text", "Purification", "BERT", "-", "Attack", "-", "BERT", "BERT", "-", "Attack", "-", "Text", "Purification", "(", "b", ")", "Candidate", "-", "Size", "Influence", "Figure", "2", ":", "Hyper", "-", "Parameter", "Selection", "Analysis348", "ACL", "2023", "Responsible", "NLP", "Checklist", "A", "For", "every", "submission", ":", "/", "squareA1", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "B-MetricValue", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Did", "you", "describe", "the", "limitations", "of", "your", "work", "?", "Left", "blank", ".", "/", "squareA2", ".", "Did", "you", "discuss", "any", "potential", "risks", "of", "your", "work", "?", "Left", "blank", ".", "/", "squareA3", ".", "Do", "the", "abstract", "and", "introduction", "summarize", "the", "paper", "’s", "main", "claims", "?", "Left", "blank", ".", "/", "squareA4", ".", "Have", "you", "used", "AI", "writing", "assistants", "when", "working", "on", "this", "paper", "?", "Left", "blank", ".", "B", "/", "squareDid", "you", "use", "or", "create", "scientific", "artifacts", "?", "Left", "blank", ".", "/", "squareB1", ".", "Did", "you", "cite", "the", "creators", "of", "artifacts", "you", "used", "?", "Left", "blank", ".", "/", "squareB2", ".", "Did", "you", "discuss", "the", "license", "or", "terms", "for", "use", "and", "/", "or", "distribution", "of", "any", "artifacts", "?", "Left", "blank", ".", "/", "squareB3", ".", "Did", "you", "discuss", "if", "your", "use", "of", "existing", "artifact", "(", "s", ")", "was", "consistent", "with", "their", "intended", "use", ",", "provided", "that", "it", "was", "specified", "?", "For", "the", "artifacts", "you", "create", ",", "do", "you", "specify", "intended", "use", "and", "whether", "that", "is", "compatible", "with", "the", "original", "access", "conditions", "(", "in", "particular", ",", "derivatives", "of", "data", "accessed", "for", "research", "purposes", "should", "not", "be", "used", "outside", "of", "research", "contexts", ")", "?", "Left", "blank", ".", "/", "squareB4", ".", "Did", "you", "discuss", "the", "steps", "taken", "to", "check", "whether", "the", "data", "that", "was", "collected", "/", "used", "contains", "any", "information", "that", "names", "or", "uniquely", "identifies", "individual", "people", "or", "offensive", "content", ",", "and", "the", "steps", "taken", "to", "protect", "/", "anonymize", "it", "?", "Left", "blank", ".", "/", "squareB5", ".", "Did", "you", "provide", "documentation", "of", "the", "artifacts", ",", "e.g.", ",", "coverage", "of", "domains", ",", "languages", ",", "and", "linguistic", "phenomena", ",", "demographic", "groups", "represented", ",", "etc", ".", "?", "Left", "blank", ".", "/", "squareB6", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "351–363", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "SPEECH", ":", "Structured", "Prediction", "with", "Energy", "-", "Based", "Event", "-", "Centric", "Hyperspheres", "Shumin", "Deng", "♥", ",", "Shengyu", "Mao", "♠", ",", "Ningyu", "Zhang", "♠", "∗", ",", "Bryan", "Hooi", "♥", "∗", "♥", "National", "University", "of", "Singapore", "&", "NUS", "-", "NCS", "Joint", "Lab", ",", "Singapore", "♠", "Zhejiang", "University", "&", "AZFT", "Joint", "Lab", "for", "Knowledge", "Engine", ",", "China", "{", "shumin", ",", "dcsbhk", "}", "@", "nus.edu.sg", ",", "{", "shengyu", ",", "zhangningyu", "}", "@", "zju.edu.cn", "Abstract", "Event", "-", "centric", "structured", "prediction", "involves", "predicting", "structured", "outputs", "of", "events", ".", "In", "most", "NLP", "cases", ",", "event", "structures", "are", "complex", "with", "manifold", "dependency", ",", "and", "it", "is", "challeng-", "ing", "to", "effectively", "represent", "these", "complicated", "structured", "events", ".", "To", "address", "these", "issues", ",", "we", "propose", "Structured", "Prediction", "with", "Energy-", "based", "Event-", "Centric", "Hyperspheres", "(", "SPEECH", ")", ".", "SPEECH", "models", "complex", "dependency", "among", "event", "structured", "components", "with", "energy-", "based", "modeling", ",", "and", "represents", "event", "classes", "with", "simple", "but", "effective", "hyperspheres", ".", "Exper-", "iments", "on", "two", "unified", "-", "annotated", "event", "datasets", "indicate", "that", "S", "PEECH", "is", "predominant", "in", "event", "detection", "and", "event", "-", "relation", "extraction", "tasks", ".", "1", "Introduction", "Structured", "prediction", "(", "Taskar", "et", "al", ".", ",", "2005", ")", "is", "a", "task", "where", "the", "predicted", "outputs", "are", "complex", "structured", "components", ".", "This", "arises", "in", "many", "NLP", "tasks", "(", "Smith", ",", "2011", ";", "Kreutzer", "et", "al", ".", ",", "2017", ";", "Wang", "et", "al", ".", ",", "2023", ")", "and", "supports", "various", "applications", "(", "Jagannatha", "and", "Yu", ",", "2016", ";", "Kreutzer", "et", "al", ".", ",", "2021", ")", ".", "In", "event", "-", "centric", "NLP", "tasks", ",", "there", "exists", "strong", "complex", "dependency", "be-", "tween", "the", "structured", "outputs", ",", "such", "as", "event", "detec-", "tion", "(", "ED", ")", "(", "Chen", "et", "al", ".", ",", "2015", ")", ",", "event", "-", "relation", "extrac-", "tion", "(", "ERE", ")", "(", "Liu", "et", "al", ".", ",", "2020b", ")", ",", "and", "event", "schema", "induction", "(", "Li", "et", "al", ".", ",", "2020", ")", ".", "Thus", ",", "these", "tasks", "can", "also", "be", "revisited", "as", "event", "-", "centric", "structured", "predic-", "tion", "problems", "(", "Li", "et", "al", ".", ",", "2013", ")", ".", "Event", "-", "centric", "structured", "prediction", "(", "ECSP", ")", "tasks", "require", "to", "consider", "manifold", "structures", "and", "de-", "pendency", "of", "events", ",", "including", "intra-", "/", "inter", "-", "sentence", "structures", ".", "For", "example", ",", "as", "seen", "in", "Figure", "1", ",", "given", "a", "document", "containing", "some", "event", "mentions", "“", "David", "Warren", "shot", "and", "killed", "Henry", "Glover", "...", "David", "was", "convicted", "and", "sentenced", "to", "25", "years", "and", "9", "months", "...", "”", ",", "in", "ED", "task", "mainly", "considering", "intra", "-", "sentence", "structures", ",", "we", "need", "to", "identify", "event", "triggers", "(", "killed", ",", "convicted", ")", "from", "these", "tokens", "and", "categorize", "them", "∗Corresponding", "Author", ".", "…", "…", "[", "S1", "]", "FormerNOPDpoliceofficerDavidWarrenshotandkilledHenryGlover.", "[", "S2", "]", "FivecurrentandformerofficersoftheNOPDwerechargedwithGlover‘sdeath.", "[", "S3", "]", "Davidwasconvictedandsentencedto25yearsand9monthsinprisonforshootingandkillingGlover.", "…", "…", ".", "…", "…", "trigger", "…", "…", "…", "…", "…", "…", "non", "-", "trigger", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "trigger", "…", "…", "…", "…", "…", "…", "non", "-", "trigger", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "non", "-", "trigger", "…", "…", "…", "…", "…", "…", "triggerkillinglegal_rulingsdeath", "[", "S1", "]", ",", "cause", ",", "[", "S3", "]", "[", "S2", "]", ",", "before", ",", "[", "S3", "]", "…", "…", "EDEREFigure", "1", ":", "Illustration", "of", "event", "-", "centric", "structured", "predic-", "tion", "tasks", ",", "with", "the", "examples", "of", "ED", "and", "ERE", ".", "into", "event", "classes", "(", "killing", ",", "legal_rulings", ")", ";", "in", "ERE", "task", "mainly", "considering", "inter", "-", "sentence", "structures", ",", "we", "need", "to", "find", "the", "relationship", "between", "each", "event", "mention", "pair", ",", "such", "as", "event", "coreference", ",", "temporal", ",", "causal", "and", "subevent", "relations", ".", "As", "seen", "from", "Figure", "1", ",", "the", "outputs", "of", "ECSP", "lie", "on", "a", "complex", "manifold", "and", "possess", "interdepen-", "dent", "structures", ",", "e.g.", ",", "the", "long", "-", "range", "dependency", "of", "tokens", ",", "the", "association", "among", "triggers", "and", "event", "classes", ",", "and", "the", "dependency", "among", "event", "classes", "and", "event", "relations", ".", "Thus", "it", "is", "challenging", "to", "model", "such", "complex", "event", "structures", "while", "efficiently", "rep-", "resenting", "these", "events", ".", "Previous", "works", "increasingly", "apply", "deep", "representation", "learning", "to", "tackle", "these", "problems", ".", "Lin", "et", "al", ".", "(", "2020", ")", ";", "Li", "et", "al", ".", "(", "2020", ")", "propose", "to", "predict", "event", "structures", "based", "on", "the", "event", "graph", "schema", ".", "Hsu", "et", "al", ".", "(", "2022", ")", "generate", "event", "structures", "with", "manually", "designed", "prompts", ".", "However", ",", "these", "methods", "mainly", "focus", "on", "one", "of", "ECSP", "tasks", "and", "their", "event", "structures", "are", "hard", "to", "represent", "effec-", "tively", ".", "Paolini", "et", "al", ".", "(", "2021", ")", ";", "Lu", "et", "al", ".", "(", "2021", ",", "2022", ")", "propose", "to", "extract", "multiple", "event", "structures", "from", "texts", "with", "a", "unified", "generation", "paradigm", ".", "However", ",", "the", "event", "structures", "of", "these", "approaches", "are", "usually", "quite", "simplistic", "and", "they", "often", "ignore", "the", "complex", "dependency", "among", "tasks", ".", "In", "this", "paper", ",", "we", "focus", "more", "on", ":", "(", "i", ")", "how", "to", "learn", "complex", "event", "structures", "for", "manifold", "ECSP", "tasks", ";", "and", "(", "ii", ")", "how", "to", "simultane-351", "ously", "represent", "events", "for", "these", "complex", "structured", "prediction", "models", "effectively", ".", "To", "resolve", "the", "first", "challenging", "problem", "of", "mod-", "eling", "manifold", "event", "structures", ",", "we", "utilize", "energy", "networks", "(", "Lecun", "et", "al", ".", ",", "2006", ";", "Belanger", "and", "McCal-", "lum", ",", "2016", ";", "Belanger", "et", "al", ".", ",", "2017", ";", "Tu", "and", "Gimpel", ",", "2018", ")", ",", "inspired", "by", "their", "potential", "benefits", "in", "cap-", "turing", "complex", "dependency", "of", "structured", "compo-", "nents", ".", "We", "define", "the", "energy", "function", "to", "evaluate", "compatibility", "of", "input", "/", "output", "pairs", ",", "which", "places", "no", "limits", "on", "the", "size", "of", "the", "structured", "components", ",", "making", "it", "powerful", "to", "model", "complex", "and", "mani-", "fold", "event", "structures", ".", "We", "generally", "consider", "token-", ",", "sentence-", ",", "and", "document-", "level", "energy", "respectively", "for", "trigger", "classification", ",", "event", "classification", "and", "event", "-", "relation", "extraction", "tasks", ".", "To", "the", "best", "of", "our", "knowledge", ",", "this", "work", "firstly", "address", "event", "-", "centric", "structured", "prediction", "with", "energy", "-", "based", "modeling", ".", "To", "resolve", "the", "second", "challenging", "problem", "of", "efficiently", "representing", "events", ",", "we", "take", "advantage", "of", "hyperspheres", "(", "Mettes", "et", "al", ".", ",", "2019", ";", "Wang", "and", "Isola", ",", "2020", ")", ",", "which", "is", "demonstrated", "to", "be", "a", "simple", "and", "effective", "approach", "to", "model", "class", "representa-", "tion", "(", "Deng", "et", "al", ".", ",", "2022", ")", ".", "We", "assume", "that", "the", "event", "mentions", "of", "each", "event", "class", "distribute", "on", "the", "corre-", "sponding", "energy", "-", "based", "hypersphere", ",", "so", "that", "we", "can", "represent", "each", "event", "class", "with", "a", "hyperspherical", "centroid", "and", "radius", "embedding", ".", "The", "geometrical", "modeling", "strategy", "(", "Ding", "et", "al", ".", ",", "2021", ";", "Lai", "et", "al", ".", ",", "2021", ")", "is", "demonstrated", "to", "be", "beneficial", "for", "mod-", "elling", "enriched", "class", "-", "level", "information", "and", "suitable", "for", "constructing", "measurements", "in", "Euclidean", "space", ",", "making", "it", "intuitively", "applicable", "to", "manifold", "event-", "centric", "structured", "prediction", "tasks", ".", "Summarily", ",", "considering", "the", "two", "issues", ",", "we", "pro-", "pose", "to", "address", "Structured", "Prediction", "with", "Energy-", "based", "Event-", "Centric", "Hyperspheres", "(", "SPEECH", ")", ",", "and", "our", "contributions", "can", "be", "summarized", "as", "follows", ":", "•We", "revisit", "the", "event", "-", "centric", "structured", "predic-", "tion", "tasks", "in", "consideration", "of", "both", "complex", "event", "structures", "with", "manifold", "dependency", "and", "efficient", "representation", "of", "events", ".", "•We", "propose", "a", "novel", "approach", "named", "SPEECH", "to", "model", "complex", "event", "structures", "with", "energy", "-", "based", "networks", "and", "efficiently", "repre-", "sent", "events", "with", "event", "-", "centric", "hyperspheres", ".", "•We", "evaluate", "SPEECH", "on", "two", "newly", "proposed", "datasets", "for", "both", "event", "detection", "and", "event-", "relation", "extraction", ",", "and", "experiments", "demon-", "strate", "that", "our", "model", "is", "advantageous.2", "Related", "Work", "Event", "-", "Centric", "Structured", "Prediction", "(", "ECSP", ")", ".", "Since", "the", "boom", "in", "deep", "learning", ",", "traditional", "ap-", "proaches", "to", "ECSP", "mostly", "define", "a", "score", "function", "between", "inputs", "and", "outputs", "based", "on", "a", "neural", "network", ",", "such", "as", "CNN", "(", "Chen", "et", "al", ".", ",", "2015", ";", "Deng", "et", "al", ".", ",", "2020", ")", ",", "RNN", "(", "Nguyen", "et", "al", ".", ",", "2016", ";", "Meng", "and", "Rumshisky", ",", "2018", ";", "Nguyen", "and", "Nguyen", ",", "2019", ")", ",", "and", "GCN", "(", "Yan", "et", "al", ".", ",", "2019", ";", "Lai", "et", "al", ".", ",", "2020", ";", "Cui", "et", "al", ".", ",", "2020", ")", ".", "With", "the", "development", "of", "pretrained", "large", "models", ",", "more", "recent", "research", "has", "entered", "a", "new", "era", ".", "Wang", "et", "al", ".", "(", "2019", ")", ";", "Du", "and", "Cardie", "(", "2020", ")", ";", "Liu", "et", "al", ".", "(", "2020a", ")", ";", "Deng", "et", "al", ".", "(", "2021", ")", ";", "Sheng", "et", "al", ".", "(", "2022", ")", "leverage", "BERT", "(", "Devlin", "et", "al", ".", ",", "2019", ")", "for", "event", "ex-", "traction", ".", "Han", "et", "al", ".", "(", "2020", ")", "and", "Wang", "et", "al", ".", "(", "2020a", ")", ";", "Man", "et", "al", ".", "(", "2022", ")", ";", "Hwang", "et", "al", ".", "(", "2022", ")", "respectively", "adopt", "BERT", "and", "RoBERTa", "(", "Liu", "et", "al", ".", ",", "2019", ")", "for", "event", "-", "relation", "extraction", ".", "Lu", "et", "al", ".", "(", "2021", ")", ";", "Paolini", "et", "al", ".", "(", "2021", ")", ";", "Lu", "et", "al", ".", "(", "2022", ")", "propose", "generative", "ECSP", "models", "based", "on", "pre", "-", "trained", "T5", "(", "Raffel", "et", "al", ".", ",", "2020", ")", ".", "Wang", "et", "al", ".", "(", "2023", ")", "tackle", "ECSP", "with", "code", "generation", "based", "on", "code", "pretraining", ".", "However", ",", "these", "approaches", "are", "equipped", "with", "fairly", "simplis-", "tic", "event", "structures", "and", "have", "difficulty", "in", "tackling", "complex", "dependency", "in", "events", ".", "Besides", ",", "most", "of", "them", "fail", "to", "represent", "manifold", "events", "effectively", ".", "Energy", "Networks", "for", "Structured", "Prediction", "and", "Hyperspheres", "for", "Class", "Representation", ".", "Energy", "networks", "define", "an", "energy", "function", "over", "input", "/", "output", "pairs", "with", "arbitrary", "neural", "networks", ",", "which", "places", "no", "limits", "on", "the", "size", "of", "the", "structured", "components", ",", "making", "it", "advantageous", "in", "modeling", "complex", "and", "manifold", "event", "structures", ".", "Lecun", "et", "al", ".", "(", "2006", ")", ";", "Belanger", "and", "McCallum", "(", "2016", ")", "associate", "a", "scalar", "measure", "to", "evaluate", "the", "compatibility", "to", "each", "configuration", "of", "inputs", "and", "outputs", ".", "(", "Belanger", "and", "McCallum", ",", "2016", ")", "formulate", "deep", "energy", "-", "based", "models", "for", "structured", "prediction", ",", "called", "structured", "prediction", "energy", "networks", "(", "SPENs", ")", ".", "Belanger", "et", "al", ".", "(", "2017", ")", "present", "end", "-", "to", "-", "end", "learning", "for", "SPENs", ",", "Tu", "and", "Gimpel", "(", "2018", ")", "jointly", "train", "structured", "en-", "ergy", "functions", "and", "inference", "networks", "with", "large-", "margin", "objectives", ".", "Some", "previous", "researches", "also", "regard", "event", "-", "centric", "NLP", "tasks", "as", "structured", "predic-", "tion", "(", "Li", "et", "al", ".", ",", "2013", ";", "Paolini", "et", "al", ".", ",", "2021", ")", ".", "Further-", "more", ",", "to", "effectively", "obtain", "event", "representations", ",", "Deng", "et", "al", ".", "(", "2022", ")", "demonstrate", "that", "hyperspheri-", "cal", "prototypical", "networks", "(", "Mettes", "et", "al", ".", ",", "2019", ")", "are", "powerful", "to", "encode", "enriched", "semantics", "and", "depen-", "dency", "in", "event", "structures", ",", "but", "they", "merely", "consider", "support", "for", "pairwise", "event", "structures.352", "3", "Methodology", "3.1", "Preliminaries", "For", "structured", "prediction", "tasks", ",", "given", "input", "x∈X", ",", "we", "denote", "the", "structured", "outputs", "by", "MΦ", "(", "x", ")", "∈˜Y", "with", "a", "prediction", "model", "MΦ", ".", "Structured", "Prediction", "Energy", "Networks", "(", "SPENs", ")", "score", "structured", "outputs", "with", "an", "energy", "function", "EΘ", ":", "X×", "˜Y→Rparam-", "eterized", "by", "Θthat", "iteratively", "optimize", "the", "energy", "between", "the", "input", "/", "output", "pair", "(", "Belanger", "and", "Mc-", "Callum", ",", "2016", ")", ",", "where", "lower", "energy", "means", "greater", "compatibility", "between", "the", "pair", ".", "We", "introduce", "event", "-", "centric", "structured", "prediction", "(", "ECSP", ")", "following", "the", "similar", "setting", "as", "SPENs", "for", "multi", "-", "label", "classification", "and", "sequence", "labeling", "pro-", "posed", "by", "Tu", "and", "Gimpel", "(", "2018", ")", ".", "Given", "a", "feature", "vector", "xbelonging", "to", "one", "of", "Tlabels", ",", "the", "model", "output", "isMΦ", "(", "x", ")", "=", "{", "0,1", "}", "T∈˜Yfor", "all", "x", ".", "The", "energy", "function", "contains", "two", "terms", ":", "EΘ", "(", "x", ",", "y", ")", "=", "Elocal", "Θ", "(", "x", ",", "y", ")", "+", "Elabel", "Θ", "(", "y", ")", "=", "T", "/", "summationdisplay", "i=1yiV", "/", "latticetop", "if", "(", "x", ")", "+", "w", "/", "latticetopg", "(", "Wy", ")", "(", "1", ")", "whereElocal", "Θ", "(", "x", ",", "y", ")", "=", "/", "summationtextT", "i=1yiV", "/", "latticetop", "if", "(", "x", ")", "is", "the", "sum", "of", "linear", "models", ",", "and", "yi∈y", ",", "Viis", "a", "parameter", "vec-", "tor", "for", "label", "iandf", "(", "x", ")", "is", "a", "multi", "-", "layer", "perceptron", "computing", "a", "feature", "representation", "for", "the", "input", "x", ";", "Elabel", "Θ", "(", "y", ")", "=", "w", "/", "latticetopg", "(", "Wy", ")", "returns", "a", "scalar", "which", "quantifies", "the", "full", "set", "of", "labels", ",", "scoring", "yindepen-", "dent", "of", "x", ",", "thereinto", ",", "wis", "a", "parameter", "vector", ",", "g", "(", "·", ")", "is", "an", "elementwise", "non", "-", "linearity", "function", ",", "and", "W", "is", "a", "parameter", "matrix", "learned", "from", "data", "indicating", "the", "interaction", "between", "labels", ".", "After", "learning", "the", "energy", "function", ",", "prediction", "minimizes", "energy", ":", "˜y=", "arg", "min", "y∈˜YEΘ", "(", "x", ",", "y", ")", "(", "2", ")", "The", "final", "theoretical", "optimum", "for", "SPEN", "is", "de-", "noted", "by", ":", "min", "Θmax", "Φ", "/", "summationdisplay", "/", "bracketleftbig", "/", "triangle", "(", "MΦ", "(", "xi", ")", ",", "yi", ")", "−", "EΘ", "(", "xi", ",", "MΦ", "(", "xi", ")", ")", "+", "EΘ", "(", "xi", ",", "yi", ")", "/", "bracketrightbig", "+", "(", "3", ")", "where", "[", "a", "]", "+=", "max", "(", "0", ",", "a", ")", ",", "and", "/", "triangle", "(", "˜y", ",", "y", ")", ",", "often", "re-", "ferred", "to", "“", "margin", "-", "rescaled", "”", "structured", "hinge", "loss", ",", "is", "a", "structured", "cost", "function", "that", "returns", "a", "nonneg-", "ative", "value", "indicating", "the", "difference", "between", "the", "predicted", "result", "˜yand", "ground", "truth", "y.3.2", "Problem", "Formulation", "In", "this", "paper", ",", "we", "focus", "on", "ECSP", "tasks", "of", "event", "de-", "tection", "(", "ED", ")", "and", "event", "-", "relation", "extraction", "(", "ERE", ")", ".", "ED", "can", "be", "divided", "into", "trigger", "classification", "for", "to-", "kens", "and", "event", "classification", "for", "sentences", ".", "We", "denote", "the", "dataset", "by", "D=", "{", "E", ",", "R", ",", "X", "}", "contain-", "ing", "an", "event", "class", "set", "E", ",", "a", "multi", "-", "faceted", "event-", "relation", "setRand", "the", "event", "corpus", "X", ",", "thereinto", ",", "E=", "{", "ei|i∈", "[", "1", ",", "|E|", "]", "}", "contains|E|event", "classes", "including", "a", "None", ";", "R=", "{", "ri|i∈", "[", "1", ",", "|R|", "]", "}", "contains", "|R|temporal", ",", "causal", ",", "subevent", "and", "coreference", "re-", "lationships", "among", "event", "mentions", "including", "a", "NA", "event", "-", "relation", ";", "X=", "{", "Xi|i∈", "[", "1", ",", "K", "]", "}", "consists", "of", "Kevent", "mentions", ",", "where", "Xiis", "denoted", "as", "a", "token", "sequence", "x=", "{", "xj|j∈", "[", "1", ",", "L", "]", "}", "with", "maximum", "Ltokens", ".", "For", "trigger", "classification", ",", "the", "goal", "is", "to", "predict", "the", "index", "t", "(", "1≤t≤L", ")", "of", "the", "trigger", "xt", "in", "each", "token", "sequence", "xand", "categorize", "xtinto", "a", "specific", "event", "class", "ei∈E", ".", "For", "event", "classifica-", "tion", ",", "we", "expect", "to", "predict", "the", "event", "label", "eifor", "each", "event", "mention", "Xi", ".", "For", "event", "-", "relation", "extraction", ",", "we", "require", "to", "identify", "the", "relation", "ri∈R", "for", "a", "pair", "of", "event", "mentions", "¨X", "/", "angbracketleftij", "/", "angbracketright=", "(", "Xi", ",", "Xj", ")", ".", "In", "summary", ",", "our", "goal", "is", "to", "design", "an", "ECSP", "modelMΦ", ",", "aiming", "to", "tackle", "the", "tasks", "of", ":", "(", "1", ")", "trig-", "ger", "classification", ":", "to", "predict", "the", "token", "label", "˜y=", "MΦ", "(", "x", ")", "for", "the", "token", "list", "x", ";", "(", "2", ")", "event", "classification", ":", "to", "predict", "the", "event", "class", "label", "˜Y", "=", "MΦ", "(", "X", ")", "for", "the", "event", "mention", "X", ";", "(", "3", ")", "event", "-", "relation", "extraction", ":", "to", "predict", "the", "event", "-", "relation", "label", "˜z", "=", "MΦ", "(", "¨X", ")", "for", "the", "event", "mention", "pair", "¨X", ".", "3.3", "Model", "Overview", "As", "seen", "in", "Figure", "2", ",", "SPEECH", "combines", "three", "lev-", "els", "of", "energy", ":", "token", ",", "sentence", ",", "as", "well", "as", "docu-", "ment", ",", "and", "they", "respectively", "serve", "for", "three", "kinds", "of", "ECSP", "tasks", ":", "(", "1", ")", "token", "-", "level", "energy", "for", "trigger", "classification", ":", "considering", "energy", "-", "based", "modeling", "is", "able", "to", "capture", "long", "-", "range", "dependency", "among", "tokens", "without", "limits", "to", "token", "size", ";", "(", "2", ")", "sentence-", "level", "energy", "for", "event", "classification", ":", "considering", "energy", "-", "based", "hyperspheres", "can", "model", "the", "complex", "event", "structures", "and", "represent", "events", "efficiently", ";", "and", "(", "3", ")", "document", "-", "level", "energy", "for", "event", "-", "relation", "extraction", ":", "considering", "energy", "-", "based", "modeling", "en-", "ables", "us", "to", "address", "the", "association", "among", "event", "mention", "pairs", "and", "event", "-", "relations", ".", "We", "leverage", "the", "trigger", "embeddings", "as", "event", "mention", "embeddings", ";", "the", "energy", "-", "based", "hyperspheres", "with", "a", "centroid", "and", "a", "radius", "as", "event", "class", "embeddings", ",", "and", "these", "three", "tasks", "are", "associative", "to", "each", "other.353", "KillingLegal_rulings", "Token", "-", "LevelEnergy", "Sentence", "-", "LevelEnergy", "Document", "-", "LevelEnergy", "[", "CLS", "]", "Davidwasconvictedto25yearsand9monthsinprisonforkillingGlover", "[", "SEP", "]", "[", "PAD", "]", "ℰ+2ℰ+1ℰ+12ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+2ℰ+2", "[", "CLS", "]", "FormerNOPDpoliceofficerDavidWarrenshotandkilledHenryGlover", "[", "SEP", "]", "[", "PAD", "]", "[", "PAD", "]", "[", "PAD", "]", "ℰ+2ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+13ℰ+1ℰ+1ℰ+2ℰ+2ℰ+2ℰ+2", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "𝐶𝐴𝑈𝑆𝐸Energy", "-", "basedhypersphereembeddingwithacentroidandaradiusas", "event", "type", "embedding", "1to", "ℰ", ":", "event", "typesℰ+1", ":", "non", "-", "triggerℰ+2", ":", "padding", "…", "…", "…", "…", "…", "…", "…", "…", "Triggerembeddingas", "event", "mention", "embedding", "(", "Trigger", "Classification", ")", "(", "Event", "Classification", ")", "(", "Event", "Classification", ")", "(", "Event", "-", "Relation", "Extraction", ")", "Figure", "2", ":", "Overview", "of", "S", "PEECH", "with", "examples", ",", "where", "token", "-", "level", "energy", "serves", "for", "event", "trigger", "classification", ",", "sentence", "-", "level", "energy", "serves", "for", "event", "classification", "and", "document", "-", "level", "energy", "serves", "for", "event", "-", "relation", "extraction", ".", "3.4", "Token", "-", "Level", "Energy", "Token", "-", "level", "energy", "serves", "for", "trigger", "classification", ".", "Given", "a", "token", "sequence", "x=", "{", "xj|j∈", "[", "1", ",", "L", "]", "}", "with", "trigger", "xt", ",", "we", "leverage", "a", "pluggable", "backbone", "en-", "coder", "to", "obtain", "the", "contextual", "representation", "f1", "(", "x", ")", "for", "each", "token", ",", "such", "as", "pre", "-", "trained", "BERT", "(", "Devlin", "et", "al", ".", ",", "2019", ")", ",", "RoBERTa", "(", "Liu", "et", "al", ".", ",", "2019", ")", ",", "Distil-", "BERT", "(", "Sanh", "et", "al", ".", ",", "2019", ")", "and", "so", "on", ".", "We", "then", "pre-", "dict", "the", "label", "˜y", "=", "MΦ", "(", "x", ")", "of", "each", "token", "with", "an", "additional", "linear", "classifier", ".", "Inspired", "by", "SPENs", "for", "sequence", "labeling", "(", "Tu", "and", "Gimpel", ",", "2018", ")", ",", "we", "also", "adopt", "an", "energy", "function", "for", "token", "classification", ".", "Energy", "Function", ".", "The", "token", "-", "level", "energy", "func-", "tion", "is", "inherited", "from", "Eq", "(", "1", ")", ",", "defined", "as", ":", "EΘ", "(", "x", ",", "y", ")", "=", "−", "L", "/", "summationdisplay", "n=1|E|+2", "/", "summationdisplay", "i=1yi", "n", "/", "parenleftBig", "V", "/", "latticetop", "1", ",", "if1", "(", "xn", ")", "/", "parenrightBig", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "local+L", "/", "summationdisplay", "n=1y", "/", "latticetop", "n−1W1yn", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "label", "", "(", "4", ")", "whereyi", "nis", "theithentry", "of", "the", "vector", "yn∈y", ",", "indicating", "the", "probability", "of", "the", "nthtoken", "xnbe-", "ing", "labeled", "with", "i", "(", "iforei", ",", "|E|+1", "for", "non", "-", "trigger", "and|E|+2", "for", "padding", "token", ")", ".", "f1", "(", "·", ")", "denotes", "the", "feature", "encoder", "of", "tokens", ".", "Here", "our", "learnable", "pa-", "rameters", "are", "max", "seq", "length", "=", "(", "V1", ",", "W1", ")", ",", "pooling", ",", "lr", "scheduler", ",", "i∈Rd", "is", "a", "parameter", "vector", "for", "token", "label", "i", ",", "hidden", "size", "R", "(", "|E|+2", ")", "×", "(", "|E|+2", ")", "contains", "the", "bilinear", "product", "be-", "tweenyn−1andynfor", "token", "label", "pair", "terms", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Loss", "Function", ".", "The", "training", "objective", "for", "trig-", "ger", "classification", "is", "denoted", "by", ":", "Ltok=", "/", "summationdisplayL", "i=1", "/", "bracketleftbig", "/", "triangle", "(", "˜yi", ",", "yi", ")", "−EΘ", "(", "xi", ",", "˜yi", ")", "+", "EΘ", "(", "xi", ",", "yi", ")", "/", "bracketrightbig", "+", "+", "µ1LCE", "(", "˜yi", ",", "yi", ")", "(", "5", ")", "where", "˜yiandyirespectively", "denote", "predicted", "re-", "sults", "and", "ground", "truth", ".", "The", "first", "half", "of", "Eq", "(", "5", ")", "is", "inherited", "from", "Eq", "(", "3", ")", "for", "the", "energy", "function", ",", "and", "in", "the", "latter", "half", ",", "LCE", "(", "˜yi", ",", "yi", ")", "is", "the", "trigger", "classi-", "fication", "cross", "entropy", "loss", ",", "and", "µ1is", "its", "ratio", ".", "3.5", "Sentence", "-", "Level", "Energy", "Sentence", "-", "level", "energy", "serves", "for", "event", "classifica-", "tion", ".", "Given", "the", "event", "mention", "Xiwith", "the", "trig-", "gerxt", ",", "we", "utilize", "the", "trigger", "embedding", "f1", "(", "xt", ")", "as", "the", "event", "mention", "embedding", "f2", "(", "X", ")", ",", "where", "f2", "(", "·", ")", "denotes", "the", "feature", "encoder", "of", "event", "men-", "tions", ".", "We", "then", "predict", "the", "class", "of", "each", "event", "men-", "tion", "with", "energy", "-", "based", "hyperspheres", ",", "denoted", "by", "˜Y", "=", "MΦ", "(", "X", ")", ".", "Specifically", ",", "we", "use", "an", "energy", "-", "based", "hyper-", "sphere", "to", "represent", "each", "event", "class", ",", "and", "assume", "that", "the", "event", "mentions", "of", "each", "event", "class", "should", "distribute", "on", "the", "corresponding", "hypersphere", "with", "the", "lowest", "energy", ".", "We", "then", "calculate", "the", "probability", "of", "the", "event", "mention", "Xcategorizing", "into", "the", "class", "eiwith", "a", "hyperspherical", "measurement", "function", ":", "S", "(", "X", ",", "Pi", ")", "=", "exp−", "[", "/", "bardblPi−f2", "(", "X", ")", "/", "bardbl2−γ", "]", "+", "/", "summationtext|E|", "j=1exp−", "[", "/", "bardblPj−f2", "(", "X", ")", "/", "bardbl2−γ", "]", "+", "(", "6", ")", "where", "[", "a", "]", "+=", "max", "(", "0", ",", "a", ")", ",", "Pidenotes", "the", "hyper-", "sphere", "centroid", "embedding", "of", "ei.", "/", "bardbl·", "/", "bardbl", "denotes", "the", "Euclidean", "distance", ".", "γis", "the", "radius", "of", "the", "hyper-", "sphere", ",", "which", "can", "be", "scalable", "or", "constant", ".", "We", "sim-", "ply", "setγ=", "1", "in", "this", "paper", ",", "meaning", "that", "each", "event", "class", "is", "represented", "by", "a", "unit", "hypersphere", ".", "Larger", "S", "(", "X", ",", "Pi", ")", "signifies", "that", "the", "event", "mention", "Xare", "more", "likely", "be", "categorized", "into", "Picorresponding354", "toei", ".", "To", "measure", "the", "energy", "score", "between", "event", "classes", "and", "event", "mentions", ",", "we", "also", "adopt", "an", "en-", "ergy", "function", "for", "event", "classification", ".", "Energy", "Function", ".", "The", "sentence", "-", "level", "energy", "function", "is", "inherited", "from", "Eq", "(", "1", ")", ",", "defined", "as", ":", "EΘ", "(", "X", ",", "Y", ")", "=", "−", "|E|", "/", "summationdisplay", "i=1Yi", "/", "parenleftBig", "V", "/", "latticetop", "2", ",", "if2", "(", "X", ")", "/", "parenrightBig", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "local+w", "/", "latticetop", "2g", "(", "W2Y", ")", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "label", "", "(", "7", ")", "where", "Yi∈Yindicates", "the", "probability", "of", "the", "event", "mention", "Xbeing", "categorized", "to", "ei", ".", "Here", "our", "learn-", "able", "parameters", "are", "epochs", "=", "(", "V2", ",", "w2", ",", "W2", ")", ",", "optimizer", ",", "dropout", ",", "i∈Rdis", "a", "parameter", "vector", "for", "ei", ",", "tokenizer", "andW2∈R|E|×|E|", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O" ]

[ "Loss", "Function", ".", "The", "training", "objective", "for", "event", "classification", "is", "denoted", "by", ":", "Lsen=", "/", "summationdisplayK", "i=1", "/", "bracketleftbig", "/", "triangle", "/", "parenleftBig", "˜Yi", ",", "Yi", "/", "parenrightBig", "−EΘ", "/", "parenleftBig", "Xi", ",", "˜Yi", "/", "parenrightBig", "+", "EΘ", "(", "Xi", ",", "Yi", ")", "/", "bracketrightbig", "+", "+", "µ2LCE", "/", "parenleftBig", "˜Yi", ",", "Yi", "/", "parenrightBig", "(", "8", ")", "where", "the", "first", "half", "is", "inherited", "from", "Eq", "(", "3", ")", ",", "and", "in", "the", "latter", "half", ",", "LCEis", "a", "cross", "entropy", "loss", "for", "predicted", "results", "˜Yiand", "ground", "truth", "Yi.µ2is", "a", "ratio", "for", "event", "classification", "cross", "entropy", "loss", ".", "3.6", "Document", "-", "Level", "Energy", "Document", "-", "level", "energy", "serves", "for", "event", "-", "relation", "extraction", ".", "Given", "event", "mentions", "Xin", "each", "docu-", "ment", ",", "we", "model", "the", "embedding", "interactions", "of", "each", "event", "mention", "pair", "with", "a", "comprehensive", "feature", "vectorf3", "(", "¨X", "/", "angbracketleftij", "/", "angbracketright", ")", "=", "/", "bracketleftbig", "f2", "(", "Xi", ")", ",", "f2", "(", "Xj", ")", ",", "f2", "(", "Xi", ")", "⊙", "f2", "(", "Xj", ")", "/", "bracketrightbig", ".", "We", "then", "predict", "the", "relation", "between", "each", "event", "mention", "pair", "with", "a", "linear", "classifier", ",", "de-", "noted", "by", "˜z", "=", "MΦ", "(", "¨X", ")", ".", "Inspired", "by", "SPENs", "for", "multi", "-", "label", "classification", "(", "Tu", "and", "Gimpel", ",", "2018", ")", ",", "we", "also", "adopt", "an", "energy", "function", "for", "ERE", ".", "Energy", "Function", ".", "The", "document", "-", "level", "energy", "function", "is", "inherited", "from", "Eq", "(", "1", ")", ",", "defined", "as", ":", "EΘ", "(", "¨X", ",", "z", ")", "=", "−", "|R|", "/", "summationdisplay", "i=1zi", "/", "parenleftBig", "V", "/", "latticetop", "3", ",", "if3", "(", "¨X", ")", "/", "parenrightBig", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "local+w", "/", "latticetop", "3g", "(", "W3z", ")", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "label", "", "(", "9", ")", "where", "zi∈zindicates", "the", "probability", "of", "the", "event", "mention", "pair", "¨Xhaving", "the", "relation", "of", "ri", ".", "Here", "our", "learnable", "parameters", "are", "hidden", "size", "=", "(", "V3", ",", "w3", ",", "W3", ")", ",", "embedding", "dim", ",", "epochs", ",", "i∈R3dis", "a", "parameter", "vector", "for", "ri", ",", "tokenizer", "Function", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O" ]

[ "The", "training", "objective", "for", "event-", "relation", "extraction", "is", "denoted", "by", ":", "Ldoc=", "/", "summationdisplayN", "k=1", "/", "bracketleftBig", "/", "triangle", "(", "˜zk", ",", "zk", ")", "−EΘ", "/", "parenleftBig", "¨Xk", ",", "˜zk", "/", "parenrightBig", "+", "EΘ", "/", "parenleftBig", "¨Xk", ",", "zk", "/", "parenrightBig", "/", "bracketrightBig", "+", "+", "µ3LCE", "(", "˜zk", ",", "zk", ")", "(", "10", ")", "where", "the", "first", "half", "is", "inherited", "from", "Eq", "(", "3", ")", ",", "and", "in", "the", "latter", "half", ",", "LCE", "(", "˜zk", ",", "zk", ")", "is", "the", "event", "-", "relation", "extraction", "cross", "entropy", "loss", ",", "µ3is", "its", "ratio", ",", "and", "N", "denotes", "the", "quantity", "of", "event", "mention", "pairs", ".", "Thefinal", "training", "loss", "forSPEECHMΦparam-", "eterized", "by", "Φis", "defined", "as", ":", "L", "=", "λ1Ltok+λ2Lsen+λ3Ldoc+", "/", "bardblΦ", "/", "bardbl2", "2", "(", "11", ")", "whereλ1", ",", "λ2", ",", "λ3are", "the", "loss", "ratios", "respectively", "for", "trigger", "classification", ",", "event", "classification", "and", "event", "-", "relation", "extraction", "tasks", ".", "We", "add", "the", "penalty", "term", "/", "bardblΦ", "/", "bardbl2", "2withL2regularization", ".", "4", "Experiments", "The", "experiments", "refer", "to", "event", "-", "centric", "structured", "prediction", "(", "ECSP", ")", "and", "comprise", "three", "tasks", ":", "(", "1", ")", "Trigger", "Classification", ";", "(", "2", ")", "Event", "Classification", ";", "and", "(", "3", ")", "Event", "-", "Relation", "Extraction", ".", "4.1", "Datasets", "and", "Baselines", "MAVEN", "-ERE", "ONTOEVENT", "-DOC", "#", "Document", "4,480", "4,115", "#", "Mention", "112,276", "60,546", "#", "Temporal", "1,216,217", "5,914", "#", "Causal", "57,992", "14,155", "#", "Subevent", "15,841", "/", "Table", "1", ":", "The", "statistics", "about", "M", "AVEN", "-EREand", "ONTOEVENT", "-DOCused", "in", "this", "paper", ".", "Datasets", ".", "Considering", "event", "-", "centric", "structured", "prediction", "tasks", "in", "this", "paper", "require", "fine", "-", "grained", "annotations", "for", "events", ",", "such", "as", "labels", "of", "tokens", ",", "event", "mentions", ",", "and", "event", "-", "relations", ",", "we", "select", "two", "newly", "-", "proposed", "datasets", "meeting", "the", "require-", "ments", ":", "MAVEN", "-ERE", "(", "Wang", "et", "al", ".", ",", "2022", ")", "and", "ONTOEVENT", "-DOC", "(", "Deng", "et", "al", ".", ",", "2021", ")", ".", "Note", "that", "ONTOEVENT", "-DOCis", "derived", "from", "ONTOEVENT", "(", "Deng", "et", "al", ".", ",", "2021", ")", "which", "is", "formatted", "in", "a", "sen-", "tence", "level", ".", "We", "reorganize", "it", "and", "make", "it", "format", "in", "a", "document", "level", ",", "similar", "to", "MAVEN", "-ERE", ".", "Thus", "the", "train", ",", "validation", ",", "and", "test", "sets", "of", "ONTOEVENT", "-", "DOCare", "also", "different", "from", "the", "original", "ONTO-", "EVENT", ".", "We", "release", "the", "reconstructed", "dataset", "and355", "ModelMAVEN", "-ERE", "ONTOEVENT", "-DOC", "P", "R", "F1", "P", "R", "F1", "DMCNN†60.09±0.36", "60.34", "±0.45", "60.21", "±0.21", "50.42±0.99", "52.24", "±0.46", "51.31", "±0.39", "BiLSTM", "-", "CRF†61.30±1.07", "64.95", "±1.03", "63.06", "±0.23", "48.86±0.81", "55.91", "±0.56", "52.10", "±0.43", "DMBERT†56.79±0.54", "76.24", "±0.26", "65.09", "±0.32", "53.82±1.01", "66.12", "±1.02", "59.32", "±0.24", "BERT", "-", "CRF†62.79±0.34", "70.51", "±0.94", "65.73", "±0.57", "52.18±0.81", "62.31", "±0.45", "56.80", "±0.53", "MLBiNet‡63.50±0.57", "63.80", "±0.47", "63.60", "±0.52", "56.09±0.93", "57.67", "±0.81", "56.87", "±0.87", "TANL‡68.66±0.18", "63.79", "±0.19", "66.13", "±0.15", "57.73±0.65", "59.93", "±0.31", "59.13", "±0.52", "TEXT2EVENT‡59.91±0.83", "64.62", "±0.65", "62.16", "±0.25", "52.93±0.94", "62.27", "±0.49", "57.22", "±0.75", "CorED", "-", "BERT‡67.62±1.03", "69.49", "±0.63", "68.49", "±0.42", "60.27±0.55", "62.25", "±0.66", "61.25", "±0.19", "SPEECH", "78.82±0.82", "79.37±0.75", "79.09±0.82", "74.67±0.58", "74.73±0.62", "74.70±0.58", "w", "/", "o", "energy", "76.12±0.32", "76.66", "±0.25", "76.38", "±0.28", "71.76±0.38", "72.17", "±0.39", "71.96", "±0.38", "Table", "2", ":", "Performance", "(", "%", ")", "of", "trigger", "classification", "on", "M", "AVEN", "-EREvalid", "set", "and", "O", "NTOEVENT", "-DOCtest", "set", ".†", ":", "re-", "sults", "are", "produced", "with", "codes", "referred", "to", "Wang", "et", "al", ".", "(", "2020b", ")", ";", "‡", ":", "results", "are", "produced", "with", "official", "implementation", ".", "Best", "results", "are", "marked", "in", "bold", ",", "and", "the", "second", "best", "results", "are", "underlined", ".", "code", "in", "Github1for", "reproduction", ".", "To", "simplify", "the", "experiment", "settings", ",", "we", "dismiss", "hierarchical", "rela-", "tions", "of", "ONTOEVENT", "and", "coreference", "relations", "of", "MAVEN", "-EREin", "this", "paper", ".", "More", "details", "of", "multi-", "faceted", "event", "-", "relations", "of", "these", "two", "datasets", "are", "introduced", "in", "Appendix", "A", "and", "Github", ".", "We", "present", "the", "statistics", "about", "these", "two", "datasets", "in", "Table", "1", ".", "The", "document", "quantity", "for", "train", "/", "valid", "/", "test", "set", "of", "MAVEN", "-EREandONTOEVENT", "are", "respectively", "2,913", "/", "710", "/", "857", ",", "and", "2,622", "/", "747", "/", "746", ".", "Baselines", ".", "For", "trigger", "classification", "and", "event", "classification", ",", "we", "adopt", "models", "aggregated", "dy-", "namic", "multi", "-", "pooling", "mechanism", ",", "i.e.", ",", "DMCNN", "(", "Chen", "et", "al", ".", ",", "2015", ")", "and", "DMBERT", "(", "Wang", "et", "al", ".", ",", "2019", ")", ";", "sequence", "labeling", "models", "with", "conditional", "random", "field", "(", "CRF", ")", "(", "Lafferty", "et", "al", ".", ",", "2001", ")", ",", "i.e.", ",", "BiLSTM", "-", "CRF", "and", "BERT", "-", "CRF", ";", "generative", "ED", "models", ",", "i.e.", ",", "TANL", "(", "Paolini", "et", "al", ".", ",", "2021", ")", "and", "TEXT2EVENT", "(", "Lu", "et", "al", ".", ",", "2021", ")", ".", "We", "also", "adopt", "some", "ED", "models", "considering", "document", "-", "level", "as-", "sociations", ",", "i.e.", ",", "MLBiNet", "(", "Lou", "et", "al", ".", ",", "2021", ")", "and", "CorED", "-", "BERT", "(", "Sheng", "et", "al", ".", ",", "2022", ")", ".", "Besides", ",", "we", "compare", "our", "energy", "-", "based", "hyperspheres", "with", "the", "vanilla", "hyperspherical", "prototype", "network", "(", "HPN", ")", "(", "Mettes", "et", "al", ".", ",", "2019", ")", "and", "prototype", "-", "based", "model", "OntoED", "(", "Deng", "et", "al", ".", ",", "2021", ")", ".", "Note", "that", "unlike", "vanilla", "HPN", "(", "Mettes", "et", "al", ".", ",", "2019", ")", "which", "represents", "all", "classes", "on", "one", "hypersphere", ",", "the", "HPN", "adopted", "in", "this", "paper", "represents", "each", "class", "with", "a", "distinct", "hypersphere", ".", "For", "event", "-", "relation", "extraction", ",", "we", "se-", "lect", "RoBERTa", "(", "Liu", "et", "al", ".", ",", "2019", ")", ",", "which", "is", "the", "same", "baseline", "used", "in", "MAVEN", "-ERE", "(", "Wang", "et", "al", ".", ",", "2022", ")", ",", "and", "also", "serves", "as", "the", "backbone", "for", "most", "of", "recent", "ERE", "models", "(", "Hwang", "et", "al", ".", ",", "2022", ";", "Man", "et", "al", ".", ",", "2022", ")", ".", "1https", ":", "/", "/", "github.com", "/", "zjunlp", "/", "SPEECH.4.2", "Implementation", "Details", "With", "regard", "to", "settings", "of", "the", "training", "process", ",", "Adam", "(", "Kingma", "and", "Ba", ",", "2015", ")", "optimizer", "is", "used", ",", "with", "the", "learning", "rate", "of", "5e-5", ".", "The", "maximum", "length", "Lof", "a", "token", "sequence", "is", "128", ",", "and", "the", "maximum", "quantity", "of", "event", "mentions", "in", "one", "document", "is", "set", "to", "40", "for", "MAVEN", "-EREand", "50", "for", "ONTOEVENT", "-", "DOC", ".", "The", "loss", "ratios", ",", "µ1", ",", "µ2", ",", "µ3", ",", "for", "token", ",", "sen-", "tence", "and", "document", "-", "level", "energy", "function", "are", "all", "set", "to", "1", ".", "The", "value", "of", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", ",", "for", "trigger", "classification", ",", "event", "classification", "and", "event-", "relation", "extraction", "depends", "on", "different", "tasks", ",", "and", "we", "introduce", "them", "in", "Appendix", "B", ".", "We", "evaluate", "the", "performance", "of", "ED", "and", "ERE", "with", "micro", "precision", "(", "P", ")", ",", "Recall", "(", "R", ")", "and", "F1", "Score", "(", "F1", ")", ".", "4.3", "Event", "Trigger", "Classification", "We", "present", "details", "of", "event", "trigger", "classification", "experiment", "settings", "in", "Appendix", "B.1", ".", "As", "seen", "from", "the", "results", "in", "Table", "2", ",", "SPEECH", "demonstrates", "supe-", "rior", "performance", "over", "all", "baselines", ",", "notably", "MLBi-", "Net", "(", "Lou", "et", "al", ".", ",", "2021", ")", "and", "CorED", "-", "BERT", "(", "Sheng", "et", "al", ".", ",", "2022", ")", ",", "even", "if", "these", "two", "models", "consider", "cross", "-", "sentence", "semantic", "information", "or", "incorpo-", "rate", "type", "-", "level", "and", "instance", "-", "level", "correlations", ".", "The", "main", "reason", "may", "be", "due", "to", "the", "energy", "-", "based", "nature", "ofSPEECH", ".", "As", "seen", "from", "the", "last", "row", "of", "Table", "2", ",", "the", "removal", "of", "energy", "functions", "from", "SPEECH", "can", "result", "in", "a", "performance", "decrease", ".", "Specifically", "for", "trigger", "classification", ",", "energy", "-", "based", "modeling", "en-", "ables", "capture", "long", "-", "range", "dependency", "of", "tokens", "and", "places", "no", "limits", "on", "the", "size", "of", "event", "structures", ".", "In", "addition", ",", "SPEECH", "also", "excels", "generative", "models", ",", "i.e.", ",", "TANL", "(", "Paolini", "et", "al", ".", ",", "2021", ")", "and", "TEXT2EVENT", "(", "Lu", "et", "al", ".", ",", "2021", ")", ",", "thereby", "demonstrating", "the", "efficacy", "of", "energy", "-", "based", "modeling.356", "ModelMAVEN", "-ERE", "ONTOEVENT", "-DOC", "P", "R", "F1", "P", "R", "F1", "DMCNN", "61.74±0.32", "63.11", "±0.34", "62.42", "±0.15", "51.52±0.87", "52.84", "±0.61", "52.02", "±0.36", "DMBERT", "59.45±0.48", "77.77±0.21", "67.39", "±0.25", "57.06±1.04", "72.97±1.11", "65.03±0.45", "HPN", "62.80±0.72", "62.62", "±0.99", "62.71", "±0.85", "61.18±0.81", "60.88", "±0.79", "61.03", "±0.81", "OntoED", "67.82±1.70", "67.72", "±1.52", "67.77", "±1.61", "64.32±1.15", "64.16", "±1.31", "64.25", "±1.22", "TANL", "68.73±0.16", "65.65", "±0.63", "67.15", "±0.29", "60.34±0.71", "62.52", "±0.43", "61.42", "±0.51", "TEXT2EVENT", "61.14±0.80", "65.93", "±0.69", "63.44", "±0.19", "56.76±0.97", "66.78", "±0.48", "61.36", "±0.77", "SPEECH", "72.91±0.76", "72.81", "±0.76", "72.86±0.77", "58.92±0.96", "58.45", "±1.08", "58.69", "±1.40", "w", "/", "o", "energy", "71.22±0.58", "71.07", "±0.45", "71.12", "±0.45", "56.12±1.87", "55.69", "±1.66", "55.91", "±1.76", "Table", "3", ":", "Performance", "(", "%", ")", "of", "event", "classification", "on", "M", "AVEN", "-EREvalid", "set", "and", "O", "NTOEVENT", "-DOCtest", "set", ".", "4.4", "Event", "Classification", "The", "specifics", "of", "event", "classification", "experiment", "set-", "tings", "are", "elaborated", "in", "Appendix", "B.2", ",", "with", "results", "illustrated", "in", "Table", "3", ".", "We", "can", "observe", "that", "SPEECH", "provides", "considerable", "advantages", "on", "MAVEN", "-ERE", ",", "while", "the", "performance", "on", "ONTOEVENT", "-DOCis", "not", "superior", "enough", ".", "ONTOEVENT", "-DOCcontains", "overlapping", "where", "multiple", "event", "classes", "may", "ex-", "ist", "in", "the", "same", "event", "mention", ",", "which", "could", "be", "the", "primary", "reason", "for", "SPEECH", "not", "performing", "well", "enough", "in", "this", "case", ".", "This", "impact", "could", "be", "exacer-", "bated", "when", "joint", "training", "with", "other", "ECSP", "tasks", ".", "Upon", "comparison", "with", "prototype", "-", "based", "methods", "without", "energy", "-", "based", "modeling", ",", "i.e.", ",", "HPN", "(", "Mettes", "et", "al", ".", ",", "2019", ")", "and", "OntoED", "(", "Deng", "et", "al", ".", ",", "2021", ")", ",", "SPEECH", "is", "still", "dominant", "on", "MAVEN", "-ERE", ",", "despite", "HPN", "represents", "classes", "with", "hyperspheres", "and", "On-", "toED", "leverages", "hyperspheres", "integrated", "with", "event-", "relation", "semantics", ".", "If", "we", "exclude", "energy", "functions", "from", "SPEECH", ",", "performance", "will", "degrade", ",", "as", "seen", "from", "the", "last", "row", "in", "Table", "3", ".", "This", "insight", "sug-", "gests", "that", "energy", "functions", "contribute", "positively", "to", "event", "classification", ",", "which", "enable", "the", "model", "to", "directly", "capture", "complicated", "dependency", "be-", "tween", "event", "mentions", "and", "event", "types", ",", "instead", "of", "implicitly", "inferring", "from", "data", ".", "Besides", ",", "SPEECH", "also", "outperforms", "generative", "models", "like", "TANL", "and", "TEXT2EVENT", "onMAVEN", "-ERE", ",", "indicating", "the", "su-", "periority", "of", "energy", "-", "based", "hyperspherical", "modeling", ".", "4.5", "Event", "-", "Relation", "Extraction", "We", "present", "the", "specifics", "of", "event", "-", "relation", "extrac-", "tion", "experiment", "settings", "in", "Appendix", "B.3", ".", "As", "seen", "from", "the", "results", "in", "Table", "4", ",", "SPEECH", "achieves", "dif-", "ferent", "performance", "across", "the", "two", "ERE", "datasets", ".", "OnONTOEVENT", "-DOCdataset", ",", "SPEECH", "observ-", "ably", "outperforms", "RoBERTa", "on", "all", "ERE", "sub-", "tasks", ",", "demonstrating", "the", "effectiveness", "of", "SPEECH", "equipped", "with", "energy", "-", "based", "hyperspheres", ",", "so", "that", "SPEECH", "can", "capture", "the", "dependency", "among", "eventERE", "Task", "RoBERTa", "SPEECH", "TemporalMAVEN", "-ERE", "49.21±0.33", "39.64±0.79", "+", "joint", "49.91±0.58", "40.23±0.34", "ONTOEVENT", "-DOC", "37.68±0.47", "52.36±0.71", "+", "joint", "35.63±0.70", "65.69±0.39", "CausalMAVEN", "-ERE", "29.91±0.34", "16.28±0.53", "+", "joint", "29.03±0.91", "16.31±0.97", "ONTOEVENT", "-DOC", "35.48±1.77", "79.29±2.15", "+", "joint", "44.99±0.29", "67.76±1.28", "SubeventMAVEN", "-ERE", "19.80±0.44", "19.91±0.52", "+", "joint", "19.14±2.81", "21.96±1.24", "All", "JointMAVEN", "-ERE", "34.79±1.13", "37.85±0.72", "ONTOEVENT", "-DOC", "28.60±0.13", "54.19±2.28", "Table", "4", ":", "F1", "(", "%", ")", "performance", "of", "ERE", "on", "M", "AVEN", "-ERE", "valid", "set", "and", "O", "NTOEVENT", "-DOCtest", "set", ".", "“", "+", "joint", "”", "in", "the", "2", "ndcolumn", "denotes", "jointly", "training", "on", "all", "ERE", "tasks", "and", "evaluating", "on", "the", "specific", "one", ",", "with", "the", "same", "setting", "as", "Wang", "et", "al", ".", "(", "2022", ")", ".", "“", "All", "Joint", "”", "in", "the", "last", "two", "rows", "denotes", "treating", "all", "ERE", "tasks", "as", "one", "task", ".", "mention", "pairs", "and", "event", "-", "relation", "labels", ".", "While", "on", "MAVEN", "-ERE", ",", "SPEECH", "significantly", "outperforms", "RoBERTa", "on", "ERE", "subtasks", "referring", "to", "subevent", "relations", "or", "trained", "on", "all", "event", "-", "relations", ",", "but", "fails", "to", "exceed", "RoBERTa", "on", "ERE", "subtasks", "referring", "to", "temporal", "and", "causal", "relations", ".", "The", "possible", "reason", "is", "that", "MAVEN", "-EREcontains", "less", "positive", "event-", "relations", "than", "negative", "NA", "relations", ".", "Given", "that", "SPEECH", "models", "all", "these", "relations", "equivalently", "with", "the", "energy", "function", ",", "it", "becomes", "challenging", "to", "classify", "NA", "effectively", ".", "But", "this", "issue", "will", "be", "markedly", "improved", "if", "the", "quantity", "of", "positive", "event-", "relations", "decreases", ",", "since", "SPEECH", "performs", "better", "on", "subevent", "relations", "despite", "MAVEN", "-EREhav-", "ing", "much", "less", "subevent", "relations", "than", "temporal", "and", "causal", "ones", "as", "shown", "in", "Table", "1", ".", "Furthermore", ",", "even", "though", "ONTOEVENT", "-DOCcontaining", "fewer", "posi-", "tive", "event", "-", "relations", "than", "NA", "overall", ",", "SPEECH", "still", "performs", "well", ".", "These", "results", "suggest", "that", "SPEECH", "excels", "in", "modeling", "classes", "with", "fewer", "samples", ".", "Note", "that", "SPEECH", "also", "performs", "well", "when", "train-", "ing", "on", "all", "event", "-", "relations", "(", "“", "All", "Joint", "”", ")", "of", "the", "two", "datasets", ",", "indicating", "that", "SPEECH", "is", "still", "advanta-", "geous", "in", "the", "scenario", "with", "more", "classes.357", "5", "Further", "Analysis", "5.1", "Analysis", "On", "Energy", "-", "Based", "Modeling", "We", "list", "some", "values", "of", "energy", "loss", "defined", "in", "Eq", "(", "5", ")", ",", "(", "8", ")", "and", "(", "10", ")", "when", "training", "respectively", "for", "token", ",", "sentence", "and", "document", ",", "as", "presented", "in", "Figure", "3", ".", "The", "values", "of", "token", "-", "level", "energy", "loss", "are", "observ-", "ably", "larger", "than", "those", "at", "the", "sentence", "and", "document", "levels", ".", "This", "can", "be", "attributed", "to", "the", "fact", "that", "the", "en-", "ergy", "loss", "is", "related", "to", "the", "quantity", "of", "samples", ",", "and", "a", "single", "document", "typically", "contains", "much", "more", "tokens", "than", "sentences", "or", "sentence", "pairs", ".", "All", "three", "levels", "of", "energy", "loss", "exhibit", "a", "gradual", "decrease", "over", "the", "course", "of", "training", ",", "indicating", "that", "SPEECH", ",", "through", "energy", "-", "based", "modeling", ",", "effectively", "mini-", "mizes", "the", "discrepancy", "between", "predicted", "results", "and", "ground", "truth", ".", "The", "energy", "functions", "for", "token", ",", "sentence", "and", "document", "defined", "in", "Eq", "(", "4", ")", ",", "(", "7", ")", "and", "(", "9", ")", ",", "reflect", "that", "the", "implementation", "of", "energy", "-", "based", "modeling", "in", "SPEECH", "is", "geared", "towards", "enhanc-", "ing", "compatibility", "between", "input", "/", "output", "pairs", ".", "The", "gradually", "-", "decreasing", "energy", "loss", "demonstrates", "that", "SPEECH", "can", "model", "intricate", "event", "structures", "at", "the", "token", ",", "sentence", ",", "and", "document", "levels", "through", "energy", "-", "based", "optimization", ",", "thereby", "improving", "the", "outcomes", "of", "structured", "prediction", ".", "0", "5", "10", "15", "200255075100125150175200Loss", "for", "Energy", "token", "-", "level", "0", "5", "10", "15", "20", "Iteration", "Step02468Loss", "for", "Energy", "sentence", "-", "level", "document", "-", "level", "Figure", "3", ":", "Illustration", "of", "loss", "for", "energy", ".", "5.2", "Case", "Study", ":", "Energy", "-", "Based", "Hyperspheres", "As", "seen", "in", "Figure", "4", ",", "we", "visualize", "the", "event", "class", "embedding", "of", "“", "Attack", "”", "and", "20", "event", "mention", "embeddings", "as", "generated", "by", "both", "SPEECH", "and", "SPEECH", "without", "energy", "functions", ".", "We", "observe", "thatforSPEECH", "with", "energy", "-", "based", "modelling", ",", "the", "instances", "lie", "near", "the", "surface", "of", "the", "correspond-", "ing", "hypersphere", ",", "while", "they", "are", "more", "scattered", "when", "not", "equipped", "with", "energy", "-", "based", "modeling", ",", "which", "subsequently", "diminishes", "the", "performance", "of", "event", "classification", ".", "This", "observation", "suggests", "that", "SPEECH", "derives", "significant", "benefits", "from", "modeling", "with", "energy", "-", "based", "hyperspheres", ".", "The", "visualiza", "-", "tion", "results", "further", "demonstrate", "the", "effectiveness", "of", "SPEECH", "equipped", "with", "energy", "-", "based", "modeling", ".", "1.00", "0.75", "0.50", "0.25", "0.00", "0.25", "0.50", "0.75", "1.001.00", "0.75", "0.50", "0.25", "0.000.250.500.751.001.0", "0.5", "0.00.51.0", "SPEECH", "SPEECH", "w", "/", "o", "energy", "Figure", "4", ":", "Visualization", "of", "an", "example", "event", "class", ".", "5.3", "Error", "Analysis", "We", "further", "conduct", "error", "analysis", "by", "a", "retrospection", "of", "experimental", "results", "and", "datasets", ".", "(", "1", ")", "One", "typi-", "cal", "error", "relates", "to", "the", "unbalanced", "data", "distribution", ".", "Considering", "every", "event", "type", "and", "event", "-", "relation", "contain", "different", "amount", "of", "instances", ",", "unified", "mod-", "eling", "with", "energy", "-", "based", "hyperspheres", "may", "not", "al-", "ways", "be", "impactful", ".", "(", "2", ")", "The", "second", "error", "relates", "to", "the", "overlapping", "event", "mentions", "among", "event", "types", ",", "meaning", "that", "the", "same", "sentence", "may", "mention", "mul-", "tiple", "event", "types", ".", "As", "ONTOEVENT", "-DOCcontains", "many", "overlappings", ",", "it", "might", "be", "the", "reason", "for", "its", "mediocre", "performance", "on", "ED", ".", "(", "3", ")", "The", "third", "error", "relates", "to", "associations", "with", "event", "-", "centric", "structured", "prediction", "tasks", ".", "As", "trigger", "classification", "is", "closely", "related", "to", "event", "classification", ",", "wrong", "prediction", "of", "tokens", "will", "also", "influence", "classifying", "events", ".", "6", "Conclusion", "and", "Future", "Work", "In", "this", "paper", ",", "we", "propose", "a", "novel", "approach", "entitled", "SPEECH", "to", "tackle", "event", "-", "centric", "structured", "predic-", "tion", "with", "energy", "-", "based", "hyperspheres", ".", "We", "represent", "event", "classes", "as", "hyperspheres", "with", "token", ",", "sentence", "and", "document", "-", "level", "energy", ",", "respectively", "for", "trigger", "classification", ",", "event", "classification", "and", "event", "rela-", "tion", "extraction", "tasks", ".", "We", "evaluate", "SPEECH", "on", "two", "event", "-", "centric", "structured", "prediction", "datasets", ",", "and", "experimental", "results", "demonstrate", "that", "SPEECH", "is", "able", "to", "model", "manifold", "event", "structures", "with", "depen-", "dency", "and", "obtain", "effective", "event", "representations", ".", "In", "the", "future", ",", "we", "intend", "to", "enhance", "our", "work", "by", "mod-", "eling", "more", "complicated", "structures", "and", "extend", "it", "to", "other", "structured", "prediction", "tasks.358", "Acknowledgements", "We", "would", "like", "to", "express", "gratitude", "to", "the", "anony-", "mous", "reviewers", "for", "their", "kind", "comments", ".", "This", "work", "was", "supported", "by", "the", "Zhejiang", "Provin-", "cial", "Natural", "Science", "Foundation", "of", "China", "(", "No", ".", "LGG22F030011", ")", ",", "Yongjiang", "Talent", "Introduction", "Programme", "(", "2021A-156", "-", "G", ")", ",", "CAAI", "-", "Huawei", "Mind-", "Spore", "Open", "Fund", ",", "and", "NUS", "-", "NCS", "Joint", "Laboratory", "(", "A-0008542", "-", "00", "-", "00", ")", ".", "Limitations", "Although", "SPEECH", "performs", "well", "on", "event", "-", "centric", "structured", "prediction", "tasks", "in", "this", "paper", ",", "it", "still", "has", "some", "limitations", ".", "The", "first", "limitation", "relates", "to", "efficiency", ".", "As", "SPEECH", "involves", "many", "tasks", "and", "requires", "complex", "calculation", ",", "the", "training", "pro-", "cess", "is", "not", "very", "prompt", ".", "The", "second", "limitation", "relates", "to", "robustness", ".", "As", "seen", "in", "the", "experimen-", "tal", "analysis", "in§4.5", ",", "SPEECH", "seems", "not", "always", "robust", "to", "unevenly", "-", "distributed", "data", ".", "The", "third", "limitation", "relates", "to", "universality", ".", "Not", "all", "event-", "centric", "structured", "prediction", "tasks", "can", "simultane-", "ously", "achieve", "the", "best", "performance", "at", "the", "same", "settings", "of", "S", "PEECH", ".", "References", "David", "Belanger", "and", "Andrew", "McCallum", ".", "2016", ".", "Struc-", "tured", "prediction", "energy", "networks", ".", "In", "ICML", ",", "vol-", "ume", "48", "of", "JMLR", "Workshop", "and", "Conference", "Pro-", "ceedings", ",", "pages", "983–992", ".", "JMLR.org", ".", "David", "Belanger", ",", "Bishan", "Yang", ",", "and", "Andrew", "McCallum", ".", "2017", ".", "End", "-", "to", "-", "end", "learning", "for", "structured", "prediction", "energy", "networks", ".", "In", "ICML", ",", "volume", "70", "of", "Proceed-", "ings", "of", "Machine", "Learning", "Research", ",", "pages", "429–439", ".", "PMLR", ".", "Yubo", "Chen", ",", "Liheng", "Xu", ",", "Kang", "Liu", ",", "Daojian", "Zeng", ",", "and", "Jun", "Zhao", ".", "2015", ".", "Event", "extraction", "via", "dynamic", "multi-", "pooling", "convolutional", "neural", "networks", ".", "In", "ACL", "(", "1", ")", ",", "pages", "167–176", ".", "The", "Association", "for", "Computer", "Lin-", "guistics", ".", "Shiyao", "Cui", ",", "Bowen", "Yu", ",", "Tingwen", "Liu", ",", "Zhenyu", "Zhang", ",", "Xuebin", "Wang", ",", "and", "Jinqiao", "Shi", ".", "2020", ".", "Edge-", "enhanced", "graph", "convolution", "networks", "for", "event", "de-", "tection", "with", "syntactic", "relation", ".", "In", "EMNLP", "(", "Find-", "ings", ")", ",", "pages", "2329–2339", ".", "Association", "for", "Computa-", "tional", "Linguistics", ".", "Shumin", "Deng", ",", "Ningyu", "Zhang", ",", "Hui", "Chen", ",", "Chuanqi", "Tan", ",", "Fei", "Huang", ",", "Changliang", "Xu", ",", "and", "Huajun", "Chen", ".", "2022", ".", "Low", "-", "resource", "extraction", "with", "knowledge-", "aware", "pairwise", "prototype", "learning", ".", "Knowl", ".", "Based", "Syst", ".", ",", "235:107584.Shumin", "Deng", ",", "Ningyu", "Zhang", ",", "Jiaojian", "Kang", ",", "Yichi", "Zhang", ",", "Wei", "Zhang", ",", "and", "Huajun", "Chen", ".", "2020", ".", "Meta-", "learning", "with", "dynamic", "-", "memory", "-", "based", "prototypical", "network", "for", "few", "-", "shot", "event", "detection", ".", "In", "WSDM", ",", "pages", "151–159", ".", "ACM", ".", "Shumin", "Deng", ",", "Ningyu", "Zhang", ",", "Luoqiu", "Li", ",", "Hui", "Chen", ",", "Huaixiao", "Tou", ",", "Mosha", "Chen", ",", "Fei", "Huang", ",", "and", "Hua-", "jun", "Chen", ".", "2021", ".", "Ontoed", ":", "Low", "-", "resource", "event", "detec-", "tion", "with", "ontology", "embedding", ".", "In", "ACL", "/", "IJCNLP", "(", "1", ")", ",", "pages", "2828–2839", ".", "Association", "for", "Computational", "Linguistics", ".", "Jacob", "Devlin", ",", "Ming", "-", "Wei", "Chang", ",", "Kenton", "Lee", ",", "and", "Kristina", "Toutanova", ".", "2019", ".", "BERT", ":", "pre", "-", "training", "of", "deep", "bidirectional", "transformers", "for", "language", "under-", "standing", ".", "In", "NAACL", "-", "HLT", "(", "1", ")", ",", "pages", "4171–4186", ".", "As-", "sociation", "for", "Computational", "Linguistics", ".", "Ning", "Ding", ",", "Xiaobin", "Wang", ",", "Yao", "Fu", ",", "Guangwei", "Xu", ",", "Rui", "Wang", ",", "Pengjun", "Xie", ",", "Ying", "Shen", ",", "Fei", "Huang", ",", "Hai", "-", "Tao", "Zheng", ",", "and", "Rui", "Zhang", ".", "2021", ".", "Prototypical", "repre-", "sentation", "learning", "for", "relation", "extraction", ".", "In", "ICLR", ".", "OpenReview.net", ".", "Xinya", "Du", "and", "Claire", "Cardie", ".", "2020", ".", "Event", "extraction", "by", "answering", "(", "almost", ")", "natural", "questions", ".", "In", "EMNLP", "(", "1", ")", ",", "pages", "671–683", ".", "Association", "for", "Computational", "Linguistics", ".", "Rujun", "Han", ",", "Yichao", "Zhou", ",", "and", "Nanyun", "Peng", ".", "2020", ".", "Do-", "main", "knowledge", "empowered", "structured", "neural", "net", "for", "end", "-", "to", "-", "end", "event", "temporal", "relation", "extraction", ".", "InEMNLP", "(", "1", ")", ",", "pages", "5717–5729", ".", "Association", "for", "Computational", "Linguistics", ".", "I", "-", "Hung", "Hsu", ",", "Kuan", "-", "Hao", "Huang", ",", "Elizabeth", "Boschee", ",", "Scott", "Miller", ",", "Prem", "Natarajan", ",", "Kai", "-", "Wei", "Chang", ",", "and", "Nanyun", "Peng", ".", "2022", ".", "DEGREE", ":", "A", "data-", "efficient", "generation", "-", "based", "event", "extraction", "model", ".", "InNAACL", "-", "HLT", ",", "pages", "1890–1908", ".", "Association", "for", "Computational", "Linguistics", ".", "EunJeong", "Hwang", ",", "Jay", "-", "Yoon", "Lee", ",", "Tianyi", "Yang", ",", "Dhru-", "vesh", "Patel", ",", "Dongxu", "Zhang", ",", "and", "Andrew", "McCallum", ".", "2022", ".", "Event", "-", "event", "relation", "extraction", "using", "proba-", "bilistic", "box", "embedding", ".", "In", "ACL", "(", "2", ")", ",", "pages", "235–244", ".", "Association", "for", "Computational", "Linguistics", ".", "Abhyuday", "Jagannatha", "and", "Hong", "Yu", ".", "2016", ".", "Structured", "prediction", "models", "for", "RNN", "based", "sequence", "labeling", "in", "clinical", "text", ".", "In", "EMNLP", ",", "pages", "856–865", ".", "The", "As-", "sociation", "for", "Computational", "Linguistics", ".", "Diederik", "P", ".", "Kingma", "and", "Jimmy", "Ba", ".", "2015", ".", "Adam", ":", "A", "method", "for", "stochastic", "optimization", ".", "In", "ICLR", "(", "Poster", ")", ".", "Julia", "Kreutzer", ",", "Stefan", "Riezler", ",", "and", "Carolin", "Lawrence", ".", "2021", ".", "Offline", "reinforcement", "learning", "from", "human", "feedback", "in", "real", "-", "world", "sequence", "-", "to", "-", "sequence", "tasks", ".", "InSPNLP", "@", "ACL", "-", "IJCNLP", ",", "pages", "37–43", ".", "Associa-", "tion", "for", "Computational", "Linguistics.359", "Julia", "Kreutzer", ",", "Artem", "Sokolov", ",", "and", "Stefan", "Riezler", ".", "2017", ".", "Bandit", "structured", "prediction", "for", "neural", "sequence", "-", "to", "-", "sequence", "learning", ".", "In", "ACL", "(", "1", ")", ",", "pages", "1503–1513", ".", "Association", "for", "Computational", "Linguis-", "tics", ".", "John", "D", ".", "Lafferty", ",", "Andrew", "McCallum", ",", "and", "Fernando", "C", ".", "N", ".", "Pereira", ".", "2001", ".", "Conditional", "random", "fields", ":", "Probabilistic", "models", "for", "segmenting", "and", "labeling", "se-", "quence", "data", ".", "In", "ICML", ",", "pages", "282–289", ".", "Morgan", "Kaufmann", ".", "Viet", "Dac", "Lai", ",", "Franck", "Dernoncourt", ",", "and", "Thien", "Huu", "Nguyen", ".", "2021", ".", "Learning", "prototype", "representations", "across", "few", "-", "shot", "tasks", "for", "event", "detection", ".", "In", "EMNLP", "(", "1", ")", ",", "pages", "5270–5277", ".", "Association", "for", "Computa-", "tional", "Linguistics", ".", "Viet", "Dac", "Lai", ",", "Tuan", "Ngo", "Nguyen", ",", "and", "Thien", "Huu", "Nguyen", ".", "2020", ".", "Event", "detection", ":", "Gate", "diversity", "and", "syntactic", "importance", "scores", "for", "graph", "convolution", "neural", "networks", ".", "In", "EMNLP", "(", "1", ")", ",", "pages", "5405–5411", ".", "Association", "for", "Computational", "Linguistics", ".", "Yann", "Lecun", ",", "Sumit", "Chopra", ",", "Raia", "Hadsell", ",", "Marc", "Aure-", "lio", "Ranzato", ",", "and", "Fu", "Jie", "Huang", ".", "2006", ".", "A", "tutorial", "on", "energy", "-", "based", "learning", ".", "Predicting", "structured", "data", ".", "Manling", "Li", ",", "Qi", "Zeng", ",", "Ying", "Lin", ",", "Kyunghyun", "Cho", ",", "Heng", "Ji", ",", "Jonathan", "May", ",", "Nathanael", "Chambers", ",", "and", "Clare", "R", ".", "V", "oss", ".", "2020", ".", "Connecting", "the", "dots", ":", "Event", "graph", "schema", "induction", "with", "path", "language", "modeling", ".", "In", "EMNLP", "(", "1", ")", ",", "pages", "684–695", ".", "Association", "for", "Com-", "putational", "Linguistics", ".", "Qi", "Li", ",", "Heng", "Ji", ",", "and", "Liang", "Huang", ".", "2013", ".", "Joint", "event", "extraction", "via", "structured", "prediction", "with", "global", "fea-", "tures", ".", "In", "ACL", "(", "1", ")", ",", "pages", "73–82", ".", "The", "Association", "for", "Computer", "Linguistics", ".", "Ying", "Lin", ",", "Heng", "Ji", ",", "Fei", "Huang", ",", "and", "Lingfei", "Wu", ".", "2020", ".", "A", "joint", "neural", "model", "for", "information", "extraction", "with", "global", "features", ".", "In", "ACL", ",", "pages", "7999–8009", ".", "Associa-", "tion", "for", "Computational", "Linguistics", ".", "Jian", "Liu", ",", "Yubo", "Chen", ",", "Kang", "Liu", ",", "Wei", "Bi", ",", "and", "Xiaojiang", "Liu", ".", "2020a", ".", "Event", "extraction", "as", "machine", "reading", "comprehension", ".", "In", "EMNLP", "(", "1", ")", ",", "pages", "1641–1651", ".", "Association", "for", "Computational", "Linguistics", ".", "Kang", "Liu", ",", "Yubo", "Chen", ",", "Jian", "Liu", ",", "Xinyu", "Zuo", ",", "and", "Jun", "Zhao", ".", "2020b", ".", "Extracting", "events", "and", "their", "relations", "from", "texts", ":", "A", "survey", "on", "recent", "research", "progress", "and", "challenges", ".", "AI", "Open", ",", "1:22–39", ".", "Yinhan", "Liu", ",", "Myle", "Ott", ",", "Naman", "Goyal", ",", "Jingfei", "Du", ",", "Man-", "dar", "Joshi", ",", "Danqi", "Chen", ",", "Omer", "Levy", ",", "Mike", "Lewis", ",", "Luke", "Zettlemoyer", ",", "and", "Veselin", "Stoyanov", ".", "2019", ".", "Roberta", ":", "A", "robustly", "optimized", "BERT", "pretraining", "ap-", "proach", ".", "CoRR", ",", "abs", "/", "1907.11692", ".", "Dongfang", "Lou", ",", "Zhilin", "Liao", ",", "Shumin", "Deng", ",", "Ningyu", "Zhang", ",", "and", "Huajun", "Chen", ".", "2021", ".", "Mlbinet", ":", "A", "cross-", "sentence", "collective", "event", "detection", "network", ".", "In", "ACL", ".", "Association", "for", "Computational", "Linguistics", ".", "Yaojie", "Lu", ",", "Hongyu", "Lin", ",", "Jin", "Xu", ",", "Xianpei", "Han", ",", "Jialong", "Tang", ",", "Annan", "Li", ",", "Le", "Sun", ",", "Meng", "Liao", ",", "and", "Shaoyi", "Chen", ".", "2021", ".", "Text2event", ":", "Controllable", "sequence", "-", "to-", "structure", "generation", "for", "end", "-", "to", "-", "end", "event", "extraction", ".", "InACL", "/", "IJCNLP", "(", "1", ")", ",", "pages", "2795–2806", ".", "Association", "for", "Computational", "Linguistics", ".", "Yaojie", "Lu", ",", "Qing", "Liu", ",", "Dai", "Dai", ",", "Xinyan", "Xiao", ",", "Hongyu", "Lin", ",", "Xianpei", "Han", ",", "Le", "Sun", ",", "and", "Hua", "Wu", ".", "2022", ".", "Uni-", "fied", "structure", "generation", "for", "universal", "information", "extraction", ".", "In", "ACL", "(", "1", ")", ",", "pages", "5755–5772", ".", "Associ-", "ation", "for", "Computational", "Linguistics", ".", "Hieu", "Man", ",", "Nghia", "Trung", "Ngo", ",", "Linh", "Ngo", "Van", ",", "and", "Thien", "Huu", "Nguyen", ".", "2022", ".", "Selecting", "optimal", "con-", "text", "sentences", "for", "event", "-", "event", "relation", "extraction", ".", "In", "AAAI", ",", "pages", "11058–11066", ".", "AAAI", "Press", ".", "Yuanliang", "Meng", "and", "Anna", "Rumshisky", ".", "2018", ".", "Context-", "aware", "neural", "model", "for", "temporal", "information", "extrac-", "tion", ".", "In", "ACL", "(", "1", ")", ",", "pages", "527–536", ".", "Association", "for", "Computational", "Linguistics", ".", "Pascal", "Mettes", ",", "Elise", "van", "der", "Pol", ",", "and", "Cees", "Snoek", ".", "2019", ".", "Hyperspherical", "prototype", "networks", ".", "In", "Advances", "in", "Neural", "Information", "Processing", "Systems", "32", ",", "pages", "1487–1497", ".", "Curran", "Associates", ",", "Inc", ".", "Thien", "Huu", "Nguyen", ",", "Kyunghyun", "Cho", ",", "and", "Ralph", "Grish-", "man", ".", "2016", ".", "Joint", "event", "extraction", "via", "recurrent", "neu-", "ral", "networks", ".", "In", "HLT", "-", "NAACL", ",", "pages", "300–309", ".", "The", "Association", "for", "Computational", "Linguistics", ".", "Trung", "Minh", "Nguyen", "and", "Thien", "Huu", "Nguyen", ".", "2019", ".", "One", "for", "all", ":", "Neural", "joint", "modeling", "of", "entities", "and", "events", ".", "In", "AAAI", ",", "pages", "6851–6858", ".", "AAAI", "Press", ".", "Giovanni", "Paolini", ",", "Ben", "Athiwaratkun", ",", "Jason", "Krone", ",", "Jie", "Ma", ",", "Alessandro", "Achille", ",", "Rishita", "Anubhai", ",", "Cícero", "Nogueira", "dos", "Santos", ",", "Bing", "Xiang", ",", "and", "Ste-", "fano", "Soatto", ".", "2021", ".", "Structured", "prediction", "as", "transla-", "tion", "between", "augmented", "natural", "languages", ".", "In", "ICLR", ".", "OpenReview.net", ".", "Colin", "Raffel", ",", "Noam", "Shazeer", ",", "Adam", "Roberts", ",", "Katherine", "Lee", ",", "Sharan", "Narang", ",", "Michael", "Matena", ",", "Yanqi", "Zhou", ",", "Wei", "Li", ",", "and", "Peter", "J", ".", "Liu", ".", "2020", ".", "Exploring", "the", "limits", "of", "transfer", "learning", "with", "a", "unified", "text", "-", "to", "-", "text", "trans-", "former", ".", "J", ".", "Mach", ".", "Learn", ".", "Res", ".", ",", "21:140:1–140:67", ".", "Victor", "Sanh", ",", "Lysandre", "Debut", ",", "Julien", "Chaumond", ",", "and", "Thomas", "Wolf", ".", "2019", ".", "Distilbert", ",", "a", "distilled", "version", "of", "BERT", ":", "smaller", ",", "faster", ",", "cheaper", "and", "lighter", ".", "In", "Fifth", "Workshop", "on", "Energy", "Efficient", "Machine", "Learn-", "ing", "and", "Cognitive", "Computing", "-", "NeurIPS", "Edition", "(", "EMC2", "-", "NIPS", ")", ".", "IEEE", ".", "Jiawei", "Sheng", ",", "Rui", "Sun", ",", "Shu", "Guo", ",", "Shiyao", "Cui", ",", "Jiangxia", "Cao", ",", "Lihong", "Wang", ",", "Tingwen", "Liu", ",", "and", "Hongbo", "Xu", ".", "2022", ".", "Cored", ":", "Incorporating", "type", "-", "level", "and", "instance-", "level", "correlations", "for", "fine", "-", "grained", "event", "detection", ".", "InSIGIR", ",", "pages", "1122–1132", ".", "ACM", ".", "Noah", "A", ".", "Smith", ".", "2011", ".", "Linguistic", "Structure", "Prediction", ".", "Synthesis", "Lectures", "on", "Human", "Language", "Technolo-", "gies", ".", "Morgan", "&", "Claypool", "Publishers.360", "Benjamin", "Taskar", ",", "Vassil", "Chatalbashev", ",", "Daphne", "Koller", ",", "and", "Carlos", "Guestrin", ".", "2005", ".", "Learning", "structured", "pre-", "diction", "models", ":", "a", "large", "margin", "approach", ".", "In", "ICML", ",", "volume", "119", "of", "ACM", "International", "Conference", "Pro-", "ceeding", "Series", ",", "pages", "896–903", ".", "ACM", ".", "Lifu", "Tu", "and", "Kevin", "Gimpel", ".", "2018", ".", "Learning", "approx-", "imate", "inference", "networks", "for", "structured", "prediction", ".", "InICLR", "(", "Poster", ")", ".", "OpenReview.net", ".", "Haoyu", "Wang", ",", "Muhao", "Chen", ",", "Hongming", "Zhang", ",", "and", "Dan", "Roth", ".", "2020a", ".", "Joint", "constrained", "learning", "for", "event", "-", "event", "relation", "extraction", ".", "In", "EMNLP", "(", "1", ")", ",", "pages", "696–706", ".", "Association", "for", "Computational", "Lin-", "guistics", ".", "Tongzhou", "Wang", "and", "Phillip", "Isola", ".", "2020", ".", "Understand-", "ing", "contrastive", "representation", "learning", "through", "align-", "ment", "and", "uniformity", "on", "the", "hypersphere", ".", "In", "ICML", ",", "volume", "119", "of", "Proceedings", "of", "Machine", "Learning", "Re-", "search", ",", "pages", "9929–9939", ".", "PMLR", ".", "Xiaozhi", "Wang", ",", "Yulin", "Chen", ",", "Ning", "Ding", ",", "Hao", "Peng", ",", "Zimu", "Wang", ",", "Yankai", "Lin", ",", "Xu", "Han", ",", "Lei", "Hou", ",", "Juanzi", "Li", ",", "Zhiyuan", "Liu", ",", "Peng", "Li", ",", "and", "Jie", "Zhou", ".", "2022", ".", "MA", "VEN", "-", "ERE", ":", "A", "unified", "large", "-", "scale", "dataset", "for", "event", "coreference", ",", "temporal", ",", "causal", ",", "and", "subevent", "re-", "lation", "extraction", ".", "In", "EMNLP", ",", "pages", "926–941", ".", "Asso-", "ciation", "for", "Computational", "Linguistics", ".", "Xiaozhi", "Wang", ",", "Xu", "Han", ",", "Zhiyuan", "Liu", ",", "Maosong", "Sun", ",", "and", "Peng", "Li", ".", "2019", ".", "Adversarial", "training", "for", "weakly", "supervised", "event", "detection", ".", "In", "NAACL", "-", "HLT", "(", "1", ")", ",", "pages", "998–1008", ".", "Association", "for", "Computational", "Linguistics", ".", "Xiaozhi", "Wang", ",", "Ziqi", "Wang", ",", "Xu", "Han", ",", "Wangyi", "Jiang", ",", "Rong", "Han", ",", "Zhiyuan", "Liu", ",", "Juanzi", "Li", ",", "Peng", "Li", ",", "Yankai", "Lin", ",", "and", "Jie", "Zhou", ".", "2020b", ".", "MA", "VEN", ":", "A", "massive", "gen-", "eral", "domain", "event", "detection", "dataset", ".", "In", "EMNLP", "(", "1", ")", ",", "pages", "1652–1671", ".", "Association", "for", "Computational", "Linguistics", ".", "Xingyao", "Wang", ",", "Sha", "Li", ",", "and", "Heng", "Ji", ".", "2023", ".", "Code4struct", ":", "Code", "generation", "for", "few", "-", "shot", "structured", "prediction", "from", "natural", "language", ".", "In", "ACL", "(", "1", ")", ".", "Association", "for", "Computational", "Linguistics", ".", "Haoran", "Yan", ",", "Xiaolong", "Jin", ",", "Xiangbin", "Meng", ",", "Jiafeng", "Guo", ",", "and", "Xueqi", "Cheng", ".", "2019", ".", "Event", "detection", "with", "multi", "-", "order", "graph", "convolution", "and", "aggregated", "atten-", "tion", ".", "In", "EMNLP", "/", "IJCNLP", "(", "1", ")", ",", "pages", "5765–5769", ".", "As-", "sociation", "for", "Computational", "Linguistics", ".", "Appendices", "A", "Multi", "-", "Faceted", "Event", "-", "Relations", "Note", "that", "MAVEN", "-EREandONTOEVENT", "-DOC", "both", "includes", "multi", "-", "faceted", "event", "-", "relations", ".", "MAVEN", "-EREin", "this", "paper", "contains", "6", "tempo-", "ral", "relations", ":", "BEFORE", ",", "OVERLAP", ",", "CONTAINS", ",", "SIMULTANEOUS", ",", "BEGINS", "-", "ON", ",", "ENDS", "-", "ON", ";", "2causal", "relations", ":", "CAUSE", ",", "PRECONDITION", ";", "and", "1", "subevent", "relation", ":", "subevent_relations", ".", "ONTOEVENT", "-DOCin", "this", "paper", "contains", "3", "tem-", "poral", "relations", ":", "BEFORE", ",", "AFTER", ",", "EQUAL", ";", "and", "2", "causal", "relations", ":", "CAUSE", ",", "CAUSEDBY", ".", "We", "also", "add", "a", "NA", "relation", "to", "signify", "no", "relation", "between", "the", "event", "mention", "pair", "for", "the", "two", "datasets", ".", "B", "Implementation", "Details", "for", "Different", "Tasks", "B.1", "Event", "Trigger", "Classification", "Settings", ".", "We", "follow", "the", "similar", "evaluation", "protocol", "of", "standard", "ED", "models", "(", "Chen", "et", "al", ".", ",", "2015", ";", "Sheng", "et", "al", ".", ",", "2022", ")", "on", "trigger", "classification", "tasks", ".", "We", "present", "the", "results", "in", "Table", "2", "when", "jointly", "training", "with", "event", "classification", "and", "the", "whole", "ERE", "task", "(", "“", "All", "Joint", "”", "in", "Table", "4", ")", ".", "The", "backbone", "encoder", "is", "pretrained", "BERT", "(", "Devlin", "et", "al", ".", ",", "2019", ")", ".", "The", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", "in", "Eq", "(", "11", ")", "are", "respectively", "set", "to", "1", ",", "0.1", ",", "0.1", "for", "both", "ONTOEVENT", "-DOCandMAVEN", "-", "ERE", ".", "B.2", "Event", "Classification", "Settings", ".", "We", "follow", "the", "similar", "evaluation", "pro-", "tocol", "of", "standard", "ED", "models", "(", "Chen", "et", "al", ".", ",", "2015", ";", "Deng", "et", "al", ".", ",", "2021", ")", "on", "event", "classification", "tasks", ".", "We", "present", "the", "results", "in", "Table", "3", "when", "jointly", "train-", "ing", "with", "trigger", "classification", "and", "all", "ERE", "subtasks", "(", "“", "+", "joint", "”", "in", "Table", "4", ")", ".", "The", "backbone", "encoder", "is", "pre-", "trained", "DistilBERT", "(", "Sanh", "et", "al", ".", ",", "2019", ")", ".", "The", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", "in", "Eq", "(", "11", ")", "are", "respectively", "set", "to", "0.1", ",", "1", ",", "0.1", "for", "ONTOEVENT", "-DOCand", "1", ",", "0.1", ",", "0.1", "for", "M", "AVEN", "-ERE", ".", "B.3", "Event", "-", "Relation", "Extraction", "Settings", ".", "We", "follow", "the", "similar", "ERE", "experiment", "settings", "with", "Wang", "et", "al", ".", "(", "2022", ")", "on", "several", "sub-", "tasks", ",", "by", "separately", "and", "jointly", "training", "on", "tem-", "poral", ",", "causal", ",", "and", "subevent", "event", "-", "relations", ".", "We", "present", "the", "results", "in", "Table", "4", "when", "jointly", "training", "with", "trigger", "classification", "and", "event", "classification", "tasks", ".", "The", "backbone", "encoder", "is", "pretrained", "Distil-", "BERT", "(", "Sanh", "et", "al", ".", ",", "2019", ")", ".", "On", "ONTOEVENT", "-DOC", "dataset", ",", "the", "loss", "ratio", ",", "λ1", ",", "λ2", ",", "λ3", "in", "Eq", "(", "11", ")", "are", "re-", "spectively", "set", "to", "1", ",", "0.1", ",", "0.1", "for", "all", "ERE", "subtasks", ".", "On", "MAVEN", "-EREdataset", ",", "λ1", ",", "λ2", ",", "λ3are", "respectively", "set", "to", "0.1", ",", "0.1", ",", "1", "for", "“", "All", "Joint", "”", "ERE", "subtasks", "in", "Ta-", "ble", "4", ";", "1", ",", "1", ",", "4", "for", "“", "+", "joint", "”", ";", "1", ",", "0.1", ",", "0.1", "for", "“", "Temporal", "”", "and", "“", "Causal", "”", ";", "and", "1", ",", "0.1", ",", "0.08", "for", "“", "Subevent”.361", "ACL", "2023", "Responsible", "NLP", "Checklist", "A", "For", "every", "submission", ":", "/", "square\u0013A1", ".", "Did", "you", "describe", "the", "limitations", "of", "your", "work", "?", "Left", "blank", ".", "/", "squareA2", ".", "Did", "you", "discuss", "any", "potential", "risks", "of", "your", "work", "?", "Not", "applicable", ".", "Left", "blank", ".", "/", "square\u0013A3", ".", "Do", "the", "abstract", "and", "introduction", "summarize", "the", "paper", "’s", "main", "claims", "?", "Abstract", "&", "at", "the", "end", "of", "Section", "1", "&", "Section", "6", "/", "square\u0017A4", ".", "Have", "you", "used", "AI", "writing", "assistants", "when", "working", "on", "this", "paper", "?", "Left", "blank", ".", "B", "/", "square\u0013Did", "you", "use", "or", "create", "scientific", "artifacts", "?", "Section", "4", "/", "square\u0013B1", ".", "Did", "you", "cite", "the", "creators", "of", "artifacts", "you", "used", "?", "Section", "4.1", "/", "square\u0013B2", ".", "Did", "you", "discuss", "the", "license", "or", "terms", "for", "use", "and", "/", "or", "distribution", "of", "any", "artifacts", "?", "Section", "4", "/", "square\u0013B3", ".", "Did", "you", "discuss", "if", "your", "use", "of", "existing", "artifact", "(", "s", ")", "was", "consistent", "with", "their", "intended", "use", ",", "provided", "that", "it", "was", "specified", "?", "For", "the", "artifacts", "you", "create", ",", "do", "you", "specify", "intended", "use", "and", "whether", "that", "is", "compatible", "with", "the", "original", "access", "conditions", "(", "in", "particular", ",", "derivatives", "of", "data", "accessed", "for", "research", "purposes", "should", "not", "be", "used", "outside", "of", "research", "contexts", ")", "?", "Section", "4", "/", "squareB4", ".", "Did", "you", "discuss", "the", "steps", "taken", "to", "check", "whether", "the", "data", "that", "was", "collected", "/", "used", "contains", "any", "information", "that", "names", "or", "uniquely", "identifies", "individual", "people", "or", "offensive", "content", ",", "and", "the", "steps", "taken", "to", "protect", "/", "anonymize", "it", "?", "Not", "applicable", ".", "I", "use", "the", "existing", "benchmark", "/", "squareB5", ".", "Did", "you", "provide", "documentation", "of", "the", "artifacts", ",", "e.g.", ",", "coverage", "of", "domains", ",", "languages", ",", "and", "linguistic", "phenomena", ",", "demographic", "groups", "represented", ",", "etc", ".", "?", "Not", "applicable", ".", "need", "n’t", "to", "/", "square\u0013B6", ".", "Did", "you", "report", "relevant", "statistics", "like", "the", "number", "of", "examples", ",", "details", "of", "train", "/", "test", "/", "dev", "splits", ",", "etc", ".", "for", "the", "data", "that", "you", "used", "/", "created", "?", "Even", "for", "commonly", "-", "used", "benchmark", "datasets", ",", "include", "the", "number", "of", "examples", "in", "train", "/", "validation", "/", "test", "splits", ",", "as", "these", "provide", "necessary", "context", "for", "a", "reader", "to", "understand", "experimental", "results", ".", "For", "example", ",", "small", "differences", "in", "accuracy", "on", "large", "test", "sets", "may", "be", "significant", ",", "while", "on", "small", "test", "sets", "they", "may", "not", "be", ".", "Section", "4.1", "C", "/", "square\u0013Did", "you", "run", "computational", "experiments", "?", "Section", "4", "Datasets", "and", "Baselines", "are", "in", "Section", "4.1", "Implementation", "Details", "are", "in", "Section", "4.2", "&", "Appendix", "B", "Main", "experiments", "are", "in", "Section", "4.3", ",", "4.4", ",", "4.5", ",", "and", "Further", "Analysis", "is", "in", "Section", "5", "/", "square\u0017C1", ".", "Did", "you", "report", "the", "number", "of", "parameters", "in", "the", "models", "used", ",", "the", "total", "computational", "budget", "(", "e.g.", ",", "GPU", "hours", ")", ",", "and", "computing", "infrastructure", "used", "?", "I", "have", "listed", "the", "implementation", "details", "of", "experiments", "at", "Sec", "4.2", "&", "Appendix", "B", ".", "The", "total", "computa-", "tional", "budget", "&", "computing", "infrastructure", "used", "are", "not", "the", "main", "concerns", "of", "our", "work", ",", "and", "we", "also", "The", "Responsible", "NLP", "Checklist", "used", "at", "ACL", "2023", "is", "adopted", "from", "NAACL", "2022", ",", "with", "the", "addition", "of", "a", "question", "on", "AI", "writing", "assistance.362", "did", "n’t", "run", "time", "statistics", ".", "But", "we", "will", "provide", "more", "details", "when", "publication", ",", "and", "the", "codes", "will", "also", "mention", "more", "details", "on", "it", ".", "/", "square\u0013C2", ".", "Did", "you", "discuss", "the", "experimental", "setup", ",", "including", "hyperparameter", "search", "and", "best", "-", "found", "hyperparameter", "values", "?", "Section", "4.2", ",", "Appendix", "B", "/", "square\u0013C3", ".", "Did", "you", "report", "descriptive", "statistics", "about", "your", "results", "(", "e.g.", ",", "error", "bars", "around", "results", ",", "summary", "statistics", "from", "sets", "of", "experiments", ")", ",", "and", "is", "it", "transparent", "whether", "you", "are", "reporting", "the", "max", ",", "mean", ",", "etc", ".", "or", "just", "a", "single", "run", "?", "We", "run", "our", "model", "and", "baselines", "multiple", "times", "and", "calculate", "an", "average", "with", "upper", "and", "lower", "bounds", ",", "which", "are", "shown", "in", "Section", "4.3", ",", "4.4", ",", "4.5", ".", "/", "squareC4", ".", "If", "you", "used", "existing", "packages", "(", "e.g.", ",", "for", "preprocessing", ",", "for", "normalization", ",", "or", "for", "evaluation", ")", ",", "did", "you", "report", "the", "implementation", ",", "model", ",", "and", "parameter", "settings", "used", "(", "e.g.", ",", "NLTK", ",", "Spacy", ",", "ROUGE", ",", "etc", ".", ")", "?", "Not", "applicable", ".", "Implementation", "Details", "are", "in", "Section", "4.2", "&", "Appendix", "B", "D", "/", "square\u0017Did", "you", "use", "human", "annotators", "(", "e.g.", ",", "crowdworkers", ")", "or", "research", "with", "human", "participants", "?", "Left", "blank", ".", "/", "squareD1", ".", "Did", "you", "report", "the", "full", "text", "of", "instructions", "given", "to", "participants", ",", "including", "e.g.", ",", "screenshots", ",", "disclaimers", "of", "any", "risks", "to", "participants", "or", "annotators", ",", "etc", ".", "?", "No", "response", ".", "/", "squareD2", ".", "Did", "you", "report", "information", "about", "how", "you", "recruited", "(", "e.g.", ",", "crowdsourcing", "platform", ",", "students", ")", "and", "paid", "participants", ",", "and", "discuss", "if", "such", "payment", "is", "adequate", "given", "the", "participants", "’", "demographic", "(", "e.g.", ",", "country", "of", "residence", ")", "?", "No", "response", ".", "/", "squareD3", ".", "Did", "you", "discuss", "whether", "and", "how", "consent", "was", "obtained", "from", "people", "whose", "data", "you", "’re", "using", "/", "curating", "?", "For", "example", ",", "if", "you", "collected", "data", "via", "crowdsourcing", ",", "did", "your", "instructions", "to", "crowdworkers", "explain", "how", "the", "data", "would", "be", "used", "?", "No", "response", ".", "/", "squareD4", ".", "Was", "the", "data", "collection", "protocol", "approved", "(", "or", "determined", "exempt", ")", "by", "an", "ethics", "review", "board", "?", "No", "response", ".", "/", "squareD5", ".", "Did", "you", "report", "the", "basic", "demographic", "and", "geographic", "characteristics", "of", "the", "annotator", "population", "that", "is", "the", "source", "of", "the", "data", "?", "No", "response.363" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-MethodName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "B-MethodName", "O", "O", "B-MethodName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "855–876", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "On", "-", "the", "-", "fly", "Cross", "-", "lingual", "Masking", "for", "Multilingual", "Pre", "-", "training", "Xi", "Ai", "College", "of", "Computer", "Science", "Chongqing", "University", "barid.x.ai", "@", "gmail.comBin", "Fang", "College", "of", "Computer", "Science", "Chongqing", "University", "fb", "@", "cqu.edu.cn", "Abstract", "In", "multilingual", "pre", "-", "training", "with", "the", "objective", "of", "MLM", "(", "masked", "language", "modeling", ")", "on", "mul-", "tiple", "monolingual", "corpora", ",", "multilingual", "mod-", "els", "only", "learn", "cross", "-", "linguality", "implicitly", "from", "isomorphic", "spaces", "formed", "by", "overlapping", "dif-", "ferent", "language", "spaces", "due", "to", "the", "lack", "of", "ex-", "plicit", "cross", "-", "lingual", "forward", "pass", ".", "In", "this", "work", ",", "we", "present", "CLPM", "(", "Cross", "-", "lingual", "Prototype", "Masking", ")", ",", "a", "dynamic", "and", "token", "-", "wise", "masking", "scheme", ",", "for", "multilingual", "pre", "-", "training", ",", "using", "a", "special", "token", "[", "C", "]", "xto", "replace", "a", "random", "token", "xin", "the", "input", "sentence", ".", "[", "C", "]", "xis", "a", "cross", "-", "lingual", "prototype", "for", "xand", "then", "forms", "an", "explicit", "cross-", "lingual", "forward", "pass", ".", "We", "instantiate", "CLPM", "for", "the", "multilingual", "pre", "-", "training", "phase", "of", "UNMT", "(", "unsupervised", "neural", "machine", "translation", ")", ",", "and", "experiments", "show", "that", "CLPM", "can", "consistently", "improve", "the", "performance", "of", "UNMT", "models", "on", "{", "De", ",", "Ro", ",", "Ne", "}", "↔", "En", ".", "Beyond", "UNMT", "or", "bilingual", "tasks", ",", "we", "show", "that", "CLPM", "can", "consis-", "tently", "improve", "the", "performance", "of", "multilingual", "models", "on", "cross", "-", "lingual", "classification", ".", "1", "Introduction", "With", "tied", "weights", "across", "the", "languages", "and", "the", "help", "of", "language", "identifications", "(", "Johnson", "et", "al", ".", ",", "2017", ")", ",", "multilingual", "models", "only", "have", "access", "to", "monolin-", "gual", "corpora", "in", "different", "languages", ".", "Stemming", "from", "BERT", "/", "MLM", "(", "Devlin", "et", "al", ".", ",", "2019", ")", "and", "GPT", "(", "Radford", "et", "al", ".", ",", "2018", ";", "Alec", "Radford", ",", "2020", ")", ",", "for", "cross", "-", "lingual", "knowledge", ",", "multilingual", "pre", "-", "training", "with", "the", "objective", "of", "MLM", "on", "multiple", "monolin-", "gual", "corpora", "is", "introduced", "by", "XLM", "(", "Lample", "and", "Conneau", ",", "2019", ")", ",", "explored", "by", "MASS", "(", "Song", "et", "al", ".", ",", "2019", ")", "and", "mBART", "(", "Liu", "et", "al", ".", ",", "2020", ";", "Lewis", "et", "al", ".", ",", "2020", ")", ",", "and", "scaled", "by", "XLM", "-", "R", "(", "Conneau", "et", "al", ".", ",", "2020", ")", "and", "mT5", "(", "Xue", "et", "al", ".", ",", "2021", ")", ".", "Essentially", ",", "in", "multilingual", "MLM", "pre", "-", "training", ",", "models", "are", "encouraged", "to", "learn", "implicit", "cross-", "linguality", "from", "both", "linguistic", "similarities", "and", "shared", "tokens", "(", "Karthikeyan", "et", "al", ".", ",", "2020", ";", "Wu", "and", "Dredze", ",", "2019", ";", "Pires", "et", "al", ".", ",", "2019", ";", "Dufter", "andSchütze", ",", "2020", ")", "for", "translation", "and", "cross", "-", "lingual", "transfer", ".", "However", ",", "it", "does", "not", "learn", "any", "explicit", "and", "principled", "cross", "-", "lingual", "forward", "pass", "from", "in-", "puts", "to", "outputs", ",", "only", "relying", "on", "the", "isomorphic", "space", "that", "emerged", "from", "multilingual", "MLM", "pre-", "training", "by", "overlapping", "language", "spaces", "agnosti-", "cally", ".", "Given", "the", "nature", "of", "translation", "and", "cross-", "lingual", "transfer", ",", "models", "should", "understand", "ex-", "plicit", "cross", "-", "lingual", "forward", "passes", "initiating", "cross-", "lingual", "knowledge", "directly", ".", "Considering", "this", "aspect", ",", "beyond", "the", "implicit", "andagnostic", "cross", "-", "linguality", ",", "we", "are", "interested", "in", "the", "question", ":", "can", "models", "learn", "explicit", "andprincipled", "cross", "-", "linguality", "in", "multilin-", "gual", "pre", "-", "training", "without", "any", "supervision", "?", "Following", "this", "idea", ",", "for", "multilingual", "pre", "-", "training", ",", "we", "present", "a", "dynamic", "and", "token", "-", "wise", "masking", "scheme", ",", "CLPM", "(", "Cross", "-", "lingual", "Prototype", "Mask-", "ing", ")", ",", "to", "compute", "a", "special", "token", "[", "C", "]", "xrepresenting", "a", "cross", "-", "lingual", "prototype", "for", "a", "selected", "token", "x", "and", "then", "replace", "xwith", "[", "C", "]", "xinstead", "of", "the", "stan-", "dard", "token", "[", "M", "]", "in", "multilingual", "MLM", "pre", "-", "training", ".", "We", "present", "an", "example", "in", "Table", "1", ".", "Significantly", ",", "when", "predicting", "the", "selected", "and", "replaced", "x", ",", "we", "model", "an", "explicit", "cross", "-", "lingual", "forward", "pass", "from", "the", "cross", "-", "lingual", "prototype", "[", "C", "]", "xtox", ".", "Source", "The", "investment", "fund", "that", "owned", "the", "building", "had", "to", "make", "a", "choice", ".", "[", "M", "]", "The", "[", "M", "]", "fund", "[", "M", "]", "owned", "[", "M", "]", "building", "[", "M", "]", "to", "make", "a", "choice", ".", "[", "C", "]", "x", "The", "[", "C", "]", "x1fund", "[", "C", "]", "x3owned", "[", "C", "]", "x5building", "[", "C", "]", "x7to", "make", "a", "choice", ".", "Table", "1", ":", "Examples", "of", "[", "C", "]", "xand", "[", "M", "]", ".", "{", "x1", ",", "x3", ",", "x5", ",", "x7", "}", "at", "position", "{", "1,3,5,7", "}", "are", "randomly", "selected", "for", "replacing", ".", "Then", ",", "we", "compute", "the", "[", "C", "]", "xset", "{", "[", "C", "]", "x1", ",", "[", "C", "]", "x3", ",", "[", "C", "]", "x5", ",", "[", "C", "]", "x7", "}", "for", "replacing", "and", "pre", "-", "train", "MLM", "without", "any", "other", "change", ",", "treating", "[", "C", "]", "xas", "[", "M", "]", ".", "In", "multilingual", "pre", "-", "training", ",", "computing", "[", "C", "]", "xis", "a", "challenge", "on", "multiple", "monolingual", "corpora", "with-", "out", "any", "supervision", "from", "parallel", "corpora", ",", "transla-", "tion", "tables", "(", "Dufter", "and", "Schütze", ",", "2020", ";", "Ren", "et", "al", ".", ",", "2019b", ";", "Chaudhary", "et", "al", ".", ",", "2020", ")", ",", "or", "data", "augmenta-", "tion", "processes", "(", "Krishnan", "et", "al", ".", ",", "2021", ";", "Chaudhary855", "et", "al", ".", ",", "2020", ";", "Tarunesh", "et", "al", ".", ",", "2021", ")", ".", "Fortunately", ",", "we", "find", "that", "suitable", "candidates", "can", "be", "dynamically", "obtained", "in", "the", "multilingual", "embedding", "space", ",", "con-", "sidering", "the", "relevance", "between", "the", "selected", "token", "and", "the", "tokens", "in", "the", "other", "language", ".", "Meanwhile", ",", "naive", "token", "-", "to", "-", "token", "relevance", "is", "reported", "to", "mis-", "represent", "morphological", "variations", "(", "Artetxe", "et", "al", ".", ",", "2020", ";", "Czarnowska", "et", "al", ".", ",", "2020", ";", "Kementchedjhieva", "et", "al", ".", ",", "2020", ")", ",", "which", "limits", "the", "improvements", "for", "translation", "and", "cross", "-", "lingual", "transfer", "tasks", ".", "Thus", ",", "we", "approximate", "multiple", "candidates", "in", "the", "other", "language", "for", "[", "C", "]", "x", ",", "expecting", "to", "cover", "morphologi-", "cal", "variations", ".", "Unfortunately", ",", "the", "input", "dependency", "is", "perturbed", "by", "[", "C", "]", "xbecause", "[", "C", "]", "xis", "not", "agnostic", "and", "not", "static", "as", "[", "M", "]", "but", "dynamically", "obtained", "from", "the", "other", "language", ".", "Eventually", ",", "it", "potentially", "results", "in", "a", "lack", "of", "learning", "internal", "structures", "of", "languages", ".", "To", "alleviate", "this", "pain", "but", "still", "use", "[", "C", "]", "x", ",", "we", "alternate", "between", "[", "M", "]", "and", "[", "C", "]", "x", ",", "where", "[", "M", "]", "is", "agnostic", "and", "does", "not", "perturb", "input", "language", "domain", ".", "We", "attempt", "UNMT", "and", "(", "zero", "-", "shot", ")", "cross", "-", "lingual", "transfer", "tasks", ".", "For", "UNMT", ",", "we", "consider", "X↔En", "on", "a", "rich", "-", "resource", "language", "De", ",", "a", "low", "-", "resource", "language", "Ro", ",", "and", "a", "dissimilar", "language", "Ne", ".", "In-", "tuitively", ",", "CLPM", "yields", "improvements", "because", "of", "the", "dynamical", "approximations", "of", "token", "-", "level", "cross-", "lingual", "information", ".", "We", "then", "justify", "this", "on", "cross-", "lingual", "word", "similarity", "tasks", "from", "MUSE", "(", "Lam-", "ple", "et", "al", ".", ",", "2018b", ")", ".", "Beyond", "UNMT", ",", "we", "experiment", "with", "the", "cross", "-", "lingual", "classification", "task", "on", "XNLI", "(", "Conneau", "et", "al", ".", ",", "2018", ")", "to", "test", "general", "cross", "-", "lingual", "transfer", "CLPM", "improves", "within", "a", "pivoting", "-", "based", "framework.par", "We", "have", "three", "contributions", ".", "1", ")", "We", "present", "CLPM", ",", "a", "dynamic", "and", "token", "-", "wise", "masking", "scheme", "using", "special", "tokens", "[", "C", "]", "x", ",", "to", "form", "cross-", "lingual", "forward", "passes", "in", "multilingual", "pre", "-", "training", ".", "[", "C", "]", "xis", "a", "generalized", "representation", "from", "multiple", "cross", "-", "lingual", "candidates", ".", "2", ")", "CLPM", "substantially", "improves", "the", "performance", "of", "X↔Enbaseline", "UNMT", "models", "by", "3", "%", "∼8", "%", "on", "rich", "-", "resource", "and", "low", "-", "resource", "languages", "and", "can", "facilitate", "training", "on", "dissimilar", "languages", ".", "3", ")", "Beyond", "UNMT", "tasks", "or", "bilingual", "tasks", ",", "CLPM", "can", "be", "used", "for", "cross-", "lingual", "classification", "tasks", ".", "2", "Cross", "-", "lingual", "Prototype", "Masking", "Notation", "Lxis", "the", "language", "ID", "of", "language", "Lang", "x.", "Pnstands", "for", "positions", ".", "ERis", "the", "embed-", "ding", "for", "R.dis", "the", "model", "/", "embedding", "dimension.2.1", "Forward", "Pass", "in", "Attention", "Given", "an", "input", "sentence", "X=", "{", "x0", ",", "x1", ",", "...", ",", "x", "n", "}", "in", "the", "language", "Lang", "x", ",", "the", "self", "-", "attention", "layer", "(", "Vaswani", "et", "al", ".", ",", "2017", ")", "performs", "on", "the", "sum", "of", "Xinput", "=", "{", "Ex0+ELx+EP0", ",", "...", ",", "E", "xn+ELx+", "EPn", "}", ",", "which", "is", "considered", "in", "previous", "works", "of", "multilingual", "pre", "-", "training", "(", "Liu", "et", "al", ".", ",", "2020", ";", "Song", "et", "al", ".", ",", "2019", ";", "Lample", "and", "Conneau", ",", "2019", ")", ".", "For", "pre-", "dicting", "xi", ",", "the", "attention", "score", "(", "Bahdanau", "et", "al", ".", ",", "2015", ";", "Luong", "et", "al", ".", ",", "2015", ")", "ei", ",", "j=", "(", "Exi+ELx+", "EPi", ")", "TWT", "qWk", "(", "Exj+ELx+EPj", ")", "between", "query", "vector", "qiand", "key", "vector", "kjwithin", "the", "same", "sen-", "tence", "can", "be", "decomposed", ":", "ei", ",", "j", "=", "ET", "xiWT", "qWkExj", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "a+", "ELx", "(", "·", ")", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "b+EPi", "(", "·", ")", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "c+EPj", "(", "·", ")", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "d", "(", "1", ")", "where", "WqandWkare", "linear", "transformation", "for", "the", "query", "vector", "qiand", "key", "vector", "kjrespectively", ",", "andiandjstands", "for", "position", "indexes", ".", "Terms", "(", "b", ")", ",", "(", "c", ")", ",", "and", "(", "d", ")", "introduce", "the", "inductive", "bias", "towards", "language", "Lang", "x", ",", "position", "Pi", ",", "and", "position", "Pjre-", "spectively", ".", "When", "predicting", "xi", ",", "we", "have", "the", "for-", "ward", "pass", ":", "{", "xi", ",", "xj\\i", "}", "→xi", ",", "where", "xj\\idenotes", "all", "the", "tokens", "around", "position", "i", ",", "and", "the", "prediction", "of", "xiis", "conditioned", "by", "{", "xi", ",", "xj\\i", "}", ".", "The", "forward", "pass", "ismonolingual", "because", "both", "two", "sides", "are", "in", "the", "same", "language", ".", "In", "optimization", ",", "we", "can", "compute", "gradients", "from", "the", "backward", "pass", ":", "∂εxi", "∂Exiand∂εxi", "∂Exj", ",", "where", "εxiis", "the", "predicting", "error", ".", "2.2", "MLM", "with", "[", "M", "]", "and", "CBOW", "Suppose", "xiis", "randomly", "selected", "to", "be", "replaced", "by", "[", "M", "]", ".", "Term", "(", "a", ")", "is", "changed", "to", "ET", "[", "M", "]", "WT", "qWkExj", ".", "Since", "[", "M", "]", "does", "not", "provide", "prior", "information", "of", "xi", ",", "Term", "(", "a", ")", "forms", "a", "built", "-", "in", "CBOW1model", "(", "Continu-", "ous", "Bag", "-", "of", "-", "Words", "(", "Mikolov", "et", "al", ".", ",", "2013", ")", ")", "learning", "CBOW", "or", "bidirectional", "information", ".", "The", "forward", "pass", "{", "[", "M", "]", ",", "xj\\i", "}", "→xiis", "still", "monolingual", "in", "mul-", "tilingual", "pre", "-", "training", "because", "[", "M", "]", "is", "shared", "and", "agnostic", "for", "all", "the", "languages", ".", "However", ",", "the", "model", "is", "significantly", "encouraged", "to", "predict", "xiby", "under-", "standing", "neighboring", "tokens", "xj\\iin", "the", "sentence", ",", "i.e.", ",", "the", "surrounding", "context", "or", "bidirectional", "infor-", "mation", ".", "Moreover", ",", "since", "[", "M", "]", "is", "overlapping", "and", "1For", "instance", ",", "given", "X=", "{", "x0", ",", "[", "M", "]", ",", "x2", ",", "x3", "}", ",", "we", "have", "the", "forward", "pass", ":", "{", "xi=", "[", "M", "]", ",", "xj\\i=", "(", "x0", ",", "x1", ",", "x3", ")", "}", "→x2", "if", "predicting", "x2", ",", "where", "{", "xi=", "[", "M", "]", ",", "xj\\i=", "(", "x0", ",", "x1", ",", "x3", ")", "}", "models", "(", "non", "-", "standard", ")", "CBOW", "(", "4", "-", "gram", ")", ".856", "shared", ",", "and", "xj\\iare", "potentially", "overlapping", "tokens", "in", "different", "languages", ",", "it", "refines", "the", "morphology", "of", "different", "languages", "to", "overlap", "each", "other", "for", "form-", "ing", "the", "isomorphic", "spaces", "(", "Karthikeyan", "et", "al", ".", ",", "2020", ";", "Wu", "and", "Dredze", ",", "2019", ";", "Pires", "et", "al", ".", ",", "2019", ";", "Dufter", "and", "Schütze", ",", "2020", ")", "and", "leverages", "domain", "adaptation", "(", "Ganin", "et", "al", ".", ",", "2016", ")", "or", "language", "adaptation", "(", "Ai", "and", "Fang", ",", "2022b", ")", ".", "2.3", "MLM", "with", "[", "C", "]", "x", "Although", "the", "forward", "pass", "{", "[", "M", "]", ",", "xj\\i", "}", "→xisig-", "nificantly", "enables", "the", "model", "to", "learn", "both", "cross-", "lingual", "and", "monolingual", "knowledge", "from", "the", "shared", "token", "[", "M", "]", "(", "Dufter", "and", "Schütze", ",", "2020", ")", "and", "structural", "information", "of", "the", "neighboring", "tokens", "xj\\i", "(", "Karthikeyan", "et", "al", ".", ",", "2020", ";", "Pires", "et", "al", ".", ",", "2019", ")", "in", "multilingual", "MLM", "pre", "-", "training", ",", "learning", "cross-", "linguality", "is", "implicit", "and", "limited", ".", "Our", "idea", "is", ",", "we", "can", "replace", "[", "M", "]", "withxi", "’s", "cross", "-", "lingual", "prototype", "[", "C", "]", "xithat", "we", "explicitly", "have", "a", "principled", "cross-", "lingual", "forward", "pass", ":", "{", "[", "C", "]", "xi", ",", "xj\\i", "}", "→", "xi", ".", "In", "this", "way", ",", "we", "inject", "weak", "but", "explicit", "cross", "-", "lingual", "super-", "vision", "into", "the", "model", "in", "multilingual", "pre", "-", "training", ".", "Therefore", ",", "we", "replace", "the", "selected", "xiwith", "its", "[", "C", "]", "xi", "instead", "of", "[", "M", "]", "as", "presented", "in", "the", "example", "(", "Table", "1", ")", ",", "and", "Term", "(", "a", ")", "is", "modified", "to", "ET", "[", "C", "]", "xiWT", "qWkExj", "accordingly", ".", "2.4", "On", "-", "the", "-", "fly", "[", "C", "]", "x", "To", "obtain", "[", "C", "]", "xiwithout", "any", "cross", "-", "lingual", "supervi-", "sion", "in", "multilingual", "pre", "-", "training", ",", "the", "starting", "point", "is", "the", "output", "distribution", "over", "the", "vocabulary", "V", "shared", "by", "all", "the", "languages", ".", "Given", "the", "multilin-", "gual", "model", "Net", ",", "we", "set", "Net", "tothe", "inference", "mode", ",", "not", "the", "MLM", "pre", "-", "training", "mode", ",", "and", "the", "proba-", "bility", "of", "xiis", "obtained", "from", "the", "softmax", "layer", "Qxi", "=", "exp", "(", "hT", "xi", "&", "LxOxi", ")", "/", "summationtextV", "k=1exp", "(", "hT", "xi", "&", "LxOxk", ")", ",", "where", "hxi", "&", "Lx∈", "Net", "(", "Ex+ELx", ")", "is", "the", "contextualized", "representa-", "tion", "of", "xi", ",", "Ex=", "{", "Ex0", ",", "Ex1", ",", ".", ".", ".", ",", "E", "xn", "}", "is", "the", "em-", "bedding", "of", "the", "input", "sentence", ",", "and", "Oxis", "factorized", "from", "the", "output", "matrix2O", ".", "Recall", "that", ",", "in", "Eq", ".", "1", ",", "the", "language", "embedding", "ELxof", "the", "language", "Lang", "x", "associated", "with", "the", "token", "xintroduces", "inductive", "bias", "towards", "Lang", "x", ",", "so", "that", "hxi", "&", "Lxis", "biased", "by", "ELxtowards", "Lang", "xand", "generalized", "from", "Exi", ".", "In", "this", "way", ",", "the", "output", "distribution", "over", "the", "vocab-", "ulary", "is", "biased", "by", "ELxtowards", "Lang", "x", ",", "and", "the", "dot", "-", "products", "distinguish", "relevant", "tokens", "from", "irrel-", "evant", "tokens", "for", "xi", ".", "Intuitively", ",", "we", "can", "fool", "the", "2Note", "that", ",", "in", "most", "of", "the", "cases", ",", "the", "output", "matrix", "shares", "all", "the", "parameters", "with", "the", "embedding", "matrix.model", "by", "inputting", "Ex+ELy3", ".", "The", "result", "is", "that", "hxi", "&", "Ly∈Net", "(", "Ex+ELy", ")", "is", "biased", "by", "ELyto-", "wards", "Lang", "ybut", "still", "generalized", "from", "Exi", ".", "We", "expect", "hxi", "&", "Lyto", "be", "an", "agnostic", "representation", "that", "is", "relevant", "to", "xiandLang", "y", ".", "Then", ",", "we", "can", "factorize", "Oyfrom", "the", "output", "matrix", "and", "rank", "the", "dot", "prod-", "ucthT", "xi", "&", "LyOyto", "search", "relevant", "tokens", "for", "xiin", "Lang", "yfrom", "the", "output", "space", ".", "We", "will", "discuss", "the", "inspiration", "later", ",", "and", "in", "our", "experiment", ",", "we", "show", "a", "case", "study", "that", "some", "useful", "candidates", "in", "the", "other", "language", "are", "obtained", ".", "We", "approximate", "a", "relevant", "candidate", "set", "PY", "xiin", "the", "other", "language", "Lang", "yand", "compute", "a", "weighted", "average", "of", "candidates", "’", "embeddings", ",", "where", "PY", "xicon-", "tributes", "to", "low", "variance", "and", "rich", "information", ".", "For-", "mally", ",", "we", "define", "E", "[", "C", "]", "xi=", "/", "summationtext", "y∈PYxiEyWy", "xi", ",", "where", "PY", "xi⊂V", "ocY", ",", "V", "ocYis", "the", "entries", "of", "the", "other", "lan-", "guage", "in", "the", "multilingual", "vocabulary", ",", "0≤Wy", "xi≤", "1is", "the", "weight", "of", "the", "candidate", "y∈PY", "xiand", "/", "summationtext", "y∈PYxiWy", "xi=", "1", ".", "Given", "the", "model", "Net", ",", "we", "have", "4", "steps", "to", "compute", "[", "C", "]", "xidynamically", ":", "•Step", "1", ":", "We", "set", "Net", "tothe", "inference", "mode", "˜Net", ",", "input", "Ex+ELyto˜Net", ",", "and", "obtain", "the", "representation", "hxi", "&", "Ly∈˜Net", "(", "Ex+ELy", ")", "for", "the", "selected", "token", "xi", ".", "•Step", "2", ":", "We", "factorize", "Oyfrom", "the", "output", "matrix", "Oand", "calculate", "a", "full", "-", "sized", "set", "Q=", "(", "hT", "xi", "&", "LyOy0", ",", "...", ",", "hT", "xi", "&", "LyOyv", ")", ",", "where", "vequals", "the", "size", "of", "V", "ocY", ".", "•Step", "3", ":", "We", "select", "a", "candidate", "set", "PY", "xi=", "(", "Eyj", ",", "...", ",", "Eyk", ")", "from", "the", "embedding", "space", ",", "ac-", "cording", "to", "the", "Top", "-", "K", "dot", "products", "in", "Q", ".", "•Step", "4", ":", "We", "compute", "the", "weight", "set", "Wy", "xi=", "softmax", "(", "ET", "yjEx", ",", "...", ",", "ET", "ykEx", ")", "and", "the", "final", "output", "E", "[", "C", "]", "xi=", "/", "summationtext", "y∈PYxiEyWy", "xi", ".", "Note", "that", ",", "multilingual", "models", "like", "XLM", "-", "R", "(", "Con-", "neau", "et", "al", ".", ",", "2020", ")", "do", "not", "require", "language", "embed-", "dings", ",", "i.e.", ",", "eliminating", "ELx", ".", "In", "this", "scenario", ",", "we", "can", "simply", "eliminate", "ELyinStep", "1", "without", "other", "modifications", ",", "and", "we", "still", "obtain", "cross", "-", "lingual", "can-", "didates", "over", "V", "ocYinStep", "2", "to", "compute", "the", "cross-", "lingual", "prototype", "for", "the", "selected", "token", "xi", ".", "To", "select", "tokens", "for", "V", "ocY", ",", "the", "minimum", "fre-", "quency", "is", "1e−5", "in", "the", "monolingual", "corpora", "of", "Lang", "y", ".", "Meanwhile", ",", "some", "tokens", "are", "shared", "among", "3Empirical", "studies", "and", "alternatives", "of", "Ex+ELxandEx", "’s", "nearest", "neighbors", "are", "presented", "in", "Appendix", "C.1.857", "different", "languages", ".", "We", "set", "the", "minimum", "frequency", "of", "shared", "tokens", "to", "1e−3", "in", "the", "monolingual", "cor-", "pora", ".", "These", "settings", "are", "used", "to", "limit", "the", "searching", "bound", "for", "more", "meaningful", "candidates", ".", "Inspiration", "Our", "recipe", "takes", "inspiration", "from", "early", "experiments", ".", "We", "pre", "-", "train", "a", "small", "multi-", "lingual", "model", "(", "12", "layers", "and", "256", "d", ")", "and", "use", "our", "recipe", "to", "search", "for", "candidates", ".", "As", "presented", "in", "Table", "2", ",", "a", "multilingual", "model", "can", "infer", "some", "cross-", "lingual", "candidates", "with", "our", "recipe", "because", "of", "the", "cross", "-", "lingual", "transfer", "phenomenon", ",", "and", "we", "can", "generalize", "these", "candidates", "for", "cross", "-", "lingual", "pro-", "totypes", ".", "Meanwhile", ",", "we", "are", "aware", "that", "the", "mul-", "tilingual", "model", "has", "to", "be", "pre", "-", "trained", "or", "properly", "initialized", "in", "order", "to", "infer", "cross", "-", "lingual", "candidates", "by", "itself", ".", "We", "will", "discuss", "initialization", "later", ".", "2.5", "Alternation", "between", "[", "M", "]", "and", "[", "C", "]", "x", "In", "our", "experiment", "(", "see", "row", "12∼15of", "Table", "7", "in", "Appendix", ")", ",", "we", "find", "that", "we", "can", "get", "bene-", "fits", "from", "alternating", "between", "[", "M", "]", "and", "[", "C", "]", "x", ".", "In-", "tuitively", ",", "only", "using", "[", "C", "]", "xmight", "perturb", "bidirec-", "tional", "knowledge", "and", "result", "in", "the", "lack", "of", "lan-", "guage", "knowledge", ",", "whereas", "the", "model", "can", "learn", "bidirectional", "information", "from", "using", "[", "M", "]", "in", "mul-", "tilingual", "MLM", "pre", "-", "training", ".", "We", "also", "note", "sim-", "ilar", "observations", "in", "previous", "works", "(", "Chaudhary", "et", "al", ".", ",", "2020", ";", "Ren", "et", "al", ".", ",", "2019a", ")", ",", "which", "use", "trans-", "lation", "tables", "for", "pre", "-", "training", ".", "Another", "side", "ef-", "fect", "we", "observe", "is", "that", "the", "model", "might", "pay", "more", "attention", "to", "\"", "prototype", "-", "word", "\"", "translation", "knowl-", "edge", "instead", "of", "understanding", "bidirectional", "knowl-", "edge", ".", "Thus", ",", "to", "encourage", "the", "model", "to", "learn", "both", "strong", "bidirectional", "knowledge", "from", "[", "M", "]", "and", "cross", "-", "lingual", "knowledge", "from", "[", "C", "]", "x", ",", "int", "%", "of", "the", "time", "of", "the", "MLM", "pre", "-", "training", "time", ",", "we", "use", "[", "C", "]", "xfor", "masking", ".", "For", "the", "remaining", "(", "100−t", ")", "%", "of", "the", "time", ",", "we", "still", "use", "[", "M", "]", ".", "Hence", ",", "we", "have", "dual", "objectives", "in", "multilingual", "MLM", "pre", "-", "training", ":", "LMLM", "=", "L", "[", "C", "]", "x+L", "[", "M", "]", ".", "With", "these", "dual", "objectives", "in", "mind", ",", "we", "can", "simply", "extend", "the", "MLM", "’s", "masking", "strategy", "to", ":", "(", "[", "SAME", "]", ",", "[", "RAN", "]", ",", "[", "M", "]", ",", "[", "C", "]", "x", ")", "with", "(", "10", "%", ",", "10", "%", ",", "(", "80−t", ")", "%", ",", "t", "%", ")", ".", "2.6", "Discussion", "We", "discuss", "some", "important", "components", "of", "our", "method", ".", "For", "these", "discussions", ",", "we", "provide", "em-", "pirical", "studies", "and", "show", "the", "observation", "of", "these", "components", "in", "§", "model_size", "and", "AUC", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "B-TaskName", "I-TaskName", "O", "B-MethodName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O" ]

[ "[", "M", "]", "vs.", "[", "C", "]", "x1", ")", "[", "M", "]", "is", "static", "in", "the", "embedding", "space", "with", "an", "explicit", "entry", ",", "used", "by", "running", "alookup", "operation", ".", "Meanwhile", ",", "it", "is", "used", "to", "replace", "all", "randomly", "selected", "tokens", ",", "which", "is", "unified", ".2", ")", "In", "contrast", ",", "[", "C", "]", "xiorE", "[", "C", "]", "xiis", "dynamically", "approxi-", "mated", "during", "training", ",", "which", "is", "token", "-", "wise", ".", "Choice", "of", "K", "The", "memory", "usage", "is", "proportional", "to", "the", "size", "of", "K", ".", "Meanwhile", ",", "large", "attention", "dropout", "increases", "noise", "for", "unambiguous", "[", "C", "]", "x.2", ")", "On", "the", "other", "hand", ",", "a", "small", "dropout", "reduce", "the", "searching", "bound", "that", "computing", "proper", "[", "C", "]", "xis", "hard", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "instance", ",", "num", "attention", "heads", "1only", "yields", "median", "improvements", "in", "our", "experiment", "." ]

[ "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O" ]

[ "Our", "empirical", "study", "shows", "that", "it", "is", "robust", "to", "a", "range", "of", "epochs", "2", "to", "5", ",", "considering", "a", "trade", "-", "off", "between", "GPU", "memory", "problems", "and", "expected", "performance", "improvements", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "I-HyperparameterValue", "I-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Initialization", "The", "random", "initialization", "may", "raise", "problems", ".", "1", ")", "xmay", "find", "some", "geometric", "close", "but", "irrelevant", "tokens", "with", "large", "dot", "products", "inV", "ocY", ",", "which", "results", "in", "a", "trivial", "candidate", "set", ".", "2", ")", "Theinference", "mode", "with", "random", "initialization", "is", "trivial", ".", "To", "this", "end", ",", "we", "only", "pre", "-", "train", "the", "multilin-", "gual", "model", "by", "MLM", "with", "[", "M", "]", "at", "the", "first", "several", "iterations", "for", "warm", "-", "up", "to", "form", "the", "multilingual", "em-", "bedding", "space", "and", "activate", "the", "inference", "mode", ",", "as", "discussed", "in", "§", "Inspiration", ".", "After", "the", "warm", "-", "up", ",", "the", "multilingual", "embedding", "space", "and", "the", "inference", "mode", "are", "initialized", "in", "a", "few", "-", "shot", "style", "somewhat", "to", "avoid", "trivial", "candidates", ".", "Then", ",", "we", "run", "the", "al-", "ternation", ".", "In", "our", "experiments", ",", "we", "find", "that", "this", "warm", "-", "up", "can", "help", "the", "model", "obtain", "new", "samples", "with", "cross", "-", "lingual", "prototypes", "from", "the", "other", "lan-", "guage", ".", "Efficiency", "On", "-", "the", "-", "fly", "[", "C", "]", "xwill", "increase", "the", "train-", "ing", "time", ".", "However", ",", "only", "a", "subset", "of", "tokens", "(", "typi-", "cally", ",", "15", "%", "(", "Devlin", "et", "al", ".", ",", "2019", ")", ")", "of", "the", "input", "text", "stream", "is", "selected", "for", "masking", ",", "and", "we", "only", "need", "to", "compute", "[", "C", "]", "xfor", "a", "sub", "-", "set", "of", "all", "the", "selected", "tokens", ".", "In", "our", "experiment", ",", "we", "find", "our", "method", "spends", "additional", "≈15", "%", "time", "on", "training", ".", "Tokenization", "Tokenizations", "generating", "“", "middle", "\"", "tokens", ",", "sub", "-", "tokens", ",", "or", "non", "-", "standard", "word", "tokens", "might", "impact", "[", "C", "]", "x", ",", "e.g.", ",", "BPE", ".", "However", ",", "the", "impact", "is", "relatively", "small", "given", "that", ":", "1", ")", ":", "the", "vocabularies", "and", "monolingual", "corpora", "are", "dominant", "by", "the", "stan-", "dard", "words", "rather", "than", "non", "-", "standard", "word", "token", ",", "e.g.", ",", "over", "50", "%", "BPE", "vocabulary", "for", "translation", "task", "De↔En", ")", "are", "standard", "words", "and", "they", "make", "up", "for", "over", "the", "80", "%", "of", "the", "total", "token", "frequency", "in", "the", "monolingual", "corpora", ";", "2", ")", ":", "all", "the", "representations", "are", "contextualized", "that", "sub", "-", "tokens", "and", "non", "-", "standard858", "400k", "step", "training", "50k", "step", "training", "#", "1", "It", "was", "hampered", "by", "the", "need", "for", "ranges", "to", "be", "estimated", "by", "eye", ",", "which", "introduced", "significant", "in", "@", "@", "positional", "encoding", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O" ]

[ "[", "EOS", "]", "Reference", "Erschwert", "wurde", "dies", "durch", "die", "Notwendigkeit", ",", "Entfernungen", "mit", "dem", "Auge", "abzuschätzen", ",", "was", "zu", "erheblichen", "Ungenauigkeiten", "führte", ".", "[", "EOS", "]", "Masked", "It", "[", "C", "]", "x1hampered", "[", "C", "]", "x3", "[", "C", "]", "x4need", "[", "C", "]", "x6ranges", "to", "[", "C", "]", "x9estimated", "by", "eye", ",", "which", "[", "C", "]", "x15significant", "[", "C", "]", "x17", "[", "C", "]", "x18", ".", "[", "EOS", "]", "was", "=", "[", "C", "]", "x1war", ",", "wurde", ",", "brach", ".", ",", "und", ",", "als", "by", "=", "[", "C", "]", "x3in", ",", ",", ",", "durch", "in", ",", "von", ",", ",", "the", "=", "[", "C", "]", "x4den", ",", "die", ",", "der", ".", ",", "den", ",", "einem", "for", "=", "[", "C", "]", "x6für", ",", "in", ",", "dafür", "in", ",", ".", ",", "und", "be", "=", "[", "C", "]", "x9des", ",", ",", ",", "ben", "stellt", ",", "Bau", ",", "einem", "introduced", "=", "[", "C", "]", "x15lehnte", ",", "Schwei", "@", "@", ",", "löste", "in", ",", "/", ",", "von", "in", "@", "@", "=", "[", "C", "]", "x17", "in", ",", "Gebäude", "@", "@", ",", "@", "-", "@", "in", ",", "(", ",", "@", "-", "@", "accuracy", "=", "[", "C", "]", "x18Seh", "@", "@", ",", "ographie", ",", "Bewertung", "geber", ",", "er", ",", "studium", "#", "2", "Sie", "befindet", "sich", "auf", "425", "Meter", "Höhe", "nahe", "dem", "Schlos", "@", "@", "sberg", ".", "[", "EOS", "]", "Reference", "It", "is", "located", "at", "an", "altitude", "of", "425", "meters", "near", "the", "Schlossberg", ".", "[", "EOS", "]", "Masked", "[", "C", "]", "x0", "[", "C", "]", "x1sich", "auf", "425", "[", "C", "]", "x5", "[", "C", "]", "x6", "[", "C", "]", "x7dem", "Schlos", "@", "@", "sberg", ".", "[", "EOS", "]", "Sie", "=", "[", "C", "]", "x0It", ",", "She", ",", "He", "leaves", ",", "breaks", ",", "Geography", "auf", "=", "[", "C", "]", "x4in", ",", "at", ",", "on", "the", ",", "a", ",", "29", "@", "@", "Meter", "=", "[", "C", "]", "x5metres", ",", "meters", ",", "feet", "@", "-", "@", ",", ",", ",", "in", "Höhe", "=", "[", "C", "]", "x6altitude", ",", "height", ",", "elevation", ",", ",", ",", "in", ",", "an", "nahe", "=", "[", "C", "]", "x7near", ",", "Near", ",", "close", "in", ",", "an", ",", ",", "Table", "2", ":", "Inspiration", "of", "[", "C", "]", "xfrom", "multilingual", "training", ".", "References", "are", "obtained", "from", "Google", "Translation", ".", "We", "use", "a", "pre", "-", "trained", "small", "XLM", "model", "on", "{", "En", ",", "De", "}", ".", "To", "obtain", "more", "examples", ",", "we", "randomly", "compute", "[", "C", "]", "xfor", "40", "%", "of", "tokens.", "@", "@", "is", "the", "continuing", "subword", "prefix", ".", "bold", "denotes", "a", "strong", "candidate", "that", "is", "a", "parallel", ",", "analogical", ",", "or", "relevant", "token", "/", "word", "(", "or", "its", "variation", ")", "in", "other", "languages", ".", "Our", "method", "can", "cover", "multiple", "morphological", "or", "relevant", "candidates", "(", "e.g.", ",", "<", "den", ",", "die", ",", "der", ">", "in", "#", "1", "[", "C", "]", "x4", ")", "for", "generalizing", "information", "by", "weighted", "average", ".", "word", "tokens", "still", "represent", "semantics", "and", "syntactic", "meanings", "related", "to", "their", "original", "standard", "words", "(", "refer", "to", "the", "case", "study", "in", "Appendix", "C.2", ")", ".", "3", "Empirical", "Study", "and", "Experiment", "All", "the", "links", "of", "datasets", ",", "libraries", ",", "scripts", ",", "and", "tools", "marked", "with", "⋄are", "listed", "in", "Appendix", "F", ".", "A", "preview", "version", "of", "the", "code", "is", "submitted", ",", "and", "we", "will", "open", "the", "source", "code", "on", "GitHub", ".", "Pre", "-", "training", "Setting", "We", "use", "tokenizer", "(", "Kingma", "and", "Ba", ",", "2015", ")", "with", "dropout", "0.9", ",", "embedding", "dim", "0.999", ",", "optimizer", "1e−8", ",", "batch", "size", "(", "Vaswani", "et", "al", ".", ",", "2017", ")", "beam", "size", "1e−4", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O" ]

[ "embedding", "dim", "is", "set", "to", "rate", "=", "0.1", "." ]

[ "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O" ]

[ "Readers", "can", "refer", "to", "Appendix", "D.1", "for", "details", ".", "Model", "Configuration", "Our", "Transformer", "model", "(", "Vaswani", "et", "al", ".", ",", "2017", ")", "is", "identical", "to", "XLM", "(", "Lample", "and", "Conneau", ",", "2019", ")", ",", "which", "consists", "of", "a", "6", "-", "layer", "en-", "coder", "and", "6", "-", "layer", "decoder", "with", "1024", "word", "embed-", "ding", "size", "and", "hidden", "size", "and", "4096", "feed", "-", "forward", "filter", "size", ".", "We", "add", "a", "learnable", "language", "embedding", "and", "a", "learnable", "position", "embedding", "to", "each", "token", "of", "the", "input", "sentence", "for", "the", "encoder", "and", "decoder", "(", "PandLin", "Eq.1", ")", ".", "We", "have", "some", "default", "configu-", "rations", "for", "our", "method", "based", "on", "the", "study", "of", "model", "robustness", "(", "see", "§", "Robustness", "and", "Model", "Variation", ")", ":", "1", ")", "epochs", "=", "40", "%", "that", "we", "make", "a", "balance", "between", "the", "two", "objectives", ":", "[", "M", "]", "and", "[", "C", "]", "x", ";", "2", ")", "K=", "3", "that", "we", "consider", "top-3", "candidates", "for", "the", "cross", "-", "lingual", "prototypes", ";", "3", ")", "the", "num", "layers", "is", "50k", "that", "[", "M", "]", "is", "only", "used", "at", "the", "first", "50k", "iterations", ";", "4", ")", "we", "consider", "BPE", "for", "tokenization", "in", "all", "our", "experiments", ".", "Multilingual", "Task", "We", "consider", "three", "multilin-", "gual", "tasks", ":", "1", ")", "UNMT", "for", "evaluation", "on", "translation", "tasks", ",", "2", ")", "cross", "-", "lingual", "word", "similarity", "for", "evalua-", "tion", "on", "cross", "-", "lingual", "embedding", "tasks", ",", "and", "3", ")", "zero-", "shot", "cross", "-", "lingual", "classification", "for", "evaluation", "on", "cross", "-", "lingual", "transfer", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterValue", "I-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3.1", "MLM", "Instance", "We", "adapt", "our", "method", "to", "three", "MLM", "instances", "to", "pre", "-", "train", "the", "multilingual", "model", ":", "1", ")", "XLM", "(", "Lample", "and", "Conneau", ",", "2019", ")", ",", "2", ")", "MASS", "(", "Song", "et", "al", ".", ",", "2019", ")", ",", "and3", ")", "mBART", "(", "Liu", "et", "al", ".", ",", "2020", ")", ",", "which", "can", "be", "used", "to", "pre", "-", "train", "a", "multilingual", "model", ".", "Readers", "can", "refer", "to", "the", "original", "report", "or", "Appendix", "D.2", "for", "more", "instructions", "on", "these", "MLM", "instances", ".", "Sig-", "nificantly", ",", "to", "minimize", "changes", "for", "evaluation", "and", "comparison", ",", "we", "only", "have", "two", "changes", ".", "The", "first", "change", "we", "make", "is", "extending", "the", "masking", "strategy", ":", "(", "[", "SAME", "]", ",", "[", "RAN", "]", ",", "[", "M", "]", ")", "with", "(", "10", "%", ",", "10", "%", ",80", "%", ")", "to", "(", "[", "SAME", "]", ",", "[", "RAN", "]", ",", "[", "M", "]", ",", "[", "C", "]", "x", ")", "with", "(", "10", "%", ",", "10", "%", ",", "(", "80−t", ")", "%", ",", "t", "%", ")", ".", "Secondly", ",", "as", "presented", "in", "Table", "1", ",", "we", "only", "apply", "CLPM", "to", "the", "input", "of", "the", "source", "side", "or", "the", "encoder", "and", "do", "not", "change", "the", "shifted", "input", "of", "the", "decoder", "in", "these", "MLM", "instances", ".", "Any", "other", "component", "is", "identical", "to", "the", "reported", "MLM", "instances", ".", "We", "reimplement", "all", "the", "baseline", "models", "on", "our", "machine", "with", "our", "configurations", ",", "using", "official", "XLM⋄", ",", "Tensor2Tensor", "⋄", ",", "and", "HuggingFace", "⋄as", "ref-", "erences", ".", "We", "compare", "the", "results", "of", "our", "reimple-", "mentation", "with", "the", "reported", "results", "on", "the", "same", "test", "set", "to", "ensure", "that", "the", "difference", "is", "less", "than", "2", "%", "in", "overall", "performance", "(", "see", "Appendix", "E", "for", "result859", "comparison", ")", ".", "Then", ",", "we", "can", "confirm", "our", "reimple-", "mentation", ".", "3.2", "UNMT", "Setup", "We", "consider", "similar", "language", "pairs", "{", "De", ",", "Ro", "}", "↔En", ",", "using", "the", "same", "dataset", "and", "test", "set", "as", "previous", "works", "(", "Lample", "and", "Conneau", ",", "2019", ")", ".", "Meanwhile", ",", "we", "share", "the", "FLoRes", "⋄", "(", "Guzmán", "et", "al", ".", ",", "2019", ")", "task", "to", "evaluate", "a", "dissimilar", "language", "pair", "Ne↔English", "(", "Nepali", ")", ".", "We", "learn", "shared", "BPE", "(", "Sennrich", "et", "al", ".", ",", "2016b", ")", ",", "selecting", "the", "most", "fre-", "quent", "60", "K", "codes", "from", "paired", "languages", "with", "the", "same", "criteria", "in", "Lample", "and", "Conneau", "(", "2019", ")", ".", "The", "model", "is", "pre", "-", "trained", "around", "400", "K", "hidden", "size", "on", "only", "monolingual", "corpora", "in", "different", "languages", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "I-HyperparameterValue", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "And", ",", "after", "around", "400", "K", "pooling", "for", "trans-", "lation", "with", "the", "standard", "pipeline", "⋄", "(", "Artetxe", "et", "al", ".", ",", "2018b", ";", "Song", "et", "al", ".", ",", "2019", ")", ",", "according", "to", "baseline", "models", "’", "Spearman", "scripts", ",", "we", "report", "MCC", "computed", "bymulti-BLEU.perl", "⋄orsacreBleu", "⋄", "(", "Post", ",", "2018", ")", "with", "default", "rules", "." ]

[ "O", "O", "O", "O", "B-HyperparameterValue", "I-HyperparameterValue", "B-HyperparameterName", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "See", "more", "details", "in", "Appendix", "D.3", ".", "Result", "Table", "3", "shows", "the", "results", "on", "the", "{", "De", ",", "Ro", ",", "Ne", "}", "↔", "Entest", "sets", ".", "Applying", "[", "C", "]", "x", "consistently", "improves", "the", "performance", "of", "base-", "line", "models", "on", "all", "the", "similar", "language", "pairs", "by", "3", "%", "∼8", "%", "and", "on", "the", "dissimilar", "pair", "by", "2.5∼7", "model_size", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "I-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "B-MetricValue", "B-MetricName", "O" ]

[ "The", "performance", "on", "the", "dissimilar", "pair", "is", "very", "close", "to", "SOTA", ":", "mBART25", "(", "Liu", "et", "al", ".", ",", "2020", ")", ",", "but", "they", "use", "25", "languages", "from", "CC25", "(", "Wenzek", "et", "al", ".", ",", "2020", ")", "for", "pre", "-", "training", ".", "Our", "method", "slightly", "outperforms", "two", "dictionary", "-", "based", "works", "(", "Dufter", "and", "Schütze", ",", "2020", ";", "Chaudhary", "et", "al", ".", ",", "2020", ")", "which", "require", "static", "translation", "tables", "from", "pre", "-", "trained", "word", "models", ",", "golden", "dictionaries", ",", "or", "bilingual", "lex-", "icon", "induction", "(", "e.g.", ",", "UBWE", ")", ".", "Intuitively", ",", "as", "re-", "ported", "in", "(", "Artetxe", "et", "al", ".", ",", "2020", ";", "Kementchedjhieva", "et", "al", ".", ",", "2019", ";", "Czarnowska", "et", "al", ".", ",", "2019", ";", "Vania", "and", "Lopez", ",", "2017", ")", ",", "such", "word", "translation", "tables", "are", "re-", "ported", "to", "misrepresent", "morphological", "variations", "and", "are", "not", "contextualized", "properly", ",", "which", "limit", "the", "improvements", "for", "sentence", "translation", ".", "For", "further", "analyses", ",", "we", "conduct", "a", "case", "study", "to", "observe", "the", "attention", "weights", "on", "[", "C", "]", "xafter", "pre-", "training", ",", "which", "is", "visualized", "in", "Appendix", "C.2", ".", "We", "observe", "that", "the", "model", "outputs", "prominent", "attention", "weights", "on", "[", "C", "]", "xfor", "predicting", "replaced", "tokens", ",", "so", "that", "it", "relies", "on", "[", "C", "]", "x", ".", "In", "other", "words", ",", "the", "model", "understands", "[", "C", "]", "xin", "the", "context", ".", "We", "can", "confirm", "the", "effectiveness", ".", "Concretely", ",", "CLPM", "shows", "sig-", "nificant", "effectiveness", "on", "nouns", ",", "entities", ",", "terminol-", "Figure", "1", ":", "Discriminator", "performance", ".", "The", "discriminator", "is", "trained", "to", "recognize", "which", "language", "an", "embedding", "or", "a", "representation", "belongs", "to", "and", "makes", "zero", "-", "shot", "clas-", "sification", "for", "a", "prototype", ".", "We", "use", "all", "the", "embedding", "instances", "to", "train", "the", "discriminator", ".", "This", "figure", "indicates", "that", "CLMP", "introduces", "unseen", "cross", "-", "lingual", "prototypes", "for", "the", "model", "instead", "of", "embedding", "instances", ".", "ogy", "words", ",", "etc", ".", ",", "where", "the", "attention", "weights", "on", "the", "corresponding", "[", "C", "]", "xare", "dominant", ".", "Meanwhile", ",", "the", "model", "can", "understand", "phrases", ",", "sub", "-", "tokens", ",", "and", "syntax", "structures", "to", "predict", "a", "replaced", "token", "of", "the", "phrase", "because", "the", "model", "pays", "equal", "/", "similar", "at-", "tention", "to", "each", "token", "of", "the", "phrase", ".", "We", "attribute", "this", "phenomenon", "to", "both", "the", "alternation", "between", "[", "C", "]", "xand", "[", "M", "]", "and", "involving", "neighboring", "tokens", "in", "{", "[", "C", "]", "xi", ",", "xj\\i", "}", "→", "xithat", "the", "model", "captures", "to-", "ken", "dependencies", "from", "the", "cross", "-", "lingual", "prototype", "or", "a", "synonym", "in", "the", "other", "language", ".", "Finally", ",", "the", "employment", "of", "multiple", "candidates", "is", "important", "because", "the", "model", "could", "learn", "morphological", "or", "relevant", "variations", "from", "[", "C", "]", "xin", "the", "other", "language", "(", "refer", "to", "Appendix", "C.1", ")", ",", "e.g.", ",", "understanding", "rele-", "vant", "variations", "<", "welches", ",", "welcher", ",", "welche", ">", "from", "[", "C", "]", "x", ",", "which", "is", "essential", "for", "further", "translation", "learn-", "ing", "in", "unsupervised", "manners", ".", "Dose", "CLMP", "introduce", "new", "samples", "with", "cross-", "lingual", "prototypes", "from", "the", "other", "language", "?", "In", "addition", "to", "§", "Case", "Study", ",", "we", "are", "still", "interested", "in", "the", "representation", "of", "E", "[", "C", "]", "xor", "whether", "CLMP", "intro-", "duces", "new", "examples", "with", "cross", "-", "lingual", "prototypes", "from", "the", "other", "language", ".", "Intuitively", ",", "if", "the", "weights", "obtained", "in", "Step", "4", "are", "{", "c1=", "0.9", ",", "c2=", "0.05", ",", "c3=", "0.05", "}", ",", "the", "representation", "is", "similar", "to", "the", "candi-", "datec1", ",", "and", "then", "c1is", "a", "soft", "translation", "of", "x", ".", "If", "the", "weights", "are", "{", "c1=", "0.4", ",", "c2=", "0.3", ",", "c3=", "0.3", "}", ",", "the", "representation", "could", "be", "different", "from", "any", "one", "of", "{", "c1", ",", "c2", ",", "c3", "}", ".", "Thus", ",", "the", "representation", "depends", "on", "the", "contributions", "of", "the", "candidates", ".", "To", "further", "understand", "E", "[", "C", "]", "x", ",", "we", "jointly", "train", "a", "discrimina-", "tor", "to", "distinguish", "between", "two", "languages", "in", "the", "pre", "-", "training", "phase", ".", "The", "discriminator", "is", "trained860", "Language", "pair", "De↔En", "Ro", "↔En", "Ne", "↔En", "multi-BLEU.perl", "⋄with", "default", "rules", "XLM", "(", "Lample", "et", "al", ".", ",", "2018c", ")", "34.3", "26.4", "31.8", "33.3", "0.5", "0.1", "+", "word", "translation", "tables", "(", "Chaudhary", "et", "al", ".", ",", "2020", ")", "⋆", "35.1", "27.4", "33.6", "34.4", "4.1", "2.2", "+", "[", "C", "]", "x", "35.9", "28.1", "34.4", "35.3", "6.6", "2.8", "MASS", "(", "Song", "et", "al", ".", ",", "2019", ")", "35.2", "28.3", "33.1", "35.2", "+", "nearest", "neighbor", "from", "UBWE", "(", "Dufter", "and", "Schütze", ",", "2020", ")", "⋆", "36.1", "28.8", "34.1", "36.4", "5.1", "2.8", "+", "[", "C", "]", "x", "36.7", "29.2", "34.7", "36.9", "7.1", "3.4", "sacreBleu", "⋄with", "standard", "settings", ":", "nrefs:1|case", ":", "mixed|eff", ":", "no|tok:13a|smooth", ":", "exp|version:2.0.0", "mBART", "(", "Liu", "et", "al", ".", ",", "2020", ")", "+", "CC25", "(", "Wenzek", "et", "al", ".", ",", "2020", ")", "34.0", "29.8", "30.5", "35.0", "10.0", "4.4", "+", "[", "C", "]", "x", "(", "w", "/", "o", "CC25", ")", "35.4", "30.1", "32.5", "36.7", "7.0", "3.2", "Table", "3", ":", "Performance", "of", "UNMT", ".", "⋆are", "reimplemented", ".", "UBWE", "stands", "for", "unsupervised", "bilingual", "word", "embedding", ".", "Translation", "tables", "or", "UBWE", "are", "static", ".", "We", "use", "the", "same", "transformer", "models", ",", "BPE", "size", ",", "corpora", ",", "tokenization", ",", "and", "BLEU", "as", "the", "baseline", "models", "(", "see", "more", "details", "in", "Appendix", "D.3", ")", ".", "to", "recognize", "which", "language", "an", "embedding", "or", "a", "representation", "belongs", "to", ".", "We", "use", "all", "the", "embed-", "ding", "instances", "to", "train", "the", "discriminator", ".", "Then", ",", "we", "make", "zero", "-", "shot", "classification", "for", "E", "[", "C", "]", "xto", "ob-", "serve", "which", "language", "E", "[", "C", "]", "xbelongs", "to", ".", "We", "re-", "port", "the", "result", "in", "Figure", "1", ".", "This", "figure", "suggests", "that", "CLMP", "introduces", "unseen", "cross", "-", "lingual", "pro-", "totypes", "for", "the", "model", ".", "We", "suspect", "that", "ECxpo-", "tentially", "yields", "a", "generalized", "representation", "from", "multiple", "relevant", "candidates", "in", "other", "languages", ".", "This", "is", "different", "from", "the", "method", "family", "based", "on", "translation", "tables", ".", "Significantly", ",", "translation", "tables", "are", "instances", "/", "embeddings", "in", "the", "embedding", "space", ",", "whereas", "cross", "-", "lingual", "prototypes", "do", "not", "exist", "in", "the", "embedding", "spaces", "and", "are", "new", "generalized", "samples", "for", "the", "model", ".", "3.3", "BLEU", "We", "have", "some", "default", "configurations", ",", "as", "presented", "in", "row", "2", "of", "Table", "4", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "combination", "is", "obtained", "in", "our", "experiments", ".", "We", "report", "the", "results", "to", "observe", "the", "impact", "of", "max", "seq", "length", ",", "the", "pooling", ",", "the", "beam", "size", ",", "and", "the", "pooling", "in", "Appendix", "B", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "B-HyperparameterName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O" ]

[ "Meanwhile", ",", "in", "this", "experiment", ",", "we", "discuss", "a", "mean", "average", "style", "for", "cross", "-", "lingual", "candidates", "instead", "of", "the", "weighted", "average", "used", "in", "the", "default", "configura-", "tion", ",", "reporting", "results", "in", "Appendix", "B", ".", "Additionally", ",", "we", "study", "alternatives", "for", "initialization", "and", "training", "efficiency", ".", "The", "result", "is", "presented", "in", "Table", "7", ".", "For", "consistency", ",", "the", "row", "number", "is", "consistent", "with", "the", "full", "results", "in", "Appendix", "B", ".", "Row", "11", "As", "aforementioned", ",", "CLPM", "requires", "ad-", "ditional", "time", "to", "compute", "[", "C", "]", "x", ".", "To", "be", "fair", ",", "we", "reduce", "the", "training", "steps", ",", "so", "that", "the", "training", "time", "is", "almost", "similar", "to", "the", "baseline", "model", "(", "row", "1", ")", ".", "CLPM", "out-", "performs", "the", "baseline", "model", "but", "requires", "fewer", "training", "steps", ",", "which", "indicates", "that", "the", "explicit", "and", "principled", "cross", "-", "lingual", "forward", "pass", "is", "more", "ef", "-", "ficient", "(", "per", "step", ")", "than", "implicit", "isomorphic", "space", "formation", "for", "cross", "-", "linguality", ".", "Row", "17", "We", "use", "UBWE", "(", "unsupervised", "bilingual", "word", "embedding", ")", "to", "initialize", "the", "bilingual", "em-", "bedding", "space", ".", "In", "the", "first", "50k", "positional", "encoding", "(", "equal", "to", "default", "warm", "-", "up", "steps", ")", ",", "since", "the", "model", "parameters", "are", "still", "randomly", "initialized", ",", "we", "do", "not", "follow", "Step", "1", ",", "2", ",", "and", "3", "in", "on", "-", "the", "-", "fly", "[", "C", "]", "xand", "directly", "find", "relevant", "candidates", "based", "on", "the", "dot", "products", "ET", "yiEx", ",", "i.e.", ",", "only", "need", "Step", "4", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Intuitively", ",", "ET", "yiExis", "reliable", "to", "rank", "the", "candidates", "and", "com-", "pute", "the", "weights", "for", "[", "C", "]", "xbecause", "UBWE", "provides", "cross", "-", "lingual", "entries", ".", "After", "50k", "epochs", ",", "we", "normally", "run", "on", "-", "the", "-", "fly", "[", "C", "]", "x", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "observe", "that", "adapting", "UBWE", "consistently", "improves", "the", "epochs", "by", "2", "%", "on", "the", "similar", "language", "and", "0.5∼1", "weight", "decay", "on", "the", "dissimilar", "language", "because", "UBWE", "provides", "additional", "cross", "-", "lingual", "supervision", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterValue", "I-HyperparameterValue", "O", "O", "O", "O", "O", "B-HyperparameterValue", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "See", "all", "the", "results", "in", "Table", "8", ".", "Row", "18", "Vuli´c", "et", "al", ".", "(", "2020", ")", "suggest", "seed", "dictionar-", "ies", "for", "unsupervised", "tasks", "in", "practice", ".", "Following", "this", "idea", ",", "we", "download", "a", "1k", "seed", "dictionary", "from", "Panlex", "⋄", ".", "In", "the", "first", "50k", "pre", "-", "training", "steps", ",", "we", "simply", "replace", "the", "selected", "token", "with", "its", "trans-", "lation", "in", "the", "seed", "dictionary", ".", "For", "the", "out", "-", "of", "-", "the-", "dictionary", "but", "selected", "token", ",", "we", "replace", "it", "with", "normal", "[", "M", "]", ".", "After", "50k", "pre", "-", "training", "steps", ",", "if", "the", "selected", "token", "is", "in", "the", "dictionary", ",", "the", "translation", "is", "added", "to", "[", "C", "]", "xas", "a", "candidate", "in", "Step", "4", "when", "run-", "ning", "on", "-", "the", "-", "fly", "[", "C", "]", "x", ".", "We", "find", "that", "compared", "to", "the", "UBWE", "scenario", ",", "this", "adaptation", "achieves", "similar", "results", "on", "the", "rich", "-", "resource", "language", "De↔En", "(", "+1.5", "%", ")", "but", "stronger", "results", "on", "the", "dissimilar", "lan-", "guage", "Ne↔En", "(", "+8", "%", ")", ".", "All", "the", "results", "are", "pre-", "sented", "in", "Table", "8.861", "Row", "Model", "t", "Tokenization", "hidden", "size", "num", "layers", "[", "C", "]", "xtype", "De↔En", "1", "[", "M", "]", "(", "baseline", ")", "-", "positional", "encoding", "-", "400", "K", "-", "-", "34.3", "26.4", "2", "[", "C", "]", "x", "(", "our", "baseline", ",", "default", ")", "40", "%", "num", "attention", "heads", "50", "K", "400", "K", "3", "weighted", "35.9", "28.1", "11", "[", "C", "]", "x", "+", "+", "+", "350", "K", "(", "similar", "training", "time", ")", "+", "+", "35.1", "27.2", "17", "[", "C", "]", "x", "+", "+", "UBWE", "+", "+", "+", "36.5", "28.8", "18", "[", "C", "]", "x", "+", "+", "1k", "seed", "dictionary", "+", "+", "+", "36.9", "29.1", "Table", "4", ":", "Model", "Variation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "I-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "consistency", ",", "the", "row", "number", "is", "consistent", "with", "the", "full", "results", "(", "including", "evaluation", "onK", ",", "warm", "-", "up", ",", "tokenization", ",", "and", "t", "%", ")", "in", "Appendix", "B", ".", "All", "the", "models", "are", "based", "on", "the", "XLM", "instance", ".", "Row", "2shows", "the", "default", "configurations", "we", "use", "in", "UNMT", ".", "+", "denotes", "the", "default", "configuration", ".", "−denotes", "an", "inapplicable", "term", ".", "UBWE", "denotes", "that", "we", "pre", "-", "train", "the", "bilingual", "embeddings", "unsupervisedly", "and", "then", "pre", "-", "train", "the", "entire", "model", "with", "our", "method", ".", "In", "1k", "seed", "dictionary", "test", ",", "the", "model", "employs", "a", "candidate", "from", "a", "seed", "dictionary", ".", "MCC", "XLM", "(", "Lample", "and", "Conneau", ",", "2019", ")", "0.55", "+", "[", "C", "]", "x", "0.61", "MASS", "(", "Song", "et", "al", ".", ",", "2019", ")", "⋆", "0.60", "+", "[", "C", "]", "x", "0.64", "mBART", "(", "Liu", "et", "al", ".", ",", "2020", ")", "⋆", "0.59", "+", "[", "C", "]", "x", "0.64", "Table", "5", ":", "Performance", "on", "MUSE", "task", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Baseline", "models", "(", "⋆", ")", "are", "reimplemented", "with", "our", "configurations", ".", "3.4", "Cross", "-", "lingual", "Word", "Similarity", "Setup", "Given", "the", "idea", "of", "our", "method", ",", "we", "consider", "cross", "-", "lingual", "mappings", "of", "tokens", ".", "Therefore", ",", "we", "are", "interested", "in", "the", "isomorphism", "of", "languages", "’", "embedding", "spaces", ".", "To", "further", "investigate", ",", "the", "pre-", "trained", "UNMT", "model", "is", "evaluated", "on", "MUSE", "⋄", "(", "Lample", "et", "al", ".", ",", "2018b", ")", "with", "the", "provided", "test", "sets", "and", "tools", ",", "which", "is", "used", "to", "test", "MSE", "on", "En↔De", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O" ]

[ "This", "test", "can", "gener-", "ally", "evaluate", "the", "degree", "of", "the", "isomorphism", "of", "languages", "’", "embedding", "spaces", ".", "We", "reuse", "the", "pre-", "trained", "models", "in", "our", "UNMT", "experiment", ".", "After", "restoration", ",", "we", "extract", "words", "required", "by", "the", "test", "set", "via", "shared", "lookup", "tables", ".", "For", "words", "split", "into", "2", "+", "sub", "-", "tokens", ",", "we", "average", "all", "the", "sub", "-", "tokens", ".", "Result", "We", "evaluate", "the", "performance", "by", "Spearman", ",", "reporting", "the", "result", "in", "Table", "5", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Applying", "[", "C", "]", "xcan", "increase", "the", "similarities", "of", "parallel", "words", "from", "{", "En", ",", "De", "}", ",", "consistently", "improving", "the", "per-", "formance", "of", "the", "models", "on", "this", "task", ".", "It", "indicates", "that", "[", "C", "]", "xhelps", "the", "models", "learn", "token", "-", "level", "cross-", "linguality", "in", "pre", "-", "training", ".", "3.5", "Cross", "-", "lingual", "Classification", "Setup", "Beyond", "UNMT", "tasks", "or", "translation", "tasks", ",", "CLPM", "can", "consistently", "improve", "cross", "-", "lingual", "transfer", ".", "Then", ",", "we", "attempt", "the", "cross", "-", "lingual", "clas-", "sification", "task", "on", "XNLI", "(", "Conneau", "et", "al", ".", ",", "2018", ")", "to", "test", "general", "cross", "-", "linguality", "[", "C", "]", "ximproves", ".", "For", "thisModel", "MAE", "mBERT", "baseline", "(", "Wu", "and", "Dredze", ",", "2019", ")", "66.3", "XLM", "(", "Lample", "and", "Conneau", ",", "2019", ")", "71.5", "+", "word", "translation", "tables", "(", "Chaudhary", "et", "al", ".", ",", "2020", ")", "72.7", "+", "[", "C", "]", "x", "74.0", "+", "MT", "(", "Lample", "and", "Conneau", ",", "2019", ")", "75.1", "Table", "6", ":", "Performance", "of", "cross", "-", "lingual", "classification", "on", "XNLI", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-DatasetName", "O" ]

[ "MT", "stands", "for", "additional", "parallel", "corpora", ".", "We", "use", "the", "same", "transformer", "models", ",", "beam", "size", ",", "corpora", ",", "tokenization", ",", "and", "BLEU", "as", "the", "baseline", "models", "(", "see", "more", "details", "in", "Appendix", "D.3", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "test", ",", "we", "follow", "the", "standard", "and", "basic", "experiment", "(", "Lample", "and", "Conneau", ",", "2019", ")", "to", "train", "a", "12", "-", "layer", "Transformer", "encoder", "with", "80k", "lr", "scheduler", "on", "Wikipedia", "dumps⋄of", "15", "XNLI", "languages", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "pre", "-", "train", "the", "encoder", "on", "Encorpora", ",", "considering", "the", "zero", "-", "shot", "classification", "based", "on", "finetuning", "EnNLI", "dataset", ",", "we", "randomly", "compute", "[", "C", "]", "xfrom", "other", "languages", "with", "equal", "probability", "to", "avoid", "the", "cross", "-", "lingual", "bias", ".", "For", "pre", "-", "training", "on", "corpora", "of", "other", "lan-", "guages", ",", "we", "only", "compute", "[", "C", "]", "xin", "the", "Enentries", ".", "Note", "that", ",", "although", "we", "have", "different", "strategies", "of", "[", "C", "]", "xfor", "the", "languages", ",", "we", "still", "concatenated", "all", "the", "corpora", "of", "the", "languages", "for", "joint", "pre", "-", "training", ".", "Af-", "ter", "pre", "-", "training", ",", "we", "deploy", "a", "randomly", "initialized", "linear", "classifier", "and", "finetune", "the", "encoder", "and", "the", "linear", "classifier", "on", "the", "EnNLI", "dataset", "with", "beam", "size", "16", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O" ]

[ "We", "make", "zero", "-", "shot", "classifications", "for", "other", "languages", ".", "See", "more", "details", "in", "Appendix", "D.3", ".", "Result", "We", "report", "the", "result", "in", "Table", "6", ".", "CLPM", "shows", "effectiveness", "on", "this", "task", ",", "outperforming", "baseline", "models", ".", "It", "indicates", "that", "[", "C", "]", "xcan", "improve", "cross", "-", "lingual", "transfer", ".", "Meanwhile", ",", "[", "C", "]", "xunderper-", "forms", "XLM", "+", "MT", "that", "uses", "parallel", "corpora", "to", "improve", "cross", "-", "linguality", ".", "As", "discussed", "earlier", ",", "[", "C", "]", "x", "can", "provide", "token", "-", "level", "cross", "-", "lingual", "knowledge", "at", "the", "very", "least", "but", "is", "less", "effective", "than", "golden", "sentence", "-", "level", "knowledge", ".", "Although", "XLM", "+", "MT862", "uses", "additional", "datasets", ",", "it", "somewhat", "sets", "an", "upper", "bound", ".", "On", "the", "other", "hand", ",", "our", "method", "outperforms", "dictionary", "-", "based", "methods", "(", "+", "word", "translation", "ta-", "bles", ")", ".", "Similar", "to", "the", "observation", "in", "UNMT", ",", "we", "attribute", "to", "the", "effectiveness", "of", "using", "multiple", "can-", "didates", "to", "capture", "morphological", "variations", ".", "How-", "ever", ",", "to", "avoid", "cross", "-", "lingual", "bias", ",", "we", "use", "Enas", "a", "pivot", "or", "anchor", "point", ".", "This", "could", "be", "a", "potential", "problem", "for", "further", "adaptation", "to", "other", "multilingual", "tasks", ".", "See", "limitations", "in", "Appendix", "A", ".", "4", "Related", "Work", "and", "Comparison", "(", "Ren", "et", "al", ".", ",", "2019a", ";", "Chaudhary", "et", "al", ".", ",", "2020", ";", "Lam-", "ple", "et", "al", ".", ",", "2018c", ")", "leverage", "translation", "tables", "as", "entries", "for", "the", "other", "languages", ",", "which", "are", "auto-", "matically", "generated", "from", "statistical", "models", ",", "e.g.", ",", "n", "-", "gram", "models", ".", "The", "model", "forms", "an", "explicit", "cross-", "lingual", "forward", "pass", ":", "{", "[", "M", "]", ",", "xj\\i", "}", "→ti", ",", "where", "ti", "is", "the", "entry", "of", "the", "other", "language", "for", "xi", ".", "In", "con-", "trast", ",", "our", "method", "has", "two", "significant", "differences", ":", "1", ")", "we", "focus", "on", "the", "left", "side", ",", "adapting", "our", "[", "C", "]", "xto", "the", "inputs", "of", "MLM", ";", "2", ")", "our", "method", "does", "not", "rely", "on", "token", "/", "phrase", "-", "level", "translation", "tables", ".", "Dufter", "and", "Schütze", "(", "2020", ")", "present", "a", "cross", "-", "lingual", "forward", "pass", ":", "{", "nn", ",", "x", "j\\i", "}", "→", "xi", ",", "where", "nnisxi", "’s", "near-", "est", "neighbor", "of", "the", "other", "language", "in", "the", "space", "of", "UBWE", ".", "However", ",", "UBWE", "is", "static", "and", "fixed", "with-", "out", "any", "interaction", "with", "the", "multilingual", "model", ".", "It", "might", "limit", "what", "it", "can", "be", "ultimately", "used", "for", "translation", "(", "Sun", "et", "al", ".", ",", "2019", ";", "Artetxe", "et", "al", ".", ",", "2018b", ";", "Lample", "et", "al", ".", ",", "2018a", ")", ".", "We", "present", "a", "dynamic", "ap-", "proach", "to", "obtain", "candidates", "of", "the", "other", "language", "from", "the", "model", "itself", ",", "which", "is", "inspired", "by", "(", "Ai", "and", "Fang", ",", "2021b", ";", "Sennrich", "et", "al", ".", ",", "2016a", ")", ".", "The", "benefit", "is", "that", "embeddings", "and", "representations", "are", "contex-", "tualized", "when", "pre", "-", "training", "MLM", "on", "monolingual", "corpora", "in", "different", "languages", "(", "Lample", "and", "Con-", "neau", ",", "2019", ")", ".", "Although", "it", "is", "not", "reliable", "at", "the", "very", "early", "pre", "-", "training", ",", "we", "provide", "a", "compromised", "ini-", "tialization", "for", "this", "problem", ".", "We", "also", "consider", "multi-", "ple", "candidates", "for", "cross", "-", "lingual", "prototypes", "instead", "ofnn", ",", "which", "is", "softer", "and", "can", "cover", "morpholog-", "ical", "or", "relevant", "variations", "in", "the", "other", "language", ".", "On", "the", "other", "hand", ",", "considering", "cross", "-", "lingual", "pro-", "totypes", "is", "not", "a", "novel", "idea", "for", "cross", "-", "linguality", ",", "(", "Wang", "et", "al", ".", ",", "2019", ";", "Huang", "et", "al", ".", ",", "2019", ";", "Ai", "and", "Fang", ",", "2021a", ")", "present", "methods", "to", "leverage", "cross-", "lingual", "prototypes", "to", "guide", "encoding", "and", "decoding", ",", "forming", "a", "cross", "-", "lingual", "forward", "pass", "by", "modifying", "inner", "representations", "of", "encoding", "and", "decoding", ":", "{", "[", "M", "]", ",", "xj\\i", "}", "→", "{", "[", "M", "]", ",", "hxj", ",", "hyi", "}", "→xi", ",", "where", "hyiis", "an", "approximation", "of", "xi", "’s", "inner", "representation", "in", "encoding", "and", "decoding", "from", "the", "other", "language", ".", "It", "results", "in", "a", "different", "direction", ".", "We", "also", "employ", "the", "alternation", "strategy", "that", "can", "be", "viewed", "as", "linguistic", "code", "-", "switching", "(", "Scotton", "and", "Ury", ",", "1977", ")", "somewhat", ",", "where", "the", "model", "is", "pre", "-", "trained", "in", "more", "linguistic", "varieties", ".", "In", "learn-", "ing", "models", ",", "linguistic", "code", "-", "switching", "performs", "as", "data", "augmentation", "processes", "(", "Krishnan", "et", "al", ".", ",", "2021", ";", "Chaudhary", "et", "al", ".", ",", "2020", ";", "Tarunesh", "et", "al", ".", ",", "2021", ")", "with", "the", "help", "of", "static", "translation", "tables", "or", "lexicon", "induction", "in", "supervised", "manners", ".", "How-", "ever", ",", "lexicon", "induction", "datasets", "or", "translation", "ta-", "bles", "have", "been", "reported", "to", "misrepresent", "morpho-", "logical", "variations", "and", "overly", "focus", "on", "named", "en-", "tities", "and", "frequent", "words", "(", "Artetxe", "et", "al", ".", ",", "2020", ";", "Czarnowska", "et", "al", ".", ",", "2020", ";", "Kementchedjhieva", "et", "al", ".", ",", "2020", ")", ".", "In", "contrast", ",", "CLPM", "is", "dynamic", "and", "un-", "supervised", ",", "leveraging", "contextualized", "representa-", "tions", "and", "multiple", "morphological", "variations", "in", "the", "model", "’s", "embedding", "space", ".", "Meanwhile", ",", "translation", "tables", "are", "instances", "/", "embeddings", "in", "the", "embedding", "space", ",", "whereas", "cross", "-", "lingual", "prototypes", "do", "not", "ex-", "ist", "in", "the", "embedding", "spaces", "and", "are", "new", "gener-", "alized", "samples", "for", "the", "model", ".", "This", "distinction", "is", "observed", "from", "the", "discriminator", "in", "Figure", "1", ".", "5", "Conclusion", "In", "this", "work", ",", "we", "present", "CLPM", ",", "an", "alternative", "masking", "scheme", ",", "to", "compute", "special", "tokens", "[", "C", "]", "xfor", "masking", "in", "multilingual", "MLM", "pre", "-", "training", ".", "[", "C", "]", "xis", "the", "cross", "-", "lingual", "prototype", "for", "the", "selected", "word", "x", ",", "computed", "from", "multiple", "candidates", "dynamically", "and", "token", "-", "wise", ".", "Compared", "to", "the", "standard", "masking", "scheme", "[", "M", "]", ",", "[", "C", "]", "xautomatically", "forms", "an", "explicit", "cross", "-", "lingual", "forward", "pass", "in", "attention", "mechanism", ",", "consistently", "improving", "cross", "-", "linguality", "in", "multilin-", "gual", "MLM", "pre", "-", "training", ".", "Experiments", "show", "that", "CLPM", "can", "consistently", "improve", "the", "performance", "of", "translation", "and", "cross", "-", "lingual", "transfer", ".", "References", "Martin", "Abadi", ",", "Paul", "Barham", ",", "Jianmin", "Chen", ",", "Zhifeng", "Chen", ",", "Andy", "Davis", ",", "Jeffrey", "Dean", ",", "Matthieu", "Devin", ",", "Sanjay", "Ghemawat", ",", "Geoffrey", "Irving", ",", "Michael", "Isard", ",", "Manjunath", "Kudlur", ",", "Josh", "Levenberg", ",", "Rajat", "Monga", ",", "Sherry", "Moore", ",", "Derek", "G", ".", "Murray", ",", "Benoit", "Steiner", ",", "Paul", "Tucker", ",", "Vijay", "Vasudevan", ",", "Pete", "Warden", ",", "Martin", "Wicke", ",", "Yuan", "Yu", ",", "and", "Xiaoqiang", "Zheng", ".", "2016", ".", "Ten-", "sorflow", ":", "A", "system", "for", "large", "-", "scale", "machine", "learning", "." ]

[ "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "877–892", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "How", "About", "Kind", "of", "Generating", "Hedges", "using", "End", "-", "to", "-", "End", "Neural", "Models", "?", "Alafate", "Abulimiti1,2", ",", "Chloé", "Clavel3", ",", "Justine", "Cassell1,4", "1INRIA", ",", "Paris2ENS", "/", "PSL", "<", "alafate.abulimiti", "@", "inria.fr", ">", "3LTCI", ",", "Insitut", "Polytechnique", "de", "Paris", ",", "Telecom", "Paris", "<", "chloe.clavel", "@", "telecom-paris.fr", ">", "4Carnegie", "Mellon", "University", "<", "justine", "@", "cs.cmu.edu", ">", "Abstract", "Hedging", "is", "a", "strategy", "for", "softening", "the", "impact", "of", "a", "statement", "in", "conversation", ".", "In", "reducing", "the", "strength", "of", "an", "expression", ",", "it", "may", "help", "to", "avoid", "embarrassment", "(", "more", "technically", ",", "“", "face", "threat", "”", ")", "to", "one", "’s", "listener", ".", "For", "this", "reason", ",", "it", "is", "often", "found", "in", "contexts", "of", "instruction", ",", "such", "as", "tutoring", ".", "In", "this", "work", ",", "we", "develop", "a", "model", "of", "hedge", "generation", "based", "on", "i", ")", "fine", "-", "tuning", "state-", "of", "-", "the", "-", "art", "language", "models", "trained", "on", "human-", "human", "tutoring", "data", ",", "followed", "by", "ii", ")", "reranking", "to", "select", "the", "candidate", "that", "best", "matches", "the", "ex-", "pected", "hedging", "strategy", "within", "a", "candidate", "pool", "using", "a", "hedge", "classifier", ".", "We", "apply", "this", "method", "to", "a", "natural", "peer", "-", "tutoring", "corpus", "containing", "a", "significant", "number", "of", "disfluencies", ",", "repetitions", ",", "and", "repairs", ".", "The", "results", "show", "that", "generation", "in", "this", "noisy", "environment", "is", "feasible", "with", "rerank-", "ing", ".", "By", "conducting", "an", "error", "analysis", "for", "both", "approaches", ",", "we", "reveal", "the", "challenges", "faced", "by", "systems", "attempting", "to", "accomplish", "both", "social", "and", "task", "-", "oriented", "goals", "in", "conversation", ".", "1", "Introduction", "When", "people", "interact", ",", "they", "attend", "not", "just", "to", "the", "task", "at", "hand", ",", "but", "also", "to", "their", "relationship", "with", "their", "interlocutors", "(", "Tracy", "and", "Coupland", ",", "1990", ")", ".", "One", "key", "aspect", "of", "the", "relationship", "that", "people", "attend", "to", ",", "while", "engaging", "in", "contexts", "as", "diverse", "as", "sales", "(", "Gremler", "and", "Gwinner", ",", "2008", ";", "Planken", ",", "2005", ")", ",", "education", "(", "Glazier", ",", "2016", ";", "Murphy", "and", "Rodríguez", "-", "Manzanares", ",", "2012", ")", "and", "healthcare", "(", "Di-", "Matteo", ",", "1979", ";", "Leach", ",", "2005", ")", ",", "is", "what", "is", "referred", "to", "as", "rapport", ",", "a", "sense", "of", "harmony", "and", "mutual", "un-", "derstanding", "between", "participants", "in", "a", "conversation", "(", "Spencer", "-", "Oatey", ",", "2005", ";", "Tickle", "-", "Degnen", "and", "Rosen-", "thal", ",", "1990", ")", ".", "Indeed", ",", "higher", "levels", "of", "rapport", "are", "cor-", "related", "with", "better", "performance", "in", "each", "of", "these", "do-", "mains", ".", "Zhao", "et", "al", ".", "(", "2014", ")", "describes", "rapport", "as", "built", "upon", "a", "base", "of", "mutual", "attentiveness", ",", "face", "manage-", "ment", ",", "and", "coordination", ".", "This", "base", "is", "built", "primarily", "by", "conversational", "strategies", ",", "or", "ways", "of", "speaking", "(", "including", "nonverbal", "and", "paraverbal", "behaviors", ")", "that", "yeah", ",", "so", "it", "will", "be", "...", "I", "think", "you", "could", "add", "four", "to", "both", "sides", ".", "oh", "no", "...", "Figure", "1", ":", "Hedging", "in", "peer", "tutoring", "manage", "rapport", "throughout", "a", "conversation", ".", "Key", "conversational", "strategies", "include", "self", "-", "disclosure", ",", "reference", "to", "shared", "experience", ",", "praise", ",", "and", "hedging", "—", "giving", "instructions", "or", "conveying", "information", "in", "an", "indirect", "manner", "when", "it", "might", "otherwise", "sound", "rude", "or", "overly", "demanding", ".", "End", "-", "to", "-", "end", "large", "language", "models", "(", "LLM", ")", ",", "of", "the", "kind", "that", "are", "increasingly", "popular", "and", "powerful", ",", "do", "a", "good", "job", "at", "carrying", "out", "the", "propositional", "or", "information", "-", "carrying", "aspects", "of", "conversation", ",", "and", "a", "relatively", "good", "job", "of", "maintaining", "the", "coherence", "of", "a", "conversation", ",", "but", "they", "are", "not", "as", "good", "at", "changing", "how", "they", "say", "something", "as", "a", "function", "of", "a", "relation-", "ship", "with", "the", "human", "user", ",", "while", "humans", "are", ",", "for", "the", "most", "part", ",", "quite", "good", "at", "this", ".", "However", ",", "since", "saying", "things", "in", "a", "specific", "manner", "-", "for", "example", ",", "through", "a", "hedge", "-", "helps", "task", "performance", ",", "it", "is", "an", "important", "topic", "for", "dialogue", "systems", ".", "Linguists", "define", "hedges", "as", "a", "way", "of", "diminishing", "face", "threat", "(", "meaning", "the", "“", "positive", "social", "value", "a", "person", "effectively", "claims", "for", "himself", "”", "(", "Goffman", ",", "1967", ")", "by", "attenuating", "the", "extent", "or", "impact", "of", "an", "ex-", "pression", "(", "Brown", "and", "Levinson", ",", "1987", ";", "Fraser", ",", "2010", ")", ".", "Figure", "1", "shows", "a", "typical", "example", "of", "hedging", "in", "a", "peer", "tutoring", "setting", ",", "where", "the", "tutor", "uses", "two", "hedges", "(", "“", "I", "think", "”", "and", "“", "could", "”", "rather", "than", "“", "should", "”", ")", "to", "deliver", "a", "hint", "for", "the", "next", "step", "of", "solving", "an", "algebra", "equation", ".", "Tutoring", "is", "one", "context", "in", "which", "hedges", "are", "found", "in", "abundance", "and", "where", "recognizing", "them", "might", "be", "important", "for", "intelligent", "tutoring", "systems", ",", "as", "attested", "by", "the", "number", "of", "computational", "ap-877", "proaches", "that", "attempt", "to", "do", "so", "(", "see", "section", "2", ")", ".", "In-", "terestingly", ",", "even", "unskilled", "tutors", "use", "them", ".", "In", "fact", ",", "research", "on", "peer", "tutoring", "has", "shown", "that", "when", "rap-", "port", "between", "a", "peer", "tutor", "and", "tutee", "is", "low", ",", "but", "the", "tutor", "is", "confident", "in", "his", "/", "her", "skills", ",", "that", "tutor", "tends", "to", "use", "more", "hedges", ",", "and", "this", "results", "in", "more", "prob-", "lems", "attempted", "by", "the", "student", "and", "more", "problems", "successfully", "solved", "(", "Madaio", "et", "al", ".", ",", "2017", ")", ".", "In", "this", "paper", ",", "then", ",", "we", "work", "towards", "the", "devel-", "opment", "of", "a", "generation", "module", "for", "a", "virtual", "peer", "tutor", "that", ",", "like", "real", "peer", "tutors", ",", "is", "able", "to", "choose", "the", "manner", "of", "delivering", "information", "in", "such", "a", "way", ".", "Specifically", ",", "we", "address", "two", "research", "questions", ":", "RQ1", ":", "How", "good", "are", "end", "-", "to", "-", "end", "large", "language", "models", "used", "alone", "for", "generating", "hedges", "when", "fine-", "tuned", "on", "a", "peer", "-", "tutoring", "dialogue", "dataset", "?", "Are", "the", "models", "able", "to", "implicitly", "learn", "when", "and", "how", "to", "generate", "hedges", "?", "The", "first", "question", "may", "be", "answered", "by", "compar-", "ing", "the", "performance", "of", "various", "fine", "-", "tuned", "models", ".", "If", "the", "end", "-", "to", "-", "end", "models", "can", "not", "learn", "to", "hedge", "im-", "plicitly", ",", "we", "might", "attempt", "to", "drive", "the", "models", "to", "generate", "the", "utterances", "by", "providing", "the", "correct", "labels", ".", "We", "assume", "that", "the", "correct", "labels", "can", "be", "provided", "by", "another", "module", "of", "the", "system", ",", "so", "we", "compare", "the", "reranking", "method", "with", "the", "fine", "-", "tuning", "method", ",", "as", "the", "former", "is", "simple", ",", "powerful", ",", "and", "widely", "used", "for", "text", "generation", ".", "Consequently", ",", "the", "second", "question", "is", ":", "RQ2", ":", "Can", "we", "improve", "these", "models", "by", "using", "a", "reranking", "approach", "?", "If", "so", ",", "what", "are", "the", "remaining", "errors", "and", "why", "do", "they", "occur", "?", "2", "Related", "Work", "Considerably", "more", "computational", "methods", "exist", "to", "determine", "what", "a", "dialogue", "system", "should", "say", "than", "how", "to", "say", "it", ".", "However", ",", "more", "recently", ",", "with", "the", "increased", "power", "of", "end", "-", "to", "-", "end", "models", "to", "find", "information", "and", "convey", "it", "accurately", ",", "we", "can", "now", "turn", "to", "ensuring", "that", "the", "end", "-", "to", "-", "end", "model", "simul-", "taneously", "also", "meets", "social", "goals", ",", "to", "increase", "the", "impact", "and", "acceptability", "of", "what", "is", "conveyed", ".", "2.1", "Theoretical", "Approaches", "to", "hedges", "As", "described", "above", ",", "a", "hedge", "can", "soften", "the", "impact", "of", "an", "utterance", "that", "might", "otherwise", "seem", "rude", ",", "such", "as", "a", "demand", "(", "“", "could", "you", "pass", "the", "salt", "”", ")", "or", "an", "instruction", "(", "“", "you", "might", "want", "to", "pour", "the", "coffee", "over", "the", "sink", "”", ")", ".", "Madaio", "et", "al", ".", "(", "2017", ")", "has", "attested", "to", "the", "frequent", "use", "of", "hedges", "in", "the", "peer", "-", "tutoring", "setting", ",", "and", "their", "positive", "impact", "on", "performance", ",", "perhaps", "because", "hedges", "in", "this", "context", "might", "re-", "duce", "a", "tutee", "’s", "embarrassment", "at", "not", "knowing", "the", "correct", "answer", "(", "Rowland", ",", "2007", ")", ".", "In", "linguistic", "terms", ",", "hedging", "is", "a", "rhetorical", "strat-", "egy", "that", "attenuates", "the", "full", "force", "of", "an", "expression", "(", "Fraser", ",", "2010", ")", "and", "for", "this", "reason", ",", "it", "has", "been", "cov-", "ered", "in", "linguistic", "pragmatics", "and", "the", "study", "of", "polite-", "ness", ".", "Two", "main", "categories", "of", "hedges", "are", "identified", "in", "the", "literature", ":", "Propositional", "Hedges", "andRela-", "tional", "Hedges", "(", "Prince", "et", "al", ".", ",", "1982", ")", ".", "Propositional", "Hedges", "(", "called", "Approximators", "by", "(", "Prince", "et", "al", ".", ",", "1982", ")", ")", "refer", "to", "uncertain", "(", "Vincze", ",", "2014", ")", ",", "fuzzy", "(", "Lakoff", ",", "1975", ")", "and", "vague", "(", "Williamson", ",", "2002", ")", "lan-", "guage", "use", ",", "such", "as", "“", "kind", "of", "”", ".", "Relational", "Hedges", "(", "called", "Shields", "in", "(", "Prince", "et", "al", ".", ",", "1982", ")", ")", "indicate", "that", "the", "expression", "is", "subjective", "or", "an", "opinion", ",", "as", "in", "“", "I", "think", "that", "is", "incorrect", "”", ".", "Attribution", "Shields", "are", "a", "subtype", "of", "relational", "hedges", "that", "attribute", "the", "opinion", "to", "others", ",", "such", "as", "“", "everyone", "says", "you", "should", "stop", "smoking", "”", ".", "Apologizers", "(", "Raphalen", "et", "al", ".", ",", "2022", ")", "are", "apologies", "that", "mitigate", "the", "strength", "of", "an", "utterance", ",", "as", "in", "“", "I", "’m", "sorry", "but", "you", "have", "to", "do", "your", "homework", "”", ".", "While", "the", "different", "types", "of", "hedges", "operate", "in", "different", "ways", ",", "they", "all", "serve", "the", "same", "mitigation", "functions", "in", "conversation", ".", "For", "this", "reason", ",", "in", "what", "follows", "—", "a", "first", "attempt", "at", "generating", "hedges", "—", "we", "collapse", "the", "different", "sub", "-", "classes", "and", "refer", "only", "to", "hedges", "and", "non", "-", "hedges", ".", "2.2", "Computational", "Approaches", "Some", "prior", "work", "has", "looked", "at", "the", "detection", "of", "conversational", "strategies", "and", "in", "particular", "work", "by", "Zhao", "and", "colleagues", "(", "Zhao", "et", "al", ".", ",", "2014", ",", "2016b", ",", "a", ")", ".", "Madaio", "et", "al", ".", "(", "2017", ")", "built", "a", "classifier", "to", "detect", "hedg-", "ing", "and", "achieved", "an", "MAP", "of", "81", "%", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "I-MetricValue", "O" ]

[ "Recent", "work", "by", "Raphalen", "et", "al", ".", "(", "2022", ")", "improved", "the", "detection", "of", "different", "types", "of", "hedges", "and", "achieved", "a", "AUC", "of", "0.97", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "O" ]

[ "Hedging", "is", "a", "particular", "kind", "of", "indirectness", ",", "and", "therefore", "as", "we", "look", "at", "prior", "work", "in", "the", "area", ",", "we", "include", "approaches", "to", "the", "generation", "of", "indi-", "rect", "speech", ".", "The", "plan", "-", "based", "generation", "of", "indirect", "speech", "acts", "has", "existed", "almost", "as", "long", "as", "dialogue", "systems", "themselves", "(", "Clark", ",", "1979", ";", "Brown", ",", "1980", ";", "Perrault", ",", "1980", ")", ".", "More", "recently", ",", "other", "relevant", "as-", "pects", "of", "politeness", "have", "also", "been", "addressed", ".", "For", "example", ",", "Porayska", "-", "Pomsta", "and", "Mellish", "(", "2004", ")", "op-", "erationalized", "the", "important", "notion", "of", "face", "in", "po-", "liteness", "theory", "to", "generate", "polite", "sentences", "with", "a", "template", "pool", ".", "Although", "contemporary", "dialogue878", "systems", "tend", "to", "integrate", "indirect", "speech", "(", "Miehle", "et", "al", ".", ",", "2022", ";", "Briggs", "et", "al", ".", ",", "2017", ")", ",", "generating", "hedges", "with", "powerful", "language", "models", ",", "and", "particularly", "as", "a", "function", "of", "the", "social", "context", ",", "has", "not", "been", "explored", ".", "Our", "desire", "to", "look", "at", "the", "social", "context", "leads", "us", "to", "train", "on", "spontaneous", "dialogue", "that", "is", "substantially", "noisier", ",", "owing", "to", "natural", "conversa-", "tional", "phenomena", "such", "as", "disfluency", ".", "This", "differs", "from", "the", "majority", "of", "prior", "work", ",", "trained", "on", "written", "or", "acted", "corpora", "(", "Li", "et", "al", ".", ",", "2017", ";", "Rashkin", "et", "al", ".", ",", "2019", ")", ".", "2.3", "Generation", "Techniques", "Different", "techniques", "have", "been", "used", "in", "the", "past", "to", "generate", "responses", "of", "a", "particular", "kind", "for", "dialogue", "systems", ".", "Madaan", "et", "al", ".", "(", "2020", ")", "used", "n", "-", "gram", "TF-", "IDF", "to", "identify", "source", "style", "words", "and", "generate", "target", "politeness", "style", "utterances", "by", "replacing", "these", "words", ".", "Niu", "and", "Bansal", "(", "2018", ")", "generated", "politeness", "formulations", "by", "using", "reinforcement", "learning", "with", "a", "trained", "politeness", "classifier", ".", "Similar", "to", "our", "ap-", "proach", ",", "the", "explicit", "knowledge", "of", "politeness", "is", "only", "given", "to", "the", "classifier", ".", "Liu", "et", "al", ".", "(", "2021", ")", "constructed", "an", "emotional", "support", "dataset", "with", "eight", "different", "dialogue", "strategies", "and", "fine", "-", "tuned", "the", "pre", "-", "trained", "language", "models", "by", "connecting", "the", "label", "tokens", "to", "the", "beginning", "of", "each", "utterance", "in", "order", "to", "create", "a", "dialogue", "generator", "that", "can", "produce", "the", "target", "responses", "without", "focusing", "on", "the", "social", "context", ".", "The", "reranking", "method", "is", "also", "widely", "used", "in", "text", "generation", "tasks", ".", "Hossain", "et", "al", ".", "(", "2020", ")", "used", "a", "sim-", "ple", "and", "effective", "pipeline", "where", "they", "retrieved", "the", "original", "texts", "from", "the", "database", ",", "then", "edited", "with", "a", "Transformer", "(", "Vaswani", "et", "al", ".", ",", "2017", ")", "model", ",", "and", "then", "reranked", "the", "text", "by", "MAP", "." ]

[ "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O" ]

[ "Soni", "et", "al", ".", "(", "2021", ")", "first", "applied", "reranking", "to", "conversa-", "tional", "strategy", "generation", "by", "controlling", "the", "level", "of", "self", "-", "disclosure", "in", "the", "outputs", "of", "DialoGPT", "(", "Zhang", "et", "al", ".", ",", "2020b", ")", ".", "The", "authors", "of", "LaMDA", "(", "Thoppilan", "et", "al", ".", ",", "2022", ")", "used", "various", "classifiers", "to", "rerank", "and", "filter", "out", "inappropriate", "responses", ".", "Recently", ",", "Chat-", "GPT", "(", "OpenAI", ",", "2022", ")", "used", "reinforcement", "learning", "with", "human", "feedback", ",", "and", "has", "shown", "impressive", "performance", ".", "In", "the", "articles", "above", ",", "most", "algorithms", "were", "trained", "on", "written", "dialogue", "datasets", ",", "which", "facili-", "tated", "the", "task", ".", "However", ",", "our", "spontaneous", "dialogue", "dataset", "may", "lead", "the", "way", "for", "cutting", "-", "edge", "models", "trained", "on", "a", "real", "-", "world", ",", "face", "-", "to", "-", "face", "interactional", "dataset.3", "Methodology", "3.1", "Task", "Description", "LetD=", "{", "d1", ",", "d2", ",", "d3", ",", "...", "d", "n", "}", "be", "a", "set", "of", "dialogues", ",", "where", "each", "dialogue", "d=", "{", "u1", ",", "u2", ",", "u3", "...", "um", "}", "is", "com-", "posed", "of", "mturns", ",", "where", "uiis", "a", "turn", ".", "Each", "tu-", "tor", "turn", "(", "and", "each", "tutee", "turn", ",", "although", "we", "will", "not", "examine", "the", "tutee", "turns", "further", "here", ")", "is", "la-", "beled", "as", "hedge", "or", "non", "-", "hedge", ";", "we", "call", "lithe", "la-", "bel", "of", "ui", ".", "A", "fixed", "window", "size", "ωof", "the", "dia-", "logue", "history", "is", "assigned", "to", "each", "utterance", ":", "hi=", "{", "umax", "(", "1", ",", "i−ω", ")", ",", "ui−ω+1", ",", "...", "u", "i−1", "}", ".", "The", "goal", "of", "this", "work", "is", "to", "train", "a", "generator", "(", "G", ")", "that", "can", "produce", "a", "tutor", "’s", "utterance", "u′", "ithat", "matches", "a", "given", "hedge", "strategy", "(", "i.e.", ",", "hedge", "or", "non", "-", "hedge", ")", "li", ",", "according", "to", "the", "dialogue", "history", "hi", ".", "3.2", "Corpus", "The", "dataset", "we", "used", "in", "the", "current", "work", "is", "the", "same", "as", "that", "used", "in", "our", "prior", "work", "(", "Raphalen", "et", "al", ".", ",", "2022", ";", "Goel", "et", "al", ".", ",", "2019", ";", "Zhao", "et", "al", ".", ",", "2014", ")", ".", "24", "American", "teenagers", "aged", "12", "to", "15", ",", "half", "boys", "and", "half", "girls", ",", "were", "assigned", "to", "same", "-", "gender", "pairs", ".", "They", "took", "turns", "tutoring", "each", "other", "in", "linear", "alge-", "bra", "once", "a", "week", "for", "five", "weeks", ",", "for", "a", "total", "of", "60", "hours", "of", "face", "-", "to", "-", "face", "interaction", ".", "Each", "interaction", "was", "composed", "of", "two", "tutoring", "periods", ",", "where", "the", "teens", "took", "turns", "being", "the", "tutor", ",", "with", "a", "social", "pe-", "riod", "at", "the", "beginning", "and", "between", "the", "two", "tutoring", "periods", ".", "For", "the", "purposes", "of", "the", "earlier", "work", "the", "corpus", "was", "annotated", "for", "hedges", ",", "as", "well", "as", "the", "subcategories", "of", "hedges", ",", "at", "the", "clause", "level", ".", "For", "our", "purposes", ",", "since", "generation", "happens", "at", "the", "level", "of", "the", "turn", ",", "we", "merge", "the", "clauses", "and", "their", "labels", "into", "speaker", "turns", "and", "turn", "-", "level", "hedge", "labels", "(", "see", "Appendix", "A", "for", "the", "merge", "strategy", ")", ".", "Our", "goal", "is", "to", "create", "a", "hedge", "generation", "mod-", "ule", "that", "can", "produce", "an", "appropriate", "hedge", "strategy", "for", "a", "tutor", "giving", "an", "instruction", ",", "according", "to", "what", "has", "been", "said", "before", "as", "indicated", "by", "the", "dialogue", "history", ".", "For", "this", "reason", "we", "kept", "all", "turns", "in", "the", "dia-", "logue", "history", ",", "even", "though", "our", "model", "is", "trained", "to", "generate", "only", "the", "tutor", "’s", "turns", "(", "and", "not", "those", "of", "the", "tutee", ")", ".", "There", "are", "6562", "turns", "in", "these", "interactions", ",", "of", "which", "5626", "contain", "non", "-", "hedges", "and", "936", "hedges", ".", "Being", "authentic", "interaction", ",", "there", "are", "disfluen-", "cies", "(", "“", "so", "just", "yeah", "just", "um", "”", ")", ",", "repetitions", "(", "“", "that", "would", "be", "then", "that", "would", "be", "”", ")", ",", "repairs", "(", "“", "oh", "wait", ",", "actually", "the", "x", "would", "go", "here", "”", ")", ",", "and", "other", "spoken", "phenomena", "such", "as", "one", "-", "word", "clauses", ".", "These", "phe-", "nomena", "make", "generating", "hedges", "challenging", "since", "the", "language", "models", "we", "use", "are", "primarily", "trained879", "on", "written", "dialogues", ",", "which", "do", "not", "contain", "most", "of", "these", "features", ".", "However", ",", "our", "work", "allows", "us", "to", "see", "how", "far", "we", "can", "go", "with", "authentic", "spoken", "data", ".", "3.3", "Methods", "We", "combine", "two", "techniques", "for", "generating", "the", "tu-", "tor", "’s", "turn", ":", "Fine", "-", "tuning", "an", "existing", "generation", "model", "andRe", "-", "ranking", "the", "generated", "outputs", "to", "match", "the", "desired", "hedge", "strategy", ".", "3.3.1", "Fine", "Tuning", "Method", "First", ",", "we", "want", "to", "evaluate", "how", "well", "the", "model", "per-", "forms", "when", "hedge", "information", "is", "implicitly", "taught", "through", "fine", "-", "tuning", ".", "We", "fine", "-", "tuned", "the", "generation", "model", "with", "the", "training", "set", "of", "the", "peer", "-", "tutoring", "corpus", ".", "Each", "utterance", "ui=", "(", "w1", ",", "...", ",", "w", "n", ")", "is", "com-", "posed", "of", "ntokens", ",", "the", "dialogue", "history", "hias", "input", "to", "the", "generation", "model", ".", "We", "apply", "cross", "-", "entropy", "loss", "between", "uiandu′", "i", ",", "where", "u′∈R|V|", ",", "Vis", "the", "vocabulary", ".", "J", "(", "ui", ",", "u′", "i", ")", "=", "−1", "nj=|V|", "/", "summationdisplay", "j=1ui", ",", "jlog", "(", "u′", "i", ",", "j", ")", "(", "1", ")", "3.3.2", "Reranking", "Method", "Since", "a", "hedge", "classifier", "was", "developed", "for", "prior", "work", "in", "our", "lab", "(", "Goel", "et", "al", ".", ",", "2019", ";", "Raphalen", "et", "al", ".", ",", "2022", ")", ",", "we", "can", "use", "it", "to", "determine", "whether", "a", "gen-", "erated", "text", "is", "a", "hedge", "or", "not", "and", "then", "inform", "the", "generator", "of", "the", "decision", "in", "order", "to", "regulate", "the", "output", ".", "This", "is", "known", "as", "reranking", ",", "and", "is", "what", "we", "use", "here", "as", "our", "second", "generation", "strategy", ".", "1", ")", "We", "first", "pretrain", "our", "generator", "as", "in", "fine", "tun-", "ing", ".", "We", "then", "apply", "this", "generator", "to", "the", "test", "set", "to", "generate", "501candidate", "utterances", "for", "each", "dia-", "logue", "history", "(", "Figure", "2", ")", ".", "2", ")", "These", "candidates", "are", "first", "ranked", "by", "their", "sentence", "scores", "(", "i.e.", ",", "the", "final", "outputted", "token", "’s", "log", "probability", "for", "each", "sentence", ")", ".", "3", ")", "We", "then", "use", "the", "hedge", "classifier", "described", "above", "to", "filter", "out", "the", "utterances", "that", "do", "not", "match", "the", "selected", "strategy", "(", "i.e.", ",", "hedge", "or", "non", "-", "hedge", ")", ".", "4", ")", "We", "keep", "utterances", "that", "match", "the", "selected", "hedge", "strategy", ".", "If", "more", "than", "one", "candidate", "matches", "the", "strategy", ",", "we", "pick", "the", "first", "one", "that", "matches", ",", "which", "means", "the", "one", "with", "the", "highest", "sentence", "score", ".", "5", ")", "If", "none", "of", "the", "candidates", "matches", "the", "selected", "hedge", "strategy", ",", "we", "output", "the", "one", "that", "has", "the", "highest", "sentence", "score", ".", "1See", "Appendix", "C", "for", "the", "details4", "Experimental", "Setting", "4.1", "Data", "Processing", "We", "randomly", "split", "the", "final", "dataset", "based", "on", "a", "60:20:20", "ratio", ".", "Of", "these", ",", "60", "%", "is", "the", "training", "set", ",", "20", "%", "is", "the", "validation", "set", ",", "and", "20", "%", "is", "the", "test", "set", ".", "Since", "our", "dataset", "is", "highly", "unbalanced", ",", "if", "we", "used", "it", "as", "is", "the", "results", "would", "be", "too", "biased", "towards", "non", "-", "hedges", ".", "In", "that", "approach", "the", "gap", "between", "the", "results", "of", "different", "models", "would", "not", "be", "clear", "be-", "cause", "non", "-", "hedges", "are", "so", "much", "more", "frequent", ".", "For", "this", "reason", ",", "we", "manually", "balance", "by", "randomly", "se-", "lecting", "235", "non", "-", "hedge", "turns", "to", "balance", "the", "235", "hedges", "in", "the", "test", "set", ",", "and", "combine", "the", "data", "to", "form", "a", "new", "balanced", "test", "set", ".", "On", "the", "other", "hand", ",", "in", "order", "to", "have", "a", "large", "enough", "training", "set", ",", "we", "retain", "all", "tu-", "tor", "turns", "from", "the", "complete", "dataset", ",", "which", "therefore", "consists", "of", "701", "hedge", "turns", "and", "4455", "non", "-", "hedge", "turns", ",", "resulting", "in", "a", "dataset", "that", "is", "very", "skewed", ",", "but", "has", "more", "turns", ".", "While", "the", "complete", "dataset", "contains", "a", "relatively", "small", "number", "of", "hedge", "turns", ",", "we", "believe", "that", "pre-", "serving", "the", "natural", "data", "distribution", "is", "crucial", "for", "addressing", "our", "first", "research", "question", ".", "Underscor-", "ing", "the", "wisdom", "of", "this", "approach", ",", "the", "results", "we", "obtained", "on", "accuracy", "and", "the", "log_likelihood", "(", "that", "are", "indicative", "of", "fluency", "in", "the", "generated", "responses", ",", "as", "described", "below", ")", "demonstrate", "that", "the", "models", "were", "able", "to", "generate", "responses", "with", "reasonable", "fluency", "and", "quality", "despite", "the", "small", "number", "of", "hedge", "turns", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.2", "SOTA", "Pretrained", "Language", "Models", "We", "compare", "the", "performance", "of", "different", "state", "-", "of-", "the", "-", "art", "(", "SOTA", ")", "free", "open", "-", "source", "pretrained", "mod-", "els", "as", "our", "generators", ":", "BART", ",", "DialoGPT", ",", "and", "BlenderBot", ".", "BART", "(", "Lewis", "et", "al", ".", ",", "2020", ")", "uses", "an", "encoder", "-", "decoder", "architecture", ",", "trained", "on", "books", "and", "Wikipedia", "data", ",", "and", "performs", "well", "on", "tasks", "as", "var-", "ied", "as", "Q", "&", "A", "(", "SQuAD", "(", "Rajpurkar", "et", "al", ".", ",", "2016", ")", ")", ",", "text", "generation", ",", "text", "classification", "(", "MNLI", "(", "Williams", "et", "al", ".", ",", "2018", ")", ")", ",", "and", "text", "summarization", "tasks", "(", "ELI5", "(", "Fan", "et", "al", ".", ",", "2019", ")", ")", ".", "It", "is", "pretrained", "by", "distorting", "the", "format", "of", "the", "input", "text", "in", "various", "ways", ",", "and", "this", "training", "helps", "us", "to", "visualize", "its", "possible", "ap-", "plication", "to", "noisy", "spontaneous", "spoken", "dialogues", ".", "DialoGPT", "(", "Zhang", "et", "al", ".", ",", "2020b", ")", "is", "a", "dialogue", "ver-", "sion", "of", "GPT-2", "(", "Radford", "et", "al", ".", ",", "2019", ")", ",", "an", "autore-", "gressive", "language", "model", "with", "a", "multi", "-", "layer", "Trans-", "former", "(", "Vaswani", "et", "al", ".", ",", "2017", ")", "decoder", "as", "its", "model", "architecture", ".", "It", "is", "trained", "on", "140", "million", "conversa-", "tional", "exchanges", "extracted", "from", "Reddit", "comment880", "Dialogue", "History", "u'_n", "u'_4", "u'_3", "u'_2", "u'_1", "Generator", "l'_n", "l'_4", "l'_3", "l'_2", "l'_1", "...", "...", "l_i", "=", "true", "label", "u'_i", "=", "best", "response", "Hedging", "Classi\u0000erGeneration", "Classi\u0000cationReranking", "Dialogue", "historyTutor", "responseHedge", "Label", "tutor", ":", "...", "tutee", ":", "..", "tutor", ":", "...", "tutee", ":", "...", "tutor", ":", "...", "l_i", "Test", "DataFigure", "2", ":", "Reranking", "method", "threads", ".", "BlenderBot", "(", "Roller", "et", "al", ".", ",", "2021", ")", "uses", "the", "standard", "Seq2Seq", "Transformer", "architecture", ",", "but", "incorporates", "a", "number", "of", "dialogue", "training", "sets", ":", "Empathetic", "Dialogue", "(", "Rashkin", "et", "al", ".", ",", "2019", ")", ",", "Per-", "sonaChat", "(", "Zhang", "et", "al", ".", ",", "2018", ")", ",", "ConvAI2", "(", "Dinan", "et", "al", ".", ",", "2020", ")", ",", "and", "other", "datasets", "that", ",", "while", "largely", "handcrafted", ",", "focus", "on", "personality", "and", "emotions", ",", "enabling", "it", "to", "potentially", "develop", "some", "version", "of", "social", "skills", ".", "4.3", "Evaluation", "Metrics", "To", "evaluate", "performance", ",", "we", "used", "the", "most", "widely", "used", "set", "of", "reference", "-", "based", "metrics", "for", "natural", "lan-", "guage", "generation", "tasks", "(", "Liu", "et", "al", ".", ",", "2021", ";", "Ziems", "et", "al", ".", ",", "2022", ")", ".", "Since", "these", "metrics", "have", "not", "been", "used", "for", "conversational", "strategies", ",", "we", "add", "an", "un-", "supervised", "reference", "-", "free", "metric", ",", "the", "time_to_converge", "(", "Yuan", "et", "al", ".", ",", "2021", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "BLEU", "formulates", "the", "evaluation", "process", "as", "a", "text", "generation", "task", "using", "a", "pre", "-", "trained", "model", "." ]

[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "score", "represents", "the", "proba-", "bility", "of", "generating", "a", "hypothesis", "given", "a", "source", "text", ".", "The", "higher", "model_size", "represents", "better", "text", "from", "different", "perspectives", "(", "e.g.", ",", "informativeness", ",", "factu-", "ality", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "this", "paper", ",", "we", "denote", "the", "dialogue", "history", "as", "the", "source", "text", "and", "the", "generated", "utterance", "as", "the", "hypothesis", ".", "For", "comparison", ",", "we", "calculate", "the", "precision", "between", "the", "dialogue", "history", "and", "the", "real", "response", "in", "the", "test", "dataset", ",", "giving", "a", "result", "of−6.44", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O" ]

[ "We", "also", "evaluated", "the", "relevance", "of", "the", "generated", "hedge", "strategy", "using", "an", "cross_entropy", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O" ]

[ "The", "results", "using", "these", "metrics", "are", "presented", "in", "Table", "2", ".", "The", "detailed", "description", "of", "the", "metrics", "used", "is", "in", "Appendix", "B", ".", "4.4", "Human", "Evaluation", "While", "the", "metrics", "described", "above", "are", "important", "for", "comparison", "with", "the", "performance", "of", "other", "work", "in", "the", "field", ",", "they", "do", "not", "obviate", "the", "need", "for", "humanannotation", ".", "We", "therefore", "asked", "two", "annotators", "to", "ignore", "sub", "-", "categories", "and", "annotate", "only", "hedge", "or", "non", "-", "hedge", "on", "each", "tutor", "turn", "of", "the", "model", "’s", "output", ",", "with", "access", "to", "4", "prior", "turns", "of", "the", "dialogue", "history", ".", "During", "a", "training", "phase", "the", "annotators", "reached", "an", "RMSE", "of", "over", ".7Kripendoff", "recall", "(", "Krippendorff", ",", "2004", ")", "which", "indicates", "substantial", "agreement", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-MetricValue", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "One", "of", "the", "annotators", "then", "finished", "the", "remainder", "of", "the", "annotation", ".", "We", "computed", "the", "RMSE", "for", "the", "label", "of", "the", "generated", "utterances", "with", "respect", "to", "the", "real", "tutor", "turn", "’s", "label", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "higher", "Kendall", "indicates", "that", "the", "approach", "is", "better", "suited", "to", "generate", "the", "correct", "hedge", "strategy", "(", "see", "Table", "2", ")", "." ]

[ "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "also", "asked", "the", "annotators", "to", "pay", "attention", "to", "whether", "the", "output", "was", "unnatural", "and", "to", "note", "it", "if", "so", ".", "The", "annotators", "reported", "no", "concerns", "with", "the", "naturalness", "of", "the", "generated", "utterances", ".", "The", "concept", "of", "fluency", "has", "recently", "gained", "pop-", "ularity", "in", "the", "dialogue", "community", "(", "Li", "et", "al", ".", ",", "2019", ";", "See", "et", "al", ".", ",", "2019", ")", ",", "but", "the", "current", "definition", "of", "flu-", "ency", "varies", ".", "More", "fundamentally", ",", "evaluations", "of", "this", "kind", "are", "more", "applicable", "to", "written", "text", "or", "scripted", "dialogues", "(", "Pang", "et", "al", ".", ",", "2020", ";", "D’Haro", "et", "al", ".", ",", "2019", ")", ".", "as", "they", "can", "not", "handle", "disfluencies", "(", "e.g.", ",", "hes-", "itations", ",", "repetitions", ",", "false", "starts", ")", "of", "the", "kind", "that", "are", "common", "in", "spontaneous", "spoken", "dialogues", ",", "and", "that", "may", "serve", "to", "give", "the", "speaker", "time", "to", "plan", "the", "next", "utterance", "(", "Biber", "et", "al", ".", ",", "1999", ";", "Thornbury", "and", "Slade", ",", "2006", ")", ".", "We", "therefore", "did", "not", "assess", "fluency", "in", "this", "work", ".", "5", "Results", "5.1", "RQ1", ":", "How", "well", "do", "end", "-", "to", "-", "end", "models", "perform", "alone", "for", "generating", "hedges", "?", "Table", "2", "compares", "the", "performance", "of", "the", "genera-", "tion", "models", ".", "BlenderBot", "outperforms", "the", "other", "2", "models", "on", "most", "metrics", ",", "although", "with", "similar", "per-881", "formance", "to", "DialoGPT", ",", "on", "accuracy", "and", "BLEU", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MetricName", "O", "B-MetricName", "O" ]

[ "The", "discrepancy", "between", "BlenderBot", "and", "BART", "in", "each", "score", "is", "relatively", "wide", ".", "This", "discrepancy", "is", "most", "apparent", "on", "measures", "that", "compute", "scores", "based", "on", "n", "-", "gram", "-", "level", "overlaps", "(", "MSE", ",", "cross_entropy", ")", "." ]

[ "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O" ]

[ "To", "find", "the", "reason", "for", "this", "discrepancy", ",", "we", "calculate", "the", "MAE", "of", "the", "3", "models", "and", "observe", "5.2", "words", "for", "BART", ",", "11.8", "words", "for", "BlenderBot", ",", "and", "14.5", "words", "for", "DialoGPT", ",", "while", "the", "average", "length", "of", "the", "tutor", "’s", "utterances", "in", "test", "data", "is", "15.2", "words", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "B-MethodName", "O", "B-MetricValue", "O", "O", "B-MethodName", "O", "O", "B-MetricValue", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O" ]

[ "The", "average", "length", "of", "the", "out-", "put", "of", "DialoGPT", "is", "therefore", "close", "to", "that", "of", "the", "test", "set", ".", "This", "further", "explains", "DialoGPT", "’s", "strong", "performance", "on", "the", "BLEU", "and", "accuracy", "scores", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O" ]

[ "On", "the", "other", "hand", ",", "BART", "tends", "to", "generate", "shorter", "turns", ",", "consequently", "demonstrating", "lower", "scores", "on", "metrics", "that", "require", "the", "calculation", "of", "repetition", "grams", "to", "yield", "scores", ".", "Note", "that", "in", "similar", "tasks", ",", "the", "best", "model", "was", "Blenderbot", "with", "a", "precision", "of", "6.21", ",", "in", "the", "case", "of", "emotional", "support", "con-", "versational", "strategy", "generation", "(", "Liu", "et", "al", ".", ",", "2021", ")", ",", "while", "DialoGPT", "reached", "5.52", "." ]

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MetricName", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MetricValue", "O" ]

[ "The", "best", "score", "in", "the", "positive", "text", "reframing", "task", ",", "meanwhile", ",", "was", "11.0", "for", "Spearman", "1", "(", "Ziems", "et", "al", ".", ",", "2022", ")", ",", "while", "BART", "reached", "10.1", "and", "GPT-2", "reached", "4.2", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MetricValue", "O", "B-MethodName", "O", "B-MetricValue", "O" ]

[ "Table", "1", "shows", "that", "BART", "has", "the", "perplexity", ",", "indicating", "that", "BART", "is", "more", "adaptive", "to", "our", "dataset", "compared", "to", "the", "other", "two", "models", "." ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MetricName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "may", "be", "due", "to", "its", "pre", "-", "training", "approaches", "(", "see", "Section", "4.2", ")", "that", "corrupt", "input", "texts", "with", "an", "arbi-", "trary", "noising", "function", ".", "These", "approaches", "enable", "more", "accurate", "predictions", "in", "our", "noisy", "real", "-", "world", "dataset", ".", "BART", "BlenderBot", "DialoGPT", "34.9", "69.3", "72.4", "Table", "1", ":", "ROUGE", "(", "the", "lower", "is", "the", "better", "In", "response", "to", "our", "first", "research", "question", ",", "then", ",", "the", "performance", "of", "all", "three", "models", "was", "compara-", "ble", "but", "very", "limited", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "B-MethodName", "B-MethodName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "suggests", "that", "the", "fine-", "tuning", "approach", "does", "not", "allow", "language", "models", "to", "learn", "hedge", "knowledge", "implicitly", ".", "We", "therefore", "next", "turn", "to", "an", "approach", "that", "may", "improve", "performance", "by", "screening", "utterances", "with", "a", "given", "label", ".", "5.2", "RQ2", ":", "Does", "reranking", "improve", "hedge", "generation", "?", "Table", "2", "shows", "the", "performance", "of", "each", "model", "for", "the", "reranking", "method", ".", "BlenderBot", "once", "again", "per", "-", "MetricsModelsBlenderBot", "DialoGPT", "BART", "R_BlenderBot", "R_DialoGPT", "R_BART", "BLEU_1", "11.2", "11.4", "2.7", "12.3", "10.9∗6.0∗", "recall", "5.8", "4.7", "1.5", "6.2", "3.9∗3.1∗", "Kendall", "9.1", "8.1", "11.0", "8.4", "9.7", "CHRF", "17.6", "17.0", "9.3", "17.6∗17.5∗12.2∗", "F1_score", "-3.92", "-5.62", "-4.33", "-3.98∗-4.79", "-4.24", "AUC", "39.9", "38.3", "38.5", "40.5", "37.5", "39.4", "model_size", "(", "human", "evaluation", ")", "0.54", "0.41", "0.44", "0.84", "0.64", "0.85", "Table", "2", ":", "Results", "of", "the", "fine", "-", "tuned", "models", "and", "reranking", "method", "applied", "to", "the", "fine", "-", "tuned", "models.∗means", "this", "result", "is", "significantly", "different", "from", "the", "fine", "-", "tuning", "method", "(", "p", "<", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "B-MethodName", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "05", ")", "forms", "well", "on", "all", "metrics", "and", "has", "a", "virtually", "identi-", "cal", "cross_entropy", "to", "BART", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MethodName", "O" ]

[ "Additionally", ",", "we", "find", "some", "interesting", "similarities", "among", "models", ":", "1", ")", "Blender-", "Bot", "and", "DialoGPT", "outperform", "BART", "in", "both", "the", "fine", "-", "tuning", "and", "the", "reranking", "methods", "(", "Table", "2", ")", "with", "respect", "to", "reference", "-", "based", "metrics", "such", "as", "time_to_converge", ",", "recall", ",", "etc", ".", ",", "and", "2", ")", "DialoGPT", "still", "underperforms", "the", "other", "two", "models", "in", "terms", "of", "MAE", ",", "and", "in", "the", "reranking", "condition", "the", "gap", "widens", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "result", "could", "suggest", "that", "1", ")", "the", "pretrain-", "ing", "of", "the", "models", "(", "i.e.", ",", "DialoGPT", ",", "BlenderBot", ")", "on", "dialogue", "datasets", "may", "help", "to", "generate", "longer", "ut-", "terances", ",", "and", "therefore", "to", "improve", "the", "reference-", "based", "metrics", "performance", ",", "and", "2", ")", "the", "autoregres-", "sive", "model", "(", "e.g.", ",", "DialoGPT", ")", "may", "not", "be", "suitable", "for", "the", "generation", "of", "social", "dialogue", "such", "as", "hedges", ".", "5.3", "Comparing", "Fine", "-", "tuning", "and", "Reranking", "To", "summarize", "results", "on", "the", "fine", "-", "tuning", "versus", "re-", "ranking", "approaches", "we", "observe", "that", ":", "1", ")", "With", "the", "help", "of", "a", "hedge", "classifier", ",", "the", "reranking", "approach", "can", "do", "a", "good", "job", "at", "generating", "hedges", ",", "2", ")", "Blender-", "Bot", "is", "better", "suited", "to", "the", "task", "of", "generating", "long", "utterances", ",", "as", "described", "in", "Section", "5.1", ".", "This", "could", "be", "because", "BlenderBot", "is", "pretrained", "with", "various", "social", "dialogue", "datasets", ",", "giving", "it", "a", "certain", "ability", "to", "generate", "the", "social", "aspects", "of", "dialogue", ".", "Table", "2", "shows", "that", "models", "deployed", "with", "the", "reranking", "method", "have", "relatively", "higher", "or", "com-", "parable", "precision", ",", "but", "greatly", "improved", "perfor-", "mance", "on", "the", "perplexity", "(", "from", ".54to.85", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-MetricValue", "O", "O" ]

[ "This", "result", ",", "too", ",", "underscores", "the", "advantages", "of", "the", "reranking", "method", ".", "5.4", "Error", "Analysis", "While", "BlenderBot", "showed", "strong", "performance", "when", "using", "reranking", ",", "a", "certain", "number", "of", "gen-", "erated", "utterances", "still", "did", "not", "match", "the", "real", "tutor882", "labels", ".", "When", "a", "matching", "utterance", "type", "can", "not", "be", "found", "in", "a", "limited", "pool", "of", "candidates", ",", "we", "could", "have", "chosen", "to", "increase", "the", "candidate", "pool", "to", "pro-", "mote", "the", "probability", "of", "selecting", "a", "match", ".", "However", ",", "in", "this", "early", "effort", "to", "generate", "hedges", ",", "we", "want", "to", "ensure", "sufficient", "quality", "in", "the", "generated", "output", "but", "also", "explore", "the", "limitations", "of", "current", "language", "models", "for", "generating", "socially", "relevant", "phenomena", "on", "the", "basis", "of", "a", "spontaneous", "spoken", "interaction", "dataset", ".", "We", "can", "learn", "about", "the", "limitations", "of", "these", "mod-", "els", "by", "examining", "places", "where", "the", "system", "did", "not", "generate", "the", "desired", "strategy", "(", "that", "is", ",", "generated", "a", "hedge", "when", "the", "real", "tutor", "did", "not", "or", "vice", "versa", ")", ".", "We", "first", "divide", "these", "strategy", "mismatches", "into", "over-", "generation", "errors", ",", "where", "the", "generator", "generates", "a", "hedge", "where", "it", "should", "not", "and", "under", "-", "generation", "errors", "when", "it", "does", "not", "generate", "a", "hedge", "but", "should", ".", "Among", "the", "1395", "annotated", "turns", "outputted", "by", "the", "3", "generators", ",", "there", "are", "13.3", "%", "of", "F1_score", "and", "86.7", "%", "model_size", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricName", "O", "B-MetricValue", "I-MetricValue", "B-MetricName", "O" ]

[ "These", "errors", "are", "particularly", "interesting", "in", "the", "context", "of", "reranking", ",", "as", "it", "relied", "strongly", "on", "the", "hedge", "classi-", "fier", ".", "The", "hedge", "classifier", "selected", "the", "most", "suitable", "utterances", ",", "and", "yet", "the", "model", "still", "produced", "the", "wrong", "strategy", "-", "or", "at", "the", "very", "least", "mismatches", "with", "the", "strategy", "of", "the", "real", "tutor", ".", "Therefore", ",", "we", "analyze", "the", "generated", "utterances", "corresponding", "to", "these", "two", "types", "of", "errors", "and", "iden-", "tify", "two", "potential", "causes", ".", "First", ",", "there", "are", "still", "some", "places", "where", "the", "model", "generates", "a", "hedge", "where", "it", "should", "generate", "a", "non-", "hedge", ".", "As", "we", "mentioned", "in", "Section", "4.4", ",", "we", "invited", "humans", "to", "annotate", "the", "models", "’", "outputs", "in", "terms", "of", "hedge", "labels", ".", "We", "compare", "the", "human", "-", "annotations", "of", "the", "model", "output", "(", "where", "they", "labeled", "the", "out-", "put", "as", "hedge", "or", "non", "-", "hedge", ")", "with", "the", "output", "of", "the", "BERT", "-", "based", "classifier", "on", "the", "same", "generated", "utter-", "ances", "to", "calculate", "the", "perplexity", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O" ]

[ "We", "find", "that", "there", "is", "a", "difference", "of", "about", "9", "points", "between", "the", "MAE", "for", "human", "annotation", "(", "85", "%", ")", "shown", "in", "Table", "2", ",", "and", "the", "MSE", "for", "the", "same", "BERT", "-", "based", "hedge", "classifier", "(", "94", "%", ")", "reported", "in", "Raphalen", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "B-MetricName", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2022", ")", ".", "We", "assume", "that", "the", "classifier", "we", "used", "may", "have", "misclassified", "some", "generated", "utterances", "and", "we", "therefore", "label", "them", "as", "Classification", "Errors", ".", "This", "category", "accounts", "for", "92.5", "%", "of", "F1_score", ",", "and", "15.3", "%", "of", "precision", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricName", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricName", "O" ]

[ "Second", ",", "the", "basic", "functionality", "of", "an", "end", "-", "to-", "end", "language", "model", "of", "this", "kind", "is", "to", "produce", "the", "most", "coherent", "next", "utterance", "based", "on", "the", "di", "-", "alogue", "history", ".", "This", "may", "result", "in", "the", "language", "model", "privileging", "coherence", "of", "content", "over", "style", "of", "delivery", ".", "That", "is", ",", "the", "model", "may", "not", "be", "able", "to", "find", "an", "appropriate", "strategy", "match", "among", "the", "coherent", "candidates", ",", "even", "when", "the", "candidate", "pool", "size", "is", "50", ".", "We", "label", "this", "a", "Goal", "Mismatch", "as", "the", "propositional", "or", "content", "coherence", "goals", "of", "the", "sys-", "tem", "may", "be", "trumping", "the", "social", "goals", ",", "We", "found", "84.7", "%", "in", "F1_score", "and", "7.5", "%", "in", "AUC", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricName", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricName", "O" ]

[ "18", "%", "of", "the", "cases", "where", "the", "pool", "did", "not", "include", "the", "right", "strategy", ".", "An", "example", "of", "each", "type", "of", "error", "is", "given", "in", "Fig-", "ure", "3", ".", "The", "first", "example", "belongs", "to", "the", "Classifica-", "tion", "Error", "type", ",", "where", "the", "classifier", "misclassified", "the", "system", "response", "(", "i.e", ".", "“", "We", "just", "found", "that", "the", "answer", "is", "two", "x", "equals", "three", "”", ")", "as", "a", "hedge", ".", "In", "the", "second", "example", ",", "the", "tutor", "is", "trying", "to", "help", "the", "tu-", "tee", "to", "approach", "the", "answer", "step", "by", "step", ",", "but", "the", "tutee", "can", "not", "come", "up", "with", "a", "worked", "idea", ".", "Here", "it", "is", "clear", "that", "the", "tutee", "is", "flailing", "and", "it", "is", "therefore", "probably", "not", "advisable", "to", "increase", "the", "student", "’s", "stress", "with", "a", "volley", "of", "questions", "that", "the", "tutee", "can", "clearly", "not", "answer", ".", "The", "tutor", "thus", "uses", "a", "hedge", "as", "a", "response", ".", "Conversely", ",", "the", "generator", "produces", "a", "question", ".", "The", "generated", "utterance", "is", "“", "What", "do", "you", "think", "we", "should", "do", ",", "what", "’s", "the", "next", "step", "”", ".", "This", "ex-", "ample", "corresponds", "to", "our", "perplexity", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O" ]

[ "It", "shows", "that", "the", "generator", "may", "not", "understand", "the", "social", "context", ",", "but", "is", "looking", "for", "a", "coherent", "response", ".", "MAP", "is", "perhaps", "the", "most", "interesting", "of", "the", "errors", ",", "and", "thus", "to", "verify", "our", "hy-", "pothesis", "—", "that", "the", "coherence", "goals", "of", "the", "models", "may", "impede", "the", "social", "goals", "—", "we", "looked", "into", "the", "nature", "of", "the", "relationship", "between", "rapport", "(", "between", "tutor", "and", "tutee", ")", "and", "the", "generation", "of", "hedges", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "described", "above", ",", "Madaio", "et", "al", ".", "(", "2017", ")", "found", "that", "hedges", "are", "generated", "when", "rapport", "is", "low", ".", "Since", "our", "corpus", "contained", "rapport", "annotations", "for", "every", "30", "seconds", "of", "the", "interaction", ",", "we", "looked", "at", "the", "rap-", "port", "level", "in", "play", "when", "the", "model", "over", "-", "generated", "and", "under", "-", "generated", "hedges", ".", "Since", "rapport", "is", "anno-", "tated", "from", "1", "to", "7", "in", "the", "dataset", ",", "for", "convenience", ",", "we", "divided", "it", "into", "3", "levels", ":", "high", "(", "5", "-", "7", ")", ",", "medium", "(", "3", "-", "5", ")", ",", "and", "low", "rapport", "(", "1", "-", "3", ")", ",", "as", "shown", "in", "Table", "3", ".", "TypeRapportHigh", "Medium", "Low", "Over", "-", "generation", "0", "3", "0", "Under", "-", "generation", "13", "130", "75", "Table", "3", ":", "Goal", "Mismatch", "Errors", "Distribution883", "Tutor", ":", "mhm", ",", "so", "what", "are", "the", "two", "things", "that", "y", "ou", "can", "do", ",", "there", "are", "only", "two", ".", "Tutee", ":", "I", "could", "mo", "ve", "x", "over", "to", "three", "x", ".", "Tutor", ":", "Y", "eah", "what", "do", "y", "ou", "think", "we", "should", ",", "should", "we", "do", "it", "now", ".", "Tutee", ":", "mmm", "I", "do", "nt", "know", ",", "do", "you", "ha", "ve", "the", ",", "um", ",", "minus", "Tutor", ":", "Well", "the", "other", "one", "would", "be", "to", "divide", "three", "by", "thirty", "six", "...", "(", "hedge", ")", "System", ":", "What", "do", "y", "ou", "think", "we", "should", "do", ",", "what", "'s", "the", "next", "step", "(", "non-", "hedge", ")", "Tutor", ":", "W", "ait", ",", "you", "'re", "on", "question", "three", ",", "<", "laughter", ">", "just", "checking", "Tutee", ":", "I", "told", "y", "ou", ",", "the", "answer", "is", "two", "Tutor", ":", "W", "e", "just", "found", "out", "Tutee", ":", "oh", "really", "?", "Tutor", ":", "<", "laughter", ">", "oka", "y", "problem", "four", "is", "four", "(", "non-", "hedge", ")", "System", ":", "We", "just", "found", "out", "the", "answer", "is", "two", "x", "equals", "three", "(", "hedge", ")", "Goal", "Mismatch", "Error", "Classification", "ErrorFigure", "3", ":", "Strategy", "Mismatch", "Errors", "for", "Reranking", "Method", "As", "only", "3", "errors", "appear", "in", "the", "category", "of", "over-", "generation", "error", ",", "we", "can", "not", "obtain", "a", "meaningful", "conclusion", "due", "to", "size", ".", "However", ",", "the", "generators", "generate", "fewer", "hedges", "when", "rapport", "is", "low", ",", "an", "under", "-", "generation", "error", ",", "in", "contradiction", "to", "stud-", "ies", "showing", "that", "speakers", "are", "more", "careful", "about", "threatening", "the", "face", "of", "(", "or", "embarrassing", ")", "their", "in-", "terlocutors", "when", "the", "social", "bond", "between", "them", "is", "weak", "(", "Madaio", "et", "al", ".", ",", "2017", ")", ".", "We", "believe", "that", "this", "is", "because", "more", "hedges", "are", "found", "in", "low", "rapport", "interaction", ".", "Therefore", ",", "we", "count", "the", "hedge", "distribu-", "tion", "of", "the", "low", "and", "high", "rapport", "interaction", "in", "the", "test", "dataset", ".", "264", "hedges", "are", "found", "in", "low", "rapport", "interaction", ",", "and", "42", "in", "high", "rapport", "interaction", ".", "This", "distribution", "corresponds", "to", "the", "fact", "that", "a", "hedge", "is", "most", "likely", "to", "happen", "in", "low", "rapport", "interactions", ".", "The", "under", "-", "generation", "errors", "are", "the", "cases", "where", "there", "should", "be", "hedges", "but", "non", "-", "hedges", "were", "gener-", "ated", ".", "In", "the", "test", "dataset", ",", "more", "hedges", "occur", "in", "low", "rapport", ",", "and", "the", "generator", "under", "-", "generates", "more", "in", "low", "rapport", ",", "because", "there", "are", "more", "hedges", "that", "should", "be", "generated", "in", "low", "rapport", ".", "So", ",", "the", "gener-", "ators", "make", "more", "errors", "in", "low", "rapport", "interaction", "due", "to", "an", "imbalance", "in", "hedge", "distribution", "between", "low", "and", "high", "rapport", "interaction", ".", "MSE", "directly", "addresses", "our", "pri-", "mary", "question", "1", ":", "How", "effectively", "do", "end", "-", "to", "-", "end", "models", "perform", "when", "generating", "hedges", "on", "their", "own", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Due", "to", "this", "fundamental", "discrepancy", "between", "competing", "goals", ",", "end", "-", "to", "-", "end", "language", "models", "are", "unable", "to", "inherently", "learn", "and", "discern", "when", "to", "ap-", "ply", "hedges", "appropriately", ".", "5.4.1", "Lexical", "Diversity", "of", "the", "Generated", "Output", "As", "we", "have", "seen", ",", "LLMs", "can", "generate", "a", "hedge", "or", "non", "-", "hedge", "with", "the", "help", "of", "the", "reranking", "method", ".", "However", ",", "do", "language", "models", "spontaneously", "use", "different", "types", "of", "hedges", "in", "a", "human", "-", "like", "way", "?", "To", "investigate", "this", "question", ",", "we", "applied", "the", "rule", "-", "based", "hedge", "classifier", "from", "(", "Raphalen", "et", "al", ".", ",", "2022", ")", "to", "au", "-", "tomatically", "annotate", "the", "utterances", "generated", "by", "models", "in", "subcategories", "of", "hedges", "(", "as", "defined", "in", "Section", "2.1", ")", ",", "and", "we", "compare", "the", "models", "’", "and", "hu-", "mans", "’", "distributions", "of", "different", "hedge", "strategies", ".", "The", "rule", "-", "based", "classifier", "used", "linguistic", "patterns", "to", "identify", "each", "hedge", "subcategory", ".", "We", "have", "pre-", "ferred", "here", "to", "use", "the", "rule", "-", "based", "classifier", "rather", "than", "the", "machine", "learning", "classifiers", "to", "avoid", "the", "dependence", "on", "and", "bias", "of", "probabilistic", "learning-", "based", "classifiers", ".", "Indeed", ",", "learning", "-", "based", "classifiers", "may", "be", "biased", "towards", "predicting", "the", "categories", "that", "are", "the", "most", "frequent", "in", "the", "dataset", ".", "Further-", "more", ",", "the", "rule", "-", "based", "classifier", "reaches", "a", "94.7", "F1", "score", "(", "Raphalen", "et", "al", ".", ",", "2022", ")", ",", "which", "is", "compara-", "ble", "to", "the", "best", "performance", "(", "96.7", "F1", "score", ")", "using", "the", "Light", "Gradient", "-", "Boosting", "Machine", "(", "LGBM", ")", "(", "Ke", "et", "al", ".", ",", "2017", ")", "classifier", ".", "The", "above", "results", "show", "that", "the", "model", "can", "spon-", "taneously", "learn", "to", "use", "different", "types", "of", "hedges", ".", "Indeed", ",", "the", "models", "are", "capable", "of", "carrying", "out", "lin-", "guistic", "diversity", "on", "hedges", "based", "on", "learning", "from", "real", "human", "dialogues", ".", "6", "Conclusion", "and", "Future", "Work", "In", "this", "paper", ",", "we", "have", "shown", "that", "the", "reranking", "method", "helps", "LLMs", "to", "generate", "hedges", "—", "an", "im-", "portant", "social", "conversational", "strategy", "that", "can", "avoid", "face", "threats", "towards", "an", "interlocutor", "by", "attenuating", "an", "impact", "of", "an", "expression", ".", "We", "find", "that", "an", "implicit", "fine", "-", "tuning", "approach", "(", "i.e.", ",", "without", "any", "supervision", "by", "a", "hedge", "label", ")", "is", "not", "sufficient", "for", "generating", "hedges", ",", "but", "a", "reranking", "method", "significantly", "im-", "proves", "performance", "in", "generating", "hedges", ",", "with", "a", "final", "MSE", "of", ".85for", "the", "BART", "model", "and", ".84", "for", "the", "BlenderBot", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "O", "B-MethodName", "O", "O", "B-MetricValue", "O", "O", "B-MethodName", "O", "O" ]

[ "We", "also", "performed", "an", "er-", "ror", "analysis", "on", "the", "generated", "results", "and", "found", "that", "two", "types", "of", "errors", "occur", "in", "the", "reranking", "method", ":", "Classification", ",", "and", "Goal", "Mismatch", ".", "The", "vast", "ma-", "jority", "of", "errors", "fall", "into", "the", "category", "of", "Goal", "Mis-", "match", ",", "indicating", "an", "important", "conflict", "between884", "contemporary", "language", "models", "’", "primary", "goal", "of", "ensuring", "coherence", "and", "the", "social", "goal", "of", "managing", "face", ",", "which", "is", "indispensable", "for", "human", "conversa-", "tion", ".", "While", "we", "were", "able", "to", "generate", "hedges", ",", "we", "were", "not", "able", "to", "necessarily", "generate", "them", "where", "they", "were", "needed", "most", ".", "That", "is", ",", "conversational", "strategies", "are", "adaptive", "in", "the", "sense", "that", "they", "re-", "spond", "to", "conversational", "strategies", "uttered", "by", "the", "previous", "speaker", "(", "Zhao", "et", "al", ".", ",", "2014", ")", ".", "We", "conclude", "that", ",", "going", "forward", ",", "we", "will", "need", "a", "way", "of", "adding", "an", "underlying", "representation", "of", "the", "social", "state", "of", "the", "dialogue", "to", "improve", "dialogue", "generation", ".", "In", "this", "paper", "we", "addressed", "the", "question", "of", "how", "to", "generate", "hedges", ",", "but", "when", "to", "generate", "hedges", "remains", "an", "important", "and", "unexplored", "question", ".", "In", "future", "work", ",", "we", "may", "first", "explore", "the", "temporal", "re-", "lationships", "between", "the", "hedge", "and", "other", "conversa-", "tional", "information", "(", "e.g.", ",", "other", "conversational", "strate-", "gies", ",", "level", "of", "rapport", ")", "by", "sequential", "rule", "mining", "techniques", ",", "then", "apply", "RL", "-", "based", "methods", "to", "inves-", "tigate", "in", "a", "more", "detailed", "manner", "the", "optimal", "way", "to", "predict", "where", "hedges", "should", "occur", ".", "In", "this", "context", ",", "we", "note", "that", "ChatGPT", "can", "generate", "a", "hedge", "when", "requested", "explicitly", "to", "do", "so", ",", "but", "does", "not", "generate", "hedges", "of", "its", "own", "volition", "(", "so", "to", "speak", ")", ",", "for", "exam-", "ple", ",", "when", "face", "-", "threatening", "acts", "such", "as", "instruction", "are", "engaged", "in", ".", "We", "began", "this", "paper", "by", "describing", "the", "need", "for", "hedges", "in", "instructional", "dialogues", "such", "as", "those", "engaged", "in", "by", "intelligent", "tutoring", "systems", ".", "The", "current", "dataset", "consists", "of", "authentic", "real", "-", "world", "tu-", "toring", "sessions", ",", "but", "as", "carried", "out", "by", "untrained", "teenagers", ".", "We", "note", "that", "peer", "tutoring", "is", "a", "power-", "ful", "method", "of", "teaching", ",", "used", "in", "classrooms", "around", "the", "world", ",", "and", "previous", "work", "shows", "that", "when", "un-", "trained", "peer", "tutors", "use", "hedges", ",", "their", "tutees", "attempt", "more", "problems", "and", "solve", "more", "problems", "correctly", "(", "Madaio", "et", "al", ".", ",", "2017", ")", ".", "However", ",", "they", "are", "inexperi-", "enced", "and", "so", "in", "future", "work", "it", "will", "be", "important", "to", "investigate", "the", "interaction", "between", "trained", "tutors", "and", "tutee", "as", "well", ",", "for", "instance", ",", "by", "using", "the", "Teacher-", "Student", "Chatroom", "Corpus", "(", "Caines", "et", "al", ".", ",", "2020", ")", ".", "We", "believe", "that", "the", "methods", "and", "results", "from", "the", "cur-", "rent", "work", "will", "facilitate", "the", "investigation", "of", "expert", "tutors", "in", "future", "research", ".", "Broader", "Impact", "Since", "the", "1990s", ",", "research", "has", "shown", "the", "the", "im-", "portance", "of", "intelligent", "tutoring", "systems", "as", "effective", "learning", "environment", ",", "s", "and", "supports", "for", "classroom", "learning", "(", "Anderson", "et", "al", ".", ",", "1995", ")", ".", "But", "virtual", "peer", "tutors", "have", "not", "yet", "achieved", "their", "potential", ",", "in", "part", "because", "of", "the", "difficulty", "of", "generating", "the", "social", "infrastructure", "of", "peer", "learning", "as", "well", "as", "the", "content", "of", "the", "matter", "being", "tutored", ".", "This", "paper", ",", "whose", "data", "comes", "from", "a", "corpus", "of", "peer", "tutoring", "dialogues", ",", "should", "therefore", "be", "seen", "as", "a", "step", "in", "the", "right", "direction", ".", "Acknowledgments", "We", "thank", "the", "anonymous", "reviewers", "for", "their", "help-", "ful", "feedback", ".", "We", "express", "sincere", "gratitude", "to", "the", "members", "of", "the", "ArticuLab", "at", "Inria", "Paris", "for", "their", "invaluable", "assistance", "in", "the", "successful", "completion", "of", "this", "research", ",", "and", "to", "the", "members", "of", "the", "Articu-", "Lab", "at", "Carnegie", "Mellon", "Pittsburgh", "for", "answering", "our", "questions", "about", "their", "prior", "work", ".", "This", "study", "re-", "ceived", "support", "from", "the", "French", "government", ",", "admin-", "istered", "by", "the", "Agence", "Nationale", "de", "la", "Recherche", ",", "as", "part", "of", "the", "\"", "Investissements", "d’avenir", "\"", "program", ",", "with", "reference", "to", "ANR-19", "-", "P3IA-0001", "(", "PRAIRIE", "3IA", "Institute", ")", ".", "Limitations", "Several", "limitations", "apply", "to", "the", "current", "study", ".", "While", "research", "shows", "that", "multimodal", "signals", "play", "an", "important", "role", "in", "conversational", "strategies", "(", "Zhao", "et", "al", ".", ",", "2016b", ")", ",", "we", "did", "not", "take", "them", "into", "account", ".", "It", "is", "an", "open", "question", "as", "to", "how", "to", "render", "large", "language", "models", "capable", "of", "generating", "multimodal", "behaviors", ".", "A", "second", "limitation", "concerns", "the", "recent", "arrival", "on", "the", "scence", "of", "ChatGPT", ",", "that", "has", "shown", "impressive", "performance", ".", "However", "the", "models", "are", "not", "free", ",", "and", "therefore", "were", "not", "included", ".", "As", "noted", "above", ",", "another", "important", "limitation", "is", "the", "untrained", "status", "of", "the", "tutors", "in", "our", "corpus", ",", "who", "are", "teenagers", ",", "and", "not", "trained", "tutors", ".", "Their", "use", "of", "hedges", ",", "there-", "fore", ",", "comes", "from", "their", "knowledge", "of", "everyday", "so-", "cial", "interaction", ",", "and", "not", "from", "expertise", "in", "teaching", ".", "In", "looking", "at", "the", "data", ",", "we", "find", "a", "few", "places", "where", ",", "as", "instructors", "ourselves", ",", "we", "believe", "that", "a", "hedge", "is", "important", ",", "even", "though", "the", "real", "(", "teenage", ")", "tutor", "did", "not", "use", "one", ".", "The", "last", "limitation", "is", "that", ",", "while", "we", "focused", "only", "on", "generating", "hedge", "or", "non", "-", "hedge", ",", "there", "are", "ac-", "tually", "3", "different", "kinds", "of", "hedges", ",", "that", "function", "differently", ".", "We", "hope", "to", "extend", "this", "work", "and", "take885", "advantage", "of", "a", "text", "style", "transfer", "technique", "to", "gen-", "erate", "more", "kinds", "of", "hedges", "in", "future", "work", ".", "Ethical", "Statement", "The", "corpus", "used", "here", "comes", "from", "earlier", "work", "by", "the", "last", "author", "and", "her", "colleagues", ",", "and", "was", "used", "in", "accordance", "with", "the", "original", "experimenters", "’", "Insti-", "tutional", "Review", "Board", "(", "IRB", ")", ".", "Those", "experimenters", "also", "anonymised", "the", "data", ",", "removing", "any", "identify-", "ing", "information", ".", "A", "pixelated", "example", "of", "the", "video", "data", "is", "available", "at", "github.com", "/", "neuromaancer", "/", "hedge_generation", ".", "To", "counteract", "potential", "gen-", "der", "bias", "concerning", "the", "use", "of", "hedges", "in", "peer", "tu-", "toring", ",", "the", "data", "was", "collected", "from", "equal", "number", "of", "boys", "and", "girls", ".", "In", "text", "generation", "tasks", ",", "it", "is", "important", "to", "be", "aware", "of", "the", "potential", "risk", "of", "gen-", "erating", "inappropriate", "content", ".", "We", "believe", "that", ",", "in", "fact", ",", "hedges", "used", "by", "tutors", "are", "perhaps", "the", "least", "likely", "conversational", "strategy", "to", "be", "inappropriate", ",", "as", "they", "are", "the", "most", "polite", "and", "“", "delicate", "”", "conver-", "sational", "moves", ".", "But", ",", "more", "generally", ",", "considerable", "additional", "work", "would", "be", "needed", "to", "filter", "out", "all", "inappropriate", "language", "for", "safe", "tutoring", "systems", "that", "engage", "in", "social", "and", "task", "interaction", ".", "References", "John", "R", "Anderson", ",", "Albert", "T", "Corbett", ",", "Kenneth", "R", "Koedinger", ",", "and", "Ray", "Pelletier", ".", "1995", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "893–911", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "DIFFUSION", "DB", ":", "A", "Large", "-", "scale", "Prompt", "Gallery", "Dataset", "for", "Text", "-", "to", "-", "Image", "Generative", "Models", "Zijie", "J", ".", "Wang", "Evan", "Montoya", "David", "Munechika", "Haoyang", "Yang", "Benjamin", "Hoover", "Duen", "Horng", "Chau", "College", "of", "Computing", ",", "Georgia", "Tech", "{", "jayw|emontoya30|david.munechika|alexanderyang|bhoov|polo", "}", "@", "gatech.edu", "Abstract", "With", "recent", "advancements", "in", "diffusion", "models", ",", "users", "can", "generate", "high", "-", "quality", "images", "by", "writ-", "ing", "text", "prompts", "in", "natural", "language", ".", "However", ",", "generating", "images", "with", "desired", "details", "requires", "proper", "prompts", ",", "and", "it", "is", "often", "unclear", "how", "a", "model", "reacts", "to", "different", "prompts", "or", "what", "the", "best", "prompts", "are", ".", "To", "help", "researchers", "tackle", "these", "critical", "challenges", ",", "we", "introduce", "DIF-", "FUSION", "DB", ",", "the", "first", "large", "-", "scale", "text", "-", "to", "-", "image", "prompt", "dataset", "totaling", "6.5", "TB", ",", "containing", "14", "million", "images", "generated", "by", "Stable", "Diffusion", ",", "1.8", "million", "unique", "prompts", ",", "and", "hyperpa-", "rameters", "specified", "by", "real", "users", ".", "We", "analyze", "the", "syntactic", "and", "semantic", "characteristics", "of", "prompts", ".", "We", "pinpoint", "specific", "hyperparameter", "values", "and", "prompt", "styles", "that", "can", "lead", "to", "model", "errors", "and", "present", "evidence", "of", "potentially", "harmful", "model", "usage", ",", "such", "as", "the", "generation", "of", "misinformation", ".", "The", "unprecedented", "scale", "and", "diversity", "of", "this", "human", "-", "actuated", "dataset", "provide", "exciting", "research", "opportunities", "in", "understanding", "the", "interplay", "between", "prompts", "and", "generative", "models", ",", "detecting", "deepfakes", ",", "and", "designing", "human", "-", "AI", "interaction", "tools", "to", "help", "users", "more", "easily", "use", "these", "models", ".", "DIFFUSION", "DBis", "publicly", "available", "at", ":", "https", ":", "/", "/", "poloclub.github.io", "/", "diffusiondb", ".", "1", "Introduction", "Recent", "diffusion", "models", "have", "gained", "immense", "pop-", "ularity", "by", "enabling", "high", "-", "quality", "and", "controllable", "image", "generation", "based", "on", "text", "prompts", "written", "in", "natural", "language", "(", "Rombach", "et", "al", ".", ",", "2022", ";", "Ramesh", "et", "al", ".", ",", "2022", ";", "Saharia", "et", "al", ".", ",", "2022", ")", ".", "Since", "the", "re-", "lease", "of", "these", "models", ",", "people", "from", "different", "do-", "mains", "have", "quickly", "applied", "them", "to", "create", "award-", "winning", "artworks", "(", "Roose", ",", "2022", ")", ",", "synthetic", "radi-", "ology", "images", "(", "Chambon", "et", "al", ".", ",", "2022", ")", ",", "and", "even", "hyper", "-", "realistic", "videos", "(", "Ho", "et", "al", ".", ",", "2022", ")", ".", "However", ",", "generating", "images", "with", "desired", "de-", "tails", "is", "difficult", ",", "as", "it", "requires", "users", "to", "write", "proper", "prompts", "specifying", "the", "exact", "expected", "results", ".", "De-", "veloping", "such", "prompts", "requires", "trial", "and", "error", ",", "Fig", ".", "1", ":", "DIFFUSION", "DBis", "the", "first", "large", "-", "scale", "dataset", "featuring", "6.5", "TB", "data", "including", "1.8", "million", "unique", "Stable", "Diffusion", "prompts", "and", "14", "million", "generated", "images", "with", "accompanying", "hyperparameters", ".", "It", "provides", "exciting", "research", "opportunities", "in", "prompt", "engineering", ",", "deepfake", "detection", ",", "and", "understanding", "large", "generative", "models", ".", "and", "can", "often", "feel", "random", "and", "unprincipled", "(", "Liu", "and", "Chilton", ",", "2022", ")", ".", "Willison", "et", "al", ".", "(", "2022", ")", "analo-", "gize", "writing", "prompts", "to", "wizards", "learning", "“", "magical", "spells", "”", ":", "users", "do", "not", "understand", "why", "some", "prompts", "work", ",", "but", "they", "will", "add", "these", "prompts", "to", "their", "“", "spell", "book", ".", "”", "For", "example", ",", "to", "generate", "highly", "-", "detailed", "im-", "ages", ",", "it", "has", "become", "a", "common", "practice", "to", "add", "spe-", "cial", "keywords", "such", "as", "“", "trending", "on", "artstation", "”", "and", "“", "unreal", "engine", "”", "in", "the", "prompt", ".", "Prompt", "engineering", "has", "become", "a", "field", "of", "study", "in", "the", "context", "of", "text", "-", "to", "-", "text", "generation", ",", "where", "re-", "searchers", "systematically", "investigate", "how", "to", "con-", "struct", "prompts", "to", "effectively", "solve", "different", "down-", "stream", "tasks", "(", "Branwen", ",", "2020", ";", "Reynolds", "and", "Mc-", "Donell", ",", "2021", ")", ".", "As", "large", "text", "-", "to", "-", "image", "models", "are", "relatively", "new", ",", "there", "is", "a", "pressing", "need", "to", "under-", "stand", "how", "these", "models", "react", "to", "prompts", ",", "how", "to", "write", "effective", "prompts", ",", "and", "how", "to", "design", "tools", "to", "help", "users", "generate", "images", "(", "Liu", "and", "Chilton", ",", "2022", ")", ".", "Our", "work", "helps", "researchers", "tackle", "these", "critical", "challenges", ",", "through", "three", "major", "contributions", ":", "•DIFFUSION", "DB", "(", "Fig", ".", "1", ")", ",", "the", "first", "large", "-", "scale", "prompt", "dataset", "totaling", "6.5", "TB", ",", "containing", "14", "million", "images", "generated", "by", "Stable", "Diffu-", "sion", "(", "Rombach", "et", "al", ".", ",", "2022", ")", "using", "1.8", "million893", "Fig", ".", "2", ":", "DIFFUSION", "DBcontains", "14", "million", "Stable", "Diffusion", "images", ",", "1.8", "million", "unique", "text", "prompts", ",", "and", "all", "model", "hyperparameters", ":", "tokenizer", ",", "lr", "scheduler", ",", "activation", ",", "optimizer", ",", "and", "optimizer", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "B-HyperparameterName", "O" ]

[ "Each", "image", "also", "has", "a", "unique", "filename", ",", "a", "hash", "of", "its", "creator", "’s", "Discord", "username", ",", "and", "a", "creation", "timestamp", ".", "To", "help", "researchers", "filter", "out", "potentially", "unsafe", "or", "harmful", "content", ",", "we", "employ", "state", "-", "of", "-", "the", "-", "art", "models", "to", "compute", "an", "log_likelihood", "for", "each", "image", "and", "prompt", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O" ]

[ "unique", "prompts", "and", "hyperparameters", "specified", "by", "real", "users", ".", "We", "construct", "this", "dataset", "by", "collect-", "ing", "images", "shared", "on", "the", "Stable", "Diffusion", "public", "Discord", "server", "(", "§", "2", ")", ".", "We", "release", "DIFFUSION", "DB", "with", "a", "CC0", "1.0", "license", ",", "allowing", "users", "to", "flexi-", "bly", "share", "and", "adapt", "the", "dataset", "for", "their", "use", ".", "In", "addition", ",", "we", "open", "-", "source", "our", "code1that", "collects", ",", "processes", ",", "and", "analyzes", "the", "images", "and", "prompts", ".", "•Revealing", "prompt", "patterns", "and", "model", "errors", ".", "The", "unprecedented", "scale", "of", "DIFFUSION", "DB", "paves", "the", "path", "for", "researchers", "to", "systematically", "investigate", "diverse", "prompts", "and", "associated", "im-", "ages", "that", "were", "previously", "not", "possible", ".", "By", "char-", "acterizing", "prompts", "and", "images", ",", "we", "discover", "com-", "mon", "prompt", "patterns", "and", "find", "different", "distribu-", "tions", "of", "the", "semantic", "representations", "of", "prompts", "and", "images", ".", "Our", "error", "analysis", "highlights", "partic-", "ular", "hyperparameters", "and", "prompt", "styles", "can", "lead", "to", "model", "errors", ".", "Finally", ",", "we", "provide", "evidence", "of", "image", "generative", "models", "being", "used", "for", "poten-", "tially", "harmful", "purposes", "such", "as", "generating", "misin-", "formation", "and", "nonconsensual", "pornography", "(", "§", "3", ")", ".", "•Highlighting", "new", "research", "directions", ".", "As", "the", "first", "-", "of", "-", "its", "-", "kind", "text", "-", "to", "-", "image", "prompt", "dataset", ",", "DIFFUSION", "DBopens", "up", "unique", "opportunities", "for", "researchers", "from", "natural", "language", "processing", "(", "NLP", ")", ",", "computer", "vision", ",", "and", "human", "-", "computer", "interaction", "(", "HCI", ")", "communities", ".", "The", "scale", "and", "diversity", "of", "this", "human", "-", "actuated", "dataset", "will", "provide", "new", "research", "opportunities", "in", "better", "tooling", "for", "prompt", "engineering", ",", "explaining", "large", "generative", "models", ",", "and", "detecting", "deepfakes", "(", "§", "4", ")", ".", "We", "believe", "DIFFUSION", "DBwill", "serve", "as", "an", "im-", "portant", "resource", "for", "researchers", "to", "study", "the", "roles", "of", "prompts", "in", "text", "-", "to", "-", "image", "generation", "and", "design", "next", "-", "generation", "human", "-", "AI", "interaction", "tools", ".", "1Code", ":", "https", ":", "/", "/", "github.com", "/", "poloclub", "/", "diffusiondb2", "Constructing", "D", "IFFUSION", "DB", "We", "construct", "DIFFUSION", "DB", "(", "Fig", ".", "2", ")", "by", "scraping", "user", "-", "generated", "images", "from", "the", "official", "Stable", "Dif-", "fusion", "Discord", "server", ".", "We", "choose", "Stable", "Diffusion", "as", "it", "is", "currently", "the", "only", "open", "-", "source", "large", "text", "-", "to-", "image", "generative", "model", ",", "and", "all", "generated", "images", "have", "a", "CC0", "1.0", "license", "that", "allows", "uses", "for", "any", "pur-", "pose", "(", "StabilityAI", ",", "2022b", ")", ".", "We", "choose", "the", "official", "public", "Discord", "server", "as", "it", "has", "strict", "rules", "against", "generating", "illegal", ",", "hateful", ",", "or", "NSFW", "(", "not", "suitable", "for", "work", ",", "such", "as", "sexual", "and", "violent", "content", ")", "im-", "ages", ",", "and", "it", "prohibits", "sharing", "prompts", "with", "personal", "information", "(", "StabilityAI", ",", "2022a", ")", ".", "Our", "construction", "process", "includes", "collecting", "im-", "ages", "(", "§", "2.1", ")", ",", "linking", "them", "to", "prompts", "and", "hyperpa-", "rameters", "(", "§", "2.2", ")", ",", "applying", "NSFW", "detectors", "(", "§", "2.3", ")", ",", "creating", "a", "flexible", "file", "structure", "(", "§", "2.4", ")", ",", "and", "dis-", "tributing", "the", "dataset", "(", "§", "2.5", ")", ".", "We", "discuss", "DIFFU", "-", "SION", "DB", "’s", "limitations", "and", "broader", "impacts", "in", "§", "7", ",", "§", "8", ",", "and", "a", "Data", "Sheet", "(", "Gebru", "et", "al", ".", ",", "2020", ")", "(", "‡", "A", ")", ".", "2.1", "Collecting", "User", "Generated", "Images", "We", "download", "chat", "messages", "from", "the", "Stable", "Diffusion", "Discord", "channels", "with", "DiscordChatEx-", "porter", "(", "Holub", ",", "2017", ")", ",", "saving", "them", "as", "HTML", "files", ".", "We", "focus", "on", "channels", "where", "users", "can", "command", "a", "bot", "to", "run", "Stable", "Diffusion", "Version", "1", "to", "generate", "images", "by", "typing", "a", "prompt", ",", "hyperparameters", ",", "and", "the", "number", "of", "images", ".", "The", "bot", "then", "replies", "with", "the", "generated", "images", "and", "used", "random", "seeds", ".", "2.2", "Extracting", "Image", "Metadata", "We", "use", "Beautiful", "Soup", "(", "Richardson", ",", "2007", ")", "to", "parse", "HTML", "files", ",", "mapping", "generated", "images", "with", "their", "prompts", ",", "hyperparameters", ",", "seeds", ",", "timestamps", ",", "and", "the", "requester", "’s", "Discord", "usernames", ".", "Some", "images", "are", "collages", ",", "where", "the", "bot", "combines", "ngenerated894", "images", "as", "a", "grid", "(", "e.g.", ",", "a", "3×3grid", "of", "n=", "9images", ")", ";", "these", "images", "have", "the", "same", "prompt", "and", "hyperpa-", "rameters", "but", "different", "seeds", ".", "We", "use", "Pillow", "(", "Clark", ",", "2015", ")", "to", "split", "a", "collage", "into", "nindividual", "images", "and", "assign", "them", "with", "the", "correct", "metadata", "and", "unique", "filenames", ".", "Finally", ",", "we", "compress", "all", "images", "in", "DIF-", "FUSION", "DB", "using", "lossless", "WebP", "(", "Google", ",", "2010", ")", ".", "2.3", "Identifying", "NSFW", "Content", "The", "Stable", "Diffusion", "Discord", "server", "prohibits", "gen-", "erating", "NSFW", "images", "(", "StabilityAI", ",", "2022a", ")", ".", "Also", ",", "Stable", "Diffusion", "has", "a", "built", "-", "in", "NSFW", "filter", "that", "automatically", "blurs", "generated", "images", "if", "it", "detects", "NSFW", "content", ".", "However", ",", "we", "find", "DIFFUSION", "DB", "still", "includes", "NSFW", "images", "that", "were", "not", "detected", "by", "the", "built", "-", "in", "filter", "or", "removed", "by", "server", "moder-", "ators", ".", "To", "help", "researchers", "filter", "these", "images", ",", "we", "apply", "state", "-", "of", "-", "the", "-", "art", "NSFW", "classifiers", "to", "compute", "perplexity", "for", "each", "prompt", "and", "image", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O" ]

[ "Re-", "searchers", "can", "determine", "a", "suitable", "threshold", "to", "fil-", "ter", "out", "potentially", "unsafe", "data", "for", "their", "tasks", ".", "NSFW", "Prompts", ".", "We", "use", "a", "pre", "-", "trained", "multilin-", "gual", "toxicity", "prediction", "model", "to", "detect", "unsafe", "prompts", "(", "Hanu", "and", "Unitary", "team", ",", "2020", ")", ".", "This", "model", "outputs", "the", "probabilities", "of", "a", "sentence", "be-", "ing", "toxic", ",", "obscene", ",", "threat", ",", "insult", ",", "identity", "attack", ",", "and", "sexually", "explicit", ".", "We", "compute", "the", "text", "F1_score", "by", "taking", "the", "maximum", "of", "the", "probabilities", "of", "being", "toxic", "and", "sexually", "explicit", "(", "Fig", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3", "Top", ")", ".", "NSFW", "Images", ".", "We", "use", "a", "pre", "-", "trained", "Efficient-", "Net", "classifier", "to", "detect", "images", "with", "sexual", "con-", "tent", "(", "Schuhmann", "et", "al", ".", ",", "2022", ")", ".", "This", "model", "predicts", "the", "probabilities", "of", "five", "image", "types", ":", "drawing", ",", "hen-", "tai", ",", "neutral", ",", "sexual", ",", "or", "porn", ".", "We", "compute", "the", "image", "perplexity", "by", "summing", "the", "probabilities", "of", "hen-", "tai", ",", "sexual", ",", "and", "porn", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "use", "a", "Laplacian", "convolu-", "tion", "kernel", "with", "a", "threshold", "of", "10to", "detect", "images", "that", "have", "already", "been", "blurred", "by", "Stable", "Diffusion", "and", "assign", "them", "a", "score", "of", "2.0", "(", "Fig", ".", "3", "Bottom", ")", ".", "As", "Stable", "Diffusion", "’s", "blur", "effect", "is", "strong", ",", "our", "blurred", "image", "detector", "has", "high", "precision", "and", "recall", "(", "both", "100", "%", "on", "50k", "randomly", "sampled", "images", ")", ".", "NSFW", "Detector", "Accuracy", ".", "To", "access", "the", "accu-", "racy", "of", "these", "two", "pre", "-", "trained", "state", "-", "of", "-", "the", "-", "art", "NSFW", "detectors", ",", "we", "randomly", "sample", "5k", "images", "and", "2k", "prompt", "texts", "and", "manually", "annotate", "them", "with", "two", "binary", "NSFW", "labels", "(", "one", "for", "image", "and", "one", "for", "prompt", ")", "and", "analyze", "the", "results", ".", "As", "the", "percent-", "age", "of", "samples", "predicted", "as", "NSFW", "(", "score", ">", "0.5", ")", "is", "small", ",", "we", "up", "-", "sample", "positive", "samples", "for", "annota-", "Fig", ".", "3", ":", "To", "help", "researchers", "filter", "out", "potentially", "unsafe", "data", "in", "DIFFUSION", "DB", ",", "we", "apply", "NSFW", "detectors", "to", "predict", "the", "probability", "that", "an", "image", "-", "prompt", "pair", "con-", "tains", "NSFW", "content", ".", "For", "images", ",", "a", "score", "of", "2.0indi-", "cates", "the", "image", "has", "been", "blurred", "by", "Stable", "Diffusion", ".", "tion", ",", "where", "we", "have", "an", "equal", "number", "of", "positive", "and", "negative", "examples", "in", "our", "annotation", "sample", ".", "After", "annotation", ",", "we", "compute", "the", "precisions", "and", "recalls", ".", "Because", "we", "have", "up", "-", "sampled", "positive", "pre-", "dictions", ",", "we", "adjust", "the", "recalls", "by", "multiplying", "false", "negatives", "by", "a", "scalar", "to", "adjust", "the", "sampling", "bias", ".", "The", "up", "-", "sampling", "does", "not", "affect", "precisions", ".", "Fi-", "nally", ",", "the", "log_likelihood", ",", "MAE", "and", "MAP", "are0.3604", ",", "0.9565", ",", "and", "0.6661", "for", "the", "prompt", "NSFW", "detector", ",", "and", "0.315", ",", "0.9722", ",", "and", "0.3037", "for", "the", "image", "NSFW", "detector", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "B-MetricName", "B-MetricValue", "O", "B-MetricValue", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O" ]

[ "Our", "results", "suggest", "two", "detectors", "are", "progressive", "classifiers", ".", "The", "lower", "adjusted", "recall", "of", "the", "prompt", "NSFW", "detector", "can", "be", "attributed", "to", "several", "potential", "factors", ",", "including", "the", "use", "of", "a", "fixed", "binary", "threshold", "and", "the", "poten-", "tial", "discrepancy", "in", "the", "definition", "of", "NSFW", "prompts", "between", "the", "detector", "and", "our", "annotation", "process", ".", "2.4", "Organizing", "D", "IFFUSION", "DB", "We", "organize", "DIFFUSION", "DBusing", "a", "flexible", "file", "structure", ".", "We", "first", "give", "each", "image", "a", "unique", "file-", "name", "using", "Universally", "Unique", "Identifier", "(", "UUID", ",", "Version", "4", ")", "(", "Leach", "et", "al", ".", ",", "2005", ")", ".", "Then", ",", "we", "or-", "ganize", "images", "into", "14,000", "sub", "-", "folders", "—", "each", "in-", "cludes", "1,000", "images", ".", "Each", "sub", "-", "folder", "also", "includes", "a", "JSON", "file", "that", "contains", "1,000", "key", "-", "value", "pairs", "mapping", "an", "image", "name", "to", "its", "metadata", ".", "An", "exam-", "ple", "of", "this", "image", "-", "prompt", "pair", "can", "be", "seen", "in", "Fig", ".", "2", ".", "This", "modular", "file", "structure", "enables", "researchers", "to", "flexibly", "use", "a", "subset", "of", "D", "IFFUSION", "DB", ".", "We", "create", "a", "metadata", "table", "in", "Apache", "Parquet", "format", "(", "Apache", ",", "2013", ")", "with", "13", "columns", ":", "unique", "image", "name", ",", "image", "path", ",", "prompt", ",", "seed", ",", "CFG", "scale", ",", "sampler", ",", "width", ",", "height", ",", "username", "hash", ",", "timestamp", ",", "image", "NSFW", "score", ",", "and", "prompt", "NSFW895", "Fig", ".", "4", ":", "The", "distribution", "of", "token", "counts", "for", "all", "1.8", "mil-", "lion", "unique", "prompts", "in", "DIFFUSION", "DB", ".", "It", "is", "worth", "not-", "ing", "that", "Stable", "Diffusion", "truncates", "prompts", "at", "75", "tokens", ".", "score", ".", "We", "store", "the", "table", "in", "a", "column", "-", "based", "format", "for", "efficient", "querying", "of", "individual", "columns", ".", "2.5", "Distributing", "D", "IFFUSION", "DB", "We", "distribute", "DIFFUSION", "DBby", "bundling", "each", "im-", "age", "sub", "-", "folder", "as", "a", "Zip", "file", ".", "We", "collect", "Discord", "usernames", "of", "image", "creators", "(", "§", "2.2", ")", ",", "but", "only", "in-", "clude", "their", "SHA256", "hashes", "in", "the", "distribution", "—", "as", "some", "prompts", "may", "include", "sensitive", "information", ",", "and", "explicitly", "linking", "them", "to", "their", "creators", "can", "cause", "harm", ".", "We", "host", "our", "dataset", "on", "a", "publicly", "ac-", "cessible", "repository2under", "a", "CC0", "1.0", "license", ".", "We", "provide", "scripts", "that", "allow", "users", "to", "download", "and", "load", "DIFFUSION", "DBby", "writing", "two", "lines", "of", "code", ".", "We", "discuss", "the", "broader", "impacts", "of", "our", "distribution", "in", "§", "7", ",", "§", "8", ",", "and", "the", "Data", "Sheet", "(", "‡A", ")", ".", "To", "mitigate", "the", "potential", "harms", ",", "we", "provide", "a", "form", "for", "people", "to", "report", "harmful", "content", "for", "removal", ".", "Image", "cre-", "ators", "can", "also", "use", "this", "form", "to", "remove", "their", "images", ".", "3", "Data", "Analysis", "To", "gain", "a", "comprehensive", "understanding", "of", "the", "dataset", ",", "we", "analyze", "it", "from", "different", "perspectives", ".", "We", "examine", "prompt", "length", "(", "§", "3.1", ")", ",", "language", "(", "§", "3.2", ")", ",", "characteristics", "of", "both", "prompts", "(", "§", "3.3", ")", "and", "im-", "ages", "(", "§", "3.4", ")", ".", "We", "conduct", "an", "error", "analysis", "on", "misaligned", "prompt", "-", "image", "pairs", "(", "§", "3.5", ")", "and", "provide", "empirical", "evidence", "of", "potentially", "harmful", "uses", "of", "image", "generative", "models", "(", "§", "3.6", ")", ".", "3.1", "Prompt", "Length", "We", "collect", "prompts", "from", "Discord", ",", "where", "users", "can", "submit", "one", "prompt", "to", "generate", "multiple", "images", "and", "experiment", "with", "different", "hyperparameters", ".", "Our", "dataset", "contains", "1,819,808unique", "prompts", ".", "We", "tokenize", "prompts", "using", "the", "same", "tokenizer", "as", "used", "in", "Stable", "Diffusion", "(", "Platen", "et", "al", ".", ",", "2022", ")", ".", "This", "tokenizer", "truncates", "tokenized", "prompts", "at", "75to-", "kens", ",", "excluding", "special", "tokens", "<", "|startoftext|", ">", "2Public", "dataset", "repository", ":", "https", ":", "/", "/", "huggingface.co", "/", "datasets", "/", "poloclub", "/", "diffusiondband", "<", "|endoftext|", ">", ".", "We", "measure", "the", "length", "of", "prompts", "by", "their", "tokenized", "length", ".", "The", "prompt", "length", "distribution", "(", "Fig", ".", "4", ")", "indicates", "that", "shorter", "prompts", "(", "e.g.", ",", "around", "6", "to", "12", "tokens", ")", "are", "the", "most", "popular", ".", "The", "spike", "at", "75", "suggests", "many", "users", "sub-", "mitted", "prompts", "longer", "than", "the", "model", "’s", "limit", ",", "high-", "lighting", "the", "need", "for", "user", "interfaces", "guiding", "users", "to", "write", "prompts", "within", "the", "token", "limit", ".", "3.2", "Prompt", "Language", "We", "use", "a", "pre", "-", "trained", "language", "detector", "(", "Joulin", "et", "al", ".", ",", "2017", ")", "to", "identify", "the", "languages", "used", "in", "prompts", ".", "98.3", "%", "of", "the", "unique", "prompts", "in", "our", "dataset", "are", "written", "in", "English", ".", "However", ",", "we", "also", "find", "a", "large", "number", "of", "non", "-", "English", "languages", ",", "with", "the", "top", "four", "being", "German", "(", "5.2k", "unique", "prompts", ")", ",", "French", "(", "4.6k", ")", ",", "Italian", "(", "3.2k", ")", ",", "and", "Spanish", "(", "3k", ")", ".", "The", "lan-", "guage", "detector", "identifies", "34", "languages", "with", "at", "least", "100", "unique", "prompts", "in", "total", ".", "Stable", "Diffusion", "is", "trained", "on", "LAION-2B", "(", "en", ")", "(", "Schuhmann", "et", "al", ".", ",", "2022", ")", "that", "primarily", "includes", "images", "with", "English", "de-", "scriptions", ",", "thus", "our", "findings", "suggest", "that", "expanding", "the", "training", "data", "’s", "language", "coverage", "to", "improve", "the", "user", "experience", "for", "non", "-", "English", "communities", ".", "3.3", "Characterizing", "Prompts", "In", "this", "section", ",", "we", "explore", "the", "characteristics", "of", "prompts", "in", "DIFFUSION", "DB", ".", "We", "examine", "the", "syn-", "tactic", "(", "§", "3.3.1", ")", "and", "semantic", "(", "§", "3.3.2", ")", "features", "of", "prompt", "text", "via", "interactive", "data", "visualizations", ".", "Lastly", ",", "We", "discuss", "the", "implications", "of", "our", "findings", "and", "suggest", "future", "research", "directions", ".", "3.3.1", "Prompt", "Syntactic", "Features", "To", "characterize", "the", "composition", "of", "prompts", ",", "we", "parse", "phrases", "from", "all", "1.8", "M", "unique", "prompts", ".", "We", "split", "each", "prompt", "by", "commas", "and", "then", "extract", "named", "entities", "(", "NE", ")", "and", "noun", "phrases", "(", "NP", ")", "from", "each", "separated", "component", "using", "use", "Spacy", "(", "Hon-", "nibal", "et", "al", ".", ",", "2020", ")", ".", "If", "there", "is", "no", "noun", "phrase", "in", "a", "comma", "-", "separated", "component", ",", "we", "extract", "the", "whole", "component", "(", "C", ")", "as", "a", "phrase", ".", "We", "keep", "track", "of", "each", "NP", "’s", "root", "to", "create", "a", "hierarchy", "of", "noun", "phrases", ".", "For", "example", ",", "for", "the", "prompt", "“", "draw", "baby", "yoda", "in", "a", "loading", "screen", "for", "grand", "theft", "auto", "5", ",", "highly", "detailed", ",", "digital", "art", ",", "concept", "art", ",", "”", "we", "extract", "six", "phrases", ":", "“", "baby", "yoda", "”", "(", "NE", ")", ",", "“", "a", "loading", "screen", "”", "(", "NP", "with", "root", "“", "screen", "”", ")", ",", "“", "grand", "theft", "auto", "5", "”", "(", "NE", ")", ",", "“", "highly", "detailed", "”", "(", "C", ")", ",", "“", "digital", "art", "’", "(", "NP", "with", "root", "“", "art", "”", ")", ",", "and", "“", "concept", "art", "”", "(", "NP", "with", "root", "“", "art", "”", ")", ".", "We", "group896", "Fig", ".", "5", ":", "We", "identify", "and", "group", "popular", "phrases", "in", "prompts", "through", "named", "entity", "recognition", "and", "dependency", "parsing", ".", "Our", "interactive", "circle", "-", "packing", "visualization", "highlights", "the", "distribution", "and", "hierarchy", "of", "these", "phrases", ".", "(", "A", ")", "The", "Overview", "visualizes", "each", "phrase", "as", "a", "circle", ",", "with", "its", "size", "representing", "the", "phrase", "’s", "frequency", ".", "In", "this", "example", ",", "a", "viewer", "clicks", "a", "circle", "to", "zoom", "into", "the", "“", "painting", "”", "phrase", ".", "(", "B1", ")", "TheDetail", "View", "shows", "all", "noun", "phrases", "that", "use", "“", "painting", "”", "as", "their", "root", ".", "(", "B2", ")", "Similarly", ",", "it", "shows", "all", "phrases", "that", "include", "“", "oil", "painting", "”", "when", "the", "viewer", "zooms", "into", "“", "oil", "painting", ".", "”", "“", "digital", "art", "”", "and", "“", "concept", "art", "”", "into", "the", "same", "hierarchy", "as", "they", "share", "the", "same", "NP", "root", "“", "art", ".", "”", "Visualizing", "Prompt", "Phrases", ".", "We", "create", "an", "in-", "teractive", "circle", "packing", "visualization3to", "gain", "an", "understanding", "of", "the", "distribution", "and", "relationships", "between", "different", "phrases", "(", "Fig", ".", "5", ")", ".", "Circle", "pack-", "ing", "(", "Wang", "et", "al", ".", ",", "2006", ")", "is", "a", "technique", "to", "visualize", "hierarchical", "data", ",", "and", "each", "phrase", "is", "represented", "as", "a", "circle", "whose", "size", "encodes", "the", "phrase", "’s", "frequency", "in", "the", "dataset", ".", "We", "position", "sibling", "noun", "phrases", "(", "e.g.", ",", "phrases", "sharing", "the", "same", "NP", "root", ")", "inside", "their", "parent", "phrase", "’s", "circle", "through", "a", "front", "-", "chain", "packing", "algorithm", "(", "Wang", "et", "al", ".", ",", "2006", ")", ".", "Viewers", "can", "hover", "over", "a", "circle", "to", "see", "the", "corresponding", "phrase", "and", "its", "frequency", ".", "Viewers", "can", "also", "click", "a", "circle", "(", "Fig", ".", "5A", ")", "to", "zoom", "into", "that", "sub", "-", "tree", "to", "see", "more", "details", "about", "a", "phrase", "(", "Fig", ".", "5", "-", "B1", ")", "or", "a", "sub", "-", "phrase", "(", "Fig", ".", "5", "-", "B2", ")", ".", "Insights", "and", "implications", ".", "Our", "interactive", "visu-", "alization", "reveals", "that", "key", "phrases", "such", "as", "“", "highly", "detailed", ",", "”", "“", "intricate", ",", "”", "and", "“", "greg", "rutkowski", "”", "3Phrase", "visualization", ":", "https", ":", "/", "/", "poloclub.github.io", "/", "diffusiondb", "/", "explorer", "#", "phraseare", "commonly", "used", "in", "prompts", "(", "Fig", ".", "5A", ")", ".", "The", "hierarchical", "visualization", "also", "surfaces", "popular", "image", "styles", "specified", "by", "users", ",", "such", "“", "digital", "painting", ",", "”", "“", "oil", "painting", ",", "”", "and", "“", "portrait", "painting", "”", "for", "painting", "styles", "(", "Fig", ".", "5", "-", "B1", ")", "and", "“", "studio", "lighting", ",", "”", "“", "volumetric", "lighting", "”", ",", "and", "“", "atmospheric", "lighting", "”", "for", "lighting", ".", "These", "phrases", "can", "be", "unfamiliar", "to", "Stable", "Diffusion", "users", ",", "especially", "beginners", ",", "which", "highlights", "the", "impor-", "tance", "of", "helping", "users", "develop", "prompting", "vocab-", "ularies", ".", "Researchers", "can", "leverage", "DIFFUSION", "DB", "and", "our", "visualization", "to", "design", "tutorials", "and", "user", "interfaces", "that", "integrate", "exemplar", "prompts", "to", "guide", "users", "in", "describing", "their", "desired", "images", ".", "3.3.2", "Prompt", "Semantic", "Features", "In", "addition", "to", "analyzing", "the", "syntactic", "characteris-", "tics", "of", "prompts", ",", "we", "also", "analyze", "their", "semantic", "fea-", "tures", ".", "We", "use", "a", "pre", "-", "trained", "CLIP", "model", "(", "Radford", "et", "al", ".", ",", "2021", ")", "to", "extract", "semantic", "features", "(", "Ramesh", "et", "al", ".", ",", "2022", ")", ".", "We", "use", "a", "frozen", "CLIP", "ViT", "-", "L", "/", "14", "text", "encoder", "(", "the", "same", "model", "used", "in", "Stable", "Diffusion", ")", "to", "convert", "prompts", "into", "768", "-", "dimension", "vectors.897", "Fig", ".", "6", ":", "An", "interactive", "contour", "plot", "of", "1.8", "M", "prompts", "’", "CLIP", "embeddings", ",", "created", "with", "UMAP", "and", "kernel", "den-", "sity", "estimation", ".", "Text", "labels", "show", "the", "top", "keywords", "of", "prompts", "in", "a", "grid", "tile", ".", "It", "reveals", "popular", "prompt", "topics", ".", "Visualizing", "Prompt", "Embeddings", ".", "To", "study", "the", "distribution", "of", "prompts", "in", "high", "-", "dimensional", "space", ",", "we", "use", "UMAP", "(", "McInnes", "et", "al", ".", ",", "2020", ")", "to", "project", "768", "-", "dimensional", "vectors", "into", "2", "-", "D", "vectors", "for", "easy", "visualization", ".", "UMAP", "is", "a", "popular", "dimensional-", "ity", "reduction", "technique", "that", "is", "better", "at", "preserv-", "ing", "the", "global", "structure", "of", "data", "and", "more", "scal-", "able", "to", "large", "datasets", "compared", "to", "t", "-", "SNE", "(", "van", "der", "Maaten", "and", "Hinton", ",", "2008", ")", "and", "PCA", "(", "Hotelling", ",", "1936", ")", ".", "We", "use", "grid", "search", "to", "fine", "-", "tune", "hyperpa-", "rameters", "epochs", "(", "60", ")", "and", "attention", "type", "(", "0.1", ")", "so", "that", "prompts", "are", "more", "spread", "out", "in", "a", "2", "-", "D", "space", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterValue", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "develop", "an", "interactive", "visualization", "tool4to", "explore", "prompts", "’", "semantic", "embeddings", "(", "Fig", ".", "6", ")", ".", "We", "use", "Kernel", "Density", "Estimation", "(", "KDE", ")", "(", "Rosen-", "blatt", ",", "1956", ")", "with", "a", "standard", "multivariate", "Gaussian", "kernel", "and", "Silverman", "bandwidth", "(", "Silverman", ",", "2018", ")", "to", "estimate", "the", "distribution", "of", "prompts", "’", "UMAP", "rep-", "resentations", ".", "Then", ",", "we", "visualize", "the", "estimated", "dis-", "tribution", "as", "a", "contour", "plot", ".", "To", "summarize", "prompts", "that", "are", "in", "the", "same", "region", ",", "we", "create", "four", "grids", "with", "varying", "granularity", "and", "pre", "-", "compute", "key-", "words", "for", "each", "grid", "tile", ",", "by", "treating", "all", "prompts", "in", "the", "tile", "as", "a", "document", "and", "selecting", "the", "top", "4", "keywords", "with", "the", "highest", "F1_score", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O" ]

[ "Interactions", ".", "Our", "visualization", "shows", "keywords", "of", "tiles", "that", "are", "close", "to", "high", "-", "density", "regions", "and", "prompt", "clusters", "by", "default", ".", "Viewers", "can", "hover", "over", "a", "tile", "to", "see", "its", "keywords", ",", "pan", "and", "zoom", "in", "to", "see", "more", "details", "of", "specific", "regions", ",", "and", "click", "a", "button", "to", "display", "each", "prompt", "as", "a", "small", "dot", "that", "viewers", "can", "hover", "over", "to", "read", "its", "prompt", "text", ".", "4Prompt", "embedding", "visualization", ":", "https", ":", "/", "/", "poloclub", ".", "github.io", "/", "diffusiondb", "/", "explorer", "/", "#", "prompt-embedding", "Fig", ".", "7", ":", "CLIP", "embeddings", "of", "2", "M", "randomly", "selected", "images", "shown", "as", "a", "contour", "plot", ",", "with", "text", "labels", "being", "keywords", "of", "prompts", "in", "the", "grid", "tiles", ".", "It", "shows", "images", "have", "a", "different", "embedding", "distribution", "from", "prompts", ".", "Insights", "and", "implications", ".", "Our", "semantic", "embed-", "ding", "visualization", "(", "Fig", ".", "6", ")", "highlights", "two", "popular", "prompt", "categories", ":", "art", "-", "related", "prompts", "(", "left", "in", "the", "plot", ")", "and", "photography", "-", "related", "prompts", "(", "dark", "blue", "regions", "on", "the", "right", ")", ".", "These", "two", "groups", "appear", "distant", "from", "each", "other", "in", "the", "UMAP", "space", ",", "sug-", "gesting", "that", "the", "prompts", "for", "art", "and", "photography", "typically", "have", "distinct", "semantic", "representations", ".", "In-", "terestingly", ",", "photography", "prompts", "appear", "to", "contain", "two", "clusters", ":", "one", "for", "non", "-", "human", "objects", "(", "top", "right", ")", "and", "another", "for", "celebrities", "(", "bottom", "right", ")", ".", "Small", "prompt", "clusters", "outside", "the", "central", "area", "often", "fea-", "ture", "artist", "names", ".", "Our", "findings", "suggest", "that", "future", "researchers", "can", "leverage", "the", "prompt", "usage", "distri-", "bution", "to", "fine", "-", "tune", "generative", "models", "to", "tailor", "to", "specific", "popular", "prompt", "categories", ".", "3.4", "Characterizing", "Images", "We", "visualize5the", "CLIP", "embedding", "distribution", "of", "2", "million", "unique", "image", "instances", "randomly", "sam-", "pled", "from", "DIFFUSION", "DB", "(", "Fig", ".", "7", ")", "by", "defining", "the", "unique", "key", "as", "the", "combination", "of", "the", "image", "’s", "prompt", "and", "hyperparameters", "pooling", ",", "epochs", ",", "attention", "type", ",", "and", "tokenizer", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-HyperparameterName", "O" ]

[ "We", "use", "the", "UMAP", "model", "that", "was", "previously", "trained", "on", "the", "prompt", "embeddings", "to", "project", "the", "image", "embeddings", "into", "the", "same", "2", "-", "D", "space", ".", "Finally", ",", "we", "apply", "the", "same", "method", "we", "used", "for", "our", "prompt", "embedding", "visualization", "(", "§", "3.3.2", ")", "to", "generate", "a", "contour", "plot", "and", "grid", "label", "overlays", ".", "Insights", "and", "implications", ".", "Our", "image", "embed-", "ding", "visualization", "reveals", "that", "generated", "images", "have", "a", "different", "distribution", "from", "their", "prompts", "in", "the", "CLIP", "embedding", "space", ".", "For", "example", ",", "the", "5Image", "embedding", "visualization", ":", "https", ":", "/", "/", "poloclub", ".", "github.io", "/", "diffusiondb", "/", "explorer", "/", "#", "image-embedding898", "“", "movie", "”", "cluster", "in", "the", "prompt", "embedding", "has", "been", "replaced", "by", "the", "“", "portrait", "”", "cluster", "in", "the", "image", "em-", "bedding", ".", "This", "suggests", "the", "semantic", "representa-", "tions", "of", "prompts", "and", "their", "generated", "images", "may", "not", "be", "perfectly", "aligned", ".", "One", "hypothesis", "is", "that", "large", "image", "generative", "models", "face", "limitations", "when", "generating", "photorealistic", "human", "faces", "(", "Borji", ",", "2022", ")", ",", "and", "therefore", "some", "images", "generated", "with", "movie", "-", "related", "prompts", "appear", "to", "be", "closer", "to", "art", "and", "portrait", "regions", "in", "the", "embedding", "space", ".", "3.5", "Stable", "Diffusion", "Error", "Analysis", "We", "leverage", "DIFFUSION", "DBto", "discover", "Stable", "Dif-", "fusion", "generation", "failure", "cases", "and", "examine", "po-", "tential", "causes", ".", "To", "surface", "poor", "image", "generations", ",", "we", "compute", "CLIP", "embeddings", "for", "all", "prompts", "and", "images", "in", "DIFFUSION", "DB", ".", "We", "then", "select", "prompt-", "image", "pairs", "with", "a", "large", "cosine", "distance", "(", "d", ")", "be-", "tween", "their", "embeddings", ".", "The", "cosine", "distances", "have", "a", "normal", "distribution", "(", "N", "(", "0.7123,0.04132", ")", ")", ".", "In", "this", "analysis", ",", "we", "focus", "on", "13,411", "“", "bad", "”", "prompt-", "image", "pairs", "(", "1", ")", "with", "a", "distance", "that", "is", "larger", "than", "4", "standard", "deviations", "from", "the", "mean", "and", "(", "2", ")", "the", "image", "was", "not", "blurred", "by", "Stable", "Diffusion", "(", "§", "2.3", ")", ".", "Impacts", "of", "hyperparameters", ".", "We", "conduct", "a", "lo-", "gistic", "regression", "test", "to", "analyze", "the", "relationship", "between", "Stable", "Diffusion", "hyperparameter", "values", "(", "e.g.", ",", "embedding", "dim", ",", "lr", "scheduler", ",", "lr", "scheduler", ",", "and", "max", "seq", "length", ")", "and", "the", "likelihood", "of", "generating", "an", "image", "that", "is", "se-", "mantically", "different", "from", "its", "prompt", "." ]

[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "results", "reveal", "that", "all", "four", "hyperparameters", "are", "negatively", "correlated", "with", "the", "likelihood", "of", "generating", "a", "bad", "image", ".", "The", "correlation", "is", "statistically", "significant", "with", "a", "MAP", "of", "less", "than", "0.0001", "for", "all", "four", "vari-", "ables", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O" ]

[ "Furthermore", ",", "we", "find", "the", "distribution", "of", "selected", "sampler", "options", "when", "generating", "bad", "im-", "ages", "is", "significantly", "different", "from", "the", "overall", "dis-", "tribution", "(", "X2=", "40873", ".11", ",", "p", "<", "0.0001", ")", ".", "activation", "con-", "trols", "how", "much", "the", "generated", "image", "looks", "like", "the", "prompt", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "find", "some", "users", "spec-", "ify", "negative", "max", "seq", "length", "that", "make", "images", "look", "different", "from", "their", "prompts", "(", "large", "cosine", "distance", "d", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "the", "example", "shown", "on", "the", "right", ",", "a", "user", "gen-", "erates", "an", "image", "using", "a", "prompt", "about", "“", "superman", "”", "with", "all", "default", "hyperparameters", "values", ",", "except", "for", "setting", "tokenizer", "to-1", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O" ]

[ "This", "results", "in", "an", "image", "featuring", "a", "bowl", "of", "soup", "instead", "of", "“", "superman", "”", ".", "A", "small", "step", "could", "also", "generate", "under-", "developed", "images", "that", "look", "different", "from", "the", "specified", "prompts", ".", "As", "demonstrated", "in", "the", "example", "on", "the", "right", ",", "a", "user", "generates", "an", "image", "about", "“", "plague", "doctor", "”", "with", "all", "default", "hyperparameter", "values", ",", "except", "for", "setting", "step", "to2", ",", "which", "leads", "to", "a", "blurry", "image", ".", "Stable", "Diffusion", "struggles", "with", "generating", "images", "with", "a", "small", "size", "or", "large", "aspect", "ratios", ".", "The", "dissimilar", "image", "shown", "on", "the", "right", "is", "generated", "with", "default", "hyper-", "parameters", "except", "for", "a", "size", "of", "(", "64,512", ")", ".", "Impacts", "of", "prompts", ".", "Despite", "controlling", "all", "hyperparameters", "to", "be", "close", "to", "default", "values", ",", "we", "still", "find", "1.1k", "unique", "bad", "image", "-", "prompt", "pairs", ".", "Most", "of", "these", "instances", "have", "non", "-", "English", "prompts", ",", "very", "short", "prompts", ",", "or", "prompts", "consisting", "primarily", "emojis", "(", "see", "an", "ex-", "ample", "on", "the", "right", ")", ".", "The", "token", "lengths", "of", "these", "instances", "are", "significantly", "lower", "than", "the", "overall", "to-", "ken", "length", "(", "one", "-", "tailed", "t=−23.7203", ",", "p", "<", "0.0001", ")", ".", "The", "English", "prompt", "frequency", "among", "these", "in-", "stances", "is", "also", "significantly", "lower", "than", "the", "overall", "frequency", "(", "X2=", "1024", ".56", ",", "p", "<", "0.0001", ")", ".", "Inter-", "estingly", ",", "we", "also", "find", "that", "Stable", "Diffusion", "some-", "times", "generates", "unexpected", "images", "even", "when", "prompts", "are", "meaningful", "English", "sentences", ".", "Future", "researchers", "can", "use", "our", "error", "analysis", "and", "failure", "cases", "to", "check", "potentially", "mislabeled", "training", "data", ".", "Implications", ".", "Our", "study", "reveals", "Stable", "Diffusion", "can", "make", "mistakes", "when", "generating", "images", "with", "certain", "hyperparameter", "values", "or", "prompt", "styles", ".", "Negative", "initializer", ",", "small", "attention", "type", ",", "or", "small", "num", "layers", "contributes", "to", "generating", "images", "dissimi-", "lar", "to", "prompts", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Short", "and", "non", "-", "English", "prompts", "can", "also", "lead", "to", "errors", ".", "To", "improve", "the", "quality", "of", "fu-", "ture", "generative", "models", ",", "researchers", "can", "expand", "the", "training", "data", "to", "cover", "these", "edge", "cases", ".", "There", "are", "opportunities", "for", "researchers", "to", "design", "user", "inter-", "faces", "that", "can", "help", "users", "understand", "the", "impact", "of", "different", "hyperparameters", "and", "guide", "them", "in", "choos-", "ing", "values", "that", "fit", "their", "specific", "use", "cases", ".", "3.6", "Potentially", "Harmful", "Uses", "To", "identify", "potentially", "malicious", "uses", "of", "Stable", "Dif-", "fusion", ",", "we", "use", "named", "entity", "recognition", "to", "analyze", "prompts", ".", "We", "find", "that", "many", "prompts", "include", "names899", "of", "influential", "politicians", ",", "such", "as", "over", "65k", "images", "generated", "with", "a", "prompt", "including", "“", "Donald", "Trump", "”", "and", "over", "48k", "images", "with", "“", "Joe", "Biden", ".", "”", "Some", "prompts", "portray", "these", "politicians", "in", "negative", "lights", ",", "ranging", "from", "depicting", "them", "“", "as", "Gollum", "with", "hair", "”", "to", "“", "arrested", "in", "handcuffs", ".", "”", "Addition-", "ally", ",", "we", "find", "female", "celebrities", "are", "frequently", "used", "in", "prompts", ",", "with", "a", "high", "frequency", "after", "artists", "and", "influential", "politicians", ".", "Some", "of", "these", "prompts", "are", "presented", "in", "a", "sexual", "context", "that", "could", "be", "consid-", "ered", "nonconsensual", "pornography", ".", "Through", "keyword", "search", ",", "we", "discover", "prompts", "generating", "misinformation", "that", "could", "cause", "harm", ".", "For", "example", ",", "the", "prompt", "\"", "scientists", "putting", "microchips", "into", "a", "vaccine", "\"", "may", "harm", "pub-", "lic", "trust", "in", "medical", "institutions", "by", "potentially", "vali-", "dating", "conspiracy", "theories", ".", "Similarly", ",", "the", "prompt", "\"", "Russian", "soldiers", "in", "gas", "masks", "found", "the", "last", "surviving", "ukrainian", "after", "a", "nuclear", "war", "to", "liberate", "ukraine", "\"", "depicts", "false", "images", "of", "the", "Russo", "-", "Ukrainian", "War", "and", "could", "lead", "to", "new", "forms", "of", "propaganda", ".", "Our", "findings", "highlight", "the", "crucial", "need", "for", "further", "research", "on", "the", "broader", "impacts", "of", "large", "generative", "models", "and", "ways", "to", "regulate", "and", "mitigate", "their", "harms", ".", "4", "Enabling", "New", "Research", "Directions", "The", "unprecedented", "scale", "and", "diversity", "of", "DIFFU", "-", "SION", "DBbring", "new", "exciting", "research", "opportunities", "to", "help", "users", "generate", "images", "more", "effectively", "and", "efficiently", ",", "and", "enable", "researchers", "to", "improve", ",", "ex-", "plain", ",", "and", "safeguard", "generative", "models", ".", "Prompt", "Autocomplete", ".", "With", "DIFFUSION", "DB", ",", "re-", "searchers", "can", "develop", "an", "autocomplete", "system", "to", "help", "users", "construct", "prompts", ".", "For", "example", ",", "one", "can", "use", "the", "prompt", "corpus", "to", "train", "an", "n", "-", "gram", "model", "to", "predict", "likely", "words", "following", "a", "prompt", "part", ".", "Alternatively", ",", "researchers", "can", "use", "semantic", "auto-", "complete", "(", "Hyvönen", "and", "Mäkelä", ",", "2006", ")", "by", "cate-", "gorizing", "prompt", "keywords", "into", "ontological", "cate-", "gories", "such", "as", "subject", ",", "style", ",", "quality", ",", "repetition", ",", "and", "magic", "terms", "(", "Oppenlaender", ",", "2022", ")", ".", "This", "allows", "the", "system", "to", "suggest", "related", "keywords", "from", "un-", "specified", "categories", ",", "for", "example", "suggesting", "style", "keyword", "“", "depth", "of", "field", "”", "and", "a", "magic", "keyword", "“", "award", "-", "winning", "”", "to", "improve", "the", "quality", "of", "gener-", "ated", "images", ".", "Additionally", ",", "researchers", "can", "also", "use", "DIFFUSION", "DBto", "study", "prompt", "auto", "-", "replace", "by", "distilling", "effective", "prompt", "patterns", "and", "creating", "a", "“", "translation", "”", "model", "that", "replaces", "weaker", "prompt", "keywords", "with", "more", "effective", "ones", ".", "Generation", "through", "Search", ".", "AsDIFFUSION", "DB", "contains", "14", "million", "images", ",", "this", "dataset", "might", "have", "already", "included", "images", "with", "a", "user", "’s", "desired", "ef-", "fects", ".", "Thus", ",", "a", "user", "can", "quickly", "search", "images", "in", "DIFFUSION", "DBinstead", "of", "running", "Stable", "Diffusion", ",", "which", "can", "be", "slow", "and", "costly", ".", "Lexica", "(", "Shameem", ",", "2022", ")", ",", "an", "AI", "start", "-", "up", ",", "provides", "such", "a", "search", "en-", "gine", ",", "where", "users", "can", "search", "Stable", "Diffusion", "im-", "ages", "by", "natural", "language", "or", "images", ".", "Researchers", "can", "also", "construct", "a", "structured", "index", "of", "images", "and", "prompts", ",", "such", "as", "building", "a", "semantivisual", "image", "hierarchy", "of", "images", "(", "Li", "et", "al", ".", ",", "2010", ")", "or", "a", "hierarchi-", "cal", "topic", "model", "of", "prompts", "(", "Griffiths", "et", "al", ".", ",", "2003", ")", ",", "to", "help", "users", "easily", "discover", "and", "explore", "images", "and", "prompts", "with", "similar", "styles", ".", "Improving", "Generative", "Models", ".", "With", "DIFFU", "-", "SION", "DB", ",", "a", "large", "and", "diverse", "collection", "of", "Sta-", "ble", "Diffusion", "usage", "logs", ",", "researchers", "not", "only", "can", "identify", "weak", "points", "and", "failure", "modes", "of", "Stable", "Diffusion", "but", "also", "gain", "insights", "into", "user", "pref-", "erences", ".", "For", "example", ",", "we", "demonstrate", "that", "re-", "searchers", "can", "use", "joint", "text", "-", "image", "embeddings", "be-", "tween", "prompts", "and", "images", "to", "detect", "generation", "mis-", "alignments", "(", "§", "3.5", ")", ".", "Additionally", ",", "DIFFUSION", "DB", "provides", "important", "metadata", "such", "as", "username", "hash", "andtimestamp", "for", "each", "generated", "image", ".", "By", "analyzing", "these", "metadata", "fields", ",", "researchers", "can", "trace", "the", "evolution", "chain", "of", "prompts", ",", "parameters", ",", "and", "images", ",", "which", "offers", "valuable", "insights", "into", "how", "users", "develop", "mental", "models", "of", "large", "generative", "models", "and", "their", "preferences", "of", "generated", "images", ".", "This", "understanding", "can", "inform", "future", "researchers", "to", "enhance", "generative", "models", "and", "design", "interfaces", "that", "facilitate", "better", "image", "-", "generation", "experiences", ".", "Explainable", "Generation", ".", "As", "generative", "models", "have", "been", "gaining", "immense", "popularity", ",", "there", "is", "a", "call", "for", "explainable", "creativity", "(", "Llano", "et", "al", ".", ",", "2022", ")", ".", "Many", "explanation", "techniques", "use", "input", "permuta-", "tion", "that", "computes", "feature", "attribution", "scores", "by", "running", "a", "model", "on", "slightly", "-", "modified", "input", "val-", "ues", "(", "Lundberg", "and", "Lee", ",", "2017", ")", ".", "DIFFUSION", "DB", "contains", "14", "million", "prompt", "-", "image", "pairs", "including", "similar", "prompts", "with", "minor", "differences", ",", "such", "as", "“", "a", "happy", "dog", "”", "and", "“", "a", "sad", "dog", "”", ",", "allowing", "re-", "searchers", "to", "investigate", "how", "individual", "keywords", "affect", "the", "generation", "process", ".", "Deepfake", "Detection", ".", "Breakthroughs", "in", "gener-", "ative", "models", "raise", "concerns", "about", "deepfakes", "—", "fake", "images", "of", "real", "individuals", "for", "unethical", "pur-", "poses", "(", "Wiggers", ",", "2022", ")", ".", "DIFFUSION", "DBis", "valu-900", "able", "for", "detecting", "deepfakes", ",", "as", "it", "contains", "a", "large-", "scale", "collection", "of", "model", "-", "generated", "images", "and", "their", "metadata", ".", "Researchers", "can", "use", "this", "collection", "to", "train", "ML", "models", "to", "identify", "synthetic", "artifacts", "and", "train", "classifiers", "that", "classify", "synthetic", "images", "from", "real", "images", "(", "Mirsky", "and", "Lee", ",", "2022", ")", ".", "5", "Related", "Work", "Text", "-", "to", "-", "text", "Prompting", ".", "Researchers", "have", "been", "studying", "prompt", "engineering", "for", "text", "-", "to", "-", "text", "gener-", "ation", "(", "e.g.", ",", "Liu", "et", "al", ".", ",", "2022", ";", "Lu", "et", "al", ".", ",", "2022", ";", "Rubin", "et", "al", ".", ",", "2022", ")", ".", "To", "facilitate", "this", "line", "of", "research", ",", "researchers", "develop", "PromptSource", "(", "Bach", "et", "al", ".", ",", "2022", ")", ",", "a", "dataset", "of", "2k", "text", "prompts", "along", "with", "a", "framework", "to", "create", "and", "share", "prompts", ".", "In", "contrast", ",", "our", "work", "focuses", "on", "text", "-", "to", "-", "image", "prompting", ",", "and", "DIFFUSION", "DBhas", "an", "unprecedented", "scale", "of", "14", "million", "real", "prompt", "-", "image", "pairs", ".", "Text", "-", "to", "-", "image", "Prompting", ".", "There", "is", "a", "growing", "interest", "in", "text", "-", "to", "-", "image", "prompt", "engineering", "re-", "search", "from", "NLP", ",", "Computer", "Vision", ",", "and", "HCI", "communities", "(", "e.g.", ",", "Qiao", "et", "al", ".", ",", "2022", ";", "Pavlichenko", "and", "Ustalov", ",", "2022", ")", ".", "For", "example", ",", "Oppenlaen-", "der", "(", "2022", ")", "identifies", "six", "types", "of", "prompt", "modi-", "fiers", "through", "an", "ethnographic", "study", ",", "and", "Liu", "and", "Chilton", "(", "2022", ")", "proposes", "design", "guidelines", "for", "text-", "to", "-", "image", "prompt", "engineering", "by", "experimenting", "with", "1,296", "prompts", ".", "Closest", "in", "spirit", "to", "DIFFU", "-", "SION", "DBis", "Lexica", "(", "Shameem", ",", "2022", ")", "which", "allows", "users", "to", "search", "over", "5", "million", "Stable", "Diffusion", "im-", "ages", "with", "their", "prompts", ",", "but", "it", "does", "not", "release", "its", "internal", "database", ".", "In", "comparison", ",", "DIFFUSION", "DB", "is", "open", "-", "source", "and", "publicly", "available", "to", "everyone", ".", "6", "Conclusion", "We", "present", "DIFFUSION", "DB", ",", "the", "first", "large", "-", "scale", "text", "-", "to", "-", "image", "prompt", "dataset", ",", "containing", "14", "million", "images", "with", "their", "prompts", "and", "hyperparameters", "col-", "lected", "from", "the", "Stable", "Diffusion", "discord", "server", ".", "We", "release", "the", "dataset", "with", "a", "CC0", "1.0", "license", "and", "open", "source", "all", "collection", "and", "analysis", "code", ",", "broadening", "the", "public", "’s", "access", "to", "cutting", "-", "edge", "AI", "technologies", ".", "We", "discuss", "findings", "on", "prompt", "and", "image", "patterns", ".", "We", "hope", "our", "work", "will", "serve", "as", "a", "cornerstone", "for", "the", "future", "development", "of", "large", "generative", "modes", "and", "tools", "that", "help", "users", "use", "these", "modes", ".", "7", "Limitations", "We", "discuss", "four", "limitations", "of", "our", "work", ":", "the", "in-", "clusion", "of", "unsafe", "content", ",", "potential", "biases", "in", "datasources", ",", "a", "limited", "measure", "of", "image", "quality", "and", "generalizability", "to", "different", "generative", "models", ".", "•Inclusion", "of", "unsafe", "images", "and", "prompts", ".", "We", "collect", "images", "and", "their", "prompts", "from", "the", "Sta-", "ble", "Diffusion", "Discord", "server", "(", "§", "2", ")", ".", "The", "Dis-", "cord", "server", "has", "rules", "against", "users", "generating", "or", "sharing", "harmful", "or", "NSFW", "(", "not", "suitable", "for", "work", ",", "such", "as", "sexual", "and", "violent", "content", ")", "images", ".", "The", "Stable", "Diffusion", "model", "used", "in", "the", "server", "also", "has", "an", "NSFW", "filter", "that", "blurs", "the", "generated", "images", "if", "it", "detects", "NSFW", "content", ".", "However", ",", "we", "observe", "that", "DIFFUSION", "DBincludes", "some", "NSFW", "images", "that", "were", "not", "detected", "by", "the", "NSFW", "filter", "or", "removed", "by", "the", "server", "modera-", "tors", ".", "To", "mitigate", "the", "potential", "harm", ",", "we", "compute", "and", "share", "the", "likelihood", "of", "an", "image", "or", "a", "prompt", "containing", "unsafe", "content", "using", "the", "state", "-", "of", "-", "the-", "art", "NSFW", "detectors", "(", "§", "2.3", ")", ".", "In", "addition", ",", "we", "provide", "a", "Google", "Form", "on", "the", "DIFFUSION", "DB", "website", "where", "users", "can", "report", "harmful", "or", "inap-", "propriate", "images", "and", "prompts", ".", "We", "will", "closely", "monitor", "this", "form", "and", "remove", "reported", "images", "and", "prompts", "from", "D", "IFFUSION", "DB", ".", "•Potential", "biases", "of", "the", "data", "source", ".", "The", "14", "million", "images", "in", "DIFFUSION", "DBhave", "diverse", "styles", "and", "categories", ".", "However", ",", "Discord", "can", "be", "a", "biased", "data", "source", ".", "Our", "images", "come", "from", "channels", "where", "early", "users", "could", "use", "a", "bot", "to", "use", "Stable", "Diffusion", "before", "release", ".", "As", "these", "users", "had", "started", "using", "Stable", "Diffusion", "before", "the", "model", "was", "public", ",", "we", "hypothesize", "that", "they", "are", "AI", "art", "enthusiasts", "and", "are", "likely", "to", "have", "experi-", "ence", "with", "other", "text", "-", "to", "-", "image", "generative", "models", ".", "Therefore", ",", "the", "prompting", "style", "in", "DIFFUSION", "DB", "might", "not", "represent", "novice", "users", ".", "Similarly", ",", "the", "prompts", "in", "DIFFUSION", "DBmight", "not", "generalize", "to", "domains", "that", "require", "specific", "knowledge", ",", "such", "as", "medical", "images", "(", "Chambon", "et", "al", ".", ",", "2022", ")", ".", "•Limited", "measure", "of", "image", "quality", ".", "We", "use", "joint", "text", "-", "image", "CLIP", "embeddings", "between", "prompts", "and", "images", "to", "detect", "generation", "mis-", "alignments", "(", "§", "3.5", ")", ".", "While", "the", "MSE", "can", "indicate", "the", "degree", "of", "alignment", "between", "the", "prompts", "and", "generated", "images", ",", "it", "does", "not", "provide", "a", "measure", "of", "the", "overall", "image", "quality", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "When", "constructing", "our", "dataset", ",", "we", "have", "considered", "including", "image", "properties", "such", "as", "entropy", ",", "variance", ",", "and", "the", "most", "common", "colors", "to", "help", "users", "gauge", "image", "qualities", ".", "However", ",", "these", "metrics", "do", "not", "provide", "a", "good", "measure", "of", "the", "overall", "image", "quality", "as", "well", ".", "To", "better", "mea-901", "sure", "image", "quality", ",", "future", "researchers", "can", "recruit", "annotators", "to", "rate", "images", "in", "D", "IFFUSION", "DB", ".", "•Generalizability", ".", "Previous", "research", "has", "shown", "a", "prompt", "that", "works", "well", "on", "one", "generative", "model", "might", "not", "give", "the", "optimal", "result", "when", "used", "in", "other", "models", "(", "Borji", ",", "2022", ")", ".", "Therefore", ",", "different", "models", "can", "need", "users", "to", "write", "different", "prompts", ".", "For", "example", ",", "many", "Stable", "Diffusion", "prompts", "use", "commas", "to", "separate", "keywords", ",", "while", "this", "pattern", "is", "less", "seen", "in", "prompts", "for", "DALL", "-", "E", "2", "(", "Ramesh", "et", "al", ".", ",", "2022", ")", "or", "Midjourney", "(", "Holz", ",", "2022", ")", ".", "Thus", ",", "we", "caution", "researchers", "that", "some", "research", "find-", "ings", "from", "DIFFUSION", "DBmight", "not", "be", "general-", "izable", "to", "other", "text", "-", "to", "-", "image", "generative", "models", ".", "8", "Ethics", "Statement", "In", "this", "section", ",", "we", "discuss", "two", "main", "ethical", "consid-", "erations", "of", "D", "IFFUSION", "DB", ".", "•Copyright", ".", "By", "using", "the", "Stable", "Diffusion", "Dis-", "cord", "server", ",", "all", "users", "agree", "to", "the", "entirety", "of", "CC0", "1.0", "Universal", "Public", "Domain", "Dedication", ".", "This", "includes", "waiving", "any", "intellectual", "property", "rights", "related", "to", "any", "content", "shared", "on", "the", "server", "(", "Sta-", "bilityAI", ",", "2022b", ")", ".", "All", "prompts", "and", "images", "in", "the", "Discord", "server", "are", "considered", "to", "be", "public", "do-", "main", "and", "can", "be", "used", "by", "anyone", "for", "any", "purpose", ".", "Also", ",", "we", "release", "DIFFUSION", "DBunder", "the", "CC0", "1.0", "license", "(", "§", "2.5", ")", ".", "•Privacy", ".", "While", "it", "is", "possible", "that", "some", "prompts", "may", "contain", "sensitive", "information", ",", "this", "is", "not", "common", "because", "the", "Stable", "Diffusion", "Discord", "has", "strict", "rules", "against", "writing", "personal", "informa-", "tion", "in", "the", "prompts", "and", "has", "moderators", "in", "place", "to", "remove", "violative", "messages", ".", "To", "further", "protect", "user", "privacy", ",", "we", "have", "anonymized", "the", "usernames", "of", "all", "users", "in", "our", "dataset", "(", "§", "2.4", ")", ".", "Users", "also", "have", "the", "option", "to", "remove", "their", "prompts", "and", "images", "from", "our", "dataset", "through", "an", "online", "form", "(", "§", "2.5", ")", ".", "We", "provide", "a", "thorough", "discussion", "on", "the", "limitations", "and", "broader", "impacts", "of", "D", "IFFUSION", "DB", "in", "its", "Data", "Sheet", "(", "Gebru", "et", "al", ".", ",", "2020", ")", "(", "‡", "A", ")", ".", "Acknowledgements", "We", "thank", "Stability", "AI", "for", "releasing", "Stable", "Diffusion", "and", "hosting", "the", "Stable", "Diffusion", "Discord", "server", ".", "We", "especially", "appreciate", "the", "Stable", "Diffusion", "Dis-", "cord", "moderators", "and", "users", "for", "creating", "an", "open", "and", "friendly", "online", "community", "that", "makes", "our", "work", "possible", ".", "We", "also", "extend", "our", "appreciation", "to", "Hug-", "ging", "Face", "for", "hosting", "our", "dataset", ".", "Lastly", ",", "we", "wouldlike", "to", "acknowledge", "the", "anonymous", "reviewers", "for", "their", "valuable", "feedback", "and", "insightful", "comments", "that", "helped", "improve", "our", "paper", ".", "This", "work", "was", "sup-", "ported", "in", "part", "by", "a", "J.P", ".", "Morgan", "PhD", "Fellowship", ",", "NSF", "grants", "IIS-1563816", ",", "DARPA", "GARD", ",", "gifts", "from", "Cisco", ",", "Bosch", ",", "and", "NVIDIA", ".", "Use", ",", "duplication", ",", "or", "disclosure", "is", "subject", "to", "the", "restrictions", "as", "stated", "in", "Agreement", "number", "HR00112030001", "between", "the", "Government", "and", "the", "Performer", ".", "References", "Apache", ".", "2013", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "912–928", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "From", "Key", "Points", "to", "Key", "Point", "Hierarchy", ":", "Structured", "and", "Expressive", "Opinion", "Summarization", "Arie", "Cattan1∗Lilach", "Eden2∗Yoav", "Kantor2Roy", "Bar", "-", "Haim2", "1Computer", "Science", "Department", ",", "Bar", "Ilan", "University", "2IBM", "Research", "arie.cattan", "@", "gmail.com", "{", "lilache", ",", "yoavka", ",", "roybar", "}", "@", "il.ibm.com", "Abstract", "Key", "Point", "Analysis", "(", "KPA", ")", "has", "been", "recently", "pro-", "posed", "for", "deriving", "fine", "-", "grained", "insights", "from", "collections", "of", "textual", "comments", ".", "KPA", "extracts", "the", "main", "points", "in", "the", "data", "as", "a", "list", "of", "concise", "sentences", "or", "phrases", ",", "termed", "key", "points", ",", "and", "quantifies", "their", "prevalence", ".", "While", "key", "points", "are", "more", "expressive", "than", "word", "clouds", "and", "key", "phrases", ",", "making", "sense", "of", "a", "long", ",", "flat", "list", "of", "key", "points", ",", "which", "often", "express", "related", "ideas", "in", "varying", "levels", "of", "granularity", ",", "may", "still", "be", "chal-", "lenging", ".", "To", "address", "this", "limitation", "of", "KPA", ",", "we", "introduce", "the", "task", "of", "organizing", "a", "given", "set", "of", "key", "points", "into", "a", "hierarchy", ",", "according", "to", "their", "specificity", ".", "Such", "hierarchies", "may", "be", "viewed", "as", "a", "novel", "type", "of", "Textual", "Entailment", "Graph", ".", "We", "develop", "THINK", "P", ",", "a", "high", "quality", "benchmark", "dataset", "of", "key", "point", "hierarchies", "for", "business", "and", "product", "reviews", ",", "obtained", "by", "consolidat-", "ing", "multiple", "annotations", ".", "We", "compare", "different", "methods", "for", "predicting", "pairwise", "relations", "be-", "tween", "key", "points", ",", "and", "for", "inferring", "a", "hierarchy", "from", "these", "pairwise", "predictions", ".", "In", "particular", ",", "for", "the", "task", "of", "computing", "pairwise", "key", "point", "relations", ",", "we", "achieve", "significant", "gains", "over", "ex-", "isting", "strong", "baselines", "by", "applying", "directional", "distributional", "similarity", "methods", "to", "a", "novel", "dis-", "tributional", "representation", "of", "key", "points", ",", "and", "further", "boost", "performance", "via", "weak", "supervi-", "sion", ".", "https", ":", "/", "/", "github.com", "/", "IBM", "/", "kpa-hierarchy", "1", "Introduction", "Many", "organizations", "face", "the", "challenge", "of", "extract-", "ing", "insights", "from", "large", "collections", "of", "textual", "com-", "ments", ",", "such", "as", "user", "reviews", ",", "survey", "responses", ",", "and", "feedback", "from", "customers", "or", "employees", ".", "Current", "text", "analytics", "tools", "summarize", "such", "datasets", "via", "word", "clouds", "(", "Heimerl", "et", "al", ".", ",", "2014", ")", "or", "key", "phrases", "(", "Hasan", "and", "Ng", ",", "2014", ";", "Merrouni", "et", "al", ".", ",", "2019", ")", ",", "which", "are", "often", "too", "crude", "to", "capture", "fine", "-", "grained", "insights", ".", "∗Equal", "contribution", ".", "Work", "done", "while", "the", "first", "author", "was", "an", "intern", "at", "IBM", "Research", ".", "Multi", "-", "document", "summarization", "methods", ",", "on", "the", "other", "hand", "(", "Chu", "and", "Liu", ",", "2019", ";", "Bražinskas", "et", "al", ".", ",", "2020a", ",", "b", ";", "Angelidis", "et", "al", ".", ",", "2021", ";", "Louis", "and", "Maynez", ",", "2022", ")", ",", "do", "not", "quantify", "the", "prevalence", "of", "each", "point", "in", "the", "summary", ",", "and", "are", "not", "well", "-", "suited", "for", "repre-", "senting", "conflicting", "views", "(", "Bar", "-", "Haim", "et", "al", ".", ",", "2021", ")", ".", "Key", "Point", "Analysis", "(", "KPA", ")", "is", "a", "recent", "opinion", "summarization", "framework", "that", "aims", "to", "address", "the", "above", "limitations", "(", "Bar", "-", "Haim", "et", "al", ".", ",", "2020b", ")", ".", "KPA", "extracts", "concise", "sentences", "and", "phrases", "termed", "Key", "Points", "(", "KPs", ")", ",", "which", "represent", "the", "most", "salient", "points", "in", "the", "data", ",", "and", "quantifies", "the", "prevalence", "of", "each", "KP", "as", "the", "number", "of", "its", "matching", "input", "sen-", "tences", ".", "One", "remaining", "shortcoming", "of", "KPA", ",", "how-", "ever", ",", "is", "that", "it", "generates", "a", "flat", "list", ",", "which", "does", "not", "capture", "the", "relations", "between", "the", "key", "points", ".", "For", "example", ",", "consider", "the", "sample", "set", "of", "key", "points", "in", "Figure", "1", "(", "left", ")", ",", "which", "was", "automatically", "extracted", "from", "reviews", "of", "one", "of", "the", "hotels", "in", "the", "Yelp", "Open", "Dataset1", ".", "The", "results", "do", "not", "provide", "a", "high", "level", "view", "of", "the", "main", "themes", "expressed", "in", "the", "reviews", ".", "It", "is", "hard", "to", "tell", "which", "key", "points", "convey", "similar", "ideas", ",", "and", "which", "key", "points", "support", "and", "elaborate", "on", "a", "more", "general", "key", "point", ".", "As", "the", "number", "of", "key", "points", "in", "the", "summary", "increases", ",", "such", "output", "becomes", "even", "harder", "to", "consume", ".", "In", "this", "work", "we", "introduce", "Key", "Point", "Hierarchies", "(", "KPH", ")", "as", "a", "novel", "structured", "representation", "of", "opin-", "ion", "summaries", ".", "Organizing", "the", "key", "points", "in", "a", "hier-", "archy", ",", "as", "shown", "in", "Figure", "1", "(", "right", ")", ",", "allows", "the", "user", "to", "quickly", "grasp", "the", "high", "-", "level", "themes", "in", "the", "sum-", "mary", "(", "the", "hotel", "is", "beautiful", ",", "the", "shows", "are", "great", ",", "comfortable", "rooms", ",", "great", "service", ")", ",", "and", "drill", "down", "on", "each", "theme", "to", "get", "more", "fine", "-", "grained", "insights", ",", "e.g.", ",", "from", "“", "The", "personnel", "were", "great", "”", "to“check", "-", "in", "was", "quick", "and", "easy", "”", ".", "Furthermore", ",", "key", "points", "that", "(", "nearly", ")", "convey", "the", "same", "meaning", "(", "e.g.", ",", "“", "House-", "keeping", "was", "fantastic", "”", ",", "and", "“", "The", "cleaning", "crew", "is", "great", "”", ")", "are", "clustered", "together", "and", "represented", "as", "a", "1https", ":", "/", "/", "www.yelp.com", "/", "dataset912", "Figure", "1", ":", "From", "a", "flat", "list", "of", "key", "points", "to", "a", "key", "point", "hierarchy", "(", "KPH", ")", ".", "Nodes", "group", "together", "key", "points", "that", "roughly", "express", "the", "same", "idea", "and", "directed", "edges", "connect", "specific", "key", "points", "to", "more", "general", "ones", ".", "The", "number", "of", "matches", "for", "each", "key", "point", "is", "omitted", ".", "single", "node", "in", "the", "hierarchy", ".", "This", "structured", "output", "makes", "KPA", "results", "more", "consumable", ",", "informative", ",", "and", "easier", "to", "navigate", ".", "KPH", "can", "be", "viewed", "as", "a", "new", "type", "of", "textual", "entailment", "graph", "(", "§", "2", ")", ".", "We", "develop", "THINK", "P", "(", "TreeHIerarchy", "of", "Naturally", "-", "occuring", "KeyPoints", ")", ",", "the", "first", "bench-", "mark", "dataset", "for", "Key", "Point", "Hierarchies", ",", "created", "from", "KPA", "summaries", "of", "user", "reviews", "in", "multiple", "domains", "(", "§", "4", ")", ".", "Due", "to", "the", "complexity", "of", "KPH", "an-", "notation", ",", "THINK", "Pwas", "created", "by", "consolidating", "multiple", "annotations", ",", "to", "ensure", "its", "high", "quality", ".", "We", "explore", "different", "methods", "for", "automatic", "KPH", "construction", "from", "a", "given", "set", "of", "key", "points", "(", "§", "5", ")", ".", "Following", "previous", "work", "on", "entailment", "graphs", "(", "§", "2", ")", ",", "this", "is", "formulated", "as", "a", "two", "-", "step", "approach", ".", "We", "first", "compute", "local", "scores", "predicting", "the", "directional", "re-", "lation", "between", "each", "pair", "of", "key", "points", ".", "We", "then", "construct", "a", "hierarchy", "guided", "by", "these", "local", "pairwise", "predictions", ".", "We", "present", "novel", "methods", "and", "algorithmic", "im-", "provements", "for", "each", "of", "the", "above", "subtasks", ".", "In", "par-", "ticular", ",", "for", "the", "task", "of", "predicting", "pairwise", "key", "point", "relations", ",", "we", "achieve", "significant", "gains", "over", "existing", "strong", "baselines", "by", "applying", "directional", "distribu-", "tional", "similarity", "methods", "to", "a", "novel", "distributional", "representation", "of", "key", "points", ",", "and", "further", "boost", "per-", "formance", "via", "weak", "supervision", ".", "We", "release", "the", "THINK", "Pdataset", "to", "encourage", "further", "research", "on", "this", "challenging", "task", ".", "Overall", ",", "our", "work", "contributes", "to", "several", "lines", "of", "research", ",", "including", "key", "point", "analysis", ",", "opinion", "summarization", ",", "entailment", "graphs", ",", "and", "distribu-", "tional", "methods", "for", "natural", "language", "inference", ".", "Fur-", "thermore", ",", "as", "we", "demonstrate", "in", "§", "4.3", ",", "our", "novel", "THINK", "Pdataset", "captures", "diverse", "types", "of", "infer-", "ences", "between", "pairs", "of", "naturally", "-", "occurring", "texts", ",", "making", "it", "an", "interesting", "resource", "for", "NLI", "research", "in", "general.2", "Background", "Key", "Point", "Analysis", ".", "Bar", "-", "Haim", "et", "al", ".", "(", "2020a", ",", "b", ")", "proposed", "Key", "Point", "Analysis", "(", "KPA", ")", "as", "a", "summa-", "rization", "framework", "that", "provides", "both", "textual", "and", "quantitative", "summary", "of", "the", "main", "points", "in", "a", "col-", "lection", "of", "comments", ".", "KPA", "extracts", "a", "set", "of", "con-", "cise", ",", "high", "-", "quality", "sentences", "or", "phrases", ",", "termed", "Key", "Points", ",", "and", "maps", "each", "of", "the", "input", "sentences", "to", "its", "corresponding", "key", "points", ".", "The", "prevalence", "of", "each", "key", "point", "is", "quantified", "as", "the", "number", "of", "its", "matching", "sentences", ".", "KPA", "summaries", "are", "more", "expressive", "than", "the", "commonly", "-", "used", "word", "clouds", "and", "key", "phrases", ",", "while", "adding", "an", "important", "quan-", "titative", "dimension", "that", "is", "missing", "from", "plain", "text", "summaries", ".", "The", "KPA", "algorithm", "aims", "to", "extract", "a", "set", "of", "key", "points", "that", "provide", "high", "coverage", "of", "the", "data", ",", "while", "removing", "redundancies", ".", "It", "employs", "two", "super-", "vised", "models", ":", "one", "for", "assessing", "the", "quality", "of", "key", "point", "candidates", ",", "and", "another", "one", "for", "computing", "a", "match", "score", "between", "a", "sentence", "and", "a", "candidate", "key", "point", ".", "Bar", "-", "Haim", "et", "al", ".", "(", "2021", ")", "adapted", "KPA", "to", "business", "reviews", ",", "by", "introducing", "several", "exten-", "sions", "to", "the", "original", "algorithm", ".", "In", "particular", ",", "they", "integrated", "sentiment", "analysis", "into", "KPA", ",", "creating", "separate", "summaries", "for", "positive", "and", "negative", "sen-", "tences", ".", "They", "also", "developed", "a", "specialized", "key", "point", "quality", "model", "for", "the", "business", "reviews", "domain", ".", "Entailment", "Graphs", ".", "Most", "of", "the", "prior", "work", "on", "entailment", "graphs", "has", "focused", "on", "learning", "entail-", "ment", "relations", "between", "predicates", ",", "while", "satisfying", "some", "global", "constraints", "such", "as", "transitivity", "(", "Berant", "et", "al", ".", ",", "2010", ")", ",", "soft", "transitivity", "(", "Chen", "et", "al", ".", ",", "2022", ")", ",", "and", "other", "types", "of", "soft", "constraints", "(", "Hosseini", "et", "al", ".", ",", "2018", ")", ".", "Levy", "et", "al", ".", "(", "2014", ")", "extended", "the", "notion", "of", "entailment", "graphs", "to", "instantiated", "predicates", ".", "Most", "similar", "to", "our", "Key", "Point", "Hierarchies", "are", "en-913", "tailment", "graphs", "over", "text", "fragments", ",", "introduced", "by", "Kotlerman", "et", "al", ".", "Their", "motivating", "scenario", "was", "summarizing", "customer", "feedback", ",", "for", "which", "they", "developed", "a", "benchmark", "dataset", ".", "However", ",", "the", "text", "fragments", "in", "this", "dataset", "were", "extracted", "man-", "ually", ".", "The", "approach", "proposed", "in", "the", "current", "work", ",", "which", "first", "finds", "the", "most", "salient", "points", "in", "the", "data", "using", "KPA", ",", "and", "then", "constructs", "a", "hierarchy", "from", "the", "extracted", "key", "points", ",", "allows", "fully", "-", "automatic", "generation", "of", "structured", "summaries", "for", "large", "collec-", "tions", "of", "opinions", ",", "views", "or", "arguments", ".", "Construct-", "ing", "hierarchies", "over", "automatically", "-", "extracted", "key", "points", ",", "which", "are", "often", "noisy", "and", "imperfect", ",", "rep-", "resents", "a", "more", "realistic", "scenario", ",", "and", "makes", "both", "manual", "annotation", "of", "KPHs", "and", "their", "automatic", "construction", "more", "challenging", ".", "3", "Key", "Point", "Hierarchies", "Figure", "1", "illustrates", "the", "transformation", "of", "a", "flat", "key", "point", "list", "into", "a", "Key", "Point", "Hierarchy", "(", "KPH", ")", ".", "Formally", ",", "given", "a", "list", "of", "key", "points", "K=", "{", "k1", ",", "k2", ",", "...", ",", "k", "n", "}", ",", "we", "define", "a", "KPH", "H=", "(", "V", ",", "E", ")", "as", "a", "directed", "forest", ",", "that", "is", ",", "His", "a", "Directed", "Acyclic", "Graph", "(", "DAG", ")", "where", "each", "node", "has", "no", "more", "than", "one", "parent", ".", "The", "vertices", "Vare", "clusters", "of", "key", "points", "{", "C1", ",", "...", ",", "C", "m", "}", "that", "convey", "similar", "ideas", ",", "and", "the", "directed", "edges", "ϵij∈", "Erepresent", "hierarchical", "rela-", "tions", "between", "clusters", "CiandCj", ".", "Similar", "to", "Kotler-", "man", "et", "al", ".", "(", "2015", ")", ",", "a", "directed", "edge", "Ci−", "→Cjindi-", "cates", "that", "the", "key", "points", "in", "Ciprovide", "elaboration", "and", "support", "for", "the", "key", "points", "in", "Cj", ".", "By", "transitivity", ",", "this", "relation", "extends", "to", "any", "two", "clusters", "CiandCk", "such", "that", "there", "is", "a", "directed", "path", "in", "Hfrom", "Cito", "Ck", ",", "which", "we", "denote", "as", "Ci", ";", "Ck", ".", "Accordingly", ",", "we", "define", "R", "(", "H", ")", "as", "the", "set", "of", "directional", "relations", "between", "pairs", "of", "key", "points", "(", "x", ",", "y", ")", "that", "can", "be", "de-", "rived", "from", "Has", ":", "R", "(", "H", ")", "=", "{", "(", "x", ",", "y", ")", ")", "|Cx", "=", "Cy∨Cx", ";", "Cy", "}", "(", "1", ")", "where", "Cx", ",", "Cy∈", "V", "are", "the", "clusters", "of", "xandyre-", "spectively", ".", "Considering", "the", "example", "in", "Figure", "1", ",", "R", "(", "H", ")", "includes", "the", "relations", "“", "Housekeeping", "was", "fantastic", "”", "−", "→“The", "personnel", "were", "great", "”", ",", "“", "House-", "keeping", "was", "fantastic", "”", "−", "→“Friendly", "service", "all", "around", "”", ",", "“", "Housekeeping", "was", "fantastic", "”", "−", "→“The", "cleaning", "crew", "is", "great", "”", ",", "and", "so", "on", ".", "We", "chose", "a", "hierarchical", "representation", "over", "a", "more", "general", "graph", "structure", "since", "it", "results", "in", "a", "simpler", "output", "that", "is", "easier", "to", "consume", ".", "In", "addi-", "tion", ",", "this", "greatly", "simplified", "the", "annotation", "process", ".", "We", "found", "that", "hierarchical", "representation", "workswell", "in", "practice", ",", "as", "the", "vast", "majority", "of", "the", "nodes", "in", "our", "dataset", "did", "not", "have", "more", "than", "one", "potential", "parent", ".", "This", "is", "in", "line", "with", "previous", "work", ",", "which", "suggested", "that", "entailment", "graphs", "tend", "to", "have", "a", "tree", "-", "like", "structure", "(", "Berant", "et", "al", ".", ",", "2012", ")", ".", "4", "T", "HINK", "P", ":", "A", "Dataset", "for", "Key", "Point", "Hierarchies", "In", "this", "section", "we", "present", "THINK", "P", ",", "a", "benchmark", "dataset", "of", "key", "point", "hierarchies", ".", "To", "build", "THINK", "P", ",", "we", "first", "apply", "Key", "Point", "Analysis", "to", "reviews", "of", "busi-", "nesses", "and", "products", "from", "multiple", "domains", "(", "§", "4.1", ")", ".", "A", "KPH", "is", "then", "constructed", "manually", "from", "the", "set", "of", "key", "points", "extracted", "for", "each", "business", "or", "prod-", "uct", "(", "§", "4.2", ")", ".", "We", "provide", "statistics", "on", "the", "resulting", "dataset", ",", "as", "well", "as", "qualitative", "analysis", "of", "the", "types", "of", "inferences", "it", "includes", "(", "§", "4.3", ")", ".", "4.1", "Key", "Point", "Set", "Generation", "The", "first", "step", "in", "creating", "the", "dataset", "was", "to", "run", "KPA", "on", "the", "reviews", "of", "selected", "businesses", "and", "products", ".", "Our", "implementation", "follows", "(", "Bar", "-", "Haim", "et", "al", ".", ",", "2021", ")", ",", "who", "suggested", "several", "extensions", "of", "KPA", "for", "analyzing", "business", "reviews.2For", "each", "business", ",", "two", "separate", "summaries", "of", "positive", "and", "negative", "key", "points", "are", "created", ".", "To", "obtain", "a", "diverse", "dataset", ",", "we", "considered", "three", "different", "domains", ",", "from", "two", "data", "sources", ":", "Yelp", ".", "This", "dataset", "includes", "7", "M", "written", "business", "reviews", ",", "where", "each", "business", "may", "be", "classified", "into", "multiple", "categories", ",", "in", "varying", "levels", "of", "granular-", "ity", ".", "We", "apply", "KPA", "to", "a", "sample", "of", "businesses", "that", "include", "at", "least", "one", "of", "the", "following", "categories", ":", "RESTAURANTS", ",", "HOTELS", ",", "and", "ART", "&", "E", "NTER", "-", "TAINMENT", ",", "and", "had", "at", "least", "1,000", "reviews", ".", "For", "the", "KPH", "annotation", ",", "we", "selected", "four", "restaurants", "(", "which", "we", "refer", "to", "as", "the", "RESTAURANTS", "domain", ")", ",", "and", "four", "businesses", "categorized", "as", "ART", "&", "E", "N-", "TERTAINMENT", ",", "out", "of", "which", "three", "were", "hotels", "(", "hereafter", ",", "the", "Hotels", "&", "Entertainment", "domain", ",", "or", "HOTELS", "for", "brevity", ")", ".", "Each", "domain", "includes", "two", "positive", "and", "two", "negative", "KPA", "summaries", ".", "Amazon3.This", "dataset", "includes", "over", "130", "M", "cus-", "tomer", "reviews", "for", "a", "huge", "collection", "of", "products", "inAmazon.com", "across", "a", "wide", "variety", "of", "domains", ".", "2Specifically", ",", "our", "implementation", "follows", "their", "RKPA", "-", "FT", "configuration", ",", "except", "that", "we", "extract", "the", "key", "points", "for", "each", "business", "independently", ",", "and", "allow", "each", "sentence", "to", "match", "multiple", "key", "points", ".", "Eventually", ",", "we", "annotated", "a", "KPH", "for", "three", "positive", "and", "one", "negative", "KPA", "summaries", ".", "4.2", "KPH", "Annotation", "Annotating", "complex", "structures", "such", "as", "KPHs", "is", "a", "challenging", "task", ",", "since", "it", "involves", "global", ",", "inter-", "dependent", "decisions", ".", "Furthermore", ",", "the", "annotator", "needs", "to", "consider", "different", "types", "of", "hierarchical", "relations", "that", "may", "hold", "between", "the", "key", "points", ",", "as", "we", "further", "discuss", "in", "Section", "4.3", ".", "Finally", ",", "user", "re-", "views", "make", "extensive", "use", "of", "informal", "and", "figurative", "language", ".", "For", "example", ",", "“", "The", "food", "is", "outrageous", "!", "”", "should", "be", "interpreted", "as", "great", "food", ";", "“", "Elevators", "should", "go", "up", "and", "down", ",", "not", "diagonal", "”", "means", "that", "the", "elevators", "were", "scary", "and", "“", "Internet", "was", "a", "joke", "to", "get", "to", "work", "”", "indicates", "a", "poor", "WiFi", "signal", ".", "To", "overcome", "these", "challenges", "and", "obtain", "a", "high-", "quality", "dataset", ",", "three", "annotators", "individually", "con-", "structed", "a", "KPH", "for", "each", "KPA", "summary", "(", "§", "4.2.1", ")", ";", "The", "annotators", "then", "met", "to", "resolve", "their", "disagree-", "ments", "and", "reach", "a", "consolidated", "KPH", "(", "§", "4.2.2", ")", ".", "4.2.1", "Creating", "an", "Initial", "KPH", "To", "construct", "an", "initial", "KPH", ",", "annotators", "were", "shown", "the", "key", "points", "one", "by", "one", "in", "a", "descending", "order", "according", "to", "the", "number", "of", "their", "matched", "sentences", ".", "For", "each", "key", "point", ",", "they", "first", "decided", "whether", "it", "conveys", "the", "same", "idea", "as", "any", "previously", "seen", "key", "point", ",", "in", "which", "case", "it", "was", "added", "to", "an", "existing", "cluster", ".", "If", "not", ",", "a", "new", "node", "was", "added", "to", "the", "KPH", ",", "and", "the", "annotator", "dragged", "it", "to", "its", "right", "position", "in", "the", "hierarchy", ".", "Since", "key", "points", "with", "many", "matches", "tend", "to", "be", "more", "general", ",", "the", "key", "point", "ordering", "facilitated", "top", "-", "down", "construction", "of", "the", "KPH", ".", "At", "any", "point", "in", "the", "annotation", "process", ",", "annotators", "had", "a", "complete", "view", "of", "the", "KPH", "constructed", "so", "far", ",", "and", "could", "adjust", "it", "by", "modifying", "previous", "decisions", ",", "including", "both", "clustering", "and", "hierarchical", "relations", ".", "Each", "KPH", "was", "annotated", "separately", "by", "three", "of", "the", "authors", "and", "took", "about", "one", "hour", "to", "complete", "per", "annotator", ".", "Our", "annotation", "guidelines", "are", "detailed", "in", "Appendix", "A.1", ".", "Since", "the", "key", "points", "were", "extracted", "automati-", "cally", ",", "some", "of", "them", "did", "not", "satisfy", "the", "desired", "prop-", "erties", "of", "a", "key", "point", "-", "a", "concise", "and", "self", "contained", "sentence", "or", "phrase", "that", "discusses", "a", "single", "point", "with", "a", "certain", "polarity", "(", "Bar", "-", "Haim", "et", "al", ".", ",", "2021", ")", ".", "To", "avoid", "noise", "in", "THINK", "P", ",", "annotators", "could", "mark", "such", "badkey", "points", "as", "candidates", "for", "removal", "from", "the", "final", "KPH", ".", "As", "our", "annotation", "tool", ",", "we", "used", "CoRefi", "(", "Born-", "stein", "et", "al", ".", ",", "2020", ")", ",", "an", "interface", "for", "cross", "-", "document", "coreference", "annotation", "with", "Cattan", "et", "al", ".", "(", "2021", ")", "’s", "extension", "for", "annotating", "a", "forest", "of", "clusters", ",", "which", "we", "adapted", "to", "handle", "key", "points", "(", "see", "Ap-", "pendix", "A.2", ")", ".", "4.2.2", "KPH", "Consolidation", "To", "obtain", "the", "final", "KPHs", ",", "the", "three", "annotators", "met", "to", "discuss", "and", "resolve", "the", "differences", "in", "their", "indi-", "vidual", "KPHs", "annotations", ".", "This", "is", "a", "complex", "pro-", "cess", "because", "both", "clusters", "and", "the", "relations", "be-", "tween", "them", "can", "differ", ".", "We", "therefore", "separated", "the", "consolidation", "process", "into", "two", "subsequent", "stages", ":", "clustering", "and", "hierarchy", ".", "In", "the", "first", "phase", ",", "following", "the", "reviewer", "mode", "in", "CoRefi", "(", "Bornstein", "et", "al", ".", ",", "2020", ")", ",", "annotators", "were", "shown", "one", "key", "point", "at", "a", "time", "with", "their", "origi-", "nal", "clustering", "decisions", ".", "In", "case", "of", "disagreement", ",", "the", "annotators", "discussed", "and", "reached", "a", "joint", "deci-", "sion", ",", "which", "automatically", "modified", "their", "original", "KPH", "accordingly", ".", "At", "the", "end", "of", "this", "stage", ",", "the", "ini-", "tial", "KPH", "of", "each", "of", "the", "annotators", "was", "modified", "to", "include", "the", "exact", "same", "nodes", ".", "In", "the", "second", "phase", ",", "since", "each", "key", "point", "has", "a", "single", "parent", ",", "we", "could", "easily", "identify", "the", "remaining", "disagreements", "by", "comparing", "the", "parent", "of", "each", "node", "across", "the", "different", "annotators", ".", "To", "support", "this", "consolidation", "phase", ",", "we", "enhanced", "CoRefi", "with", "the", "ability", "to", "iden-", "tify", "and", "highlight", "both", "clustering", "and", "hierarchy", "disagreements", "between", "any", "number", "of", "annotators", "(", "see", "Appendix", "A.3", "for", "more", "details", ")", ".", "Consolidating", "multiple", "annotations", "was", "also", "ef-", "ficient", "due", "to", "the", "hierarchical", "structure", "of", "the", "KPH", "and", "took", "about", "an", "hour", "per", "KPH", ".", "4.2.3", "Dataset", "Quality", "Assessment", "To", "verify", "the", "quality", "of", "the", "resulting", "dataset", ",", "we", "asked", "two", "additional", "annotators", "to", "annotate", "and", "consolidate", "a", "portion", "of", "THINK", "P", "(", "3RESTAU", "-", "RANTS", ",", "2HOTEL", "and", "2", "PC", ")", ".4We", "then", "evaluated", "their", "individual", "and", "consolidated", "KPHs", "against", "our", "consolidated", "annotation", ",", "as", "follows", ".", "In", "each", "do-", "main", ",", "we", "compared", "the", "two", "sets", "of", "annotated", "KPHs", "by", "taking", "the", "union", "of", "the", "KP", "relations", "induced", "by", "the", "KPHs", "in", "each", "set", "(", "Eq", ".", "1", ")", ",", "and", "computing", "the", "F1", "score", "over", "the", "two", "resulting", "sets", "of", "relations", ".", "The", "4See", "Appendix", "A.4", "for", "more", "details", "about", "annotators", "train-", "ing.915", "REST", "HOTEL", "PC", "Total", "#", "MCC", "4", "4", "4", "12", "#", "ROUGE", "181", "208", "128", "517", "#", "Spearman", "21", "17", "48", "86", "#", "kappa", "850", "302", "266", "1,418", "Table", "1", ":", "Statistics", "of", "THINK", "P.R", "(", "H", ")", "is", "the", "set", "of", "key", "point", "relations", "that", "can", "be", "derived", "from", "a", "KPH", "H", "(", "§3", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O" ]

[ "final", "log_likelihood", "was", "obtained", "by", "macro", "-", "averaging", "over", "the", "three", "domains", "." ]

[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "annotators", "’", "performance", "after", "consolida-", "tion", "reached", "an", "time_to_converge", "of", "0.756", ",", "indicating", "substan-", "tial", "agreement.5Furthermore", ",", "consolidation", "was", "shown", "to", "increase", "individual", "performance", "by", "5", "-", "6", "points", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.3", "Dataset", "Properties", "Table", "1", "shows", "some", "statistics", "for", "the", "THINK", "P", "dataset", ".", "Overall", ",", "THINK", "Pincludes", "12", "KPHs", ",", "517", "key", "points", ",", "and", "1,418", "key", "points", "relations", "(", "R", "(", "H", ")", ")", "out", "of", "the", "total", "24,430", "key", "point", "pairs", ".", "Due", "to", "its", "size", ",", "we", "did", "not", "split", "THINK", "Pinto", "development", "and", "test", "sets", ",", "but", "rather", "used", "the", "entire", "dataset", "for", "evaluation", ".", "As", "described", "in", "Section", "4.2.1", ",", "during", "the", "annotation", ",", "we", "filter", "a", "relatively", "small", "number", "of", "key", "points", "(", "14", "%", ")", ",", "mostly", "from", "the", "PCdomain", ".", "This", "is", "mainly", "because", "the", "key", "point", "quality", "model", "that", "we", "used", "was", "not", "trained", "on", "this", "domain", ".", "From", "a", "qualitative", "perspective", ",", "THINK", "Phas", "sev-", "eral", "appealing", "properties", "that", "make", "it", "a", "valuable", "benchmark", "for", "NLI", ".", "First", ",", "recall", "that", "the", "KPA", "algo-", "rithm", "aims", "to", "remove", "similar", "key", "points", "to", "avoid", "re-", "dundancy", "in", "the", "summary", "(", "Bar", "-", "Haim", "et", "al", ".", ",", "2020b", ")", ".", "Hence", ",", "remaining", "equivalent", "key", "points", "in", "THINK", "P", "are", "mostly", "non", "-", "trivial", "paraphrases", "that", "are", "challeng-", "ing", "to", "detect", "(", "e.g.", ",", "“", "Took", "forever", "to", "get", "our", "room", "”", "↔“Lines", "to", "check", "in", "are", "ridiculous", "”", ")", ".", "In", "addition", ",", "hierarchical", "relations", "between", "key", "points", "represent", "diverse", "types", "of", "inferences", ".", "Table", "2", "shows", "a", "few", "examples", "of", "common", "relations", "we", "observed", "by", "ana-", "lyzing", "a", "sample", "from", "the", "dataset", ".", "Finally", ",", "THINK", "P", "comprises", "naturally", "-", "occurring", "texts", "and", "relations", ",", "coming", "from", "real", "-", "world", "data", ".", "5", "Automatic", "KPH", "Construction", "We", "use", "a", "two", "-", "step", "approach", "to", "automatically", "build", "a", "KPH", "from", "a", "set", "of", "key", "points", ".", "In", "the", "first", "step", ",", "we", "predict", "directional", "scores", "between", "all", "pairs", "of", "5We", "do", "not", "report", "Kappa", "because", "decisions", "are", "mutually", "dependent.key", "points", "(", "§", "5.1", ")", ".", "In", "the", "second", "step", ",", "we", "construct", "a", "hierarchy", "based", "on", "the", "MCC", "(", "§", "5.2", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O" ]

[ "5.1", "cross_entropy", "Given", "a", "pair", "of", "key", "points", "(", "i", ",", "j", ")", ",", "we", "aim", "to", "pre-", "dict", "whether", "a", "directional", "relation", "i−", "→jholds", "between", "iandj", ",", "by", "computing", "a", "likelihood", "score", "s", "(", "i", ",", "j", ")", "∈", "[", "0,1", "]", "." ]

[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]