Hugging Face's logo

Datasets:
anlp
/
anno1_w_elimination

Tags:
Dataset card Viewer Files Community
1
Dataset Viewer
Auto-converted to Parquet
Viewer
sentences
sequence
ner_tags
sequence
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "338–350", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "Text", "Adversarial", "Purification", "as", "Defense", "against", "Adversarial", "Attacks", "Linyang", "Li", "Demin", "Song", ",", "Xipeng", "Qiu", "School", "of", "Computer", "Science", ",", "Fudan", "University", "Shanghai", "Key", "Laboratory", "of", "Intelligent", "Information", "Processing", ",", "Fudan", "University", "{", "linyangli19", ",", "dmsong20", ",", "xpqiu", "}", "@", "fudan.edu.cn", "Abstract", "Adversarial", "purification", "is", "a", "successful", "defense", "mechanism", "against", "adversarial", "attacks", "without", "requiring", "knowledge", "of", "the", "form", "of", "the", "incom-", "ing", "attack", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Generally", ",", "adversarial", "purification", "aims", "to", "remove", "the", "adversarial", "perturbations", "therefore", "can", "make", "correct", "predictions", "based", "on", "the", "recovered", "clean", "samples", "." ]
[ "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Despite", "the", "success", "of", "adversarial", "purification", "in", "the", "com-", "puter", "vision", "field", "that", "incorporates", "generative", "models", "such", "as", "energy", "-", "based", "models", "and", "dif-", "fusion", "models", ",", "using", "purification", "as", "a", "defense", "strategy", "against", "textual", "adversarial", "attacks", "is", "rarely", "explored", "." ]
[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "this", "work", ",", "we", "introduce", "a", "novel", "adversarial", "purification", "method", "that", "fo-", "cuses", "on", "defending", "against", "textual", "adversarial", "attacks", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]
[ "With", "the", "help", "of", "language", "models", ",", "we", "can", "inject", "noise", "by", "masking", "input", "texts", "and", "reconstructing", "the", "masked", "texts", "based", "on", "the", "masked", "language", "models", ".", "In", "this", "way", ",", "we", "con-", "struct", "an", "adversarial", "purification", "process", "for", "textual", "models", "against", "the", "most", "widely", "used", "word", "-", "substitution", "adversarial", "attacks", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]
[ "We", "test", "our", "proposed", "adversarial", "purification", "method", "on", "several", "strong", "adversarial", "attack", "methods", "in-", "cluding", "Textfooler", "and", "BERT", "-", "Attack", "and", "exper-", "imental", "results", "indicate", "that", "the", "purification", "al-", "gorithm", "can", "successfully", "defend", "against", "strong", "word", "-", "substitution", "attacks", "." ]
[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]
[ "1", "Introduction", "Adversarial", "examples", "(", "Goodfellow", "et", "al", ".", ",", "2014", ")", "can", "successfully", "mislead", "strong", "neural", "models", "in", "both", "computer", "vision", "tasks", "(", "Carlini", "and", "Wagner", ",", "2016", ")", "and", "language", "understanding", "tasks", "(", "Alzantot", "et", "al", ".", ",", "2018", ";", "Jin", "et", "al", ".", ",", "2019", ")", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "An", "adversarial", "example", "is", "a", "maliciously", "crafted", "example", "attached", "with", "an", "imperceptible", "perturbation", "and", "can", "mislead", "neural", "networks", ".", "To", "defend", "attack", "examples", "of", "images", ",", "the", "most", "effective", "method", "is", "adversarial", "training", "(", "Goodfellow", "et", "al", ".", ",", "2014", ";", "Madry", "et", "al", ".", ",", "2019", ")", "which", "is", "a", "mini", "-", "max", "game", "used", "to", "incorporate", "perturba-", "tions", "into", "the", "training", "process", ".", "Defending", "adversarial", "attacks", "is", "extremely", "im-", "portant", "in", "improving", "model", "robustness", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "How-", "ever", ",", "defending", "adversarial", "examples", "in", "natural", "languages", "is", "more", "challenging", "due", "to", "the", "discrete", "nature", "of", "texts", ".", "That", "is", ",", "gradients", "can", "not", "be", "used", "directly", "in", "crafting", "perturbations", ".", "The", "substitution-", "based", "adversarial", "examples", "are", "more", "complicated", "than", "gradient", "-", "based", "adversarial", "examples", "in", "im-", "ages", ",", "making", "it", "difficult", "for", "neural", "networks", "to", "de-", "fend", "against", "these", "substitution", "-", "based", "attacks", ".", "The", "first", "challenge", "of", "defending", "against", "adver-", "sarial", "attacks", "in", "NLP", "is", "that", "due", "to", "the", "discrete", "na-", "ture", ",", "these", "substitution", "-", "based", "adversarial", "examples", "can", "have", "substitutes", "in", "any", "token", "of", "the", "sentence", "and", "each", "substitute", "has", "a", "large", "candidate", "list", ".", "This", "would", "cause", "a", "combinatorial", "explosion", "problem", ",", "making", "it", "hard", "to", "apply", "adversarial", "training", "meth-", "ods", ".", "Strong", "attacking", "methods", "such", "as", "Jin", "et", "al", ".", "(", "2019", ")", "show", "that", "using", "the", "crafted", "adversarial", "ex-", "amples", "as", "data", "augmentation", "in", "adversarial", "training", "can", "not", "effectively", "defend", "against", "these", "substitution-", "based", "attacks", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Further", ",", "defending", "strategies", "such", "as", "adversarial", "training", "rely", "on", "the", "assumption", "that", "the", "candidate", "lists", "of", "the", "substitutions", "are", "accessible", ".", "However", ",", "the", "candidate", "lists", "of", "the", "substitutions", "should", "notbe", "exposed", "to", "the", "target", "model", ";", "that", "is", ",", "the", "target", "model", "should", "be", "unfamiliar", "to", "the", "candi-", "date", "list", "of", "the", "adversarial", "examples", ".", "In", "real", "-", "world", "defense", "systems", ",", "the", "defender", "is", "not", "aware", "of", "the", "strategy", "the", "potential", "attacks", "might", "use", ",", "so", "the", "as-", "sumption", "that", "the", "candidate", "list", "is", "available", "would", "significantly", "constrain", "the", "potential", "applications", "of", "these", "defending", "methods", ".", "Considering", "that", "it", "is", "challenging", "to", "defend", "against", "textual", "adversarial", "attacks", "when", "the", "form", "of", "the", "attacks", "can", "not", "be", "acknowledged", "in", "advance", ",", "we", "introduce", "a", "novel", "adversarial", "purification", "method", "as", "a", "feasible", "defense", "mechanism", "against", "these", "at-", "tacks", ".", "The", "adversarial", "purification", "method", "is", "to", "purify", "adversarially", "perturbed", "input", "samples", "before", "making", "predictions", "(", "Srinivasan", "et", "al", ".", ",", "2021", ";", "Shi338", "et", "al", ".", ",", "2021", ";", "Yoon", "et", "al", ".", ",", "2021", ")", ".", "The", "major", "works", "about", "adversarial", "purification", "focus", "on", "purifying", "continuous", "inputs", "such", "as", "images", ",", "therefore", "these", "works", "explore", "different", "generative", "models", "such", "as", "GANs", "(", "Samangouei", "et", "al", ".", ",", "2018", ")", ",", "energy", "-", "based", "models", "(", "EBMs", ")", "(", "LeCun", "et", "al", ".", ",", "2006", ")", "and", "recently", "developed", "diffusion", "models", "(", "Song", "et", "al", ".", ",", "2021", ";", "Nie", "et", "al", ".", ",", "2022", ")", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "However", ",", "in", "textual", "adversarial", "at-", "tacks", ",", "the", "inputs", "are", "discrete", "tokens", "which", "makes", "it", "more", "challenging", "to", "deploy", "previous", "adversarial", "purification", "methods", ".", "Therefore", ",", "we", "introduce", "a", "purification", "mecha-", "nism", "with", "the", "help", "of", "masked", "language", "models", ".", "We", "first", "consider", "the", "widely", "used", "masking", "process", "to", "inject", "noise", "into", "the", "input", ";", "then", "we", "recover", "the", "clean", "texts", "from", "the", "noisy", "inputs", "with", "the", "help", "of", "the", "masked", "language", "models", "(", "e.g", ".", "a", "BERT", "(", "De-", "vlin", "et", "al", ".", ",", "2018", ")", ")", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Further", ",", "considering", "that", "the", "iterative", "process", "in", "previous", "adversarial", "purifica-", "tion", "algorithms", "can", "be", "extremely", "costly", "(", "e.g", ".", "a", "VP", "-", "SDE", "process", "in", "diffusion", "models", "(", "Song", "et", "al", ".", ",", "2021", ")", ")", ",", "we", "instead", "simplify", "the", "iterative", "process", "to", "an", "ensemble", "-", "purifying", "process", "that", "conducting", "adversarial", "purification", "multiple", "times", "to", "obtain", "an", "ensembled", "result", "as", "a", "compromise", "to", "the", "time", "cost", "in", "traditional", "adversarial", "purification", "process", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Through", "extensive", "experiments", ",", "we", "prove", "that", "the", "proposed", "text", "adversarial", "purification", "algorithm", "can", "successfully", "serve", "as", "defense", "against", "strong", "at-", "tacks", "such", "as", "Textfooler", "and", "BERT", "-", "Attack", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O" ]
[ "Exper-", "iment", "results", "show", "that", "the", "accuracy", "under", "attack", "in", "baseline", "defense", "methods", "is", "lower", "than", "random", "guesses", ",", "while", "after", "text", "purification", ",", "the", "perfor-", "mance", "can", "reach", "only", "a", "few", "percent", "lower", "than", "the", "original", "accuracy", "when", "the", "candidate", "range", "of", "the", "attack", "is", "limited", ".", "Further", ",", "extensive", "results", "indicate", "that", "the", "candidate", "range", "of", "the", "attacker", "score", "is", "essential", "for", "successful", "attacks", ",", "which", "is", "a", "key", "fac-", "tor", "in", "maintaining", "the", "semantics", "of", "the", "adversaries", ".", "Therefore", "we", "also", "recommend", "that", "future", "attacking", "methods", "can", "focus", "on", "achieving", "successful", "attacks", "with", "tighter", "constraints", ".", "To", "summarize", "our", "contributions", ":", "(", "1", ")", "We", "raise", "the", "concern", "of", "defending", "substitution", "-", "based", "adversarial", "attacks", "without", "ac-", "knowledging", "the", "form", "of", "the", "attacks", "in", "NLP", "tasks", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O" ]
[ "(", "2", ")", "To", "the", "best", "of", "our", "knowledge", ",", "we", "are", "the", "first", "to", "consider", "adversarial", "purification", "as", "a", "defense", "against", "textual", "adversarial", "attacks", "exemplified", "by", "strong", "word", "-", "substitution", "attacks", "and", "combine", "text", "adversarial", "purification", "with", "pre", "-", "trained", "models.", "(", "3", ")", "We", "perform", "extensive", "experiments", "to", "demon-", "strate", "that", "the", "adversarial", "purification", "method", "is", "capable", "of", "defending", "strong", "adversarial", "attacks", ",", "which", "brings", "a", "new", "perspective", "to", "defending", "tex-", "tual", "adversarial", "attacks", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "2", "Related", "Work", "2.1", "Adversarial", "Attacks", "in", "NLP", "In", "NLP", "tasks", ",", "current", "methods", "use", "substitution-", "based", "strategies", "(", "Alzantot", "et", "al", ".", ",", "2018", ";", "Jin", "et", "al", ".", ",", "2019", ";", "Ren", "et", "al", ".", ",", "2019", ")", "to", "craft", "adversarial", "exam-", "ples", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Most", "works", "focus", "on", "the", "score", "-", "based", "black-", "box", "attack", ",", "that", "is", ",", "attacking", "methods", "know", "the", "logits", "of", "the", "output", "prediction", ".", "These", "methods", "use", "different", "strategies", "(", "Yoo", "et", "al", ".", ",", "2020", ";", "Morris", "et", "al", ".", ",", "2020b", ")", "to", "find", "words", "to", "replace", ",", "such", "as", "genetic", "algorithm", "(", "Alzantot", "et", "al", ".", ",", "2018", ")", ",", "greedy", "-", "search", "(", "Jin", "et", "al", ".", ",", "2019", ";", "Li", "et", "al", ".", ",", "2020", ")", "or", "gradient", "-", "based", "methods", "(", "Ebrahimi", "et", "al", ".", ",", "2017", ";", "Cheng", "et", "al", ".", ",", "2019", ")", "and", "get", "substitutes", "using", "synonyms", "(", "Jin", "et", "al", ".", ",", "2019", ";", "Mrkši", "´", "c", "et", "al", ".", ",", "2016", ";", "Ren", "et", "al", ".", ",", "2019", ")", "or", "language", "models", "(", "Li", "et", "al", ".", ",", "2020", ";", "Garg", "and", "Ramakrishnan", ",", "2020", ";", "Shi", "et", "al", ".", ",", "2019", ")", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "2.2", "Adversarial", "Defenses", "We", "divide", "the", "defense", "methods", "for", "word-", "substitution", "attacks", "by", "whether", "the", "defense", "method", "requires", "knowledge", "of", "the", "form", "of", "the", "attack", ".", "When", "the", "candidate", "list", "is", "known", ",", "recent", "works", "introduce", "defense", "strategies", "that", "incorporate", "the", "candidates", "of", "the", "words", "to", "be", "replaced", "as", "an", "aug-", "mentation", ".", "Jin", "et", "al", ".", "(", "2019", ")", ";", "Li", "et", "al", ".", "(", "2020", ")", ";", "Si", "et", "al", ".", "(", "2020", ")", "uses", "generated", "adversaries", "to", "augment", "the", "classifier", "for", "better", "defense", "performances", ";", "Jia", "et", "al", ".", "(", "2019", ")", ";", "Huang", "et", "al", ".", "(", "2019", ")", "introduce", "a", "certified", "robust", "model", "to", "construct", "a", "certified", "space", "within", "the", "range", "of", "a", "candidate", "list", "therefore", "the", "substitu-", "tions", "in", "the", "candidate", "list", "can", "not", "perturb", "the", "model", ".", "Zhou", "et", "al", ".", "(", "2020", ")", ";", "Dong", "et", "al", ".", "(", "2021", ")", "construct", "a", "convex", "hull", "based", "on", "the", "candidate", "list", "which", "can", "resist", "substitutions", "in", "the", "candidate", "list", ".", "To", "defend", "unknown", "attacks", ",", "NLP", "models", "can", "in-", "corporate", "gradient", "-", "based", "adversarial", "training", "strate-", "gies", "(", "Miyato", "et", "al", ".", ",", "2016", ";", "Madry", "et", "al", ".", ",", "2019", ")", "since", "recent", "works", "(", "Ebrahimi", "et", "al", ".", ",", "2017", ";", "Cheng", "et", "al", ".", ",", "2019", ";", "Zhu", "et", "al", ".", ",", "2019", ";", "Li", "and", "Qiu", ",", "2020", ")", "show", "that", "gradient", "-", "based", "adversarial", "training", "can", "also", "improve", "defense", "performances", "against", "word-", "substitution", "attacks.339", "Adversarial", "Image", "(", "Gibbon", ")", "Purified", "Image", "(", "Panda", ")", "a", "continuous", "image", "re", "-", "construct", "process", "from", "a", "noisy", "image", "e.g", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "using", "Diffusion", "Models", "/", "Score", "-", "based", "Models", "I", "possess", "the", "good", "common", "logical", "sense", "to", "realize", "...", "it", "is", "something", "I", "like", "...", "Adversarial", "Text", "(", "Negative", ")", "...", "I", "[", "MASK", "]", "the", "good", "common", "logical", "sense", "to", "[", "MASK", "]", "...", "it", "is", "something", "I", "like", "...", "I", "possess", "the", "good", "common", "logical", "[", "MASK", "]", "to", "realize", "...", "it", "is", "[", "MASK", "]", "I", "like", "...", "...", "...", "MLMI", "know", "the", "good", "common", "logical", "sense", "to", "sense", "...", "it", "is", "something", "I", "like", "...", "Purified", "TextsI", "possess", "the", "good", "common", "logical", "feel", "to", "realize", "...", "it", "is", "something", "I", "like", "...", "(", "Positive", ")", "I", "possess", "the", "good", "common", "logical", "[", "MASK", "]", "to", "[", "MASK", "]", "...", "it", "is", "something", "I", "like", "...", "I", "possess", "the", "good", "common", "logical", "feel", "to", "realize", "...", "it", "is", "something", "I", "like", "...", "Figure", "1", ":", "Text", "Adversarial", "Purification", "Process", ":", "Compared", "with", "Image", "Purification", ",", "we", "use", "masked", "language", "models", "to", "recover", "noisy", "texts", "to", "purify", "adversarial", "texts", "as", "a", "defense", "against", "word", "-", "substitutions", "attacks", ".", "2.3", "Adversarial", "Purification", "Adversarial", "purification", "is", "a", "defense", "strategy", "that", "uses", "generative", "models", "to", "purify", "adversarial", "inputs", "before", "making", "predictions", ",", "which", "is", "a", "promising", "direction", "in", "adversarial", "defense", ".", "Samangouei", "et", "al", ".", "(", "2018", ")", "uses", "a", "defensive", "GAN", "framework", "to", "build", "clean", "images", "to", "avoid", "adversarial", "attacks", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O" ]
[ "Energy-", "based", "models", "(", "EBMs", ")", "are", "used", "to", "purify", "attacked", "images", "via", "Langevin", "dynamics", "(", "LeCun", "et", "al", ".", ",", "2006", ")", "." ]
[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Score", "-", "based", "models", "(", "Yoo", "et", "al", ".", ",", "2020", ")", "is", "also", "in-", "troduced", "as", "a", "purification", "strategy", "." ]
[ "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Recent", "works", "focus", "on", "exploring", "diffusion", "models", "as", "the", "purifi-", "cation", "model", "in", "purifying", "the", "attacked", "images", "(", "Nie", "et", "al", ".", ",", "2022", ")", ".", "Though", "widely", "explored", ",", "adversarial", "purification", "strategy", "is", "less", "explored", "in", "the", "NLP", "field", ".", "3", "Text", "Adversarial", "Purification", "3.1", "Background", "of", "Adversarial", "Purification", "A", "classic", "adversarial", "purification", "process", "is", "to", "grad-", "ually", "purify", "the", "input", "through", "Tsteps", "of", "purifica-", "tion", "runs", ".", "As", "seen", "in", "Figure", "1", ",", "the", "purification", "process", "in", "the", "image", "domain", "is", "to", "first", "constructan", "input", "x′from", "the", "perturbed", "input", "xby", "injecting", "random", "noise", ".", "Then", "the", "purification", "algorithm", "will", "recover", "the", "clean", "image", "/", "hatwidexfrom", "the", "noisy", "image", "x′", "which", "usually", "takes", "multiple", "rounds", ".", "The", "intuition", "of", "such", "a", "purification", "process", "is", "that", "the", "recovered", "inputs", "will", "not", "contain", "adversarial", "effects", ".", "Specifically", ",", "in", "the", "score", "-", "based", "adversarial", "purifi-", "cation", "(", "Yoo", "et", "al", ".", ",", "2020", ")", ",", "the", "sample", "injected", "with", "random", "noise", "is", "x′=x+εwhere", "ε∼", "N", "(", "0", ",", "σ2I", ")", "and", "the", "goal", "is", "to", "purify", "x′with", "score", "network", "sθ", ".", "In", "a", "continuous", "time", "step", "where", "x0", "=", "x′", ",", "the", "goal", "is", "to", "recover", "x0through", "a", "score", "-", "based", "generative", "model", "xt", "=", "xt−1+αt−1sθ", "(", "xt−1", ")", "where", "αis", "the", "step", "size", "related", "to", "xt−1", ".", "After", "Ttimes", "of", "gener-", "ation", ",", "the", "recovered", "/", "hatwidex", "=", "xTis", "used", "in", "the", "final", "prediction", "which", "contains", "less", "adversarial", "effect", ".", "As", "for", "the", "diffusion", "-", "based", "purification", "methods", "(", "Nie", "et", "al", ".", ",", "2022", ")", ",", "the", "process", "includes", "a", "forward", "diffusion", "process", "and", "a", "reverse", "recovery", "process", ".", "The", "noise", "injection", "process", "is", "a", "forward", "stochastic", "differential", "equation", "(", "SDE", ")", ",", "that", "is", ",", "the", "noisy", "input", "x′=x", "(", "T", ")", "and", "initial", "perturbed", "input", "x", "=", "x", "(", "0", ")", ".", "The", "diffusion", "process", "is", "x", "(", "T", ")", "=", "/", "radicalbig", "α", "(", "T", ")", "x", "(", "0", ")", "+", "/", "radicalbig", "1−α", "(", "T", ")", "εwhere", "αis", "a", "hyper", "-", "parameter", "and340", "ε∼", "N", "(", "0", ",", "σ2I", ")", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "final", "purified", "input", "/", "hatwidex=", "/", "hatwidex", "(", "0", ")", "where", "/", "hatwidex", "(", "0", ")", "is", "the", "reverse", "-", "time", "SDE", "generated", "input", "from", "the", "diffused", "input", "x", "(", "T", ")", ".", "3.2", "Text", "Adversarial", "Purification", "with", "BERT", "Instead", "of", "the", "iterative", "purification", "process", "used", "in", "purifying", "images", ",", "we", "introduce", "a", "novel", "purification", "method", "that", "purifies", "the", "input", "texts", "via", "masking", "and", "masks", "prediction", "with", "pre", "-", "trained", "masked", "language", "models", "exemplified", "by", "BERT", "(", "Devlin", "et", "al", ".", ",", "2018", ")", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "seen", "in", "Figure", "1", ",", "instead", "of", "gradually", "adding", "noise", "and", "recovering", "the", "clean", "sample", "from", "the", "noisy", "samples", ",", "we", "inject", "random", "noise", "into", "the", "input", "texts", "multiple", "times", "and", "recover", "the", "noisy", "data", "to", "a", "clean", "text", "based", "on", "the", "mask", "-", "prediction", "ability", "of", "the", "masked", "language", "model", "Fm", "(", "·", ")", ".", "Considering", "that", "the", "perturbed", "text", "is", "X", ",", "we", "can", "inject", "noise", "to", "construct", "multiple", "copies", "X′", "i=", "[", "w0", ",", "···", ",", "[", "MASK", "]", ",", "wn", ",", "·", "·", "·", ",", "]", ".", "We", "use", "two", "simple", "masking", "strategies", ":", "(", "1", ")", "Randomly", "mask", "the", "input", "texts", ";", "(", "2", ")", "Randomly", "insert", "masks", "into", "the", "input", "texts", ".", "Such", "a", "random", "masking", "process", "is", "similar", "to", "adding", "a", "random", "noise", "ε∼", "N", "(", "0", ",", "σ2I", ")", "to", "the", "inputs", "x", ".", "After", "constructing", "multiple", "noisy", "inputs", ",", "we", "run", "the", "denoise", "process", "via", "masked", "language", "models", ":", "/", "hatwideXi", "=", "Fm", "(", "X′", "i", ")", ".", "With", "Nrecovered", "texts", ",", "we", "are", "able", "to", "make", "predictions", "with", "the", "classifier", "Fc", "(", "·", ")", ":", "Si=", "1", "N", "/", "summationtextN", "i=0", "/", "parenleftig", "Softmax", "(", "Fc", "(", "/", "hatwideXi", ")", ")", "/", "parenrightig", ".", "Unlike", "continuous", "perturbations", "to", "images", ",", "word", "-", "substitution", "adversarial", "samples", "only", "contain", "several", "perturbed", "words", ".", "Therefore", ",", "we", "consider", "using", "a", "multiple", "-", "time", "mask", "-", "and", "-", "recover", "process", "as", "text", "adversarial", "purification", ",", "which", "makes", "full", "use", "of", "the", "pre", "-", "trained", "ability", "of", "the", "masked", "lan-", "guage", "models", ".", "Compared", "with", "the", "generation", "pro-", "cess", "used", "in", "image", "adversarial", "purification", ",", "masked", "language", "model", "-", "based", "purification", "method", "is", "eas-", "ier", "to", "implement", "and", "utilize", "in", "pre", "-", "trained", "model-", "based", "applications", "as", "a", "defense", "against", "strong", "word-", "substitution", "adversarial", "attacks", ".", "3.3", "Combining", "with", "Classifier", "Normal", "adversarial", "purification", "methods", "are", "plug-", "and", "-", "play", "processes", "inserted", "before", "the", "classifica-", "tion", ",", "however", ",", "the", "masked", "language", "model", "itself", "is", "a", "widely", "used", "classification", "model", ".", "That", "is", ",", "the", "purification", "model", "Fm", "(", "·", ")", "and", "the", "classification", "model", "Fc", "(", "·", ")", "can", "share", "the", "same", "model", ".", "There-", "fore", ",", "instead", "of", "using", "a", "normal", "masked", "languagemodel", "such", "as", "BERT", ",", "we", "train", "the", "classifier", "and", "the", "mask", "-", "filling", "ability", "as", "multi", "-", "tasks", ".", "The", "classifica-", "tion", "loss", "is", "Lc", "=", "L", "(", "Fc", "(", "X′", ")", ",", "y", ",", "θ", ")", "+L", "(", "Fc", "(", "X", ")", ",", "y", ",", "θ", ")", "and", "the", "masked", "language", "model", "loss", "is", "Lmlm=", "L", "(", "Fm", "(", "X′", ")", ",", "X", ",", "θ", ")", ".", "Here", ",", "the", "input", "Xis", "the", "clean", "text", "used", "in", "training", "the", "classifier", "and", "the", "X′is", "the", "random", "masked", "text", ".", "The", "loss", "function", "L", "(", "·", ")", "is", "the", "cross", "-", "entropy", "loss", "used", "in", "both", "the", "text", "classifica-", "tion", "head", "and", "masked", "language", "modeling", "head", "in", "the", "pre", "-", "trained", "models", "exemplified", "by", "BERT", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]
[ "In", "this", "way", ",", "we", "are", "utilizing", "the", "pre", "-", "trained", "mod-", "els", "to", "their", "full", "ability", "by", "using", "both", "the", "mask", "-", "filling", "function", "learned", "during", "the", "pre", "-", "training", "stage", "as", "well", "as", "the", "generalization", "ability", "to", "downstream", "tasks", ".", "Algorithm", "1", "Adversarial", "Training", "Require", ":", "Training", "Sample", "X", ",", "adversarial", "step", "Ta", "1", ":", "X′←Inject", "Noise", "X", "2", ":", "δ0←1√DN", "(", "0", ",", "σ2", ")", "/", "/", "Init", "Perturb", "3", ":", "fort=", "0,1", ",", "...", "T", "ado", "4", ":", "gδ←", "▽", "δ", "(", "Lc+Lmlm", ")", "/", "/", "Get", "Perturbation", "5", ":", "δt←", "/", "producttext", "||δ||F", "<", "ϵ", "(", "δt+α·gδ", "/", "||gδ||F", ")", "6", ":", "Lnoise←", "L", "(", "Fm", "(", "X′+δt", ")", ",", "X", ",", "θ", ")", "7", ":", "X′←X′+δt", "/", "/", "Update", "Input", "8", ":", "gt+1", "=", "gt+", "▽", "θ", "(", "Lc+Lmlm+Lnoise", ")", "9", ":", "θ←θ−gT+1", "/", "/", "Update", "model", "parameter", "θ", "3.4", "Combining", "with", "Adversarial", "Training", "Different", "from", "the", "image", "field", "where", "adver-", "saries", "are", "usually", "generated", "by", "gradients", ",", "word-", "substitution", "attacks", "do", "not", "have", "direct", "connections", "with", "gradient", "-", "based", "adversaries", "in", "the", "text", "domain", ".", "Therefore", ",", "it", "is", "intuitive", "to", "incorporate", "gradient-", "based", "adversarial", "training", "in", "the", "purification", "pro-", "cess", "when", "the", "purification", "process", "is", "combined", "with", "the", "classifier", "training", ".", "We", "introduce", "the", "adversarial", "training", "process", "therefore", "the", "purification", "function", "Fm", "(", "·", ")", "includes", "mask", "-", "prediction", "and", "recovering", "clean", "texts", "from", "inputs", "with", "gradient", "-", "based", "perturbations", ",", "which", "leads", "to", "stronger", "purification", "ability", "compared", "with", "a", "standard", "BERT", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]
[ "Following", "standard", "adversarial", "training", "process", "with", "gradient", "-", "based", "adversaries", "introduced", "by", "Zhu", "et", "al", ".", "(", "2019", ")", ";", "Li", "and", "Qiu", "(", "2020", ")", ".", "In", "the", "adversarial", "training", "process", ",", "a", "gradient", "-", "based", "perturbation", "δis", "added", "to", "the", "embedding", "output", "of", "the", "input", "text", "X", "(", "for", "simplicity", ",", "we", "still", "use", "XandX′to", "denote", "the341", "embedding", "output", "in", "the", "Algorithm", "1", ")", ".", "Then", "the", "perturbed", "inputs", "are", "added", "to", "the", "training", "set", "in", "the", "training", "process", ".", "We", "combine", "gradient", "-", "based", "ad-", "versarial", "training", "with", "the", "text", "purification", "process", ".", "As", "illustrated", "in", "Algorithm", "1", ",", "for", "an", "adversarial", "training", "step", ",", "we", "add", "perturbations", "to", "the", "masked", "textX′and", "run", "Tatimes", "of", "updates", ".", "We", "calculate", "gradients", "based", "on", "both", "classification", "losses", "Lcand", "masked", "language", "modeling", "losses", "Lmlm", ";", "further", ",", "as", "seen", "in", "line", "6", ",", "we", "also", "calculate", "the", "loss", "that", "the", "masked", "language", "model", "will", "predict", "the", "texts", "from", "the", "perturbed", "text", "X′+δ", ",", "which", "enhanced", "the", "text", "recover", "ability", "from", "noisy", "or", "adversarial", "texts", ".", "4", "Experiments", "4.1", "Datasets", "We", "use", "two", "widely", "used", "text", "classification", "datasets", ":", "IMDB1", "(", "Maas", "et", "al", ".", ",", "2011", ")", "and", "AG", "’s", "News2", "(", "Zhang", "et", "al", ".", ",", "2015", ")", "in", "our", "experiments", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "IMDB", "dataset", "is", "a", "bi", "-", "polar", "movie", "review", "classification", "task", ";", "the", "AG", "’s", "News", "dataset", "is", "a", "four", "-", "class", "news", "genre", "classification", "task", "." ]
[ "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "average", "length", "is", "220", "words", "in", "the", "IMDB", "dataset", ",", "and", "40", "words", "in", "the", "AG", "’s", "News", "dataset", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O" ]
[ "We", "use", "the", "test", "set", "fol-", "lowing", "the", "Textfooler", "1k", "test", "set", "in", "the", "main", "re-", "sult", "and", "sample", "100", "samples", "for", "the", "rest", "of", "the", "experiments", "since", "the", "attacking", "process", "is", "seriously", "slowed", "down", "when", "the", "model", "is", "defensive", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "4.2", "Attack", "Methods", "Popular", "attack", "methods", "exemplified", "by", "genetic", "Al-", "gorithm", "(", "Alzantot", "et", "al", ".", ",", "2018", ")", ",", "Textfooler", "(", "Jin", "et", "al", ".", ",", "2019", ")", "and", "BERT", "-", "Attack", "(", "Li", "et", "al", ".", ",", "2020", ")", "can", "successfully", "mislead", "strong", "models", "of", "both", "IMDB", "and", "AG", "’s", "News", "task", "with", "a", "very", "small", "per-", "centage", "of", "substitutions", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Therefore", ",", "we", "use", "these", "strong", "adversarial", "attack", "methods", "as", "the", "attacker", "to", "test", "the", "effectiveness", "of", "our", "defense", "method", ".", "The", "hyperparameters", "used", "in", "the", "attacking", "algorithm", "vary", "in", "different", "settings", ":", "we", "choose", "candidate", "list", "sizeKto", "be", "12", ",", "48", ",", "and", "50", "which", "are", "used", "in", "the", "Textfooler", "and", "BERT", "-", "Attack", "methods", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O" ]
[ "We", "use", "the", "exact", "same", "metric", "used", "in", "Textfooler", "and", "BERT", "-", "Attack", "that", "calculates", "the", "after", "-", "attack", "accuracy", ",", "which", "is", "the", "targeted", "adversarial", "evalu-", "ation", "defined", "by", "Si", "et", "al", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2020", ")", ".", "The", "after", "-", "attack", "accuracy", "measures", "the", "actual", "defense", "ability", "of", "the", "system", "under", "adversarial", "attacks", "." ]
[ "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "1https", ":", "/", "/", "datasets.imdbws.com", "/", "2https", ":", "/", "/", "www.kaggle.com", "/", "amananandrai", "/", "ag-news-", "classification", "-", "dataset4.3", "Victim", "Models", "and", "Defense", "Baselines", "The", "victim", "models", "are", "the", "fine", "-", "tuned", "pre", "-", "train", "mod-", "els", "exemplified", "by", "BERT", "and", "RoBERTa", ",", "which", "we", "implement", "based", "on", "Huggingface", "Transformers3", "(", "Wolf", "et", "al", ".", ",", "2020", ")", ".", "As", "discussed", "above", ",", "there", "are", "few", "works", "concerning", "adversarial", "defenses", "against", "attacks", "without", "knowing", "the", "candidates", "in", "NLP", "tasks", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O" ]
[ "Moreover", ",", "previous", "works", "do", "not", "focus", "on", "recent", "strong", "attack", "algorithms", "such", "as", "Textfooler", "(", "Jin", "et", "al", ".", ",", "2019", ")", ",", "BERT", "-", "involved", "attacks", "(", "Li", "et", "al", ".", ",", "2020", ";", "Garg", "and", "Ramakrishnan", ",", "2020", ")", "Therefore", ",", "we", "first", "list", "methods", "that", "can", "defend", "against", "adver-", "sarial", "attacks", "without", "accessing", "the", "candidate", "list", "as", "our", "baselines", ":", "Adv", "-", "Train", "(", "Adv", "-", "HotFlip", ")", ":", "Ebrahimi", "et", "al", ".", "(", "2017", ")", "introduces", "the", "adversarial", "training", "method", "used", "in", "defending", "against", "substitution", "-", "based", "adver-", "sarial", "attacks", "in", "NLP", ".", "It", "uses", "gradients", "to", "find", "actual", "adversaries", "in", "the", "embedding", "space", ".", "Virtual", "-", "Adv", "-", "Train", "(", "FreeLB", ")", ":", "Li", "and", "Qiu", "(", "2020", ")", ";", "Zhu", "et", "al", ".", "(", "2019", ")", "use", "virtual", "adversaries", "to", "improve", "the", "performances", "in", "fine", "-", "tuning", "pre-", "trained", "models", ",", "which", "can", "also", "be", "used", "to", "deal", "with", "adversarial", "attacks", "without", "accessing", "the", "candidate", "list", ".", "We", "follow", "the", "standard", "FreeLB", "training", "pro-", "cess", "to", "re", "-", "implement", "the", "defense", "results", ".", "Further", ",", "there", "are", "some", "works", "that", "require", "the", "candidate", "list", ",", "it", "is", "not", "a", "fair", "comparison", "with", "de-", "fense", "methods", "without", "accessing", "the", "candidates", ",", "so", "we", "list", "them", "separately", ":", "Adv", "-", "Augmentation", ":", "We", "generate", "adversarial", "examples", "of", "the", "training", "dataset", "as", "a", "data", "augmen-", "tation", "method", ".", "We", "mix", "the", "generated", "adversarial", "examples", "and", "the", "original", "training", "dataset", "to", "train", "a", "model", "in", "a", "standard", "fine", "-", "tuning", "process", ".", "ASCC", ":", "Dong", "et", "al", ".", "(", "2021", ")", "also", "uses", "a", "convex-", "hull", "concept", "based", "on", "the", "candidate", "vocabulary", "as", "a", "strong", "adversarial", "defense", ".", "ADA", ":", "Si", "et", "al", ".", "(", "2020", ")", "uses", "a", "mixup", "strategy", "based", "on", "the", "generated", "adversarial", "examples", "to", "achieve", "adversarial", "defense", "with", "variants", "AMDA-", "SMix", "that", "mixup", "the", "special", "tokens", ".", "FreeLB++", ":", "Li", "et", "al", ".", "(", "2021", ")", "introduces", "a", "variant", "of", "FreeLB", "method", "that", "expands", "the", "norm", "bound", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]
[ "RanMASK", ":", "Zeng", "et", "al", ".", "(", "2021", ")", "introduces", "a", "masking", "strategy", "that", "makes", "use", "of", "noises", "to", "im-", "prove", "robustness", ".", "3https", ":", "/", "/", "github.com", "/", "huggingface", "/", "transformers342", "Defense", "↓Attacks", "→Origin", "Textfooler", "BERT", "-", "Attack", "Textfooler", "BERT", "-", "Attack", "(", "K=12", ")", "(", "K=12", ")", "(", "K=50", ")", "(", "K=48", ")", "IMDB", "↓", "BERT", "(", "Devlin", "et", "al", ".", ",", "2018", ")", "94.1", "20.4", "18.5", "2.8", "3.2", "RoBERTa", "(", "Liu", "et", "al", ".", ",", "2019", ")", "97.3", "26.3", "24.5", "25.2", "23.0", "●", "Adv", "-", "HotFlip", "(", "BERT", ")", "(", "Ebrahimi", "et", "al", ".", ",", "2017", ")", "95.1", "36.1", "34.2", "8.0", "6.2", "■", "FreeLB", "(", "BERT", ")", "(", "Li", "and", "Qiu", ",", "2020", ")", "96.0", "30.2", "30.4", "7.3", "2.3", "■", "FreeLB++", "(", "BERT", ")", "(", "Li", "et", "al", ".", ",", "2021", ")", "93.2", "-", "-", "45.3", "39.9", "▲", "RanMASK", "(", "RoBERTa", ")", "(", "Zeng", "et", "al", ".", ",", "2021", ")", "93.0", "-", "-", "23.7", "26.8", "▲", "Text", "Purification", "(", "BERT", ")", "93.0", "81.5", "76.7", "51.0", "44.5", "▲", "Text", "Purification", "(", "RoBERTa", ")", "96.1", "84.2", "82.0", "54.3", "52.2", "AG", "’s", "News", "↓", "BERT", "(", "Devlin", "et", "al", ".", ",", "2018", ")", "92.0", "32.8", "34.3", "19.4", "14.1", "RoBERTa", "(", "Liu", "et", "al", ".", ",", "2019", ")", "97.3", "26.3", "24.5", "25.2", "23.0", "●", "Adv", "-", "HotFlip", "(", "BERT", ")", "91.2", "35.3", "34.1", "18.2", "8.5", "■", "FreeLB", "(", "BERT", ")", "90.5", "40.1", "34.2", "20.1", "8.5", "▲", "Text", "Purification", "(", "BERT", ")", "90.6", "61.5", "49.7", "34.9", "22.5", "▲", "Text", "Purification", "(", "RoBERTa", ")", "90.8", "59.1", "41.2", "34.2", "19.5", "Table", "1", ":", "After", "-", "Attack", "Accuracy", "compared", "with", "defense", "methods", "that", "can", "defend", "attacks", "without", "acknowledging", "the", "form", "of", "the", "attacks", ".", "That", "is", ",", "the", "substitution", "candidates", "of", "the", "attack", "methods", "are", "unknown", "to", "defense", "systems", ".", "Methods", "Origin", "Textfooler", "GA", "IMDB", "↓", "BERT", "94.0", "2.0", "45.0", "■", "Data", "-", "Augmentation", "93.0", "18.0", "53.0", "●", "ADA", "(", "Si", "et", "al", ".", ",", "2020", ")", "96.7", "3.0", "-", "●", "AMDA", "(", "Si", "et", "al", ".", ",", "2020", ")", "96.9", "17.4", "-", "▲", "ASCC", "(", "Dong", "et", "al", ".", ",", "2021", ")", "77.0", "-", "71.0", "▲", "Text", "Purification", "(", "BERT", ")", "93.0", "51.0", "79.0", "Table", "2", ":", "After", "-", "Attack", "Accuracy", "compared", "with", "access-", "candidates", "methods", "based", "on", "the", "BERT", "model", ".", "Here", "we", "implement", "Textfooler", "with", "K=50", "for", "consistency", "with", "previous", "works", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O" ]
[ "GA", "is", "the", "Genetic", "Attack", "method", "." ]
[ "B-MethodName", "O", "O", "B-MethodName", "I-MethodName", "O", "O" ]
[ "We", "use", "the", "AMDA", "-", "SMix", "setup", "for", "the", "AMDA", "method", "." ]
[ "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MethodName", "O", "O" ]
[ "4.4", "Implementations", "We", "use", "BERT", "-", "BASE", "and", "RoBERTa", "-", "BASE", "models", "based", "on", "the", "Huggingface", "Transformers4", "." ]
[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "mod-", "ify", "the", "adversarial", "training", "with", "virtual", "adversaries", "based", "on", "the", "implementation", "of", "FreeLB", ",", "TA", "V", "AT", ",", "and", "FreeLB++", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-MethodName", "O" ]
[ "The", "training", "hyper", "-", "parameters", "we", "use", "are", "different", "from", "FreeLB", "and", "TA", "V", "AT", "since", "we", "aim", "to", "find", "large", "perturbations", "to", "simulate", "adver-", "saries", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "set", "adversarial", "learning", "rate", "α=1e-1", "to", "and", "normalization", "boundary", "ϵ=2e-1", "in", "all", "tasks", "." ]
[ "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "O", "O" ]
[ "We", "set", "the", "multiple", "purification", "size", "N", "=", "to", "16", "for", "all", "tasks", "and", "we", "will", "discuss", "the", "selection", "of", "Nin", "the", "later", "section", "." ]
[ "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "our", "text", "adversarial", "purification", "method", ",", "we", "4https", ":", "/", "/", "github.com", "/", "huggingface", "/", "transformersuse", "the", "model", "that", "is", "trained", "with", "gradient", "-", "based", "adversarial", "training", "as", "the", "purification", "model", "Fm", "(", "·", ")", "and", "the", "classifier", "Fc", "(", "·", ")", "for", "the", "main", "experiments", "and", "conduct", "thorough", "ablations", "to", "explore", "the", "ef-", "fect", "of", "combining", "purification", "with", "classifier", "and", "adversarially", "trained", "classifier", ".", "As", "for", "implementing", "adversarial", "attack", "methods", ",", "we", "use", "the", "TextAttack", "toolkit", "while", "referring", "the", "official", "codes", "of", "the", "corresponding", "attack", "methods", "5", "(", "Morris", "et", "al", ".", ",", "2020a", ")", ".", "The", "similarity", "thresholds", "of", "the", "word", "-", "substitution", "range", "are", "the", "main", "fac-", "tors", "of", "the", "attacking", "algorithm", ".", "We", "tune", "the", "USE", "(", "Cer", "et", "al", ".", ",", "2018", ")", "constraint", "0.5", "for", "the", "AG", "task", "and", "0.7", "for", "the", "IMDB", "task", "and", "0.5", "for", "the", "cosine-", "similarity", "threshold", "of", "the", "synonyms", "embedding", "(", "Mrkši", "´", "c", "et", "al", ".", ",", "2016", ")", "which", "can", "reproduce", "the", "re-", "sults", "of", "the", "attacking", "methods", "reported", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "B-TaskName", "O", "O", "B-HyperparameterValue", "O", "O", "B-TaskName", "O", "O", "B-HyperparameterValue", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "4.5", "Results", "As", "seen", "in", "Table", "1", ",", "the", "proposed", "Text", "Adversar-", "ial", "Purification", "algorithm", "can", "successfully", "defend", "strong", "attack", "methods", ".", "The", "accuracy", "of", "our", "defend-", "ing", "method", "under", "attack", "is", "significantly", "higher", "than", "non", "-", "defense", "models", "(", "50", "%", "vs", "20", "%", "in", "the", "IMDB", "dataset", ")", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricValue", "I-MetricValue", "O", "O", "B-DatasetName", "O", "O", "O" ]
[ "Compared", "with", "previous", "defense", "methods", ",", "our", "proposed", "method", "can", "achieve", "higher", "defense", "accuracy", "in", "both", "the", "IMDB", "task", "and", "AG", "’s", "News", "task", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O" ]
[ "The", "Adv", "-", "HotFlip", "and", "the", "FreeLB", "methods", "5https", ":", "/", "/", "github.com", "/", "QData", "/", "TextAttack343", "Defense", "↓Attacks", "→Origin", "Textfooler", "BERT", "-", "Attack", "(", "K=12", ")", "(", "K=12", ")", "▲", "Text", "Purification", "Only", "↓", "✔", "Purification", "94.0", "72.0", "60.0", "✔", "Purification", "✖", "Multi", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O" ]
[ "Recovery", "87.0", "20.0", "13.0", "✔", "Purification", "✖", "Mask", "Insertion", "✖", "Multi", "." ]
[ "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Recovery", "92.0", "11.0", "3.0", "▲", "Combining", "Classifier", "↓", "✔", "Purification", "✔", "Comb", "." ]
[ "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Classifier", "95.0", "76.0", "67.0", "✔", "Purification", "✔", "Comb", ".", "Classifier", "✖", "Multi", ".", "Recovery", "95.0", "45.0", "34.0", "✔", "Purification", "✔", "Comb", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O" ]
[ "Classifier", "✖", "Multi", ".", "Recovery", "✖", "Mask", "Insertion", "95.0", "29.0", "17.0", "▲", "Combining", "Adversarially", "Trained", "Classifier", "↓", "✔", "Purification", "✔", "AT", "Classifier", "93.0", "86.0", "77.0", "✔", "Purification", "✔", "AT", "Classifier", "✖", "Multi", ".", "Recovery", "93.0", "63.0", "52.0", "✔", "Purification", "✔", "AT", "Classifier", "✖", "Multi", ".", "Recovery", "✖", "Mask", "Insertion", "93.0", "42.0", "29.0", "BERT", "94.0", "10.0", "5.0", "Table", "3", ":", "Ablations", "results", "tested", "on", "attacking", "the", "IMDB", "task", "based", "on", "BERT", "models", ".", "Comb", ".", "Classifier", "is", "the", "combined", "fine", "-", "tuned", "Fc", "(", "·", ")", "andFm", "(", "·", ")", "and", "AT", "Classifier", "is", "the", "adversarially", "trained", "Fc", "(", "·", ")", ".", "Mask", "Insertion", "is", "to", "use", "both", "mask", "-", "replacing", "and", "mask", "-", "insertion", "in", "injecting", "noise", ".", "are", "effective", ",", "which", "indicates", "that", "gradient", "-", "based", "adversaries", "are", "not", "very", "similar", "to", "actual", "substitu-", "tions", ".", "We", "can", "see", "that", "Adv", "-", "HotFlip", "and", "FreeLB", "methods", "achieve", "similar", "results", "(", "around", "30", "%", "when", "K=", "12", ")", "which", "indicates", "that", "gradient", "-", "based", "adver-", "sarial", "training", "methods", "have", "similar", "defense", "abili-", "ties", "no", "matter", "whether", "the", "adversaries", "are", "virtual", "or", "real", "since", "they", "are", "both", "unaware", "of", "the", "attacker", "’s", "candidate", "list", ".", "Also", ",", "the", "original", "accuracy", "(", "on", "the", "clean", "data", ")", "of", "our", "method", "is", "only", "a", "little", "lower", "than", "the", "baseline", "methods", ",", "which", "indicates", "that", "the", "purified", "texts", "still", "contain", "enough", "information", "for", "classification", ".", "The", "RoBERTa", "model", "also", "shows", "robustness", "using", "both", "original", "fine", "-", "tuned", "model", "and", "our", "defensive", "framework", ",", "which", "indicates", "our", "purification", "algorithm", "can", "be", "used", "in", "various", "pre-", "trained", "language", "models", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Compared", "with", "methods", "that", "specifically", "focus", "on", "adversarial", "defense", ",", "our", "proposed", "method", "can", "still", "surpass", "the", "state", "-", "of", "-", "the-", "art", "defense", "system", "FreeLB++", "(", "Li", "et", "al", ".", ",", "2021", ")", "and", "RanMASK", "(", "Zeng", "et", "al", ".", ",", "2021", ")", ".", "Further", ",", "the", "candidate", "size", "is", "extremely", "im-", "portant", "in", "defending", "against", "adversarial", "attacks", ",", "when", "the", "candidate", "size", "is", "smaller", ",", "exemplified", "by", "K=", "12", ",", "our", "method", "can", "achieve", "very", "promising", "results", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "pointed", "out", "by", "Morris", "et", "al", ".", "(", "2020b", ")", ",", "the", "candidate", "size", "should", "not", "be", "too", "large", "that", "the", "quality", "of", "the", "adversarial", "examples", "is", "largely", "dam-", "aged", ".", "As", "seen", "in", "Table", "2", ",", "we", "compare", "our", "method", "with", "previous", "access", "-", "candidates", "defense", "methods", ".", "When", "defending", "against", "the", "widely", "used", "Textfooler", "attack", "and", "genetic", "attack", "(", "Alzantot", "et", "al", ".", ",", "2018", ")", ",", "our", "method", "can", "achieve", "similar", "accuracy", "even", "compared", "with", "known", "-", "candidates", "defense", "meth-", "ods", ".", "As", "seen", ",", "the", "data", "augmentation", "method", "can-", "not", "significantly", "improve", "model", "robustness", "since", "the", "candidates", "can", "be", "very", "diversified", ".", "Therefore", ",", "using", "generated", "adversarial", "samples", "as", "an", "aug-", "mentation", "strategy", "does", "not", "guarantee", "robustness", "against", "greedy", "-", "searched", "methods", "like", "Textfooler", "and", "BERT", "-", "Attack", ".", "4.6", "Analysis", "4.6.1", "Ablations", "As", "we", "design", "an", "adversarial", "purification", "algo-", "rithm", "with", "masked", "language", "models", "and", "propose", "a", "multiple", "-", "recovering", "strategy", ",", "we", "aim", "to", "explore", "which", "process", "helps", "more", "in", "the", "purification", "de-", "fense", "system", ".", "Plus", ",", "we", "combine", "classifiers", "within", "the", "purification", "model", "so", "it", "is", "also", "important", "to", "explore", "whether", "such", "a", "combination", "is", "helpful", ".", "For", "each", "type", "of", "purification", "method", ",", "we", "test", "whether", "the", "specific", "purification", "process", "we", "pro-", "pose", "is", "effective", ".", "That", "is", ",", "we", "test", "whether", "making", "multiple", "recoveries", "in", "the", "purification", "process", "is", "helpful", ";", "also", ",", "we", "test", "whether", "using", "both", "masking", "tokens", "and", "inserting", "additional", "masks", "is", "helpful", ".", "As", "seen", "in", "Table", "3", ",", "we", "can", "summarize", "that", ":", "(", "1", ")", "Multi", "-", "time", "recovering", "is", "necessary", ":", "in", "the", "image", "domain", ",", "multiple", "reconstructions", "with", "a", "con-", "tinuous", "time", "purification", "process", "are", "necessary.344", "Texts", "Confidence", "(", "Positive", ")", "Clean", "-", "SampleI", "have", "the", "good", "common", "logical", "sense", "to", "know", "that", "oil", "can", "not", "last", "forever", "and", "I", "am", "acutely", "aware", "of", "how", "much", "of", "my", "life", "in", "the", "suburbs", "revolves", "around", "petrochemical", "products", ".", "I", "’ve", "been", "an", "avid", "consumer", "of", "new", "technology", "and", "I", "keep", "running", "out", "of", "space", "on", "powerboards", "-", "so", "...", "93.2", "%", "Adv", ".", "of", "BERTI", "possess", "the", "good", "common", "logical", "sense", "to", "realize", "that", "oil", "can", "not", "last", "forever", "and", "I", "am", "acutely", "aware", "of", "how", "much", "of", "my", "life", "in", "the", "suburbs", "spins", "around", "petrochemical", "products", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "I", "’ve", "been", "an", "avid", "consumer", "of", "new", "technology", "and", "I", "keep", "running", "out", "of", "space", "on", "powerboards", "-", "well", "...", "38.3", "%", "Adv", ".", "of", "Text", "PureI", "know", "the", "wonderful", "general", "sense", "to", "knows", "that", "oils", "can", "not", "last", "endless", "and", "I", "am", "acutely", "know", "of", "how", "majority", "of", "my", "lived", "in", "the", "city", "spins", "around", "petrochemical", "products", ".", "I", "’ve", "been", "an", "amateur", "consumers", "of", "newly", "technologies", "and", "I", "kept", "working", "out", "of", "spaces", "on", "powerboards", "!", "well", "...", "80.1", "%", "Purified", "TextsWell", "I", "know", "the", "wonderful", "general", "sense", "notion", "to", "knows", "that", "oils", "production", "can", "not", "last", "for", "endless", "years", "and", "I", "am", "acutely", "know", "of", "how", "the", "majority", "of", "my", "live", "in", "the", "city", "spins", "around", "the", "petrochemical", "production", "...", "I", "’ve", "been", "an", "amateur", "consumers", "of", "new", "technologies", "and", "I", "kept", "working", "out", "of", "spaces", "on", "power", "skateboards", "!", "well", "...", "80.4", "%", "I", "know", "the", "wonderful", "common", "sense", "notion", "to", "knows", "that", "oils", "can", "not", "last", "forever", "and", "I", "also", "acutely", "know", "of", "how", "majority", "of", "my", "lived", "in", "the", "world", "and", "around", "petrochemical", "production", "...", "I", "’ve", "been", "an", "amateur", "consumers", "of", "newly", "technologies", "and", "I", "kept", "working", "out", "of", "them", "on", "skateboards", "!", "well", "...", "81.4", "%", "I", "know", "the", "wonderfully", "general", "sense", "notion", "to", "knows", "that", "oils", "can", "not", "last", "endless", "and", "I", "am", "acutely", "know", "of", "how", "majority", "part", "of", "my", "lived", "in", "the", "big", "city", "spins", "around", "petrocochemical", "production", "...", "I", "should", "have", "been", "an", "amateur", "consumers", "fan", "of", "newly", "technologies", "and", "I", "kept", "on", "working", "out", "of", "spaces", "and", "on", "powerboards", "!", "well", "...", "76.2", "%", "I", "am", "the", "the", "general", "sense", "notion", "and", "knows", "that", "oils", "can", "not", "last", "endless", "and", "I", "am", "acutely", "know", "of", "the", "part", "of", "my", "lived", "as", "the", "city", "spins", "around", "petrochemical", "production", "...", "I", "’ve", "been", "an", "amateur", "consumers", "of", "newly", "technologies", "and", "I", "kept", "working", "out", "of", "bed", "on", "powerboards", "!", "well", "...", "78.5", "%", "Table", "4", ":", "A", "random", "selected", "sample", "that", "BERT", "model", "failed", "to", "defend", "against", "the", "Textfooler", "Attack", "in", "the", "IMDB", "dataset", "and", "Text", "Pure", "(", "Text", "Adversarial", "Purification", ")", "succeed", ".", "Adv", ".", "of", "BERT", "is", "the", "adversarial", "sample", "generated", "by", "Textfooler", "to", "attack", "the", "classifier", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O" ]
[ "Adv", ".", "of", "Text", "Pure", "is", "the", "sample", "generated", "by", "Textfooler", "to", "attack", "the", "classifier", "but", "failed", ".", "The", "purified", "texts", "are", "also", "listed", ".", "Similarly", ",", "the", "multi", "-", "recovery", "process", "is", "important", "in", "obtaining", "high", "-", "quality", "purification", "results", ".", "We", "can", "observe", "that", "one", "-", "time", "recovery", "can", "not", "achieve", "promising", "defense", "performances", ".", "(", "2", ")", "Combining", "classifiers", "is", "effective", ":", "we", "can", "observe", "that", "when", "we", "use", "trained", "classifiers", "and", "masked", "language", "models", ",", "the", "defense", "perfor-", "mances", "are", "better", "than", "using", "fine", "-", "tuned", "classifier", "and", "vanilla", "BERT", "as", "a", "masked", "language", "model", ",", "indicating", "that", "such", "a", "combined", "training", "process", "is", "helpful", "in", "obtaining", "more", "strong", "defense", "systems", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Also", ",", "with", "gradient", "-", "based", "adversarial", "training", ",", "the", "purification", "process", "can", "obtain", "a", "further", "boost", ",", "indi-", "cating", "that", "our", "proposed", "text", "purification", "algorithm", "can", "be", "used", "together", "with", "previous", "defense", "meth-", "ods", "as", "an", "advanced", "defense", "system", ".", "4.6.2", "Example", "of", "Purification", "Results", "As", "seen", "in", "Table", "4", ",", "we", "construct", "multiple", "recoveries", "and", "use", "the", "averaged", "score", "as", "the", "final", "classifica-", "tion", "result", ".", "Such", "a", "purification", "process", "is", "effective", "compared", "with", "vanilla", "fine", "-", "tuned", "BERT", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]
[ "We", "can", "observe", "that", "the", "adversarial", "sample", "that", "successfully", "attacked", "the", "vanilla", "BERT", "model", "only", "achieves", "this", "by", "replacing", "only", "a", "few", "tokens", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "While", "with", "the", "purification", "process", ",", "the", "attack", "algorithm", "is", "struggling", "in", "finding", "effective", "substitutions", "to", "achieve", "a", "successful", "attack", ".", "Even", "replacing", "a", "large", "number", "of", "tokens", "that", "seriously", "hurt", "the", "semantics", "of", "the", "input", "texts", ",", "with", "the", "purification", "process", "in-", "volved", ",", "the", "classifier", "can", "still", "resist", "the", "adversarialeffect", ".", "Further", ",", "by", "observing", "the", "purified", "texts", ",", "we", "can", "find", "that", "the", "purified", "texts", "can", "make", "predictions", "correctly", "though", "some", "substitutes", "still", "exist", "in", "the", "purified", "texts", ",", "indicating", "that", "making", "predictions", "based", "on", "purified", "texts", "using", "the", "combined", "trained", "classifier", "can", "obtain", "a", "promising", "defense", "perfor-", "mance", ".", "That", "is", ",", "our", "proposed", "method", ",", "though", "is", "not", "a", "plug", "-", "and", "-", "play", "system", ",", "can", "be", "used", "as", "a", "gen-", "eral", "system", "as", "a", "defense", "against", "substitution", "-", "based", "attacks", ".", "5", "Conclusion", "and", "Future", "Work", "In", "this", "paper", ",", "we", "introduce", "a", "textual", "adversar-", "ial", "purification", "algorithm", "as", "a", "defense", "against", "substitution", "-", "based", "adversarial", "attacks", ".", "We", "utilize", "the", "mask", "-", "infill", "ability", "of", "pre", "-", "trained", "models", "to", "re-", "cover", "noisy", "texts", "and", "use", "these", "purified", "texts", "to", "make", "predictions", ".", "Experiments", "show", "that", "the", "pu-", "rification", "method", "is", "effective", "in", "defending", "strong", "adversarial", "attacks", "without", "acknowledging", "the", "sub-", "stitution", "range", "of", "the", "attacks", ".", "We", "are", "the", "first", "to", "consider", "the", "adversarial", "purification", "method", "with", "a", "multiple", "-", "recovering", "strategy", "in", "the", "text", "domain", "while", "previous", "successes", "of", "adversarial", "purifica-", "tion", "strategies", "usually", "focus", "on", "the", "image", "field", ".", "Therefore", ",", "we", "hope", "that", "the", "adversarial", "purification", "method", "can", "be", "further", "explored", "in", "NLP", "applica-", "tions", "as", "a", "powerful", "defense", "strategy.345", "Limitations", "In", "this", "paper", ",", "we", "discuss", "an", "important", "topic", "in", "the", "NLP", "field", ",", "the", "defense", "against", "adversarial", "attacks", "in", "NLP", "applications", ".", "We", "provide", "a", "strong", "defense", "strategy", "against", "the", "most", "widely", "used", "word", "substi-", "tution", "attacks", "in", "the", "NLP", "field", ",", "which", "is", "limited", "in", "several", "directions", ".", "•We", "are", "testing", "defense", "strategies", "using", "down-", "stream", "task", "models", "such", "as", "BERT", "and", "RoBERTa", ",", "and", "the", "purification", "tool", "is", "a", "model", "with", "a", "mask", "-", "filling", "ability", "such", "as", "BERT", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]
[ "Such", "a", "process", "can", "be", "further", "improved", "with", "strong", "models", "such", "as", "large", "language", "models", ".", "•We", "study", "the", "concept", "of", "adversarial", "purifica-", "tion", "in", "the", "adversarial", "attack", "scenarios", "with", "word", "-", "substitution", "attacks", "on", "small", "fine", "-", "tuned", "models", ".", "The", "concept", "of", "adversarial", "purifica-", "tion", "can", "be", "further", "expanded", "to", "various", "NLP", "applications", ".", "For", "instance", ",", "the", "purification", "of", "natural", "language", "can", "be", "used", "in", "malicious", "text", "purification", "which", "is", "more", "suitable", "in", "applica-", "tions", "with", "large", "language", "models", ".", "Acknowledgement", "This", "work", "was", "supported", "by", "the", "National", "Natu-", "ral", "Science", "Foundation", "of", "China", "(", "No", ".", "62236004", "and", "No", ".", "62022027", ")", "and", "CAAI", "-", "Huawei", "MindSpore", "Open", "Fund", ".", "References", "Moustafa", "Alzantot", ",", "Yash", "Sharma", ",", "Ahmed", "Elgohary", ",", "Bo-", "Jhang", "Ho", ",", "Mani", "B", ".", "Srivastava", ",", "and", "Kai", "-", "Wei", "Chang", ".", "2018", ".", "Generating", "natural", "language", "adversarial", "exam-", "ples", ".", "CoRR", ",", "abs", "/", "1804.07998", ".", "Nicholas", "Carlini", "and", "David", "A", ".", "Wagner", ".", "2016", ".", "Towards", "evaluating", "the", "robustness", "of", "neural", "networks", ".", "CoRR", ",", "abs", "/", "1608.04644", ".", "Daniel", "Cer", ",", "Yinfei", "Yang", ",", "Sheng", "-", "yi", "Kong", ",", "Nan", "Hua", ",", "Nicole", "Limtiaco", ",", "Rhomni", "St", "John", ",", "Noah", "Constant", ",", "Mario", "Guajardo", "-", "Cespedes", ",", "Steve", "Yuan", ",", "Chris", "Tar", ",", "et", "al", ".", "2018", ".", "Universal", "sentence", "encoder", ".", "arXiv", "preprint", "arXiv:1803.11175", ".", "Yong", "Cheng", ",", "Lu", "Jiang", ",", "and", "Wolfgang", "Macherey", ".", "2019", ".", "Robust", "neural", "machine", "translation", "with", "doubly", "adver-", "sarial", "inputs", ".", "arXiv", "preprint", "arXiv:1906.02443", ".", "Jacob", "Devlin", ",", "Ming", "-", "Wei", "Chang", ",", "Kenton", "Lee", ",", "and", "Kristina", "Toutanova", ".", "2018", ".", "BERT", ":", "pre", "-", "training", "of", "deep", "bidirectional", "transformers", "for", "language", "under-", "standing", ".", "CoRR", ",", "abs", "/", "1810.04805.Xinshuai", "Dong", ",", "Hong", "Liu", ",", "Rongrong", "Ji", ",", "and", "Anh", "Tuan", "Luu", ".", "2021", ".", "Towards", "robustness", "against", "natural", "lan-", "guage", "word", "substitutions", ".", "In", "International", "Confer-", "ence", "on", "Learning", "Representations", ".", "Javid", "Ebrahimi", ",", "Anyi", "Rao", ",", "Daniel", "Lowd", ",", "and", "De-", "jing", "Dou", ".", "2017", ".", "Hotflip", ":", "White", "-", "box", "adversarial", "examples", "for", "text", "classification", ".", "arXiv", "preprint", "arXiv:1712.06751", ".", "Siddhant", "Garg", "and", "Goutham", "Ramakrishnan", ".", "2020", ".", "Bae", ":", "Bert", "-", "based", "adversarial", "examples", "for", "text", "classifica-", "tion", ".", "arXiv", "preprint", "arXiv:2004.01970", ".", "Ian", "J", "Goodfellow", ",", "Jonathon", "Shlens", ",", "and", "Christian", "Szegedy", ".", "2014", ".", "Explaining", "and", "harnessing", "adver-", "sarial", "examples", ".", "arXiv", "preprint", "arXiv:1412.6572", ".", "Po", "-", "Sen", "Huang", ",", "Robert", "Stanforth", ",", "Johannes", "Welbl", ",", "Chris", "Dyer", ",", "Dani", "Yogatama", ",", "Sven", "Gowal", ",", "Krish-", "namurthy", "Dvijotham", ",", "and", "Pushmeet", "Kohli", ".", "2019", ".", "Achieving", "verified", "robustness", "to", "symbol", "substitu-", "tions", "via", "interval", "bound", "propagation", ".", "arXiv", "preprint", "arXiv:1909.01492", ".", "Robin", "Jia", ",", "Aditi", "Raghunathan", ",", "Kerem", "Göksel", ",", "and", "Percy", "Liang", ".", "2019", ".", "Certified", "robustness", "to", "adversarial", "word", "substitutions", ".", "CoRR", ",", "abs", "/", "1909.00986", ".", "Di", "Jin", ",", "Zhijing", "Jin", ",", "Joey", "Tianyi", "Zhou", ",", "and", "Peter", "Szolovits", ".", "2019", ".", "Is", "BERT", "really", "robust", "?", "natural", "language", "attack", "on", "text", "classification", "and", "entailment", ".", "CoRR", ",", "abs", "/", "1907.11932", ".", "Yann", "LeCun", ",", "Sumit", "Chopra", ",", "Raia", "Hadsell", ",", "M", "Ranzato", ",", "and", "F", "Huang", ".", "2006", ".", "A", "tutorial", "on", "energy", "-", "based", "learn-", "ing", ".", "Predicting", "structured", "data", ",", "1", "(", "0", ")", ".", "Linyang", "Li", ",", "Ruotian", "Ma", ",", "Qipeng", "Guo", ",", "Xiangyang", "Xue", ",", "and", "Xipeng", "Qiu", ".", "2020", ".", "Bert", "-", "attack", ":", "Adver-", "sarial", "attack", "against", "bert", "using", "bert", ".", "arXiv", "preprint", "arXiv:2004.09984", ".", "Linyang", "Li", "and", "Xipeng", "Qiu", ".", "2020", ".", "Textat", ":", "Ad-", "versarial", "training", "for", "natural", "language", "understand-", "ing", "with", "token", "-", "level", "perturbation", ".", "arXiv", "preprint", "arXiv:2004.14543", ".", "Zongyi", "Li", ",", "Jianhan", "Xu", ",", "Jiehang", "Zeng", ",", "Linyang", "Li", ",", "Xiao-", "qing", "Zheng", ",", "Qi", "Zhang", ",", "Kai", "-", "Wei", "Chang", ",", "and", "Cho", "-", "Jui", "Hsieh", ".", "2021", ".", "Searching", "for", "an", "effective", "defender", ":", "Benchmarking", "defense", "against", "adversarial", "word", "sub-", "stitution", ".", "arXiv", "preprint", "arXiv:2108.12777", ".", "Yinhan", "Liu", ",", "Myle", "Ott", ",", "Naman", "Goyal", ",", "Jingfei", "Du", ",", "Man-", "dar", "Joshi", ",", "Danqi", "Chen", ",", "Omer", "Levy", ",", "Mike", "Lewis", ",", "Luke", "Zettlemoyer", ",", "and", "Veselin", "Stoyanov", ".", "2019", ".", "Roberta", ":", "A", "robustly", "optimized", "bert", "pretraining", "ap-", "proach", ".", "arXiv", "preprint", "arXiv:1907.11692", ".", "Andrew", "Maas", ",", "Raymond", "E", "Daly", ",", "Peter", "T", "Pham", ",", "Dan", "Huang", ",", "Andrew", "Y", "Ng", ",", "and", "Christopher", "Potts", ".", "2011", ".", "Learning", "word", "vectors", "for", "sentiment", "analysis", ".", "In", "Proceedings", "of", "the", "49th", "annual", "meeting", "of", "the", "associ-", "ation", "for", "computational", "linguistics", ":", "Human", "language", "technologies", ",", "pages", "142–150.346", "Aleksander", "Madry", ",", "Aleksandar", "Makelov", ",", "Ludwig", "Schmidt", ",", "Dimitris", "Tsipras", ",", "and", "Adrian", "Vladu", ".", "2019", ".", "Towards", "deep", "learning", "models", "resistant", "to", "adversarial", "attacks", ".", "Takeru", "Miyato", ",", "Andrew", "M", ".", "Dai", ",", "and", "Ian", "J", ".", "Goodfellow", ".", "2016", ".", "Virtual", "adversarial", "training", "for", "semi", "-", "supervised", "text", "classification", ".", "ArXiv", ",", "abs", "/", "1605.07725", ".", "John", "Morris", ",", "Eli", "Lifland", ",", "Jin", "Yong", "Yoo", ",", "Jake", "Grigsby", ",", "Di", "Jin", ",", "and", "Yanjun", "Qi", ".", "2020a", ".", "Textattack", ":", "A", "frame-", "work", "for", "adversarial", "attacks", ",", "data", "augmentation", ",", "and", "adversarial", "training", "in", "nlp", ".", "In", "Proceedings", "of", "the", "2020", "Conference", "on", "Empirical", "Methods", "in", "Natu-", "ral", "Language", "Processing", ":", "System", "Demonstrations", ",", "pages", "119–126", ".", "John", "X", ".", "Morris", ",", "Eli", "Lifland", ",", "Jack", "Lanchantin", ",", "Yangfeng", "Ji", ",", "and", "Yanjun", "Qi", ".", "2020b", ".", "Reevaluating", "adversar-", "ial", "examples", "in", "natural", "language", ".", "In", "ArXiv", ",", "volume", "abs", "/", "2004.14174", ".", "Nikola", "Mrkši", "´", "c", ",", "Diarmuid", "O", "Séaghdha", ",", "Blaise", "Thom-", "son", ",", "Milica", "Gaši", "´", "c", ",", "Lina", "Rojas", "-", "Barahona", ",", "Pei", "-", "Hao", "Su", ",", "David", "Vandyke", ",", "Tsung", "-", "Hsien", "Wen", ",", "and", "Steve", "Young", ".", "2016", ".", "Counter", "-", "fitting", "word", "vectors", "to", "linguistic", "con-", "straints", ".", "arXiv", "preprint", "arXiv:1603.00892", ".", "Weili", "Nie", ",", "Brandon", "Guo", ",", "Yujia", "Huang", ",", "Chaowei", "Xiao", ",", "Arash", "Vahdat", ",", "and", "Animashree", "Anandkumar", ".", "2022", ".", "Diffusion", "models", "for", "adversarial", "purification", ".", "In", "In-", "ternational", "Conference", "on", "Machine", "Learning", ",", "ICML", "2022", ",", "17", "-", "23", "July", "2022", ",", "Baltimore", ",", "Maryland", ",", "USA", ",", "volume", "162", "of", "Proceedings", "of", "Machine", "Learning", "Research", ",", "pages", "16805–16827", ".", "PMLR", ".", "Shuhuai", "Ren", ",", "Yihe", "Deng", ",", "Kun", "He", ",", "and", "Wanxiang", "Che", ".", "2019", ".", "Generating", "natural", "language", "adversarial", "exam-", "ples", "through", "probability", "weighted", "word", "saliency", ".", "In", "Proceedings", "of", "the", "57th", "Annual", "Meeting", "of", "the", "Asso-", "ciation", "for", "Computational", "Linguistics", ",", "pages", "1085", "–", "1097", ".", "Pouya", "Samangouei", ",", "Maya", "Kabkab", ",", "and", "Rama", "Chel-", "lappa", ".", "2018", ".", "Defense", "-", "gan", ":", "Protecting", "classifiers", "against", "adversarial", "attacks", "using", "generative", "models", ".", "CoRR", ",", "abs", "/", "1805.06605", ".", "Changhao", "Shi", ",", "Chester", "Holtz", ",", "and", "Gal", "Mishne", ".", "2021", ".", "Online", "adversarial", "purification", "based", "on", "self-", "supervised", "learning", ".", "In", "9th", "International", "Conference", "on", "Learning", "Representations", ",", "ICLR", "2021", ",", "Virtual", "Event", ",", "Austria", ",", "May", "3", "-", "7", ",", "2021", ".", "OpenReview.net", ".", "Zhouxing", "Shi", ",", "Minlie", "Huang", ",", "Ting", "Yao", ",", "and", "Jing-", "fang", "Xu", ".", "2019", ".", "Robustness", "to", "modification", "with", "shared", "words", "in", "paraphrase", "identification", ".", "CoRR", ",", "abs", "/", "1909.02560", ".", "Chenglei", "Si", ",", "Zhengyan", "Zhang", ",", "Fanchao", "Qi", ",", "Zhiyuan", "Liu", ",", "Yasheng", "Wang", ",", "Qun", "Liu", ",", "and", "Maosong", "Sun", ".", "2020", ".", "Better", "robustness", "by", "more", "coverage", ":", "Adver-", "sarial", "training", "with", "mixup", "augmentation", "for", "robust", "fine", "-", "tuning", ".", "arXiv", "preprint", "arXiv:2012.15699", ".Yang", "Song", ",", "Jascha", "Sohl", "-", "Dickstein", ",", "Diederik", "P", ".", "Kingma", ",", "Abhishek", "Kumar", ",", "Stefano", "Ermon", ",", "and", "Ben", "Poole", ".", "2021", ".", "Score", "-", "based", "generative", "modeling", "through", "stochastic", "differential", "equations", ".", "In", "9th", "International", "Conference", "on", "Learning", "Representations", ",", "ICLR", "2021", ",", "Virtual", "Event", ",", "Austria", ",", "May", "3", "-", "7", ",", "2021", ".", "OpenRe-", "view.net", ".", "Vignesh", "Srinivasan", ",", "Csaba", "Rohrer", ",", "Arturo", "Marbán", ",", "Klaus", "-", "Robert", "Müller", ",", "Wojciech", "Samek", ",", "and", "Shinichi", "Nakajima", ".", "2021", ".", "Robustifying", "models", "against", "ad-", "versarial", "attacks", "by", "langevin", "dynamics", ".", "Neural", "Net-", "works", ",", "137:1–17", ".", "Thomas", "Wolf", ",", "Lysandre", "Debut", ",", "Victor", "Sanh", ",", "Julien", "Chaumond", ",", "Clement", "Delangue", ",", "Anthony", "Moi", ",", "Pier-", "ric", "Cistac", ",", "Tim", "Rault", ",", "Rémi", "Louf", ",", "Morgan", "Funtowicz", ",", "Joe", "Davison", ",", "Sam", "Shleifer", ",", "Patrick", "von", "Platen", ",", "Clara", "Ma", ",", "Yacine", "Jernite", ",", "Julien", "Plu", ",", "Canwen", "Xu", ",", "Teven", "Le", "Scao", ",", "Sylvain", "Gugger", ",", "Mariama", "Drame", ",", "Quentin", "Lhoest", ",", "and", "Alexander", "M", ".", "Rush", ".", "2020", ".", "Transform-", "ers", ":", "State", "-", "of", "-", "the", "-", "art", "natural", "language", "processing", ".", "In", "Proceedings", "of", "the", "2020", "Conference", "on", "Empirical", "Methods", "in", "Natural", "Language", "Processing", ":", "System", "Demonstrations", ",", "pages", "38–45", ",", "Online", ".", "Association", "for", "Computational", "Linguistics", ".", "Jin", "Yong", "Yoo", ",", "John", "X", ".", "Morris", ",", "Eli", "Lifland", ",", "and", "Yanjun", "Qi", ".", "2020", ".", "Searching", "for", "a", "search", "method", ":", "Bench-", "marking", "search", "algorithms", "for", "generating", "nlp", "adver-", "sarial", "examples", ".", "ArXiv", ",", "abs", "/", "2009.06368", ".", "Jongmin", "Yoon", ",", "Sung", "Ju", "Hwang", ",", "and", "Juho", "Lee", ".", "2021", ".", "Adversarial", "purification", "with", "score", "-", "based", "generative", "models", ".", "In", "Proceedings", "of", "the", "38th", "International", "Conference", "on", "Machine", "Learning", ",", "ICML", "2021", ",", "18", "-", "24", "July", "2021", ",", "Virtual", "Event", ",", "volume", "139", "of", "Proceedings", "of", "Machine", "Learning", "Research", ",", "pages", "12062–12072", ".", "PMLR", ".", "Jiehang", "Zeng", ",", "Xiaoqing", "Zheng", ",", "Jianhan", "Xu", ",", "Linyang", "Li", ",", "Liping", "Yuan", ",", "and", "Xuanjing", "Huang", ".", "2021", ".", "Certified", "robustness", "to", "text", "adversarial", "attacks", "by", "randomized", "[", "mask", "]", ".", "arXiv", "preprint", "arXiv:2105.03743", ".", "Xiang", "Zhang", ",", "Junbo", "Zhao", ",", "and", "Yann", "LeCun", ".", "2015", ".", "Character", "-", "level", "convolutional", "networks", "for", "text", "clas-", "sification", ".", "In", "Advances", "in", "neural", "information", "pro-", "cessing", "systems", ",", "pages", "649–657", ".", "Yi", "Zhou", ",", "Xiaoqing", "Zheng", ",", "Cho", "-", "Jui", "Hsieh", ",", "Kai", "-", "wei", "Chang", ",", "and", "Xuanjing", "Huang", ".", "2020", ".", "Defense", "against", "adversarial", "attacks", "in", "nlp", "via", "dirichlet", "neighborhood", "ensemble", ".", "arXiv", "preprint", "arXiv:2006.11627", ".", "Chen", "Zhu", ",", "Yu", "Cheng", ",", "Zhe", "Gan", ",", "Siqi", "Sun", ",", "Thomas", "Gold-", "stein", ",", "and", "Jingjing", "Liu", ".", "2019", ".", "Freelb", ":", "Enhanced", "ad-", "versarial", "training", "for", "language", "understanding", ".", "arXiv", "preprint", "arXiv:1909.11764", ".347", "Appendix", "Recovery", "Number", "Analysis", "One", "key", "problem", "is", "that", "how", "many", "recoveries", "we", "should", "use", "in", "the", "recovering", "process", ",", "as", "finding", "a", "proper", "Tis", "also", "important", "in", "the", "image", "-", "domain", "purification", "process", ".", "We", "use", "two", "attack", "methods", "withK=", "12", "to", "test", "how", "the", "accuracy", "varies", "when", "using", "different", "recovery", "number", "N", ".", "As", "seen", "in", "Fig", ".", "2", "(", "a", ")", ",", "the", "ensemble", "size", "is", "actu-", "ally", "not", "a", "key", "factor", ".", "Larger", "ensemble", "size", "would", "not", "result", "in", "further", "improvements", ".", "We", "assume", "that", "larger", "ensemble", "size", "will", "smooth", "the", "output", "score", "which", "will", "benefit", "the", "attack", "algorithm", ".", "That", "is", ",", "the", "tiny", "difference", "between", "substitutes", "can", "be", "de-", "tected", "by", "the", "attack", "algorithm", "since", "the", "confidence", "score", "is", "given", "to", "the", "attack", "algorithms", ".", "Still", ",", "we", "can", "conclude", "that", "a", "multiple", "recovery", "process", "is", "ef-", "fective", "in", "the", "purification", "process", "and", "quite", "simple", "to", "implement", ".", "Candidate", "Size", "Analysis", "The", "attack", "algorithms", "such", "as", "BERT", "-", "Attack", "and", "Textfooler", "use", "a", "wide", "range", "of", "substitution", "set", "(", "e.g", ".", "K=50", "in", "Textfooler", "means", "for", "each", "token", "to", "replace", ",", "the", "algorithm", "will", "find", "the", "best", "replacement", "in", "50", "candidates", ")", ",", "which", "seriously", "harms", "the", "quality", "of", "the", "input", "texts", ".", "As", "seen", "in", "Fig", ".", "2", "(", "b", ")", ",", "when", "the", "candidate", "is", "0", ",", "the", "accuracy", "is", "high", "on", "the", "clean", "samples", ".", "When", "the", "candidate", "is", "6", ",", "the", "normal", "fine", "-", "tuned", "BERT", "model", "can", "not", "correctly", "predict", "the", "generated", "adversarial", "examples", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "This", "indicates", "that", "normal", "fine", "-", "tuned", "BERT", "is", "not", "robust", "even", "when", "the", "candidate", "size", "is", "small", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "After", "purification", ",", "the", "model", "can", "tolerate", "these", "limited", "candidate", "size", "attacks", ".", "When", "the", "can-", "didate", "size", "grows", ",", "the", "performance", "of", "our", "defense", "framework", "drops", "by", "a", "relatively", "large", "margin", ".", "We", "assume", "that", "large", "candidate", "size", "would", "seriously", "harm", "the", "semantics", "which", "is", "also", "explored", "in", "Mor-", "ris", "et", "al", ".", "(", "2020b", ")", ",", "while", "these", "adversaries", "can", "not", "be", "well", "evaluated", "even", "using", "human", "-", "evvaluations", "since", "the", "change", "rate", "is", "still", "low", ".", "Accuracy", "Under", "Attack304254667890", "18163264", "BERT", "-", "Attack", "(", "k=12", ")", "-Text", "Purification", "Textfooler", "(", "k=12", ")", "-Text", "Purification", "(", "a", ")", "Recovery", "Number", "Influence", "Accuracy", "Under", "Attack020406080100", "0612243648", "Textfooler", "-", "BERT", "Textfooler", "-", "Text", "Purification", "BERT", "-", "Attack", "-", "BERT", "BERT", "-", "Attack", "-", "Text", "Purification", "(", "b", ")", "Candidate", "-", "Size", "Influence", "Figure", "2", ":", "Hyper", "-", "Parameter", "Selection", "Analysis348", "ACL", "2023", "Responsible", "NLP", "Checklist", "A", "For", "every", "submission", ":", "/", "squareA1", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "B-MetricValue", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-HyperparameterName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Did", "you", "describe", "the", "limitations", "of", "your", "work", "?", "Left", "blank", ".", "/", "squareA2", ".", "Did", "you", "discuss", "any", "potential", "risks", "of", "your", "work", "?", "Left", "blank", ".", "/", "squareA3", ".", "Do", "the", "abstract", "and", "introduction", "summarize", "the", "paper", "’s", "main", "claims", "?", "Left", "blank", ".", "/", "squareA4", ".", "Have", "you", "used", "AI", "writing", "assistants", "when", "working", "on", "this", "paper", "?", "Left", "blank", ".", "B", "/", "squareDid", "you", "use", "or", "create", "scientific", "artifacts", "?", "Left", "blank", ".", "/", "squareB1", ".", "Did", "you", "cite", "the", "creators", "of", "artifacts", "you", "used", "?", "Left", "blank", ".", "/", "squareB2", ".", "Did", "you", "discuss", "the", "license", "or", "terms", "for", "use", "and", "/", "or", "distribution", "of", "any", "artifacts", "?", "Left", "blank", ".", "/", "squareB3", ".", "Did", "you", "discuss", "if", "your", "use", "of", "existing", "artifact", "(", "s", ")", "was", "consistent", "with", "their", "intended", "use", ",", "provided", "that", "it", "was", "specified", "?", "For", "the", "artifacts", "you", "create", ",", "do", "you", "specify", "intended", "use", "and", "whether", "that", "is", "compatible", "with", "the", "original", "access", "conditions", "(", "in", "particular", ",", "derivatives", "of", "data", "accessed", "for", "research", "purposes", "should", "not", "be", "used", "outside", "of", "research", "contexts", ")", "?", "Left", "blank", ".", "/", "squareB4", ".", "Did", "you", "discuss", "the", "steps", "taken", "to", "check", "whether", "the", "data", "that", "was", "collected", "/", "used", "contains", "any", "information", "that", "names", "or", "uniquely", "identifies", "individual", "people", "or", "offensive", "content", ",", "and", "the", "steps", "taken", "to", "protect", "/", "anonymize", "it", "?", "Left", "blank", ".", "/", "squareB5", ".", "Did", "you", "provide", "documentation", "of", "the", "artifacts", ",", "e.g.", ",", "coverage", "of", "domains", ",", "languages", ",", "and", "linguistic", "phenomena", ",", "demographic", "groups", "represented", ",", "etc", ".", "?", "Left", "blank", ".", "/", "squareB6", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "351–363", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "SPEECH", ":", "Structured", "Prediction", "with", "Energy", "-", "Based", "Event", "-", "Centric", "Hyperspheres", "Shumin", "Deng", "♥", ",", "Shengyu", "Mao", "♠", ",", "Ningyu", "Zhang", "♠", "∗", ",", "Bryan", "Hooi", "♥", "∗", "♥", "National", "University", "of", "Singapore", "&", "NUS", "-", "NCS", "Joint", "Lab", ",", "Singapore", "♠", "Zhejiang", "University", "&", "AZFT", "Joint", "Lab", "for", "Knowledge", "Engine", ",", "China", "{", "shumin", ",", "dcsbhk", "}", "@", "nus.edu.sg", ",", "{", "shengyu", ",", "zhangningyu", "}", "@", "zju.edu.cn", "Abstract", "Event", "-", "centric", "structured", "prediction", "involves", "predicting", "structured", "outputs", "of", "events", ".", "In", "most", "NLP", "cases", ",", "event", "structures", "are", "complex", "with", "manifold", "dependency", ",", "and", "it", "is", "challeng-", "ing", "to", "effectively", "represent", "these", "complicated", "structured", "events", ".", "To", "address", "these", "issues", ",", "we", "propose", "Structured", "Prediction", "with", "Energy-", "based", "Event-", "Centric", "Hyperspheres", "(", "SPEECH", ")", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O" ]
[ "SPEECH", "models", "complex", "dependency", "among", "event", "structured", "components", "with", "energy-", "based", "modeling", ",", "and", "represents", "event", "classes", "with", "simple", "but", "effective", "hyperspheres", "." ]
[ "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Exper-", "iments", "on", "two", "unified", "-", "annotated", "event", "datasets", "indicate", "that", "S", "PEECH", "is", "predominant", "in", "event", "detection", "and", "event", "-", "relation", "extraction", "tasks", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O" ]
[ "1", "Introduction", "Structured", "prediction", "(", "Taskar", "et", "al", ".", ",", "2005", ")", "is", "a", "task", "where", "the", "predicted", "outputs", "are", "complex", "structured", "components", "." ]
[ "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "This", "arises", "in", "many", "NLP", "tasks", "(", "Smith", ",", "2011", ";", "Kreutzer", "et", "al", ".", ",", "2017", ";", "Wang", "et", "al", ".", ",", "2023", ")", "and", "supports", "various", "applications", "(", "Jagannatha", "and", "Yu", ",", "2016", ";", "Kreutzer", "et", "al", ".", ",", "2021", ")", "." ]
[ "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "event", "-", "centric", "NLP", "tasks", ",", "there", "exists", "strong", "complex", "dependency", "be-", "tween", "the", "structured", "outputs", ",", "such", "as", "event", "detec-", "tion", "(", "ED", ")", "(", "Chen", "et", "al", ".", ",", "2015", ")", ",", "event", "-", "relation", "extrac-", "tion", "(", "ERE", ")", "(", "Liu", "et", "al", ".", ",", "2020b", ")", ",", "and", "event", "schema", "induction", "(", "Li", "et", "al", ".", ",", "2020", ")", "." ]
[ "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Thus", ",", "these", "tasks", "can", "also", "be", "revisited", "as", "event", "-", "centric", "structured", "predic-", "tion", "problems", "(", "Li", "et", "al", ".", ",", "2013", ")", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Event", "-", "centric", "structured", "prediction", "(", "ECSP", ")", "tasks", "require", "to", "consider", "manifold", "structures", "and", "de-", "pendency", "of", "events", ",", "including", "intra-", "/", "inter", "-", "sentence", "structures", "." ]
[ "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "example", ",", "as", "seen", "in", "Figure", "1", ",", "given", "a", "document", "containing", "some", "event", "mentions", "“", "David", "Warren", "shot", "and", "killed", "Henry", "Glover", "...", "David", "was", "convicted", "and", "sentenced", "to", "25", "years", "and", "9", "months", "...", "”", ",", "in", "ED", "task", "mainly", "considering", "intra", "-", "sentence", "structures", ",", "we", "need", "to", "identify", "event", "triggers", "(", "killed", ",", "convicted", ")", "from", "these", "tokens", "and", "categorize", "them", "∗Corresponding", "Author", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "…", "…", "[", "S1", "]", "FormerNOPDpoliceofficerDavidWarrenshotandkilledHenryGlover.", "[", "S2", "]", "FivecurrentandformerofficersoftheNOPDwerechargedwithGlover‘sdeath.", "[", "S3", "]", "Davidwasconvictedandsentencedto25yearsand9monthsinprisonforshootingandkillingGlover.", "…", "…", ".", "…", "…", "trigger", "…", "…", "…", "…", "…", "…", "non", "-", "trigger", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "trigger", "…", "…", "…", "…", "…", "…", "non", "-", "trigger", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "non", "-", "trigger", "…", "…", "…", "…", "…", "…", "triggerkillinglegal_rulingsdeath", "[", "S1", "]", ",", "cause", ",", "[", "S3", "]", "[", "S2", "]", ",", "before", ",", "[", "S3", "]", "…", "…", "EDEREFigure", "1", ":", "Illustration", "of", "event", "-", "centric", "structured", "predic-", "tion", "tasks", ",", "with", "the", "examples", "of", "ED", "and", "ERE", ".", "into", "event", "classes", "(", "killing", ",", "legal_rulings", ")", ";", "in", "ERE", "task", "mainly", "considering", "inter", "-", "sentence", "structures", ",", "we", "need", "to", "find", "the", "relationship", "between", "each", "event", "mention", "pair", ",", "such", "as", "event", "coreference", ",", "temporal", ",", "causal", "and", "subevent", "relations", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "seen", "from", "Figure", "1", ",", "the", "outputs", "of", "ECSP", "lie", "on", "a", "complex", "manifold", "and", "possess", "interdepen-", "dent", "structures", ",", "e.g.", ",", "the", "long", "-", "range", "dependency", "of", "tokens", ",", "the", "association", "among", "triggers", "and", "event", "classes", ",", "and", "the", "dependency", "among", "event", "classes", "and", "event", "relations", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Thus", "it", "is", "challenging", "to", "model", "such", "complex", "event", "structures", "while", "efficiently", "rep-", "resenting", "these", "events", ".", "Previous", "works", "increasingly", "apply", "deep", "representation", "learning", "to", "tackle", "these", "problems", ".", "Lin", "et", "al", ".", "(", "2020", ")", ";", "Li", "et", "al", ".", "(", "2020", ")", "propose", "to", "predict", "event", "structures", "based", "on", "the", "event", "graph", "schema", ".", "Hsu", "et", "al", ".", "(", "2022", ")", "generate", "event", "structures", "with", "manually", "designed", "prompts", ".", "However", ",", "these", "methods", "mainly", "focus", "on", "one", "of", "ECSP", "tasks", "and", "their", "event", "structures", "are", "hard", "to", "represent", "effec-", "tively", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Paolini", "et", "al", ".", "(", "2021", ")", ";", "Lu", "et", "al", ".", "(", "2021", ",", "2022", ")", "propose", "to", "extract", "multiple", "event", "structures", "from", "texts", "with", "a", "unified", "generation", "paradigm", ".", "However", ",", "the", "event", "structures", "of", "these", "approaches", "are", "usually", "quite", "simplistic", "and", "they", "often", "ignore", "the", "complex", "dependency", "among", "tasks", ".", "In", "this", "paper", ",", "we", "focus", "more", "on", ":", "(", "i", ")", "how", "to", "learn", "complex", "event", "structures", "for", "manifold", "ECSP", "tasks", ";", "and", "(", "ii", ")", "how", "to", "simultane-351", "ously", "represent", "events", "for", "these", "complex", "structured", "prediction", "models", "effectively", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "resolve", "the", "first", "challenging", "problem", "of", "mod-", "eling", "manifold", "event", "structures", ",", "we", "utilize", "energy", "networks", "(", "Lecun", "et", "al", ".", ",", "2006", ";", "Belanger", "and", "McCal-", "lum", ",", "2016", ";", "Belanger", "et", "al", ".", ",", "2017", ";", "Tu", "and", "Gimpel", ",", "2018", ")", ",", "inspired", "by", "their", "potential", "benefits", "in", "cap-", "turing", "complex", "dependency", "of", "structured", "compo-", "nents", ".", "We", "define", "the", "energy", "function", "to", "evaluate", "compatibility", "of", "input", "/", "output", "pairs", ",", "which", "places", "no", "limits", "on", "the", "size", "of", "the", "structured", "components", ",", "making", "it", "powerful", "to", "model", "complex", "and", "mani-", "fold", "event", "structures", ".", "We", "generally", "consider", "token-", ",", "sentence-", ",", "and", "document-", "level", "energy", "respectively", "for", "trigger", "classification", ",", "event", "classification", "and", "event", "-", "relation", "extraction", "tasks", ".", "To", "the", "best", "of", "our", "knowledge", ",", "this", "work", "firstly", "address", "event", "-", "centric", "structured", "prediction", "with", "energy", "-", "based", "modeling", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O" ]
[ "To", "resolve", "the", "second", "challenging", "problem", "of", "efficiently", "representing", "events", ",", "we", "take", "advantage", "of", "hyperspheres", "(", "Mettes", "et", "al", ".", ",", "2019", ";", "Wang", "and", "Isola", ",", "2020", ")", ",", "which", "is", "demonstrated", "to", "be", "a", "simple", "and", "effective", "approach", "to", "model", "class", "representa-", "tion", "(", "Deng", "et", "al", ".", ",", "2022", ")", ".", "We", "assume", "that", "the", "event", "mentions", "of", "each", "event", "class", "distribute", "on", "the", "corre-", "sponding", "energy", "-", "based", "hypersphere", ",", "so", "that", "we", "can", "represent", "each", "event", "class", "with", "a", "hyperspherical", "centroid", "and", "radius", "embedding", ".", "The", "geometrical", "modeling", "strategy", "(", "Ding", "et", "al", ".", ",", "2021", ";", "Lai", "et", "al", ".", ",", "2021", ")", "is", "demonstrated", "to", "be", "beneficial", "for", "mod-", "elling", "enriched", "class", "-", "level", "information", "and", "suitable", "for", "constructing", "measurements", "in", "Euclidean", "space", ",", "making", "it", "intuitively", "applicable", "to", "manifold", "event-", "centric", "structured", "prediction", "tasks", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O" ]
[ "Summarily", ",", "considering", "the", "two", "issues", ",", "we", "pro-", "pose", "to", "address", "Structured", "Prediction", "with", "Energy-", "based", "Event-", "Centric", "Hyperspheres", "(", "SPEECH", ")", ",", "and", "our", "contributions", "can", "be", "summarized", "as", "follows", ":", "•We", "revisit", "the", "event", "-", "centric", "structured", "predic-", "tion", "tasks", "in", "consideration", "of", "both", "complex", "event", "structures", "with", "manifold", "dependency", "and", "efficient", "representation", "of", "events", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "•We", "propose", "a", "novel", "approach", "named", "SPEECH", "to", "model", "complex", "event", "structures", "with", "energy", "-", "based", "networks", "and", "efficiently", "repre-", "sent", "events", "with", "event", "-", "centric", "hyperspheres", "." ]
[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "•We", "evaluate", "SPEECH", "on", "two", "newly", "proposed", "datasets", "for", "both", "event", "detection", "and", "event-", "relation", "extraction", ",", "and", "experiments", "demon-", "strate", "that", "our", "model", "is", "advantageous.2", "Related", "Work", "Event", "-", "Centric", "Structured", "Prediction", "(", "ECSP", ")", "." ]
[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O" ]
[ "Since", "the", "boom", "in", "deep", "learning", ",", "traditional", "ap-", "proaches", "to", "ECSP", "mostly", "define", "a", "score", "function", "between", "inputs", "and", "outputs", "based", "on", "a", "neural", "network", ",", "such", "as", "CNN", "(", "Chen", "et", "al", ".", ",", "2015", ";", "Deng", "et", "al", ".", ",", "2020", ")", ",", "RNN", "(", "Nguyen", "et", "al", ".", ",", "2016", ";", "Meng", "and", "Rumshisky", ",", "2018", ";", "Nguyen", "and", "Nguyen", ",", "2019", ")", ",", "and", "GCN", "(", "Yan", "et", "al", ".", ",", "2019", ";", "Lai", "et", "al", ".", ",", "2020", ";", "Cui", "et", "al", ".", ",", "2020", ")", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "With", "the", "development", "of", "pretrained", "large", "models", ",", "more", "recent", "research", "has", "entered", "a", "new", "era", ".", "Wang", "et", "al", ".", "(", "2019", ")", ";", "Du", "and", "Cardie", "(", "2020", ")", ";", "Liu", "et", "al", ".", "(", "2020a", ")", ";", "Deng", "et", "al", ".", "(", "2021", ")", ";", "Sheng", "et", "al", ".", "(", "2022", ")", "leverage", "BERT", "(", "Devlin", "et", "al", ".", ",", "2019", ")", "for", "event", "ex-", "traction", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O" ]
[ "Han", "et", "al", ".", "(", "2020", ")", "and", "Wang", "et", "al", ".", "(", "2020a", ")", ";", "Man", "et", "al", ".", "(", "2022", ")", ";", "Hwang", "et", "al", ".", "(", "2022", ")", "respectively", "adopt", "BERT", "and", "RoBERTa", "(", "Liu", "et", "al", ".", ",", "2019", ")", "for", "event", "-", "relation", "extraction", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]
[ "Lu", "et", "al", ".", "(", "2021", ")", ";", "Paolini", "et", "al", ".", "(", "2021", ")", ";", "Lu", "et", "al", ".", "(", "2022", ")", "propose", "generative", "ECSP", "models", "based", "on", "pre", "-", "trained", "T5", "(", "Raffel", "et", "al", ".", ",", "2020", ")", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Wang", "et", "al", ".", "(", "2023", ")", "tackle", "ECSP", "with", "code", "generation", "based", "on", "code", "pretraining", ".", "However", ",", "these", "approaches", "are", "equipped", "with", "fairly", "simplis-", "tic", "event", "structures", "and", "have", "difficulty", "in", "tackling", "complex", "dependency", "in", "events", ".", "Besides", ",", "most", "of", "them", "fail", "to", "represent", "manifold", "events", "effectively", ".", "Energy", "Networks", "for", "Structured", "Prediction", "and", "Hyperspheres", "for", "Class", "Representation", ".", "Energy", "networks", "define", "an", "energy", "function", "over", "input", "/", "output", "pairs", "with", "arbitrary", "neural", "networks", ",", "which", "places", "no", "limits", "on", "the", "size", "of", "the", "structured", "components", ",", "making", "it", "advantageous", "in", "modeling", "complex", "and", "manifold", "event", "structures", ".", "Lecun", "et", "al", ".", "(", "2006", ")", ";", "Belanger", "and", "McCallum", "(", "2016", ")", "associate", "a", "scalar", "measure", "to", "evaluate", "the", "compatibility", "to", "each", "configuration", "of", "inputs", "and", "outputs", ".", "(", "Belanger", "and", "McCallum", ",", "2016", ")", "formulate", "deep", "energy", "-", "based", "models", "for", "structured", "prediction", ",", "called", "structured", "prediction", "energy", "networks", "(", "SPENs", ")", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O" ]
[ "Belanger", "et", "al", ".", "(", "2017", ")", "present", "end", "-", "to", "-", "end", "learning", "for", "SPENs", ",", "Tu", "and", "Gimpel", "(", "2018", ")", "jointly", "train", "structured", "en-", "ergy", "functions", "and", "inference", "networks", "with", "large-", "margin", "objectives", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Some", "previous", "researches", "also", "regard", "event", "-", "centric", "NLP", "tasks", "as", "structured", "predic-", "tion", "(", "Li", "et", "al", ".", ",", "2013", ";", "Paolini", "et", "al", ".", ",", "2021", ")", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Further-", "more", ",", "to", "effectively", "obtain", "event", "representations", ",", "Deng", "et", "al", ".", "(", "2022", ")", "demonstrate", "that", "hyperspheri-", "cal", "prototypical", "networks", "(", "Mettes", "et", "al", ".", ",", "2019", ")", "are", "powerful", "to", "encode", "enriched", "semantics", "and", "depen-", "dency", "in", "event", "structures", ",", "but", "they", "merely", "consider", "support", "for", "pairwise", "event", "structures.352", "3", "Methodology", "3.1", "Preliminaries", "For", "structured", "prediction", "tasks", ",", "given", "input", "x∈X", ",", "we", "denote", "the", "structured", "outputs", "by", "MΦ", "(", "x", ")", "∈˜Y", "with", "a", "prediction", "model", "MΦ", ".", "Structured", "Prediction", "Energy", "Networks", "(", "SPENs", ")", "score", "structured", "outputs", "with", "an", "energy", "function", "EΘ", ":", "X×", "˜Y→Rparam-", "eterized", "by", "Θthat", "iteratively", "optimize", "the", "energy", "between", "the", "input", "/", "output", "pair", "(", "Belanger", "and", "Mc-", "Callum", ",", "2016", ")", ",", "where", "lower", "energy", "means", "greater", "compatibility", "between", "the", "pair", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "introduce", "event", "-", "centric", "structured", "prediction", "(", "ECSP", ")", "following", "the", "similar", "setting", "as", "SPENs", "for", "multi", "-", "label", "classification", "and", "sequence", "labeling", "pro-", "posed", "by", "Tu", "and", "Gimpel", "(", "2018", ")", "." ]
[ "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Given", "a", "feature", "vector", "xbelonging", "to", "one", "of", "Tlabels", ",", "the", "model", "output", "isMΦ", "(", "x", ")", "=", "{", "0,1", "}", "T∈˜Yfor", "all", "x", ".", "The", "energy", "function", "contains", "two", "terms", ":", "EΘ", "(", "x", ",", "y", ")", "=", "Elocal", "Θ", "(", "x", ",", "y", ")", "+", "Elabel", "Θ", "(", "y", ")", "=", "T", "/", "summationdisplay", "i=1yiV", "/", "latticetop", "if", "(", "x", ")", "+", "w", "/", "latticetopg", "(", "Wy", ")", "(", "1", ")", "whereElocal", "Θ", "(", "x", ",", "y", ")", "=", "/", "summationtextT", "i=1yiV", "/", "latticetop", "if", "(", "x", ")", "is", "the", "sum", "of", "linear", "models", ",", "and", "yi∈y", ",", "Viis", "a", "parameter", "vec-", "tor", "for", "label", "iandf", "(", "x", ")", "is", "a", "multi", "-", "layer", "perceptron", "computing", "a", "feature", "representation", "for", "the", "input", "x", ";", "Elabel", "Θ", "(", "y", ")", "=", "w", "/", "latticetopg", "(", "Wy", ")", "returns", "a", "scalar", "which", "quantifies", "the", "full", "set", "of", "labels", ",", "scoring", "yindepen-", "dent", "of", "x", ",", "thereinto", ",", "wis", "a", "parameter", "vector", ",", "g", "(", "·", ")", "is", "an", "elementwise", "non", "-", "linearity", "function", ",", "and", "W", "is", "a", "parameter", "matrix", "learned", "from", "data", "indicating", "the", "interaction", "between", "labels", ".", "After", "learning", "the", "energy", "function", ",", "prediction", "minimizes", "energy", ":", "˜y=", "arg", "min", "y∈˜YEΘ", "(", "x", ",", "y", ")", "(", "2", ")", "The", "final", "theoretical", "optimum", "for", "SPEN", "is", "de-", "noted", "by", ":", "min", "Θmax", "Φ", "/", "summationdisplay", "/", "bracketleftbig", "/", "triangle", "(", "MΦ", "(", "xi", ")", ",", "yi", ")", "−", "EΘ", "(", "xi", ",", "MΦ", "(", "xi", ")", ")", "+", "EΘ", "(", "xi", ",", "yi", ")", "/", "bracketrightbig", "+", "(", "3", ")", "where", "[", "a", "]", "+=", "max", "(", "0", ",", "a", ")", ",", "and", "/", "triangle", "(", "˜y", ",", "y", ")", ",", "often", "re-", "ferred", "to", "“", "margin", "-", "rescaled", "”", "structured", "hinge", "loss", ",", "is", "a", "structured", "cost", "function", "that", "returns", "a", "nonneg-", "ative", "value", "indicating", "the", "difference", "between", "the", "predicted", "result", "˜yand", "ground", "truth", "y.3.2", "Problem", "Formulation", "In", "this", "paper", ",", "we", "focus", "on", "ECSP", "tasks", "of", "event", "de-", "tection", "(", "ED", ")", "and", "event", "-", "relation", "extraction", "(", "ERE", ")", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O" ]
[ "ED", "can", "be", "divided", "into", "trigger", "classification", "for", "to-", "kens", "and", "event", "classification", "for", "sentences", "." ]
[ "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "denote", "the", "dataset", "by", "D=", "{", "E", ",", "R", ",", "X", "}", "contain-", "ing", "an", "event", "class", "set", "E", ",", "a", "multi", "-", "faceted", "event-", "relation", "setRand", "the", "event", "corpus", "X", ",", "thereinto", ",", "E=", "{", "ei|i∈", "[", "1", ",", "|E|", "]", "}", "contains|E|event", "classes", "including", "a", "None", ";", "R=", "{", "ri|i∈", "[", "1", ",", "|R|", "]", "}", "contains", "|R|temporal", ",", "causal", ",", "subevent", "and", "coreference", "re-", "lationships", "among", "event", "mentions", "including", "a", "NA", "event", "-", "relation", ";", "X=", "{", "Xi|i∈", "[", "1", ",", "K", "]", "}", "consists", "of", "Kevent", "mentions", ",", "where", "Xiis", "denoted", "as", "a", "token", "sequence", "x=", "{", "xj|j∈", "[", "1", ",", "L", "]", "}", "with", "maximum", "Ltokens", ".", "For", "trigger", "classification", ",", "the", "goal", "is", "to", "predict", "the", "index", "t", "(", "1≤t≤L", ")", "of", "the", "trigger", "xt", "in", "each", "token", "sequence", "xand", "categorize", "xtinto", "a", "specific", "event", "class", "ei∈E", ".", "For", "event", "classifica-", "tion", ",", "we", "expect", "to", "predict", "the", "event", "label", "eifor", "each", "event", "mention", "Xi", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "event", "-", "relation", "extraction", ",", "we", "require", "to", "identify", "the", "relation", "ri∈R", "for", "a", "pair", "of", "event", "mentions", "¨X", "/", "angbracketleftij", "/", "angbracketright=", "(", "Xi", ",", "Xj", ")", "." ]
[ "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "summary", ",", "our", "goal", "is", "to", "design", "an", "ECSP", "modelMΦ", ",", "aiming", "to", "tackle", "the", "tasks", "of", ":", "(", "1", ")", "trig-", "ger", "classification", ":", "to", "predict", "the", "token", "label", "˜y=", "MΦ", "(", "x", ")", "for", "the", "token", "list", "x", ";", "(", "2", ")", "event", "classification", ":", "to", "predict", "the", "event", "class", "label", "˜Y", "=", "MΦ", "(", "X", ")", "for", "the", "event", "mention", "X", ";", "(", "3", ")", "event", "-", "relation", "extraction", ":", "to", "predict", "the", "event", "-", "relation", "label", "˜z", "=", "MΦ", "(", "¨X", ")", "for", "the", "event", "mention", "pair", "¨X", ".", "3.3", "Model", "Overview", "As", "seen", "in", "Figure", "2", ",", "SPEECH", "combines", "three", "lev-", "els", "of", "energy", ":", "token", ",", "sentence", ",", "as", "well", "as", "docu-", "ment", ",", "and", "they", "respectively", "serve", "for", "three", "kinds", "of", "ECSP", "tasks", ":", "(", "1", ")", "token", "-", "level", "energy", "for", "trigger", "classification", ":", "considering", "energy", "-", "based", "modeling", "is", "able", "to", "capture", "long", "-", "range", "dependency", "among", "tokens", "without", "limits", "to", "token", "size", ";", "(", "2", ")", "sentence-", "level", "energy", "for", "event", "classification", ":", "considering", "energy", "-", "based", "hyperspheres", "can", "model", "the", "complex", "event", "structures", "and", "represent", "events", "efficiently", ";", "and", "(", "3", ")", "document", "-", "level", "energy", "for", "event", "-", "relation", "extraction", ":", "considering", "energy", "-", "based", "modeling", "en-", "ables", "us", "to", "address", "the", "association", "among", "event", "mention", "pairs", "and", "event", "-", "relations", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "leverage", "the", "trigger", "embeddings", "as", "event", "mention", "embeddings", ";", "the", "energy", "-", "based", "hyperspheres", "with", "a", "centroid", "and", "a", "radius", "as", "event", "class", "embeddings", ",", "and", "these", "three", "tasks", "are", "associative", "to", "each", "other.353", "KillingLegal_rulings", "Token", "-", "LevelEnergy", "Sentence", "-", "LevelEnergy", "Document", "-", "LevelEnergy", "[", "CLS", "]", "Davidwasconvictedto25yearsand9monthsinprisonforkillingGlover", "[", "SEP", "]", "[", "PAD", "]", "ℰ+2ℰ+1ℰ+12ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+2ℰ+2", "[", "CLS", "]", "FormerNOPDpoliceofficerDavidWarrenshotandkilledHenryGlover", "[", "SEP", "]", "[", "PAD", "]", "[", "PAD", "]", "[", "PAD", "]", "ℰ+2ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+1ℰ+13ℰ+1ℰ+1ℰ+2ℰ+2ℰ+2ℰ+2", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "𝐶𝐴𝑈𝑆𝐸Energy", "-", "basedhypersphereembeddingwithacentroidandaradiusas", "event", "type", "embedding", "1to", "ℰ", ":", "event", "typesℰ+1", ":", "non", "-", "triggerℰ+2", ":", "padding", "…", "…", "…", "…", "…", "…", "…", "…", "Triggerembeddingas", "event", "mention", "embedding", "(", "Trigger", "Classification", ")", "(", "Event", "Classification", ")", "(", "Event", "Classification", ")", "(", "Event", "-", "Relation", "Extraction", ")", "Figure", "2", ":", "Overview", "of", "S", "PEECH", "with", "examples", ",", "where", "token", "-", "level", "energy", "serves", "for", "event", "trigger", "classification", ",", "sentence", "-", "level", "energy", "serves", "for", "event", "classification", "and", "document", "-", "level", "energy", "serves", "for", "event", "-", "relation", "extraction", ".", "3.4", "Token", "-", "Level", "Energy", "Token", "-", "level", "energy", "serves", "for", "trigger", "classification", ".", "Given", "a", "token", "sequence", "x=", "{", "xj|j∈", "[", "1", ",", "L", "]", "}", "with", "trigger", "xt", ",", "we", "leverage", "a", "pluggable", "backbone", "en-", "coder", "to", "obtain", "the", "contextual", "representation", "f1", "(", "x", ")", "for", "each", "token", ",", "such", "as", "pre", "-", "trained", "BERT", "(", "Devlin", "et", "al", ".", ",", "2019", ")", ",", "RoBERTa", "(", "Liu", "et", "al", ".", ",", "2019", ")", ",", "Distil-", "BERT", "(", "Sanh", "et", "al", ".", ",", "2019", ")", "and", "so", "on", ".", "We", "then", "pre-", "dict", "the", "label", "˜y", "=", "MΦ", "(", "x", ")", "of", "each", "token", "with", "an", "additional", "linear", "classifier", ".", "Inspired", "by", "SPENs", "for", "sequence", "labeling", "(", "Tu", "and", "Gimpel", ",", "2018", ")", ",", "we", "also", "adopt", "an", "energy", "function", "for", "token", "classification", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Energy", "Function", ".", "The", "token", "-", "level", "energy", "func-", "tion", "is", "inherited", "from", "Eq", "(", "1", ")", ",", "defined", "as", ":", "EΘ", "(", "x", ",", "y", ")", "=", "−", "L", "/", "summationdisplay", "n=1|E|+2", "/", "summationdisplay", "i=1yi", "n", "/", "parenleftBig", "V", "/", "latticetop", "1", ",", "if1", "(", "xn", ")", "/", "parenrightBig", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "local+L", "/", "summationdisplay", "n=1y", "/", "latticetop", "n−1W1yn", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "label", "", "(", "4", ")", "whereyi", "nis", "theithentry", "of", "the", "vector", "yn∈y", ",", "indicating", "the", "probability", "of", "the", "nthtoken", "xnbe-", "ing", "labeled", "with", "i", "(", "iforei", ",", "|E|+1", "for", "non", "-", "trigger", "and|E|+2", "for", "padding", "token", ")", ".", "f1", "(", "·", ")", "denotes", "the", "feature", "encoder", "of", "tokens", ".", "Here", "our", "learnable", "pa-", "rameters", "are", "Θ", "=", "(", "V1", ",", "W1", ")", ",", "thereinto", ",", "V1", ",", "i∈Rd", "is", "a", "parameter", "vector", "for", "token", "label", "i", ",", "andW1∈", "R", "(", "|E|+2", ")", "×", "(", "|E|+2", ")", "contains", "the", "bilinear", "product", "be-", "tweenyn−1andynfor", "token", "label", "pair", "terms", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Loss", "Function", ".", "The", "training", "objective", "for", "trig-", "ger", "classification", "is", "denoted", "by", ":", "Ltok=", "/", "summationdisplayL", "i=1", "/", "bracketleftbig", "/", "triangle", "(", "˜yi", ",", "yi", ")", "−EΘ", "(", "xi", ",", "˜yi", ")", "+", "EΘ", "(", "xi", ",", "yi", ")", "/", "bracketrightbig", "+", "+", "µ1LCE", "(", "˜yi", ",", "yi", ")", "(", "5", ")", "where", "˜yiandyirespectively", "denote", "predicted", "re-", "sults", "and", "ground", "truth", ".", "The", "first", "half", "of", "Eq", "(", "5", ")", "is", "inherited", "from", "Eq", "(", "3", ")", "for", "the", "energy", "function", ",", "and", "in", "the", "latter", "half", ",", "LCE", "(", "˜yi", ",", "yi", ")", "is", "the", "trigger", "classi-", "fication", "cross", "entropy", "loss", ",", "and", "µ1is", "its", "ratio", ".", "3.5", "Sentence", "-", "Level", "Energy", "Sentence", "-", "level", "energy", "serves", "for", "event", "classifica-", "tion", ".", "Given", "the", "event", "mention", "Xiwith", "the", "trig-", "gerxt", ",", "we", "utilize", "the", "trigger", "embedding", "f1", "(", "xt", ")", "as", "the", "event", "mention", "embedding", "f2", "(", "X", ")", ",", "where", "f2", "(", "·", ")", "denotes", "the", "feature", "encoder", "of", "event", "men-", "tions", ".", "We", "then", "predict", "the", "class", "of", "each", "event", "men-", "tion", "with", "energy", "-", "based", "hyperspheres", ",", "denoted", "by", "˜Y", "=", "MΦ", "(", "X", ")", ".", "Specifically", ",", "we", "use", "an", "energy", "-", "based", "hyper-", "sphere", "to", "represent", "each", "event", "class", ",", "and", "assume", "that", "the", "event", "mentions", "of", "each", "event", "class", "should", "distribute", "on", "the", "corresponding", "hypersphere", "with", "the", "lowest", "energy", ".", "We", "then", "calculate", "the", "probability", "of", "the", "event", "mention", "Xcategorizing", "into", "the", "class", "eiwith", "a", "hyperspherical", "measurement", "function", ":", "S", "(", "X", ",", "Pi", ")", "=", "exp−", "[", "/", "bardblPi−f2", "(", "X", ")", "/", "bardbl2−γ", "]", "+", "/", "summationtext|E|", "j=1exp−", "[", "/", "bardblPj−f2", "(", "X", ")", "/", "bardbl2−γ", "]", "+", "(", "6", ")", "where", "[", "a", "]", "+=", "max", "(", "0", ",", "a", ")", ",", "Pidenotes", "the", "hyper-", "sphere", "centroid", "embedding", "of", "ei.", "/", "bardbl·", "/", "bardbl", "denotes", "the", "Euclidean", "distance", ".", "γis", "the", "radius", "of", "the", "hyper-", "sphere", ",", "which", "can", "be", "scalable", "or", "constant", ".", "We", "sim-", "ply", "setγ=", "1", "in", "this", "paper", ",", "meaning", "that", "each", "event", "class", "is", "represented", "by", "a", "unit", "hypersphere", ".", "Larger", "S", "(", "X", ",", "Pi", ")", "signifies", "that", "the", "event", "mention", "Xare", "more", "likely", "be", "categorized", "into", "Picorresponding354", "toei", ".", "To", "measure", "the", "energy", "score", "between", "event", "classes", "and", "event", "mentions", ",", "we", "also", "adopt", "an", "en-", "ergy", "function", "for", "event", "classification", ".", "Energy", "Function", ".", "The", "sentence", "-", "level", "energy", "function", "is", "inherited", "from", "Eq", "(", "1", ")", ",", "defined", "as", ":", "EΘ", "(", "X", ",", "Y", ")", "=", "−", "|E|", "/", "summationdisplay", "i=1Yi", "/", "parenleftBig", "V", "/", "latticetop", "2", ",", "if2", "(", "X", ")", "/", "parenrightBig", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "local+w", "/", "latticetop", "2g", "(", "W2Y", ")", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "label", "", "(", "7", ")", "where", "Yi∈Yindicates", "the", "probability", "of", "the", "event", "mention", "Xbeing", "categorized", "to", "ei", ".", "Here", "our", "learn-", "able", "parameters", "are", "Θ", "=", "(", "V2", ",", "w2", ",", "W2", ")", ",", "thereinto", ",", "V2", ",", "i∈Rdis", "a", "parameter", "vector", "for", "ei", ",", "w2∈R|E|", "andW2∈R|E|×|E|", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O" ]
[ "Loss", "Function", ".", "The", "training", "objective", "for", "event", "classification", "is", "denoted", "by", ":", "Lsen=", "/", "summationdisplayK", "i=1", "/", "bracketleftbig", "/", "triangle", "/", "parenleftBig", "˜Yi", ",", "Yi", "/", "parenrightBig", "−EΘ", "/", "parenleftBig", "Xi", ",", "˜Yi", "/", "parenrightBig", "+", "EΘ", "(", "Xi", ",", "Yi", ")", "/", "bracketrightbig", "+", "+", "µ2LCE", "/", "parenleftBig", "˜Yi", ",", "Yi", "/", "parenrightBig", "(", "8", ")", "where", "the", "first", "half", "is", "inherited", "from", "Eq", "(", "3", ")", ",", "and", "in", "the", "latter", "half", ",", "LCEis", "a", "cross", "entropy", "loss", "for", "predicted", "results", "˜Yiand", "ground", "truth", "Yi.µ2is", "a", "ratio", "for", "event", "classification", "cross", "entropy", "loss", ".", "3.6", "Document", "-", "Level", "Energy", "Document", "-", "level", "energy", "serves", "for", "event", "-", "relation", "extraction", ".", "Given", "event", "mentions", "Xin", "each", "docu-", "ment", ",", "we", "model", "the", "embedding", "interactions", "of", "each", "event", "mention", "pair", "with", "a", "comprehensive", "feature", "vectorf3", "(", "¨X", "/", "angbracketleftij", "/", "angbracketright", ")", "=", "/", "bracketleftbig", "f2", "(", "Xi", ")", ",", "f2", "(", "Xj", ")", ",", "f2", "(", "Xi", ")", "⊙", "f2", "(", "Xj", ")", "/", "bracketrightbig", ".", "We", "then", "predict", "the", "relation", "between", "each", "event", "mention", "pair", "with", "a", "linear", "classifier", ",", "de-", "noted", "by", "˜z", "=", "MΦ", "(", "¨X", ")", ".", "Inspired", "by", "SPENs", "for", "multi", "-", "label", "classification", "(", "Tu", "and", "Gimpel", ",", "2018", ")", ",", "we", "also", "adopt", "an", "energy", "function", "for", "ERE", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]
[ "Energy", "Function", ".", "The", "document", "-", "level", "energy", "function", "is", "inherited", "from", "Eq", "(", "1", ")", ",", "defined", "as", ":", "EΘ", "(", "¨X", ",", "z", ")", "=", "−", "|R|", "/", "summationdisplay", "i=1zi", "/", "parenleftBig", "V", "/", "latticetop", "3", ",", "if3", "(", "¨X", ")", "/", "parenrightBig", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "local+w", "/", "latticetop", "3g", "(", "W3z", ")", "/", "bracehtipupleft", "/", "bracehtipdownright", "/", "bracehtipdownleft", "/", "bracehtipupright", "label", "", "(", "9", ")", "where", "zi∈zindicates", "the", "probability", "of", "the", "event", "mention", "pair", "¨Xhaving", "the", "relation", "of", "ri", ".", "Here", "our", "learnable", "parameters", "are", "Θ", "=", "(", "V3", ",", "w3", ",", "W3", ")", ",", "thereinto", ",", "V3", ",", "i∈R3dis", "a", "parameter", "vector", "for", "ri", ",", "w3∈R|R|andW3∈R|R|×|R|.Loss", "Function", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O" ]
[ "The", "training", "objective", "for", "event-", "relation", "extraction", "is", "denoted", "by", ":", "Ldoc=", "/", "summationdisplayN", "k=1", "/", "bracketleftBig", "/", "triangle", "(", "˜zk", ",", "zk", ")", "−EΘ", "/", "parenleftBig", "¨Xk", ",", "˜zk", "/", "parenrightBig", "+", "EΘ", "/", "parenleftBig", "¨Xk", ",", "zk", "/", "parenrightBig", "/", "bracketrightBig", "+", "+", "µ3LCE", "(", "˜zk", ",", "zk", ")", "(", "10", ")", "where", "the", "first", "half", "is", "inherited", "from", "Eq", "(", "3", ")", ",", "and", "in", "the", "latter", "half", ",", "LCE", "(", "˜zk", ",", "zk", ")", "is", "the", "event", "-", "relation", "extraction", "cross", "entropy", "loss", ",", "µ3is", "its", "ratio", ",", "and", "N", "denotes", "the", "quantity", "of", "event", "mention", "pairs", ".", "Thefinal", "training", "loss", "forSPEECHMΦparam-", "eterized", "by", "Φis", "defined", "as", ":", "L", "=", "λ1Ltok+λ2Lsen+λ3Ldoc+", "/", "bardblΦ", "/", "bardbl2", "2", "(", "11", ")", "whereλ1", ",", "λ2", ",", "λ3are", "the", "loss", "ratios", "respectively", "for", "trigger", "classification", ",", "event", "classification", "and", "event", "-", "relation", "extraction", "tasks", ".", "We", "add", "the", "penalty", "term", "/", "bardblΦ", "/", "bardbl2", "2withL2regularization", ".", "4", "Experiments", "The", "experiments", "refer", "to", "event", "-", "centric", "structured", "prediction", "(", "ECSP", ")", "and", "comprise", "three", "tasks", ":", "(", "1", ")", "Trigger", "Classification", ";", "(", "2", ")", "Event", "Classification", ";", "and", "(", "3", ")", "Event", "-", "Relation", "Extraction", "." ]
[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]
End of preview. Expand in Dataset Viewer.

Dataset Card for "anno1_w_elimination"

More Information needed

Downloads last month
0
Edit dataset card
Size of downloaded dataset files:
249 kB
Size of the auto-converted Parquet files:
249 kB
Number of rows:
917