anlp/annotation1_wo_elimination · Datasets at Hugging Face

sentences sequence	ner_tags sequence
[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "338–350", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "Text", "Adversarial", "Purification", "as", "Defense", "against", "Adversarial", "Attacks", "Linyang", "Li", "Demin", "Song", ",", "Xipeng", "Qiu", "School", "of", "Computer", "Science", ",", "Fudan", "University", "Shanghai", "Key", "Laboratory", "of", "Intelligent", "Information", "Processing", ",", "Fudan", "University", "{", "linyangli19", ",", "dmsong20", ",", "xpqiu", "}", "@", "fudan.edu.cn", "Abstract", "Adversarial", "purification", "is", "a", "successful", "defense", "mechanism", "against", "adversarial", "attacks", "without", "requiring", "knowledge", "of", "the", "form", "of", "the", "incom-", "ing", "attack", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Generally", ",", "adversarial", "purification", "aims", "to", "remove", "the", "adversarial", "perturbations", "therefore", "can", "make", "correct", "predictions", "based", "on", "the", "recovered", "clean", "samples", "." ]	[ "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Despite", "the", "success", "of", "adversarial", "purification", "in", "the", "com-", "puter", "vision", "field", "that", "incorporates", "generative", "models", "such", "as", "energy", "-", "based", "models", "and", "dif-", "fusion", "models", ",", "using", "purification", "as", "a", "defense", "strategy", "against", "textual", "adversarial", "attacks", "is", "rarely", "explored", "." ]	[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "this", "work", ",", "we", "introduce", "a", "novel", "adversarial", "purification", "method", "that", "fo-", "cuses", "on", "defending", "against", "textual", "adversarial", "attacks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]
[ "With", "the", "help", "of", "language", "models", ",", "we", "can", "inject", "noise", "by", "masking", "input", "texts", "and", "reconstructing", "the", "masked", "texts", "based", "on", "the", "masked", "language", "models", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "this", "way", ",", "we", "con-", "struct", "an", "adversarial", "purification", "process", "for", "textual", "models", "against", "the", "most", "widely", "used", "word", "-", "substitution", "adversarial", "attacks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]
[ "We", "test", "our", "proposed", "adversarial", "purification", "method", "on", "several", "strong", "adversarial", "attack", "methods", "in-", "cluding", "Textfooler", "and", "BERT", "-", "Attack", "and", "exper-", "imental", "results", "indicate", "that", "the", "purification", "al-", "gorithm", "can", "successfully", "defend", "against", "strong", "word", "-", "substitution", "attacks", "." ]	[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]
[ "1", "Introduction", "Adversarial", "examples", "(", "Goodfellow", "et", "al", ".", ",", "2014", ")", "can", "successfully", "mislead", "strong", "neural", "models", "in", "both", "computer", "vision", "tasks", "(", "Carlini", "and", "Wagner", ",", "2016", ")", "and", "language", "understanding", "tasks", "(", "Alzantot", "et", "al", ".", ",", "2018", ";", "Jin", "et", "al", ".", ",", "2019", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "An", "adversarial", "example", "is", "a", "maliciously", "crafted", "example", "attached", "with", "an", "imperceptible", "perturbation", "and", "can", "mislead", "neural", "networks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "defend", "attack", "examples", "of", "images", ",", "the", "most", "effective", "method", "is", "adversarial", "training", "(", "Goodfellow", "et", "al", ".", ",", "2014", ";", "Madry", "et", "al", ".", ",", "2019", ")", "which", "is", "a", "mini", "-", "max", "game", "used", "to", "incorporate", "perturba-", "tions", "into", "the", "training", "process", ".", "Defending", "adversarial", "attacks", "is", "extremely", "im-", "portant", "in", "improving", "model", "robustness", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "How-", "ever", ",", "defending", "adversarial", "examples", "in", "natural", "languages", "is", "more", "challenging", "due", "to", "the", "discrete", "nature", "of", "texts", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "That", "is", ",", "gradients", "can", "not", "be", "used", "directly", "in", "crafting", "perturbations", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "substitution-", "based", "adversarial", "examples", "are", "more", "complicated", "than", "gradient", "-", "based", "adversarial", "examples", "in", "im-", "ages", ",", "making", "it", "difficult", "for", "neural", "networks", "to", "de-", "fend", "against", "these", "substitution", "-", "based", "attacks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "first", "challenge", "of", "defending", "against", "adver-", "sarial", "attacks", "in", "NLP", "is", "that", "due", "to", "the", "discrete", "na-", "ture", ",", "these", "substitution", "-", "based", "adversarial", "examples", "can", "have", "substitutes", "in", "any", "token", "of", "the", "sentence", "and", "each", "substitute", "has", "a", "large", "candidate", "list", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "This", "would", "cause", "a", "combinatorial", "explosion", "problem", ",", "making", "it", "hard", "to", "apply", "adversarial", "training", "meth-", "ods", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Strong", "attacking", "methods", "such", "as", "Jin", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2019", ")", "show", "that", "using", "the", "crafted", "adversarial", "ex-", "amples", "as", "data", "augmentation", "in", "adversarial", "training", "can", "not", "effectively", "defend", "against", "these", "substitution-", "based", "attacks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Further", ",", "defending", "strategies", "such", "as", "adversarial", "training", "rely", "on", "the", "assumption", "that", "the", "candidate", "lists", "of", "the", "substitutions", "are", "accessible", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "However", ",", "the", "candidate", "lists", "of", "the", "substitutions", "should", "notbe", "exposed", "to", "the", "target", "model", ";", "that", "is", ",", "the", "target", "model", "should", "be", "unfamiliar", "to", "the", "candi-", "date", "list", "of", "the", "adversarial", "examples", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "real", "-", "world", "defense", "systems", ",", "the", "defender", "is", "not", "aware", "of", "the", "strategy", "the", "potential", "attacks", "might", "use", ",", "so", "the", "as-", "sumption", "that", "the", "candidate", "list", "is", "available", "would", "significantly", "constrain", "the", "potential", "applications", "of", "these", "defending", "methods", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Considering", "that", "it", "is", "challenging", "to", "defend", "against", "textual", "adversarial", "attacks", "when", "the", "form", "of", "the", "attacks", "can", "not", "be", "acknowledged", "in", "advance", ",", "we", "introduce", "a", "novel", "adversarial", "purification", "method", "as", "a", "feasible", "defense", "mechanism", "against", "these", "at-", "tacks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "adversarial", "purification", "method", "is", "to", "purify", "adversarially", "perturbed", "input", "samples", "before", "making", "predictions", "(", "Srinivasan", "et", "al", ".", ",", "2021", ";", "Shi338", "et", "al", ".", ",", "2021", ";", "Yoon", "et", "al", ".", ",", "2021", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "major", "works", "about", "adversarial", "purification", "focus", "on", "purifying", "continuous", "inputs", "such", "as", "images", ",", "therefore", "these", "works", "explore", "different", "generative", "models", "such", "as", "GANs", "(", "Samangouei", "et", "al", ".", ",", "2018", ")", ",", "energy", "-", "based", "models", "(", "EBMs", ")", "(", "LeCun", "et", "al", ".", ",", "2006", ")", "and", "recently", "developed", "diffusion", "models", "(", "Song", "et", "al", ".", ",", "2021", ";", "Nie", "et", "al", ".", ",", "2022", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "However", ",", "in", "textual", "adversarial", "at-", "tacks", ",", "the", "inputs", "are", "discrete", "tokens", "which", "makes", "it", "more", "challenging", "to", "deploy", "previous", "adversarial", "purification", "methods", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Therefore", ",", "we", "introduce", "a", "purification", "mecha-", "nism", "with", "the", "help", "of", "masked", "language", "models", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "first", "consider", "the", "widely", "used", "masking", "process", "to", "inject", "noise", "into", "the", "input", ";", "then", "we", "recover", "the", "clean", "texts", "from", "the", "noisy", "inputs", "with", "the", "help", "of", "the", "masked", "language", "models", "(", "e.g", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "a", "BERT", "(", "De-", "vlin", "et", "al", ".", ",", "2018", ")", ")", "." ]	[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Further", ",", "considering", "that", "the", "iterative", "process", "in", "previous", "adversarial", "purifica-", "tion", "algorithms", "can", "be", "extremely", "costly", "(", "e.g", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "a", "VP", "-", "SDE", "process", "in", "diffusion", "models", "(", "Song", "et", "al", ".", ",", "2021", ")", ")", ",", "we", "instead", "simplify", "the", "iterative", "process", "to", "an", "ensemble", "-", "purifying", "process", "that", "conducting", "adversarial", "purification", "multiple", "times", "to", "obtain", "an", "ensembled", "result", "as", "a", "compromise", "to", "the", "time", "cost", "in", "traditional", "adversarial", "purification", "process", "." ]	[ "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Through", "extensive", "experiments", ",", "we", "prove", "that", "the", "proposed", "text", "adversarial", "purification", "algorithm", "can", "successfully", "serve", "as", "defense", "against", "strong", "at-", "tacks", "such", "as", "Textfooler", "and", "BERT", "-", "Attack", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O" ]
[ "Exper-", "iment", "results", "show", "that", "the", "accuracy", "under", "attack", "in", "baseline", "defense", "methods", "is", "lower", "than", "random", "guesses", ",", "while", "after", "text", "purification", ",", "the", "perfor-", "mance", "can", "reach", "only", "a", "few", "percent", "lower", "than", "the", "original", "accuracy", "when", "the", "candidate", "range", "of", "the", "attack", "is", "limited", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Further", ",", "extensive", "results", "indicate", "that", "the", "candidate", "range", "of", "the", "attacker", "score", "is", "essential", "for", "successful", "attacks", ",", "which", "is", "a", "key", "fac-", "tor", "in", "maintaining", "the", "semantics", "of", "the", "adversaries", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Therefore", "we", "also", "recommend", "that", "future", "attacking", "methods", "can", "focus", "on", "achieving", "successful", "attacks", "with", "tighter", "constraints", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "summarize", "our", "contributions", ":", "(", "1", ")", "We", "raise", "the", "concern", "of", "defending", "substitution", "-", "based", "adversarial", "attacks", "without", "ac-", "knowledging", "the", "form", "of", "the", "attacks", "in", "NLP", "tasks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O" ]
[ "(", "2", ")", "To", "the", "best", "of", "our", "knowledge", ",", "we", "are", "the", "first", "to", "consider", "adversarial", "purification", "as", "a", "defense", "against", "textual", "adversarial", "attacks", "exemplified", "by", "strong", "word", "-", "substitution", "attacks", "and", "combine", "text", "adversarial", "purification", "with", "pre", "-", "trained", "models.", "(", "3", ")", "We", "perform", "extensive", "experiments", "to", "demon-", "strate", "that", "the", "adversarial", "purification", "method", "is", "capable", "of", "defending", "strong", "adversarial", "attacks", ",", "which", "brings", "a", "new", "perspective", "to", "defending", "tex-", "tual", "adversarial", "attacks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "2", "Related", "Work", "2.1", "Adversarial", "Attacks", "in", "NLP", "In", "NLP", "tasks", ",", "current", "methods", "use", "substitution-", "based", "strategies", "(", "Alzantot", "et", "al", ".", ",", "2018", ";", "Jin", "et", "al", ".", ",", "2019", ";", "Ren", "et", "al", ".", ",", "2019", ")", "to", "craft", "adversarial", "exam-", "ples", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Most", "works", "focus", "on", "the", "score", "-", "based", "black-", "box", "attack", ",", "that", "is", ",", "attacking", "methods", "know", "the", "logits", "of", "the", "output", "prediction", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "These", "methods", "use", "different", "strategies", "(", "Yoo", "et", "al", ".", ",", "2020", ";", "Morris", "et", "al", ".", ",", "2020b", ")", "to", "find", "words", "to", "replace", ",", "such", "as", "genetic", "algorithm", "(", "Alzantot", "et", "al", ".", ",", "2018", ")", ",", "greedy", "-", "search", "(", "Jin", "et", "al", ".", ",", "2019", ";", "Li", "et", "al", ".", ",", "2020", ")", "or", "gradient", "-", "based", "methods", "(", "Ebrahimi", "et", "al", ".", ",", "2017", ";", "Cheng", "et", "al", ".", ",", "2019", ")", "and", "get", "substitutes", "using", "synonyms", "(", "Jin", "et", "al", ".", ",", "2019", ";", "Mrkši", "´", "c", "et", "al", ".", ",", "2016", ";", "Ren", "et", "al", ".", ",", "2019", ")", "or", "language", "models", "(", "Li", "et", "al", ".", ",", "2020", ";", "Garg", "and", "Ramakrishnan", ",", "2020", ";", "Shi", "et", "al", ".", ",", "2019", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "2.2", "Adversarial", "Defenses", "We", "divide", "the", "defense", "methods", "for", "word-", "substitution", "attacks", "by", "whether", "the", "defense", "method", "requires", "knowledge", "of", "the", "form", "of", "the", "attack", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "When", "the", "candidate", "list", "is", "known", ",", "recent", "works", "introduce", "defense", "strategies", "that", "incorporate", "the", "candidates", "of", "the", "words", "to", "be", "replaced", "as", "an", "aug-", "mentation", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Jin", "et", "al", "." ]	[ "O", "O", "O", "O" ]
[ "(", "2019", ")", ";", "Li", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2020", ")", ";", "Si", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2020", ")", "uses", "generated", "adversaries", "to", "augment", "the", "classifier", "for", "better", "defense", "performances", ";", "Jia", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2019", ")", ";", "Huang", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2019", ")", "introduce", "a", "certified", "robust", "model", "to", "construct", "a", "certified", "space", "within", "the", "range", "of", "a", "candidate", "list", "therefore", "the", "substitu-", "tions", "in", "the", "candidate", "list", "can", "not", "perturb", "the", "model", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Zhou", "et", "al", "." ]	[ "O", "O", "O", "O" ]
[ "(", "2020", ")", ";", "Dong", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2021", ")", "construct", "a", "convex", "hull", "based", "on", "the", "candidate", "list", "which", "can", "resist", "substitutions", "in", "the", "candidate", "list", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "defend", "unknown", "attacks", ",", "NLP", "models", "can", "in-", "corporate", "gradient", "-", "based", "adversarial", "training", "strate-", "gies", "(", "Miyato", "et", "al", ".", ",", "2016", ";", "Madry", "et", "al", ".", ",", "2019", ")", "since", "recent", "works", "(", "Ebrahimi", "et", "al", ".", ",", "2017", ";", "Cheng", "et", "al", ".", ",", "2019", ";", "Zhu", "et", "al", ".", ",", "2019", ";", "Li", "and", "Qiu", ",", "2020", ")", "show", "that", "gradient", "-", "based", "adversarial", "training", "can", "also", "improve", "defense", "performances", "against", "word-", "substitution", "attacks.339", "Adversarial", "Image", "(", "Gibbon", ")", "Purified", "Image", "(", "Panda", ")", "a", "continuous", "image", "re", "-", "construct", "process", "from", "a", "noisy", "image", "e.g", "." ]	[ "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "using", "Diffusion", "Models", "/", "Score", "-", "based", "Models", "I", "possess", "the", "good", "common", "logical", "sense", "to", "realize", "..." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "it", "is", "something", "I", "like", "..." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "Adversarial", "Text", "(", "Negative", ")", "..." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "I", "[", "MASK", "]", "the", "good", "common", "logical", "sense", "to", "[", "MASK", "]", "..." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "it", "is", "something", "I", "like", "..." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "I", "possess", "the", "good", "common", "logical", "[", "MASK", "]", "to", "realize", "..." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "it", "is", "[", "MASK", "]", "I", "like", "..." ]	[ "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "..." ]	[ "O" ]
[ "..." ]	[ "O" ]
[ "MLMI", "know", "the", "good", "common", "logical", "sense", "to", "sense", "..." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "it", "is", "something", "I", "like", "..." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "Purified", "TextsI", "possess", "the", "good", "common", "logical", "feel", "to", "realize", "..." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "it", "is", "something", "I", "like", "..." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "(", "Positive", ")", "I", "possess", "the", "good", "common", "logical", "[", "MASK", "]", "to", "[", "MASK", "]", "..." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "it", "is", "something", "I", "like", "..." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "I", "possess", "the", "good", "common", "logical", "feel", "to", "realize", "..." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "it", "is", "something", "I", "like", "..." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "Figure", "1", ":", "Text", "Adversarial", "Purification", "Process", ":", "Compared", "with", "Image", "Purification", ",", "we", "use", "masked", "language", "models", "to", "recover", "noisy", "texts", "to", "purify", "adversarial", "texts", "as", "a", "defense", "against", "word", "-", "substitutions", "attacks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "2.3", "Adversarial", "Purification", "Adversarial", "purification", "is", "a", "defense", "strategy", "that", "uses", "generative", "models", "to", "purify", "adversarial", "inputs", "before", "making", "predictions", ",", "which", "is", "a", "promising", "direction", "in", "adversarial", "defense", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Samangouei", "et", "al", "." ]	[ "O", "O", "O", "O" ]
[ "(", "2018", ")", "uses", "a", "defensive", "GAN", "framework", "to", "build", "clean", "images", "to", "avoid", "adversarial", "attacks", "." ]	[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O" ]
[ "Energy-", "based", "models", "(", "EBMs", ")", "are", "used", "to", "purify", "attacked", "images", "via", "Langevin", "dynamics", "(", "LeCun", "et", "al", ".", ",", "2006", ")", "." ]	[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Score", "-", "based", "models", "(", "Yoo", "et", "al", ".", ",", "2020", ")", "is", "also", "in-", "troduced", "as", "a", "purification", "strategy", "." ]	[ "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Recent", "works", "focus", "on", "exploring", "diffusion", "models", "as", "the", "purifi-", "cation", "model", "in", "purifying", "the", "attacked", "images", "(", "Nie", "et", "al", ".", ",", "2022", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Though", "widely", "explored", ",", "adversarial", "purification", "strategy", "is", "less", "explored", "in", "the", "NLP", "field", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "3", "Text", "Adversarial", "Purification", "3.1", "Background", "of", "Adversarial", "Purification", "A", "classic", "adversarial", "purification", "process", "is", "to", "grad-", "ually", "purify", "the", "input", "through", "Tsteps", "of", "purifica-", "tion", "runs", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "seen", "in", "Figure", "1", ",", "the", "purification", "process", "in", "the", "image", "domain", "is", "to", "first", "constructan", "input", "x′from", "the", "perturbed", "input", "xby", "injecting", "random", "noise", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Then", "the", "purification", "algorithm", "will", "recover", "the", "clean", "image", "/", "hatwidexfrom", "the", "noisy", "image", "x′", "which", "usually", "takes", "multiple", "rounds", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "intuition", "of", "such", "a", "purification", "process", "is", "that", "the", "recovered", "inputs", "will", "not", "contain", "adversarial", "effects", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Specifically", ",", "in", "the", "score", "-", "based", "adversarial", "purifi-", "cation", "(", "Yoo", "et", "al", ".", ",", "2020", ")", ",", "the", "sample", "injected", "with", "random", "noise", "is", "x′=x+εwhere", "ε∼", "N", "(", "0", ",", "σ2I", ")", "and", "the", "goal", "is", "to", "purify", "x′with", "score", "network", "sθ", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "a", "continuous", "time", "step", "where", "x0", "=", "x′", ",", "the", "goal", "is", "to", "recover", "x0through", "a", "score", "-", "based", "generative", "model", "xt", "=", "xt−1+αt−1sθ", "(", "xt−1", ")", "where", "αis", "the", "step", "size", "related", "to", "xt−1", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "After", "Ttimes", "of", "gener-", "ation", ",", "the", "recovered", "/", "hatwidex", "=", "xTis", "used", "in", "the", "final", "prediction", "which", "contains", "less", "adversarial", "effect", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "for", "the", "diffusion", "-", "based", "purification", "methods", "(", "Nie", "et", "al", ".", ",", "2022", ")", ",", "the", "process", "includes", "a", "forward", "diffusion", "process", "and", "a", "reverse", "recovery", "process", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "noise", "injection", "process", "is", "a", "forward", "stochastic", "differential", "equation", "(", "SDE", ")", ",", "that", "is", ",", "the", "noisy", "input", "x′=x", "(", "T", ")", "and", "initial", "perturbed", "input", "x", "=", "x", "(", "0", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "diffusion", "process", "is", "x", "(", "T", ")", "=", "/", "radicalbig", "α", "(", "T", ")", "x", "(", "0", ")", "+", "/", "radicalbig", "1−α", "(", "T", ")", "εwhere", "αis", "a", "hyper", "-", "parameter", "and340", "ε∼", "N", "(", "0", ",", "σ2I", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "final", "purified", "input", "/", "hatwidex=", "/", "hatwidex", "(", "0", ")", "where", "/", "hatwidex", "(", "0", ")", "is", "the", "reverse", "-", "time", "SDE", "generated", "input", "from", "the", "diffused", "input", "x", "(", "T", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "3.2", "Text", "Adversarial", "Purification", "with", "BERT", "Instead", "of", "the", "iterative", "purification", "process", "used", "in", "purifying", "images", ",", "we", "introduce", "a", "novel", "purification", "method", "that", "purifies", "the", "input", "texts", "via", "masking", "and", "masks", "prediction", "with", "pre", "-", "trained", "masked", "language", "models", "exemplified", "by", "BERT", "(", "Devlin", "et", "al", ".", ",", "2018", ")", "." ]	[ "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "seen", "in", "Figure", "1", ",", "instead", "of", "gradually", "adding", "noise", "and", "recovering", "the", "clean", "sample", "from", "the", "noisy", "samples", ",", "we", "inject", "random", "noise", "into", "the", "input", "texts", "multiple", "times", "and", "recover", "the", "noisy", "data", "to", "a", "clean", "text", "based", "on", "the", "mask", "-", "prediction", "ability", "of", "the", "masked", "language", "model", "Fm", "(", "·", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Considering", "that", "the", "perturbed", "text", "is", "X", ",", "we", "can", "inject", "noise", "to", "construct", "multiple", "copies", "X′", "i=", "[", "w0", ",", "···", ",", "[", "MASK", "]", ",", "wn", ",", "·", "·", "·", ",", "]", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "use", "two", "simple", "masking", "strategies", ":", "(", "1", ")", "Randomly", "mask", "the", "input", "texts", ";", "(", "2", ")", "Randomly", "insert", "masks", "into", "the", "input", "texts", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Such", "a", "random", "masking", "process", "is", "similar", "to", "adding", "a", "random", "noise", "ε∼", "N", "(", "0", ",", "σ2I", ")", "to", "the", "inputs", "x", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "After", "constructing", "multiple", "noisy", "inputs", ",", "we", "run", "the", "denoise", "process", "via", "masked", "language", "models", ":", "/", "hatwideXi", "=", "Fm", "(", "X′", "i", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "With", "Nrecovered", "texts", ",", "we", "are", "able", "to", "make", "predictions", "with", "the", "classifier", "Fc", "(", "·", ")", ":", "Si=", "1", "N", "/", "summationtextN", "i=0", "/", "parenleftig", "Softmax", "(", "Fc", "(", "/", "hatwideXi", ")", ")", "/", "parenrightig", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Unlike", "continuous", "perturbations", "to", "images", ",", "word", "-", "substitution", "adversarial", "samples", "only", "contain", "several", "perturbed", "words", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Therefore", ",", "we", "consider", "using", "a", "multiple", "-", "time", "mask", "-", "and", "-", "recover", "process", "as", "text", "adversarial", "purification", ",", "which", "makes", "full", "use", "of", "the", "pre", "-", "trained", "ability", "of", "the", "masked", "lan-", "guage", "models", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Compared", "with", "the", "generation", "pro-", "cess", "used", "in", "image", "adversarial", "purification", ",", "masked", "language", "model", "-", "based", "purification", "method", "is", "eas-", "ier", "to", "implement", "and", "utilize", "in", "pre", "-", "trained", "model-", "based", "applications", "as", "a", "defense", "against", "strong", "word-", "substitution", "adversarial", "attacks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "3.3", "Combining", "with", "Classifier", "Normal", "adversarial", "purification", "methods", "are", "plug-", "and", "-", "play", "processes", "inserted", "before", "the", "classifica-", "tion", ",", "however", ",", "the", "masked", "language", "model", "itself", "is", "a", "widely", "used", "classification", "model", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "That", "is", ",", "the", "purification", "model", "Fm", "(", "·", ")", "and", "the", "classification", "model", "Fc", "(", "·", ")", "can", "share", "the", "same", "model", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "There-", "fore", ",", "instead", "of", "using", "a", "normal", "masked", "languagemodel", "such", "as", "BERT", ",", "we", "train", "the", "classifier", "and", "the", "mask", "-", "filling", "ability", "as", "multi", "-", "tasks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "classifica-", "tion", "loss", "is", "Lc", "=", "L", "(", "Fc", "(", "X′", ")", ",", "y", ",", "θ", ")", "+L", "(", "Fc", "(", "X", ")", ",", "y", ",", "θ", ")", "and", "the", "masked", "language", "model", "loss", "is", "Lmlm=", "L", "(", "Fm", "(", "X′", ")", ",", "X", ",", "θ", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "338–350", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "Text", "Adversarial", "Purification", "as", "Defense", "against", "Adversarial", "Attacks", "Linyang", "Li", "Demin", "Song", ",", "Xipeng", "Qiu", "School", "of", "Computer", "Science", ",", "Fudan", "University", "Shanghai", "Key", "Laboratory", "of", "Intelligent", "Information", "Processing", ",", "Fudan", "University", "{", "linyangli19", ",", "dmsong20", ",", "xpqiu", "}", "@", "fudan.edu.cn", "Abstract", "Adversarial", "purification", "is", "a", "successful", "defense", "mechanism", "against", "adversarial", "attacks", "without", "requiring", "knowledge", "of", "the", "form", "of", "the", "incom-", "ing", "attack", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Generally", ",", "adversarial", "purification", "aims", "to", "remove", "the", "adversarial", "perturbations", "therefore", "can", "make", "correct", "predictions", "based", "on", "the", "recovered", "clean", "samples", "." ]

[ "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Despite", "the", "success", "of", "adversarial", "purification", "in", "the", "com-", "puter", "vision", "field", "that", "incorporates", "generative", "models", "such", "as", "energy", "-", "based", "models", "and", "dif-", "fusion", "models", ",", "using", "purification", "as", "a", "defense", "strategy", "against", "textual", "adversarial", "attacks", "is", "rarely", "explored", "." ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "this", "work", ",", "we", "introduce", "a", "novel", "adversarial", "purification", "method", "that", "fo-", "cuses", "on", "defending", "against", "textual", "adversarial", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "With", "the", "help", "of", "language", "models", ",", "we", "can", "inject", "noise", "by", "masking", "input", "texts", "and", "reconstructing", "the", "masked", "texts", "based", "on", "the", "masked", "language", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "this", "way", ",", "we", "con-", "struct", "an", "adversarial", "purification", "process", "for", "textual", "models", "against", "the", "most", "widely", "used", "word", "-", "substitution", "adversarial", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "We", "test", "our", "proposed", "adversarial", "purification", "method", "on", "several", "strong", "adversarial", "attack", "methods", "in-", "cluding", "Textfooler", "and", "BERT", "-", "Attack", "and", "exper-", "imental", "results", "indicate", "that", "the", "purification", "al-", "gorithm", "can", "successfully", "defend", "against", "strong", "word", "-", "substitution", "attacks", "." ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "1", "Introduction", "Adversarial", "examples", "(", "Goodfellow", "et", "al", ".", ",", "2014", ")", "can", "successfully", "mislead", "strong", "neural", "models", "in", "both", "computer", "vision", "tasks", "(", "Carlini", "and", "Wagner", ",", "2016", ")", "and", "language", "understanding", "tasks", "(", "Alzantot", "et", "al", ".", ",", "2018", ";", "Jin", "et", "al", ".", ",", "2019", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "An", "adversarial", "example", "is", "a", "maliciously", "crafted", "example", "attached", "with", "an", "imperceptible", "perturbation", "and", "can", "mislead", "neural", "networks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "defend", "attack", "examples", "of", "images", ",", "the", "most", "effective", "method", "is", "adversarial", "training", "(", "Goodfellow", "et", "al", ".", ",", "2014", ";", "Madry", "et", "al", ".", ",", "2019", ")", "which", "is", "a", "mini", "-", "max", "game", "used", "to", "incorporate", "perturba-", "tions", "into", "the", "training", "process", ".", "Defending", "adversarial", "attacks", "is", "extremely", "im-", "portant", "in", "improving", "model", "robustness", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "How-", "ever", ",", "defending", "adversarial", "examples", "in", "natural", "languages", "is", "more", "challenging", "due", "to", "the", "discrete", "nature", "of", "texts", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "That", "is", ",", "gradients", "can", "not", "be", "used", "directly", "in", "crafting", "perturbations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "substitution-", "based", "adversarial", "examples", "are", "more", "complicated", "than", "gradient", "-", "based", "adversarial", "examples", "in", "im-", "ages", ",", "making", "it", "difficult", "for", "neural", "networks", "to", "de-", "fend", "against", "these", "substitution", "-", "based", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "first", "challenge", "of", "defending", "against", "adver-", "sarial", "attacks", "in", "NLP", "is", "that", "due", "to", "the", "discrete", "na-", "ture", ",", "these", "substitution", "-", "based", "adversarial", "examples", "can", "have", "substitutes", "in", "any", "token", "of", "the", "sentence", "and", "each", "substitute", "has", "a", "large", "candidate", "list", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "would", "cause", "a", "combinatorial", "explosion", "problem", ",", "making", "it", "hard", "to", "apply", "adversarial", "training", "meth-", "ods", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Strong", "attacking", "methods", "such", "as", "Jin", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2019", ")", "show", "that", "using", "the", "crafted", "adversarial", "ex-", "amples", "as", "data", "augmentation", "in", "adversarial", "training", "can", "not", "effectively", "defend", "against", "these", "substitution-", "based", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Further", ",", "defending", "strategies", "such", "as", "adversarial", "training", "rely", "on", "the", "assumption", "that", "the", "candidate", "lists", "of", "the", "substitutions", "are", "accessible", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "the", "candidate", "lists", "of", "the", "substitutions", "should", "notbe", "exposed", "to", "the", "target", "model", ";", "that", "is", ",", "the", "target", "model", "should", "be", "unfamiliar", "to", "the", "candi-", "date", "list", "of", "the", "adversarial", "examples", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "real", "-", "world", "defense", "systems", ",", "the", "defender", "is", "not", "aware", "of", "the", "strategy", "the", "potential", "attacks", "might", "use", ",", "so", "the", "as-", "sumption", "that", "the", "candidate", "list", "is", "available", "would", "significantly", "constrain", "the", "potential", "applications", "of", "these", "defending", "methods", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Considering", "that", "it", "is", "challenging", "to", "defend", "against", "textual", "adversarial", "attacks", "when", "the", "form", "of", "the", "attacks", "can", "not", "be", "acknowledged", "in", "advance", ",", "we", "introduce", "a", "novel", "adversarial", "purification", "method", "as", "a", "feasible", "defense", "mechanism", "against", "these", "at-", "tacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "adversarial", "purification", "method", "is", "to", "purify", "adversarially", "perturbed", "input", "samples", "before", "making", "predictions", "(", "Srinivasan", "et", "al", ".", ",", "2021", ";", "Shi338", "et", "al", ".", ",", "2021", ";", "Yoon", "et", "al", ".", ",", "2021", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "major", "works", "about", "adversarial", "purification", "focus", "on", "purifying", "continuous", "inputs", "such", "as", "images", ",", "therefore", "these", "works", "explore", "different", "generative", "models", "such", "as", "GANs", "(", "Samangouei", "et", "al", ".", ",", "2018", ")", ",", "energy", "-", "based", "models", "(", "EBMs", ")", "(", "LeCun", "et", "al", ".", ",", "2006", ")", "and", "recently", "developed", "diffusion", "models", "(", "Song", "et", "al", ".", ",", "2021", ";", "Nie", "et", "al", ".", ",", "2022", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "in", "textual", "adversarial", "at-", "tacks", ",", "the", "inputs", "are", "discrete", "tokens", "which", "makes", "it", "more", "challenging", "to", "deploy", "previous", "adversarial", "purification", "methods", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "we", "introduce", "a", "purification", "mecha-", "nism", "with", "the", "help", "of", "masked", "language", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "first", "consider", "the", "widely", "used", "masking", "process", "to", "inject", "noise", "into", "the", "input", ";", "then", "we", "recover", "the", "clean", "texts", "from", "the", "noisy", "inputs", "with", "the", "help", "of", "the", "masked", "language", "models", "(", "e.g", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "a", "BERT", "(", "De-", "vlin", "et", "al", ".", ",", "2018", ")", ")", "." ]

[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Further", ",", "considering", "that", "the", "iterative", "process", "in", "previous", "adversarial", "purifica-", "tion", "algorithms", "can", "be", "extremely", "costly", "(", "e.g", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "a", "VP", "-", "SDE", "process", "in", "diffusion", "models", "(", "Song", "et", "al", ".", ",", "2021", ")", ")", ",", "we", "instead", "simplify", "the", "iterative", "process", "to", "an", "ensemble", "-", "purifying", "process", "that", "conducting", "adversarial", "purification", "multiple", "times", "to", "obtain", "an", "ensembled", "result", "as", "a", "compromise", "to", "the", "time", "cost", "in", "traditional", "adversarial", "purification", "process", "." ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Through", "extensive", "experiments", ",", "we", "prove", "that", "the", "proposed", "text", "adversarial", "purification", "algorithm", "can", "successfully", "serve", "as", "defense", "against", "strong", "at-", "tacks", "such", "as", "Textfooler", "and", "BERT", "-", "Attack", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "Exper-", "iment", "results", "show", "that", "the", "accuracy", "under", "attack", "in", "baseline", "defense", "methods", "is", "lower", "than", "random", "guesses", ",", "while", "after", "text", "purification", ",", "the", "perfor-", "mance", "can", "reach", "only", "a", "few", "percent", "lower", "than", "the", "original", "accuracy", "when", "the", "candidate", "range", "of", "the", "attack", "is", "limited", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Further", ",", "extensive", "results", "indicate", "that", "the", "candidate", "range", "of", "the", "attacker", "score", "is", "essential", "for", "successful", "attacks", ",", "which", "is", "a", "key", "fac-", "tor", "in", "maintaining", "the", "semantics", "of", "the", "adversaries", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", "we", "also", "recommend", "that", "future", "attacking", "methods", "can", "focus", "on", "achieving", "successful", "attacks", "with", "tighter", "constraints", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "summarize", "our", "contributions", ":", "(", "1", ")", "We", "raise", "the", "concern", "of", "defending", "substitution", "-", "based", "adversarial", "attacks", "without", "ac-", "knowledging", "the", "form", "of", "the", "attacks", "in", "NLP", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O" ]

[ "(", "2", ")", "To", "the", "best", "of", "our", "knowledge", ",", "we", "are", "the", "first", "to", "consider", "adversarial", "purification", "as", "a", "defense", "against", "textual", "adversarial", "attacks", "exemplified", "by", "strong", "word", "-", "substitution", "attacks", "and", "combine", "text", "adversarial", "purification", "with", "pre", "-", "trained", "models.", "(", "3", ")", "We", "perform", "extensive", "experiments", "to", "demon-", "strate", "that", "the", "adversarial", "purification", "method", "is", "capable", "of", "defending", "strong", "adversarial", "attacks", ",", "which", "brings", "a", "new", "perspective", "to", "defending", "tex-", "tual", "adversarial", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2", "Related", "Work", "2.1", "Adversarial", "Attacks", "in", "NLP", "In", "NLP", "tasks", ",", "current", "methods", "use", "substitution-", "based", "strategies", "(", "Alzantot", "et", "al", ".", ",", "2018", ";", "Jin", "et", "al", ".", ",", "2019", ";", "Ren", "et", "al", ".", ",", "2019", ")", "to", "craft", "adversarial", "exam-", "ples", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Most", "works", "focus", "on", "the", "score", "-", "based", "black-", "box", "attack", ",", "that", "is", ",", "attacking", "methods", "know", "the", "logits", "of", "the", "output", "prediction", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "These", "methods", "use", "different", "strategies", "(", "Yoo", "et", "al", ".", ",", "2020", ";", "Morris", "et", "al", ".", ",", "2020b", ")", "to", "find", "words", "to", "replace", ",", "such", "as", "genetic", "algorithm", "(", "Alzantot", "et", "al", ".", ",", "2018", ")", ",", "greedy", "-", "search", "(", "Jin", "et", "al", ".", ",", "2019", ";", "Li", "et", "al", ".", ",", "2020", ")", "or", "gradient", "-", "based", "methods", "(", "Ebrahimi", "et", "al", ".", ",", "2017", ";", "Cheng", "et", "al", ".", ",", "2019", ")", "and", "get", "substitutes", "using", "synonyms", "(", "Jin", "et", "al", ".", ",", "2019", ";", "Mrkši", "´", "c", "et", "al", ".", ",", "2016", ";", "Ren", "et", "al", ".", ",", "2019", ")", "or", "language", "models", "(", "Li", "et", "al", ".", ",", "2020", ";", "Garg", "and", "Ramakrishnan", ",", "2020", ";", "Shi", "et", "al", ".", ",", "2019", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2.2", "Adversarial", "Defenses", "We", "divide", "the", "defense", "methods", "for", "word-", "substitution", "attacks", "by", "whether", "the", "defense", "method", "requires", "knowledge", "of", "the", "form", "of", "the", "attack", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "When", "the", "candidate", "list", "is", "known", ",", "recent", "works", "introduce", "defense", "strategies", "that", "incorporate", "the", "candidates", "of", "the", "words", "to", "be", "replaced", "as", "an", "aug-", "mentation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Jin", "et", "al", "." ]

[ "O", "O", "O", "O" ]

[ "(", "2019", ")", ";", "Li", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2020", ")", ";", "Si", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2020", ")", "uses", "generated", "adversaries", "to", "augment", "the", "classifier", "for", "better", "defense", "performances", ";", "Jia", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2019", ")", ";", "Huang", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2019", ")", "introduce", "a", "certified", "robust", "model", "to", "construct", "a", "certified", "space", "within", "the", "range", "of", "a", "candidate", "list", "therefore", "the", "substitu-", "tions", "in", "the", "candidate", "list", "can", "not", "perturb", "the", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Zhou", "et", "al", "." ]

[ "O", "O", "O", "O" ]

[ "(", "2020", ")", ";", "Dong", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2021", ")", "construct", "a", "convex", "hull", "based", "on", "the", "candidate", "list", "which", "can", "resist", "substitutions", "in", "the", "candidate", "list", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "defend", "unknown", "attacks", ",", "NLP", "models", "can", "in-", "corporate", "gradient", "-", "based", "adversarial", "training", "strate-", "gies", "(", "Miyato", "et", "al", ".", ",", "2016", ";", "Madry", "et", "al", ".", ",", "2019", ")", "since", "recent", "works", "(", "Ebrahimi", "et", "al", ".", ",", "2017", ";", "Cheng", "et", "al", ".", ",", "2019", ";", "Zhu", "et", "al", ".", ",", "2019", ";", "Li", "and", "Qiu", ",", "2020", ")", "show", "that", "gradient", "-", "based", "adversarial", "training", "can", "also", "improve", "defense", "performances", "against", "word-", "substitution", "attacks.339", "Adversarial", "Image", "(", "Gibbon", ")", "Purified", "Image", "(", "Panda", ")", "a", "continuous", "image", "re", "-", "construct", "process", "from", "a", "noisy", "image", "e.g", "." ]

[ "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "using", "Diffusion", "Models", "/", "Score", "-", "based", "Models", "I", "possess", "the", "good", "common", "logical", "sense", "to", "realize", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "it", "is", "something", "I", "like", "..." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Adversarial", "Text", "(", "Negative", ")", "..." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "I", "[", "MASK", "]", "the", "good", "common", "logical", "sense", "to", "[", "MASK", "]", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "it", "is", "something", "I", "like", "..." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "I", "possess", "the", "good", "common", "logical", "[", "MASK", "]", "to", "realize", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "it", "is", "[", "MASK", "]", "I", "like", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "..." ]

[ "O" ]

[ "..." ]

[ "O" ]

[ "MLMI", "know", "the", "good", "common", "logical", "sense", "to", "sense", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "it", "is", "something", "I", "like", "..." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Purified", "TextsI", "possess", "the", "good", "common", "logical", "feel", "to", "realize", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "it", "is", "something", "I", "like", "..." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "(", "Positive", ")", "I", "possess", "the", "good", "common", "logical", "[", "MASK", "]", "to", "[", "MASK", "]", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "it", "is", "something", "I", "like", "..." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "I", "possess", "the", "good", "common", "logical", "feel", "to", "realize", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "it", "is", "something", "I", "like", "..." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Figure", "1", ":", "Text", "Adversarial", "Purification", "Process", ":", "Compared", "with", "Image", "Purification", ",", "we", "use", "masked", "language", "models", "to", "recover", "noisy", "texts", "to", "purify", "adversarial", "texts", "as", "a", "defense", "against", "word", "-", "substitutions", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2.3", "Adversarial", "Purification", "Adversarial", "purification", "is", "a", "defense", "strategy", "that", "uses", "generative", "models", "to", "purify", "adversarial", "inputs", "before", "making", "predictions", ",", "which", "is", "a", "promising", "direction", "in", "adversarial", "defense", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Samangouei", "et", "al", "." ]

[ "O", "O", "O", "O" ]

[ "(", "2018", ")", "uses", "a", "defensive", "GAN", "framework", "to", "build", "clean", "images", "to", "avoid", "adversarial", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O" ]

[ "Energy-", "based", "models", "(", "EBMs", ")", "are", "used", "to", "purify", "attacked", "images", "via", "Langevin", "dynamics", "(", "LeCun", "et", "al", ".", ",", "2006", ")", "." ]

[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Score", "-", "based", "models", "(", "Yoo", "et", "al", ".", ",", "2020", ")", "is", "also", "in-", "troduced", "as", "a", "purification", "strategy", "." ]

[ "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Recent", "works", "focus", "on", "exploring", "diffusion", "models", "as", "the", "purifi-", "cation", "model", "in", "purifying", "the", "attacked", "images", "(", "Nie", "et", "al", ".", ",", "2022", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Though", "widely", "explored", ",", "adversarial", "purification", "strategy", "is", "less", "explored", "in", "the", "NLP", "field", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3", "Text", "Adversarial", "Purification", "3.1", "Background", "of", "Adversarial", "Purification", "A", "classic", "adversarial", "purification", "process", "is", "to", "grad-", "ually", "purify", "the", "input", "through", "Tsteps", "of", "purifica-", "tion", "runs", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "seen", "in", "Figure", "1", ",", "the", "purification", "process", "in", "the", "image", "domain", "is", "to", "first", "constructan", "input", "x′from", "the", "perturbed", "input", "xby", "injecting", "random", "noise", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Then", "the", "purification", "algorithm", "will", "recover", "the", "clean", "image", "/", "hatwidexfrom", "the", "noisy", "image", "x′", "which", "usually", "takes", "multiple", "rounds", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "intuition", "of", "such", "a", "purification", "process", "is", "that", "the", "recovered", "inputs", "will", "not", "contain", "adversarial", "effects", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Specifically", ",", "in", "the", "score", "-", "based", "adversarial", "purifi-", "cation", "(", "Yoo", "et", "al", ".", ",", "2020", ")", ",", "the", "sample", "injected", "with", "random", "noise", "is", "x′=x+εwhere", "ε∼", "N", "(", "0", ",", "σ2I", ")", "and", "the", "goal", "is", "to", "purify", "x′with", "score", "network", "sθ", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "a", "continuous", "time", "step", "where", "x0", "=", "x′", ",", "the", "goal", "is", "to", "recover", "x0through", "a", "score", "-", "based", "generative", "model", "xt", "=", "xt−1+αt−1sθ", "(", "xt−1", ")", "where", "αis", "the", "step", "size", "related", "to", "xt−1", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "After", "Ttimes", "of", "gener-", "ation", ",", "the", "recovered", "/", "hatwidex", "=", "xTis", "used", "in", "the", "final", "prediction", "which", "contains", "less", "adversarial", "effect", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "for", "the", "diffusion", "-", "based", "purification", "methods", "(", "Nie", "et", "al", ".", ",", "2022", ")", ",", "the", "process", "includes", "a", "forward", "diffusion", "process", "and", "a", "reverse", "recovery", "process", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "noise", "injection", "process", "is", "a", "forward", "stochastic", "differential", "equation", "(", "SDE", ")", ",", "that", "is", ",", "the", "noisy", "input", "x′=x", "(", "T", ")", "and", "initial", "perturbed", "input", "x", "=", "x", "(", "0", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "diffusion", "process", "is", "x", "(", "T", ")", "=", "/", "radicalbig", "α", "(", "T", ")", "x", "(", "0", ")", "+", "/", "radicalbig", "1−α", "(", "T", ")", "εwhere", "αis", "a", "hyper", "-", "parameter", "and340", "ε∼", "N", "(", "0", ",", "σ2I", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "final", "purified", "input", "/", "hatwidex=", "/", "hatwidex", "(", "0", ")", "where", "/", "hatwidex", "(", "0", ")", "is", "the", "reverse", "-", "time", "SDE", "generated", "input", "from", "the", "diffused", "input", "x", "(", "T", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3.2", "Text", "Adversarial", "Purification", "with", "BERT", "Instead", "of", "the", "iterative", "purification", "process", "used", "in", "purifying", "images", ",", "we", "introduce", "a", "novel", "purification", "method", "that", "purifies", "the", "input", "texts", "via", "masking", "and", "masks", "prediction", "with", "pre", "-", "trained", "masked", "language", "models", "exemplified", "by", "BERT", "(", "Devlin", "et", "al", ".", ",", "2018", ")", "." ]

[ "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "seen", "in", "Figure", "1", ",", "instead", "of", "gradually", "adding", "noise", "and", "recovering", "the", "clean", "sample", "from", "the", "noisy", "samples", ",", "we", "inject", "random", "noise", "into", "the", "input", "texts", "multiple", "times", "and", "recover", "the", "noisy", "data", "to", "a", "clean", "text", "based", "on", "the", "mask", "-", "prediction", "ability", "of", "the", "masked", "language", "model", "Fm", "(", "·", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Considering", "that", "the", "perturbed", "text", "is", "X", ",", "we", "can", "inject", "noise", "to", "construct", "multiple", "copies", "X′", "i=", "[", "w0", ",", "···", ",", "[", "MASK", "]", ",", "wn", ",", "·", "·", "·", ",", "]", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "use", "two", "simple", "masking", "strategies", ":", "(", "1", ")", "Randomly", "mask", "the", "input", "texts", ";", "(", "2", ")", "Randomly", "insert", "masks", "into", "the", "input", "texts", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Such", "a", "random", "masking", "process", "is", "similar", "to", "adding", "a", "random", "noise", "ε∼", "N", "(", "0", ",", "σ2I", ")", "to", "the", "inputs", "x", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "After", "constructing", "multiple", "noisy", "inputs", ",", "we", "run", "the", "denoise", "process", "via", "masked", "language", "models", ":", "/", "hatwideXi", "=", "Fm", "(", "X′", "i", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "With", "Nrecovered", "texts", ",", "we", "are", "able", "to", "make", "predictions", "with", "the", "classifier", "Fc", "(", "·", ")", ":", "Si=", "1", "N", "/", "summationtextN", "i=0", "/", "parenleftig", "Softmax", "(", "Fc", "(", "/", "hatwideXi", ")", ")", "/", "parenrightig", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Unlike", "continuous", "perturbations", "to", "images", ",", "word", "-", "substitution", "adversarial", "samples", "only", "contain", "several", "perturbed", "words", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "we", "consider", "using", "a", "multiple", "-", "time", "mask", "-", "and", "-", "recover", "process", "as", "text", "adversarial", "purification", ",", "which", "makes", "full", "use", "of", "the", "pre", "-", "trained", "ability", "of", "the", "masked", "lan-", "guage", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Compared", "with", "the", "generation", "pro-", "cess", "used", "in", "image", "adversarial", "purification", ",", "masked", "language", "model", "-", "based", "purification", "method", "is", "eas-", "ier", "to", "implement", "and", "utilize", "in", "pre", "-", "trained", "model-", "based", "applications", "as", "a", "defense", "against", "strong", "word-", "substitution", "adversarial", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3.3", "Combining", "with", "Classifier", "Normal", "adversarial", "purification", "methods", "are", "plug-", "and", "-", "play", "processes", "inserted", "before", "the", "classifica-", "tion", ",", "however", ",", "the", "masked", "language", "model", "itself", "is", "a", "widely", "used", "classification", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "That", "is", ",", "the", "purification", "model", "Fm", "(", "·", ")", "and", "the", "classification", "model", "Fc", "(", "·", ")", "can", "share", "the", "same", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "There-", "fore", ",", "instead", "of", "using", "a", "normal", "masked", "languagemodel", "such", "as", "BERT", ",", "we", "train", "the", "classifier", "and", "the", "mask", "-", "filling", "ability", "as", "multi", "-", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "classifica-", "tion", "loss", "is", "Lc", "=", "L", "(", "Fc", "(", "X′", ")", ",", "y", ",", "θ", ")", "+L", "(", "Fc", "(", "X", ")", ",", "y", ",", "θ", ")", "and", "the", "masked", "language", "model", "loss", "is", "Lmlm=", "L", "(", "Fm", "(", "X′", ")", ",", "X", ",", "θ", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

Datasets:

anlp
/

annotation1_wo_elimination

Dataset Card for "annotation1_wo_elimination"