anlp/annotation2_wo_elimination · Datasets at Hugging Face

sentences sequence	ner_tags sequence
[ "it", "is", "something", "I", "like", "..." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "I", "possess", "the", "good", "common", "logical", "feel", "to", "realize", "..." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "it", "is", "something", "I", "like", "..." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "Figure", "1", ":", "Text", "Adversarial", "Purification", "Process", ":", "Compared", "with", "Image", "Purification", ",", "we", "use", "masked", "language", "models", "to", "recover", "noisy", "texts", "to", "purify", "adversarial", "texts", "as", "a", "defense", "against", "word", "-", "substitutions", "attacks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "2.3", "Adversarial", "Purification", "Adversarial", "purification", "is", "a", "defense", "strategy", "that", "uses", "generative", "models", "to", "purify", "adversarial", "inputs", "before", "making", "predictions", ",", "which", "is", "a", "promising", "direction", "in", "adversarial", "defense", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Samangouei", "et", "al", "." ]	[ "O", "O", "O", "O" ]
[ "(", "2018", ")", "uses", "a", "defensive", "GAN", "framework", "to", "build", "clean", "images", "to", "avoid", "adversarial", "attacks", "." ]	[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O" ]
[ "Energy-", "based", "models", "(", "EBMs", ")", "are", "used", "to", "purify", "attacked", "images", "via", "Langevin", "dynamics", "(", "LeCun", "et", "al", ".", ",", "2006", ")", "." ]	[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Score", "-", "based", "models", "(", "Yoo", "et", "al", ".", ",", "2020", ")", "is", "also", "in-", "troduced", "as", "a", "purification", "strategy", "." ]	[ "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Recent", "works", "focus", "on", "exploring", "diffusion", "models", "as", "the", "purifi-", "cation", "model", "in", "purifying", "the", "attacked", "images", "(", "Nie", "et", "al", ".", ",", "2022", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Though", "widely", "explored", ",", "adversarial", "purification", "strategy", "is", "less", "explored", "in", "the", "NLP", "field", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "3", "Text", "Adversarial", "Purification", "3.1", "Background", "of", "Adversarial", "Purification", "A", "classic", "adversarial", "purification", "process", "is", "to", "grad-", "ually", "purify", "the", "input", "through", "Tsteps", "of", "purifica-", "tion", "runs", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "seen", "in", "Figure", "1", ",", "the", "purification", "process", "in", "the", "image", "domain", "is", "to", "first", "constructan", "input", "x′from", "the", "perturbed", "input", "xby", "injecting", "random", "noise", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Then", "the", "purification", "algorithm", "will", "recover", "the", "clean", "image", "/", "hatwidexfrom", "the", "noisy", "image", "x′", "which", "usually", "takes", "multiple", "rounds", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "intuition", "of", "such", "a", "purification", "process", "is", "that", "the", "recovered", "inputs", "will", "not", "contain", "adversarial", "effects", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Specifically", ",", "in", "the", "score", "-", "based", "adversarial", "purifi-", "cation", "(", "Yoo", "et", "al", ".", ",", "2020", ")", ",", "the", "sample", "injected", "with", "random", "noise", "is", "x′=x+εwhere", "ε∼", "N", "(", "0", ",", "σ2I", ")", "and", "the", "goal", "is", "to", "purify", "x′with", "score", "network", "sθ", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "a", "continuous", "time", "step", "where", "x0", "=", "x′", ",", "the", "goal", "is", "to", "recover", "x0through", "a", "score", "-", "based", "generative", "model", "xt", "=", "xt−1+αt−1sθ", "(", "xt−1", ")", "where", "αis", "the", "step", "size", "related", "to", "xt−1", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "After", "Ttimes", "of", "gener-", "ation", ",", "the", "recovered", "/", "hatwidex", "=", "xTis", "used", "in", "the", "final", "prediction", "which", "contains", "less", "adversarial", "effect", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "for", "the", "diffusion", "-", "based", "purification", "methods", "(", "Nie", "et", "al", ".", ",", "2022", ")", ",", "the", "process", "includes", "a", "forward", "diffusion", "process", "and", "a", "reverse", "recovery", "process", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "noise", "injection", "process", "is", "a", "forward", "stochastic", "differential", "equation", "(", "SDE", ")", ",", "that", "is", ",", "the", "noisy", "input", "x′=x", "(", "T", ")", "and", "initial", "perturbed", "input", "x", "=", "x", "(", "0", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "diffusion", "process", "is", "x", "(", "T", ")", "=", "/", "radicalbig", "α", "(", "T", ")", "x", "(", "0", ")", "+", "/", "radicalbig", "1−α", "(", "T", ")", "εwhere", "αis", "a", "hyper", "-", "parameter", "and340", "ε∼", "N", "(", "0", ",", "σ2I", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "final", "purified", "input", "/", "hatwidex=", "/", "hatwidex", "(", "0", ")", "where", "/", "hatwidex", "(", "0", ")", "is", "the", "reverse", "-", "time", "SDE", "generated", "input", "from", "the", "diffused", "input", "x", "(", "T", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "3.2", "Text", "Adversarial", "Purification", "with", "BERT", "Instead", "of", "the", "iterative", "purification", "process", "used", "in", "purifying", "images", ",", "we", "introduce", "a", "novel", "purification", "method", "that", "purifies", "the", "input", "texts", "via", "masking", "and", "masks", "prediction", "with", "pre", "-", "trained", "masked", "language", "models", "exemplified", "by", "BERT", "(", "Devlin", "et", "al", ".", ",", "2018", ")", "." ]	[ "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "seen", "in", "Figure", "1", ",", "instead", "of", "gradually", "adding", "noise", "and", "recovering", "the", "clean", "sample", "from", "the", "noisy", "samples", ",", "we", "inject", "random", "noise", "into", "the", "input", "texts", "multiple", "times", "and", "recover", "the", "noisy", "data", "to", "a", "clean", "text", "based", "on", "the", "mask", "-", "prediction", "ability", "of", "the", "masked", "language", "model", "Fm", "(", "·", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Considering", "that", "the", "perturbed", "text", "is", "X", ",", "we", "can", "inject", "noise", "to", "construct", "multiple", "copies", "X′", "i=", "[", "w0", ",", "···", ",", "[", "MASK", "]", ",", "wn", ",", "·", "·", "·", ",", "]", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "use", "two", "simple", "masking", "strategies", ":", "(", "1", ")", "Randomly", "mask", "the", "input", "texts", ";", "(", "2", ")", "Randomly", "insert", "masks", "into", "the", "input", "texts", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Such", "a", "random", "masking", "process", "is", "similar", "to", "adding", "a", "random", "noise", "ε∼", "N", "(", "0", ",", "σ2I", ")", "to", "the", "inputs", "x", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "After", "constructing", "multiple", "noisy", "inputs", ",", "we", "run", "the", "denoise", "process", "via", "masked", "language", "models", ":", "/", "hatwideXi", "=", "Fm", "(", "X′", "i", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "With", "Nrecovered", "texts", ",", "we", "are", "able", "to", "make", "predictions", "with", "the", "classifier", "Fc", "(", "·", ")", ":", "Si=", "1", "N", "/", "summationtextN", "i=0", "/", "parenleftig", "Softmax", "(", "Fc", "(", "/", "hatwideXi", ")", ")", "/", "parenrightig", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Unlike", "continuous", "perturbations", "to", "images", ",", "word", "-", "substitution", "adversarial", "samples", "only", "contain", "several", "perturbed", "words", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Therefore", ",", "we", "consider", "using", "a", "multiple", "-", "time", "mask", "-", "and", "-", "recover", "process", "as", "text", "adversarial", "purification", ",", "which", "makes", "full", "use", "of", "the", "pre", "-", "trained", "ability", "of", "the", "masked", "lan-", "guage", "models", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Compared", "with", "the", "generation", "pro-", "cess", "used", "in", "image", "adversarial", "purification", ",", "masked", "language", "model", "-", "based", "purification", "method", "is", "eas-", "ier", "to", "implement", "and", "utilize", "in", "pre", "-", "trained", "model-", "based", "applications", "as", "a", "defense", "against", "strong", "word-", "substitution", "adversarial", "attacks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "3.3", "Combining", "with", "Classifier", "Normal", "adversarial", "purification", "methods", "are", "plug-", "and", "-", "play", "processes", "inserted", "before", "the", "classifica-", "tion", ",", "however", ",", "the", "masked", "language", "model", "itself", "is", "a", "widely", "used", "classification", "model", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "That", "is", ",", "the", "purification", "model", "Fm", "(", "·", ")", "and", "the", "classification", "model", "Fc", "(", "·", ")", "can", "share", "the", "same", "model", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "There-", "fore", ",", "instead", "of", "using", "a", "normal", "masked", "languagemodel", "such", "as", "BERT", ",", "we", "train", "the", "classifier", "and", "the", "mask", "-", "filling", "ability", "as", "multi", "-", "tasks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "classifica-", "tion", "loss", "is", "Lc", "=", "L", "(", "Fc", "(", "X′", ")", ",", "y", ",", "θ", ")", "+L", "(", "Fc", "(", "X", ")", ",", "y", ",", "θ", ")", "and", "the", "masked", "language", "model", "loss", "is", "Lmlm=", "L", "(", "Fm", "(", "X′", ")", ",", "X", ",", "θ", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Here", ",", "the", "input", "Xis", "the", "clean", "text", "used", "in", "training", "the", "classifier", "and", "the", "X′is", "the", "random", "masked", "text", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "loss", "function", "L", "(", "·", ")", "is", "the", "cross", "-", "entropy", "loss", "used", "in", "both", "the", "text", "classifica-", "tion", "head", "and", "masked", "language", "modeling", "head", "in", "the", "pre", "-", "trained", "models", "exemplified", "by", "BERT", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]
[ "In", "this", "way", ",", "we", "are", "utilizing", "the", "pre", "-", "trained", "mod-", "els", "to", "their", "full", "ability", "by", "using", "both", "the", "mask", "-", "filling", "function", "learned", "during", "the", "pre", "-", "training", "stage", "as", "well", "as", "the", "generalization", "ability", "to", "downstream", "tasks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Algorithm", "1", "Adversarial", "Training", "Require", ":", "Training", "Sample", "X", ",", "adversarial", "step", "Ta", "1", ":", "X′←Inject", "Noise", "X", "2", ":", "δ0←1√DN", "(", "0", ",", "σ2", ")", "/", "/", "Init", "Perturb", "3", ":", "fort=", "0,1", ",", "...", "T", "ado", "4", ":", "gδ←", "▽", "δ", "(", "Lc+Lmlm", ")", "/", "/", "Get", "Perturbation", "5", ":", "δt←", "/", "producttext", "\|\|δ\|\|F", "<", "ϵ", "(", "δt+α·gδ", "/", "\|\|gδ\|\|F", ")", "6", ":", "Lnoise←", "L", "(", "Fm", "(", "X′+δt", ")", ",", "X", ",", "θ", ")", "7", ":", "X′←X′+δt", "/", "/", "Update", "Input", "8", ":", "gt+1", "=", "gt+", "▽", "θ", "(", "Lc+Lmlm+Lnoise", ")", "9", ":", "θ←θ−gT+1", "/", "/", "Update", "model", "parameter", "θ", "3.4", "Combining", "with", "Adversarial", "Training", "Different", "from", "the", "image", "field", "where", "adver-", "saries", "are", "usually", "generated", "by", "gradients", ",", "word-", "substitution", "attacks", "do", "not", "have", "direct", "connections", "with", "gradient", "-", "based", "adversaries", "in", "the", "text", "domain", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Therefore", ",", "it", "is", "intuitive", "to", "incorporate", "gradient-", "based", "adversarial", "training", "in", "the", "purification", "pro-", "cess", "when", "the", "purification", "process", "is", "combined", "with", "the", "classifier", "training", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "introduce", "the", "adversarial", "training", "process", "therefore", "the", "purification", "function", "Fm", "(", "·", ")", "includes", "mask", "-", "prediction", "and", "recovering", "clean", "texts", "from", "inputs", "with", "gradient", "-", "based", "perturbations", ",", "which", "leads", "to", "stronger", "purification", "ability", "compared", "with", "a", "standard", "BERT", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]
[ "Following", "standard", "adversarial", "training", "process", "with", "gradient", "-", "based", "adversaries", "introduced", "by", "Zhu", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2019", ")", ";", "Li", "and", "Qiu", "(", "2020", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "the", "adversarial", "training", "process", ",", "a", "gradient", "-", "based", "perturbation", "δis", "added", "to", "the", "embedding", "output", "of", "the", "input", "text", "X", "(", "for", "simplicity", ",", "we", "still", "use", "XandX′to", "denote", "the341", "embedding", "output", "in", "the", "Algorithm", "1", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Then", "the", "perturbed", "inputs", "are", "added", "to", "the", "training", "set", "in", "the", "training", "process", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "combine", "gradient", "-", "based", "ad-", "versarial", "training", "with", "the", "text", "purification", "process", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "illustrated", "in", "Algorithm", "1", ",", "for", "an", "adversarial", "training", "step", ",", "we", "add", "perturbations", "to", "the", "masked", "textX′and", "run", "Tatimes", "of", "updates", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "calculate", "gradients", "based", "on", "both", "classification", "losses", "Lcand", "masked", "language", "modeling", "losses", "Lmlm", ";", "further", ",", "as", "seen", "in", "line", "6", ",", "we", "also", "calculate", "the", "loss", "that", "the", "masked", "language", "model", "will", "predict", "the", "texts", "from", "the", "perturbed", "text", "X′+δ", ",", "which", "enhanced", "the", "text", "recover", "ability", "from", "noisy", "or", "adversarial", "texts", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "4", "Experiments", "4.1", "Datasets", "We", "use", "two", "widely", "used", "text", "classification", "datasets", ":", "IMDB1", "(", "Maas", "et", "al", ".", ",", "2011", ")", "and", "AG", "’s", "News2", "(", "Zhang", "et", "al", ".", ",", "2015", ")", "in", "our", "experiments", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "IMDB", "dataset", "is", "a", "bi", "-", "polar", "movie", "review", "classification", "task", ";", "the", "AG", "’s", "News", "dataset", "is", "a", "four", "-", "class", "news", "genre", "classification", "task", "." ]	[ "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "average", "length", "is", "220", "words", "in", "the", "IMDB", "dataset", ",", "and", "40", "words", "in", "the", "AG", "’s", "News", "dataset", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O" ]
[ "We", "use", "the", "test", "set", "fol-", "lowing", "the", "Textfooler", "1k", "test", "set", "in", "the", "main", "re-", "sult", "and", "sample", "100", "samples", "for", "the", "rest", "of", "the", "experiments", "since", "the", "attacking", "process", "is", "seriously", "slowed", "down", "when", "the", "model", "is", "defensive", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "4.2", "Attack", "Methods", "Popular", "attack", "methods", "exemplified", "by", "genetic", "Al-", "gorithm", "(", "Alzantot", "et", "al", ".", ",", "2018", ")", ",", "Textfooler", "(", "Jin", "et", "al", ".", ",", "2019", ")", "and", "BERT", "-", "Attack", "(", "Li", "et", "al", ".", ",", "2020", ")", "can", "successfully", "mislead", "strong", "models", "of", "both", "IMDB", "and", "AG", "’s", "News", "task", "with", "a", "very", "small", "per-", "centage", "of", "substitutions", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Therefore", ",", "we", "use", "these", "strong", "adversarial", "attack", "methods", "as", "the", "attacker", "to", "test", "the", "effectiveness", "of", "our", "defense", "method", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "hyperparameters", "used", "in", "the", "attacking", "algorithm", "vary", "in", "different", "settings", ":", "we", "choose", "candidate", "list", "sizeKto", "be", "12", ",", "48", ",", "and", "50", "which", "are", "used", "in", "the", "Textfooler", "and", "BERT", "-", "Attack", "methods", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O" ]
[ "We", "use", "the", "exact", "same", "metric", "used", "in", "Textfooler", "and", "BERT", "-", "Attack", "that", "calculates", "the", "after", "-", "attack", "accuracy", ",", "which", "is", "the", "targeted", "adversarial", "evalu-", "ation", "defined", "by", "Si", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2020", ")", "." ]	[ "O", "O", "O", "O" ]
[ "The", "after", "-", "attack", "accuracy", "measures", "the", "actual", "defense", "ability", "of", "the", "system", "under", "adversarial", "attacks", "." ]	[ "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "1https", ":", "/", "/", "datasets.imdbws.com", "/", "2https", ":", "/", "/", "www.kaggle.com", "/", "amananandrai", "/", "ag-news-", "classification", "-", "dataset4.3", "Victim", "Models", "and", "Defense", "Baselines", "The", "victim", "models", "are", "the", "fine", "-", "tuned", "pre", "-", "train", "mod-", "els", "exemplified", "by", "BERT", "and", "RoBERTa", ",", "which", "we", "implement", "based", "on", "Huggingface", "Transformers3", "(", "Wolf", "et", "al", ".", ",", "2020", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "discussed", "above", ",", "there", "are", "few", "works", "concerning", "adversarial", "defenses", "against", "attacks", "without", "knowing", "the", "candidates", "in", "NLP", "tasks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O" ]
[ "Moreover", ",", "previous", "works", "do", "not", "focus", "on", "recent", "strong", "attack", "algorithms", "such", "as", "Textfooler", "(", "Jin", "et", "al", ".", ",", "2019", ")", ",", "BERT", "-", "involved", "attacks", "(", "Li", "et", "al", ".", ",", "2020", ";", "Garg", "and", "Ramakrishnan", ",", "2020", ")", "Therefore", ",", "we", "first", "list", "methods", "that", "can", "defend", "against", "adver-", "sarial", "attacks", "without", "accessing", "the", "candidate", "list", "as", "our", "baselines", ":", "Adv", "-", "Train", "(", "Adv", "-", "HotFlip", ")", ":", "Ebrahimi", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2017", ")", "introduces", "the", "adversarial", "training", "method", "used", "in", "defending", "against", "substitution", "-", "based", "adver-", "sarial", "attacks", "in", "NLP", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "It", "uses", "gradients", "to", "find", "actual", "adversaries", "in", "the", "embedding", "space", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Virtual", "-", "Adv", "-", "Train", "(", "FreeLB", ")", ":", "Li", "and", "Qiu", "(", "2020", ")", ";", "Zhu", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2019", ")", "use", "virtual", "adversaries", "to", "improve", "the", "performances", "in", "fine", "-", "tuning", "pre-", "trained", "models", ",", "which", "can", "also", "be", "used", "to", "deal", "with", "adversarial", "attacks", "without", "accessing", "the", "candidate", "list", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "follow", "the", "standard", "FreeLB", "training", "pro-", "cess", "to", "re", "-", "implement", "the", "defense", "results", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Further", ",", "there", "are", "some", "works", "that", "require", "the", "candidate", "list", ",", "it", "is", "not", "a", "fair", "comparison", "with", "de-", "fense", "methods", "without", "accessing", "the", "candidates", ",", "so", "we", "list", "them", "separately", ":", "Adv", "-", "Augmentation", ":", "We", "generate", "adversarial", "examples", "of", "the", "training", "dataset", "as", "a", "data", "augmen-", "tation", "method", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "mix", "the", "generated", "adversarial", "examples", "and", "the", "original", "training", "dataset", "to", "train", "a", "model", "in", "a", "standard", "fine", "-", "tuning", "process", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "ASCC", ":", "Dong", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "(", "2021", ")", "also", "uses", "a", "convex-", "hull", "concept", "based", "on", "the", "candidate", "vocabulary", "as", "a", "strong", "adversarial", "defense", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "ADA", ":", "Si", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "(", "2020", ")", "uses", "a", "mixup", "strategy", "based", "on", "the", "generated", "adversarial", "examples", "to", "achieve", "adversarial", "defense", "with", "variants", "AMDA-", "SMix", "that", "mixup", "the", "special", "tokens", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "FreeLB++", ":", "Li", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "(", "2021", ")", "introduces", "a", "variant", "of", "FreeLB", "method", "that", "expands", "the", "norm", "bound", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]
[ "RanMASK", ":", "Zeng", "et", "al", "." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "(", "2021", ")", "introduces", "a", "masking", "strategy", "that", "makes", "use", "of", "noises", "to", "im-", "prove", "robustness", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "3https", ":", "/", "/", "github.com", "/", "huggingface", "/", "transformers342", "Defense", "↓Attacks", "→Origin", "Textfooler", "BERT", "-", "Attack", "Textfooler", "BERT", "-", "Attack", "(", "K=12", ")", "(", "K=12", ")", "(", "K=50", ")", "(", "K=48", ")", "IMDB", "↓", "BERT", "(", "Devlin", "et", "al", ".", ",", "2018", ")", "94.1", "20.4", "18.5", "2.8", "3.2", "RoBERTa", "(", "Liu", "et", "al", ".", ",", "2019", ")", "97.3", "26.3", "24.5", "25.2", "23.0", "●", "Adv", "-", "HotFlip", "(", "BERT", ")", "(", "Ebrahimi", "et", "al", ".", ",", "2017", ")", "95.1", "36.1", "34.2", "8.0", "6.2", "■", "FreeLB", "(", "BERT", ")", "(", "Li", "and", "Qiu", ",", "2020", ")", "96.0", "30.2", "30.4", "7.3", "2.3", "■", "FreeLB++", "(", "BERT", ")", "(", "Li", "et", "al", ".", ",", "2021", ")", "93.2", "-", "-", "45.3", "39.9", "▲", "RanMASK", "(", "RoBERTa", ")", "(", "Zeng", "et", "al", ".", ",", "2021", ")", "93.0", "-", "-", "23.7", "26.8", "▲", "Text", "Purification", "(", "BERT", ")", "93.0", "81.5", "76.7", "51.0", "44.5", "▲", "Text", "Purification", "(", "RoBERTa", ")", "96.1", "84.2", "82.0", "54.3", "52.2", "AG", "’s", "News", "↓", "BERT", "(", "Devlin", "et", "al", ".", ",", "2018", ")", "92.0", "32.8", "34.3", "19.4", "14.1", "RoBERTa", "(", "Liu", "et", "al", ".", ",", "2019", ")", "97.3", "26.3", "24.5", "25.2", "23.0", "●", "Adv", "-", "HotFlip", "(", "BERT", ")", "91.2", "35.3", "34.1", "18.2", "8.5", "■", "FreeLB", "(", "BERT", ")", "90.5", "40.1", "34.2", "20.1", "8.5", "▲", "Text", "Purification", "(", "BERT", ")", "90.6", "61.5", "49.7", "34.9", "22.5", "▲", "Text", "Purification", "(", "RoBERTa", ")", "90.8", "59.1", "41.2", "34.2", "19.5", "Table", "1", ":", "After", "-", "Attack", "Accuracy", "compared", "with", "defense", "methods", "that", "can", "defend", "attacks", "without", "acknowledging", "the", "form", "of", "the", "attacks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "That", "is", ",", "the", "substitution", "candidates", "of", "the", "attack", "methods", "are", "unknown", "to", "defense", "systems", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Methods", "Origin", "Textfooler", "GA", "IMDB", "↓", "BERT", "94.0", "2.0", "45.0", "■", "Data", "-", "Augmentation", "93.0", "18.0", "53.0", "●", "ADA", "(", "Si", "et", "al", ".", ",", "2020", ")", "96.7", "3.0", "-", "●", "AMDA", "(", "Si", "et", "al", ".", ",", "2020", ")", "96.9", "17.4", "-", "▲", "ASCC", "(", "Dong", "et", "al", ".", ",", "2021", ")", "77.0", "-", "71.0", "▲", "Text", "Purification", "(", "BERT", ")", "93.0", "51.0", "79.0", "Table", "2", ":", "After", "-", "Attack", "Accuracy", "compared", "with", "access-", "candidates", "methods", "based", "on", "the", "BERT", "model", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Here", "we", "implement", "Textfooler", "with", "K=50", "for", "consistency", "with", "previous", "works", "." ]	[ "O", "O", "O", "B-MethodName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O" ]
[ "GA", "is", "the", "Genetic", "Attack", "method", "." ]	[ "B-MethodName", "O", "O", "B-MethodName", "I-MethodName", "O", "O" ]
[ "We", "use", "the", "AMDA", "-", "SMix", "setup", "for", "the", "AMDA", "method", "." ]	[ "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MethodName", "O", "O" ]
[ "4.4", "Implementations", "We", "use", "BERT", "-", "BASE", "and", "RoBERTa", "-", "BASE", "models", "based", "on", "the", "Huggingface", "Transformers4", "." ]	[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "mod-", "ify", "the", "adversarial", "training", "with", "virtual", "adversaries", "based", "on", "the", "implementation", "of", "FreeLB", ",", "TA", "V", "AT", ",", "and", "FreeLB++", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-MethodName", "O" ]
[ "The", "training", "hyper", "-", "parameters", "we", "use", "are", "different", "from", "FreeLB", "and", "TA", "V", "AT", "since", "we", "aim", "to", "find", "large", "perturbations", "to", "simulate", "adver-", "saries", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "set", "adversarial", "learning", "rate", "α=1e-1", "to", "and", "normalization", "boundary", "ϵ=2e-1", "in", "all", "tasks", "." ]	[ "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "O", "O" ]
[ "We", "set", "the", "multiple", "purification", "size", "N", "=", "to", "16", "for", "all", "tasks", "and", "we", "will", "discuss", "the", "selection", "of", "Nin", "the", "later", "section", "." ]	[ "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "our", "text", "adversarial", "purification", "method", ",", "we", "4https", ":", "/", "/", "github.com", "/", "huggingface", "/", "transformersuse", "the", "model", "that", "is", "trained", "with", "gradient", "-", "based", "adversarial", "training", "as", "the", "purification", "model", "Fm", "(", "·", ")", "and", "the", "classifier", "Fc", "(", "·", ")", "for", "the", "main", "experiments", "and", "conduct", "thorough", "ablations", "to", "explore", "the", "ef-", "fect", "of", "combining", "purification", "with", "classifier", "and", "adversarially", "trained", "classifier", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "for", "implementing", "adversarial", "attack", "methods", ",", "we", "use", "the", "TextAttack", "toolkit", "while", "referring", "the", "official", "codes", "of", "the", "corresponding", "attack", "methods", "5", "(", "Morris", "et", "al", ".", ",", "2020a", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "similarity", "thresholds", "of", "the", "word", "-", "substitution", "range", "are", "the", "main", "fac-", "tors", "of", "the", "attacking", "algorithm", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "tune", "the", "USE", "(", "Cer", "et", "al", ".", ",", "2018", ")", "constraint", "0.5", "for", "the", "AG", "task", "and", "0.7", "for", "the", "IMDB", "task", "and", "0.5", "for", "the", "cosine-", "similarity", "threshold", "of", "the", "synonyms", "embedding", "(", "Mrkši", "´", "c", "et", "al", ".", ",", "2016", ")", "which", "can", "reproduce", "the", "re-", "sults", "of", "the", "attacking", "methods", "reported", "." ]	[ "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "B-TaskName", "O", "O", "B-HyperparameterValue", "O", "O", "B-TaskName", "O", "O", "B-HyperparameterValue", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "4.5", "Results", "As", "seen", "in", "Table", "1", ",", "the", "proposed", "Text", "Adversar-", "ial", "Purification", "algorithm", "can", "successfully", "defend", "strong", "attack", "methods", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "accuracy", "of", "our", "defend-", "ing", "method", "under", "attack", "is", "significantly", "higher", "than", "non", "-", "defense", "models", "(", "50", "%", "vs", "20", "%", "in", "the", "IMDB", "dataset", ")", "." ]	[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricValue", "I-MetricValue", "O", "O", "B-DatasetName", "O", "O", "O" ]
[ "Compared", "with", "previous", "defense", "methods", ",", "our", "proposed", "method", "can", "achieve", "higher", "defense", "accuracy", "in", "both", "the", "IMDB", "task", "and", "AG", "’s", "News", "task", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O" ]
[ "The", "Adv", "-", "HotFlip", "and", "the", "FreeLB", "methods", "5https", ":", "/", "/", "github.com", "/", "QData", "/", "TextAttack343", "Defense", "↓Attacks", "→Origin", "Textfooler", "BERT", "-", "Attack", "(", "K=12", ")", "(", "K=12", ")", "▲", "Text", "Purification", "Only", "↓", "✔", "Purification", "94.0", "72.0", "60.0", "✔", "Purification", "✖", "Multi", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O" ]
[ "Recovery", "87.0", "20.0", "13.0", "✔", "Purification", "✖", "Mask", "Insertion", "✖", "Multi", "." ]	[ "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Recovery", "92.0", "11.0", "3.0", "▲", "Combining", "Classifier", "↓", "✔", "Purification", "✔", "Comb", "." ]	[ "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Classifier", "95.0", "76.0", "67.0", "✔", "Purification", "✔", "Comb", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Classifier", "✖", "Multi", "." ]	[ "O", "O", "O", "O" ]

[ "it", "is", "something", "I", "like", "..." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "I", "possess", "the", "good", "common", "logical", "feel", "to", "realize", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "it", "is", "something", "I", "like", "..." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Figure", "1", ":", "Text", "Adversarial", "Purification", "Process", ":", "Compared", "with", "Image", "Purification", ",", "we", "use", "masked", "language", "models", "to", "recover", "noisy", "texts", "to", "purify", "adversarial", "texts", "as", "a", "defense", "against", "word", "-", "substitutions", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2.3", "Adversarial", "Purification", "Adversarial", "purification", "is", "a", "defense", "strategy", "that", "uses", "generative", "models", "to", "purify", "adversarial", "inputs", "before", "making", "predictions", ",", "which", "is", "a", "promising", "direction", "in", "adversarial", "defense", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Samangouei", "et", "al", "." ]

[ "O", "O", "O", "O" ]

[ "(", "2018", ")", "uses", "a", "defensive", "GAN", "framework", "to", "build", "clean", "images", "to", "avoid", "adversarial", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O" ]

[ "Energy-", "based", "models", "(", "EBMs", ")", "are", "used", "to", "purify", "attacked", "images", "via", "Langevin", "dynamics", "(", "LeCun", "et", "al", ".", ",", "2006", ")", "." ]

[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Score", "-", "based", "models", "(", "Yoo", "et", "al", ".", ",", "2020", ")", "is", "also", "in-", "troduced", "as", "a", "purification", "strategy", "." ]

[ "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Recent", "works", "focus", "on", "exploring", "diffusion", "models", "as", "the", "purifi-", "cation", "model", "in", "purifying", "the", "attacked", "images", "(", "Nie", "et", "al", ".", ",", "2022", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Though", "widely", "explored", ",", "adversarial", "purification", "strategy", "is", "less", "explored", "in", "the", "NLP", "field", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3", "Text", "Adversarial", "Purification", "3.1", "Background", "of", "Adversarial", "Purification", "A", "classic", "adversarial", "purification", "process", "is", "to", "grad-", "ually", "purify", "the", "input", "through", "Tsteps", "of", "purifica-", "tion", "runs", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "seen", "in", "Figure", "1", ",", "the", "purification", "process", "in", "the", "image", "domain", "is", "to", "first", "constructan", "input", "x′from", "the", "perturbed", "input", "xby", "injecting", "random", "noise", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Then", "the", "purification", "algorithm", "will", "recover", "the", "clean", "image", "/", "hatwidexfrom", "the", "noisy", "image", "x′", "which", "usually", "takes", "multiple", "rounds", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "intuition", "of", "such", "a", "purification", "process", "is", "that", "the", "recovered", "inputs", "will", "not", "contain", "adversarial", "effects", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Specifically", ",", "in", "the", "score", "-", "based", "adversarial", "purifi-", "cation", "(", "Yoo", "et", "al", ".", ",", "2020", ")", ",", "the", "sample", "injected", "with", "random", "noise", "is", "x′=x+εwhere", "ε∼", "N", "(", "0", ",", "σ2I", ")", "and", "the", "goal", "is", "to", "purify", "x′with", "score", "network", "sθ", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "a", "continuous", "time", "step", "where", "x0", "=", "x′", ",", "the", "goal", "is", "to", "recover", "x0through", "a", "score", "-", "based", "generative", "model", "xt", "=", "xt−1+αt−1sθ", "(", "xt−1", ")", "where", "αis", "the", "step", "size", "related", "to", "xt−1", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "After", "Ttimes", "of", "gener-", "ation", ",", "the", "recovered", "/", "hatwidex", "=", "xTis", "used", "in", "the", "final", "prediction", "which", "contains", "less", "adversarial", "effect", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "for", "the", "diffusion", "-", "based", "purification", "methods", "(", "Nie", "et", "al", ".", ",", "2022", ")", ",", "the", "process", "includes", "a", "forward", "diffusion", "process", "and", "a", "reverse", "recovery", "process", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "noise", "injection", "process", "is", "a", "forward", "stochastic", "differential", "equation", "(", "SDE", ")", ",", "that", "is", ",", "the", "noisy", "input", "x′=x", "(", "T", ")", "and", "initial", "perturbed", "input", "x", "=", "x", "(", "0", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "diffusion", "process", "is", "x", "(", "T", ")", "=", "/", "radicalbig", "α", "(", "T", ")", "x", "(", "0", ")", "+", "/", "radicalbig", "1−α", "(", "T", ")", "εwhere", "αis", "a", "hyper", "-", "parameter", "and340", "ε∼", "N", "(", "0", ",", "σ2I", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "final", "purified", "input", "/", "hatwidex=", "/", "hatwidex", "(", "0", ")", "where", "/", "hatwidex", "(", "0", ")", "is", "the", "reverse", "-", "time", "SDE", "generated", "input", "from", "the", "diffused", "input", "x", "(", "T", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3.2", "Text", "Adversarial", "Purification", "with", "BERT", "Instead", "of", "the", "iterative", "purification", "process", "used", "in", "purifying", "images", ",", "we", "introduce", "a", "novel", "purification", "method", "that", "purifies", "the", "input", "texts", "via", "masking", "and", "masks", "prediction", "with", "pre", "-", "trained", "masked", "language", "models", "exemplified", "by", "BERT", "(", "Devlin", "et", "al", ".", ",", "2018", ")", "." ]

[ "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "seen", "in", "Figure", "1", ",", "instead", "of", "gradually", "adding", "noise", "and", "recovering", "the", "clean", "sample", "from", "the", "noisy", "samples", ",", "we", "inject", "random", "noise", "into", "the", "input", "texts", "multiple", "times", "and", "recover", "the", "noisy", "data", "to", "a", "clean", "text", "based", "on", "the", "mask", "-", "prediction", "ability", "of", "the", "masked", "language", "model", "Fm", "(", "·", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Considering", "that", "the", "perturbed", "text", "is", "X", ",", "we", "can", "inject", "noise", "to", "construct", "multiple", "copies", "X′", "i=", "[", "w0", ",", "···", ",", "[", "MASK", "]", ",", "wn", ",", "·", "·", "·", ",", "]", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "use", "two", "simple", "masking", "strategies", ":", "(", "1", ")", "Randomly", "mask", "the", "input", "texts", ";", "(", "2", ")", "Randomly", "insert", "masks", "into", "the", "input", "texts", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Such", "a", "random", "masking", "process", "is", "similar", "to", "adding", "a", "random", "noise", "ε∼", "N", "(", "0", ",", "σ2I", ")", "to", "the", "inputs", "x", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "After", "constructing", "multiple", "noisy", "inputs", ",", "we", "run", "the", "denoise", "process", "via", "masked", "language", "models", ":", "/", "hatwideXi", "=", "Fm", "(", "X′", "i", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "With", "Nrecovered", "texts", ",", "we", "are", "able", "to", "make", "predictions", "with", "the", "classifier", "Fc", "(", "·", ")", ":", "Si=", "1", "N", "/", "summationtextN", "i=0", "/", "parenleftig", "Softmax", "(", "Fc", "(", "/", "hatwideXi", ")", ")", "/", "parenrightig", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Unlike", "continuous", "perturbations", "to", "images", ",", "word", "-", "substitution", "adversarial", "samples", "only", "contain", "several", "perturbed", "words", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "we", "consider", "using", "a", "multiple", "-", "time", "mask", "-", "and", "-", "recover", "process", "as", "text", "adversarial", "purification", ",", "which", "makes", "full", "use", "of", "the", "pre", "-", "trained", "ability", "of", "the", "masked", "lan-", "guage", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Compared", "with", "the", "generation", "pro-", "cess", "used", "in", "image", "adversarial", "purification", ",", "masked", "language", "model", "-", "based", "purification", "method", "is", "eas-", "ier", "to", "implement", "and", "utilize", "in", "pre", "-", "trained", "model-", "based", "applications", "as", "a", "defense", "against", "strong", "word-", "substitution", "adversarial", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3.3", "Combining", "with", "Classifier", "Normal", "adversarial", "purification", "methods", "are", "plug-", "and", "-", "play", "processes", "inserted", "before", "the", "classifica-", "tion", ",", "however", ",", "the", "masked", "language", "model", "itself", "is", "a", "widely", "used", "classification", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "That", "is", ",", "the", "purification", "model", "Fm", "(", "·", ")", "and", "the", "classification", "model", "Fc", "(", "·", ")", "can", "share", "the", "same", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "There-", "fore", ",", "instead", "of", "using", "a", "normal", "masked", "languagemodel", "such", "as", "BERT", ",", "we", "train", "the", "classifier", "and", "the", "mask", "-", "filling", "ability", "as", "multi", "-", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "classifica-", "tion", "loss", "is", "Lc", "=", "L", "(", "Fc", "(", "X′", ")", ",", "y", ",", "θ", ")", "+L", "(", "Fc", "(", "X", ")", ",", "y", ",", "θ", ")", "and", "the", "masked", "language", "model", "loss", "is", "Lmlm=", "L", "(", "Fm", "(", "X′", ")", ",", "X", ",", "θ", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Here", ",", "the", "input", "Xis", "the", "clean", "text", "used", "in", "training", "the", "classifier", "and", "the", "X′is", "the", "random", "masked", "text", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "loss", "function", "L", "(", "·", ")", "is", "the", "cross", "-", "entropy", "loss", "used", "in", "both", "the", "text", "classifica-", "tion", "head", "and", "masked", "language", "modeling", "head", "in", "the", "pre", "-", "trained", "models", "exemplified", "by", "BERT", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]

[ "In", "this", "way", ",", "we", "are", "utilizing", "the", "pre", "-", "trained", "mod-", "els", "to", "their", "full", "ability", "by", "using", "both", "the", "mask", "-", "filling", "function", "learned", "during", "the", "pre", "-", "training", "stage", "as", "well", "as", "the", "generalization", "ability", "to", "downstream", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Algorithm", "1", "Adversarial", "Training", "Require", ":", "Training", "Sample", "X", ",", "adversarial", "step", "Ta", "1", ":", "X′←Inject", "Noise", "X", "2", ":", "δ0←1√DN", "(", "0", ",", "σ2", ")", "/", "/", "Init", "Perturb", "3", ":", "fort=", "0,1", ",", "...", "T", "ado", "4", ":", "gδ←", "▽", "δ", "(", "Lc+Lmlm", ")", "/", "/", "Get", "Perturbation", "5", ":", "δt←", "/", "producttext", "||δ||F", "<", "ϵ", "(", "δt+α·gδ", "/", "||gδ||F", ")", "6", ":", "Lnoise←", "L", "(", "Fm", "(", "X′+δt", ")", ",", "X", ",", "θ", ")", "7", ":", "X′←X′+δt", "/", "/", "Update", "Input", "8", ":", "gt+1", "=", "gt+", "▽", "θ", "(", "Lc+Lmlm+Lnoise", ")", "9", ":", "θ←θ−gT+1", "/", "/", "Update", "model", "parameter", "θ", "3.4", "Combining", "with", "Adversarial", "Training", "Different", "from", "the", "image", "field", "where", "adver-", "saries", "are", "usually", "generated", "by", "gradients", ",", "word-", "substitution", "attacks", "do", "not", "have", "direct", "connections", "with", "gradient", "-", "based", "adversaries", "in", "the", "text", "domain", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "it", "is", "intuitive", "to", "incorporate", "gradient-", "based", "adversarial", "training", "in", "the", "purification", "pro-", "cess", "when", "the", "purification", "process", "is", "combined", "with", "the", "classifier", "training", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "introduce", "the", "adversarial", "training", "process", "therefore", "the", "purification", "function", "Fm", "(", "·", ")", "includes", "mask", "-", "prediction", "and", "recovering", "clean", "texts", "from", "inputs", "with", "gradient", "-", "based", "perturbations", ",", "which", "leads", "to", "stronger", "purification", "ability", "compared", "with", "a", "standard", "BERT", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O" ]

[ "Following", "standard", "adversarial", "training", "process", "with", "gradient", "-", "based", "adversaries", "introduced", "by", "Zhu", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2019", ")", ";", "Li", "and", "Qiu", "(", "2020", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "the", "adversarial", "training", "process", ",", "a", "gradient", "-", "based", "perturbation", "δis", "added", "to", "the", "embedding", "output", "of", "the", "input", "text", "X", "(", "for", "simplicity", ",", "we", "still", "use", "XandX′to", "denote", "the341", "embedding", "output", "in", "the", "Algorithm", "1", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Then", "the", "perturbed", "inputs", "are", "added", "to", "the", "training", "set", "in", "the", "training", "process", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "combine", "gradient", "-", "based", "ad-", "versarial", "training", "with", "the", "text", "purification", "process", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "illustrated", "in", "Algorithm", "1", ",", "for", "an", "adversarial", "training", "step", ",", "we", "add", "perturbations", "to", "the", "masked", "textX′and", "run", "Tatimes", "of", "updates", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "calculate", "gradients", "based", "on", "both", "classification", "losses", "Lcand", "masked", "language", "modeling", "losses", "Lmlm", ";", "further", ",", "as", "seen", "in", "line", "6", ",", "we", "also", "calculate", "the", "loss", "that", "the", "masked", "language", "model", "will", "predict", "the", "texts", "from", "the", "perturbed", "text", "X′+δ", ",", "which", "enhanced", "the", "text", "recover", "ability", "from", "noisy", "or", "adversarial", "texts", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4", "Experiments", "4.1", "Datasets", "We", "use", "two", "widely", "used", "text", "classification", "datasets", ":", "IMDB1", "(", "Maas", "et", "al", ".", ",", "2011", ")", "and", "AG", "’s", "News2", "(", "Zhang", "et", "al", ".", ",", "2015", ")", "in", "our", "experiments", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "IMDB", "dataset", "is", "a", "bi", "-", "polar", "movie", "review", "classification", "task", ";", "the", "AG", "’s", "News", "dataset", "is", "a", "four", "-", "class", "news", "genre", "classification", "task", "." ]

[ "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "average", "length", "is", "220", "words", "in", "the", "IMDB", "dataset", ",", "and", "40", "words", "in", "the", "AG", "’s", "News", "dataset", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O" ]

[ "We", "use", "the", "test", "set", "fol-", "lowing", "the", "Textfooler", "1k", "test", "set", "in", "the", "main", "re-", "sult", "and", "sample", "100", "samples", "for", "the", "rest", "of", "the", "experiments", "since", "the", "attacking", "process", "is", "seriously", "slowed", "down", "when", "the", "model", "is", "defensive", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.2", "Attack", "Methods", "Popular", "attack", "methods", "exemplified", "by", "genetic", "Al-", "gorithm", "(", "Alzantot", "et", "al", ".", ",", "2018", ")", ",", "Textfooler", "(", "Jin", "et", "al", ".", ",", "2019", ")", "and", "BERT", "-", "Attack", "(", "Li", "et", "al", ".", ",", "2020", ")", "can", "successfully", "mislead", "strong", "models", "of", "both", "IMDB", "and", "AG", "’s", "News", "task", "with", "a", "very", "small", "per-", "centage", "of", "substitutions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "we", "use", "these", "strong", "adversarial", "attack", "methods", "as", "the", "attacker", "to", "test", "the", "effectiveness", "of", "our", "defense", "method", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "hyperparameters", "used", "in", "the", "attacking", "algorithm", "vary", "in", "different", "settings", ":", "we", "choose", "candidate", "list", "sizeKto", "be", "12", ",", "48", ",", "and", "50", "which", "are", "used", "in", "the", "Textfooler", "and", "BERT", "-", "Attack", "methods", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O" ]

[ "We", "use", "the", "exact", "same", "metric", "used", "in", "Textfooler", "and", "BERT", "-", "Attack", "that", "calculates", "the", "after", "-", "attack", "accuracy", ",", "which", "is", "the", "targeted", "adversarial", "evalu-", "ation", "defined", "by", "Si", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2020", ")", "." ]

[ "O", "O", "O", "O" ]

[ "The", "after", "-", "attack", "accuracy", "measures", "the", "actual", "defense", "ability", "of", "the", "system", "under", "adversarial", "attacks", "." ]

[ "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "1https", ":", "/", "/", "datasets.imdbws.com", "/", "2https", ":", "/", "/", "www.kaggle.com", "/", "amananandrai", "/", "ag-news-", "classification", "-", "dataset4.3", "Victim", "Models", "and", "Defense", "Baselines", "The", "victim", "models", "are", "the", "fine", "-", "tuned", "pre", "-", "train", "mod-", "els", "exemplified", "by", "BERT", "and", "RoBERTa", ",", "which", "we", "implement", "based", "on", "Huggingface", "Transformers3", "(", "Wolf", "et", "al", ".", ",", "2020", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "discussed", "above", ",", "there", "are", "few", "works", "concerning", "adversarial", "defenses", "against", "attacks", "without", "knowing", "the", "candidates", "in", "NLP", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O" ]

[ "Moreover", ",", "previous", "works", "do", "not", "focus", "on", "recent", "strong", "attack", "algorithms", "such", "as", "Textfooler", "(", "Jin", "et", "al", ".", ",", "2019", ")", ",", "BERT", "-", "involved", "attacks", "(", "Li", "et", "al", ".", ",", "2020", ";", "Garg", "and", "Ramakrishnan", ",", "2020", ")", "Therefore", ",", "we", "first", "list", "methods", "that", "can", "defend", "against", "adver-", "sarial", "attacks", "without", "accessing", "the", "candidate", "list", "as", "our", "baselines", ":", "Adv", "-", "Train", "(", "Adv", "-", "HotFlip", ")", ":", "Ebrahimi", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2017", ")", "introduces", "the", "adversarial", "training", "method", "used", "in", "defending", "against", "substitution", "-", "based", "adver-", "sarial", "attacks", "in", "NLP", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "It", "uses", "gradients", "to", "find", "actual", "adversaries", "in", "the", "embedding", "space", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Virtual", "-", "Adv", "-", "Train", "(", "FreeLB", ")", ":", "Li", "and", "Qiu", "(", "2020", ")", ";", "Zhu", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2019", ")", "use", "virtual", "adversaries", "to", "improve", "the", "performances", "in", "fine", "-", "tuning", "pre-", "trained", "models", ",", "which", "can", "also", "be", "used", "to", "deal", "with", "adversarial", "attacks", "without", "accessing", "the", "candidate", "list", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "follow", "the", "standard", "FreeLB", "training", "pro-", "cess", "to", "re", "-", "implement", "the", "defense", "results", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Further", ",", "there", "are", "some", "works", "that", "require", "the", "candidate", "list", ",", "it", "is", "not", "a", "fair", "comparison", "with", "de-", "fense", "methods", "without", "accessing", "the", "candidates", ",", "so", "we", "list", "them", "separately", ":", "Adv", "-", "Augmentation", ":", "We", "generate", "adversarial", "examples", "of", "the", "training", "dataset", "as", "a", "data", "augmen-", "tation", "method", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "mix", "the", "generated", "adversarial", "examples", "and", "the", "original", "training", "dataset", "to", "train", "a", "model", "in", "a", "standard", "fine", "-", "tuning", "process", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "ASCC", ":", "Dong", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "(", "2021", ")", "also", "uses", "a", "convex-", "hull", "concept", "based", "on", "the", "candidate", "vocabulary", "as", "a", "strong", "adversarial", "defense", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "ADA", ":", "Si", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "(", "2020", ")", "uses", "a", "mixup", "strategy", "based", "on", "the", "generated", "adversarial", "examples", "to", "achieve", "adversarial", "defense", "with", "variants", "AMDA-", "SMix", "that", "mixup", "the", "special", "tokens", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "FreeLB++", ":", "Li", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "(", "2021", ")", "introduces", "a", "variant", "of", "FreeLB", "method", "that", "expands", "the", "norm", "bound", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "RanMASK", ":", "Zeng", "et", "al", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "(", "2021", ")", "introduces", "a", "masking", "strategy", "that", "makes", "use", "of", "noises", "to", "im-", "prove", "robustness", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3https", ":", "/", "/", "github.com", "/", "huggingface", "/", "transformers342", "Defense", "↓Attacks", "→Origin", "Textfooler", "BERT", "-", "Attack", "Textfooler", "BERT", "-", "Attack", "(", "K=12", ")", "(", "K=12", ")", "(", "K=50", ")", "(", "K=48", ")", "IMDB", "↓", "BERT", "(", "Devlin", "et", "al", ".", ",", "2018", ")", "94.1", "20.4", "18.5", "2.8", "3.2", "RoBERTa", "(", "Liu", "et", "al", ".", ",", "2019", ")", "97.3", "26.3", "24.5", "25.2", "23.0", "●", "Adv", "-", "HotFlip", "(", "BERT", ")", "(", "Ebrahimi", "et", "al", ".", ",", "2017", ")", "95.1", "36.1", "34.2", "8.0", "6.2", "■", "FreeLB", "(", "BERT", ")", "(", "Li", "and", "Qiu", ",", "2020", ")", "96.0", "30.2", "30.4", "7.3", "2.3", "■", "FreeLB++", "(", "BERT", ")", "(", "Li", "et", "al", ".", ",", "2021", ")", "93.2", "-", "-", "45.3", "39.9", "▲", "RanMASK", "(", "RoBERTa", ")", "(", "Zeng", "et", "al", ".", ",", "2021", ")", "93.0", "-", "-", "23.7", "26.8", "▲", "Text", "Purification", "(", "BERT", ")", "93.0", "81.5", "76.7", "51.0", "44.5", "▲", "Text", "Purification", "(", "RoBERTa", ")", "96.1", "84.2", "82.0", "54.3", "52.2", "AG", "’s", "News", "↓", "BERT", "(", "Devlin", "et", "al", ".", ",", "2018", ")", "92.0", "32.8", "34.3", "19.4", "14.1", "RoBERTa", "(", "Liu", "et", "al", ".", ",", "2019", ")", "97.3", "26.3", "24.5", "25.2", "23.0", "●", "Adv", "-", "HotFlip", "(", "BERT", ")", "91.2", "35.3", "34.1", "18.2", "8.5", "■", "FreeLB", "(", "BERT", ")", "90.5", "40.1", "34.2", "20.1", "8.5", "▲", "Text", "Purification", "(", "BERT", ")", "90.6", "61.5", "49.7", "34.9", "22.5", "▲", "Text", "Purification", "(", "RoBERTa", ")", "90.8", "59.1", "41.2", "34.2", "19.5", "Table", "1", ":", "After", "-", "Attack", "Accuracy", "compared", "with", "defense", "methods", "that", "can", "defend", "attacks", "without", "acknowledging", "the", "form", "of", "the", "attacks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "That", "is", ",", "the", "substitution", "candidates", "of", "the", "attack", "methods", "are", "unknown", "to", "defense", "systems", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Methods", "Origin", "Textfooler", "GA", "IMDB", "↓", "BERT", "94.0", "2.0", "45.0", "■", "Data", "-", "Augmentation", "93.0", "18.0", "53.0", "●", "ADA", "(", "Si", "et", "al", ".", ",", "2020", ")", "96.7", "3.0", "-", "●", "AMDA", "(", "Si", "et", "al", ".", ",", "2020", ")", "96.9", "17.4", "-", "▲", "ASCC", "(", "Dong", "et", "al", ".", ",", "2021", ")", "77.0", "-", "71.0", "▲", "Text", "Purification", "(", "BERT", ")", "93.0", "51.0", "79.0", "Table", "2", ":", "After", "-", "Attack", "Accuracy", "compared", "with", "access-", "candidates", "methods", "based", "on", "the", "BERT", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Here", "we", "implement", "Textfooler", "with", "K=50", "for", "consistency", "with", "previous", "works", "." ]

[ "O", "O", "O", "B-MethodName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O" ]

[ "GA", "is", "the", "Genetic", "Attack", "method", "." ]

[ "B-MethodName", "O", "O", "B-MethodName", "I-MethodName", "O", "O" ]

[ "We", "use", "the", "AMDA", "-", "SMix", "setup", "for", "the", "AMDA", "method", "." ]

[ "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MethodName", "O", "O" ]

[ "4.4", "Implementations", "We", "use", "BERT", "-", "BASE", "and", "RoBERTa", "-", "BASE", "models", "based", "on", "the", "Huggingface", "Transformers4", "." ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "mod-", "ify", "the", "adversarial", "training", "with", "virtual", "adversaries", "based", "on", "the", "implementation", "of", "FreeLB", ",", "TA", "V", "AT", ",", "and", "FreeLB++", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-MethodName", "O" ]

[ "The", "training", "hyper", "-", "parameters", "we", "use", "are", "different", "from", "FreeLB", "and", "TA", "V", "AT", "since", "we", "aim", "to", "find", "large", "perturbations", "to", "simulate", "adver-", "saries", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "set", "adversarial", "learning", "rate", "α=1e-1", "to", "and", "normalization", "boundary", "ϵ=2e-1", "in", "all", "tasks", "." ]

[ "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "O", "O" ]

[ "We", "set", "the", "multiple", "purification", "size", "N", "=", "to", "16", "for", "all", "tasks", "and", "we", "will", "discuss", "the", "selection", "of", "Nin", "the", "later", "section", "." ]

[ "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "our", "text", "adversarial", "purification", "method", ",", "we", "4https", ":", "/", "/", "github.com", "/", "huggingface", "/", "transformersuse", "the", "model", "that", "is", "trained", "with", "gradient", "-", "based", "adversarial", "training", "as", "the", "purification", "model", "Fm", "(", "·", ")", "and", "the", "classifier", "Fc", "(", "·", ")", "for", "the", "main", "experiments", "and", "conduct", "thorough", "ablations", "to", "explore", "the", "ef-", "fect", "of", "combining", "purification", "with", "classifier", "and", "adversarially", "trained", "classifier", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "for", "implementing", "adversarial", "attack", "methods", ",", "we", "use", "the", "TextAttack", "toolkit", "while", "referring", "the", "official", "codes", "of", "the", "corresponding", "attack", "methods", "5", "(", "Morris", "et", "al", ".", ",", "2020a", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "similarity", "thresholds", "of", "the", "word", "-", "substitution", "range", "are", "the", "main", "fac-", "tors", "of", "the", "attacking", "algorithm", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "tune", "the", "USE", "(", "Cer", "et", "al", ".", ",", "2018", ")", "constraint", "0.5", "for", "the", "AG", "task", "and", "0.7", "for", "the", "IMDB", "task", "and", "0.5", "for", "the", "cosine-", "similarity", "threshold", "of", "the", "synonyms", "embedding", "(", "Mrkši", "´", "c", "et", "al", ".", ",", "2016", ")", "which", "can", "reproduce", "the", "re-", "sults", "of", "the", "attacking", "methods", "reported", "." ]

[ "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "B-TaskName", "O", "O", "B-HyperparameterValue", "O", "O", "B-TaskName", "O", "O", "B-HyperparameterValue", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.5", "Results", "As", "seen", "in", "Table", "1", ",", "the", "proposed", "Text", "Adversar-", "ial", "Purification", "algorithm", "can", "successfully", "defend", "strong", "attack", "methods", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "accuracy", "of", "our", "defend-", "ing", "method", "under", "attack", "is", "significantly", "higher", "than", "non", "-", "defense", "models", "(", "50", "%", "vs", "20", "%", "in", "the", "IMDB", "dataset", ")", "." ]

[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricValue", "I-MetricValue", "O", "O", "B-DatasetName", "O", "O", "O" ]

[ "Compared", "with", "previous", "defense", "methods", ",", "our", "proposed", "method", "can", "achieve", "higher", "defense", "accuracy", "in", "both", "the", "IMDB", "task", "and", "AG", "’s", "News", "task", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O" ]

[ "The", "Adv", "-", "HotFlip", "and", "the", "FreeLB", "methods", "5https", ":", "/", "/", "github.com", "/", "QData", "/", "TextAttack343", "Defense", "↓Attacks", "→Origin", "Textfooler", "BERT", "-", "Attack", "(", "K=12", ")", "(", "K=12", ")", "▲", "Text", "Purification", "Only", "↓", "✔", "Purification", "94.0", "72.0", "60.0", "✔", "Purification", "✖", "Multi", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O" ]

[ "Recovery", "87.0", "20.0", "13.0", "✔", "Purification", "✖", "Mask", "Insertion", "✖", "Multi", "." ]

[ "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Recovery", "92.0", "11.0", "3.0", "▲", "Combining", "Classifier", "↓", "✔", "Purification", "✔", "Comb", "." ]

[ "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Classifier", "95.0", "76.0", "67.0", "✔", "Purification", "✔", "Comb", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Classifier", "✖", "Multi", "." ]

[ "O", "O", "O", "O" ]