Datasets:

anlp

/

anno1_w_elimination

like 0

[ "And", ",", "after", "around", "400", "K", "training", "iterations", "for", "trans-", "lation", "with", "the", "standard", "pipeline", "⋄", "(", "Artetxe", "et", "al", ".", ",", "2018b", ";", "Song", "et", "al", ".", ",", "2019", ")", ",", "according", "to", "baseline", "models", "’", "BLEU", "scripts", ",", "we", "report", "BLEU", "computed", "bymulti-BLEU.perl", "⋄orsacreBleu", "⋄", "(", "Post", ",", "2018", ")", "with", "default", "rules", "." ]

[ "O", "O", "O", "O", "B-HyperparameterValue", "I-HyperparameterValue", "B-HyperparameterName", "I-HyperparameterName", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "See", "more", "details", "in", "Appendix", "D.3", ".", "Result", "Table", "3", "shows", "the", "results", "on", "the", "{", "De", ",", "Ro", ",", "Ne", "}", "↔", "Entest", "sets", ".", "Applying", "[", "C", "]", "x", "consistently", "improves", "the", "performance", "of", "base-", "line", "models", "on", "all", "the", "similar", "language", "pairs", "by", "3", "%", "∼8", "%", "and", "on", "the", "dissimilar", "pair", "by", "2.5∼7", "BLEU", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "I-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "B-MetricValue", "B-MetricName", "O" ]

[ "The", "performance", "on", "the", "dissimilar", "pair", "is", "very", "close", "to", "SOTA", ":", "mBART25", "(", "Liu", "et", "al", ".", ",", "2020", ")", ",", "but", "they", "use", "25", "languages", "from", "CC25", "(", "Wenzek", "et", "al", ".", ",", "2020", ")", "for", "pre", "-", "training", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Our", "method", "slightly", "outperforms", "two", "dictionary", "-", "based", "works", "(", "Dufter", "and", "Schütze", ",", "2020", ";", "Chaudhary", "et", "al", ".", ",", "2020", ")", "which", "require", "static", "translation", "tables", "from", "pre", "-", "trained", "word", "models", ",", "golden", "dictionaries", ",", "or", "bilingual", "lex-", "icon", "induction", "(", "e.g.", ",", "UBWE", ")", ".", "Intuitively", ",", "as", "re-", "ported", "in", "(", "Artetxe", "et", "al", ".", ",", "2020", ";", "Kementchedjhieva", "et", "al", ".", ",", "2019", ";", "Czarnowska", "et", "al", ".", ",", "2019", ";", "Vania", "and", "Lopez", ",", "2017", ")", ",", "such", "word", "translation", "tables", "are", "re-", "ported", "to", "misrepresent", "morphological", "variations", "and", "are", "not", "contextualized", "properly", ",", "which", "limit", "the", "improvements", "for", "sentence", "translation", ".", "For", "further", "analyses", ",", "we", "conduct", "a", "case", "study", "to", "observe", "the", "attention", "weights", "on", "[", "C", "]", "xafter", "pre-", "training", ",", "which", "is", "visualized", "in", "Appendix", "C.2", ".", "We", "observe", "that", "the", "model", "outputs", "prominent", "attention", "weights", "on", "[", "C", "]", "xfor", "predicting", "replaced", "tokens", ",", "so", "that", "it", "relies", "on", "[", "C", "]", "x", ".", "In", "other", "words", ",", "the", "model", "understands", "[", "C", "]", "xin", "the", "context", ".", "We", "can", "confirm", "the", "effectiveness", ".", "Concretely", ",", "CLPM", "shows", "sig-", "nificant", "effectiveness", "on", "nouns", ",", "entities", ",", "terminol-", "Figure", "1", ":", "Discriminator", "performance", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "discriminator", "is", "trained", "to", "recognize", "which", "language", "an", "embedding", "or", "a", "representation", "belongs", "to", "and", "makes", "zero", "-", "shot", "clas-", "sification", "for", "a", "prototype", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O" ]

[ "We", "use", "all", "the", "embedding", "instances", "to", "train", "the", "discriminator", ".", "This", "figure", "indicates", "that", "CLMP", "introduces", "unseen", "cross", "-", "lingual", "prototypes", "for", "the", "model", "instead", "of", "embedding", "instances", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "ogy", "words", ",", "etc", ".", ",", "where", "the", "attention", "weights", "on", "the", "corresponding", "[", "C", "]", "xare", "dominant", ".", "Meanwhile", ",", "the", "model", "can", "understand", "phrases", ",", "sub", "-", "tokens", ",", "and", "syntax", "structures", "to", "predict", "a", "replaced", "token", "of", "the", "phrase", "because", "the", "model", "pays", "equal", "/", "similar", "at-", "tention", "to", "each", "token", "of", "the", "phrase", ".", "We", "attribute", "this", "phenomenon", "to", "both", "the", "alternation", "between", "[", "C", "]", "xand", "[", "M", "]", "and", "involving", "neighboring", "tokens", "in", "{", "[", "C", "]", "xi", ",", "xj\\i", "}", "→", "xithat", "the", "model", "captures", "to-", "ken", "dependencies", "from", "the", "cross", "-", "lingual", "prototype", "or", "a", "synonym", "in", "the", "other", "language", ".", "Finally", ",", "the", "employment", "of", "multiple", "candidates", "is", "important", "because", "the", "model", "could", "learn", "morphological", "or", "relevant", "variations", "from", "[", "C", "]", "xin", "the", "other", "language", "(", "refer", "to", "Appendix", "C.1", ")", ",", "e.g.", ",", "understanding", "rele-", "vant", "variations", "<", "welches", ",", "welcher", ",", "welche", ">", "from", "[", "C", "]", "x", ",", "which", "is", "essential", "for", "further", "translation", "learn-", "ing", "in", "unsupervised", "manners", ".", "Dose", "CLMP", "introduce", "new", "samples", "with", "cross-", "lingual", "prototypes", "from", "the", "other", "language", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "addition", "to", "§", "Case", "Study", ",", "we", "are", "still", "interested", "in", "the", "representation", "of", "E", "[", "C", "]", "xor", "whether", "CLMP", "intro-", "duces", "new", "examples", "with", "cross", "-", "lingual", "prototypes", "from", "the", "other", "language", ".", "Intuitively", ",", "if", "the", "weights", "obtained", "in", "Step", "4", "are", "{", "c1=", "0.9", ",", "c2=", "0.05", ",", "c3=", "0.05", "}", ",", "the", "representation", "is", "similar", "to", "the", "candi-", "datec1", ",", "and", "then", "c1is", "a", "soft", "translation", "of", "x", ".", "If", "the", "weights", "are", "{", "c1=", "0.4", ",", "c2=", "0.3", ",", "c3=", "0.3", "}", ",", "the", "representation", "could", "be", "different", "from", "any", "one", "of", "{", "c1", ",", "c2", ",", "c3", "}", ".", "Thus", ",", "the", "representation", "depends", "on", "the", "contributions", "of", "the", "candidates", ".", "To", "further", "understand", "E", "[", "C", "]", "x", ",", "we", "jointly", "train", "a", "discrimina-", "tor", "to", "distinguish", "between", "two", "languages", "in", "the", "pre", "-", "training", "phase", ".", "The", "discriminator", "is", "trained860", "Language", "pair", "De↔En", "Ro", "↔En", "Ne", "↔En", "multi-BLEU.perl", "⋄with", "default", "rules", "XLM", "(", "Lample", "et", "al", ".", ",", "2018c", ")", "34.3", "26.4", "31.8", "33.3", "0.5", "0.1", "+", "word", "translation", "tables", "(", "Chaudhary", "et", "al", ".", ",", "2020", ")", "⋆", "35.1", "27.4", "33.6", "34.4", "4.1", "2.2", "+", "[", "C", "]", "x", "35.9", "28.1", "34.4", "35.3", "6.6", "2.8", "MASS", "(", "Song", "et", "al", ".", ",", "2019", ")", "35.2", "28.3", "33.1", "35.2", "+", "nearest", "neighbor", "from", "UBWE", "(", "Dufter", "and", "Schütze", ",", "2020", ")", "⋆", "36.1", "28.8", "34.1", "36.4", "5.1", "2.8", "+", "[", "C", "]", "x", "36.7", "29.2", "34.7", "36.9", "7.1", "3.4", "sacreBleu", "⋄with", "standard", "settings", ":", "nrefs:1|case", ":", "mixed|eff", ":", "no|tok:13a|smooth", ":", "exp|version:2.0.0", "mBART", "(", "Liu", "et", "al", ".", ",", "2020", ")", "+", "CC25", "(", "Wenzek", "et", "al", ".", ",", "2020", ")", "34.0", "29.8", "30.5", "35.0", "10.0", "4.4", "+", "[", "C", "]", "x", "(", "w", "/", "o", "CC25", ")", "35.4", "30.1", "32.5", "36.7", "7.0", "3.2", "Table", "3", ":", "Performance", "of", "UNMT", ".", "⋆are", "reimplemented", ".", "UBWE", "stands", "for", "unsupervised", "bilingual", "word", "embedding", ".", "Translation", "tables", "or", "UBWE", "are", "static", ".", "We", "use", "the", "same", "transformer", "models", ",", "BPE", "size", ",", "corpora", ",", "tokenization", ",", "and", "BLEU", "as", "the", "baseline", "models", "(", "see", "more", "details", "in", "Appendix", "D.3", ")", ".", "to", "recognize", "which", "language", "an", "embedding", "or", "a", "representation", "belongs", "to", ".", "We", "use", "all", "the", "embed-", "ding", "instances", "to", "train", "the", "discriminator", ".", "Then", ",", "we", "make", "zero", "-", "shot", "classification", "for", "E", "[", "C", "]", "xto", "ob-", "serve", "which", "language", "E", "[", "C", "]", "xbelongs", "to", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "re-", "port", "the", "result", "in", "Figure", "1", ".", "This", "figure", "suggests", "that", "CLMP", "introduces", "unseen", "cross", "-", "lingual", "pro-", "totypes", "for", "the", "model", ".", "We", "suspect", "that", "ECxpo-", "tentially", "yields", "a", "generalized", "representation", "from", "multiple", "relevant", "candidates", "in", "other", "languages", ".", "This", "is", "different", "from", "the", "method", "family", "based", "on", "translation", "tables", ".", "Significantly", ",", "translation", "tables", "are", "instances", "/", "embeddings", "in", "the", "embedding", "space", ",", "whereas", "cross", "-", "lingual", "prototypes", "do", "not", "exist", "in", "the", "embedding", "spaces", "and", "are", "new", "generalized", "samples", "for", "the", "model", ".", "3.3", "Robustness", "and", "Model", "Variation", "We", "have", "some", "default", "configurations", ",", "as", "presented", "in", "row", "2", "of", "Table", "4", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "combination", "is", "obtained", "in", "our", "experiments", ".", "We", "report", "the", "results", "to", "observe", "the", "impact", "of", "K", "(", "the", "number", "of", "cross", "-", "lingual", "can-", "didates", ")", ",", "the", "warm", "-", "up", "initialization", ",", "the", "tokeniza-", "tion", "method", ",", "and", "the", "alternation", "t", "%", "in", "Appendix", "B", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O" ]

[ "Meanwhile", ",", "in", "this", "experiment", ",", "we", "discuss", "a", "mean", "average", "style", "for", "cross", "-", "lingual", "candidates", "instead", "of", "the", "weighted", "average", "used", "in", "the", "default", "configura-", "tion", ",", "reporting", "results", "in", "Appendix", "B", ".", "Additionally", ",", "we", "study", "alternatives", "for", "initialization", "and", "training", "efficiency", ".", "The", "result", "is", "presented", "in", "Table", "7", ".", "For", "consistency", ",", "the", "row", "number", "is", "consistent", "with", "the", "full", "results", "in", "Appendix", "B", ".", "Row", "11", "As", "aforementioned", ",", "CLPM", "requires", "ad-", "ditional", "time", "to", "compute", "[", "C", "]", "x", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "be", "fair", ",", "we", "reduce", "the", "training", "steps", ",", "so", "that", "the", "training", "time", "is", "almost", "similar", "to", "the", "baseline", "model", "(", "row", "1", ")", ".", "CLPM", "out-", "performs", "the", "baseline", "model", "but", "requires", "fewer", "training", "steps", ",", "which", "indicates", "that", "the", "explicit", "and", "principled", "cross", "-", "lingual", "forward", "pass", "is", "more", "ef", "-", "ficient", "(", "per", "step", ")", "than", "implicit", "isomorphic", "space", "formation", "for", "cross", "-", "linguality", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Row", "17", "We", "use", "UBWE", "(", "unsupervised", "bilingual", "word", "embedding", ")", "to", "initialize", "the", "bilingual", "em-", "bedding", "space", ".", "In", "the", "first", "50k", "pre", "-", "training", "steps", "(", "equal", "to", "default", "warm", "-", "up", "steps", ")", ",", "since", "the", "model", "parameters", "are", "still", "randomly", "initialized", ",", "we", "do", "not", "follow", "Step", "1", ",", "2", ",", "and", "3", "in", "on", "-", "the", "-", "fly", "[", "C", "]", "xand", "directly", "find", "relevant", "candidates", "based", "on", "the", "dot", "products", "ET", "yiEx", ",", "i.e.", ",", "only", "need", "Step", "4", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Intuitively", ",", "ET", "yiExis", "reliable", "to", "rank", "the", "candidates", "and", "com-", "pute", "the", "weights", "for", "[", "C", "]", "xbecause", "UBWE", "provides", "cross", "-", "lingual", "entries", ".", "After", "50k", "pre", "-", "training", "steps", ",", "we", "normally", "run", "on", "-", "the", "-", "fly", "[", "C", "]", "x", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "observe", "that", "adapting", "UBWE", "consistently", "improves", "the", "perfor-", "mance", "by", "2", "%", "on", "the", "similar", "language", "and", "0.5∼1", "BLEU", "on", "the", "dissimilar", "language", "because", "UBWE", "provides", "additional", "cross", "-", "lingual", "supervision", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterValue", "I-HyperparameterValue", "O", "O", "O", "O", "O", "B-HyperparameterValue", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "See", "all", "the", "results", "in", "Table", "8", ".", "Row", "18", "Vuli´c", "et", "al", ".", "(", "2020", ")", "suggest", "seed", "dictionar-", "ies", "for", "unsupervised", "tasks", "in", "practice", ".", "Following", "this", "idea", ",", "we", "download", "a", "1k", "seed", "dictionary", "from", "Panlex", "⋄", ".", "In", "the", "first", "50k", "pre", "-", "training", "steps", ",", "we", "simply", "replace", "the", "selected", "token", "with", "its", "trans-", "lation", "in", "the", "seed", "dictionary", ".", "For", "the", "out", "-", "of", "-", "the-", "dictionary", "but", "selected", "token", ",", "we", "replace", "it", "with", "normal", "[", "M", "]", ".", "After", "50k", "pre", "-", "training", "steps", ",", "if", "the", "selected", "token", "is", "in", "the", "dictionary", ",", "the", "translation", "is", "added", "to", "[", "C", "]", "xas", "a", "candidate", "in", "Step", "4", "when", "run-", "ning", "on", "-", "the", "-", "fly", "[", "C", "]", "x", ".", "We", "find", "that", "compared", "to", "the", "UBWE", "scenario", ",", "this", "adaptation", "achieves", "similar", "results", "on", "the", "rich", "-", "resource", "language", "De↔En", "(", "+1.5", "%", ")", "but", "stronger", "results", "on", "the", "dissimilar", "lan-", "guage", "Ne↔En", "(", "+8", "%", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "I-MetricValue", "I-MetricValue", "O" ]

[ "All", "the", "results", "are", "pre-", "sented", "in", "Table", "8.861", "Row", "Model", "t", "Tokenization", "Warm", "-", "up", "Steps", "K", "[", "C", "]", "xtype", "De↔En", "1", "[", "M", "]", "(", "baseline", ")", "-", "BPE", "-", "400", "K", "-", "-", "34.3", "26.4", "2", "[", "C", "]", "x", "(", "our", "baseline", ",", "default", ")", "40", "%", "BPE", "50", "K", "400", "K", "3", "weighted", "35.9", "28.1", "11", "[", "C", "]", "x", "+", "+", "+", "350", "K", "(", "similar", "training", "time", ")", "+", "+", "35.1", "27.2", "17", "[", "C", "]", "x", "+", "+", "UBWE", "+", "+", "+", "36.5", "28.8", "18", "[", "C", "]", "x", "+", "+", "1k", "seed", "dictionary", "+", "+", "+", "36.9", "29.1", "Table", "4", ":", "Model", "Variation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "consistency", ",", "the", "row", "number", "is", "consistent", "with", "the", "full", "results", "(", "including", "evaluation", "onK", ",", "warm", "-", "up", ",", "tokenization", ",", "and", "t", "%", ")", "in", "Appendix", "B", ".", "All", "the", "models", "are", "based", "on", "the", "XLM", "instance", ".", "Row", "2shows", "the", "default", "configurations", "we", "use", "in", "UNMT", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]

[ "+", "denotes", "the", "default", "configuration", ".", "−denotes", "an", "inapplicable", "term", ".", "UBWE", "denotes", "that", "we", "pre", "-", "train", "the", "bilingual", "embeddings", "unsupervisedly", "and", "then", "pre", "-", "train", "the", "entire", "model", "with", "our", "method", ".", "In", "1k", "seed", "dictionary", "test", ",", "the", "model", "employs", "a", "candidate", "from", "a", "seed", "dictionary", ".", "MUSE", "score", "XLM", "(", "Lample", "and", "Conneau", ",", "2019", ")", "0.55", "+", "[", "C", "]", "x", "0.61", "MASS", "(", "Song", "et", "al", ".", ",", "2019", ")", "⋆", "0.60", "+", "[", "C", "]", "x", "0.64", "mBART", "(", "Liu", "et", "al", ".", ",", "2020", ")", "⋆", "0.59", "+", "[", "C", "]", "x", "0.64", "Table", "5", ":", "Performance", "on", "MUSE", "task", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Baseline", "models", "(", "⋆", ")", "are", "reimplemented", "with", "our", "configurations", ".", "3.4", "Cross", "-", "lingual", "Word", "Similarity", "Setup", "Given", "the", "idea", "of", "our", "method", ",", "we", "consider", "cross", "-", "lingual", "mappings", "of", "tokens", ".", "Therefore", ",", "we", "are", "interested", "in", "the", "isomorphism", "of", "languages", "’", "embedding", "spaces", ".", "To", "further", "investigate", ",", "the", "pre-", "trained", "UNMT", "model", "is", "evaluated", "on", "MUSE", "⋄", "(", "Lample", "et", "al", ".", ",", "2018b", ")", "with", "the", "provided", "test", "sets", "and", "tools", ",", "which", "is", "used", "to", "test", "cross", "-", "lingual", "word", "similarities", "on", "En↔De", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O" ]

[ "This", "test", "can", "gener-", "ally", "evaluate", "the", "degree", "of", "the", "isomorphism", "of", "languages", "’", "embedding", "spaces", ".", "We", "reuse", "the", "pre-", "trained", "models", "in", "our", "UNMT", "experiment", ".", "After", "restoration", ",", "we", "extract", "words", "required", "by", "the", "test", "set", "via", "shared", "lookup", "tables", ".", "For", "words", "split", "into", "2", "+", "sub", "-", "tokens", ",", "we", "average", "all", "the", "sub", "-", "tokens", ".", "Result", "We", "evaluate", "the", "performance", "by", "similar-", "ities", ",", "reporting", "the", "result", "in", "Table", "5", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Applying", "[", "C", "]", "xcan", "increase", "the", "similarities", "of", "parallel", "words", "from", "{", "En", ",", "De", "}", ",", "consistently", "improving", "the", "per-", "formance", "of", "the", "models", "on", "this", "task", ".", "It", "indicates", "that", "[", "C", "]", "xhelps", "the", "models", "learn", "token", "-", "level", "cross-", "linguality", "in", "pre", "-", "training", ".", "3.5", "Cross", "-", "lingual", "Classification", "Setup", "Beyond", "UNMT", "tasks", "or", "translation", "tasks", ",", "CLPM", "can", "consistently", "improve", "cross", "-", "lingual", "transfer", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Then", ",", "we", "attempt", "the", "cross", "-", "lingual", "clas-", "sification", "task", "on", "XNLI", "(", "Conneau", "et", "al", ".", ",", "2018", ")", "to", "test", "general", "cross", "-", "linguality", "[", "C", "]", "ximproves", "." ]

[ "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "thisModel", "Avg", "(", "Acc", ".", ")", "mBERT", "baseline", "(", "Wu", "and", "Dredze", ",", "2019", ")", "66.3", "XLM", "(", "Lample", "and", "Conneau", ",", "2019", ")", "71.5", "+", "word", "translation", "tables", "(", "Chaudhary", "et", "al", ".", ",", "2020", ")", "72.7", "+", "[", "C", "]", "x", "74.0", "+", "MT", "(", "Lample", "and", "Conneau", ",", "2019", ")", "75.1", "Table", "6", ":", "Performance", "of", "cross", "-", "lingual", "classification", "on", "XNLI", "." ]

[ "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-DatasetName", "O" ]

[ "MT", "stands", "for", "additional", "parallel", "corpora", ".", "We", "use", "the", "same", "transformer", "models", ",", "BPE", "size", ",", "corpora", ",", "tokenization", ",", "and", "BLEU", "as", "the", "baseline", "models", "(", "see", "more", "details", "in", "Appendix", "D.3", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "test", ",", "we", "follow", "the", "standard", "and", "basic", "experiment", "(", "Lample", "and", "Conneau", ",", "2019", ")", "to", "train", "a", "12", "-", "layer", "Transformer", "encoder", "with", "80k", "BPE", "on", "Wikipedia", "dumps⋄of", "15", "XNLI", "languages", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "pre", "-", "train", "the", "encoder", "on", "Encorpora", ",", "considering", "the", "zero", "-", "shot", "classification", "based", "on", "finetuning", "EnNLI", "dataset", ",", "we", "randomly", "compute", "[", "C", "]", "xfrom", "other", "languages", "with", "equal", "probability", "to", "avoid", "the", "cross", "-", "lingual", "bias", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "pre", "-", "training", "on", "corpora", "of", "other", "lan-", "guages", ",", "we", "only", "compute", "[", "C", "]", "xin", "the", "Enentries", ".", "Note", "that", ",", "although", "we", "have", "different", "strategies", "of", "[", "C", "]", "xfor", "the", "languages", ",", "we", "still", "concatenated", "all", "the", "corpora", "of", "the", "languages", "for", "joint", "pre", "-", "training", ".", "Af-", "ter", "pre", "-", "training", ",", "we", "deploy", "a", "randomly", "initialized", "linear", "classifier", "and", "finetune", "the", "encoder", "and", "the", "linear", "classifier", "on", "the", "EnNLI", "dataset", "with", "mini-", "batch", "size", "16", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O" ]

[ "We", "make", "zero", "-", "shot", "classifications", "for", "other", "languages", "." ]

[ "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O" ]

[ "See", "more", "details", "in", "Appendix", "D.3", ".", "Result", "We", "report", "the", "result", "in", "Table", "6", ".", "CLPM", "shows", "effectiveness", "on", "this", "task", ",", "outperforming", "baseline", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "It", "indicates", "that", "[", "C", "]", "xcan", "improve", "cross", "-", "lingual", "transfer", ".", "Meanwhile", ",", "[", "C", "]", "xunderper-", "forms", "XLM", "+", "MT", "that", "uses", "parallel", "corpora", "to", "improve", "cross", "-", "linguality", ".", "As", "discussed", "earlier", ",", "[", "C", "]", "x", "can", "provide", "token", "-", "level", "cross", "-", "lingual", "knowledge", "at", "the", "very", "least", "but", "is", "less", "effective", "than", "golden", "sentence", "-", "level", "knowledge", ".", "Although", "XLM", "+", "MT862", "uses", "additional", "datasets", ",", "it", "somewhat", "sets", "an", "upper", "bound", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "On", "the", "other", "hand", ",", "our", "method", "outperforms", "dictionary", "-", "based", "methods", "(", "+", "word", "translation", "ta-", "bles", ")", ".", "Similar", "to", "the", "observation", "in", "UNMT", ",", "we", "attribute", "to", "the", "effectiveness", "of", "using", "multiple", "can-", "didates", "to", "capture", "morphological", "variations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "How-", "ever", ",", "to", "avoid", "cross", "-", "lingual", "bias", ",", "we", "use", "Enas", "a", "pivot", "or", "anchor", "point", ".", "This", "could", "be", "a", "potential", "problem", "for", "further", "adaptation", "to", "other", "multilingual", "tasks", ".", "See", "limitations", "in", "Appendix", "A", ".", "4", "Related", "Work", "and", "Comparison", "(", "Ren", "et", "al", ".", ",", "2019a", ";", "Chaudhary", "et", "al", ".", ",", "2020", ";", "Lam-", "ple", "et", "al", ".", ",", "2018c", ")", "leverage", "translation", "tables", "as", "entries", "for", "the", "other", "languages", ",", "which", "are", "auto-", "matically", "generated", "from", "statistical", "models", ",", "e.g.", ",", "n", "-", "gram", "models", ".", "The", "model", "forms", "an", "explicit", "cross-", "lingual", "forward", "pass", ":", "{", "[", "M", "]", ",", "xj\\i", "}", "→ti", ",", "where", "ti", "is", "the", "entry", "of", "the", "other", "language", "for", "xi", ".", "In", "con-", "trast", ",", "our", "method", "has", "two", "significant", "differences", ":", "1", ")", "we", "focus", "on", "the", "left", "side", ",", "adapting", "our", "[", "C", "]", "xto", "the", "inputs", "of", "MLM", ";", "2", ")", "our", "method", "does", "not", "rely", "on", "token", "/", "phrase", "-", "level", "translation", "tables", ".", "Dufter", "and", "Schütze", "(", "2020", ")", "present", "a", "cross", "-", "lingual", "forward", "pass", ":", "{", "nn", ",", "x", "j\\i", "}", "→", "xi", ",", "where", "nnisxi", "’s", "near-", "est", "neighbor", "of", "the", "other", "language", "in", "the", "space", "of", "UBWE", ".", "However", ",", "UBWE", "is", "static", "and", "fixed", "with-", "out", "any", "interaction", "with", "the", "multilingual", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "It", "might", "limit", "what", "it", "can", "be", "ultimately", "used", "for", "translation", "(", "Sun", "et", "al", ".", ",", "2019", ";", "Artetxe", "et", "al", ".", ",", "2018b", ";", "Lample", "et", "al", ".", ",", "2018a", ")", ".", "We", "present", "a", "dynamic", "ap-", "proach", "to", "obtain", "candidates", "of", "the", "other", "language", "from", "the", "model", "itself", ",", "which", "is", "inspired", "by", "(", "Ai", "and", "Fang", ",", "2021b", ";", "Sennrich", "et", "al", ".", ",", "2016a", ")", ".", "The", "benefit", "is", "that", "embeddings", "and", "representations", "are", "contex-", "tualized", "when", "pre", "-", "training", "MLM", "on", "monolingual", "corpora", "in", "different", "languages", "(", "Lample", "and", "Con-", "neau", ",", "2019", ")", ".", "Although", "it", "is", "not", "reliable", "at", "the", "very", "early", "pre", "-", "training", ",", "we", "provide", "a", "compromised", "ini-", "tialization", "for", "this", "problem", ".", "We", "also", "consider", "multi-", "ple", "candidates", "for", "cross", "-", "lingual", "prototypes", "instead", "ofnn", ",", "which", "is", "softer", "and", "can", "cover", "morpholog-", "ical", "or", "relevant", "variations", "in", "the", "other", "language", ".", "On", "the", "other", "hand", ",", "considering", "cross", "-", "lingual", "pro-", "totypes", "is", "not", "a", "novel", "idea", "for", "cross", "-", "linguality", ",", "(", "Wang", "et", "al", ".", ",", "2019", ";", "Huang", "et", "al", ".", ",", "2019", ";", "Ai", "and", "Fang", ",", "2021a", ")", "present", "methods", "to", "leverage", "cross-", "lingual", "prototypes", "to", "guide", "encoding", "and", "decoding", ",", "forming", "a", "cross", "-", "lingual", "forward", "pass", "by", "modifying", "inner", "representations", "of", "encoding", "and", "decoding", ":", "{", "[", "M", "]", ",", "xj\\i", "}", "→", "{", "[", "M", "]", ",", "hxj", ",", "hyi", "}", "→xi", ",", "where", "hyiis", "an", "approximation", "of", "xi", "’s", "inner", "representation", "in", "encoding", "and", "decoding", "from", "the", "other", "language", ".", "It", "results", "in", "a", "different", "direction", ".", "We", "also", "employ", "the", "alternation", "strategy", "that", "can", "be", "viewed", "as", "linguistic", "code", "-", "switching", "(", "Scotton", "and", "Ury", ",", "1977", ")", "somewhat", ",", "where", "the", "model", "is", "pre", "-", "trained", "in", "more", "linguistic", "varieties", ".", "In", "learn-", "ing", "models", ",", "linguistic", "code", "-", "switching", "performs", "as", "data", "augmentation", "processes", "(", "Krishnan", "et", "al", ".", ",", "2021", ";", "Chaudhary", "et", "al", ".", ",", "2020", ";", "Tarunesh", "et", "al", ".", ",", "2021", ")", "with", "the", "help", "of", "static", "translation", "tables", "or", "lexicon", "induction", "in", "supervised", "manners", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O" ]

[ "How-", "ever", ",", "lexicon", "induction", "datasets", "or", "translation", "ta-", "bles", "have", "been", "reported", "to", "misrepresent", "morpho-", "logical", "variations", "and", "overly", "focus", "on", "named", "en-", "tities", "and", "frequent", "words", "(", "Artetxe", "et", "al", ".", ",", "2020", ";", "Czarnowska", "et", "al", ".", ",", "2020", ";", "Kementchedjhieva", "et", "al", ".", ",", "2020", ")", "." ]

[ "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "contrast", ",", "CLPM", "is", "dynamic", "and", "un-", "supervised", ",", "leveraging", "contextualized", "representa-", "tions", "and", "multiple", "morphological", "variations", "in", "the", "model", "’s", "embedding", "space", "." ]

[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Meanwhile", ",", "translation", "tables", "are", "instances", "/", "embeddings", "in", "the", "embedding", "space", ",", "whereas", "cross", "-", "lingual", "prototypes", "do", "not", "ex-", "ist", "in", "the", "embedding", "spaces", "and", "are", "new", "gener-", "alized", "samples", "for", "the", "model", ".", "This", "distinction", "is", "observed", "from", "the", "discriminator", "in", "Figure", "1", ".", "5", "Conclusion", "In", "this", "work", ",", "we", "present", "CLPM", ",", "an", "alternative", "masking", "scheme", ",", "to", "compute", "special", "tokens", "[", "C", "]", "xfor", "masking", "in", "multilingual", "MLM", "pre", "-", "training", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "[", "C", "]", "xis", "the", "cross", "-", "lingual", "prototype", "for", "the", "selected", "word", "x", ",", "computed", "from", "multiple", "candidates", "dynamically", "and", "token", "-", "wise", ".", "Compared", "to", "the", "standard", "masking", "scheme", "[", "M", "]", ",", "[", "C", "]", "xautomatically", "forms", "an", "explicit", "cross", "-", "lingual", "forward", "pass", "in", "attention", "mechanism", ",", "consistently", "improving", "cross", "-", "linguality", "in", "multilin-", "gual", "MLM", "pre", "-", "training", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "Experiments", "show", "that", "CLPM", "can", "consistently", "improve", "the", "performance", "of", "translation", "and", "cross", "-", "lingual", "transfer", "." ]

[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "References", "Martin", "Abadi", ",", "Paul", "Barham", ",", "Jianmin", "Chen", ",", "Zhifeng", "Chen", ",", "Andy", "Davis", ",", "Jeffrey", "Dean", ",", "Matthieu", "Devin", ",", "Sanjay", "Ghemawat", ",", "Geoffrey", "Irving", ",", "Michael", "Isard", ",", "Manjunath", "Kudlur", ",", "Josh", "Levenberg", ",", "Rajat", "Monga", ",", "Sherry", "Moore", ",", "Derek", "G", ".", "Murray", ",", "Benoit", "Steiner", ",", "Paul", "Tucker", ",", "Vijay", "Vasudevan", ",", "Pete", "Warden", ",", "Martin", "Wicke", ",", "Yuan", "Yu", ",", "and", "Xiaoqiang", "Zheng", ".", "2016", ".", "Ten-", "sorflow", ":", "A", "system", "for", "large", "-", "scale", "machine", "learning", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "877–892", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "How", "About", "Kind", "of", "Generating", "Hedges", "using", "End", "-", "to", "-", "End", "Neural", "Models", "?", "Alafate", "Abulimiti1,2", ",", "Chloé", "Clavel3", ",", "Justine", "Cassell1,4", "1INRIA", ",", "Paris2ENS", "/", "PSL", "<", "alafate.abulimiti", "@", "inria.fr", ">", "3LTCI", ",", "Insitut", "Polytechnique", "de", "Paris", ",", "Telecom", "Paris", "<", "chloe.clavel", "@", "telecom-paris.fr", ">", "4Carnegie", "Mellon", "University", "<", "justine", "@", "cs.cmu.edu", ">", "Abstract", "Hedging", "is", "a", "strategy", "for", "softening", "the", "impact", "of", "a", "statement", "in", "conversation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "reducing", "the", "strength", "of", "an", "expression", ",", "it", "may", "help", "to", "avoid", "embarrassment", "(", "more", "technically", ",", "“", "face", "threat", "”", ")", "to", "one", "’s", "listener", ".", "For", "this", "reason", ",", "it", "is", "often", "found", "in", "contexts", "of", "instruction", ",", "such", "as", "tutoring", ".", "In", "this", "work", ",", "we", "develop", "a", "model", "of", "hedge", "generation", "based", "on", "i", ")", "fine", "-", "tuning", "state-", "of", "-", "the", "-", "art", "language", "models", "trained", "on", "human-", "human", "tutoring", "data", ",", "followed", "by", "ii", ")", "reranking", "to", "select", "the", "candidate", "that", "best", "matches", "the", "ex-", "pected", "hedging", "strategy", "within", "a", "candidate", "pool", "using", "a", "hedge", "classifier", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "apply", "this", "method", "to", "a", "natural", "peer", "-", "tutoring", "corpus", "containing", "a", "significant", "number", "of", "disfluencies", ",", "repetitions", ",", "and", "repairs", "." ]

[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "results", "show", "that", "generation", "in", "this", "noisy", "environment", "is", "feasible", "with", "rerank-", "ing", ".", "By", "conducting", "an", "error", "analysis", "for", "both", "approaches", ",", "we", "reveal", "the", "challenges", "faced", "by", "systems", "attempting", "to", "accomplish", "both", "social", "and", "task", "-", "oriented", "goals", "in", "conversation", ".", "1", "Introduction", "When", "people", "interact", ",", "they", "attend", "not", "just", "to", "the", "task", "at", "hand", ",", "but", "also", "to", "their", "relationship", "with", "their", "interlocutors", "(", "Tracy", "and", "Coupland", ",", "1990", ")", ".", "One", "key", "aspect", "of", "the", "relationship", "that", "people", "attend", "to", ",", "while", "engaging", "in", "contexts", "as", "diverse", "as", "sales", "(", "Gremler", "and", "Gwinner", ",", "2008", ";", "Planken", ",", "2005", ")", ",", "education", "(", "Glazier", ",", "2016", ";", "Murphy", "and", "Rodríguez", "-", "Manzanares", ",", "2012", ")", "and", "healthcare", "(", "Di-", "Matteo", ",", "1979", ";", "Leach", ",", "2005", ")", ",", "is", "what", "is", "referred", "to", "as", "rapport", ",", "a", "sense", "of", "harmony", "and", "mutual", "un-", "derstanding", "between", "participants", "in", "a", "conversation", "(", "Spencer", "-", "Oatey", ",", "2005", ";", "Tickle", "-", "Degnen", "and", "Rosen-", "thal", ",", "1990", ")", ".", "Indeed", ",", "higher", "levels", "of", "rapport", "are", "cor-", "related", "with", "better", "performance", "in", "each", "of", "these", "do-", "mains", ".", "Zhao", "et", "al", ".", "(", "2014", ")", "describes", "rapport", "as", "built", "upon", "a", "base", "of", "mutual", "attentiveness", ",", "face", "manage-", "ment", ",", "and", "coordination", ".", "This", "base", "is", "built", "primarily", "by", "conversational", "strategies", ",", "or", "ways", "of", "speaking", "(", "including", "nonverbal", "and", "paraverbal", "behaviors", ")", "that", "yeah", ",", "so", "it", "will", "be", "...", "I", "think", "you", "could", "add", "four", "to", "both", "sides", ".", "oh", "no", "...", "Figure", "1", ":", "Hedging", "in", "peer", "tutoring", "manage", "rapport", "throughout", "a", "conversation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Key", "conversational", "strategies", "include", "self", "-", "disclosure", ",", "reference", "to", "shared", "experience", ",", "praise", ",", "and", "hedging", "—", "giving", "instructions", "or", "conveying", "information", "in", "an", "indirect", "manner", "when", "it", "might", "otherwise", "sound", "rude", "or", "overly", "demanding", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "End", "-", "to", "-", "end", "large", "language", "models", "(", "LLM", ")", ",", "of", "the", "kind", "that", "are", "increasingly", "popular", "and", "powerful", ",", "do", "a", "good", "job", "at", "carrying", "out", "the", "propositional", "or", "information", "-", "carrying", "aspects", "of", "conversation", ",", "and", "a", "relatively", "good", "job", "of", "maintaining", "the", "coherence", "of", "a", "conversation", ",", "but", "they", "are", "not", "as", "good", "at", "changing", "how", "they", "say", "something", "as", "a", "function", "of", "a", "relation-", "ship", "with", "the", "human", "user", ",", "while", "humans", "are", ",", "for", "the", "most", "part", ",", "quite", "good", "at", "this", "." ]

[ "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "since", "saying", "things", "in", "a", "specific", "manner", "-", "for", "example", ",", "through", "a", "hedge", "-", "helps", "task", "performance", ",", "it", "is", "an", "important", "topic", "for", "dialogue", "systems", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Linguists", "define", "hedges", "as", "a", "way", "of", "diminishing", "face", "threat", "(", "meaning", "the", "“", "positive", "social", "value", "a", "person", "effectively", "claims", "for", "himself", "”", "(", "Goffman", ",", "1967", ")", "by", "attenuating", "the", "extent", "or", "impact", "of", "an", "ex-", "pression", "(", "Brown", "and", "Levinson", ",", "1987", ";", "Fraser", ",", "2010", ")", ".", "Figure", "1", "shows", "a", "typical", "example", "of", "hedging", "in", "a", "peer", "tutoring", "setting", ",", "where", "the", "tutor", "uses", "two", "hedges", "(", "“", "I", "think", "”", "and", "“", "could", "”", "rather", "than", "“", "should", "”", ")", "to", "deliver", "a", "hint", "for", "the", "next", "step", "of", "solving", "an", "algebra", "equation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Tutoring", "is", "one", "context", "in", "which", "hedges", "are", "found", "in", "abundance", "and", "where", "recognizing", "them", "might", "be", "important", "for", "intelligent", "tutoring", "systems", ",", "as", "attested", "by", "the", "number", "of", "computational", "ap-877", "proaches", "that", "attempt", "to", "do", "so", "(", "see", "section", "2", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In-", "terestingly", ",", "even", "unskilled", "tutors", "use", "them", ".", "In", "fact", ",", "research", "on", "peer", "tutoring", "has", "shown", "that", "when", "rap-", "port", "between", "a", "peer", "tutor", "and", "tutee", "is", "low", ",", "but", "the", "tutor", "is", "confident", "in", "his", "/", "her", "skills", ",", "that", "tutor", "tends", "to", "use", "more", "hedges", ",", "and", "this", "results", "in", "more", "prob-", "lems", "attempted", "by", "the", "student", "and", "more", "problems", "successfully", "solved", "(", "Madaio", "et", "al", ".", ",", "2017", ")", ".", "In", "this", "paper", ",", "then", ",", "we", "work", "towards", "the", "devel-", "opment", "of", "a", "generation", "module", "for", "a", "virtual", "peer", "tutor", "that", ",", "like", "real", "peer", "tutors", ",", "is", "able", "to", "choose", "the", "manner", "of", "delivering", "information", "in", "such", "a", "way", ".", "Specifically", ",", "we", "address", "two", "research", "questions", ":", "RQ1", ":", "How", "good", "are", "end", "-", "to", "-", "end", "large", "language", "models", "used", "alone", "for", "generating", "hedges", "when", "fine-", "tuned", "on", "a", "peer", "-", "tutoring", "dialogue", "dataset", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Are", "the", "models", "able", "to", "implicitly", "learn", "when", "and", "how", "to", "generate", "hedges", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O" ]

[ "The", "first", "question", "may", "be", "answered", "by", "compar-", "ing", "the", "performance", "of", "various", "fine", "-", "tuned", "models", ".", "If", "the", "end", "-", "to", "-", "end", "models", "can", "not", "learn", "to", "hedge", "im-", "plicitly", ",", "we", "might", "attempt", "to", "drive", "the", "models", "to", "generate", "the", "utterances", "by", "providing", "the", "correct", "labels", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "assume", "that", "the", "correct", "labels", "can", "be", "provided", "by", "another", "module", "of", "the", "system", ",", "so", "we", "compare", "the", "reranking", "method", "with", "the", "fine", "-", "tuning", "method", ",", "as", "the", "former", "is", "simple", ",", "powerful", ",", "and", "widely", "used", "for", "text", "generation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Consequently", ",", "the", "second", "question", "is", ":", "RQ2", ":", "Can", "we", "improve", "these", "models", "by", "using", "a", "reranking", "approach", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O" ]

[ "If", "so", ",", "what", "are", "the", "remaining", "errors", "and", "why", "do", "they", "occur", "?", "2", "Related", "Work", "Considerably", "more", "computational", "methods", "exist", "to", "determine", "what", "a", "dialogue", "system", "should", "say", "than", "how", "to", "say", "it", ".", "However", ",", "more", "recently", ",", "with", "the", "increased", "power", "of", "end", "-", "to", "-", "end", "models", "to", "find", "information", "and", "convey", "it", "accurately", ",", "we", "can", "now", "turn", "to", "ensuring", "that", "the", "end", "-", "to", "-", "end", "model", "simul-", "taneously", "also", "meets", "social", "goals", ",", "to", "increase", "the", "impact", "and", "acceptability", "of", "what", "is", "conveyed", ".", "2.1", "Theoretical", "Approaches", "to", "hedges", "As", "described", "above", ",", "a", "hedge", "can", "soften", "the", "impact", "of", "an", "utterance", "that", "might", "otherwise", "seem", "rude", ",", "such", "as", "a", "demand", "(", "“", "could", "you", "pass", "the", "salt", "”", ")", "or", "an", "instruction", "(", "“", "you", "might", "want", "to", "pour", "the", "coffee", "over", "the", "sink", "”", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Madaio", "et", "al", ".", "(", "2017", ")", "has", "attested", "to", "the", "frequent", "use", "of", "hedges", "in", "the", "peer", "-", "tutoring", "setting", ",", "and", "their", "positive", "impact", "on", "performance", ",", "perhaps", "because", "hedges", "in", "this", "context", "might", "re-", "duce", "a", "tutee", "’s", "embarrassment", "at", "not", "knowing", "the", "correct", "answer", "(", "Rowland", ",", "2007", ")", ".", "In", "linguistic", "terms", ",", "hedging", "is", "a", "rhetorical", "strat-", "egy", "that", "attenuates", "the", "full", "force", "of", "an", "expression", "(", "Fraser", ",", "2010", ")", "and", "for", "this", "reason", ",", "it", "has", "been", "cov-", "ered", "in", "linguistic", "pragmatics", "and", "the", "study", "of", "polite-", "ness", ".", "Two", "main", "categories", "of", "hedges", "are", "identified", "in", "the", "literature", ":", "Propositional", "Hedges", "andRela-", "tional", "Hedges", "(", "Prince", "et", "al", ".", ",", "1982", ")", ".", "Propositional", "Hedges", "(", "called", "Approximators", "by", "(", "Prince", "et", "al", ".", ",", "1982", ")", ")", "refer", "to", "uncertain", "(", "Vincze", ",", "2014", ")", ",", "fuzzy", "(", "Lakoff", ",", "1975", ")", "and", "vague", "(", "Williamson", ",", "2002", ")", "lan-", "guage", "use", ",", "such", "as", "“", "kind", "of", "”", ".", "Relational", "Hedges", "(", "called", "Shields", "in", "(", "Prince", "et", "al", ".", ",", "1982", ")", ")", "indicate", "that", "the", "expression", "is", "subjective", "or", "an", "opinion", ",", "as", "in", "“", "I", "think", "that", "is", "incorrect", "”", ".", "Attribution", "Shields", "are", "a", "subtype", "of", "relational", "hedges", "that", "attribute", "the", "opinion", "to", "others", ",", "such", "as", "“", "everyone", "says", "you", "should", "stop", "smoking", "”", ".", "Apologizers", "(", "Raphalen", "et", "al", ".", ",", "2022", ")", "are", "apologies", "that", "mitigate", "the", "strength", "of", "an", "utterance", ",", "as", "in", "“", "I", "’m", "sorry", "but", "you", "have", "to", "do", "your", "homework", "”", ".", "While", "the", "different", "types", "of", "hedges", "operate", "in", "different", "ways", ",", "they", "all", "serve", "the", "same", "mitigation", "functions", "in", "conversation", ".", "For", "this", "reason", ",", "in", "what", "follows", "—", "a", "first", "attempt", "at", "generating", "hedges", "—", "we", "collapse", "the", "different", "sub", "-", "classes", "and", "refer", "only", "to", "hedges", "and", "non", "-", "hedges", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2.2", "Computational", "Approaches", "Some", "prior", "work", "has", "looked", "at", "the", "detection", "of", "conversational", "strategies", "and", "in", "particular", "work", "by", "Zhao", "and", "colleagues", "(", "Zhao", "et", "al", ".", ",", "2014", ",", "2016b", ",", "a", ")", ".", "Madaio", "et", "al", ".", "(", "2017", ")", "built", "a", "classifier", "to", "detect", "hedg-", "ing", "and", "achieved", "an", "accuracy", "of", "81", "%", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "I-MetricValue", "O" ]

[ "Recent", "work", "by", "Raphalen", "et", "al", ".", "(", "2022", ")", "improved", "the", "detection", "of", "different", "types", "of", "hedges", "and", "achieved", "a", "weighted", "F1", "score", "of", "0.97", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "B-MetricValue", "O" ]

[ "Hedging", "is", "a", "particular", "kind", "of", "indirectness", ",", "and", "therefore", "as", "we", "look", "at", "prior", "work", "in", "the", "area", ",", "we", "include", "approaches", "to", "the", "generation", "of", "indi-", "rect", "speech", "." ]

[ "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "plan", "-", "based", "generation", "of", "indirect", "speech", "acts", "has", "existed", "almost", "as", "long", "as", "dialogue", "systems", "themselves", "(", "Clark", ",", "1979", ";", "Brown", ",", "1980", ";", "Perrault", ",", "1980", ")", ".", "More", "recently", ",", "other", "relevant", "as-", "pects", "of", "politeness", "have", "also", "been", "addressed", ".", "For", "example", ",", "Porayska", "-", "Pomsta", "and", "Mellish", "(", "2004", ")", "op-", "erationalized", "the", "important", "notion", "of", "face", "in", "po-", "liteness", "theory", "to", "generate", "polite", "sentences", "with", "a", "template", "pool", ".", "Although", "contemporary", "dialogue878", "systems", "tend", "to", "integrate", "indirect", "speech", "(", "Miehle", "et", "al", ".", ",", "2022", ";", "Briggs", "et", "al", ".", ",", "2017", ")", ",", "generating", "hedges", "with", "powerful", "language", "models", ",", "and", "particularly", "as", "a", "function", "of", "the", "social", "context", ",", "has", "not", "been", "explored", ".", "Our", "desire", "to", "look", "at", "the", "social", "context", "leads", "us", "to", "train", "on", "spontaneous", "dialogue", "that", "is", "substantially", "noisier", ",", "owing", "to", "natural", "conversa-", "tional", "phenomena", "such", "as", "disfluency", ".", "This", "differs", "from", "the", "majority", "of", "prior", "work", ",", "trained", "on", "written", "or", "acted", "corpora", "(", "Li", "et", "al", ".", ",", "2017", ";", "Rashkin", "et", "al", ".", ",", "2019", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2.3", "Generation", "Techniques", "Different", "techniques", "have", "been", "used", "in", "the", "past", "to", "generate", "responses", "of", "a", "particular", "kind", "for", "dialogue", "systems", ".", "Madaan", "et", "al", ".", "(", "2020", ")", "used", "n", "-", "gram", "TF-", "IDF", "to", "identify", "source", "style", "words", "and", "generate", "target", "politeness", "style", "utterances", "by", "replacing", "these", "words", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Niu", "and", "Bansal", "(", "2018", ")", "generated", "politeness", "formulations", "by", "using", "reinforcement", "learning", "with", "a", "trained", "politeness", "classifier", ".", "Similar", "to", "our", "ap-", "proach", ",", "the", "explicit", "knowledge", "of", "politeness", "is", "only", "given", "to", "the", "classifier", ".", "Liu", "et", "al", ".", "(", "2021", ")", "constructed", "an", "emotional", "support", "dataset", "with", "eight", "different", "dialogue", "strategies", "and", "fine", "-", "tuned", "the", "pre", "-", "trained", "language", "models", "by", "connecting", "the", "label", "tokens", "to", "the", "beginning", "of", "each", "utterance", "in", "order", "to", "create", "a", "dialogue", "generator", "that", "can", "produce", "the", "target", "responses", "without", "focusing", "on", "the", "social", "context", ".", "The", "reranking", "method", "is", "also", "widely", "used", "in", "text", "generation", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "Hossain", "et", "al", ".", "(", "2020", ")", "used", "a", "sim-", "ple", "and", "effective", "pipeline", "where", "they", "retrieved", "the", "original", "texts", "from", "the", "database", ",", "then", "edited", "with", "a", "Transformer", "(", "Vaswani", "et", "al", ".", ",", "2017", ")", "model", ",", "and", "then", "reranked", "the", "text", "by", "generation", "scores", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O" ]

[ "Soni", "et", "al", ".", "(", "2021", ")", "first", "applied", "reranking", "to", "conversa-", "tional", "strategy", "generation", "by", "controlling", "the", "level", "of", "self", "-", "disclosure", "in", "the", "outputs", "of", "DialoGPT", "(", "Zhang", "et", "al", ".", ",", "2020b", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "authors", "of", "LaMDA", "(", "Thoppilan", "et", "al", ".", ",", "2022", ")", "used", "various", "classifiers", "to", "rerank", "and", "filter", "out", "inappropriate", "responses", "." ]

[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Recently", ",", "Chat-", "GPT", "(", "OpenAI", ",", "2022", ")", "used", "reinforcement", "learning", "with", "human", "feedback", ",", "and", "has", "shown", "impressive", "performance", "." ]

[ "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "the", "articles", "above", ",", "most", "algorithms", "were", "trained", "on", "written", "dialogue", "datasets", ",", "which", "facili-", "tated", "the", "task", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "our", "spontaneous", "dialogue", "dataset", "may", "lead", "the", "way", "for", "cutting", "-", "edge", "models", "trained", "on", "a", "real", "-", "world", ",", "face", "-", "to", "-", "face", "interactional", "dataset.3", "Methodology", "3.1", "Task", "Description", "LetD=", "{", "d1", ",", "d2", ",", "d3", ",", "...", "d", "n", "}", "be", "a", "set", "of", "dialogues", ",", "where", "each", "dialogue", "d=", "{", "u1", ",", "u2", ",", "u3", "...", "um", "}", "is", "com-", "posed", "of", "mturns", ",", "where", "uiis", "a", "turn", ".", "Each", "tu-", "tor", "turn", "(", "and", "each", "tutee", "turn", ",", "although", "we", "will", "not", "examine", "the", "tutee", "turns", "further", "here", ")", "is", "la-", "beled", "as", "hedge", "or", "non", "-", "hedge", ";", "we", "call", "lithe", "la-", "bel", "of", "ui", ".", "A", "fixed", "window", "size", "ωof", "the", "dia-", "logue", "history", "is", "assigned", "to", "each", "utterance", ":", "hi=", "{", "umax", "(", "1", ",", "i−ω", ")", ",", "ui−ω+1", ",", "...", "u", "i−1", "}", ".", "The", "goal", "of", "this", "work", "is", "to", "train", "a", "generator", "(", "G", ")", "that", "can", "produce", "a", "tutor", "’s", "utterance", "u′", "ithat", "matches", "a", "given", "hedge", "strategy", "(", "i.e.", ",", "hedge", "or", "non", "-", "hedge", ")", "li", ",", "according", "to", "the", "dialogue", "history", "hi", ".", "3.2", "Corpus", "The", "dataset", "we", "used", "in", "the", "current", "work", "is", "the", "same", "as", "that", "used", "in", "our", "prior", "work", "(", "Raphalen", "et", "al", ".", ",", "2022", ";", "Goel", "et", "al", ".", ",", "2019", ";", "Zhao", "et", "al", ".", ",", "2014", ")", ".", "24", "American", "teenagers", "aged", "12", "to", "15", ",", "half", "boys", "and", "half", "girls", ",", "were", "assigned", "to", "same", "-", "gender", "pairs", ".", "They", "took", "turns", "tutoring", "each", "other", "in", "linear", "alge-", "bra", "once", "a", "week", "for", "five", "weeks", ",", "for", "a", "total", "of", "60", "hours", "of", "face", "-", "to", "-", "face", "interaction", ".", "Each", "interaction", "was", "composed", "of", "two", "tutoring", "periods", ",", "where", "the", "teens", "took", "turns", "being", "the", "tutor", ",", "with", "a", "social", "pe-", "riod", "at", "the", "beginning", "and", "between", "the", "two", "tutoring", "periods", ".", "For", "the", "purposes", "of", "the", "earlier", "work", "the", "corpus", "was", "annotated", "for", "hedges", ",", "as", "well", "as", "the", "subcategories", "of", "hedges", ",", "at", "the", "clause", "level", ".", "For", "our", "purposes", ",", "since", "generation", "happens", "at", "the", "level", "of", "the", "turn", ",", "we", "merge", "the", "clauses", "and", "their", "labels", "into", "speaker", "turns", "and", "turn", "-", "level", "hedge", "labels", "(", "see", "Appendix", "A", "for", "the", "merge", "strategy", ")", ".", "Our", "goal", "is", "to", "create", "a", "hedge", "generation", "mod-", "ule", "that", "can", "produce", "an", "appropriate", "hedge", "strategy", "for", "a", "tutor", "giving", "an", "instruction", ",", "according", "to", "what", "has", "been", "said", "before", "as", "indicated", "by", "the", "dialogue", "history", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "this", "reason", "we", "kept", "all", "turns", "in", "the", "dia-", "logue", "history", ",", "even", "though", "our", "model", "is", "trained", "to", "generate", "only", "the", "tutor", "’s", "turns", "(", "and", "not", "those", "of", "the", "tutee", ")", ".", "There", "are", "6562", "turns", "in", "these", "interactions", ",", "of", "which", "5626", "contain", "non", "-", "hedges", "and", "936", "hedges", ".", "Being", "authentic", "interaction", ",", "there", "are", "disfluen-", "cies", "(", "“", "so", "just", "yeah", "just", "um", "”", ")", ",", "repetitions", "(", "“", "that", "would", "be", "then", "that", "would", "be", "”", ")", ",", "repairs", "(", "“", "oh", "wait", ",", "actually", "the", "x", "would", "go", "here", "”", ")", ",", "and", "other", "spoken", "phenomena", "such", "as", "one", "-", "word", "clauses", ".", "These", "phe-", "nomena", "make", "generating", "hedges", "challenging", "since", "the", "language", "models", "we", "use", "are", "primarily", "trained879", "on", "written", "dialogues", ",", "which", "do", "not", "contain", "most", "of", "these", "features", ".", "However", ",", "our", "work", "allows", "us", "to", "see", "how", "far", "we", "can", "go", "with", "authentic", "spoken", "data", ".", "3.3", "Methods", "We", "combine", "two", "techniques", "for", "generating", "the", "tu-", "tor", "’s", "turn", ":", "Fine", "-", "tuning", "an", "existing", "generation", "model", "andRe", "-", "ranking", "the", "generated", "outputs", "to", "match", "the", "desired", "hedge", "strategy", ".", "3.3.1", "Fine", "Tuning", "Method", "First", ",", "we", "want", "to", "evaluate", "how", "well", "the", "model", "per-", "forms", "when", "hedge", "information", "is", "implicitly", "taught", "through", "fine", "-", "tuning", ".", "We", "fine", "-", "tuned", "the", "generation", "model", "with", "the", "training", "set", "of", "the", "peer", "-", "tutoring", "corpus", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O" ]

[ "Each", "utterance", "ui=", "(", "w1", ",", "...", ",", "w", "n", ")", "is", "com-", "posed", "of", "ntokens", ",", "the", "dialogue", "history", "hias", "input", "to", "the", "generation", "model", ".", "We", "apply", "cross", "-", "entropy", "loss", "between", "uiandu′", "i", ",", "where", "u′∈R|V|", ",", "Vis", "the", "vocabulary", ".", "J", "(", "ui", ",", "u′", "i", ")", "=", "−1", "nj=|V|", "/", "summationdisplay", "j=1ui", ",", "jlog", "(", "u′", "i", ",", "j", ")", "(", "1", ")", "3.3.2", "Reranking", "Method", "Since", "a", "hedge", "classifier", "was", "developed", "for", "prior", "work", "in", "our", "lab", "(", "Goel", "et", "al", ".", ",", "2019", ";", "Raphalen", "et", "al", ".", ",", "2022", ")", ",", "we", "can", "use", "it", "to", "determine", "whether", "a", "gen-", "erated", "text", "is", "a", "hedge", "or", "not", "and", "then", "inform", "the", "generator", "of", "the", "decision", "in", "order", "to", "regulate", "the", "output", ".", "This", "is", "known", "as", "reranking", ",", "and", "is", "what", "we", "use", "here", "as", "our", "second", "generation", "strategy", ".", "1", ")", "We", "first", "pretrain", "our", "generator", "as", "in", "fine", "tun-", "ing", ".", "We", "then", "apply", "this", "generator", "to", "the", "test", "set", "to", "generate", "501candidate", "utterances", "for", "each", "dia-", "logue", "history", "(", "Figure", "2", ")", ".", "2", ")", "These", "candidates", "are", "first", "ranked", "by", "their", "sentence", "scores", "(", "i.e.", ",", "the", "final", "outputted", "token", "’s", "log", "probability", "for", "each", "sentence", ")", ".", "3", ")", "We", "then", "use", "the", "hedge", "classifier", "described", "above", "to", "filter", "out", "the", "utterances", "that", "do", "not", "match", "the", "selected", "strategy", "(", "i.e.", ",", "hedge", "or", "non", "-", "hedge", ")", ".", "4", ")", "We", "keep", "utterances", "that", "match", "the", "selected", "hedge", "strategy", ".", "If", "more", "than", "one", "candidate", "matches", "the", "strategy", ",", "we", "pick", "the", "first", "one", "that", "matches", ",", "which", "means", "the", "one", "with", "the", "highest", "sentence", "score", ".", "5", ")", "If", "none", "of", "the", "candidates", "matches", "the", "selected", "hedge", "strategy", ",", "we", "output", "the", "one", "that", "has", "the", "highest", "sentence", "score", ".", "1See", "Appendix", "C", "for", "the", "details4", "Experimental", "Setting", "4.1", "Data", "Processing", "We", "randomly", "split", "the", "final", "dataset", "based", "on", "a", "60:20:20", "ratio", ".", "Of", "these", ",", "60", "%", "is", "the", "training", "set", ",", "20", "%", "is", "the", "validation", "set", ",", "and", "20", "%", "is", "the", "test", "set", ".", "Since", "our", "dataset", "is", "highly", "unbalanced", ",", "if", "we", "used", "it", "as", "is", "the", "results", "would", "be", "too", "biased", "towards", "non", "-", "hedges", ".", "In", "that", "approach", "the", "gap", "between", "the", "results", "of", "different", "models", "would", "not", "be", "clear", "be-", "cause", "non", "-", "hedges", "are", "so", "much", "more", "frequent", ".", "For", "this", "reason", ",", "we", "manually", "balance", "by", "randomly", "se-", "lecting", "235", "non", "-", "hedge", "turns", "to", "balance", "the", "235", "hedges", "in", "the", "test", "set", ",", "and", "combine", "the", "data", "to", "form", "a", "new", "balanced", "test", "set", ".", "On", "the", "other", "hand", ",", "in", "order", "to", "have", "a", "large", "enough", "training", "set", ",", "we", "retain", "all", "tu-", "tor", "turns", "from", "the", "complete", "dataset", ",", "which", "therefore", "consists", "of", "701", "hedge", "turns", "and", "4455", "non", "-", "hedge", "turns", ",", "resulting", "in", "a", "dataset", "that", "is", "very", "skewed", ",", "but", "has", "more", "turns", ".", "While", "the", "complete", "dataset", "contains", "a", "relatively", "small", "number", "of", "hedge", "turns", ",", "we", "believe", "that", "pre-", "serving", "the", "natural", "data", "distribution", "is", "crucial", "for", "addressing", "our", "first", "research", "question", ".", "Underscor-", "ing", "the", "wisdom", "of", "this", "approach", ",", "the", "results", "we", "obtained", "on", "perplexity", "and", "the", "BARTscore", "(", "that", "are", "indicative", "of", "fluency", "in", "the", "generated", "responses", ",", "as", "described", "below", ")", "demonstrate", "that", "the", "models", "were", "able", "to", "generate", "responses", "with", "reasonable", "fluency", "and", "quality", "despite", "the", "small", "number", "of", "hedge", "turns", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.2", "SOTA", "Pretrained", "Language", "Models", "We", "compare", "the", "performance", "of", "different", "state", "-", "of-", "the", "-", "art", "(", "SOTA", ")", "free", "open", "-", "source", "pretrained", "mod-", "els", "as", "our", "generators", ":", "BART", ",", "DialoGPT", ",", "and", "BlenderBot", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "B-MethodName", "O" ]

[ "BART", "(", "Lewis", "et", "al", ".", ",", "2020", ")", "uses", "an", "encoder", "-", "decoder", "architecture", ",", "trained", "on", "books", "and", "Wikipedia", "data", ",", "and", "performs", "well", "on", "tasks", "as", "var-", "ied", "as", "Q", "&", "A", "(", "SQuAD", "(", "Rajpurkar", "et", "al", ".", ",", "2016", ")", ")", ",", "text", "generation", ",", "text", "classification", "(", "MNLI", "(", "Williams", "et", "al", ".", ",", "2018", ")", ")", ",", "and", "text", "summarization", "tasks", "(", "ELI5", "(", "Fan", "et", "al", ".", ",", "2019", ")", ")", "." ]

[ "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "It", "is", "pretrained", "by", "distorting", "the", "format", "of", "the", "input", "text", "in", "various", "ways", ",", "and", "this", "training", "helps", "us", "to", "visualize", "its", "possible", "ap-", "plication", "to", "noisy", "spontaneous", "spoken", "dialogues", ".", "DialoGPT", "(", "Zhang", "et", "al", ".", ",", "2020b", ")", "is", "a", "dialogue", "ver-", "sion", "of", "GPT-2", "(", "Radford", "et", "al", ".", ",", "2019", ")", ",", "an", "autore-", "gressive", "language", "model", "with", "a", "multi", "-", "layer", "Trans-", "former", "(", "Vaswani", "et", "al", ".", ",", "2017", ")", "decoder", "as", "its", "model", "architecture", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "It", "is", "trained", "on", "140", "million", "conversa-", "tional", "exchanges", "extracted", "from", "Reddit", "comment880", "Dialogue", "History", "u'_n", "u'_4", "u'_3", "u'_2", "u'_1", "Generator", "l'_n", "l'_4", "l'_3", "l'_2", "l'_1", "...", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "l_i", "=", "true", "label", "u'_i", "=", "best", "response", "Hedging", "Classi\u0000erGeneration", "Classi\u0000cationReranking", "Dialogue", "historyTutor", "responseHedge", "Label", "tutor", ":", "...", "tutee", ":", "..", "tutor", ":", "...", "tutee", ":", "...", "tutor", ":", "...", "l_i", "Test", "DataFigure", "2", ":", "Reranking", "method", "threads", ".", "BlenderBot", "(", "Roller", "et", "al", ".", ",", "2021", ")", "uses", "the", "standard", "Seq2Seq", "Transformer", "architecture", ",", "but", "incorporates", "a", "number", "of", "dialogue", "training", "sets", ":", "Empathetic", "Dialogue", "(", "Rashkin", "et", "al", ".", ",", "2019", ")", ",", "Per-", "sonaChat", "(", "Zhang", "et", "al", ".", ",", "2018", ")", ",", "ConvAI2", "(", "Dinan", "et", "al", ".", ",", "2020", ")", ",", "and", "other", "datasets", "that", ",", "while", "largely", "handcrafted", ",", "focus", "on", "personality", "and", "emotions", ",", "enabling", "it", "to", "potentially", "develop", "some", "version", "of", "social", "skills", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.3", "Evaluation", "Metrics", "To", "evaluate", "performance", ",", "we", "used", "the", "most", "widely", "used", "set", "of", "reference", "-", "based", "metrics", "for", "natural", "lan-", "guage", "generation", "tasks", "(", "Liu", "et", "al", ".", ",", "2021", ";", "Ziems", "et", "al", ".", ",", "2022", ")", ".", "Since", "these", "metrics", "have", "not", "been", "used", "for", "conversational", "strategies", ",", "we", "add", "an", "un-", "supervised", "reference", "-", "free", "metric", ",", "the", "BART", "score", "(", "Yuan", "et", "al", ".", ",", "2021", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "BART", "score", "formulates", "the", "evaluation", "process", "as", "a", "text", "generation", "task", "using", "a", "pre", "-", "trained", "model", "." ]

[ "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "score", "represents", "the", "proba-", "bility", "of", "generating", "a", "hypothesis", "given", "a", "source", "text", ".", "The", "higher", "BART", "score", "represents", "better", "text", "from", "different", "perspectives", "(", "e.g.", ",", "informativeness", ",", "factu-", "ality", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "this", "paper", ",", "we", "denote", "the", "dialogue", "history", "as", "the", "source", "text", "and", "the", "generated", "utterance", "as", "the", "hypothesis", ".", "For", "comparison", ",", "we", "calculate", "the", "BART", "score", "between", "the", "dialogue", "history", "and", "the", "real", "response", "in", "the", "test", "dataset", ",", "giving", "a", "result", "of−6.44", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O" ]

[ "We", "also", "evaluated", "the", "relevance", "of", "the", "generated", "hedge", "strategy", "using", "an", "F1", "score", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O" ]

[ "The", "results", "using", "these", "metrics", "are", "presented", "in", "Table", "2", ".", "The", "detailed", "description", "of", "the", "metrics", "used", "is", "in", "Appendix", "B", ".", "4.4", "Human", "Evaluation", "While", "the", "metrics", "described", "above", "are", "important", "for", "comparison", "with", "the", "performance", "of", "other", "work", "in", "the", "field", ",", "they", "do", "not", "obviate", "the", "need", "for", "humanannotation", ".", "We", "therefore", "asked", "two", "annotators", "to", "ignore", "sub", "-", "categories", "and", "annotate", "only", "hedge", "or", "non", "-", "hedge", "on", "each", "tutor", "turn", "of", "the", "model", "’s", "output", ",", "with", "access", "to", "4", "prior", "turns", "of", "the", "dialogue", "history", ".", "During", "a", "training", "phase", "the", "annotators", "reached", "an", "inter", "-", "rater", "reliability", "of", "over", ".7Kripendoff", "’s", "alpha", "(", "Krippendorff", ",", "2004", ")", "which", "indicates", "substantial", "agreement", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "B-MetricValue", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "One", "of", "the", "annotators", "then", "finished", "the", "remainder", "of", "the", "annotation", ".", "We", "computed", "the", "F1", "scores", "for", "the", "label", "of", "the", "generated", "utterances", "with", "respect", "to", "the", "real", "tutor", "turn", "’s", "label", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "higher", "F1", "score", "indicates", "that", "the", "approach", "is", "better", "suited", "to", "generate", "the", "correct", "hedge", "strategy", "(", "see", "Table", "2", ")", "." ]

[ "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "also", "asked", "the", "annotators", "to", "pay", "attention", "to", "whether", "the", "output", "was", "unnatural", "and", "to", "note", "it", "if", "so", ".", "The", "annotators", "reported", "no", "concerns", "with", "the", "naturalness", "of", "the", "generated", "utterances", ".", "The", "concept", "of", "fluency", "has", "recently", "gained", "pop-", "ularity", "in", "the", "dialogue", "community", "(", "Li", "et", "al", ".", ",", "2019", ";", "See", "et", "al", ".", ",", "2019", ")", ",", "but", "the", "current", "definition", "of", "flu-", "ency", "varies", ".", "More", "fundamentally", ",", "evaluations", "of", "this", "kind", "are", "more", "applicable", "to", "written", "text", "or", "scripted", "dialogues", "(", "Pang", "et", "al", ".", ",", "2020", ";", "D’Haro", "et", "al", ".", ",", "2019", ")", ".", "as", "they", "can", "not", "handle", "disfluencies", "(", "e.g.", ",", "hes-", "itations", ",", "repetitions", ",", "false", "starts", ")", "of", "the", "kind", "that", "are", "common", "in", "spontaneous", "spoken", "dialogues", ",", "and", "that", "may", "serve", "to", "give", "the", "speaker", "time", "to", "plan", "the", "next", "utterance", "(", "Biber", "et", "al", ".", ",", "1999", ";", "Thornbury", "and", "Slade", ",", "2006", ")", ".", "We", "therefore", "did", "not", "assess", "fluency", "in", "this", "work", ".", "5", "Results", "5.1", "RQ1", ":", "How", "well", "do", "end", "-", "to", "-", "end", "models", "perform", "alone", "for", "generating", "hedges", "?", "Table", "2", "compares", "the", "performance", "of", "the", "genera-", "tion", "models", ".", "BlenderBot", "outperforms", "the", "other", "2", "models", "on", "most", "metrics", ",", "although", "with", "similar", "per-881", "formance", "to", "DialoGPT", ",", "on", "BLEU", "and", "ROUGE", "-", "L", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MetricName", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O" ]

[ "The", "discrepancy", "between", "BlenderBot", "and", "BART", "in", "each", "score", "is", "relatively", "wide", "." ]

[ "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "discrepancy", "is", "most", "apparent", "on", "measures", "that", "compute", "scores", "based", "on", "n", "-", "gram", "-", "level", "overlaps", "(", "BLEU", ",", "ROUGE", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O" ]

[ "To", "find", "the", "reason", "for", "this", "discrepancy", ",", "we", "calculate", "the", "average", "length", "of", "the", "outputs", "of", "the", "3", "models", "and", "observe", "5.2", "words", "for", "BART", ",", "11.8", "words", "for", "BlenderBot", ",", "and", "14.5", "words", "for", "DialoGPT", ",", "while", "the", "average", "length", "of", "the", "tutor", "’s", "utterances", "in", "test", "data", "is", "15.2", "words", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "B-MethodName", "O", "B-MetricValue", "O", "O", "B-MethodName", "O", "O", "B-MetricValue", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O" ]

[ "The", "average", "length", "of", "the", "out-", "put", "of", "DialoGPT", "is", "therefore", "close", "to", "that", "of", "the", "test", "set", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "further", "explains", "DialoGPT", "’s", "strong", "performance", "on", "the", "BLEU", "and", "ROUGE", "scores", "." ]

[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O" ]

[ "On", "the", "other", "hand", ",", "BART", "tends", "to", "generate", "shorter", "turns", ",", "consequently", "demonstrating", "lower", "scores", "on", "metrics", "that", "require", "the", "calculation", "of", "repetition", "grams", "to", "yield", "scores", "." ]

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Note", "that", "in", "similar", "tasks", ",", "the", "best", "model", "was", "Blenderbot", "with", "a", "BLEU", "2", "score", "of", "6.21", ",", "in", "the", "case", "of", "emotional", "support", "con-", "versational", "strategy", "generation", "(", "Liu", "et", "al", ".", ",", "2021", ")", ",", "while", "DialoGPT", "reached", "5.52", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MetricValue", "O" ]

[ "The", "best", "score", "in", "the", "positive", "text", "reframing", "task", ",", "meanwhile", ",", "was", "11.0", "for", "BLEU", "1", "(", "Ziems", "et", "al", ".", ",", "2022", ")", ",", "while", "BART", "reached", "10.1", "and", "GPT-2", "reached", "4.2", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MetricValue", "O", "B-MethodName", "O", "B-MetricValue", "O" ]

[ "Table", "1", "shows", "that", "BART", "has", "the", "lowest", "perplex-", "ity", "score", ",", "indicating", "that", "BART", "is", "more", "adaptive", "to", "our", "dataset", "compared", "to", "the", "other", "two", "models", "." ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "may", "be", "due", "to", "its", "pre", "-", "training", "approaches", "(", "see", "Section", "4.2", ")", "that", "corrupt", "input", "texts", "with", "an", "arbi-", "trary", "noising", "function", ".", "These", "approaches", "enable", "more", "accurate", "predictions", "in", "our", "noisy", "real", "-", "world", "dataset", ".", "BART", "BlenderBot", "DialoGPT", "34.9", "69.3", "72.4", "Table", "1", ":", "Language", "Model", "(", "LM", ")", "Perplexity", "(", "the", "lower", "is", "the", "better", "In", "response", "to", "our", "first", "research", "question", ",", "then", ",", "the", "performance", "of", "all", "three", "models", "was", "compara-", "ble", "but", "very", "limited", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "B-MethodName", "B-MethodName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "suggests", "that", "the", "fine-", "tuning", "approach", "does", "not", "allow", "language", "models", "to", "learn", "hedge", "knowledge", "implicitly", ".", "We", "therefore", "next", "turn", "to", "an", "approach", "that", "may", "improve", "performance", "by", "screening", "utterances", "with", "a", "given", "label", ".", "5.2", "RQ2", ":", "Does", "reranking", "improve", "hedge", "generation", "?", "Table", "2", "shows", "the", "performance", "of", "each", "model", "for", "the", "reranking", "method", ".", "BlenderBot", "once", "again", "per", "-", "MetricsModelsBlenderBot", "DialoGPT", "BART", "R_BlenderBot", "R_DialoGPT", "R_BART", "BLEU_1", "11.2", "11.4", "2.7", "12.3", "10.9∗6.0∗", "BLEU_2", "5.8", "4.7", "1.5", "6.2", "3.9∗3.1∗", "ROUGE-", "L8.6", "9.1", "8.1", "11.0", "8.4", "9.7", "CHRF", "17.6", "17.0", "9.3", "17.6∗17.5∗12.2∗", "BARTScore", "-3.92", "-5.62", "-4.33", "-3.98∗-4.79", "-4.24", "BERTScore", "39.9", "38.3", "38.5", "40.5", "37.5", "39.4", "F1Score", "(", "human", "evaluation", ")", "0.54", "0.41", "0.44", "0.84", "0.64", "0.85", "Table", "2", ":", "Results", "of", "the", "fine", "-", "tuned", "models", "and", "reranking", "method", "applied", "to", "the", "fine", "-", "tuned", "models.∗means", "this", "result", "is", "significantly", "different", "from", "the", "fine", "-", "tuning", "method", "(", "p", "<", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "B-MethodName", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "05", ")", "forms", "well", "on", "all", "metrics", "and", "has", "a", "virtually", "identi-", "cal", "F1", "score", "to", "BART", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "B-MethodName", "O" ]

[ "Additionally", ",", "we", "find", "some", "interesting", "similarities", "among", "models", ":", "1", ")", "Blender-", "Bot", "and", "DialoGPT", "outperform", "BART", "in", "both", "the", "fine", "-", "tuning", "and", "the", "reranking", "methods", "(", "Table", "2", ")", "with", "respect", "to", "reference", "-", "based", "metrics", "such", "as", "BLEU", ",", "ROUGE", "-", "L", ",", "etc", ".", ",", "and", "2", ")", "DialoGPT", "still", "underperforms", "the", "other", "two", "models", "in", "terms", "of", "F1", "score", ",", "and", "in", "the", "reranking", "condition", "the", "gap", "widens", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "result", "could", "suggest", "that", "1", ")", "the", "pretrain-", "ing", "of", "the", "models", "(", "i.e.", ",", "DialoGPT", ",", "BlenderBot", ")", "on", "dialogue", "datasets", "may", "help", "to", "generate", "longer", "ut-", "terances", ",", "and", "therefore", "to", "improve", "the", "reference-", "based", "metrics", "performance", ",", "and", "2", ")", "the", "autoregres-", "sive", "model", "(", "e.g.", ",", "DialoGPT", ")", "may", "not", "be", "suitable", "for", "the", "generation", "of", "social", "dialogue", "such", "as", "hedges", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5.3", "Comparing", "Fine", "-", "tuning", "and", "Reranking", "To", "summarize", "results", "on", "the", "fine", "-", "tuning", "versus", "re-", "ranking", "approaches", "we", "observe", "that", ":", "1", ")", "With", "the", "help", "of", "a", "hedge", "classifier", ",", "the", "reranking", "approach", "can", "do", "a", "good", "job", "at", "generating", "hedges", ",", "2", ")", "Blender-", "Bot", "is", "better", "suited", "to", "the", "task", "of", "generating", "long", "utterances", ",", "as", "described", "in", "Section", "5.1", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "could", "be", "because", "BlenderBot", "is", "pretrained", "with", "various", "social", "dialogue", "datasets", ",", "giving", "it", "a", "certain", "ability", "to", "generate", "the", "social", "aspects", "of", "dialogue", "." ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]