Datasets:

anlp

/

sentence_anno

like 0

Follow

anlp team project 4

[ ",", "2017", ")", "model", ",", "and", "then", "reranked", "the", "text", "by", "generation", "scores" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName" ]

[ "Soni", "et", "al", "(", "2021", ")", "first", "applied", "reranking", "to", "conversa-", "tional", "strategy", "generation", "by", "controlling", "the", "level", "of", "self", "-", "disclosure", "in", "the", "outputs", "of", "DialoGPT", "(", "Zhang", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2020b", ")", "The", "authors", "of", "LaMDA", "(", "Thoppilan", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2022", ")", "used", "various", "classifiers", "to", "rerank", "and", "filter", "out", "inappropriate", "responses", "Recently", ",", "Chat-", "GPT", "(", "OpenAI", ",", "2022", ")", "used", "reinforcement", "learning", "with", "human", "feedback", ",", "and", "has", "shown", "impressive", "performance" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "the", "articles", "above", ",", "most", "algorithms", "were", "trained", "on", "written", "dialogue", "datasets", ",", "which", "facili-", "tated", "the", "task" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O" ]

[ "However", ",", "our", "spontaneous", "dialogue", "dataset", "may", "lead", "the", "way", "for", "cutting", "-", "edge", "models", "trained", "on", "a", "real", "-", "world", ",", "face", "-", "to", "-", "face", "interactional", "dataset.3", "Methodology", "3.1", "Task", "Description", "LetD=", "{", "d1", ",", "d2", ",", "d3", ",", "...", "d", "n", "}", "be", "a", "set", "of", "dialogues", ",", "where", "each", "dialogue", "d=", "{", "u1", ",", "u2", ",", "u3", "...", "um", "}", "is", "com-", "posed", "of", "mturns", ",", "where", "uiis", "a", "turn", "Each", "tu-", "tor", "turn", "(", "and", "each", "tutee", "turn", ",", "although", "we", "will", "not", "examine", "the", "tutee", "turns", "further", "here", ")", "is", "la-", "beled", "as", "hedge", "or", "non", "-", "hedge", ";", "we", "call", "lithe", "la-", "bel", "of", "ui", "A", "fixed", "window", "size", "ωof", "the", "dia-", "logue", "history", "is", "assigned", "to", "each", "utterance", ":", "hi=", "{", "umax", "(", "1", ",", "i−ω", ")", ",", "ui−ω+1", ",", "...", "u", "i−1", "}", "The", "goal", "of", "this", "work", "is", "to", "train", "a", "generator", "(", "G", ")", "that", "can", "produce", "a", "tutor", "’s", "utterance", "u′", "ithat", "matches", "a", "given", "hedge", "strategy", "(", "i.e.", ",", "hedge", "or", "non", "-", "hedge", ")", "li", ",", "according", "to", "the", "dialogue", "history", "hi", "3.2", "Corpus", "The", "dataset", "we", "used", "in", "the", "current", "work", "is", "the", "same", "as", "that", "used", "in", "our", "prior", "work", "(", "Raphalen", "et", "al", ",", "2022", ";", "Goel", "et", "al", ",", "2019", ";", "Zhao", "et", "al", ",", "2014", ")", "24", "American", "teenagers", "aged", "12", "to", "15", ",", "half", "boys", "and", "half", "girls", ",", "were", "assigned", "to", "same", "-", "gender", "pairs", "They", "took", "turns", "tutoring", "each", "other", "in", "linear", "alge-", "bra", "once", "a", "week", "for", "five", "weeks", ",", "for", "a", "total", "of", "60", "hours", "of", "face", "-", "to", "-", "face", "interaction", "Each", "interaction", "was", "composed", "of", "two", "tutoring", "periods", ",", "where", "the", "teens", "took", "turns", "being", "the", "tutor", ",", "with", "a", "social", "pe-", "riod", "at", "the", "beginning", "and", "between", "the", "two", "tutoring", "periods", "For", "the", "purposes", "of", "the", "earlier", "work", "the", "corpus", "was", "annotated", "for", "hedges", ",", "as", "well", "as", "the", "subcategories", "of", "hedges", ",", "at", "the", "clause", "level", "For", "our", "purposes", ",", "since", "generation", "happens", "at", "the", "level", "of", "the", "turn", ",", "we", "merge", "the", "clauses", "and", "their", "labels", "into", "speaker", "turns", "and", "turn", "-", "level", "hedge", "labels", "(", "see", "Appendix", "A", "for", "the", "merge", "strategy", ")", "Our", "goal", "is", "to", "create", "a", "hedge", "generation", "mod-", "ule", "that", "can", "produce", "an", "appropriate", "hedge", "strategy", "for", "a", "tutor", "giving", "an", "instruction", ",", "according", "to", "what", "has", "been", "said", "before", "as", "indicated", "by", "the", "dialogue", "history" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "this", "reason", "we", "kept", "all", "turns", "in", "the", "dia-", "logue", "history", ",", "even", "though", "our", "model", "is", "trained", "to", "generate", "only", "the", "tutor", "’s", "turns", "(", "and", "not", "those", "of", "the", "tutee", ")", "There", "are", "6562", "turns", "in", "these", "interactions", ",", "of", "which", "5626", "contain", "non", "-", "hedges", "and", "936", "hedges", "Being", "authentic", "interaction", ",", "there", "are", "disfluen-", "cies", "(", "“", "so", "just", "yeah", "just", "um", "”", ")", ",", "repetitions", "(", "“", "that", "would", "be", "then", "that", "would", "be", "”", ")", ",", "repairs", "(", "“", "oh", "wait", ",", "actually", "the", "x", "would", "go", "here", "”", ")", ",", "and", "other", "spoken", "phenomena", "such", "as", "one", "-", "word", "clauses", "These", "phe-", "nomena", "make", "generating", "hedges", "challenging", "since", "the", "language", "models", "we", "use", "are", "primarily", "trained879", "on", "written", "dialogues", ",", "which", "do", "not", "contain", "most", "of", "these", "features", "However", ",", "our", "work", "allows", "us", "to", "see", "how", "far", "we", "can", "go", "with", "authentic", "spoken", "data", "3.3", "Methods", "We", "combine", "two", "techniques", "for", "generating", "the", "tu-", "tor", "’s", "turn", ":", "Fine", "-", "tuning", "an", "existing", "generation", "model", "andRe", "-", "ranking", "the", "generated", "outputs", "to", "match", "the", "desired", "hedge", "strategy", "3.3.1", "Fine", "Tuning", "Method", "First", ",", "we", "want", "to", "evaluate", "how", "well", "the", "model", "per-", "forms", "when", "hedge", "information", "is", "implicitly", "taught", "through", "fine", "-", "tuning", "We", "fine", "-", "tuned", "the", "generation", "model", "with", "the", "training", "set", "of", "the", "peer", "-", "tutoring", "corpus" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName" ]

[ "Each", "utterance", "ui=", "(", "w1", ",", "...", ",", "w", "n", ")", "is", "com-", "posed", "of", "ntokens", ",", "the", "dialogue", "history", "hias", "input", "to", "the", "generation", "model", "We", "apply", "cross", "-", "entropy", "loss", "between", "uiandu′", "i", ",", "where", "u′∈R|V|", ",", "Vis", "the", "vocabulary", "J", "(", "ui", ",", "u′", "i", ")", "=", "−1", "nj=|V|", "/", "summationdisplay", "j=1ui", ",", "jlog", "(", "u′", "i", ",", "j", ")", "(", "1", ")", "3.3.2", "Reranking", "Method", "Since", "a", "hedge", "classifier", "was", "developed", "for", "prior", "work", "in", "our", "lab", "(", "Goel", "et", "al", ",", "2019", ";", "Raphalen", "et", "al", ",", "2022", ")", ",", "we", "can", "use", "it", "to", "determine", "whether", "a", "gen-", "erated", "text", "is", "a", "hedge", "or", "not", "and", "then", "inform", "the", "generator", "of", "the", "decision", "in", "order", "to", "regulate", "the", "output", "This", "is", "known", "as", "reranking", ",", "and", "is", "what", "we", "use", "here", "as", "our", "second", "generation", "strategy", "1", ")", "We", "first", "pretrain", "our", "generator", "as", "in", "fine", "tun-", "ing", "We", "then", "apply", "this", "generator", "to", "the", "test", "set", "to", "generate", "501candidate", "utterances", "for", "each", "dia-", "logue", "history", "(", "Figure", "2", ")", "2", ")", "These", "candidates", "are", "first", "ranked", "by", "their", "sentence", "scores", "(", "i.e.", ",", "the", "final", "outputted", "token", "’s", "log", "probability", "for", "each", "sentence", ")", "3", ")", "We", "then", "use", "the", "hedge", "classifier", "described", "above", "to", "filter", "out", "the", "utterances", "that", "do", "not", "match", "the", "selected", "strategy", "(", "i.e.", ",", "hedge", "or", "non", "-", "hedge", ")", "4", ")", "We", "keep", "utterances", "that", "match", "the", "selected", "hedge", "strategy", "If", "more", "than", "one", "candidate", "matches", "the", "strategy", ",", "we", "pick", "the", "first", "one", "that", "matches", ",", "which", "means", "the", "one", "with", "the", "highest", "sentence", "score", "5", ")", "If", "none", "of", "the", "candidates", "matches", "the", "selected", "hedge", "strategy", ",", "we", "output", "the", "one", "that", "has", "the", "highest", "sentence", "score", "1See", "Appendix", "C", "for", "the", "details4", "Experimental", "Setting", "4.1", "Data", "Processing", "We", "randomly", "split", "the", "final", "dataset", "based", "on", "a", "60:20:20", "ratio", "Of", "these", ",", "60", "%", "is", "the", "training", "set", ",", "20", "%", "is", "the", "validation", "set", ",", "and", "20", "%", "is", "the", "test", "set", "Since", "our", "dataset", "is", "highly", "unbalanced", ",", "if", "we", "used", "it", "as", "is", "the", "results", "would", "be", "too", "biased", "towards", "non", "-", "hedges", "In", "that", "approach", "the", "gap", "between", "the", "results", "of", "different", "models", "would", "not", "be", "clear", "be-", "cause", "non", "-", "hedges", "are", "so", "much", "more", "frequent", "For", "this", "reason", ",", "we", "manually", "balance", "by", "randomly", "se-", "lecting", "235", "non", "-", "hedge", "turns", "to", "balance", "the", "235", "hedges", "in", "the", "test", "set", ",", "and", "combine", "the", "data", "to", "form", "a", "new", "balanced", "test", "set", "On", "the", "other", "hand", ",", "in", "order", "to", "have", "a", "large", "enough", "training", "set", ",", "we", "retain", "all", "tu-", "tor", "turns", "from", "the", "complete", "dataset", ",", "which", "therefore", "consists", "of", "701", "hedge", "turns", "and", "4455", "non", "-", "hedge", "turns", ",", "resulting", "in", "a", "dataset", "that", "is", "very", "skewed", ",", "but", "has", "more", "turns", "While", "the", "complete", "dataset", "contains", "a", "relatively", "small", "number", "of", "hedge", "turns", ",", "we", "believe", "that", "pre-", "serving", "the", "natural", "data", "distribution", "is", "crucial", "for", "addressing", "our", "first", "research", "question", "Underscor-", "ing", "the", "wisdom", "of", "this", "approach", ",", "the", "results", "we", "obtained", "on", "perplexity", "and", "the", "BARTscore", "(", "that", "are", "indicative", "of", "fluency", "in", "the", "generated", "responses", ",", "as", "described", "below", ")", "demonstrate", "that", "the", "models", "were", "able", "to", "generate", "responses", "with", "reasonable", "fluency", "and", "quality", "despite", "the", "small", "number", "of", "hedge", "turns" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.2", "SOTA", "Pretrained", "Language", "Models", "We", "compare", "the", "performance", "of", "different", "state", "-", "of-", "the", "-", "art", "(", "SOTA", ")", "free", "open", "-", "source", "pretrained", "mod-", "els", "as", "our", "generators", ":", "BART", ",", "DialoGPT", ",", "and", "BlenderBot" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "B-MethodName" ]

[ "BART", "(", "Lewis", "et", "al" ]

[ "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2020", ")", "uses", "an", "encoder", "-", "decoder", "architecture", ",", "trained", "on", "books", "and", "Wikipedia", "data", ",", "and", "performs", "well", "on", "tasks", "as", "var-", "ied", "as", "Q", "&", "A", "(", "SQuAD", "(", "Rajpurkar", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O" ]

[ ",", "2016", ")", ")", ",", "text", "generation", ",", "text", "classification", "(", "MNLI", "(", "Williams", "et", "al" ]

[ "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O" ]

[ ",", "2018", ")", ")", ",", "and", "text", "summarization", "tasks", "(", "ELI5", "(", "Fan", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2019", ")", ")", "It", "is", "pretrained", "by", "distorting", "the", "format", "of", "the", "input", "text", "in", "various", "ways", ",", "and", "this", "training", "helps", "us", "to", "visualize", "its", "possible", "ap-", "plication", "to", "noisy", "spontaneous", "spoken", "dialogues", "DialoGPT", "(", "Zhang", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2020b", ")", "is", "a", "dialogue", "ver-", "sion", "of", "GPT-2", "(", "Radford", "et", "al", ",", "2019", ")", ",", "an", "autore-", "gressive", "language", "model", "with", "a", "multi", "-", "layer", "Trans-", "former", "(", "Vaswani", "et", "al", ",", "2017", ")", "decoder", "as", "its", "model", "architecture", "It", "is", "trained", "on", "140", "million", "conversa-", "tional", "exchanges", "extracted", "from", "Reddit", "comment880", "Dialogue", "History", "u'_n", "u'_4", "u'_3", "u'_2", "u'_1", "Generator", "l'_n", "l'_4", "l'_3", "l'_2", "l'_1", "...", "..." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "l_i", "=", "true", "label", "u'_i", "=", "best", "response", "Hedging", "Classi\u0000erGeneration", "Classi\u0000cationReranking", "Dialogue", "historyTutor", "responseHedge", "Label", "tutor", ":", "...", "tutee", ":", "..", "tutor", ":", "...", "tutee", ":", "...", "tutor", ":", "...", "l_i", "Test", "DataFigure", "2", ":", "Reranking", "method", "threads", "BlenderBot", "(", "Roller", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2021", ")", "uses", "the", "standard", "Seq2Seq", "Transformer", "architecture", ",", "but", "incorporates", "a", "number", "of", "dialogue", "training", "sets", ":", "Empathetic", "Dialogue", "(", "Rashkin", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ ",", "2019", ")", ",", "Per-", "sonaChat", "(", "Zhang", "et", "al" ]

[ "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ ",", "2018", ")", ",", "ConvAI2", "(", "Dinan", "et", "al" ]

[ "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O" ]

[ ",", "2020", ")", ",", "and", "other", "datasets", "that", ",", "while", "largely", "handcrafted", ",", "focus", "on", "personality", "and", "emotions", ",", "enabling", "it", "to", "potentially", "develop", "some", "version", "of", "social", "skills", "4.3", "Evaluation", "Metrics", "To", "evaluate", "performance", ",", "we", "used", "the", "most", "widely", "used", "set", "of", "reference", "-", "based", "metrics", "for", "natural", "lan-", "guage", "generation", "tasks", "(", "Liu", "et", "al", ",", "2021", ";", "Ziems", "et", "al", ",", "2022", ")", "Since", "these", "metrics", "have", "not", "been", "used", "for", "conversational", "strategies", ",", "we", "add", "an", "un-", "supervised", "reference", "-", "free", "metric", ",", "the", "BART", "score", "(", "Yuan", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O" ]

[ ",", "2021", ")", "The", "BART", "score", "formulates", "the", "evaluation", "process", "as", "a", "text", "generation", "task", "using", "a", "pre", "-", "trained", "model" ]

[ "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "score", "represents", "the", "proba-", "bility", "of", "generating", "a", "hypothesis", "given", "a", "source", "text", "The", "higher", "BART", "score", "represents", "better", "text", "from", "different", "perspectives", "(", "e.g.", ",", "informativeness", ",", "factu-", "ality", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "this", "paper", ",", "we", "denote", "the", "dialogue", "history", "as", "the", "source", "text", "and", "the", "generated", "utterance", "as", "the", "hypothesis", "For", "comparison", ",", "we", "calculate", "the", "BART", "score", "between", "the", "dialogue", "history", "and", "the", "real", "response", "in", "the", "test", "dataset", ",", "giving", "a", "result", "of−6.44" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue" ]

[ "We", "also", "evaluated", "the", "relevance", "of", "the", "generated", "hedge", "strategy", "using", "an", "F1", "score" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName" ]

[ "The", "results", "using", "these", "metrics", "are", "presented", "in", "Table", "2", "The", "detailed", "description", "of", "the", "metrics", "used", "is", "in", "Appendix", "B", "4.4", "Human", "Evaluation", "While", "the", "metrics", "described", "above", "are", "important", "for", "comparison", "with", "the", "performance", "of", "other", "work", "in", "the", "field", ",", "they", "do", "not", "obviate", "the", "need", "for", "humanannotation", "We", "therefore", "asked", "two", "annotators", "to", "ignore", "sub", "-", "categories", "and", "annotate", "only", "hedge", "or", "non", "-", "hedge", "on", "each", "tutor", "turn", "of", "the", "model", "’s", "output", ",", "with", "access", "to", "4", "prior", "turns", "of", "the", "dialogue", "history", "During", "a", "training", "phase", "the", "annotators", "reached", "an", "inter", "-", "rater", "reliability", "of", "over", ".7Kripendoff", "’s", "alpha", "(", "Krippendorff", ",", "2004", ")", "which", "indicates", "substantial", "agreement" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "B-MetricValue", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "One", "of", "the", "annotators", "then", "finished", "the", "remainder", "of", "the", "annotation", "We", "computed", "the", "F1", "scores", "for", "the", "label", "of", "the", "generated", "utterances", "with", "respect", "to", "the", "real", "tutor", "turn", "’s", "label" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "higher", "F1", "score", "indicates", "that", "the", "approach", "is", "better", "suited", "to", "generate", "the", "correct", "hedge", "strategy", "(", "see", "Table", "2", ")" ]

[ "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "also", "asked", "the", "annotators", "to", "pay", "attention", "to", "whether", "the", "output", "was", "unnatural", "and", "to", "note", "it", "if", "so", "The", "annotators", "reported", "no", "concerns", "with", "the", "naturalness", "of", "the", "generated", "utterances", "The", "concept", "of", "fluency", "has", "recently", "gained", "pop-", "ularity", "in", "the", "dialogue", "community", "(", "Li", "et", "al", ",", "2019", ";", "See", "et", "al", ",", "2019", ")", ",", "but", "the", "current", "definition", "of", "flu-", "ency", "varies", "More", "fundamentally", ",", "evaluations", "of", "this", "kind", "are", "more", "applicable", "to", "written", "text", "or", "scripted", "dialogues", "(", "Pang", "et", "al", ",", "2020", ";", "D’Haro", "et", "al", ",", "2019", ")", "as", "they", "can", "not", "handle", "disfluencies", "(", "e.g.", ",", "hes-", "itations", ",", "repetitions", ",", "false", "starts", ")", "of", "the", "kind", "that", "are", "common", "in", "spontaneous", "spoken", "dialogues", ",", "and", "that", "may", "serve", "to", "give", "the", "speaker", "time", "to", "plan", "the", "next", "utterance", "(", "Biber", "et", "al", ",", "1999", ";", "Thornbury", "and", "Slade", ",", "2006", ")", "We", "therefore", "did", "not", "assess", "fluency", "in", "this", "work", "5", "Results", "5.1", "RQ1", ":", "How", "well", "do", "end", "-", "to", "-", "end", "models", "perform", "alone", "for", "generating", "hedges", "?", "Table", "2", "compares", "the", "performance", "of", "the", "genera-", "tion", "models", "BlenderBot", "outperforms", "the", "other", "2", "models", "on", "most", "metrics", ",", "although", "with", "similar", "per-881", "formance", "to", "DialoGPT", ",", "on", "BLEU", "and", "ROUGE", "-", "L" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MetricName", "O", "B-MetricName", "I-MetricName", "I-MetricName" ]

[ "The", "discrepancy", "between", "BlenderBot", "and", "BART", "in", "each", "score", "is", "relatively", "wide" ]

[ "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O" ]

[ "This", "discrepancy", "is", "most", "apparent", "on", "measures", "that", "compute", "scores", "based", "on", "n", "-", "gram", "-", "level", "overlaps", "(", "BLEU", ",", "ROUGE", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O" ]

[ "To", "find", "the", "reason", "for", "this", "discrepancy", ",", "we", "calculate", "the", "average", "length", "of", "the", "outputs", "of", "the", "3", "models", "and", "observe", "5.2", "words", "for", "BART", ",", "11.8", "words", "for", "BlenderBot", ",", "and", "14.5", "words", "for", "DialoGPT", ",", "while", "the", "average", "length", "of", "the", "tutor", "’s", "utterances", "in", "test", "data", "is", "15.2", "words" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "B-MethodName", "O", "B-MetricValue", "O", "O", "B-MethodName", "O", "O", "B-MetricValue", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O" ]

[ "The", "average", "length", "of", "the", "out-", "put", "of", "DialoGPT", "is", "therefore", "close", "to", "that", "of", "the", "test", "set" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "further", "explains", "DialoGPT", "’s", "strong", "performance", "on", "the", "BLEU", "and", "ROUGE", "scores" ]

[ "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O" ]

[ "On", "the", "other", "hand", ",", "BART", "tends", "to", "generate", "shorter", "turns", ",", "consequently", "demonstrating", "lower", "scores", "on", "metrics", "that", "require", "the", "calculation", "of", "repetition", "grams", "to", "yield", "scores" ]

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Note", "that", "in", "similar", "tasks", ",", "the", "best", "model", "was", "Blenderbot", "with", "a", "BLEU", "2", "score", "of", "6.21", ",", "in", "the", "case", "of", "emotional", "support", "con-", "versational", "strategy", "generation", "(", "Liu", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2021", ")", ",", "while", "DialoGPT", "reached", "5.52" ]

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MetricValue" ]

[ "The", "best", "score", "in", "the", "positive", "text", "reframing", "task", ",", "meanwhile", ",", "was", "11.0", "for", "BLEU", "1", "(", "Ziems", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-MetricName", "O", "O", "O", "O", "O" ]

[ ",", "2022", ")", ",", "while", "BART", "reached", "10.1", "and", "GPT-2", "reached", "4.2" ]

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MetricValue", "O", "B-MethodName", "O", "B-MetricValue" ]

[ "Table", "1", "shows", "that", "BART", "has", "the", "lowest", "perplex-", "ity", "score", ",", "indicating", "that", "BART", "is", "more", "adaptive", "to", "our", "dataset", "compared", "to", "the", "other", "two", "models" ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "may", "be", "due", "to", "its", "pre", "-", "training", "approaches", "(", "see", "Section", "4.2", ")", "that", "corrupt", "input", "texts", "with", "an", "arbi-", "trary", "noising", "function", "These", "approaches", "enable", "more", "accurate", "predictions", "in", "our", "noisy", "real", "-", "world", "dataset", "BART", "BlenderBot", "DialoGPT", "34.9", "69.3", "72.4", "Table", "1", ":", "Language", "Model", "(", "LM", ")", "Perplexity", "(", "the", "lower", "is", "the", "better", "In", "response", "to", "our", "first", "research", "question", ",", "then", ",", "the", "performance", "of", "all", "three", "models", "was", "compara-", "ble", "but", "very", "limited" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "B-MethodName", "B-MethodName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "suggests", "that", "the", "fine-", "tuning", "approach", "does", "not", "allow", "language", "models", "to", "learn", "hedge", "knowledge", "implicitly", "We", "therefore", "next", "turn", "to", "an", "approach", "that", "may", "improve", "performance", "by", "screening", "utterances", "with", "a", "given", "label", "5.2", "RQ2", ":", "Does", "reranking", "improve", "hedge", "generation", "?", "Table", "2", "shows", "the", "performance", "of", "each", "model", "for", "the", "reranking", "method", "BlenderBot", "once", "again", "per", "-", "MetricsModelsBlenderBot", "DialoGPT", "BART", "R_BlenderBot", "R_DialoGPT", "R_BART", "BLEU_1", "11.2", "11.4", "2.7", "12.3", "10.9∗6.0∗", "BLEU_2", "5.8", "4.7", "1.5", "6.2", "3.9∗3.1∗", "ROUGE-", "L8.6", "9.1", "8.1", "11.0", "8.4", "9.7", "CHRF", "17.6", "17.0", "9.3", "17.6∗17.5∗12.2∗", "BARTScore", "-3.92", "-5.62", "-4.33", "-3.98∗-4.79", "-4.24", "BERTScore", "39.9", "38.3", "38.5", "40.5", "37.5", "39.4", "F1Score", "(", "human", "evaluation", ")", "0.54", "0.41", "0.44", "0.84", "0.64", "0.85", "Table", "2", ":", "Results", "of", "the", "fine", "-", "tuned", "models", "and", "reranking", "method", "applied", "to", "the", "fine", "-", "tuned", "models.∗means", "this", "result", "is", "significantly", "different", "from", "the", "fine", "-", "tuning", "method", "(", "p", "<" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "B-MethodName", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "05", ")", "forms", "well", "on", "all", "metrics", "and", "has", "a", "virtually", "identi-", "cal", "F1", "score", "to", "BART" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "B-MethodName" ]

[ "Additionally", ",", "we", "find", "some", "interesting", "similarities", "among", "models", ":", "1", ")", "Blender-", "Bot", "and", "DialoGPT", "outperform", "BART", "in", "both", "the", "fine", "-", "tuning", "and", "the", "reranking", "methods", "(", "Table", "2", ")", "with", "respect", "to", "reference", "-", "based", "metrics", "such", "as", "BLEU", ",", "ROUGE", "-", "L", ",", "etc" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O" ]

[ ",", "and", "2", ")", "DialoGPT", "still", "underperforms", "the", "other", "two", "models", "in", "terms", "of", "F1", "score", ",", "and", "in", "the", "reranking", "condition", "the", "gap", "widens" ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "result", "could", "suggest", "that", "1", ")", "the", "pretrain-", "ing", "of", "the", "models", "(", "i.e.", ",", "DialoGPT", ",", "BlenderBot", ")", "on", "dialogue", "datasets", "may", "help", "to", "generate", "longer", "ut-", "terances", ",", "and", "therefore", "to", "improve", "the", "reference-", "based", "metrics", "performance", ",", "and", "2", ")", "the", "autoregres-", "sive", "model", "(", "e.g.", ",", "DialoGPT", ")", "may", "not", "be", "suitable", "for", "the", "generation", "of", "social", "dialogue", "such", "as", "hedges" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "5.3", "Comparing", "Fine", "-", "tuning", "and", "Reranking", "To", "summarize", "results", "on", "the", "fine", "-", "tuning", "versus", "re-", "ranking", "approaches", "we", "observe", "that", ":", "1", ")", "With", "the", "help", "of", "a", "hedge", "classifier", ",", "the", "reranking", "approach", "can", "do", "a", "good", "job", "at", "generating", "hedges", ",", "2", ")", "Blender-", "Bot", "is", "better", "suited", "to", "the", "task", "of", "generating", "long", "utterances", ",", "as", "described", "in", "Section", "5.1" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "could", "be", "because", "BlenderBot", "is", "pretrained", "with", "various", "social", "dialogue", "datasets", ",", "giving", "it", "a", "certain", "ability", "to", "generate", "the", "social", "aspects", "of", "dialogue" ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Table", "2", "shows", "that", "models", "deployed", "with", "the", "reranking", "method", "have", "relatively", "higher", "or", "com-", "parable", "Bart", "scores", ",", "but", "greatly", "improved", "perfor-", "mance", "on", "the", "F1", "score", "(", "from", ".54to.85", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "B-MetricValue", "O" ]

[ "This", "result", ",", "too", ",", "underscores", "the", "advantages", "of", "the", "reranking", "method", "5.4", "Error", "Analysis", "While", "BlenderBot", "showed", "strong", "performance", "when", "using", "reranking", ",", "a", "certain", "number", "of", "gen-", "erated", "utterances", "still", "did", "not", "match", "the", "real", "tutor882", "labels" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "When", "a", "matching", "utterance", "type", "can", "not", "be", "found", "in", "a", "limited", "pool", "of", "candidates", ",", "we", "could", "have", "chosen", "to", "increase", "the", "candidate", "pool", "to", "pro-", "mote", "the", "probability", "of", "selecting", "a", "match", "However", ",", "in", "this", "early", "effort", "to", "generate", "hedges", ",", "we", "want", "to", "ensure", "sufficient", "quality", "in", "the", "generated", "output", "but", "also", "explore", "the", "limitations", "of", "current", "language", "models", "for", "generating", "socially", "relevant", "phenomena", "on", "the", "basis", "of", "a", "spontaneous", "spoken", "interaction", "dataset", "We", "can", "learn", "about", "the", "limitations", "of", "these", "mod-", "els", "by", "examining", "places", "where", "the", "system", "did", "not", "generate", "the", "desired", "strategy", "(", "that", "is", ",", "generated", "a", "hedge", "when", "the", "real", "tutor", "did", "not", "or", "vice", "versa", ")", "We", "first", "divide", "these", "strategy", "mismatches", "into", "over-", "generation", "errors", ",", "where", "the", "generator", "generates", "a", "hedge", "where", "it", "should", "not", "and", "under", "-", "generation", "errors", "when", "it", "does", "not", "generate", "a", "hedge", "but", "should", "Among", "the", "1395", "annotated", "turns", "outputted", "by", "the", "3", "generators", ",", "there", "are", "13.3", "%", "of", "over", "-", "generation", "errors", "and", "86.7", "%", "under", "-", "generation", "errors" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "B-MetricValue", "I-MetricValue", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName" ]

[ "These", "errors", "are", "particularly", "interesting", "in", "the", "context", "of", "reranking", ",", "as", "it", "relied", "strongly", "on", "the", "hedge", "classi-", "fier", "The", "hedge", "classifier", "selected", "the", "most", "suitable", "utterances", ",", "and", "yet", "the", "model", "still", "produced", "the", "wrong", "strategy", "-", "or", "at", "the", "very", "least", "mismatches", "with", "the", "strategy", "of", "the", "real", "tutor", "Therefore", ",", "we", "analyze", "the", "generated", "utterances", "corresponding", "to", "these", "two", "types", "of", "errors", "and", "iden-", "tify", "two", "potential", "causes", "First", ",", "there", "are", "still", "some", "places", "where", "the", "model", "generates", "a", "hedge", "where", "it", "should", "generate", "a", "non-", "hedge", "As", "we", "mentioned", "in", "Section", "4.4", ",", "we", "invited", "humans", "to", "annotate", "the", "models", "’", "outputs", "in", "terms", "of", "hedge", "labels", "We", "compare", "the", "human", "-", "annotations", "of", "the", "model", "output", "(", "where", "they", "labeled", "the", "out-", "put", "as", "hedge", "or", "non", "-", "hedge", ")", "with", "the", "output", "of", "the", "BERT", "-", "based", "classifier", "on", "the", "same", "generated", "utter-", "ances", "to", "calculate", "the", "F1", "score" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName" ]

[ "We", "find", "that", "there", "is", "a", "difference", "of", "about", "9", "points", "between", "the", "F1", "score", "for", "human", "annotation", "(", "85", "%", ")", "shown", "in", "Table", "2", ",", "and", "the", "F1", "score", "for", "the", "same", "BERT", "-", "based", "hedge", "classifier", "(", "94", "%", ")", "reported", "in", "Raphalen", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O" ]

[ "(", "2022", ")", "We", "assume", "that", "the", "classifier", "we", "used", "may", "have", "misclassified", "some", "generated", "utterances", "and", "we", "therefore", "label", "them", "as", "Classification", "Errors", "This", "category", "accounts", "for", "92.5", "%", "of", "over", "-", "generation", "er-", "rors", ",", "and", "15.3", "%", "of", "under", "-", "generation", "errors" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName" ]

[ "Second", ",", "the", "basic", "functionality", "of", "an", "end", "-", "to-", "end", "language", "model", "of", "this", "kind", "is", "to", "produce", "the", "most", "coherent", "next", "utterance", "based", "on", "the", "di", "-", "alogue", "history", "This", "may", "result", "in", "the", "language", "model", "privileging", "coherence", "of", "content", "over", "style", "of", "delivery", "That", "is", ",", "the", "model", "may", "not", "be", "able", "to", "find", "an", "appropriate", "strategy", "match", "among", "the", "coherent", "candidates", ",", "even", "when", "the", "candidate", "pool", "size", "is", "50", "We", "label", "this", "a", "Goal", "Mismatch", "as", "the", "propositional", "or", "content", "coherence", "goals", "of", "the", "sys-", "tem", "may", "be", "trumping", "the", "social", "goals", ",", "We", "found", "84.7", "%", "in", "under", "-", "generation", "errors", "and", "7.5", "%", "in", "over-", "generation", "errors" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricName", "I-MetricName", "I-MetricName" ]

[ "18", "%", "of", "the", "cases", "where", "the", "pool", "did", "not", "include", "the", "right", "strategy", "An", "example", "of", "each", "type", "of", "error", "is", "given", "in", "Fig-", "ure", "3", "The", "first", "example", "belongs", "to", "the", "Classifica-", "tion", "Error", "type", ",", "where", "the", "classifier", "misclassified", "the", "system", "response", "(", "i.e", "“", "We", "just", "found", "that", "the", "answer", "is", "two", "x", "equals", "three", "”", ")", "as", "a", "hedge", "In", "the", "second", "example", ",", "the", "tutor", "is", "trying", "to", "help", "the", "tu-", "tee", "to", "approach", "the", "answer", "step", "by", "step", ",", "but", "the", "tutee", "can", "not", "come", "up", "with", "a", "worked", "idea", "Here", "it", "is", "clear", "that", "the", "tutee", "is", "flailing", "and", "it", "is", "therefore", "probably", "not", "advisable", "to", "increase", "the", "student", "’s", "stress", "with", "a", "volley", "of", "questions", "that", "the", "tutee", "can", "clearly", "not", "answer", "The", "tutor", "thus", "uses", "a", "hedge", "as", "a", "response", "Conversely", ",", "the", "generator", "produces", "a", "question", "The", "generated", "utterance", "is", "“", "What", "do", "you", "think", "we", "should", "do", ",", "what", "’s", "the", "next", "step", "”", "This", "ex-", "ample", "corresponds", "to", "our", "Goal", "Mismatch", "Error" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName" ]

[ "It", "shows", "that", "the", "generator", "may", "not", "understand", "the", "social", "context", ",", "but", "is", "looking", "for", "a", "coherent", "response", "TheGoal", "Mismatch", "Error", "is", "perhaps", "the", "most", "interesting", "of", "the", "errors", ",", "and", "thus", "to", "verify", "our", "hy-", "pothesis", "—", "that", "the", "coherence", "goals", "of", "the", "models", "may", "impede", "the", "social", "goals", "—", "we", "looked", "into", "the", "nature", "of", "the", "relationship", "between", "rapport", "(", "between", "tutor", "and", "tutee", ")", "and", "the", "generation", "of", "hedges" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "described", "above", ",", "Madaio", "et", "al", "(", "2017", ")", "found", "that", "hedges", "are", "generated", "when", "rapport", "is", "low", "Since", "our", "corpus", "contained", "rapport", "annotations", "for", "every", "30", "seconds", "of", "the", "interaction", ",", "we", "looked", "at", "the", "rap-", "port", "level", "in", "play", "when", "the", "model", "over", "-", "generated", "and", "under", "-", "generated", "hedges", "Since", "rapport", "is", "anno-", "tated", "from", "1", "to", "7", "in", "the", "dataset", ",", "for", "convenience", ",", "we", "divided", "it", "into", "3", "levels", ":", "high", "(", "5", "-", "7", ")", ",", "medium", "(", "3", "-", "5", ")", ",", "and", "low", "rapport", "(", "1", "-", "3", ")", ",", "as", "shown", "in", "Table", "3", "TypeRapportHigh", "Medium", "Low", "Over", "-", "generation", "0", "3", "0", "Under", "-", "generation", "13", "130", "75", "Table", "3", ":", "Goal", "Mismatch", "Errors", "Distribution883", "Tutor", ":", "mhm", ",", "so", "what", "are", "the", "two", "things", "that", "y", "ou", "can", "do", ",", "there", "are", "only", "two", "Tutee", ":", "I", "could", "mo", "ve", "x", "over", "to", "three", "x", "Tutor", ":", "Y", "eah", "what", "do", "y", "ou", "think", "we", "should", ",", "should", "we", "do", "it", "now", "Tutee", ":", "mmm", "I", "do", "nt", "know", ",", "do", "you", "ha", "ve", "the", ",", "um", ",", "minus", "Tutor", ":", "Well", "the", "other", "one", "would", "be", "to", "divide", "three", "by", "thirty", "six", "...", "(", "hedge", ")", "System", ":", "What", "do", "y", "ou", "think", "we", "should", "do", ",", "what", "'s", "the", "next", "step", "(", "non-", "hedge", ")", "Tutor", ":", "W", "ait", ",", "you", "'re", "on", "question", "three", ",", "<", "laughter", ">", "just", "checking", "Tutee", ":", "I", "told", "y", "ou", ",", "the", "answer", "is", "two", "Tutor", ":", "W", "e", "just", "found", "out", "Tutee", ":", "oh", "really", "?", "Tutor", ":", "<", "laughter", ">", "oka", "y", "problem", "four", "is", "four", "(", "non-", "hedge", ")", "System", ":", "We", "just", "found", "out", "the", "answer", "is", "two", "x", "equals", "three", "(", "hedge", ")", "Goal", "Mismatch", "Error", "Classification", "ErrorFigure", "3", ":", "Strategy", "Mismatch", "Errors", "for", "Reranking", "Method", "As", "only", "3", "errors", "appear", "in", "the", "category", "of", "over-", "generation", "error", ",", "we", "can", "not", "obtain", "a", "meaningful", "conclusion", "due", "to", "size", "However", ",", "the", "generators", "generate", "fewer", "hedges", "when", "rapport", "is", "low", ",", "an", "under", "-", "generation", "error", ",", "in", "contradiction", "to", "stud-", "ies", "showing", "that", "speakers", "are", "more", "careful", "about", "threatening", "the", "face", "of", "(", "or", "embarrassing", ")", "their", "in-", "terlocutors", "when", "the", "social", "bond", "between", "them", "is", "weak", "(", "Madaio", "et", "al", ",", "2017", ")", "We", "believe", "that", "this", "is", "because", "more", "hedges", "are", "found", "in", "low", "rapport", "interaction", "Therefore", ",", "we", "count", "the", "hedge", "distribu-", "tion", "of", "the", "low", "and", "high", "rapport", "interaction", "in", "the", "test", "dataset", "264", "hedges", "are", "found", "in", "low", "rapport", "interaction", ",", "and", "42", "in", "high", "rapport", "interaction", "This", "distribution", "corresponds", "to", "the", "fact", "that", "a", "hedge", "is", "most", "likely", "to", "happen", "in", "low", "rapport", "interactions", "The", "under", "-", "generation", "errors", "are", "the", "cases", "where", "there", "should", "be", "hedges", "but", "non", "-", "hedges", "were", "gener-", "ated", "In", "the", "test", "dataset", ",", "more", "hedges", "occur", "in", "low", "rapport", ",", "and", "the", "generator", "under", "-", "generates", "more", "in", "low", "rapport", ",", "because", "there", "are", "more", "hedges", "that", "should", "be", "generated", "in", "low", "rapport", "So", ",", "the", "gener-", "ators", "make", "more", "errors", "in", "low", "rapport", "interaction", "due", "to", "an", "imbalance", "in", "hedge", "distribution", "between", "low", "and", "high", "rapport", "interaction", "Goal", "Mismatch", "error", "directly", "addresses", "our", "pri-", "mary", "question", "1", ":", "How", "effectively", "do", "end", "-", "to", "-", "end", "models", "perform", "when", "generating", "hedges", "on", "their", "own", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Due", "to", "this", "fundamental", "discrepancy", "between", "competing", "goals", ",", "end", "-", "to", "-", "end", "language", "models", "are", "unable", "to", "inherently", "learn", "and", "discern", "when", "to", "ap-", "ply", "hedges", "appropriately", "5.4.1", "Lexical", "Diversity", "of", "the", "Generated", "Output", "As", "we", "have", "seen", ",", "LLMs", "can", "generate", "a", "hedge", "or", "non", "-", "hedge", "with", "the", "help", "of", "the", "reranking", "method", "However", ",", "do", "language", "models", "spontaneously", "use", "different", "types", "of", "hedges", "in", "a", "human", "-", "like", "way", "?", "To", "investigate", "this", "question", ",", "we", "applied", "the", "rule", "-", "based", "hedge", "classifier", "from", "(", "Raphalen", "et", "al", ",", "2022", ")", "to", "au", "-", "tomatically", "annotate", "the", "utterances", "generated", "by", "models", "in", "subcategories", "of", "hedges", "(", "as", "defined", "in", "Section", "2.1", ")", ",", "and", "we", "compare", "the", "models", "’", "and", "hu-", "mans", "’", "distributions", "of", "different", "hedge", "strategies", "The", "rule", "-", "based", "classifier", "used", "linguistic", "patterns", "to", "identify", "each", "hedge", "subcategory", "We", "have", "pre-", "ferred", "here", "to", "use", "the", "rule", "-", "based", "classifier", "rather", "than", "the", "machine", "learning", "classifiers", "to", "avoid", "the", "dependence", "on", "and", "bias", "of", "probabilistic", "learning-", "based", "classifiers", "Indeed", ",", "learning", "-", "based", "classifiers", "may", "be", "biased", "towards", "predicting", "the", "categories", "that", "are", "the", "most", "frequent", "in", "the", "dataset", "Further-", "more", ",", "the", "rule", "-", "based", "classifier", "reaches", "a", "94.7", "F1", "score", "(", "Raphalen", "et", "al", ",", "2022", ")", ",", "which", "is", "compara-", "ble", "to", "the", "best", "performance", "(", "96.7", "F1", "score", ")", "using", "the", "Light", "Gradient", "-", "Boosting", "Machine", "(", "LGBM", ")", "(", "Ke", "et", "al", ",", "2017", ")", "classifier", "The", "above", "results", "show", "that", "the", "model", "can", "spon-", "taneously", "learn", "to", "use", "different", "types", "of", "hedges", "Indeed", ",", "the", "models", "are", "capable", "of", "carrying", "out", "lin-", "guistic", "diversity", "on", "hedges", "based", "on", "learning", "from", "real", "human", "dialogues", "6", "Conclusion", "and", "Future", "Work", "In", "this", "paper", ",", "we", "have", "shown", "that", "the", "reranking", "method", "helps", "LLMs", "to", "generate", "hedges", "—", "an", "im-", "portant", "social", "conversational", "strategy", "that", "can", "avoid", "face", "threats", "towards", "an", "interlocutor", "by", "attenuating", "an", "impact", "of", "an", "expression", "We", "find", "that", "an", "implicit", "fine", "-", "tuning", "approach", "(", "i.e.", ",", "without", "any", "supervision", "by", "a", "hedge", "label", ")", "is", "not", "sufficient", "for", "generating", "hedges", ",", "but", "a", "reranking", "method", "significantly", "im-", "proves", "performance", "in", "generating", "hedges", ",", "with", "a", "final", "F1", "score", "of", ".85for", "the", "BART", "model", "and", ".84", "for", "the", "BlenderBot", "model" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "B-MetricValue", "O", "B-MethodName", "O", "O", "B-MetricValue", "O", "O", "B-MethodName", "O" ]

[ "We", "also", "performed", "an", "er-", "ror", "analysis", "on", "the", "generated", "results", "and", "found", "that", "two", "types", "of", "errors", "occur", "in", "the", "reranking", "method", ":", "Classification", ",", "and", "Goal", "Mismatch", "The", "vast", "ma-", "jority", "of", "errors", "fall", "into", "the", "category", "of", "Goal", "Mis-", "match", ",", "indicating", "an", "important", "conflict", "between884", "contemporary", "language", "models", "’", "primary", "goal", "of", "ensuring", "coherence", "and", "the", "social", "goal", "of", "managing", "face", ",", "which", "is", "indispensable", "for", "human", "conversa-", "tion", "While", "we", "were", "able", "to", "generate", "hedges", ",", "we", "were", "not", "able", "to", "necessarily", "generate", "them", "where", "they", "were", "needed", "most", "That", "is", ",", "conversational", "strategies", "are", "adaptive", "in", "the", "sense", "that", "they", "re-", "spond", "to", "conversational", "strategies", "uttered", "by", "the", "previous", "speaker", "(", "Zhao", "et", "al", ",", "2014", ")", "We", "conclude", "that", ",", "going", "forward", ",", "we", "will", "need", "a", "way", "of", "adding", "an", "underlying", "representation", "of", "the", "social", "state", "of", "the", "dialogue", "to", "improve", "dialogue", "generation", "In", "this", "paper", "we", "addressed", "the", "question", "of", "how", "to", "generate", "hedges", ",", "but", "when", "to", "generate", "hedges", "remains", "an", "important", "and", "unexplored", "question", "In", "future", "work", ",", "we", "may", "first", "explore", "the", "temporal", "re-", "lationships", "between", "the", "hedge", "and", "other", "conversa-", "tional", "information", "(", "e.g.", ",", "other", "conversational", "strate-", "gies", ",", "level", "of", "rapport", ")", "by", "sequential", "rule", "mining", "techniques", ",", "then", "apply", "RL", "-", "based", "methods", "to", "inves-", "tigate", "in", "a", "more", "detailed", "manner", "the", "optimal", "way", "to", "predict", "where", "hedges", "should", "occur", "In", "this", "context", ",", "we", "note", "that", "ChatGPT", "can", "generate", "a", "hedge", "when", "requested", "explicitly", "to", "do", "so", ",", "but", "does", "not", "generate", "hedges", "of", "its", "own", "volition", "(", "so", "to", "speak", ")", ",", "for", "exam-", "ple", ",", "when", "face", "-", "threatening", "acts", "such", "as", "instruction", "are", "engaged", "in" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "began", "this", "paper", "by", "describing", "the", "need", "for", "hedges", "in", "instructional", "dialogues", "such", "as", "those", "engaged", "in", "by", "intelligent", "tutoring", "systems", "The", "current", "dataset", "consists", "of", "authentic", "real", "-", "world", "tu-", "toring", "sessions", ",", "but", "as", "carried", "out", "by", "untrained", "teenagers", "We", "note", "that", "peer", "tutoring", "is", "a", "power-", "ful", "method", "of", "teaching", ",", "used", "in", "classrooms", "around", "the", "world", ",", "and", "previous", "work", "shows", "that", "when", "un-", "trained", "peer", "tutors", "use", "hedges", ",", "their", "tutees", "attempt", "more", "problems", "and", "solve", "more", "problems", "correctly", "(", "Madaio", "et", "al", ",", "2017", ")", "However", ",", "they", "are", "inexperi-", "enced", "and", "so", "in", "future", "work", "it", "will", "be", "important", "to", "investigate", "the", "interaction", "between", "trained", "tutors", "and", "tutee", "as", "well", ",", "for", "instance", ",", "by", "using", "the", "Teacher-", "Student", "Chatroom", "Corpus", "(", "Caines", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ ",", "2020", ")", "We", "believe", "that", "the", "methods", "and", "results", "from", "the", "cur-", "rent", "work", "will", "facilitate", "the", "investigation", "of", "expert", "tutors", "in", "future", "research", "Broader", "Impact", "Since", "the", "1990s", ",", "research", "has", "shown", "the", "the", "im-", "portance", "of", "intelligent", "tutoring", "systems", "as", "effective", "learning", "environment", ",", "s", "and", "supports", "for", "classroom", "learning", "(", "Anderson", "et", "al", ",", "1995", ")", "But", "virtual", "peer", "tutors", "have", "not", "yet", "achieved", "their", "potential", ",", "in", "part", "because", "of", "the", "difficulty", "of", "generating", "the", "social", "infrastructure", "of", "peer", "learning", "as", "well", "as", "the", "content", "of", "the", "matter", "being", "tutored", "This", "paper", ",", "whose", "data", "comes", "from", "a", "corpus", "of", "peer", "tutoring", "dialogues", ",", "should", "therefore", "be", "seen", "as", "a", "step", "in", "the", "right", "direction", "Acknowledgments", "We", "thank", "the", "anonymous", "reviewers", "for", "their", "help-", "ful", "feedback", "We", "express", "sincere", "gratitude", "to", "the", "members", "of", "the", "ArticuLab", "at", "Inria", "Paris", "for", "their", "invaluable", "assistance", "in", "the", "successful", "completion", "of", "this", "research", ",", "and", "to", "the", "members", "of", "the", "Articu-", "Lab", "at", "Carnegie", "Mellon", "Pittsburgh", "for", "answering", "our", "questions", "about", "their", "prior", "work", "This", "study", "re-", "ceived", "support", "from", "the", "French", "government", ",", "admin-", "istered", "by", "the", "Agence", "Nationale", "de", "la", "Recherche", ",", "as", "part", "of", "the", "\"", "Investissements", "d’avenir", "\"", "program", ",", "with", "reference", "to", "ANR-19", "-", "P3IA-0001", "(", "PRAIRIE", "3IA", "Institute", ")", "Limitations", "Several", "limitations", "apply", "to", "the", "current", "study", "While", "research", "shows", "that", "multimodal", "signals", "play", "an", "important", "role", "in", "conversational", "strategies", "(", "Zhao", "et", "al", ",", "2016b", ")", ",", "we", "did", "not", "take", "them", "into", "account", "It", "is", "an", "open", "question", "as", "to", "how", "to", "render", "large", "language", "models", "capable", "of", "generating", "multimodal", "behaviors", "A", "second", "limitation", "concerns", "the", "recent", "arrival", "on", "the", "scence", "of", "ChatGPT", ",", "that", "has", "shown", "impressive", "performance" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O" ]

[ "However", "the", "models", "are", "not", "free", ",", "and", "therefore", "were", "not", "included", "As", "noted", "above", ",", "another", "important", "limitation", "is", "the", "untrained", "status", "of", "the", "tutors", "in", "our", "corpus", ",", "who", "are", "teenagers", ",", "and", "not", "trained", "tutors", "Their", "use", "of", "hedges", ",", "there-", "fore", ",", "comes", "from", "their", "knowledge", "of", "everyday", "so-", "cial", "interaction", ",", "and", "not", "from", "expertise", "in", "teaching", "In", "looking", "at", "the", "data", ",", "we", "find", "a", "few", "places", "where", ",", "as", "instructors", "ourselves", ",", "we", "believe", "that", "a", "hedge", "is", "important", ",", "even", "though", "the", "real", "(", "teenage", ")", "tutor", "did", "not", "use", "one", "The", "last", "limitation", "is", "that", ",", "while", "we", "focused", "only", "on", "generating", "hedge", "or", "non", "-", "hedge", ",", "there", "are", "ac-", "tually", "3", "different", "kinds", "of", "hedges", ",", "that", "function", "differently", "We", "hope", "to", "extend", "this", "work", "and", "take885", "advantage", "of", "a", "text", "style", "transfer", "technique", "to", "gen-", "erate", "more", "kinds", "of", "hedges", "in", "future", "work", "Ethical", "Statement", "The", "corpus", "used", "here", "comes", "from", "earlier", "work", "by", "the", "last", "author", "and", "her", "colleagues", ",", "and", "was", "used", "in", "accordance", "with", "the", "original", "experimenters", "’", "Insti-", "tutional", "Review", "Board", "(", "IRB", ")", "Those", "experimenters", "also", "anonymised", "the", "data", ",", "removing", "any", "identify-", "ing", "information", "A", "pixelated", "example", "of", "the", "video", "data", "is", "available", "at", "github.com", "/", "neuromaancer", "/", "hedge_generation", "To", "counteract", "potential", "gen-", "der", "bias", "concerning", "the", "use", "of", "hedges", "in", "peer", "tu-", "toring", ",", "the", "data", "was", "collected", "from", "equal", "number", "of", "boys", "and", "girls", "In", "text", "generation", "tasks", ",", "it", "is", "important", "to", "be", "aware", "of", "the", "potential", "risk", "of", "gen-", "erating", "inappropriate", "content", "We", "believe", "that", ",", "in", "fact", ",", "hedges", "used", "by", "tutors", "are", "perhaps", "the", "least", "likely", "conversational", "strategy", "to", "be", "inappropriate", ",", "as", "they", "are", "the", "most", "polite", "and", "“", "delicate", "”", "conver-", "sational", "moves", "But", ",", "more", "generally", ",", "considerable", "additional", "work", "would", "be", "needed", "to", "filter", "out", "all", "inappropriate", "language", "for", "safe", "tutoring", "systems", "that", "engage", "in", "social", "and", "task", "interaction", "References", "John", "R", "Anderson", ",", "Albert", "T", "Corbett", ",", "Kenneth", "R", "Koedinger", ",", "and", "Ray", "Pelletier", "1995" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "893–911", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "DIFFUSION", "DB", ":", "A", "Large", "-", "scale", "Prompt", "Gallery", "Dataset", "for", "Text", "-", "to", "-", "Image", "Generative", "Models", "Zijie", "J", "Wang", "Evan", "Montoya", "David", "Munechika", "Haoyang", "Yang", "Benjamin", "Hoover", "Duen", "Horng", "Chau", "College", "of", "Computing", ",", "Georgia", "Tech", "{", "jayw|emontoya30|david.munechika|alexanderyang|bhoov|polo", "}", "@", "gatech.edu", "Abstract", "With", "recent", "advancements", "in", "diffusion", "models", ",", "users", "can", "generate", "high", "-", "quality", "images", "by", "writ-", "ing", "text", "prompts", "in", "natural", "language", "However", ",", "generating", "images", "with", "desired", "details", "requires", "proper", "prompts", ",", "and", "it", "is", "often", "unclear", "how", "a", "model", "reacts", "to", "different", "prompts", "or", "what", "the", "best", "prompts", "are", "To", "help", "researchers", "tackle", "these", "critical", "challenges", ",", "we", "introduce", "DIF-", "FUSION", "DB", ",", "the", "first", "large", "-", "scale", "text", "-", "to", "-", "image", "prompt", "dataset", "totaling", "6.5", "TB", ",", "containing", "14", "million", "images", "generated", "by", "Stable", "Diffusion", ",", "1.8", "million", "unique", "prompts", ",", "and", "hyperpa-", "rameters", "specified", "by", "real", "users" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "analyze", "the", "syntactic", "and", "semantic", "characteristics", "of", "prompts", "We", "pinpoint", "specific", "hyperparameter", "values", "and", "prompt", "styles", "that", "can", "lead", "to", "model", "errors", "and", "present", "evidence", "of", "potentially", "harmful", "model", "usage", ",", "such", "as", "the", "generation", "of", "misinformation", "The", "unprecedented", "scale", "and", "diversity", "of", "this", "human", "-", "actuated", "dataset", "provide", "exciting", "research", "opportunities", "in", "understanding", "the", "interplay", "between", "prompts", "and", "generative", "models", ",", "detecting", "deepfakes", ",", "and", "designing", "human", "-", "AI", "interaction", "tools", "to", "help", "users", "more", "easily", "use", "these", "models" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "DIFFUSION", "DBis", "publicly", "available", "at", ":", "https", ":", "/", "/", "poloclub.github.io", "/", "diffusiondb" ]

[ "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "1", "Introduction", "Recent", "diffusion", "models", "have", "gained", "immense", "pop-", "ularity", "by", "enabling", "high", "-", "quality", "and", "controllable", "image", "generation", "based", "on", "text", "prompts", "written", "in", "natural", "language", "(", "Rombach", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O" ]

[ ",", "2022", ";", "Ramesh", "et", "al", ",", "2022", ";", "Saharia", "et", "al", ",", "2022", ")", "Since", "the", "re-", "lease", "of", "these", "models", ",", "people", "from", "different", "do-", "mains", "have", "quickly", "applied", "them", "to", "create", "award-", "winning", "artworks", "(", "Roose", ",", "2022", ")", ",", "synthetic", "radi-", "ology", "images", "(", "Chambon", "et", "al", ",", "2022", ")", ",", "and", "even", "hyper", "-", "realistic", "videos", "(", "Ho", "et", "al", ",", "2022", ")", "However", ",", "generating", "images", "with", "desired", "de-", "tails", "is", "difficult", ",", "as", "it", "requires", "users", "to", "write", "proper", "prompts", "specifying", "the", "exact", "expected", "results", "De-", "veloping", "such", "prompts", "requires", "trial", "and", "error", ",", "Fig", "1", ":", "DIFFUSION", "DBis", "the", "first", "large", "-", "scale", "dataset", "featuring", "6.5", "TB", "data", "including", "1.8", "million", "unique", "Stable", "Diffusion", "prompts", "and", "14", "million", "generated", "images", "with", "accompanying", "hyperparameters" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "It", "provides", "exciting", "research", "opportunities", "in", "prompt", "engineering", ",", "deepfake", "detection", ",", "and", "understanding", "large", "generative", "models" ]

[ "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O" ]

[ "and", "can", "often", "feel", "random", "and", "unprincipled", "(", "Liu", "and", "Chilton", ",", "2022", ")", "Willison", "et", "al", "(", "2022", ")", "analo-", "gize", "writing", "prompts", "to", "wizards", "learning", "“", "magical", "spells", "”", ":", "users", "do", "not", "understand", "why", "some", "prompts", "work", ",", "but", "they", "will", "add", "these", "prompts", "to", "their", "“", "spell", "book", "”", "For", "example", ",", "to", "generate", "highly", "-", "detailed", "im-", "ages", ",", "it", "has", "become", "a", "common", "practice", "to", "add", "spe-", "cial", "keywords", "such", "as", "“", "trending", "on", "artstation", "”", "and", "“", "unreal", "engine", "”", "in", "the", "prompt", "Prompt", "engineering", "has", "become", "a", "field", "of", "study", "in", "the", "context", "of", "text", "-", "to", "-", "text", "generation", ",", "where", "re-", "searchers", "systematically", "investigate", "how", "to", "con-", "struct", "prompts", "to", "effectively", "solve", "different", "down-", "stream", "tasks", "(", "Branwen", ",", "2020", ";", "Reynolds", "and", "Mc-", "Donell", ",", "2021", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "large", "text", "-", "to", "-", "image", "models", "are", "relatively", "new", ",", "there", "is", "a", "pressing", "need", "to", "under-", "stand", "how", "these", "models", "react", "to", "prompts", ",", "how", "to", "write", "effective", "prompts", ",", "and", "how", "to", "design", "tools", "to", "help", "users", "generate", "images", "(", "Liu", "and", "Chilton", ",", "2022", ")", "Our", "work", "helps", "researchers", "tackle", "these", "critical", "challenges", ",", "through", "three", "major", "contributions", ":", "•DIFFUSION", "DB", "(", "Fig" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O" ]

[ "1", ")", ",", "the", "first", "large", "-", "scale", "prompt", "dataset", "totaling", "6.5", "TB", ",", "containing", "14", "million", "images", "generated", "by", "Stable", "Diffu-", "sion", "(", "Rombach", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2022", ")", "using", "1.8", "million893", "Fig", "2", ":", "DIFFUSION", "DBcontains", "14", "million", "Stable", "Diffusion", "images", ",", "1.8", "million", "unique", "text", "prompts", ",", "and", "all", "model", "hyperparameters", ":", "seed", ",", "step", ",", "CFG", "scale", ",", "sampler", ",", "and", "image", "size" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "B-HyperparameterName", "I-HyperparameterName" ]

[ "Each", "image", "also", "has", "a", "unique", "filename", ",", "a", "hash", "of", "its", "creator", "’s", "Discord", "username", ",", "and", "a", "creation", "timestamp", "To", "help", "researchers", "filter", "out", "potentially", "unsafe", "or", "harmful", "content", ",", "we", "employ", "state", "-", "of", "-", "the", "-", "art", "models", "to", "compute", "an", "NSFW", "score", "for", "each", "image", "and", "prompt" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O" ]

[ "unique", "prompts", "and", "hyperparameters", "specified", "by", "real", "users", "We", "construct", "this", "dataset", "by", "collect-", "ing", "images", "shared", "on", "the", "Stable", "Diffusion", "public", "Discord", "server", "(", "§", "2", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "release", "DIFFUSION", "DB", "with", "a", "CC0", "1.0", "license", ",", "allowing", "users", "to", "flexi-", "bly", "share", "and", "adapt", "the", "dataset", "for", "their", "use" ]

[ "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "addition", ",", "we", "open", "-", "source", "our", "code1that", "collects", ",", "processes", ",", "and", "analyzes", "the", "images", "and", "prompts", "•Revealing", "prompt", "patterns", "and", "model", "errors", "The", "unprecedented", "scale", "of", "DIFFUSION", "DB", "paves", "the", "path", "for", "researchers", "to", "systematically", "investigate", "diverse", "prompts", "and", "associated", "im-", "ages", "that", "were", "previously", "not", "possible" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "By", "char-", "acterizing", "prompts", "and", "images", ",", "we", "discover", "com-", "mon", "prompt", "patterns", "and", "find", "different", "distribu-", "tions", "of", "the", "semantic", "representations", "of", "prompts", "and", "images", "Our", "error", "analysis", "highlights", "partic-", "ular", "hyperparameters", "and", "prompt", "styles", "can", "lead", "to", "model", "errors", "Finally", ",", "we", "provide", "evidence", "of", "image", "generative", "models", "being", "used", "for", "poten-", "tially", "harmful", "purposes", "such", "as", "generating", "misin-", "formation", "and", "nonconsensual", "pornography", "(", "§", "3", ")", "•Highlighting", "new", "research", "directions", "As", "the", "first", "-", "of", "-", "its", "-", "kind", "text", "-", "to", "-", "image", "prompt", "dataset", ",", "DIFFUSION", "DBopens", "up", "unique", "opportunities", "for", "researchers", "from", "natural", "language", "processing", "(", "NLP", ")", ",", "computer", "vision", ",", "and", "human", "-", "computer", "interaction", "(", "HCI", ")", "communities" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "scale", "and", "diversity", "of", "this", "human", "-", "actuated", "dataset", "will", "provide", "new", "research", "opportunities", "in", "better", "tooling", "for", "prompt", "engineering", ",", "explaining", "large", "generative", "models", ",", "and", "detecting", "deepfakes", "(", "§", "4", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O" ]

[ "We", "believe", "DIFFUSION", "DBwill", "serve", "as", "an", "im-", "portant", "resource", "for", "researchers", "to", "study", "the", "roles", "of", "prompts", "in", "text", "-", "to", "-", "image", "generation", "and", "design", "next", "-", "generation", "human", "-", "AI", "interaction", "tools" ]

[ "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "1Code", ":", "https", ":", "/", "/", "github.com", "/", "poloclub", "/", "diffusiondb2", "Constructing", "D", "IFFUSION", "DB", "We", "construct", "DIFFUSION", "DB", "(", "Fig", "2", ")", "by", "scraping", "user", "-", "generated", "images", "from", "the", "official", "Stable", "Dif-", "fusion", "Discord", "server" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O" ]

[ "We", "choose", "Stable", "Diffusion", "as", "it", "is", "currently", "the", "only", "open", "-", "source", "large", "text", "-", "to-", "image", "generative", "model", ",", "and", "all", "generated", "images", "have", "a", "CC0", "1.0", "license", "that", "allows", "uses", "for", "any", "pur-", "pose", "(", "StabilityAI", ",", "2022b", ")" ]

[ "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "choose", "the", "official", "public", "Discord", "server", "as", "it", "has", "strict", "rules", "against", "generating", "illegal", ",", "hateful", ",", "or", "NSFW", "(", "not", "suitable", "for", "work", ",", "such", "as", "sexual", "and", "violent", "content", ")", "im-", "ages", ",", "and", "it", "prohibits", "sharing", "prompts", "with", "personal", "information", "(", "StabilityAI", ",", "2022a", ")", "Our", "construction", "process", "includes", "collecting", "im-", "ages", "(", "§", "2.1", ")", ",", "linking", "them", "to", "prompts", "and", "hyperpa-", "rameters", "(", "§", "2.2", ")", ",", "applying", "NSFW", "detectors", "(", "§", "2.3", ")", ",", "creating", "a", "flexible", "file", "structure", "(", "§", "2.4", ")", ",", "and", "dis-", "tributing", "the", "dataset", "(", "§", "2.5", ")", "We", "discuss", "DIFFU", "-", "SION", "DB", "’s", "limitations", "and", "broader", "impacts", "in", "§", "7", ",", "§", "8", ",", "and", "a", "Data", "Sheet", "(", "Gebru", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2020", ")", "(", "‡", "A", ")", "2.1", "Collecting", "User", "Generated", "Images", "We", "download", "chat", "messages", "from", "the", "Stable", "Diffusion", "Discord", "channels", "with", "DiscordChatEx-", "porter", "(", "Holub", ",", "2017", ")", ",", "saving", "them", "as", "HTML", "files", "We", "focus", "on", "channels", "where", "users", "can", "command", "a", "bot", "to", "run", "Stable", "Diffusion", "Version", "1", "to", "generate", "images", "by", "typing", "a", "prompt", ",", "hyperparameters", ",", "and", "the", "number", "of", "images" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "bot", "then", "replies", "with", "the", "generated", "images", "and", "used", "random", "seeds", "2.2", "Extracting", "Image", "Metadata", "We", "use", "Beautiful", "Soup", "(", "Richardson", ",", "2007", ")", "to", "parse", "HTML", "files", ",", "mapping", "generated", "images", "with", "their", "prompts", ",", "hyperparameters", ",", "seeds", ",", "timestamps", ",", "and", "the", "requester", "’s", "Discord", "usernames", "Some", "images", "are", "collages", ",", "where", "the", "bot", "combines", "ngenerated894", "images", "as", "a", "grid", "(", "e.g.", ",", "a", "3×3grid", "of", "n=", "9images", ")", ";", "these", "images", "have", "the", "same", "prompt", "and", "hyperpa-", "rameters", "but", "different", "seeds", "We", "use", "Pillow", "(", "Clark", ",", "2015", ")", "to", "split", "a", "collage", "into", "nindividual", "images", "and", "assign", "them", "with", "the", "correct", "metadata", "and", "unique", "filenames", "Finally", ",", "we", "compress", "all", "images", "in", "DIF-", "FUSION", "DB", "using", "lossless", "WebP", "(", "Google", ",", "2010", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2.3", "Identifying", "NSFW", "Content", "The", "Stable", "Diffusion", "Discord", "server", "prohibits", "gen-", "erating", "NSFW", "images", "(", "StabilityAI", ",", "2022a", ")", "Also", ",", "Stable", "Diffusion", "has", "a", "built", "-", "in", "NSFW", "filter", "that", "automatically", "blurs", "generated", "images", "if", "it", "detects", "NSFW", "content", "However", ",", "we", "find", "DIFFUSION", "DB", "still", "includes", "NSFW", "images", "that", "were", "not", "detected", "by", "the", "built", "-", "in", "filter", "or", "removed", "by", "server", "moder-", "ators", "To", "help", "researchers", "filter", "these", "images", ",", "we", "apply", "state", "-", "of", "-", "the", "-", "art", "NSFW", "classifiers", "to", "compute", "NSFW", "scores", "for", "each", "prompt", "and", "image" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O" ]

[ "Re-", "searchers", "can", "determine", "a", "suitable", "threshold", "to", "fil-", "ter", "out", "potentially", "unsafe", "data", "for", "their", "tasks", "NSFW", "Prompts", "We", "use", "a", "pre", "-", "trained", "multilin-", "gual", "toxicity", "prediction", "model", "to", "detect", "unsafe", "prompts", "(", "Hanu", "and", "Unitary", "team", ",", "2020", ")", "This", "model", "outputs", "the", "probabilities", "of", "a", "sentence", "be-", "ing", "toxic", ",", "obscene", ",", "threat", ",", "insult", ",", "identity", "attack", ",", "and", "sexually", "explicit", "We", "compute", "the", "text", "NSFW", "score", "by", "taking", "the", "maximum", "of", "the", "probabilities", "of", "being", "toxic", "and", "sexually", "explicit", "(", "Fig" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3", "Top", ")", "NSFW", "Images", "We", "use", "a", "pre", "-", "trained", "Efficient-", "Net", "classifier", "to", "detect", "images", "with", "sexual", "con-", "tent", "(", "Schuhmann", "et", "al", ",", "2022", ")", "This", "model", "predicts", "the", "probabilities", "of", "five", "image", "types", ":", "drawing", ",", "hen-", "tai", ",", "neutral", ",", "sexual", ",", "or", "porn", "We", "compute", "the", "image", "NSFW", "score", "by", "summing", "the", "probabilities", "of", "hen-", "tai", ",", "sexual", ",", "and", "porn" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "use", "a", "Laplacian", "convolu-", "tion", "kernel", "with", "a", "threshold", "of", "10to", "detect", "images", "that", "have", "already", "been", "blurred", "by", "Stable", "Diffusion", "and", "assign", "them", "a", "score", "of", "2.0", "(", "Fig" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3", "Bottom", ")", "As", "Stable", "Diffusion", "’s", "blur", "effect", "is", "strong", ",", "our", "blurred", "image", "detector", "has", "high", "precision", "and", "recall", "(", "both", "100", "%", "on", "50k", "randomly", "sampled", "images", ")" ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "NSFW", "Detector", "Accuracy", "To", "access", "the", "accu-", "racy", "of", "these", "two", "pre", "-", "trained", "state", "-", "of", "-", "the", "-", "art", "NSFW", "detectors", ",", "we", "randomly", "sample", "5k", "images", "and", "2k", "prompt", "texts", "and", "manually", "annotate", "them", "with", "two", "binary", "NSFW", "labels", "(", "one", "for", "image", "and", "one", "for", "prompt", ")", "and", "analyze", "the", "results", "As", "the", "percent-", "age", "of", "samples", "predicted", "as", "NSFW", "(", "score", ">", "0.5", ")", "is", "small", ",", "we", "up", "-", "sample", "positive", "samples", "for", "annota-", "Fig", "3", ":", "To", "help", "researchers", "filter", "out", "potentially", "unsafe", "data", "in", "DIFFUSION", "DB", ",", "we", "apply", "NSFW", "detectors", "to", "predict", "the", "probability", "that", "an", "image", "-", "prompt", "pair", "con-", "tains", "NSFW", "content" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "images", ",", "a", "score", "of", "2.0indi-", "cates", "the", "image", "has", "been", "blurred", "by", "Stable", "Diffusion", "tion", ",", "where", "we", "have", "an", "equal", "number", "of", "positive", "and", "negative", "examples", "in", "our", "annotation", "sample", "After", "annotation", ",", "we", "compute", "the", "precisions", "and", "recalls", "Because", "we", "have", "up", "-", "sampled", "positive", "pre-", "dictions", ",", "we", "adjust", "the", "recalls", "by", "multiplying", "false", "negatives", "by", "a", "scalar", "to", "adjust", "the", "sampling", "bias", "The", "up", "-", "sampling", "does", "not", "affect", "precisions", "Fi-", "nally", ",", "the", "precisions", ",", "recalls", "and", "adjusted", "recalls", "are0.3604", ",", "0.9565", ",", "and", "0.6661", "for", "the", "prompt", "NSFW", "detector", ",", "and", "0.315", ",", "0.9722", ",", "and", "0.3037", "for", "the", "image", "NSFW", "detector" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "B-MetricName", "I-MetricName", "B-MetricValue", "O", "B-MetricValue", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O" ]

[ "Our", "results", "suggest", "two", "detectors", "are", "progressive", "classifiers", "The", "lower", "adjusted", "recall", "of", "the", "prompt", "NSFW", "detector", "can", "be", "attributed", "to", "several", "potential", "factors", ",", "including", "the", "use", "of", "a", "fixed", "binary", "threshold", "and", "the", "poten-", "tial", "discrepancy", "in", "the", "definition", "of", "NSFW", "prompts", "between", "the", "detector", "and", "our", "annotation", "process", "2.4", "Organizing", "D", "IFFUSION", "DB", "We", "organize", "DIFFUSION", "DBusing", "a", "flexible", "file", "structure" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ "We", "first", "give", "each", "image", "a", "unique", "file-", "name", "using", "Universally", "Unique", "Identifier", "(", "UUID", ",", "Version", "4", ")", "(", "Leach", "et", "al", ",", "2005", ")", "Then", ",", "we", "or-", "ganize", "images", "into", "14,000", "sub", "-", "folders", "—", "each", "in-", "cludes", "1,000", "images", "Each", "sub", "-", "folder", "also", "includes", "a", "JSON", "file", "that", "contains", "1,000", "key", "-", "value", "pairs", "mapping", "an", "image", "name", "to", "its", "metadata", "An", "exam-", "ple", "of", "this", "image", "-", "prompt", "pair", "can", "be", "seen", "in", "Fig", "2", "This", "modular", "file", "structure", "enables", "researchers", "to", "flexibly", "use", "a", "subset", "of", "D", "IFFUSION", "DB" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName" ]

[ "We", "create", "a", "metadata", "table", "in", "Apache", "Parquet", "format", "(", "Apache", ",", "2013", ")", "with", "13", "columns", ":", "unique", "image", "name", ",", "image", "path", ",", "prompt", ",", "seed", ",", "CFG", "scale", ",", "sampler", ",", "width", ",", "height", ",", "username", "hash", ",", "timestamp", ",", "image", "NSFW", "score", ",", "and", "prompt", "NSFW895", "Fig", "4", ":", "The", "distribution", "of", "token", "counts", "for", "all", "1.8", "mil-", "lion", "unique", "prompts", "in", "DIFFUSION", "DB" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName" ]

[ "It", "is", "worth", "not-", "ing", "that", "Stable", "Diffusion", "truncates", "prompts", "at", "75", "tokens" ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O" ]

[ "score", "We", "store", "the", "table", "in", "a", "column", "-", "based", "format", "for", "efficient", "querying", "of", "individual", "columns", "2.5", "Distributing", "D", "IFFUSION", "DB", "We", "distribute", "DIFFUSION", "DBby", "bundling", "each", "im-", "age", "sub", "-", "folder", "as", "a", "Zip", "file" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "collect", "Discord", "usernames", "of", "image", "creators", "(", "§", "2.2", ")", ",", "but", "only", "in-", "clude", "their", "SHA256", "hashes", "in", "the", "distribution", "—", "as", "some", "prompts", "may", "include", "sensitive", "information", ",", "and", "explicitly", "linking", "them", "to", "their", "creators", "can", "cause", "harm", "We", "host", "our", "dataset", "on", "a", "publicly", "ac-", "cessible", "repository2under", "a", "CC0", "1.0", "license", "We", "provide", "scripts", "that", "allow", "users", "to", "download", "and", "load", "DIFFUSION", "DBby", "writing", "two", "lines", "of", "code" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O" ]

[ "We", "discuss", "the", "broader", "impacts", "of", "our", "distribution", "in", "§", "7", ",", "§", "8", ",", "and", "the", "Data", "Sheet", "(", "‡A", ")", "To", "mitigate", "the", "potential", "harms", ",", "we", "provide", "a", "form", "for", "people", "to", "report", "harmful", "content", "for", "removal", "Image", "cre-", "ators", "can", "also", "use", "this", "form", "to", "remove", "their", "images", "3", "Data", "Analysis", "To", "gain", "a", "comprehensive", "understanding", "of", "the", "dataset", ",", "we", "analyze", "it", "from", "different", "perspectives", "We", "examine", "prompt", "length", "(", "§", "3.1", ")", ",", "language", "(", "§", "3.2", ")", ",", "characteristics", "of", "both", "prompts", "(", "§", "3.3", ")", "and", "im-", "ages", "(", "§", "3.4", ")", "We", "conduct", "an", "error", "analysis", "on", "misaligned", "prompt", "-", "image", "pairs", "(", "§", "3.5", ")", "and", "provide", "empirical", "evidence", "of", "potentially", "harmful", "uses", "of", "image", "generative", "models", "(", "§", "3.6", ")", "3.1", "Prompt", "Length", "We", "collect", "prompts", "from", "Discord", ",", "where", "users", "can", "submit", "one", "prompt", "to", "generate", "multiple", "images", "and", "experiment", "with", "different", "hyperparameters", "Our", "dataset", "contains", "1,819,808unique", "prompts", "We", "tokenize", "prompts", "using", "the", "same", "tokenizer", "as", "used", "in", "Stable", "Diffusion", "(", "Platen", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2022", ")", "This", "tokenizer", "truncates", "tokenized", "prompts", "at", "75to-", "kens", ",", "excluding", "special", "tokens", "<", "|startoftext|", ">", "2Public", "dataset", "repository", ":", "https", ":", "/", "/", "huggingface.co", "/", "datasets", "/", "poloclub", "/", "diffusiondband", "<", "|endoftext|", ">", "We", "measure", "the", "length", "of", "prompts", "by", "their", "tokenized", "length", "The", "prompt", "length", "distribution", "(", "Fig", "4", ")", "indicates", "that", "shorter", "prompts", "(", "e.g.", ",", "around", "6", "to", "12", "tokens", ")", "are", "the", "most", "popular", "The", "spike", "at", "75", "suggests", "many", "users", "sub-", "mitted", "prompts", "longer", "than", "the", "model", "’s", "limit", ",", "high-", "lighting", "the", "need", "for", "user", "interfaces", "guiding", "users", "to", "write", "prompts", "within", "the", "token", "limit", "3.2", "Prompt", "Language", "We", "use", "a", "pre", "-", "trained", "language", "detector", "(", "Joulin", "et", "al", ",", "2017", ")", "to", "identify", "the", "languages", "used", "in", "prompts", "98.3", "%", "of", "the", "unique", "prompts", "in", "our", "dataset", "are", "written", "in", "English", "However", ",", "we", "also", "find", "a", "large", "number", "of", "non", "-", "English", "languages", ",", "with", "the", "top", "four", "being", "German", "(", "5.2k", "unique", "prompts", ")", ",", "French", "(", "4.6k", ")", ",", "Italian", "(", "3.2k", ")", ",", "and", "Spanish", "(", "3k", ")", "The", "lan-", "guage", "detector", "identifies", "34", "languages", "with", "at", "least", "100", "unique", "prompts", "in", "total", "Stable", "Diffusion", "is", "trained", "on", "LAION-2B", "(", "en", ")", "(", "Schuhmann", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ ",", "2022", ")", "that", "primarily", "includes", "images", "with", "English", "de-", "scriptions", ",", "thus", "our", "findings", "suggest", "that", "expanding", "the", "training", "data", "’s", "language", "coverage", "to", "improve", "the", "user", "experience", "for", "non", "-", "English", "communities", "3.3", "Characterizing", "Prompts", "In", "this", "section", ",", "we", "explore", "the", "characteristics", "of", "prompts", "in", "DIFFUSION", "DB" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName" ]