Datasets:

midas
/

nus

Modalities:

Text

Size:

< 1K

Libraries:

Datasets

Dataset card Viewer Files Files and versions Community

Dataset Viewer

Auto-converted to Parquet

Full Screen Viewer

Full Screen

Subset (3)

extraction · 211 rows

Split (1)

test · 211 rows

id int64 1 215	document sequence	doc_bio_tags sequence
125	[ "Learning", "Spatially", "Variant", "Dissimilarity", "-LRB-", "Svad", "-RRB-", "Measures", "Clustering", "algorithms", "typically", "operate", "on", "a", "feature", "vector", "representation", "of", "the", "data", "and", "find", "clusters", "that", "are", "compact", "with", "respect", "to", "an", "assumed", "-LRB-", "dis", "-RRB-", "similarity", "measure", "between", "the", "data", "points", "in", "feature", "space", ".", "This", "makes", "the", "type", "of", "clusters", "identified", "highly", "dependent", "on", "the", "assumed", "similarity", "measure", ".", "Building", "on", "recent", "work", "in", "this", "area", ",", "we", "formally", "define", "a", "class", "of", "spatially", "varying", "dissimilarity", "measures", "and", "propose", "algorithms", "to", "learn", "the", "dissimilarity", "measure", "automatically", "from", "the", "data", ".", "The", "idea", "is", "to", "identify", "clusters", "that", "are", "compact", "with", "respect", "to", "the", "unknown", "spatially", "varying", "dissimilarity", "measure", ".", "Our", "experiments", "show", "that", "the", "proposed", "algorithms", "are", "more", "stable", "and", "achieve", "better", "accuracy", "on", "various", "textual", "data", "sets", "when", "compared", "with", "similar", "algorithms", "proposed", "in", "the", "literature", ".", "H.", "2.8", "-LSB-", "Database", "Management", "-RSB-", ":", "Database", "Applications-Data", "Mining", "Algorithms", "Clustering", "plays", "a", "major", "role", "in", "data", "mining", "as", "a", "tool", "to", "discover", "structure", "in", "data", ".", "Object", "clustering", "algorithms", "operate", "on", "a", "feature", "vector", "representation", "of", "the", "data", "and", "find", "clusters", "that", "are", "compact", "with", "respect", "to", "an", "assumed", "-LRB-", "dis", "-RRB-", "similarity", "measure", "between", "the", "data", "points", "in", "feature", "space", ".", "As", "a", "consequence", ",", "the", "nature", "of", "clusters", "identified", "by", "a", "clustering", "algorithm", "is", "highly", "dependent", "on", "the", "assumed", "similarity", "measure", ".", "The", "most", "commonly", "used", "dissimilarity", "measure", ",", "namely", "the", "Euclidean", "metric", ",", "assumes", "that", "the", "dissimilarity", "measure", "is", "isotropic", "and", "spatially", "invariant", ",", "and", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "KDD", "'", "04", ",", "August", "22", "25", ",", "2004", ",", "Seattle", ",", "Washington", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-888-1", "/", "04/0008", "...", "$", "5.00", ".", "it", "is", "effective", "only", "when", "the", "clusters", "are", "roughly", "spherical", "and", "all", "of", "them", "have", "approximately", "the", "same", "size", ",", "which", "is", "rarely", "the", "case", "in", "practice", "-LSB-", "8", "-RSB-", ".", "The", "problem", "of", "finding", "non-spherical", "clusters", "is", "often", "addressed", "by", "utilizing", "a", "feature", "weighting", "technique", ".", "These", "techniques", "discover", "a", "single", "set", "of", "weights", "such", "that", "relevant", "features", "are", "given", "more", "importance", "than", "irrelevant", "features", ".", "However", ",", "in", "practice", ",", "each", "cluster", "may", "have", "a", "different", "set", "of", "relevant", "features", ".", "We", "consider", "Spatially", "Varying", "Dissimilarity", "-LRB-", "SVaD", "-RRB-", "measures", "to", "address", "this", "problem", ".", "Diday", "et", ".", "al.", "-LSB-", "4", "-RSB-", "proposed", "the", "adaptive", "distance", "dynamic", "clusters", "-LRB-", "ADDC", "-RRB-", "algorithm", "in", "this", "vain", ".", "A", "fuzzified", "version", "of", "ADDC", ",", "popularly", "known", "as", "the", "Gustafson-Kessel", "-LRB-", "GK", "-RRB-", "algorithm", "-LSB-", "7", "-RSB-", "uses", "a", "dynamically", "updated", "covariance", "matrix", "so", "that", "each", "cluster", "can", "have", "its", "own", "norm", "matrix", ".", "These", "algorithms", "can", "deal", "with", "hyperelliposoidal", "clusters", "of", "various", "sizes", "and", "orientations", ".", "The", "EM", "algorithm", "-LSB-", "2", "-RSB-", "with", "Gaussian", "probability", "distributions", "can", "also", "be", "used", "to", "achieve", "similar", "results", ".", "However", ",", "the", "above", "algorithms", "are", "computationally", "expensive", "for", "high-dimensional", "data", "since", "they", "invert", "covariance", "matrices", "in", "every", "iteration", ".", "Moreover", ",", "matrix", "inversion", "can", "be", "unstable", "when", "the", "data", "is", "sparse", "in", "relation", "to", "the", "dimensionality", ".", "One", "possible", "solution", "to", "the", "problems", "of", "high", "computation", "and", "instability", "arising", "out", "of", "using", "covariance", "matrices", "is", "to", "force", "the", "matrices", "to", "be", "diagonal", ",", "which", "amounts", "to", "weighting", "each", "feature", "differently", "in", "different", "clusters", ".", "While", "this", "restricts", "the", "dissimilarity", "measures", "to", "have", "axis", "parallel", "isometry", ",", "the", "weights", "also", "provide", "a", "simple", "interpretation", "of", "the", "clusters", "in", "terms", "of", "relevant", "features", ",", "which", "is", "important", "in", "knowledge", "discovery", ".", "Examples", "of", "such", "algorithms", "are", "SCAD", "and", "Fuzzy-SKWIC", "-LSB-", "5", ",", "6", "-RSB-", ",", "which", "perform", "fuzzy", "clustering", "of", "data", "while", "simultaneously", "finding", "feature", "weights", "in", "individual", "clusters", ".", "In", "this", "paper", ",", "we", "generalize", "the", "idea", "of", "the", "feature", "weighting", "approach", "to", "define", "a", "class", "of", "spatially", "varying", "dissimilarity", "measures", "and", "propose", "algorithms", "that", "learn", "the", "dissimilarity", "measure", "automatically", "from", "the", "given", "data", "while", "performing", "the", "clustering", ".", "The", "idea", "is", "to", "identify", "clusters", "inherent", "in", "the", "data", "that", "are", "compact", "with", "respect", "to", "the", "unknown", "spatially", "varying", "dissimilarity", "measure", ".", "We", "compare", "the", "proposed", "algorithms", "with", "a", "diagonal", "version", "of", "GK", "-LRB-", "DGK", "-RRB-", "and", "a", "crisp", "version", "of", "SCAD", "-LRB-", "CSCAD", "-RRB-", "on", "a", "variety", "of", "data", "sets", ".", "Our", "algorithms", "perform", "better", "than", "DGK", "and", "CSCAD", ",", "and", "use", "more", "stable", "update", "equations", "for", "weights", "than", "CSCAD", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "In", "the", "next", "section", ",", "we", "define", "a", "general", "class", "of", "dissimilarity", "measures", "611", "Research", "Track", "Poster", "and", "formulate", "two", "objective", "functions", "based", "on", "them", ".", "In", "Section", "3", ",", "we", "derive", "learning", "algorithms", "that", "optimize", "the", "objective", "functions", ".", "We", "present", "an", "experimental", "study", "of", "the", "proposed", "algorithms", "in", "Section", "4", ".", "We", "compare", "the", "performance", "of", "the", "proposed", "algorithms", "with", "that", "of", "DGK", "and", "CSCAD", ".", "These", "two", "algorithms", "are", "explained", "in", "Appendix", "A.", "Finally", ",", "we", "summarize", "our", "contributions", "and", "conclude", "with", "some", "future", "directions", "in", "Section", "5", ".", "We", "first", "define", "a", "general", "class", "of", "dissimilarity", "measures", "and", "formulate", "a", "few", "objective", "functions", "in", "terms", "of", "the", "given", "data", "set", ".", "Optimization", "of", "the", "objective", "functions", "would", "result", "in", "learning", "the", "underlying", "dissimilarity", "measure", ".", "2.1", "SVaD", "Measures", "In", "the", "following", "definition", ",", "we", "generalize", "the", "concept", "of", "dissimilarity", "measures", "in", "which", "the", "weights", "associated", "with", "features", "change", "over", "feature", "space", ".", "Definition", "2.1", "We", "define", "the", "measure", "of", "dissimilarity", "of", "x", "from", "y", "1", "to", "be", "a", "weighted", "sum", "of", "M", "dissimilarity", "measures", "between", "x", "and", "y", "where", "the", "values", "of", "the", "weights", "depend", "on", "the", "region", "from", "which", "the", "dissimilarity", "is", "being", "measured", ".", "Let", "P", "=", "-LCB-", "R", "1", ",", "...", ",", "R", "K", "-RCB-", "be", "a", "collection", "of", "K", "regions", "that", "partition", "the", "feature", "space", ",", "and", "w", "1", ",", "w", "2", ",", "...", ",", "and", "w", "K", "be", "the", "weights", "associated", "with", "R", "1", ",", "R", "2", ",", "...", ",", "and", "R", "K", ",", "respectively", ".", "Let", "g", "1", ",", "g", "2", ",", "...", ",", "and", "g", "M", "be", "M", "dissimilarity", "measures", ".", "Then", ",", "each", "w", "j", ",", "j", "=", "1", ",", "...", ",", "K", ",", "is", "an", "M", "-", "dimensional", "vector", "where", "its", "l-th", "component", ",", "w", "jl", "is", "associated", "with", "g", "l", ".", "Let", "W", "denote", "the", "K-tuple", "-LRB-", "w", "1", ",", "...", ",", "w", "K", "-RRB-", "and", "let", "r", "be", "a", "real", "number", ".", "Then", ",", "the", "dissimilarity", "of", "x", "from", "y", "is", "given", "by", ":", "f", "W", "-LRB-", "x", ",", "y", "-RRB-", "=", "M", "l", "=", "1", "w", "r", "jl", "g", "l", "-LRB-", "x", ",", "y", "-RRB-", ",", "if", "y", "R", "j", ".", "-LRB-", "1", "-RRB-", "We", "refer", "to", "f", "W", "as", "a", "Spatially", "Variant", "Dissimilarity", "-LRB-", "SVaD", "-RRB-", "measure", ".", "Note", "that", "f", "W", "need", "not", "be", "symmetric", "even", "if", "g", "i", "are", "symmetric", ".", "Hence", ",", "f", "W", "is", "not", "a", "metric", ".", "Moreover", ",", "the", "behavior", "of", "f", "W", "depends", "on", "the", "behavior", "of", "g", "i", ".", "There", "are", "many", "ways", "to", "define", "g", "i", ".", "We", "list", "two", "instances", "of", "f", "W", ".", "Example", "2.1", "-LRB-", "Minkowski", "-RRB-", "Let", "d", "be", "the", "feature", "space", "and", "M", "=", "d.", "Let", "a", "point", "x", "d", "be", "represented", "as", "-LRB-", "x", "1", ",", "...", ",", "x", "d", "-RRB-", ".", "Then", ",", "when", "g", "i", "-LRB-", "x", ",", "y", "-RRB-", "=", "\|", "x", "i", "-", "y", "i", "\|", "p", "for", "i", "=", "1", ",", "...", ",", "d", ",", "and", "p", "1", ",", "the", "resulting", "SVaD", "measure", ",", "f", "M", "W", "is", "called", "Minkowski", "SVaD", "-LRB-", "MSVaD", "-RRB-", "measure", ".", "That", "is", ",", "f", "M", "W", "-LRB-", "x", ",", "y", "-RRB-", "=", "d", "l", "=", "1", "w", "r", "jl", "\|", "x", "l", "-", "y", "l", "\|", "p", ",", "if", "y", "R", "j", ".", "-LRB-", "2", "-RRB-", "One", "may", "note", "that", "when", "w", "1", "=", "=", "w", "K", "and", "p", "=", "2", ",", "f", "M", "W", "is", "the", "weighted", "Euclidean", "distance", ".", "When", "p", "=", "2", ",", "we", "call", "f", "M", "W", "a", "Euclidean", "SVaD", "-LRB-", "ESVaD", "-RRB-", "measure", "and", "denote", "it", "by", "f", "E", "W", ".", "1", "We", "use", "the", "phrase", "``", "dissimilarity", "of", "x", "from", "y", "''", "rather", "than", "``", "dissimilarity", "between", "x", "and", "y", "''", "because", "we", "consider", "a", "general", "situation", "where", "the", "dissimilarity", "measure", "depends", "on", "the", "location", "of", "y", ".", "As", "an", "example", "of", "this", "situation", "in", "text", "mining", ",", "when", "the", "dissimilarity", "is", "measured", "from", "a", "document", "on", "`", "terrorism", "'", "to", "a", "document", "x", ",", "a", "particular", "set", "of", "keywords", "may", "be", "weighted", "heavily", "whereas", "when", "the", "dissimilarity", "is", "measured", "from", "a", "document", "on", "`", "football", "'", "to", "x", ",", "a", "different", "set", "of", "keywords", "may", "be", "weighted", "heavily", ".", "Example", "2.2", "-LRB-", "Cosine", "-RRB-", "Let", "the", "feature", "space", "be", "the", "set", "of", "points", "with", "l", "2", "norm", "equal", "to", "one", ".", "That", "is", ",", "x", "2", "=", "1", "for", "all", "points", "x", "in", "feature", "space", ".", "Then", ",", "when", "g", "l", "-LRB-", "x", ",", "y", "-RRB-", "=", "-LRB-", "1/d", "-", "x", "l", "y", "l", "-RRB-", "for", "l", "=", "1", ",", "...", ",", "d", ",", "the", "resulting", "SVaD", "measure", "f", "C", "W", "is", "called", "a", "Cosine", "SVaD", "-LRB-", "CSVaD", "-RRB-", "measure", ":", "f", "C", "W", "-LRB-", "x", ",", "y", "-RRB-", "=", "d", "i", "=", "1", "w", "r", "jl", "-LRB-", "1/d", "-", "x", "l", "y", "l", "-RRB-", ",", "if", "y", "R", "j", ".", "-LRB-", "3", "-RRB-", "In", "the", "formulation", "of", "the", "objective", "function", "below", ",", "we", "use", "a", "set", "of", "parameters", "to", "represent", "the", "regions", "R", "1", ",", "R", "2", ",", "...", ",", "and", "R", "K", ".", "Let", "c", "1", ",", "c", "2", ",", "...", ",", "and", "c", "K", "be", "K", "points", "in", "feature", "space", ".", "Then", "y", "R", "j", "iff", "f", "W", "-LRB-", "y", ",", "c", "j", "-RRB-", "<", "f", "W", "-LRB-", "y", ",", "c", "i", "-RRB-", "for", "i", "=", "j.", "-LRB-", "4", "-RRB-", "In", "the", "case", "of", "ties", ",", "y", "is", "assigned", "to", "the", "region", "with", "the", "lowest", "index", ".", "Thus", ",", "the", "K-tuple", "of", "points", "C", "=", "-LRB-", "c", "1", ",", "c", "2", ",", "...", ",", "c", "K", "-RRB-", "defines", "a", "partition", "in", "feature", "space", ".", "The", "partition", "induced", "by", "the", "points", "in", "C", "is", "similar", "in", "nature", "to", "a", "Voronoi", "tessellation", ".", "We", "use", "the", "notation", "f", "W", ",", "C", "whenever", "we", "use", "the", "set", "C", "to", "parameterize", "the", "regions", "used", "in", "the", "dissimilarity", "measure", ".", "2.2", "Objective", "Function", "for", "Clustering", "The", "goal", "of", "the", "present", "work", "is", "to", "identify", "the", "spatially", "varying", "dissimilarity", "measure", "and", "the", "associated", "compact", "clusters", "simultaneously", ".", "It", "is", "worth", "mentioning", "here", "that", ",", "as", "in", "the", "case", "of", "any", "clustering", "algorithm", ",", "the", "underlying", "assumption", "in", "this", "paper", "is", "the", "existence", "of", "such", "a", "dissimilarity", "measure", "and", "clusters", "for", "a", "given", "data", "set", ".", "Let", "x", "1", ",", "x", "2", ",", "...", ",", "and", "x", "n", "be", "n", "given", "data", "points", ".", "Let", "K", "be", "a", "given", "positive", "integer", ".", "Assuming", "that", "C", "represents", "the", "cluster", "centers", ",", "let", "us", "assign", "each", "data", "point", "x", "i", "to", "a", "cluster", "R", "j", "with", "the", "closest", "c", "j", "as", "the", "cluster", "center", "2", ",", "i.e.", ",", "j", "=", "arg", "min", "l", "f", "W", ",", "C", "-LRB-", "x", "i", ",", "c", "l", "-RRB-", ".", "-LRB-", "5", "-RRB-", "Then", ",", "the", "within-cluster", "dissimilarity", "is", "given", "by", "J", "-LRB-", "W", ",", "C", "-RRB-", "=", "K", "j", "=", "1", "x", "i", "R", "j", "M", "l", "=", "1", "w", "r", "jl", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", ".", "-LRB-", "6", "-RRB-", "J", "-LRB-", "W", ",", "C", "-RRB-", "represents", "the", "sum", "of", "the", "dissimilarity", "measures", "of", "all", "the", "data", "points", "from", "their", "closest", "centroids", ".", "The", "objective", "is", "to", "find", "W", "and", "C", "that", "minimize", "J", "-LRB-", "W", ",", "C", "-RRB-", ".", "To", "avoid", "the", "trivial", "solution", "to", "J", "-LRB-", "W", ",", "C", "-RRB-", ",", "we", "consider", "a", "normalization", "condition", "on", "w", "j", ",", "viz.", ",", "M", "l", "=", "1", "w", "jl", "=", "1", ".", "-LRB-", "7", "-RRB-", "Note", "that", "even", "with", "this", "condition", ",", "J", "-LRB-", "W", ",", "C", "-RRB-", "has", "a", "trivial", "solution", ":", "w", "jp", "=", "1", "where", "p", "=", "arg", "min", "l", "x", "i", "R", "j", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", ",", "and", "the", "remaining", "weights", "are", "zero", ".", "One", "way", "to", "avoid", "convergence", "of", "w", "j", "to", "unit", "vectors", "is", "to", "impose", "a", "regularization", "condition", "on", "w", "j", ".", "We", "consider", "the", "following", "two", "regularization", "measures", "in", "this", "paper", ":", "-LRB-", "1", "-RRB-", "Entropy", "measure", ":", "M", "l", "=", "1", "w", "jl", "log", "-LRB-", "w", "jl", "-RRB-", "and", "-LRB-", "2", "-RRB-", "Gini", "measure", ":", "M", "l", "=", "1", "w", "2", "jl", ".", "2", "We", "use", "P", "=", "-LCB-", "R", "1", ",", "R", "2", ",", "...", ",", "R", "K", "-RCB-", "to", "represent", "the", "corresponding", "partition", "of", "the", "data", "set", "as", "well", ".", "The", "intended", "interpretation", "-LRB-", "cluster", "or", "region", "-RRB-", "would", "be", "evident", "from", "the", "context", ".", "612", "Research", "Track", "Poster", "The", "problem", "of", "determining", "the", "optimal", "W", "and", "C", "is", "similar", "to", "the", "traditional", "clustering", "problem", "that", "is", "solved", "by", "the", "K-Means", "Algorithm", "-LRB-", "KMA", "-RRB-", "except", "for", "the", "additional", "W", "matrix", ".", "We", "propose", "a", "class", "of", "iterative", "algorithms", "similar", "to", "KMA", ".", "These", "algorithms", "start", "with", "a", "random", "partition", "of", "the", "data", "set", "and", "iteratively", "update", "C", ",", "W", "and", "P", "so", "that", "J", "-LRB-", "W", ",", "C", "-RRB-", "is", "minimized", ".", "These", "iterative", "algorithms", "are", "instances", "of", "Alternating", "Optimization", "-LRB-", "AO", "-RRB-", "algorithms", ".", "In", "-LSB-", "1", "-RSB-", ",", "it", "is", "shown", "that", "AO", "algorithms", "converge", "to", "a", "local", "optimum", "under", "some", "conditions", ".", "We", "outline", "the", "algorithm", "below", "before", "actually", "describing", "how", "to", "update", "C", ",", "W", "and", "P", "in", "every", "iteration", ".", "Randomly", "assign", "the", "data", "points", "to", "K", "clusters", ".", "REPEAT", "Update", "C", ":", "Compute", "the", "centroid", "of", "each", "cluster", "c", "j", ".", "Update", "W", ":", "Compute", "the", "w", "jl", "j", ",", "l.", "Update", "P", ":", "Reassign", "the", "data", "points", "to", "the", "clusters", ".", "UNTIL", "-LRB-", "termination", "condition", "is", "reached", "-RRB-", ".", "In", "the", "above", "algorithm", ",", "the", "update", "of", "C", "depends", "on", "the", "definition", "of", "g", "i", ",", "and", "the", "update", "of", "W", "on", "the", "regularization", "terms", ".", "The", "update", "of", "P", "is", "done", "by", "reassigning", "the", "data", "points", "according", "to", "-LRB-", "5", "-RRB-", ".", "Before", "explaining", "the", "computation", "of", "C", "in", "every", "iteration", "for", "various", "g", "i", ",", "we", "first", "derive", "update", "equations", "for", "W", "for", "various", "regularization", "measures", ".", "3.1", "Update", "of", "Weights", "While", "updating", "weights", ",", "we", "need", "to", "find", "the", "values", "of", "weights", "that", "minimize", "the", "objective", "function", "for", "a", "given", "C", "and", "P", ".", "As", "mentioned", "above", ",", "we", "consider", "the", "two", "regularization", "measures", "for", "w", "jl", "and", "derive", "update", "equations", ".", "If", "we", "consider", "the", "entropy", "regularization", "with", "r", "=", "1", ",", "the", "objective", "function", "becomes", ":", "J", "EN", "T", "-LRB-", "W", ",", "C", "-RRB-", "=", "K", "j", "=", "1", "x", "i", "R", "j", "M", "l", "=", "1", "w", "jl", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", "+", "K", "j", "=", "1", "j", "M", "l", "=", "1", "w", "jl", "log", "-LRB-", "w", "jl", "-RRB-", "+", "K", "j", "=", "1", "j", "M", "l", "=", "1", "w", "jl", "-", "1", ".", "-LRB-", "8", "-RRB-", "Note", "that", "j", "are", "the", "Lagrange", "multipliers", "corresponding", "to", "the", "normalization", "constraints", "in", "-LRB-", "7", "-RRB-", ",", "and", "j", "represent", "the", "relative", "importance", "given", "to", "the", "regularization", "term", "relative", "to", "the", "within-cluster", "dissimilarity", ".", "Differentiating", "J", "EN", "T", "-LRB-", "W", ",", "C", "-RRB-", "with", "respect", "to", "w", "jl", "and", "equating", "it", "to", "zero", ",", "we", "obtain", "w", "jl", "=", "exp", "-", "-LRB-", "j", "+", "x", "i", "Rj", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", "-RRB-", "j", "-", "1", ".", "Solving", "for", "j", "by", "substituting", "the", "above", "value", "of", "w", "jl", "in", "-LRB-", "7", "-RRB-", "and", "substituting", "the", "value", "of", "j", "back", "in", "the", "above", "equation", ",", "we", "obtain", "w", "jl", "=", "exp", "x", "i", "R", "j", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", "/", "j", "M", "n", "=", "1", "exp", "x", "i", "R", "j", "g", "n", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", "/", "j", ".", "-LRB-", "9", "-RRB-", "If", "we", "consider", "the", "Gini", "measure", "for", "regularization", "with", "r", "=", "2", ",", "the", "corresponding", "w", "jl", "that", "minimizes", "the", "objective", "function", "can", "be", "shown", "to", "be", "w", "jl", "=", "1", "/", "-LRB-", "j", "+", "x", "i", "R", "j", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", "-RRB-", "M", "n", "=", "1", "-LRB-", "1", "/", "-LRB-", "j", "+", "x", "i", "R", "j", "g", "n", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", "-RRB-", "-RRB-", ".", "-LRB-", "10", "-RRB-", "In", "both", "cases", ",", "the", "updated", "value", "of", "w", "jl", "is", "inversely", "related", "Algorithm", "Update", "Equations", "Acronyms", "P", "C", "W", "EEnt", "-LRB-", "5", "-RRB-", "-LRB-", "11", "-RRB-", "-LRB-", "9", "-RRB-", "EsGini", "-LRB-", "5", "-RRB-", "-LRB-", "11", "-RRB-", "-LRB-", "10", "-RRB-", "CEnt", "-LRB-", "5", "-RRB-", "-LRB-", "12", "-RRB-", "-LRB-", "9", "-RRB-", "CsGini", "-LRB-", "5", "-RRB-", "-LRB-", "12", "-RRB-", "-LRB-", "10", "-RRB-", "Table", "1", ":", "Summary", "of", "algorithms", ".", "to", "x", "i", "R", "j", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", ".", "This", "has", "various", "interpretations", "based", "on", "the", "nature", "of", "g", "l", ".", "For", "example", ",", "when", "we", "consider", "the", "ESVaD", "measure", ",", "w", "jl", "is", "inversely", "related", "to", "the", "variance", "of", "l-th", "element", "of", "the", "data", "vectors", "in", "the", "j-th", "cluster", ".", "In", "other", "words", ",", "when", "the", "variance", "along", "a", "particular", "dimension", "is", "high", "in", "a", "cluster", ",", "then", "the", "dimension", "is", "less", "important", "to", "the", "cluster", ".", "This", "popular", "heuristic", "has", "been", "used", "in", "various", "contexts", "-LRB-", "such", "as", "relevance", "feedback", "-RRB-", "in", "the", "literature", "-LSB-", "9", "-RSB-", ".", "Similarly", ",", "when", "we", "consider", "the", "CSVaD", "measure", ",", "w", "jl", "is", "directly", "proportional", "to", "the", "correlation", "of", "the", "j-th", "dimension", "in", "the", "l-th", "cluster", ".", "3.2", "Update", "of", "Centroids", "Learning", "ESVaD", "Measures", ":", "Substituting", "the", "ESVaD", "measure", "in", "the", "objective", "function", "and", "solving", "the", "first", "order", "necessary", "conditions", ",", "we", "observe", "that", "c", "jl", "=", "1", "\|", "R", "j", "\|", "x", "i", "R", "j", "x", "il", "-LRB-", "11", "-RRB-", "minimizes", "J", "ESV", "AD", "-LRB-", "W", ",", "C", "-RRB-", ".", "Learning", "CSVaD", "Measures", ":", "Let", "x", "il", "=", "w", "jl", "x", "il", ",", "then", "using", "the", "Cauchy-Swartz", "inequality", ",", "it", "can", "be", "shown", "that", "c", "jl", "=", "1", "\|", "R", "j", "\|", "x", "i", "R", "j", "x", "il", "-LRB-", "12", "-RRB-", "maximizes", "x", "i", "R", "j", "d", "l", "=", "1", "w", "jl", "x", "il", "c", "jl", ".", "Hence", ",", "-LRB-", "12", "-RRB-", "also", "minimizes", "the", "objective", "function", "when", "CSVaD", "is", "used", "as", "the", "dissimilarity", "measure", ".", "Table", "1", "summarizes", "the", "update", "equations", "used", "in", "various", "algorithms", ".", "We", "refer", "to", "this", "set", "of", "algorithms", "as", "SVaD", "learning", "algorithms", ".", "In", "this", "section", ",", "we", "present", "an", "experimental", "study", "of", "the", "algorithms", "described", "in", "the", "previous", "sections", ".", "We", "applied", "the", "proposed", "algorithms", "on", "various", "text", "data", "sets", "and", "compared", "the", "performance", "of", "EEnt", "and", "EsGini", "with", "that", "of", "K-Means", ",", "CSCAD", "and", "DGK", "algorithms", ".", "The", "reason", "for", "choosing", "the", "K-Means", "algorithm", "-LRB-", "KMA", "-RRB-", "apart", "from", "CSCAD", "and", "DGK", "is", "that", "it", "provides", "a", "baseline", "for", "assessing", "the", "advantages", "of", "feature", "weighting", ".", "KMA", "is", "also", "a", "popular", "algorithm", "for", "text", "clustering", ".", "We", "have", "included", "a", "brief", "description", "of", "CSCAD", "and", "DGK", "algorithms", "in", "Appendix", "A.", "Text", "data", "sets", "are", "sparse", "and", "high", "dimensional", ".", "We", "consider", "standard", "labeled", "document", "collections", "and", "test", "the", "proposed", "algorithms", "for", "their", "ability", "to", "discover", "dissimilarity", "measures", "that", "distinguish", "one", "class", "from", "another", "without", "actually", "considering", "the", "class", "labels", "of", "the", "documents", ".", "We", "measure", "the", "success", "of", "the", "algorithms", "by", "the", "purity", "of", "the", "regions", "that", "they", "discover", ".", "613", "Research", "Track", "Poster", "4.1", "Data", "Sets", "We", "performed", "our", "experiments", "on", "three", "standard", "data", "sets", ":", "20", "News", "Group", ",", "Yahoo", "K1", ",", "and", "Classic", "3", ".", "These", "data", "sets", "are", "described", "below", ".", "20", "News", "Group", "3", ":", "We", "considered", "different", "subsets", "of", "20", "News", "Group", "data", "that", "are", "known", "to", "contain", "clusters", "of", "varying", "degrees", "of", "separation", "-LSB-", "10", "-RSB-", ".", "As", "in", "-LSB-", "10", "-RSB-", ",", "we", "considered", "three", "random", "samples", "of", "three", "subsets", "of", "the", "20", "News", "Group", "data", ".", "The", "subsets", "denoted", "by", "Binary", "has", "250", "documents", "each", "from", "talk.politics.mideast", "and", "talk.politics.misc", ".", "Multi5", "has", "100", "documents", "each", "from", "comp.graphics", ",", "rec.motorcycles", ",", "rec.sport.baseball", ",", "sci.space", ",", "and", "talk.politics.mideast", ".", "Finally", ",", "Multi10", "has", "50", "documents", "each", "from", "alt.atheism", ",", "comp", ".", "sys.mac.hardware", ",", "misc.forsale", ",", "rec.autos", ",", "rec.sport.hockey", ",", "sci.crypt", ",", "sci.electronics", ",", "sci.med", ",", "sci.space", ",", "and", "talk.politics", ".", "gun", ".", "It", "may", "be", "noted", "that", "Binary", "data", "sets", "have", "two", "highly", "overlapping", "classes", ".", "Each", "of", "Multi5", "data", "sets", "has", "samples", "from", "5", "distinct", "classes", ",", "whereas", "Multi10", "data", "sets", "have", "only", "a", "few", "samples", "from", "10", "different", "classes", ".", "The", "size", "of", "the", "vocabulary", "used", "to", "represent", "the", "documents", "in", "Binary", "data", "set", "is", "about", "4000", ",", "Multi5", "about", "3200", "and", "Multi10", "about", "2800", ".", "We", "observed", "that", "the", "relative", "performance", "of", "the", "algorithms", "on", "various", "samples", "of", "Binary", ",", "Multi5", "and", "Multi10", "data", "sets", "was", "similar", ".", "Hence", ",", "we", "report", "results", "on", "only", "one", "of", "them", ".", "Yahoo", "K1", "4", ":", "This", "data", "set", "contains", "2340", "Reuters", "news", "articles", "downloaded", "from", "Yahoo", "in", "1997", ".", "There", "are", "494", "from", "Health", ",", "1389", "from", "Entertainment", ",", "141", "from", "Sports", ",", "114", "from", "Politics", ",", "60", "from", "Technology", "and", "142", "from", "Business", ".", "After", "preprocessing", ",", "the", "documents", "from", "this", "data", "set", "are", "represented", "using", "12015", "words", ".", "Note", "that", "this", "data", "set", "has", "samples", "from", "6", "different", "classes", ".", "Here", ",", "the", "distribution", "of", "data", "points", "across", "the", "class", "is", "uneven", ",", "ranging", "from", "60", "to", "1389", ".", "Classic", "3", "5", ":", "Classic", "3", "data", "set", "contains", "1400", "aerospace", "systems", "abstracts", "from", "the", "Cranfield", "collection", ",", "1033", "medical", "abstracts", "from", "the", "Medline", "collection", "and", "1460", "information", "retrieval", "abstracts", "from", "the", "Cisi", "collection", ",", "making", "up", "3893", "documents", "in", "all", ".", "After", "preprocessing", ",", "this", "data", "set", "has", "4301", "words", ".", "The", "points", "are", "almost", "equally", "distributed", "among", "the", "three", "distinct", "classes", ".", "The", "data", "sets", "were", "preprocessed", "using", "two", "major", "steps", ".", "First", ",", "a", "set", "of", "words", "-LRB-", "vocabulary", "-RRB-", "is", "extracted", "and", "then", "each", "document", "is", "represented", "with", "respect", "to", "this", "vocabulary", ".", "Finding", "the", "vocabulary", "includes", ":", "-LRB-", "1", "-RRB-", "elimination", "of", "the", "standard", "list", "of", "stop", "words", "from", "the", "documents", ",", "-LRB-", "2", "-RRB-", "application", "of", "Porter", "stemming", "6", "for", "term", "normalization", ",", "and", "-LRB-", "3", "-RRB-", "keeping", "only", "the", "words", "which", "appear", "in", "at", "least", "3", "documents", ".", "We", "represent", "each", "document", "by", "the", "unitized", "frequency", "vector", ".", "4.2", "Evaluation", "of", "Algorithms", "We", "use", "the", "accuracy", "measure", "to", "compare", "the", "performance", "of", "various", "algorithms", ".", "Let", "a", "ij", "represent", "the", "number", "of", "data", "points", "from", "class", "i", "that", "are", "in", "cluster", "j", ".", "Then", "the", "accuracy", "of", "the", "partition", "is", "given", "by", "j", "max", "i", "a", "ij", "/", "n", "where", "n", "is", "the", "total", "number", "of", "data", "points", ".", "It", "is", "to", "be", "noted", "that", "points", "coming", "from", "a", "single", "class", "need", "not", "form", "a", "single", "cluster", ".", "There", "could", "be", "multiple", "3", "http://www-2.cs.cmu.edu/afs/cs.cmu.edu/project/theo-20/www/data/news20", ".", "tar.gz", "4", "ftp://ftp.cs.umn.edu/dept/users/boley/PDDPdata/doc-K", "5", "ftp://ftp.cs.cornell.edu/pub/smart", "6", "http://www.tartarus.org/~martin/PorterStemmer/", "Iteration", "0", "1", "2", "3", "4", "5", "J", "-LRB-", "W", ",", "C", "-RRB-", "334.7", "329.5", "328.3", "328.1", "327.8", "Accuracy", "73.8", "80.2", "81.4", "81.6", "82", "82", "Table", "2", ":", "Evolution", "of", "J", "-LRB-", "W", ",", "C", "-RRB-", "and", "Accuracies", "with", "iterations", "when", "EEnt", "applied", "on", "a", "Multi5", "data", ".", "clusters", "in", "a", "class", "that", "represent", "sub-classes", ".", "We", "study", "the", "performance", "of", "SVaD", "learning", "algorithms", "for", "various", "values", "of", "K", ",", "i.e.", ",", "the", "number", "of", "clusters", ".", "4.3", "Experimental", "Setup", "In", "our", "implementations", ",", "we", "have", "observed", "that", "the", "proposed", "algorithms", ",", "if", "applied", "on", "randomly", "initialized", "centroids", ",", "show", "unstable", "behavior", ".", "One", "reason", "for", "this", "behavior", "is", "that", "the", "number", "of", "parameters", "that", "are", "estimated", "in", "feature-weighting", "clustering", "algorithms", "is", "twice", "as", "large", "as", "that", "estimated", "by", "the", "traditional", "KMA", ".", "We", ",", "therefore", ",", "first", "estimate", "the", "cluster", "centers", "giving", "equal", "weights", "to", "all", "the", "dimensions", "using", "KMA", "and", "then", "fine-tune", "the", "cluster", "centers", "and", "the", "weights", "using", "the", "feature-weighting", "clustering", "algorithms", ".", "In", "every", "iteration", ",", "the", "new", "sets", "of", "weights", "are", "updated", "as", "follows", ".", "Let", "w", "n", "-LRB-", "t", "+1", "-RRB-", "represent", "the", "weights", "com-puted", "using", "one", "of", "-LRB-", "9", "-RRB-", ",", "-LRB-", "10", "-RRB-", ",", "-LRB-", "14", "-RRB-", "or", "-LRB-", "15", "-RRB-", "in", "iteration", "-LRB-", "t", "+", "1", "-RRB-", "and", "w", "-LRB-", "t", "-RRB-", "the", "weights", "in", "iteration", "t.", "Then", ",", "the", "weights", "in", "iteration", "-LRB-", "t", "+", "1", "-RRB-", "are", "w", "-LRB-", "t", "+", "1", "-RRB-", "=", "-LRB-", "1", "-", "-LRB-", "t", "-RRB-", "-RRB-", "w", "-LRB-", "t", "-RRB-", "+", "-LRB-", "t", "-RRB-", "w", "n", "-LRB-", "t", "+", "1", "-RRB-", ",", "-LRB-", "13", "-RRB-", "where", "-LRB-", "t", "-RRB-", "-LSB-", "0", ",", "1", "-RSB-", "decreases", "with", "t", ".", "That", "is", ",", "-LRB-", "t", "-RRB-", "=", "-LRB-", "t", "1", "-RRB-", ",", "for", "a", "given", "constant", "-LSB-", "0", ",", "1", "-RSB-", ".", "In", "our", "experiments", ",", "we", "observed", "that", "the", "variance", "of", "purity", "values", "for", "different", "initial", "values", "of", "-LRB-", "0", "-RRB-", "and", "above", "0.5", "is", "very", "small", ".", "Hence", ",", "we", "report", "the", "results", "for", "-LRB-", "0", "-RRB-", "=", "0.5", "and", "=", "0.5", ".", "We", "set", "the", "value", "of", "j", "=", "1", ".", "It", "may", "be", "noted", "that", "when", "the", "documents", "are", "represented", "as", "unit", "vectors", ",", "KMA", "with", "the", "cosine", "dissimilarity", "measure", "and", "Euclidean", "distance", "measure", "would", "yield", "the", "same", "clusters", ".", "This", "is", "essentially", "the", "same", "as", "Spherical", "K-Means", "algorithms", "described", "in", "-LSB-", "3", "-RSB-", ".", "Therefore", ",", "we", "consider", "only", "the", "weighted", "Euclidean", "measure", "and", "restrict", "our", "comparisons", "to", "EEnt", "and", "EsGini", "in", "the", "experiments", ".", "Since", "the", "clusters", "obtained", "by", "KMA", "are", "used", "to", "initialize", "all", "other", "algorithms", "considered", "here", ",", "and", "since", "the", "results", "of", "KMA", "are", "sensitive", "to", "initialization", ",", "the", "accuracy", "numbers", "reported", "in", "this", "section", "are", "averages", "over", "10", "random", "initializations", "of", "KMA", ".", "4.4", "Results", "and", "Observations", "4.4.1", "Effect", "of", "SVaD", "Measures", "on", "Accuracies", "In", "Table", "2", ",", "we", "show", "a", "sample", "run", "of", "EEnt", "algorithm", "on", "one", "of", "the", "Multi5", "data", "sets", ".", "This", "table", "shows", "the", "evolution", "of", "J", "-LRB-", "W", ",", "C", "-RRB-", "and", "the", "corresponding", "accuracies", "of", "the", "clusters", "with", "the", "iterations", ".", "The", "accuracy", ",", "shown", "at", "iteration", "0", ",", "is", "that", "of", "the", "clusters", "obtained", "by", "KMA", ".", "The", "purity", "of", "clusters", "increases", "with", "decrease", "in", "the", "value", "of", "the", "objective", "function", "defined", "using", "SVaD", "measures", ".", "We", "have", "observed", "a", "similar", "behavior", "of", "EEnt", "and", "EsGini", "on", "other", "data", "sets", "also", ".", "This", "validates", "our", "hypothesis", "that", "SVaD", "measures", "capture", "the", "underlying", "structure", "in", "the", "data", "sets", "more", "accurately", ".", "614", "Research", "Track", "Poster", "4.4.2", "Comparison", "with", "Other", "Algorithms", "Figure", "1", "to", "Figure", "5", "show", "average", "accuracies", "of", "various", "algorithms", "on", "the", "5", "data", "sets", "for", "various", "number", "of", "clusters", ".", "The", "accuracies", "of", "KMA", "and", "DGK", "are", "very", "close", "to", "each", "other", "and", "hence", ",", "in", "the", "figures", ",", "the", "lines", "corresponding", "to", "these", "algorithms", "are", "indistinguishable", ".", "The", "lines", "corresponding", "to", "CSCAD", "are", "also", "close", "to", "that", "of", "KMA", "in", "all", "the", "cases", "except", "Class", "3", ".", "General", "observations", ":", "The", "accuracies", "of", "SVaD", "algorithms", "follow", "the", "trend", "of", "the", "accuracies", "of", "other", "algorithms", ".", "In", "all", "our", "experiments", ",", "both", "SVaD", "learning", "algorithms", "improve", "the", "accuracies", "of", "clusters", "obtained", "by", "KMA", ".", "It", "is", "observed", "in", "our", "experiments", "that", "the", "improvement", "could", "be", "as", "large", "as", "8", "%", "in", "some", "instances", ".", "EEnt", "and", "EsGini", "consis-tently", "perform", "better", "than", "DGK", "on", "all", "data", "sets", "and", "for", "all", "values", "of", "K.", "EEnt", "and", "EsGini", "perform", "better", "than", "CSCAD", "on", "all", "data", "sets", "excepts", "in", "the", "case", "of", "Classic", "3", "and", "for", "a", "few", "values", "of", "K.", "Note", "that", "the", "weight", "update", "equation", "of", "CSCAD", "-LRB-", "15", "-RRB-", "may", "result", "in", "negative", "values", "of", "w", "jl", ".", "Our", "experience", "with", "CSCAD", "shows", "that", "it", "is", "quite", "sensitive", "to", "initialization", "and", "it", "may", "have", "convergence", "problems", ".", "In", "contrast", ",", "it", "may", "be", "observed", "that", "w", "jl", "in", "-LRB-", "9", "-RRB-", "and", "-LRB-", "10", "-RRB-", "are", "always", "positive", ".", "Moreover", ",", "in", "our", "experience", ",", "these", "two", "versions", "are", "much", "less", "sensitive", "to", "the", "choice", "of", "j", ".", "Data", "specific", "observations", ":", "When", "K", "=", "2", ",", "EEnt", "and", "EsGini", "could", "not", "further", "improve", "the", "results", "of", "KMA", "on", "the", "Binary", "data", "set", ".", "The", "reason", "is", "that", "the", "data", "set", "contains", "two", "highly", "overlapping", "classes", ".", "However", ",", "for", "other", "values", "of", "K", ",", "they", "marginally", "improve", "the", "accuracies", ".", "In", "the", "case", "of", "Multi5", ",", "the", "accuracies", "of", "the", "algorithms", "are", "non-monotonic", "with", "K", ".", "The", "improvement", "of", "accuracies", "is", "large", "for", "intermediate", "values", "of", "K", "and", "small", "for", "extreme", "values", "of", "K", ".", "When", "K", "=", "5", ",", "KMA", "finds", "relatively", "stable", "clusters", ".", "Hence", ",", "SVaD", "algorithms", "are", "unable", "to", "improve", "the", "accuracies", "as", "much", "as", "they", "did", "for", "intermediate", "values", "of", "K.", "For", "larger", "values", "of", "K", ",", "the", "clusters", "are", "closely", "spaced", "and", "hence", "there", "is", "little", "scope", "for", "improvement", "by", "the", "SVaD", "algorithms", ".", "Multi10", "data", "sets", "are", "the", "toughest", "to", "cluster", "because", "of", "the", "large", "number", "of", "classes", "present", "in", "the", "data", ".", "In", "this", "case", ",", "the", "accuracies", "of", "the", "algorithms", "are", "monotonically", "increasing", "with", "the", "number", "of", "clusters", ".", "The", "extent", "of", "improvement", "of", "accuracies", "of", "SVaD", "algorithms", "over", "KMA", "is", "almost", "constant", "over", "the", "entire", "range", "of", "K", ".", "This", "reflects", "the", "fact", "that", "the", "documents", "in", "Multi10", "data", "set", "are", "uniformly", "distributed", "over", "feature", "space", ".", "The", "distribution", "of", "documents", "in", "Yahoo", "K1", "data", "set", "is", "highly", "skewed", ".", "The", "extent", "of", "improvements", "that", "the", "SVaD", "algorithms", "could", "achieve", "decrease", "with", "K.", "For", "higher", "values", "of", "K", ",", "KMA", "is", "able", "to", "find", "almost", "pure", "sub-clusters", ",", "resulting", "in", "accuracies", "of", "about", "90", "%", ".", "This", "leaves", "little", "scope", "for", "improvement", ".", "The", "performance", "of", "CSCAD", "differs", "noticeably", "in", "the", "case", "of", "Classic", "3", ".", "It", "performs", "better", "than", "the", "SVaD", "algorithms", "for", "K", "=", "3", "and", "better", "than", "EEnt", "for", "K", "=", "9", ".", "However", ",", "for", "larger", "values", "of", "K", ",", "the", "SVaD", "algorithms", "perform", "better", "than", "the", "rest", ".", "As", "in", "the", "case", "of", "Multi5", ",", "the", "improvements", "of", "SVaD", "algorithms", "over", "others", "are", "significant", "and", "consistent", ".", "One", "may", "recall", "that", "Multi5", "and", "Classic", "3", "consist", "of", "documents", "from", "distinct", "classes", ".", "Therefore", ",", "this", "observation", "implies", "that", "when", "there", "are", "distinct", "clusters", "in", "the", "data", "set", ",", "KMA", "yields", "confusing", "clusters", "when", "the", "number", "of", "clusters", "is", "over-Figure", "1", ":", "Accuracy", "results", "on", "Binary", "data", ".", "Figure", "2", ":", "Accuracy", "results", "on", "Multi5", "data", ".", "specified", ".", "In", "this", "scenario", ",", "EEnt", "and", "EsGini", "can", "fine-tune", "the", "clusters", "to", "improve", "their", "purity", ".", "We", "have", "defined", "a", "general", "class", "of", "spatially", "variant", "dissimilarity", "measures", "and", "proposed", "algorithms", "to", "learn", "the", "measure", "underlying", "a", "given", "data", "set", "in", "an", "unsupervised", "learning", "framework", ".", "Through", "our", "experiments", "on", "various", "textual", "data", "sets", ",", "we", "have", "shown", "that", "such", "a", "formulation", "of", "dissimilarity", "measure", "can", "more", "accurately", "capture", "the", "hidden", "structure", "in", "the", "data", "than", "a", "standard", "Euclidean", "measure", "that", "does", "not", "vary", "over", "feature", "space", ".", "We", "have", "also", "shown", "that", "the", "proposed", "learning", "algorithms", "perform", "better", "than", "other", "similar", "algorithms", "in", "the", "literature", ",", "and", "have", "better", "stability", "properties", ".", "Even", "though", "we", "have", "applied", "these", "algorithms", "only", "to", "text", "data", "sets", ",", "the", "algorithms", "derived", "here", "do", "not", "assume", "any", "specific", "characteristics", "of", "textual", "data", "sets", ".", "Hence", ",", "they", "Figure", "3", ":", "Accuracy", "results", "on", "Multi10", "data", ".", "615", "Research", "Track", "Poster", "Figure", "4", ":", "Accuracy", "results", "on", "Yahoo", "K1", "data", ".", "Figure", "5", ":", "Accuracy", "results", "on", "Classic", "3", "data", ".", "are", "applicable", "to", "general", "data", "sets", ".", "Since", "the", "algorithms", "perform", "better", "for", "larger", "K", ",", "it", "would", "be", "interesting", "to", "investigate", "whether", "they", "can", "be", "used", "to", "find", "subtopics", "of", "a", "topic", ".", "Finally", ",", "it", "will", "be", "interesting", "to", "learn", "SVaD", "measures", "for", "labeled", "data", "sets", ".", "-LSB-", "1", "-RSB-", "J.", "C.", "Bezdek", "and", "R.", "J.", "Hathaway", ".", "Some", "notes", "on", "alternating", "optimization", ".", "In", "Proceedings", "of", "the", "2002", "AFSS", "International", "Conference", "on", "Fuzzy", "Systems", ".", "Calcutta", ",", "pages", "288", "300", ".", "Springer-Verlag", ",", "2002", ".", "-LSB-", "2", "-RSB-", "A.", "P.", "Dempster", ",", "N.", "M.", "Laird", ",", "and", "Rubin", ".", "Maximum", "likelihood", "from", "incomplete", "data", "via", "the", "EM", "algorithm", ".", "Journal", "Royal", "Statistical", "Society", "B", ",", "39", "-LRB-", "2", "-RRB-", ":", "1", "38", ",", "1977", ".", "-LSB-", "3", "-RSB-", "I.", "S.", "Dhillon", "and", "D.", "S.", "Modha", ".", "Concept", "decompositions", "for", "large", "sparse", "text", "data", "using", "clustering", ".", "Machine", "Learning", ",", "42", "-LRB-", "1", "-RRB-", ":", "143", "175", ",", "January", "2001", ".", "-LSB-", "4", "-RSB-", "E.", "Diday", "and", "J.", "C.", "Simon", ".", "Cluster", "analysis", ".", "In", "K.", "S.", "Fu", ",", "editor", ",", "Pattern", "Recognition", ",", "pages", "47", "94", ".", "Springer-Verlag", ",", "1976", ".", "-LSB-", "5", "-RSB-", "H.", "Frigui", "and", "O.", "Nasraoui", ".", "Simultaneous", "clustering", "and", "attribute", "discrimination", ".", "In", "Proceedings", "of", "FUZZIEEE", ",", "pages", "158", "163", ",", "San", "Antonio", ",", "2000", ".", "-LSB-", "6", "-RSB-", "H.", "Frigui", "and", "O.", "Nasraoui", ".", "Simultaneous", "categorization", "of", "text", "documents", "and", "identification", "of", "cluster-dependent", "keywords", ".", "In", "Proceedings", "of", "FUZZIEEE", ",", "pages", "158", "163", ",", "Honolulu", ",", "Hawaii", ",", "2001", ".", "-LSB-", "7", "-RSB-", "D.", "E.", "Gustafson", "and", "W.", "C.", "Kessel", ".", "Fuzzy", "clustering", "with", "the", "fuzzy", "covariance", "matrix", ".", "In", "Proccedings", "of", "IEEE", "CDC", ",", "pages", "761", "766", ",", "San", "Diego", ",", "California", ",", "1979", ".", "-LSB-", "8", "-RSB-", "R.", "Krishnapuram", "and", "J.", "Kim", ".", "A", "note", "on", "fuzzy", "clustering", "algorithms", "for", "Gaussian", "clusters", ".", "IEEE", "Transactions", "on", "Fuzzy", "Systems", ",", "7", "-LRB-", "4", "-RRB-", ":", "453", "461", ",", "Aug", "1999", ".", "-LSB-", "9", "-RSB-", "Y.", "Rui", ",", "T.", "S.", "Huang", ",", "and", "S.", "Mehrotra", ".", "Relevance", "feedback", "techniques", "in", "interactive", "content-based", "image", "retrieval", ".", "In", "Storage", "and", "Retrieval", "for", "Image", "and", "Video", "Databases", "-LRB-", "SPIE", "-RRB-", ",", "pages", "25", "36", ",", "1998", ".", "-LSB-", "10", "-RSB-", "N.", "Slonim", "and", "N.", "Tishby", ".", "Document", "clustering", "using", "word", "clusters", "via", "the", "information", "bottleneck", "method", ".", "In", "Proceedings", "of", "SIGIR", ",", "pages", "208", "215", ",", "2000", ".", "APPENDIX", "A", ".", "OTHER", "FEATURE", "WEIGHTING", "CLUSTERING", "TECHNIQUES", "A.", "1", "Diagonal", "Gustafson-Kessel", "-LRB-", "DGK", "-RRB-", "Gustafson", "and", "Kessel", "-LSB-", "7", "-RSB-", "associate", "each", "cluster", "with", "a", "different", "norm", "matrix", ".", "Let", "A", "=", "-LRB-", "A", "1", ",", "...", ",", "A", "k", "-RRB-", "be", "the", "set", "of", "k", "norm", "matrices", "associated", "with", "k", "clusters", ".", "Let", "u", "ji", "is", "the", "fuzzy", "membership", "of", "x", "i", "in", "cluster", "j", "and", "U", "=", "-LSB-", "u", "ji", "-RSB-", ".", "By", "restricting", "A", "j", "s", "to", "be", "diagonal", "and", "u", "ji", "-LCB-", "0", ",", "1", "-RCB-", ",", "we", "can", "reformulate", "the", "original", "optimization", "problem", "in", "terms", "of", "SVaD", "measures", "as", "follows", ":", "min", "C", ",", "W", "J", "DGK", "-LRB-", "C", ",", "W", "-RRB-", "=", "k", "j", "=", "1", "x", "i", "R", "j", "M", "l", "=", "1", "w", "jl", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", ",", "subject", "to", "l", "w", "jl", "=", "j", ".", "Note", "that", "this", "problem", "can", "be", "solved", "using", "the", "same", "AO", "algorithms", "described", "in", "Section", "3", ".", "Here", ",", "the", "update", "for", "C", "and", "P", "would", "remain", "the", "same", "as", "that", "discussed", "in", "Section", "3", ".", "It", "can", "be", "easily", "shown", "that", "when", "j", "=", "1", ",", "j", ",", "w", "jl", "=", "M", "m", "=", "1", "x", "i", "R", "j", "g", "m", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", "1/M", "x", "i", "R", "j", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", "-LRB-", "14", "-RRB-", "minimize", "J", "DGK", "for", "a", "given", "C.", "A.", "2", "Crisp", "Simultaneous", "Clustering", "and", "Attribute", "Discrimination", "-LRB-", "CSCAD", "-RRB-", "Frigui", "et", ".", "al.", "in", "-LSB-", "5", ",", "6", "-RSB-", ",", "considered", "a", "fuzzy", "version", "of", "the", "feature-weighting", "based", "clustering", "problem", "-LRB-", "SCAD", "-RRB-", ".", "To", "make", "a", "fair", "comparison", "of", "our", "algorithms", "with", "SCAD", ",", "we", "derive", "its", "crisp", "version", "and", "refer", "to", "it", "as", "Crisp", "SCAD", "-LRB-", "CSCAD", "-RRB-", ".", "In", "-LSB-", "5", ",", "6", "-RSB-", ",", "the", "Gini", "measure", "is", "used", "for", "regularization", ".", "If", "the", "Gini", "measure", "is", "considered", "with", "r", "=", "1", ",", "the", "weights", "w", "jl", "that", "minimize", "the", "corresponding", "objective", "function", "for", "a", "given", "C", "and", "P", ",", "are", "given", "by", "w", "jl", "=", "1", "M", "+", "1", "2", "j", "1", "M", "M", "n", "=", "1", "x", "i", "R", "j", "g", "n", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", "x", "i", "R", "j", "g", "l", "-LRB-", "x", "i", ",", "c", "j", "-RRB-", ".", "-LRB-", "15", "-RRB-", "Since", "SCAD", "uses", "the", "weighted", "Euclidean", "measure", ",", "the", "update", "equations", "of", "centroids", "in", "CSCAD", "remain", "the", "same", "as", "in", "-LRB-", "11", "-RRB-", ".", "The", "update", "equation", "for", "w", "jl", "in", "SCAD", "is", "quite", "similar", "to", "-LRB-", "15", "-RRB-", ".", "One", "may", "note", "that", ",", "in", "-LRB-", "15", "-RRB-", ",", "the", "value", "of", "w", "jl", "can", "become", "negative", ".", "In", "-LSB-", "5", "-RSB-", ",", "a", "heuristic", "is", "used", "to", "estimate", "the", "value", "j", "in", "every", "iteration", "and", "set", "the", "negative", "values", "of", "w", "jl", "to", "zero", "before", "normalizing", "the", "weights", ".", "616", "Research", "Track", "Poster" ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
130	[ "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "For", "hardware", "accelerated", "rendering", ",", "photon", "mapping", "is", "especially", "useful", "for", "simulating", "caustic", "lighting", "effects", "on", "non-Lambertian", "surfaces", ".", "However", ",", "an", "efficient", "hardware", "algorithm", "for", "the", "computation", "of", "the", "k", "nearest", "neighbours", "to", "a", "sample", "point", "is", "required", ".", "Existing", "algorithms", "are", "often", "based", "on", "recursive", "spatial", "subdivision", "techniques", ",", "such", "as", "kd-trees", ".", "However", ",", "hardware", "implementation", "of", "a", "tree-based", "algorithm", "would", "have", "a", "high", "latency", ",", "or", "would", "require", "a", "large", "cache", "to", "avoid", "this", "latency", "on", "average", ".", "We", "present", "a", "neighbourhood-preserving", "hashing", "algorithm", "that", "is", "low-latency", "and", "has", "sub-linear", "access", "time", ".", "This", "algorithm", "is", "more", "amenable", "to", "fine-scale", "parallelism", "than", "tree-based", "recursive", "spatial", "subdivision", ",", "and", "maps", "well", "onto", "coherent", "block-oriented", "pipelined", "memory", "access", ".", "These", "properties", "make", "the", "algorithm", "suitable", "for", "implementation", "using", "future", "programmable", "fragment", "shaders", "with", "only", "one", "stage", "of", "dependent", "texturing", ".", "-LRB-", "according", "to", "ACM", "CCS", "-RRB-", ":", "I.", "3.7", "-LSB-", "Computer", "Graphics", "-RSB-", ":", "Three-Dimensional", "Graphics", "and", "Realism", ",", "Color", ",", "Shading", ",", "Shadowing", ",", "and", "Texture", ".", "Photon", "mapping", ",", "as", "described", "by", "Jensen", "25", ",", "is", "a", "technique", "for", "reconstructing", "the", "incoming", "light", "field", "at", "surfaces", "everywhere", "in", "a", "scene", "from", "sparse", "samples", "generated", "by", "forward", "light", "path", "tracing", ".", "In", "conjunction", "with", "path", "tracing", ",", "photon", "mapping", "can", "be", "used", "to", "accelerate", "the", "computation", "of", "both", "diffuse", "and", "specular", "global", "illumination", ".", "It", "is", "most", "effective", "for", "specular", "or", "glossy", "reflectance", "effects", ",", "such", "as", "caustics", "24", ".", "The", "benefits", "of", "migrating", "photo-realistic", "rendering", "techniques", "towards", "a", "real-time", ",", "hardware-assisted", "implementation", "are", "obvious", ".", "Recent", "work", "has", "shown", "that", "it", "is", "possible", "to", "implement", "complex", "algorithms", ",", "such", "as", "ray-tracing", ",", "using", "the", "programmable", "features", "of", "general-purpose", "hardware", "accelerators", "35", "and/or", "specialised", "hardware", "41", ".", "We", "are", "interested", "in", "hardware", "support", "for", "photon", "mapping", ":", "specifically", ",", "the", "application", "of", "photon", "maps", "to", "the", "direct", "visualisation", "of", "caustics", "on", "non-Lambertian", "surfaces", ",", "since", "diffuse", "global", "illumination", "effects", "are", "probably", "best", "handled", "in", "a", "real-time", "renderer", "using", "alternative", "techniques", "such", "as", "irradiance", "volumes", "18", ".", "Central", "to", "photon", "mapping", "is", "the", "search", "for", "the", "set", "of", "photons", "nearest", "to", "the", "point", "being", "shaded", ".", "This", "is", "part", "of", "the", "interpolation", "step", "that", "joins", "light", "paths", "propagated", "from", "light", "sources", "with", "rays", "traced", "from", "the", "camera", "during", "rendering", ",", "and", "it", "is", "but", "one", "application", "of", "the", "well-studied", "k", "nearest", "neighbours", "-LRB-", "kNN", "-RRB-", "problem", ".", "Jensen", "uses", "the", "kd-tree", "5", ",", "6", "data", "structure", "to", "find", "these", "nearest", "photons", ".", "However", ",", "solving", "the", "kNN", "problem", "via", "kd-trees", "requires", "a", "search", "that", "traverses", "the", "tree", ".", "Even", "if", "the", "tree", "is", "stored", "as", "a", "heap", ",", "traversal", "still", "requires", "random-order", "memory", "access", "and", "memory", "to", "store", "a", "stack", ".", "More", "importantly", ",", "a", "search-path", "pruning", "algorithm", ",", "based", "on", "the", "data", "already", "examined", ",", "is", "required", "to", "avoid", "accessing", "all", "data", "in", "the", "tree", ".", "This", "introduces", "serial", "dependencies", "between", "one", "memory", "lookup", "and", "the", "next", ".", "Consequently", ",", "a", "hardware", "implementation", "of", "a", "kd-tree-based", "kNN", "solution", "would", "either", "have", "high", "latency", ",", "or", "would", "require", "a", "large", "cache", "to", "avoid", "such", "latency", ".", "In", "either", "case", "a", "custom", "hardware", "implementation", "would", "be", "required", ".", "These", "properties", "motivated", "us", "to", "look", "at", "alternatives", "to", "tree", "search", ".", "Since", "photon", "mapping", "is", "already", "making", "an", "approximation", "by", "using", "kNN", "interpolation", ",", "we", "conjectured", "that", "an", "approximate", "kNN", "-LRB-", "AkNN", "-RRB-", "solution", "should", "suffice", "so", "long", "as", "visual", "quality", "is", "maintained", ".", "In", "this", "paper", "we", "investigate", "a", "hashing-based", "AkNN", "solution", "in", "the", "context", "of", "high-c", "The", "Eurographics", "Association", "2002", ".", "89", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "performance", "hardware-based", "-LRB-", "specifically", ",", "programmable", "shader-based", "-RRB-", "photon", "mapping", ".", "Our", "major", "contribution", "is", "an", "AkNN", "algorithm", "that", "has", "bounded", "query", "time", ",", "bounded", "memory", "usage", ",", "and", "high", "potential", "for", "fine-scale", "parallelism", ".", "Moreover", ",", "our", "algorithm", "results", "in", "coherent", ",", "non-redundant", "accesses", "to", "block-oriented", "memory", ".", "The", "results", "of", "one", "memory", "lookup", "do", "not", "affect", "subsequent", "memory", "lookups", ",", "so", "accesses", "can", "take", "place", "in", "parallel", "within", "a", "pipelined", "memory", "system", ".", "Our", "algorithm", "is", "based", "on", "array", "access", ",", "and", "is", "more", "compatible", "with", "current", "texture-mapping", "capabilities", "than", "tree-based", "algorithms", ".", "Furthermore", ",", "any", "photon", "mapping", "acceleration", "technique", "that", "continues", "to", "rely", "on", "a", "form", "of", "kNN", "-LRB-", "such", "as", "irradiance", "caching", "7", "-RRB-", "can", "still", "benefit", "from", "our", "technique", ".", "In", "Section", "2", ",", "we", "first", "review", "previous", "work", "on", "the", "kNN", "and", "the", "approximate", "k-nearest", "neighbour", "-LRB-", "AkNN", "-RRB-", "problems", ".", "Section", "3", "describes", "the", "context", "and", "assumptions", "of", "our", "research", "and", "illustrates", "the", "basic", "hashing", "technique", "used", "in", "our", "algorithm", ".", "Sections", "4", "and", "5", "describe", "the", "details", "of", "our", "algorithm", ".", "Section", "6", "presents", "numerical", ",", "visual", "quality", ",", "and", "performance", "results", ".", "Section", "7", "discusses", "the", "mapping", "of", "the", "algorithm", "onto", "a", "shader-based", "implementation", ".", "Finally", ",", "we", "conclude", "in", "Section", "8", ".", "Jensen", "'s", "book", "25", "covers", "essentially", "all", "relevant", "previous", "work", "leading", "up", "to", "photon", "mapping", ".", "Due", "to", "space", "limitations", ",", "we", "will", "refer", "the", "reader", "to", "that", "book", "and", "focus", "our", "literature", "review", "on", "previous", "approaches", "to", "the", "kNN", "and", "AkNN", "problems", ".", "Any", "non-trivial", "algorithm", "that", "claims", "to", "be", "able", "to", "solve", "the", "kNN", "problem", "faster", "than", "brute-force", "does", "so", "by", "reducing", "the", "number", "of", "candidates", "that", "have", "to", "be", "examined", "when", "computing", "the", "solution", "set", ".", "Algorithms", "fall", "into", "the", "following", "categories", ":", "recursive", "spatial", "subdivision", ",", "point", "location", ",", "neighbourhood", "graphs", ",", "and", "hashing", ".", "Amongst", "algorithms", "based", "on", "recursive", "spatial", "subdivision", ",", "the", "kd-tree", "5", "method", "is", "the", "approach", "commonly", "used", "to", "solve", "the", "kNN", "problem", "14", ".", "An", "advantage", "of", "the", "kd-tree", "is", "that", "if", "the", "tree", "is", "balanced", "it", "can", "be", "stored", "as", "a", "heap", "in", "a", "single", "array", ".", "While", "it", "has", "been", "shown", "that", "kd-trees", "have", "optimal", "expected-time", "complexity", "6", ",", "in", "the", "worst", "case", "finding", "the", "k", "nearest", "neighbours", "may", "require", "an", "exhaustive", "search", "of", "the", "entire", "data", "structure", "via", "recursive", "decent", ".", "This", "requires", "a", "stack", "the", "same", "size", "as", "the", "depth", "of", "the", "tree", ".", "During", "the", "recursion", ",", "a", "choice", "is", "made", "of", "which", "subtree", "to", "search", "next", "based", "on", "a", "test", "at", "each", "internal", "node", ".", "This", "introduces", "a", "dependency", "between", "one", "memory", "access", "and", "the", "next", "and", "makes", "it", "hard", "to", "map", "this", "algorithm", "into", "high-latency", "pipelined", "memory", "accesses", ".", "Much", "work", "has", "been", "done", "to", "find", "methods", "to", "optimise", "the", "kd-tree", "method", "of", "solving", "the", "kNN", "and", "AkNN", "problems", ".", "See", "Christensen", "26", ",", "Vanco", "et", "al.", "44", ",", "Havran", "19", ",", "and", "Sample", "et", "al.", "39", ".", "Many", "other", "recursive", "subdivision-based", "techniques", "have", "also", "been", "proposed", "for", "the", "kNN", "and", "AkNN", "problems", ",", "including", "kd-B-trees", "36", ",", "BBD-trees", "4", ",", "BAR-trees", "9", ",", "Principal-Axis", "Trees", "33", ",", "the", "R-tree", "family", "of", "data", "structures", "27", ",", "and", "ANN-trees", "30", ".", "Unfortunately", ",", "all", "schemes", "based", "on", "recursive", "search", "over", "a", "tree", "share", "the", "same", "memory", "dependency", "problem", "as", "the", "kd-tree", ".", "The", "second", "category", "of", "techniques", "are", "based", "on", "building", "and", "searching", "graphs", "that", "encode", "sample-adjacency", "information", ".", "The", "randomised", "neighbourhood", "graph", "approach", "3", "builds", "and", "searches", "an", "approximate", "local", "neighbourhood", "graph", ".", "Eppstein", "et", "al.", "11", "investigated", "the", "fundamental", "properties", "of", "a", "nearest", "neighbour", "graph", ".", "Jaromczyk", "and", "Toussaint", "surveyed", "data", "structures", "and", "techniques", "based", "on", "Relative", "Neighbourhood", "Graphs", "23", ".", "Graph-based", "techniques", "tend", "to", "have", "the", "same", "difficulties", "as", "tree-based", "approaches", ":", "searching", "a", "graph", "also", "involves", "stacks", "or", "queues", ",", "dependent", "memory", "accesses", ",", "and", "pointer-chasing", "unsuited", "to", "high-latency", "pipelined", "memory", "access", ".", "Voronoi", "diagrams", "can", "be", "used", "for", "optimal", "1-nearest", "neighbour", "searches", "in", "2D", "and", "3D", "10", ".", "This", "and", "other", "point-location", "based", "techniques", "17", "for", "solving", "nearest", "neighbour", "problems", "do", "not", "need", "to", "calculate", "distances", "between", "the", "query", "point", "and", "the", "candidates", ",", "but", "do", "need", "another", "data", "structure", "-LRB-", "like", "a", "BSP", "tree", "-RRB-", "to", "test", "a", "query", "point", "for", "inclusion", "in", "a", "region", ".", "Hashing", "approaches", "to", "the", "kNN", "and", "AkNN", "problems", "have", "recently", "been", "proposed", "by", "Indyk", "et", "al.", "20", ",", "21", "and", "Gionis", "et", "al.", "16", ".", "These", "techniques", "have", "the", "useful", "property", "that", "multi-level", "dependent", "memory", "lookups", "are", "not", "required", ".", "The", "heart", "of", "these", "algorithms", "are", "simple", "hash", "functions", "that", "preserve", "spatial", "locality", ",", "such", "as", "the", "one", "proposed", "by", "Linial", "and", "Sasson", "31", ",", "and", "Gionis", "et", "al.", "16", ".", "We", "base", "our", "technique", "on", "the", "latter", ".", "The", "authors", "also", "recognise", "recent", "work", "by", "Wald", "et", "al.", "45", "on", "real-time", "global", "illumination", "techniques", "where", "a", "hashing-based", "photon", "mapping", "technique", "was", "apparently", "used", "-LRB-", "but", "not", "described", "in", "detail", "-RRB-", ".", "Numerous", "surveys", "and", "books", "1", ",", "2", ",", "15", ",", "42", ",", "43", ",", "17", "provide", "further", "information", "on", "this", "family", "of", "problems", "and", "data", "structures", "developed", "to", "solve", "them", ".", "We", "have", "developed", "a", "novel", "technique", "called", "Block", "Hashing", "-LRB-", "BH", "-RRB-", "to", "solve", "the", "approximate", "kNN", "-LRB-", "AkNN", "-RRB-", "problem", "in", "the", "context", "of", ",", "but", "not", "limited", "to", ",", "photon", "mapping", ".", "Our", "algorithm", "uses", "hash", "functions", "to", "categorise", "photons", "by", "their", "positions", ".", "Then", ",", "a", "kNN", "query", "proceeds", "by", "deciding", "which", "hash", "bucket", "is", "matched", "to", "the", "query", "point", "and", "retrieving", "the", "photons", "contained", "inside", "the", "hash", "bucket", "for", "analysis", ".", "One", "attraction", "of", "the", "hashing", "approach", "is", "that", "evaluation", "of", "hash", "functions", "takes", "constant", "time", ".", "In", "addition", ",", "once", "we", "have", "the", "hash", "value", ",", "accessing", "data", "we", "want", "in", "the", "hash", "table", "takes", "only", "a", "single", "access", ".", "These", "advantages", "permit", "us", "to", "c", "The", "Eurographics", "Association", "2002", ".", "90", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "avoid", "operations", "that", "are", "serially", "dependent", "on", "one", "another", ",", "such", "as", "those", "required", "by", "kd-trees", ",", "and", "are", "major", "stepping", "stones", "towards", "a", "low-latency", "shader-based", "implementation", ".", "Our", "technique", "is", "designed", "under", "two", "assumptions", "on", "the", "behaviour", "of", "memory", "systems", "in", "-LRB-", "future", "-RRB-", "accelerators", ".", "First", ",", "we", "assume", "that", "memory", "is", "allocated", "in", "fixed-sized", "blocks", ".", "Second", ",", "we", "assume", "that", "access", "to", "memory", "is", "via", "burst", "transfer", "of", "blocks", "that", "are", "then", "cached", ".", "Under", "this", "assumption", ",", "if", "any", "part", "of", "a", "fixed-sized", "memory", "block", "is", "``", "touched", "''", ",", "access", "to", "the", "rest", "of", "this", "block", "will", "be", "virtually", "zero-cost", ".", "This", "is", "typical", "even", "of", "software", "implementations", "on", "modern", "machines", "which", "rely", "heavily", "on", "caching", "and", "burst-mode", "transfers", "from", "SDRAM", "or", "RDRAM", ".", "In", "a", "hardware", "implementation", "with", "a", "greater", "disparity", "between", "processing", "power", "and", "memory", "speed", ",", "using", "fast", "block", "transfers", "and", "caching", "is", "even", "more", "important", ".", "Due", "to", "these", "benefits", ",", "in", "BH", "all", "memory", "used", "to", "store", "photon", "data", "is", "broken", "into", "fixed-sized", "blocks", ".", "3.1", ".", "Locality-Sensitive", "Hashing", "Since", "our", "goal", "is", "to", "solve", "the", "kNN", "problem", "as", "efficiently", "as", "possible", "in", "a", "block-oriented", "cache-based", "context", ",", "our", "hashing", "technique", "requires", "hash", "functions", "that", "preserve", "spatial", "neighbourhoods", ".", "These", "hash", "functions", "take", "points", "that", "are", "close", "to", "each", "other", "in", "the", "domain", "space", "and", "hash", "them", "close", "to", "each", "other", "in", "hash", "space", ".", "By", "using", "such", "hash", "functions", ",", "photons", "within", "the", "same", "hash", "bucket", "as", "a", "query", "point", "can", "be", "assumed", "to", "be", "close", "to", "the", "query", "point", "in", "the", "original", "domain", "space", ".", "Consequently", ",", "these", "photons", "are", "good", "candidates", "for", "the", "kNN", "search", ".", "More", "than", "one", "such", "scheme", "is", "available", ";", "we", "chose", "to", "base", "our", "technique", "on", "the", "Locality-Sensitive", "Hashing", "-LRB-", "LSH", "-RRB-", "algorithm", "proposed", "by", "Gionis", "et", "al.", "16", ",", "but", "have", "added", "several", "refinements", "-LRB-", "which", "we", "describe", "in", "Section", "4", "-RRB-", ".", "The", "hash", "function", "in", "LSH", "groups", "one-dimensional", "real", "numbers", "in", "hash", "space", "by", "their", "spatial", "location", ".", "It", "does", "so", "by", "partitioning", "the", "domain", "space", "and", "assigning", "a", "unique", "hash", "value", "to", "each", "partition", ".", "Mathematically", ",", "let", "T", "=", "-LCB-", "t", "i", "\|", "0", "i", "P", "-RCB-", "be", "a", "monotonically", "increasing", "sequence", "of", "P", "+", "1", "thresholds", "between", "0", "and", "1", ".", "Assume", "t", "0", "=", "0", "and", "t", "P", "=", "1", ",", "so", "there", "are", "P", "-", "1", "degrees", "of", "freedom", "in", "this", "sequence", ".", "Define", "a", "one-dimensional", "Locality-Sensitive", "Hash", "Function", "h", "T", ":", "-LSB-", "0", ",", "1", "-RSB-", "-LCB-", "0", "...", "P", "-", "1", "-RCB-", "to", "be", "h", "T", "-LRB-", "t", "-RRB-", "=", "i", ",", "where", "t", "i", "t", "<", "t", "i", "+1", ".", "In", "other", "words", ",", "the", "hash", "value", "i", "can", "take", "on", "P", "different", "values", ",", "one", "for", "each", "``", "bucket", "''", "defined", "by", "the", "threshold", "pair", "-LSB-", "t", "i", ",", "t", "i", "+1", "-RRB-", ".", "An", "example", "is", "shown", "in", "Figure", "1", ".", "t", "1", "t", "2", "t", "3", "t", "4", "t", "0", "Figure", "1", ":", "An", "example", "of", "h", "T", ".", "The", "circles", "and", "boxes", "represent", "values", "to", "be", "hashed", ",", "while", "the", "vertical", "lines", "are", "the", "thresholds", "in", "T", ".", "The", "boxes", "lie", "between", "t", "1", "and", "t", "2", ",", "thus", "they", "are", "given", "a", "hash", "value", "of", "1", ".", "The", "function", "h", "T", "can", "be", "interpreted", "as", "a", "monotonic", "non-uniform", "quantisation", "of", "spatial", "position", ",", "and", "is", "characterised", "by", "P", "and", "the", "sequence", "T", ".", "It", "is", "important", "to", "note", "that", "h", "T", "gives", "each", "partition", "of", "the", "domain", "space", "delineated", "by", "T", "equal", "representation", "in", "hash", "space", ".", "Depending", "on", "the", "location", "of", "the", "thresholds", ",", "h", "T", "will", "contract", "some", "parts", "of", "the", "domain", "space", "and", "expand", "other", "parts", ".", "If", "we", "rely", "on", "only", "a", "single", "hash", "table", "to", "classify", "a", "data", "set", ",", "a", "query", "point", "will", "only", "hash", "to", "a", "single", "bucket", "within", "this", "table", ",", "and", "the", "bucket", "may", "represent", "only", "a", "subset", "of", "the", "true", "neighbourhood", "we", "sought", ".", "Therefore", ",", "multiple", "hash", "tables", "with", "different", "thresholds", "are", "necessary", "for", "the", "retrieval", "of", "a", "more", "complete", "neighbourhood", "around", "the", "query", "point", "-LRB-", "See", "Figure", "2", ".", "-RRB-", "h", "T1", "h", "T3", "h", "T2", "t", "1", "t", "2", "t", "3", "t", "4", "t", "0", "t", "4", "t", "0", "t", "4", "t", "0", "t", "1", "t", "1", "t", "2", "t", "2", "t", "3", "t", "3", "Figure", "2", ":", "An", "example", "of", "multiple", "hash", "functions", "classifying", "a", "dataset", ".", "The", "long", "vertical", "line", "represents", "the", "query", "value", ".", "The", "union", "of", "results", "multiple", "hash", "tables", "with", "different", "thresholds", "represents", "a", "more", "complete", "neighbourhood", ".", "To", "deal", "with", "n-dimensional", "points", ",", "each", "hash", "table", "will", "have", "one", "hash", "function", "per", "dimension", ".", "Each", "hash", "function", "generates", "one", "hash", "value", "per", "coordinate", "of", "the", "point", "-LRB-", "See", "Figure", "3", ".", "-RRB-", "The", "final", "hash", "value", "is", "calculated", "by", "n", "-1", "i", "=", "0", "h", "i", "P", "i", ",", "where", "h", "i", "are", "the", "hash", "values", "and", "P", "is", "the", "number", "of", "thresholds", ".", "If", "P", "were", "a", "power", "of", "two", ",", "then", "this", "amounts", "to", "concatenating", "the", "bits", ".", "The", "only", "reason", "we", "use", "the", "same", "number", "of", "thresholds", "for", "each", "dimension", "is", "simplicity", ".", "It", "is", "conceivable", "that", "a", "different", "number", "of", "thresholds", "could", "be", "used", "for", "each", "dimension", "to", "better", "adapt", "to", "the", "data", ".", "We", "defer", "the", "discussion", "of", "threshold", "generation", "and", "query", "procedures", "until", "Sections", "4.2", "and", "4.4", ",", "respectively", ".", "h", "x", "h", "y", "P", "Figure", "3", ":", "Using", "two", "hash", "functions", "to", "handle", "a", "2D", "point", ".", "Each", "hash", "function", "will", "be", "used", "to", "hash", "one", "coordinate", ".", "LSH", "is", "very", "similar", "to", "grid", "files", "34", ".", "However", ",", "the", "grid", "file", "was", "specifically", "designed", "to", "handle", "dynamic", "data", ".", "Here", ",", "we", "assume", "that", "the", "data", "is", "static", "during", "the", "rendering", "pass", ".", "Also", ",", "the", "grid", "file", "is", "more", "suitable", "for", "range", "searches", "than", "it", "is", "for", "solving", "the", "kNN", "problem", ".", "3.2", ".", "Block-Oriented", "Memory", "Model", "It", "has", "been", "our", "philosophy", "that", "hardware", "implementations", "of", "algorithms", "should", "treat", "off-chip", "memory", "the", "same", "way", "software", "implementations", "treat", "disk", ":", "as", "a", "relatively", "slow", ",", "``", "out-of", "-", "core", "''", ",", "high-latency", ",", "block-oriented", "storage", "device", ".", "This", "c", "The", "Eurographics", "Association", "2002", ".", "91", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "analogy", "implies", "that", "algorithms", "and", "data", "structures", "designed", "to", "optimise", "for", "disk", "access", "are", "potentially", "applicable", "to", "hardware", "design", ".", "It", "also", "drove", "us", "to", "employ", "fixed-sized", "blocks", "to", "store", "the", "data", "involved", "in", "the", "kNN", "search", "algorithm", ",", "which", "are", "photons", "in", "the", "context", "of", "this", "application", ".", "In", "our", "prototype", "software", "implementation", "of", "BH", ",", "each", "photon", "is", "stored", "in", "a", "structure", "similar", "to", "Jensen", "'s", "``", "extended", "''", "photon", "representation", "25", ".", "As", "shown", "in", "Figure", "4", ",", "each", "component", "of", "the", "3D", "photon", "location", "is", "represented", "by", "a", "32-bit", "fixed-point", "number", ".", "The", "unit", "vectors", "representing", "incoming", "direction", "^", "d", "and", "surface", "normal", "^", "n", "are", "quantised", "to", "16-bit", "values", "using", "Jensen", "'s", "polar", "representation", ".", "Photon", "power", "is", "stored", "in", "four", "channels", "using", "sixteen-bit", "floating", "point", "numbers", ".", "This", "medium-precision", "signed", "representation", "permits", "other", "AkNN", "applications", "beyond", "that", "of", "photon", "mapping", ".", "Four", "colour", "channels", "are", "also", "included", "to", "better", "match", "the", "four-vectors", "supported", "in", "fragment", "shaders", ".", "For", "the", "photon", "mapping", "application", "specifically", ",", "our", "technique", "is", "compatible", "with", "the", "replacement", "of", "the", "four", "colour", "channels", "with", "a", "Ward", "RGBE", "colour", "representation", "46", ".", "Likewise", ",", "another", "implementation", "might", "use", "a", "different", "representation", "for", "the", "normal", "and", "incident", "direction", "unit", "vectors", ".", "\|", "32", "\|", "x", "y", "z", "^", "d", "^", "n", "c", "1", "c", "2", "c", "3", "c", "4", "\|", "16", "\|", "Figure", "4", ":", "Representation", "of", "a", "photon", "record", ".", "The", "32-bit", "values", "-LRB-", "x", ",", "y", ",", "z", "-RRB-", "denote", "the", "position", "of", "a", "photon", "and", "are", "used", "as", "keys", ".", "Two", "quantised", "16-bit", "unit", "vectors", "^", "d", ",", "^", "n", "and", "four", "16-bit", "floating", "point", "values", "are", "carried", "as", "data", ".", "All", "photon", "records", "are", "stored", "in", "fixed-sized", "memory", "blocks", ".", "BH", "uses", "a", "64", "32-bit-word", "block", "size", ",", "chosen", "to", "permit", "efficient", "burst-mode", "transfers", "over", "a", "wide", "bus", "to", "transaction-oriented", "DRAM", ".", "Using", "a", "128-bit", "wide", "path", "to", "DDR", "SDRAM", ",", "for", "instance", ",", "transfer", "of", "this", "block", "would", "take", "eight", "cycles", ",", "not", "counting", "the", "overhead", "of", "command", "cycles", "to", "specify", "the", "operation", "and", "the", "address", ".", "Using", "next-generation", "QDR", "SDRAM", "this", "transfer", "would", "take", "only", "four", "cycles", "-LRB-", "or", "eight", "on", "a", "64-bit", "bus", ",", "etc.", "-RRB-", "Our", "photon", "representation", "occupies", "six", "32-bit", "words", ".", "Since", "photon", "records", "are", "not", "permitted", "to", "span", "block", "boundaries", ",", "ten", "photons", "will", "fit", "into", "a", "64-word", "block", "with", "four", "words", "left", "over", ".", "Some", "of", "this", "extra", "space", "is", "used", "in", "our", "implementation", "to", "record", "how", "many", "photons", "are", "actually", "stored", "in", "each", "block", ".", "For", "some", "variants", "of", "the", "data", "structures", "we", "describe", ",", "this", "extra", "space", "could", "also", "be", "used", "for", "flags", "or", "pointers", "to", "other", "blocks", ".", "It", "might", "be", "possible", "or", "desirable", "in", "other", "implementations", "to", "support", "more", "or", "fewer", "colour", "channels", ",", "or", "channels", "with", "greater", "or", "lesser", "precision", ",", "in", "which", "case", "some", "of", "our", "numerical", "results", "would", "change", ".", "Block", "Hashing", "-LRB-", "BH", "-RRB-", "contains", "a", "preprocessing", "phase", "and", "a", "query", "phase", ".", "The", "preprocessing", "phase", "consists", "of", "three", "steps", ".", "After", "photons", "have", "been", "traced", "into", "the", "scene", ",", "the", "algorithm", "organises", "the", "photons", "into", "fixed-sized", "memory", "blocks", ",", "creates", "a", "set", "of", "hash", "tables", ",", "and", "inserts", "photon", "blocks", "into", "the", "hash", "tables", ".", "In", "the", "second", "phase", ",", "the", "hash", "tables", "will", "be", "queried", "for", "a", "set", "of", "candidate", "photons", "from", "which", "the", "k", "nearest", "photons", "will", "be", "selected", "for", "each", "point", "in", "space", "to", "be", "shaded", "by", "the", "renderer", ".", "4.1", ".", "Organizing", "Photons", "into", "Blocks", "Due", "to", "the", "coherence", "benefits", "associated", "with", "block-oriented", "memory", "access", ",", "BH", "starts", "by", "grouping", "photons", "and", "storing", "them", "into", "fixed-sized", "memory", "blocks", ".", "However", ",", "these", "benefits", "are", "maximised", "when", "the", "photons", "within", "a", "group", "are", "close", "together", "spatially", ".", "We", "chose", "to", "use", "the", "Hilbert", "curve", "13", "to", "help", "group", "photons", "together", ".", "The", "advantage", "of", "the", "Hilbert", "curve", "encoding", "of", "position", "is", "that", "points", "mapped", "near", "each", "other", "on", "the", "Hilbert", "curve", "are", "guaranteed", "to", "be", "within", "a", "certain", "distance", "of", "each", "other", "in", "the", "original", "domain", "22", ".", "Points", "nearby", "in", "the", "original", "domain", "space", "have", "a", "high", "probability", "of", "being", "nearby", "on", "the", "curve", ",", "although", "there", "is", "a", "non-zero", "probability", "of", "them", "being", "far", "apart", "on", "the", "curve", ".", "If", "we", "sort", "photons", "by", "their", "Hilbert", "curve", "order", "before", "packing", "them", "into", "blocks", ",", "then", "the", "photons", "in", "each", "block", "will", "have", "a", "high", "probability", "of", "being", "spatially", "coherent", ".", "Each", "block", "then", "corresponds", "to", "an", "interval", "of", "the", "Hilbert", "curve", ",", "which", "in", "turn", "covers", "some", "compact", "region", "of", "the", "domain", "-LRB-", "see", "Figure", "7", "a", "-RRB-", ".", "Each", "region", "of", "domain", "space", "represented", "by", "the", "blocks", "is", "independent", ",", "and", "regions", "do", "not", "overlap", ".", "BH", "sorts", "photons", "and", "inserts", "them", "into", "a", "B", "+", "-", "tree", "8", "using", "the", "Hilbert", "curve", "encoding", "of", "the", "position", "of", "each", "photon", "as", "the", "key", ".", "This", "method", "of", "spatially", "grouping", "points", "was", "first", "proposed", "by", "Faloutsos", "and", "Rong", "12", "for", "a", "different", "purpose", ".", "Since", "a", "B", "+", "-", "tree", "stores", "photon", "records", "only", "at", "leaves", ",", "with", "a", "compatible", "construction", "the", "leaf", "nodes", "of", "the", "B", "+", "-", "tree", "can", "serve", "as", "the", "photon", "blocks", "used", "in", "the", "later", "stages", "of", "BH", ".", "One", "advantage", "of", "using", "a", "B", "+", "-", "tree", "for", "sorting", "is", "that", "insertion", "cost", "is", "bounded", ":", "the", "tree", "is", "always", "balanced", ",", "and", "in", "the", "worst", "case", "we", "may", "have", "to", "split", "h", "nodes", "in", "the", "tree", ",", "when", "the", "height", "of", "the", "tree", "is", "h.", "Also", ",", "B", "+", "-", "trees", "are", "optimised", "for", "block-oriented", "storage", ",", "as", "we", "have", "assumed", ".", "The", "B", "+", "-", "tree", "used", "by", "BH", "has", "index", "and", "leaf", "nodes", "that", "are", "between", "half", "full", "to", "completely", "full", ".", "To", "minimise", "the", "final", "number", "of", "blocks", "required", "to", "store", "the", "photons", ",", "the", "leaf", "nodes", "can", "be", "compacted", "-LRB-", "see", "Figure", "5", ".", "-RRB-", "After", "the", "photons", "are", "sorted", "and", "compacted", ",", "the", "resulting", "photon", "blocks", "are", "ready", "to", "be", "used", "by", "BH", ",", "and", "the", "B", "+", "-", "tree", "index", "and", "any", "leaf", "nodes", "that", "are", "made", "empty", "by", "compaction", "are", "discarded", ".", "If", "the", "complete", "set", "of", "photons", "is", "known", "a", "priori", ",", "the", "compact", "B", "+", "-", "tree", "37", "for", "static", "data", "can", "be", "used", "instead", ".", "This", "data", "structure", "maintains", "full", "nodes", "and", "avoids", "the", "extra", "compaction", "step", ".", "c", "The", "Eurographics", "Association", "2002", ".", "92", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "-LRB-", "b", "-RRB-", "Index", "node", "Empty", "cell", "in", "leaf", "node", "Occupied", "cell", "in", "leaf", "node", "-LRB-", "a", "-RRB-", "Figure", "5", ":", "Compaction", "of", "photon", "blocks", ".", "-LRB-", "a", "-RRB-", "B", "+", "-", "tree", "after", "inserting", "all", "photons", ".", "Many", "leaf", "nodes", "have", "empty", "cells", ".", "-LRB-", "b", "-RRB-", "All", "photon", "records", "are", "compacted", "in", "the", "leaf", "nodes", ".", "Regardless", ",", "observe", "that", "each", "photon", "block", "contains", "a", "spatially", "clustered", "set", "of", "photons", "disjoint", "from", "those", "contained", "in", "other", "blocks", ".", "This", "is", "the", "main", "result", "we", "are", "after", ";", "any", "other", "data", "structures", "that", "can", "group", "photons", "into", "spatially-coherent", "groups", ",", "such", "as", "grid", "files", "34", ",", "can", "be", "used", "in", "place", "of", "the", "B", "+", "-", "tree", "and", "space-filling", "curve", ".", "4.2", ".", "Creating", "the", "Hash", "Tables", "The", "hash", "tables", "used", "in", "BH", "are", "based", "on", "the", "LSH", "scheme", "described", "in", "Section", "3.1", ".", "BH", "generates", "L", "tables", "in", "total", ",", "serving", "as", "parallel", "and", "complementary", "indices", "to", "the", "photon", "data", ".", "Each", "table", "has", "three", "hash", "functions", "-LRB-", "since", "photons", "are", "classified", "by", "their", "3D", "positions", "-RRB-", ",", "and", "each", "hash", "function", "has", "P", "+", "1", "thresholds", ".", "BH", "employs", "an", "adaptive", "method", "that", "generates", "the", "thresholds", "based", "on", "the", "photon", "positions", ".", "For", "each", "dimension", ",", "a", "histogram", "of", "photon", "positions", "is", "built", ".", "Then", ",", "the", "histogram", "is", "integrated", "to", "obtain", "a", "cumulative", "distribution", "function", "-LRB-", "cdf", "-RRB-", ".", "Lastly", ",", "stratified", "samples", "are", "taken", "from", "the", "inverse", "of", "the", "cdf", "to", "obtain", "threshold", "locations", ".", "The", "resulting", "thresholds", "will", "be", "far", "apart", "where", "there", "are", "few", "photons", ",", "and", "close", "together", "where", "photons", "are", "numerous", ".", "Ultimately", "this", "method", "attempts", "to", "have", "a", "similar", "number", "of", "photons", "into", "each", "bucket", ".", "Hash", "tables", "are", "stored", "as", "a", "one-dimensional", "array", "structure", ",", "shown", "in", "Figure", "6", ".", "The", "hash", "key", "selects", "a", "bucket", "out", "of", "the", "P", "n", "available", "buckets", "in", "the", "hash", "table", ".", "Each", "bucket", "refers", "up", "to", "B", "blocks", "of", "photons", ",", "and", "has", "space", "for", "a", "validity", "flag", "per", "reference", ",", "and", "storage", "for", "a", "priority", "value", ".", "We", "defer", "the", "discussion", "on", "the", "choice", "of", "P", ",", "L", "and", "B", "until", "Section", "5", ".", "B", "V", "V", "V", "V", "Priority", "Figure", "6", ":", "Hash", "table", "bucket", "layout", "4.3", ".", "Inserting", "Photon", "Blocks", "In", "BH", ",", "references", "to", "entire", "photon", "blocks", ",", "rather", "than", "individual", "photons", ",", "are", "inserted", "into", "the", "hash", "tables", ".", "One", "reason", "for", "doing", "so", "is", "to", "reduce", "the", "memory", "required", "per", "bucket", ".", "Another", ",", "more", "important", ",", "reason", "is", "that", "when", "merging", "results", "from", "multiple", "hash", "tables", "-LRB-", "Section", "3.1", "-RRB-", ",", "BH", "needs", "to", "compare", "only", "block", "addresses", "instead", "of", "photons", "when", "weeding", "out", "duplicates", "as", "each", "block", "contains", "a", "unique", "set", "of", "photons", ".", "This", "means", "fewer", "comparisons", "have", "to", "be", "made", "and", "the", "individual", "photons", "are", "only", "accessed", "once", "per", "query", ",", "during", "post-processing", "of", "the", "merged", "candidate", "set", "to", "find", "the", "k", "nearest", "photons", ".", "Consequently", ",", "the", "transfer", "of", "each", "photon", "block", "through", "the", "memory", "system", "happens", "at", "most", "once", "per", "query", ".", "All", "photons", "accessed", "in", "a", "block", "are", "potentially", "useful", "contributions", "to", "the", "candidate", "set", ",", "since", "photons", "within", "a", "single", "block", "are", "spatially", "coherent", ".", "Due", "to", "our", "memory", "model", "assumptions", ",", "once", "we", "have", "looked", "at", "one", "photon", "in", "a", "block", "it", "should", "be", "relatively", "inexpensive", "to", "look", "at", "the", "rest", ".", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "Figure", "7", ":", "Block", "hashing", "illustrated", ".", "-LRB-", "a", "-RRB-", "Each", "block", "corresponds", "to", "an", "interval", "of", "the", "Hilbert", "curve", ",", "which", "in", "turn", "covers", "some", "compact", "region", "of", "the", "domain", ".", "Consequently", ",", "each", "bucket", "-LRB-", "b", "-RRB-", "represents", "all", "photons", "-LRB-", "highlighted", "with", "squares", "-RRB-", "in", "each", "block", "with", "at", "least", "one", "photon", "hashed", "into", "it", "-LRB-", "c", "-RRB-", ".", "Each", "bucket", "in", "a", "hash", "table", "corresponds", "to", "a", "rectangular", "region", "in", "a", "non-uniform", "grid", "as", "shown", "in", "Figure", "7", "b.", "Each", "block", "is", "inserted", "into", "the", "hash", "tables", "once", "for", "each", "photon", "within", "that", "block", ",", "using", "the", "position", "of", "these", "photons", "to", "create", "the", "keys", ".", "Each", "bucket", "of", "the", "hash", "table", "refers", "to", "not", "only", "the", "photons", "that", "have", "been", "hashed", "into", "that", "bucket", ",", "but", "also", "all", "the", "other", "photons", "that", "belong", "to", "the", "same", "blocks", "as", "the", "hashed", "photons", "-LRB-", "see", "Figure", "7", "c.", "-RRB-", "Since", "each", "photon", "block", "is", "inserted", "into", "each", "hash", "table", "multiple", "times", ",", "using", "different", "photons", "as", "keys", ",", "a", "block", "may", "be", "hashed", "into", "multiple", "buckets", "in", "the", "same", "hash", "table", ".", "Of", "course", ",", "a", "block", "should", "not", "be", "inserted", "into", "a", "bucket", "more", "than", "once", ".", "More", "importantly", ",", "our", "technique", "ensures", "that", "each", "block", "is", "inserted", "into", "at", "least", "one", "hash", "table", ".", "Orphaned", "blocks", "are", "very", "undesirable", "since", "the", "photons", "within", "will", "never", "be", "considered", "in", "the", "subsequent", "AkNN", "evaluation", "and", "will", "cause", "a", "constant", "error", "overhead", ".", "Hence", ",", "our", "technique", "does", "not", "na", "vely", "drop", "a", "block", "that", "causes", "a", "bucket", "to", "overflow", ".", "However", ",", "there", "may", "be", "collisions", "that", "cause", "buckets", "to", "overflow", ",", "especially", "when", "a", "large", "bucket", "load", "factor", "is", "chosen", "to", "give", "a", "compact", "hash", "table", "size", ",", "or", "there", "exists", "a", "large", "variation", "in", "photon", "density", "-LRB-", "which", ",", "of", "course", ",", "is", "typical", "in", "this", "application", "-RRB-", ".", "Our", "algorithm", "uses", "two", "techniques", "to", "address", "this", "problem", ".", "The", "first", "technique", "attempts", "to", "insert", "every", "block", "into", "every", "hash", "table", ",", "but", "in", "different", "orders", "on", "different", "hash", "tables", ",", "such", "that", "blocks", "that", "appear", "earlier", "in", "the", "ordering", "are", "not", "favoured", "for", "insertion", "in", "all", "tables", ".", "BH", "uses", "a", "technique", "similar", "to", "disk-striping", "38", ",", "illustrated", "by", "the", "c", "The", "Eurographics", "Association", "2002", ".", "93", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "pseudo", "code", "in", "Figure", "8", ".", "An", "example", "is", "given", "in", "the", "diagram", "in", "the", "same", "figure", ".", "for", "h", "from", "0", "to", "-LRB-", "number_of_hash_tables-1", "-RRB-", "for", "b", "from", "0", "to", "-LRB-", "number_of_blocks-1", "-RRB-", "idx", "=", "-LRB-", "h", "+", "b", "-RRB-", "modulo", "L", "insert", "block", "-LSB-", "b", "-RSB-", "into", "hashtable", "-LSB-", "idx", "-RSB-", "endfor", "endfor", "0", "1", "2", "0", "1", "2", "1", "2", "0", "1", "2", "0", "1", "2", "0", "1", "2", "0", "1", "2", "0", "1", "2", "0", "3", "4", "5", "3", "4", "5", "3", "4", "5", "Photon", "Block", "Hash", "Table", "Bucket", "1st", "iteration", "2nd", "iteration", "3rd", "iteration", "Figure", "8", ":", "Striping", "insertion", "strategy", "The", "second", "technique", "involves", "a", "strategy", "to", "deal", "with", "overflow", "in", "a", "bucket", ".", "For", "each", "photon", "block", ",", "BH", "keeps", "the", "count", "of", "buckets", "that", "the", "block", "has", "been", "hashed", "into", "so", "far", ".", "When", "a", "block", "causes", "overflow", "in", "a", "bucket", ",", "the", "block", "in", "the", "bucket", "that", "has", "the", "maximum", "count", "will", "be", "bumped", "if", "that", "count", "is", "larger", "than", "one", ",", "and", "larger", "than", "that", "of", "the", "incoming", "block", ".", "This", "way", "we", "ensure", "that", "all", "blocks", "are", "inserted", "into", "at", "least", "one", "bucket", ",", "given", "adequate", "hash", "table", "sizes", ",", "and", "no", "block", "is", "hashed", "into", "an", "excessive", "number", "of", "buckets", ".", "4.4", ".", "Querying", "A", "query", "into", "the", "BH", "data", "structure", "proceeds", "by", "delegating", "the", "query", "to", "each", "of", "the", "L", "hash", "tables", ".", "These", "parallel", "accesses", "will", "yield", "as", "candidates", "all", "photon", "blocks", "represented", "by", "buckets", "that", "matched", "the", "query", ".", "The", "final", "approximate", "nearest", "neighbour", "set", "comes", "from", "scanning", "the", "unified", "candidate", "set", "for", "the", "nearest", "neighbours", "to", "the", "query", "point", "-LRB-", "see", "Figure", "9", ".", "-RRB-", "Note", "that", "unlike", "kNN", "algorithms", "based", "on", "hier-archical", "data", "structures", ",", "where", "candidates", "for", "the", "kNN", "set", "trickle", "in", "as", "the", "traversal", "progresses", ",", "in", "BH", "all", "candidates", "are", "available", "once", "the", "parallel", "queries", "are", "completed", ".", "Therefore", ",", "BH", "can", "use", "algorithms", "like", "selection", "29", "-LRB-", "instead", "of", "a", "priority", "queue", "-RRB-", "when", "selecting", "the", "k", "nearest", "photons", ".", "Each", "query", "will", "retrieve", "one", "bucket", "from", "each", "of", "the", "L", "hash", "tables", ".", "If", "the", "application", "can", "tolerate", "elevated", "inaccuracy", "in", "return", "for", "increased", "speed", "of", "query", "-LRB-", "for", "example", ",", "to", "pre-visualise", "a", "software", "rendering", "-RRB-", ",", "it", "may", "be", "worthwhile", "to", "consider", "using", "only", "a", "subset", "of", "the", "L", "candidate", "sets", ".", "Block", "hashing", "is", "equipped", "with", "a", "user-specified", "accuracy", "setting", ":", "Let", "A", "IN", "be", "an", "integer", "multiplier", ".", "The", "block", "hashing", "algorithm", "will", "only", "consider", "Ak", "candidate", "photons", "in", "the", "final", "scan", "to", "determine", "the", "k", "nearest", "photons", "to", "a", "query", ".", "Obviously", "the", "smaller", "A", "is", ",", "the", "fewer", "photons", "will", "be", "processed", "in", "the", "final", "step", ";", "as", "such", ",", "query", "time", "is", "significantly", "reduced", ",", "but", "with", "an", "accuracy", "cost", ".", "Conversely", ",", "a", "higher", "A", "will", "lead", "to", "a", "more", "accurate", "result", ",", "but", "it", "will", "take", "more", "time", ".", "Experimental", "results", "that", "demonstrate", "the", "impact", "of", "the", "choice", "of", "A", "will", "be", "explored", "in", "Section", "6", ".", "Query", "point", "Matched", "point", "Data", "point", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "Figure", "9", ":", "Merging", "the", "results", "from", "multiple", "hash", "tables", ".", "-LRB-", "a", "-RRB-", "the", "query", "point", "retrieves", "different", "candidates", "sets", "from", "different", "hash", "tables", ",", "-LRB-", "b", "-RRB-", "the", "union", "set", "of", "candidates", "after", "merging", ",", "and", "-LRB-", "c", "-RRB-", "the", "two", "closest", "neighbours", "selected", ".", "There", "needs", "to", "be", "a", "way", "to", "select", "the", "buckets", "from", "which", "the", "Ak", "candidate", "photons", "are", "obtained", ".", "Obviously", ",", "we", "want", "to", "devise", "a", "heuristic", "to", "pick", "the", "``", "best", "''", "candidates", ".", "Suppose", "every", "bucket", "in", "every", "hash", "table", "has", "a", "priority", "given", "by", "=", "\|", "bucket_capacity", "-", "#entries", "-", "#overflows", "\|", "where", "''", "#overflows", "''", "is", "the", "number", "of", "insertion", "attempts", "after", "the", "bucket", "became", "full", ".", "The", "priority", "can", "be", "pre-computed", "and", "stored", "in", "each", "bucket", "of", "each", "hash", "table", "during", "the", "insertion", "phase", ".", "The", "priority", "of", "a", "bucket", "is", "smallest", "when", "the", "bucket", "is", "full", "but", "never", "overflowed", ".", "Conversely", ",", "when", "the", "hash", "bucket", "is", "underutilised", "or", "overflow", "has", "occurred", ",", "will", "be", "larger", ".", "If", "a", "bucket", "is", "underutilised", ",", "it", "is", "probably", "too", "small", "spatially", "-LRB-", "relative", "to", "local", "sample", "density", "-RRB-", ".", "If", "it", "has", "experienced", "overflow", ",", "it", "is", "likely", "too", "large", "spatially", ",", "and", "covers", "too", "many", "photon", "block", "regions", ".", "During", "each", "query", ",", "BH", "will", "sort", "the", "L", "buckets", "returned", "from", "the", "hash", "tables", "by", "their", "priority", "values", ",", "smallest", "values", "of", "first", ".", "Subsequently", ",", "buckets", "are", "considered", "in", "this", "order", ",", "one", "by", "one", ",", "until", "the", "required", "Ak", "photons", "are", "found", ".", "In", "this", "way", "the", "more", "``", "useful", "''", "buckets", "will", "be", "considered", "first", ".", "Block", "Hashing", "is", "a", "scheme", "that", "requires", "several", "parameters", ":", "B", ",", "the", "bucket", "capacity", ";", "L", ",", "the", "number", "of", "hash", "tables", "whose", "results", "are", "merged", ";", "and", "P", ",", "the", "number", "of", "thresholds", "per", "dimension", ".", "We", "would", "like", "to", "determine", "reasonable", "values", "for", "these", "parameters", "as", "functions", "of", "k", ",", "the", "number", "of", "nearest", "neighbours", "sought", ",", "and", "N", ",", "the", "number", "of", "photons", "involved", ".", "It", "is", "important", "to", "realize", "the", "implications", "of", "these", "parameters", ".", "The", "total", "number", "of", "32-bit", "pointers", "to", "photon", "blocks", "is", "given", "by", "LP", "3", "B.", "Along", "with", "the", "number", "of", "thresholds", "3LP", ",", "this", "gives", "the", "memory", "overhead", "required", "for", "BH", ".", "The", "upper", "bound", "for", "this", "value", "is", "6N", ",", "the", "number", "of", "photons", "multiplied", "by", "the", "six", "32-bit", "words", "each", "photon", "takes", "up", "in", "our", "implementation", ".", "If", "we", "allow", "B", "to", "be", "a", "fixed", "constant", "for", "now", ",", "c", "The", "Eurographics", "Association", "2002", ".", "94", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "the", "constraint", "LP", "3", "+", "3LP", "N", "arises", "from", "the", "reasonable", "assumption", "that", "we", "do", "not", "want", "to", "have", "more", "references", "to", "blocks", "than", "there", "are", "photons", ",", "or", "more", "memory", "used", "in", "the", "index", "than", "in", "the", "data", ".", "Empirically", ",", "L", "=", "P", "=", "ln", "N", "has", "turned", "out", "to", "be", "a", "good", "choice", ".", "The", "value", "ln", "N", "remains", "sub-linear", "as", "N", "increases", ",", "and", "this", "value", "gives", "a", "satisfactory", "index", "memory", "overhead", "ratio", ":", "There", "are", "a", "total", "of", "B", "-LRB-", "ln", "N", "-RRB-", "4", "block", "references", ".", "Being", "four", "bytes", "each", ",", "the", "references", "require", "4B", "-LRB-", "ln", "N", "-RRB-", "4", "bytes", ".", "With", "each", "hash", "table", ",", "there", "needs", "to", "be", "3LP", "=", "3", "-LRB-", "ln", "N", "-RRB-", "2", "thresholds", ".", "Represented", "by", "a", "4-byte", "value", "each", ",", "the", "thresholds", "take", "another", "12", "-LRB-", "ln", "N", "-RRB-", "2", "bytes", ".", "Next", ",", "assuming", "one", "photon", "block", "can", "hold", "ten", "photons", ",", "N", "photons", "requires", "N/10", "blocks", ";", "each", "block", "requires", "64", "words", ",", "so", "the", "blocks", "require", "25.6", "N", "bytes", "in", "total", ".", "The", "total", "memory", "required", "for", "N", "photons", ",", "each", "occupying", "6", "words", ",", "is", "24N", "bytes", ".", "This", "gives", "an", "overhead", "ratio", "of", "-LRB-", "4B", "-LRB-", "ln", "N", "-RRB-", "4", "+", "12", "-LRB-", "ln", "N", "-RRB-", "2", "+", "25.6", "N", "-", "24N", "-RRB-", "/", "24N", ".", "-LRB-", "1", "-RRB-", "The", "choice", "of", "B", "is", "also", "dependent", "on", "the", "value", "of", "k", "specified", "by", "the", "situation", "or", "the", "user", ".", "However", ",", "since", "it", "is", "usual", "in", "photon", "mapping", "that", "k", "is", "known", "ahead", "of", "time", ",", "B", "can", "be", "set", "accordingly", ".", "B", "should", "be", "set", "such", "that", "the", "total", "number", "of", "photons", "retrieved", "from", "the", "L", "buckets", "for", "each", "query", "will", "be", "larger", "than", "k.", "Mathematically", "speaking", ",", "each", "photon", "block", "in", "our", "algorithm", "has", "ten", "photons", ",", "hence", "10", "LB", "k", ".", "In", "particular", ",", "10", "LB", ">", "Ak", "should", "also", "be", "satisfied", ".", "Since", "we", "choose", "L", "=", "ln", "N", ",", "rearranging", "the", "equation", "yields", ":", "B", ">", "Ak", "/", "-LRB-", "10", "ln", "N", "-RRB-", "For", "example", ",", "assuming", "A", "=", "16", ",", "N", "=", "2000000", ",", "k", "=", "50", ",", "then", "B", "=", "6", ".", "If", "we", "substitute", "B", "back", "into", "Equation", "1", ",", "we", "obtain", "the", "final", "overhead", "equation", "-LRB-", "4", "-LRB-", "Ak/10", "-RRB-", "-LRB-", "ln", "N", "-RRB-", "3", "+", "12", "-LRB-", "ln", "N", "-RRB-", "2", "+", "1.6", "N", "-RRB-", "/", "24N", ".", "-LRB-", "2", "-RRB-", "Figure", "10", "plots", "the", "number", "of", "photons", "versus", "the", "memory", "overhead", ".", "For", "the", "usual", "range", "of", "photon", "count", "in", "a", "photon", "mapping", "application", ",", "we", "see", "that", "the", "memory", "overhead", ",", "while", "relative", "large", "for", "small", "numbers", "of", "photons", ",", "becomes", "reasonable", "for", "larger", "numbers", "of", "photons", ",", "and", "has", "an", "asymptote", "of", "about", "6", "%", ".", "Of", "course", ",", "if", "we", "assumed", "different", "block", "size", "-LRB-", "cache", "line", "size", "-RRB-", ",", "these", "results", "would", "vary", ",", "but", "the", "analysis", "is", "the", "same", ".", "Memory", "Overhead", "Ratio", "-LRB-", "%", "-RRB-", "5", "15", "20", "25", "30", "0.50", "0.75", "1.00", "1.25", "1.50", "1.75", "A", "=", "16", "A", "=", "8", "A", "=", "4", "10", "0.25", "2.00", "Number", "of", "Photons", "Figure", "10", ":", "Plot", "of", "photon", "count", "vs.", "memory", "overhead", "in-curred", "by", "BH", ",", "assuming", "k", "=", "50", ".", "For", "BH", "to", "be", "a", "useful", "AkNN", "algorithm", ",", "it", "must", "have", "satisfactory", "algorithmic", "accuracy", ".", "Moreover", ",", "in", "the", "context", "of", "photon", "mapping", ",", "BH", "must", "also", "produce", "good", "visual", "accuracy", ".", "This", "section", "will", "demonstrate", "that", "BH", "satisfies", "both", "requirements", ",", "while", "providing", "a", "speed-up", "in", "terms", "of", "the", "time", "it", "takes", "to", "render", "an", "image", ",", "even", "in", "a", "software", "implementation", ".", "To", "measure", "algorithmic", "accuracy", ",", "our", "renderer", "was", "rigged", "to", "use", "both", "the", "kd-tree", "and", "BH", "based", "photon", "maps", ".", "For", "each", "kNN", "query", "the", "result", "sets", "were", "compared", "for", "the", "following", "metrics", ":", "False", "negatives", ":", "#", "photons", "incorrectly", "excluded", "from", "the", "kNN", "set", ".", "Maximum", "distance", "dilation", ":", "the", "ratio", "of", "bounding", "radii", "around", "the", "neighbours", "reported", "by", "the", "two", "algorithms", ".", "Average", "distance", "dilation", ":", "the", "ratio", "of", "the", "average", "distances", "between", "the", "query", "point", "and", "each", "of", "the", "nearest", "neighbours", "reported", "by", "the", "two", "algorithms", ".", "To", "gauge", "visual", "accuracy", ",", "we", "calculate", "a", "Caustic", "RMS", "Error", "metric", ",", "which", "compares", "the", "screen", "space", "radiance", "difference", "between", "the", "caustic", "radiance", "values", "obtained", "from", "kd-tree", "and", "BH", ".", "A", "timing-related", "Time", "Ratio", "metric", "is", "calculated", "as", "a", "ratio", "of", "the", "time", "taken", "for", "a", "query", "into", "the", "BH", "data", "structure", "versus", "that", "for", "the", "kd-tree", "data", "structure", ".", "Obviously", ",", "as", "A", "increases", ",", "the", "time", "required", "for", "photon", "mapping", "using", "BH", "approaches", "that", "for", "a", "kd-tree", "based", "photon", "mapping", ".", "Our", "first", "test", "scene", ",", "shown", "in", "Figure", "11", ",", "with", "numerical", "results", "in", "Figure", "12", ",", "consists", "of", "a", "highly", "specular", "ring", "placed", "on", "top", "of", "a", "plane", "with", "a", "Modified", "Phong", "28", "reflectance", "model", ".", "This", "scene", "tests", "the", "ability", "of", "BH", "to", "handle", "a", "caustic", "of", "varying", "density", ",", "and", "a", "caustic", "that", "has", "been", "cast", "onto", "a", "non-Lambertian", "surface", ".", "Figure", "13", "shows", "a", "second", "scene", "consisting", "of", "the", "Venus", "bust", ",", "with", "a", "highly", "specular", "ring", "placed", "around", "the", "neck", "of", "Venus", ".", "Figure", "14", "shows", "the", "numerical", "statistics", "of", "this", "test", "scene", ".", "The", "ring", "casts", "a", "cardioid", "caustic", "onto", "the", "-LRB-", "non-planar", "-RRB-", "chest", "of", "the", "Venus", ".", "This", "scene", "demonstrates", "a", "caustic", "on", "a", "highly", "tessellated", "curved", "surface", ".", "Global", "illumination", "is", "also", "used", "for", "both", "scenes", ",", "however", "the", "times", "given", "are", "only", "for", "the", "query", "time", "of", "the", "caustic", "maps", ".", "The", "general", "trend", "to", "notice", "is", "that", "for", "extremely", "low", "accuracy", "-LRB-", "A", "-RRB-", "settings", "the", "visual", "and", "algorithmic", "performance", "of", "BH", "is", "not", "very", "good", ".", "The", "candidate", "set", "is", "simply", "not", "large", "enough", "in", "these", "cases", ".", "However", ",", "as", "A", "increases", ",", "these", "performance", "indicators", "drop", "to", "acceptable", "levels", "very", "quickly", ",", "especially", "between", "values", "of", "A", "between", "2", "and", "8", ".", "After", "A", "=", "8", "diminishing", "returns", "set", "in", ",", "and", "the", "increase", "in", "accuracy", "incurs", "a", "significant", "increase", "in", "the", "cost", "of", "the", "query", "time", "required", ".", "This", "numerical", "error", "comparison", "is", "parallelled", "by", "the", "c", "The", "Eurographics", "Association", "2002", ".", "95", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "-LRB-", "a", "-RRB-", "kd-tree", "-LRB-", "b", "-RRB-", "BH", ",", "A", "=", "4", "-LRB-", "c", "-RRB-", "BH", ",", "A", "=", "16", "-LRB-", "d", "-RRB-", "BH", ",", "A", "=", "8", "Figure", "11", ":", "``", "Ring", "''", "image", "0", "0.2", "0.4", "0.6", "0.8", "1", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "Accuracy", "Setting", "-LRB-", "A", "-RRB-", "False-Average", "#errors", "1", "1.1", "1.2", "1.3", "1.4", "1.5", "1.6", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "Accuracy", "Setting", "-LRB-", "A", "-RRB-", "Max", "Radius", "Dilation", "Avg", "Radius", "Dilation", "Dilation", "Ratio", "0", "0.005", "0.01", "0.015", "0.02", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "Accuracy", "Setting", "-LRB-", "A", "-RRB-", "RMS", "error", "Radiance", "RMS", "Error", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "1.4", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "Accuracy", "Setting", "-LRB-", "A", "-RRB-", "Timing", "Ratio", "Time", "Ratio", "Figure", "12", ":", "``", "Ring", "''", "numerical", "statistics", "visual", "comparison", "of", "the", "images", ":", "the", "image", "rendered", "with", "A", "=", "8", "and", "A", "=", "16", "are", "virtually", "indistinguishable", ".", "These", "results", "suggest", "that", "intermediate", "values", "of", "A", ",", "between", "8", "to", "10", ",", "should", "be", "used", "as", "a", "good", "compromise", "between", "query", "speed", "and", "solution", "accuracy", ".", "It", "is", "apparent", "from", "the", "query", "time", "ratio", "plots", "that", "there", "exists", "a", "close-to-linear", "relationship", "between", "values", "of", "A", "and", "time", "required", "for", "a", "query", "into", "BH", ".", "This", "is", "consistent", "with", "the", "design", "of", "the", "A", "parameter", ";", "it", "corresponds", "directly", "to", "the", "number", "of", "photons", "accessed", "and", "processed", "for", "each", "query", ".", "Another", "important", "observation", "that", "can", "be", "made", "from", "the", "visual", "comparisons", "is", "that", "images", "with", "greater", "approximation", "value", "A", "look", "darker", ".", "This", "is", "because", "the", "density", "estimate", "is", "based", "on", "the", "inverse", "square", "of", "the", "radius", "of", "the", "sphere", "enclosing", "the", "k", "nearest", "neighbours", ".", "The", "approximate", "radius", "is", "always", "larger", "than", "the", "true", "radius", ".", "This", "is", "an", "inherent", "problem", "with", "any", "approximate", "solution", "to", "the", "kNN", "problem", ",", "and", "indeed", "even", "with", "the", "exact", "kNN", "density", "estimator", ":", "as", "k", "goes", "-LRB-", "a", "-RRB-", "kd-tree", "-LRB-", "b", "-RRB-", "BH", ",", "A", "=", "16", "-LRB-", "c", "-RRB-", "BH", ",", "A", "=", "8", "-LRB-", "d", "-RRB-", "BH", ",", "A", "=", "4", "Figure", "13", ":", "``", "Venus", "with", "Ring", "''", "images", "0", "0.5", "1", "1.5", "2", "2.5", "3", "3.5", "4", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "Accuracy", "Setting", "-LRB-", "A", "-RRB-", "False-Average", "#errors", "1", "1.02", "1.04", "1.06", "1.08", "1.1", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "Accuracy", "Setting", "-LRB-", "A", "-RRB-", "Max", "Radius", "Dilation", "Avg", "Radius", "Dilation", "Dilation", "Ratio", "0", "0.01", "0.02", "0.03", "0.04", "0.05", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "Accuracy", "Setting", "-LRB-", "A", "-RRB-", "RMS", "error", "Radiance", "RMS", "Error", "0", "0.2", "0.4", "0.6", "0.8", "1", "1.2", "0", "2", "4", "6", "8", "10", "12", "14", "16", "18", "20", "Accuracy", "Setting", "-LRB-", "A", "-RRB-", "Timing", "Ratio", "Time", "Ratio", "Figure", "14", ":", "``", "Venus", "with", "Ring", "''", "numerical", "statistics", "to", "infinity", ",", "the", "kNN", "density", "estimator", "does", "converge", "on", "the", "true", "density", ",", "but", "always", "from", "below", ".", "There", "are", "two", "ways", "to", "approach", "a", "hardware", "implementation", "of", "an", "algorithm", "in", "a", "hardware", "accelerator", ":", "with", "a", "custom", "hardware", "implementation", ",", "or", "as", "an", "extension", "or", "exploitation", "of", "current", "hardware", "support", ".", "While", "there", "would", "be", "certain", "advantages", "in", "a", "full", "custom", "hardware", "implementation", "of", "BH", ",", "this", "would", "probably", "lead", "to", "a", "large", "chunk", "of", "hardware", "with", "low", "utilisation", "rates", ".", "Although", "there", "are", "many", "potential", "applications", "of", "AkNN", "search", "beyond", "photon", "mapping", "-LRB-", "we", "list", "several", "in", "the", "conclusions", "-RRB-", ",", "it", "seems", "more", "reasonable", "to", "consider", "first", "if", "BH", "can", "be", "implemented", "using", "current", "hardware", "and", "programmable", "shader", "features", ",", "and", "if", "not", ",", "what", "the", "smallest", "incremental", "changes", "would", "be", ".", "We", "have", "concluded", "that", "BH", ",", "while", "not", "quite", "implementable", "on", "today", "'s", "graphics", "hardware", ",", "should", "be", "implementable", "in", "the", "near", "future", ".", "We", "consider", "only", "the", "lookup", "phase", "here", ",", "since", "the", "preprocessing", "would", "indeed", "require", "some", "custom", "hardware", "support", ",", "but", "support", "which", "perhaps", "could", "be", "shared", "with", "other", "useful", "features", ".", "In", "the", "lookup", "phase", ",", "-LRB-", "1", "-RRB-", "we", "compute", "hash", "c", "The", "Eurographics", "Association", "2002", ".", "96", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "keys", ",", "-LRB-", "2", "-RRB-", "look", "up", "buckets", "in", "multiple", "hash", "tables", ",", "-LRB-", "3", "-RRB-", "merge", "and", "remove", "duplicates", "from", "the", "list", "of", "retrieved", "blocks", "and", "optionally", "sorting", "by", "priority", ",", "-LRB-", "4", "-RRB-", "retrieve", "the", "photon", "records", "stored", "in", "these", "blocks", ",", "and", "-LRB-", "5", "-RRB-", "process", "the", "photons", ".", "Steps", "-LRB-", "1", "-RRB-", "and", "-LRB-", "5", "-RRB-", "could", "be", "performed", "with", "current", "shader", "capabilities", ",", "although", "the", "ability", "to", "loop", "would", "be", "useful", "for", "the", "last", "step", "to", "avoid", "replicating", "the", "code", "to", "process", "each", "photon", ".", "Computing", "the", "hash", "function", "amounts", "to", "doing", "a", "number", "of", "comparisons", ",", "then", "adding", "up", "the", "zero-one", "results", ".", "This", "can", "be", "done", "in", "linear", "time", "with", "a", "relatively", "small", "number", "of", "instructions", "using", "the", "proposed", "DX9", "fragment", "shader", "instruction", "set", ".", "If", "conditional", "assignment", "and", "array", "lookups", "into", "the", "register", "file", "are", "supported", ",", "this", "could", "be", "done", "in", "logarithmic", "time", "using", "binary", "search", ".", "Steps", "-LRB-", "2", "-RRB-", "and", "-LRB-", "4", "-RRB-", "amount", "to", "table", "lookups", "and", "can", "be", "implemented", "as", "nearest-neighbour", "texture-mapping", "operations", "with", "suitable", "encoding", "of", "the", "data", ".", "For", "instance", ",", "the", "hash", "tables", "might", "be", "supported", "with", "one", "texture", "map", "giving", "the", "priority", "and", "number", "of", "valid", "entries", "in", "the", "bucket", ",", "while", "another", "texture", "map", "or", "set", "of", "texture", "maps", "might", "give", "the", "block", "references", ",", "represented", "by", "texture", "coordinates", "pointing", "into", "another", "set", "of", "texture", "maps", "holding", "the", "photon", "records", ".", "Step", "-LRB-", "3", "-RRB-", "is", "difficult", "to", "do", "efficiently", "without", "true", "conditionals", "and", "conditional", "looping", ".", "Sorting", "is", "not", "the", "problem", ",", "as", "it", "could", "be", "done", "with", "conditional", "assignment", ".", "The", "problem", "is", "that", "removal", "of", "a", "duplicate", "block", "reduces", "the", "number", "of", "blocks", "in", "the", "candidate", "set", ".", "We", "would", "like", "in", "this", "case", "to", "avoid", "making", "redundant", "photon", "lookups", "and", "executing", "the", "instructions", "to", "process", "them", ".", "Without", "true", "conditionals", ",", "an", "inefficient", "work-around", "is", "to", "make", "these", "redundant", "texture", "accesses", "and", "process", "the", "redundant", "photons", "anyhow", ",", "but", "discard", "their", "contribution", "by", "multiplying", "them", "by", "zero", ".", "We", "have", "not", "yet", "attempted", "an", "implementation", "of", "BH", "on", "an", "actual", "accelerator", ".", "Without", "looping", ",", "current", "accelerators", "do", "not", "permit", "nearly", "enough", "instructions", "in", "shaders", "to", "process", "k", "photons", "for", "adequate", "density", "estimation", ".", "However", ",", "we", "feel", "that", "it", "might", "be", "feasible", "to", "implement", "our", "algorithm", "on", "a", "next-generation", "shader", "unit", "using", "the", "``", "multiply", "redundant", "photons", "by", "zero", "''", "approach", ",", "if", "looping", "-LRB-", "a", "constant", "number", "of", "times", "-RRB-", "were", "supported", "at", "the", "fragment", "level", ".", "We", "expect", "that", "the", "generation", "that", "follows", "DX9-class", "accelerators", "will", "probably", "have", "true", "conditional", "execution", "and", "looping", ",", "in", "which", "case", "implementation", "of", "BH", "will", "be", "both", "straightforward", "and", "efficient", ",", "and", "will", "not", "require", "any", "additional", "hardware", "or", "special", "shader", "instructions", ".", "It", "will", "also", "only", "require", "two", "stages", "of", "conditional", "texture", "lookup", ",", "and", "lookups", "in", "each", "stage", "can", "be", "performed", "in", "parallel", ".", "In", "comparison", ",", "it", "would", "be", "nearly", "impossible", "to", "implement", "a", "tree-based", "search", "algorithm", "on", "said", "hardware", "due", "to", "the", "lack", "of", "a", "stack", "and", "the", "large", "number", "of", "dependent", "lookups", "that", "would", "be", "required", ".", "With", "a", "sufficiently", "powerful", "shading", "unit", ",", "of", "course", ",", "we", "could", "implement", "any", "algorithm", "we", "wanted", ",", "but", "BH", "makes", "fewer", "demands", "than", "a", "tree-based", "algorithm", "does", ".", "We", "have", "presented", "an", "efficient", ",", "scalable", ",", "coherent", "and", "highly", "parallelisable", "AkNN", "scheme", "suitable", "for", "the", "high-performance", "implementation", "of", "photon", "mapping", ".", "The", "coherent", "memory", "access", "patterns", "of", "BH", "lead", "to", "im-proved", "performance", "even", "for", "a", "software", "implementation", ".", "However", ",", "in", "the", "near", "future", "we", "plan", "to", "implement", "the", "lookup", "phase", "of", "BH", "on", "an", "accelerator", ".", "Accelerator", "capabilities", "are", "not", "quite", "to", "the", "point", "where", "they", "can", "support", "this", "algorithm", ",", "but", "they", "are", "very", "close", ".", "What", "is", "missing", "is", "some", "form", "of", "true", "run-time", "conditional", "execution", "and", "looping", ",", "as", "well", "as", "greater", "capacity", "in", "terms", "of", "numbers", "of", "instructions", ".", "However", ",", "unlike", "tree-based", "algorithms", ",", "block", "hashing", "requires", "only", "bounded", "execution", "time", "and", "memory", ".", "An", "accelerator-based", "implementation", "would", "be", "most", "interesting", "if", "it", "is", "done", "in", "a", "way", "that", "permits", "other", "applications", "to", "make", "use", "of", "the", "fast", "AkNN", "capability", "it", "would", "provide", ".", "AkNN", "has", "many", "potential", "applications", "in", "graphics", "beyond", "photon", "maps", ".", "For", "rendering", ",", "it", "could", "also", "be", "used", "for", "sparse", "data", "interpolation", "-LRB-", "with", "many", "applications", ":", "visualisation", "of", "sparse", "volume", "data", ",", "BRDF", "and", "irradiance", "volume", "representation", ",", "and", "other", "sampled", "functions", "-RRB-", ",", "sparse", "and", "multi-resolution", "textures", ",", "procedural", "texture", "generation", "-LRB-", "specifically", ",", "Worley", "'s", "texture", "47", "functions", "-RRB-", ",", "direct", "ray-tracing", "of", "point-based", "objects", "40", ",", "and", "gap-filling", "in", "forward", "projection", "point-based", "rendering", "48", ".", "AkNN", "could", "also", "potentially", "be", "used", "for", "non-rendering", "purposes", ":", "collision", "detection", ",", "surface", "reconstruction", ",", "and", "physical", "simulation", "-LRB-", "for", "interacting", "particle", "systems", "-RRB-", ".", "Unlike", "the", "case", "with", "tree-based", "algorithms", ",", "we", "feel", "that", "it", "will", "be", "feasible", "to", "implement", "BH", "as", "a", "shader", "subroutine", "in", "the", "near", "future", ",", "which", "may", "make", "it", "a", "key", "component", "in", "many", "potential", "applications", "of", "advanced", "programmable", "graphics", "accelerators", ".", "For", "a", "more", "detailed", "description", "of", "the", "block", "hashing", "algorithm", ",", "please", "refer", "to", "the", "author", "'s", "technical", "report", "32", ".", "This", "research", "was", "funded", "by", "grants", "from", "the", "National", "Science", "and", "Engineering", "Research", "Council", "of", "Canada", "-LRB-", "NSERC", "-RRB-", ",", "the", "Centre", "for", "Information", "Technology", "of", "Ontario", "-LRB-", "CITO", "-RRB-", ",", "the", "Canadian", "Foundation", "for", "Innovation", "-LRB-", "CFI", "-RRB-", ",", "the", "Ontario", "Innovation", "Trust", "-LRB-", "OIT", "-RRB-", ",", "and", "the", "Bell", "University", "Labs", "initiative", ".", "1", ".", "P.", "K.", "Agarwal", ".", "Range", "Searching", ".", "In", "J.", "E.", "Goodman", "and", "J.", "O'Rourke", ",", "editors", ",", "Handbook", "of", "Discrete", "and", "Computational", "Geometry", ".", "CRC", "Press", ",", "July", "1997", ".", "2", "2", ".", "P.", "K.", "Agarwal", "and", "J.", "Erickson", ".", "Geometric", "range", "searching", "and", "its", "relatives", ".", "Advances", "in", "Discrete", "and", "Computational", "Geometry", ",", "23:1", "56", ",", "1999", ".", "2", "c", "The", "Eurographics", "Association", "2002", ".", "97", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "3", ".", "S.", "Arya", "and", "D.", "M.", "Mount", ".", "Approximate", "Nearest", "Neighbor", "Queries", "in", "Fixed", "Dimensions", ".", "In", "Proc", ".", "ACM-SIAM", "SODA", ",", "1993", ".", "2", "4", ".", "S.", "Arya", ",", "D.", "M.", "Mount", ",", "N.", "S.", "Netanyahu", ",", "R.", "Silverman", ",", "and", "A.", "Y.", "Wu", ".", "An", "Optimal", "Algorithm", "for", "Approximate", "Nearest", "Neighbor", "Searching", ".", "In", "Proc", ".", "ACM-SIAM", "SODA", ",", "pages", "573", "582", ",", "1994", ".", "2", "5", ".", "J.", "L.", "Bentley", ".", "Multidimensional", "binary", "search", "trees", "used", "for", "associative", "searching", ".", "Communications", "of", "the", "ACM", ",", "18", "-LRB-", "9", "-RRB-", ",", "September", "1975", ".", "1", ",", "2", "6", ".", "J.", "L.", "Bentley", ",", "B.", "W.", "Weide", ",", "and", "A.", "C.", "Chow", ".", "Optimal", "Expected-Time", "Algorithms", "for", "Closest", "Point", "Problems", ".", "ACM", "TOMS", ",", "6", "-LRB-", "4", "-RRB-", ",", "December", "1980", ".", "1", ",", "2", "7", ".", "Per", "H.", "Christensen", ".", "Faster", "Photon", "Map", "Global", "Illumination", ".", "Journal", "of", "Graphics", "Tools", ",", "4", "-LRB-", "3", "-RRB-", ":", "1", "10", ",", "1999", ".", "2", "8", ".", "D.", "Comer", ".", "The", "Ubiquitous", "B-Tree", ".", "ACM", "Computing", "Surveys", ",", "11", "-LRB-", "2", "-RRB-", ":", "121", "137", ",", "June", "1979", ".", "4", "9", ".", "C.", "A.", "Duncan", ",", "M.", "T.", "Goodrich", ",", "and", "S.", "G.", "Kobourov", ".", "Balanced", "aspect", "ratio", "trees", ":", "Combining", "the", "advantages", "of", "k-d", "trees", "and", "octrees", ".", "In", "Proc", ".", "ACM-SIAM", "SODA", ",", "volume", "10", ",", "pages", "300", "309", ",", "1999", ".", "2", "10", ".", "H.", "Edelsbrunner", ".", "Algorithms", "in", "Combinatorial", "Geometry", ".", "Springer-Verlag", ",", "1987", ".", "2", "11", ".", "D.", "Eppstein", ",", "M.", "S.", "Paterson", ",", "and", "F.", "F.", "Yao", ".", "On", "nearest", "neighbor", "graphs", ".", "Discrete", "&", "Computational", "Geometry", ",", "17", "-LRB-", "3", "-RRB-", ":", "263", "282", ",", "April", "1997", ".", "2", "12", ".", "C.", "Faloutsos", "and", "Y.", "Rong", ".", "DOT", ":", "A", "Spatial", "Access", "Method", "Using", "Fractals", ".", "In", "Proc", ".", "7th", "Int", ".", "Conf", ".", "on", "Data", "Engineering", ",", ",", "pages", "152", "159", ",", "Kobe", ",", "Japan", ",", "1991", ".", "4", "13", ".", "C.", "Faloutsos", "and", "S.", "Roseman", ".", "Fractals", "for", "Secondary", "Key", "Retrieval", ".", "In", "Proc", ".", "8th", "ACM", "PODS", ",", "pages", "247", "252", ",", "Philadelphia", ",", "PA", ",", "1989", ".", "4", "14", ".", "J.", "H.", "Freidman", ",", "J.", "L.", "Bentley", ",", "and", "R.", "A.", "Finkel", ".", "An", "Algorithm", "for", "Finding", "Best", "Matches", "in", "Logarithmic", "Expected", "Time", ".", "ACM", "TOMS", ",", "3", "-LRB-", "3", "-RRB-", ":", "209", "226", ",", "1977", ".", "2", "15", ".", "V.", "Gaede", "and", "O.", "G", "nther", ".", "Multidimensional", "access", "methods", ".", "ACM", "Computing", "Surveys", "-LRB-", "CSUR", "-RRB-", ",", "30", "-LRB-", "2", "-RRB-", ":", "170", "231", ",", "1998", ".", "2", "16", ".", "A.", "Gionis", ",", "P.", "Indyk", ",", "and", "R.", "Motwani", ".", "Similarity", "Search", "in", "High", "Dimensions", "via", "Hashing", ".", "In", "Proc", ".", "VLDB", ",", "pages", "518", "529", ",", "1999", ".", "2", ",", "3", "17", ".", "J.", "E.", "Goodman", "and", "J.", "O'Rourke", ",", "editors", ".", "Handbook", "of", "Discrete", "and", "Computational", "Geometry", ".", "CRC", "Press", ",", "July", "1997", ".", "ISBN", ":", "0849385245", ".", "2", "18", ".", "G.", "Greger", ",", "P.", "Shirley", ",", "P.", "Hubbard", ",", "and", "D.", "Greenberg", ".", "The", "irradiance", "volume", ".", "IEEE", "CG&A", ",", "18", "-LRB-", "2", "-RRB-", ":", "32", "43", ",", "1998", ".", "1", "19", ".", "V.", "Havran", ".", "Analysis", "of", "Cache", "Sensitive", "Representation", "for", "Binary", "Space", "Partitioning", "Trees", ".", "Informatica", ",", "23", "-LRB-", "3", "-RRB-", ":", "203", "210", ",", "May", "2000", ".", "2", "20", ".", "P.", "Indyk", "and", "R.", "Motwani", ".", "Approximate", "Nearest", "Neighbors", ":", "Towards", "Removing", "the", "Curse", "of", "Dimensionality", ".", "In", "Proc", ".", "ACM", "STOC", ",", "pages", "604", "613", ",", "1998", ".", "2", "21", ".", "P.", "Indyk", ",", "R.", "Motwani", ",", "P.", "Raghavan", ",", "and", "S.", "Vem-pala", ".", "Locality-Preserving", "Hashing", "in", "Multidimensional", "Spaces", ".", "In", "Proc", ".", "ACM", "STOC", ",", "pages", "618", "625", ",", "1997", ".", "2", "22", ".", "H.", "V.", "Jagadish", ".", "Linear", "clustering", "of", "objects", "with", "multiple", "attributes", ".", "In", "Proc", ".", "Acm-sigmod", ",", "pages", "332", "342", ",", "May", "1990", ".", "4", "23", ".", "J.", "W.", "Jaromczyk", "and", "G.", "T.", "Toussaint", ".", "Relative", "Neighborhood", "Graphs", "and", "Their", "Relatives", ".", "Proc", ".", "IEEE", ",", "80", "-LRB-", "9", "-RRB-", ":", "1502", "1517", ",", "September", "1992", ".", "2", "24", ".", "H.", "W.", "Jensen", ".", "Rendering", "Caustics", "on", "Non-Lambertian", "Surfaces", ".", "Computer", "Graphics", "Forum", ",", "16", "-LRB-", "1", "-RRB-", ":", "57", "64", ",", "1997", ".", "ISSN", "0167-7055", ".", "1", "25", ".", "H.", "W.", "Jensen", ".", "Realistic", "Image", "Synthesis", "Using", "Photon", "Mapping", ".", "A.K.", "Peters", ",", "2001", ".", "1", ",", "2", ",", "4", "26", ".", "H.", "W.", "Jensen", ",", "F.", "Suykens", ",", "and", "P.", "H.", "Christensen", ".", "A", "Practical", "Guide", "to", "Global", "Illumination", "using", "Photon", "Mapping", ".", "In", "SIGGRAPH", "2001", "Course", "Notes", ",", "number", "38", ".", "ACM", ",", "August", "2001", ".", "2", "27", ".", "J.", "K.", "P.", "Kuan", "and", "P.", "H.", "Lewis", ".", "Fast", "k", "Nearest", "Neighbour", "Search", "for", "R-tree", "Family", ".", "In", "Proc", ".", "of", "First", "Int", ".", "Conf", ".", "on", "Information", ",", "Communication", "and", "Signal", "Processing", ",", "pages", "924", "928", ",", "Singapore", ",", "1997", ".", "2", "28", ".", "E.", "P.", "Lafortune", "and", "Y.", "D.", "Willems", ".", "Using", "the", "Modified", "Phong", "BRDF", "for", "Physically", "Based", "Rendering", ".", "Technical", "Report", "CW197", ",", "Department", "of", "Computer", "Science", ",", "K.U.Leuven", ",", "November", "1994", ".", "7", "29", ".", "C.", "E.", "Leiserson", ",", "R.", "L.", "Rivest", ",", "and", "C.", "Stein", ".", "Introduction", "to", "Algorithms", ".", "MIT", "Press", ",", "2001", ".", "6", "30", ".", "K.-I", ".", "Lin", "and", "C.", "Yang", ".", "The", "ANN-Tree", ":", "An", "Index", "for", "Efficient", "Approximate", "Nearest-Neighbour", "Search", ".", "In", "Conf", ".", "on", "Database", "Systems", "for", "Advanced", "Applications", ",", "2001", ".", "2", "31", ".", "N.", "Linial", "and", "O.", "Sasson", ".", "Non-Expansive", "Hashing", ".", "In", "Proc", ".", "acm", "stoc", ",", "pages", "509", "518", ",", "1996", ".", "2", "32", ".", "V.", "Ma", ".", "Low", "Latency", "Photon", "Mapping", "using", "Block", "Hashing", ".", "Technical", "Report", "CS-2002-15", ",", "School", "of", "Computer", "Science", ",", "University", "of", "Waterloo", ",", "2002", ".", "9", "33", ".", "J.", "McNames", ".", "A", "Fast", "Nearest-Neighbor", "Algorithm", "Based", "on", "a", "Principal", "Axis", "Search", "Tree", ".", "IEEE", "Transactions", "on", "Pattern", "Analysis", "and", "Machine", "Intelligence", ",", "23", "-LRB-", "9", "-RRB-", ":", "964", "976", ",", "2001", ".", "2", "34", ".", "J.", "Nievergelt", ",", "H.", "Hinterberger", ",", "and", "K.", "C.", "Sevcik", ".", "The", "Grid", "File", ":", "an", "adaptable", ",", "symmetric", "multikey", "file", "structure", ".", "ACM", "TODS", ",", "9", "-LRB-", "1", "-RRB-", ":", "38", "71", ",", "March", "1984", ".", "3", ",", "5", "35", ".", "T.", "J.", "Purcell", ",", "I.", "Buck", ",", "W.", "R.", "Mark", ",", "and", "P.", "Hanrahan", ".", "Ray", "Tracing", "on", "Programmable", "Graphics", "Hardware", ".", "In", "to", "appear", "in", "Proc", ".", "SIGGRAPH", ",", "2002", ".", "1", "36", ".", "J.", "T.", "Robinson", ".", "The", "K-D-B-tree", ":", "A", "Search", "Structure", "for", "Large", "Multidimensional", "Dynamic", "Indexes", ".", "In", "Proc", ".", "acm", "sigmod", ",", "pages", "10", "18", ",", "1981", ".", "2", "37", ".", "Arnold", "L.", "Rosenberg", "and", "Lawrence", "Snyder", ".", "Time", "-", "and", "space-optimality", "in", "b-trees", ".", "ACM", "TODS", ",", "6", "-LRB-", "1", "-RRB-", ":", "174", "193", ",", "1981", ".", "4", "38", ".", "K.", "Salem", "and", "H.", "Garcia-Molina", ".", "Disk", "striping", ".", "In", "IEEE", "ICDE", ",", "pages", "336", "342", ",", "1986", ".", "5", "c", "The", "Eurographics", "Association", "2002", ".", "98", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "39", ".", "N.", "Sample", ",", "M.", "Haines", ",", "M.", "Arnold", ",", "and", "T.", "Purcell", ".", "Optimizing", "Search", "Strategies", "in", "kd-Trees", ".", "May", "2001", ".", "2", "40", ".", "G.", "Schaufler", "and", "H.", "W.", "Jensen", ".", "Ray", "Tracing", "Point", "Sampled", "Geometry", ".", "Rendering", "Techniques", "2000", ",", "pages", "319", "328", ",", "June", "2000", ".", "9", "41", ".", "J.", "Schmittler", ",", "I.", "Wald", ",", "and", "P.", "Slusallek", ".", "SaarCOR", "-", "A", "Hardware", "Architecture", "for", "Ray", "Tracing", ".", "In", "to", "appear", "at", "EUROGRAPHICS", "Graphics", "Hardware", ",", "2002", ".", "1", "42", ".", "M.", "Smid", ".", "Closest-Point", "Problems", "in", "Computational", "Geometry", ".", "In", "J.", "R.", "Sack", "and", "J.", "Urrutia", ",", "editors", ",", "Handbook", "on", "Computational", "Geometry", ".", "Elsevier", "Science", ",", "Amsterdam", ",", "North", "Holland", ",", "2000", ".", "2", "43", ".", "P.", "Tsaparas", ".", "Nearest", "neighbor", "search", "in", "multidimen-sional", "spaces", ".", "Qualifying", "Depth", "Oral", "Report", "319-02", ",", "Dept.", "of", "Computer", "Science", ",", "University", "of", "Toronto", ",", "1999", ".", "2", "44", ".", "M.", "Vanco", ",", "G.", "Brunnett", ",", "and", "T.", "Schreiber", ".", "A", "Hashing", "Strategy", "for", "Efficient", "k-Nearest", "Neighbors", "Computation", ".", "In", "Computer", "Graphics", "International", ",", "pages", "120", "128", ".", "IEEE", ",", "June", "1999", ".", "2", "45", ".", "I.", "Wald", ",", "T.", "Kollig", ",", "C.", "Benthin", ",", "A.", "Keller", ",", "and", "P.", "Slusallek", ".", "Interactive", "global", "illumination", ".", "Technical", "report", ",", "Computer", "Graphics", "Group", ",", "Saarland", "University", ",", "2002", ".", "to", "be", "published", "at", "EUROGRAPHICS", "Workshop", "on", "Rendering", "2002", ".", "2", "46", ".", "G.", "Ward", ".", "Real", "Pixels", ".", "In", "James", "Arvo", ",", "editor", ",", "Graphics", "Gems", "II", ",", "pages", "80", "83", ".", "Academic", "Press", ",", "1991", ".", "4", "47", ".", "Steven", "Worley", ".", "A", "cellular", "texture", "basis", "function", ".", "In", "Proc", ".", "SIGGRAPH", "1996", ",", "pages", "291", "294", ".", "ACM", "Press", ",", "1996", ".", "9", "48", ".", "M.", "Zwicker", ",", "H.", "Pfister", ",", "J.", "van", "Baar", ",", "and", "M.", "Gross", ".", "Surface", "Splatting", ".", "Proc", ".", "SIGGRAPH", "2001", ",", "pages", "371", "378", ",", "2001", ".", "9", "c", "The", "Eurographics", "Association", "2002", ".", "99", "Ma", "and", "McCool", "/", "Low", "Latency", "Photon", "Mapping", "Using", "Block", "Hashing", "-LRB-", "a", "-RRB-", "kd-tree", "-LRB-", "b", "-RRB-", "BH", ",", "A", "=", "16", "-LRB-", "c", "-RRB-", "BH", ",", "A", "=", "8", "-LRB-", "d", "-RRB-", "BH", ",", "A", "=", "4", "Figure", "13", ":", "``", "Ring", "''", "-LRB-", "a", "-RRB-", "kd-tree", "-LRB-", "b", "-RRB-", "BH", ",", "A", "=", "16", "-LRB-", "c", "-RRB-", "BH", ",", "A", "=", "8", "-LRB-", "d", "-RRB-", "BH", ",", "A", "=", "4", "Figure", "14", ":", "``", "Venus", "with", "Ring", "''", "c", "The", "Eurographics", "Association", "2002", ".", "158" ]	[ "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
122	["Lazy","Preservation",":","Reconstructing","Websites","by","Crawling","the","Crawlers","Backup","of(...TRUNCATED)	["B","I","O","O","O","O","B","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O"(...TRUNCATED)
113	["Information","Revelation","and","Privacy","in","Online","Social","Networks","Participation","in","(...TRUNCATED)	["B","I","O","B","O","O","O","O","O","O","B","I","I","O","O","O","O","O","O","O","O","O","O","O","O"(...TRUNCATED)
112	["Categorizing","Web","Queries","According","to","Geographical","Locality","Web","pages","-LRB-","an(...TRUNCATED)	["O","B","I","O","O","B","I","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","B","I","O"(...TRUNCATED)
1	["2-Source","Dispersers","for","Sub-Polynomial","Entropy","and","Ramsey","Graphs","Beating","the","F(...TRUNCATED)	["O","B","O","O","B","O","B","I","O","O","O","O","O","O","O","O","O","O","O","O","O","B","O","O","B"(...TRUNCATED)
116	["Interactive","Machine","Learning","Perceptual","user","interfaces","-LRB-","PUIs","-RRB-","are","a(...TRUNCATED)	["O","B","I","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O"(...TRUNCATED)
106	["Improvements","of","TLAESA","Nearest","Neighbour","Search","Algorithm","and","Extension","to","App(...TRUNCATED)	["O","O","B","B","I","I","O","O","O","O","B","I","O","O","O","O","O","O","O","O","O","O","O","O","O"(...TRUNCATED)
110	["Indexing","Multi-Dimensional","Time-Series","with","Support","for","Multiple","Distance","Measures(...TRUNCATED)	["B","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","O","B","I"(...TRUNCATED)
10	["A","Frequency-based","and","a","Poisson-based","Definition","of","the","Probability","of","Being",(...TRUNCATED)	["O","O","O","O","O","O","O","O","B","I","I","I","O","O","O","O","O","O","O","O","B","O","O","O","B"(...TRUNCATED)

End of preview. Expand in Dataset Viewer.

YAML Metadata Warning: empty or missing yaml metadata in repo card (https://huggingface.co/docs/hub/datasets-cards)

Dataset Summary

A dataset for benchmarking keyphrase extraction and generation techniques from long document english scientific papers. For more details about the dataset please refer the original paper - https://www.comp.nus.edu.sg/~kanmy/papers/icadl2007.pdf Original source of the data -

Dataset Structure

Data Fields

id: unique identifier of the document.
document: Whitespace separated list of words in the document.
doc_bio_tags: BIO tags for each word in the document. B stands for the beginning of a keyphrase and I stands for inside the keyphrase. O stands for outside the keyphrase and represents the word that isn't a part of the keyphrase at all.
extractive_keyphrases: List of all the present keyphrases.
abstractive_keyphrase: List of all the absent keyphrases.

Data Splits

Split	#datapoints
Test	211

Percentage of keyphrases that are named entities: 67.95% (named entities detected using scispacy - en-core-sci-lg model)
Percentage of keyphrases that are noun phrases: 82.16% (noun phrases detected using spacy en-core-web-lg after removing determiners)

Usage

Full Dataset

from datasets import load_dataset

# get entire dataset
dataset = load_dataset("midas/nus", "raw")

# sample from the test split
print("Sample from test dataset split")
test_sample = dataset["test"][0]
print("Fields in the sample: ", [key for key in test_sample.keys()])
print("Tokenized Document: ", test_sample["document"])
print("Document BIO Tags: ", test_sample["doc_bio_tags"])
print("Extractive/present Keyphrases: ", test_sample["extractive_keyphrases"])
print("Abstractive/absent Keyphrases: ", test_sample["abstractive_keyphrases"])
print("\n-----------\n")

Output

Sample from test data split
Fields in the sample:  ['id', 'document', 'doc_bio_tags', 'extractive_keyphrases', 'abstractive_keyphrases', 'other_metadata']
Tokenized Document:  ['Learning', 'Spatially', 'Variant', 'Dissimilarity', '-LRB-', 'Svad', '-RRB-', 'Measures', 'Clustering', 'algorithms', 'typically', 'operate', 'on', 'a', 'feature', 'vector', 'representation', 'of', 'the', 'data', 'and', 'find', 'clusters', 'that', 'are', 'compact', 'with', 'respect', 'to', 'an', 'assumed', '-LRB-', 'dis', '-RRB-', 'similarity', 'measure', 'between', 'the', 'data', 'points', 'in', 'feature', 'space', '.', 'This', 'makes', 'the', 'type', 'of', 'clusters', 'identified', 'highly', 'dependent', 'on', 'the', 'assumed', 'similarity', 'measure', '.', 'Building', 'on', 'recent', 'work', 'in', 'this', 'area', ',', 'we', 'formally', 'define', 'a', 'class', 'of', 'spatially', 'varying', 'dissimilarity', 'measures', 'and', 'propose', 'algorithms', 'to', 'learn', 'the', 'dissimilarity', 'measure', 'automatically', 'from', 'the', 'data', '.', 'The', 'idea', 'is', 'to', 'identify', 'clusters', 'that', 'are', 'compact', 'with', 'respect', 'to', 'the', 'unknown', 'spatially', 'varying', 'dissimilarity', 'measure', '.', 'Our', 'experiments', 'show', 'that', 'the', 'proposed', 'algorithms', 'are', 'more', 'stable', 'and', 'achieve', 'better', 'accuracy', 'on', 'various', 'textual', 'data', 'sets', 'when', 'compared', 'with', 'similar', 'algorithms', 'proposed', 'in', 'the', 'literature', '.', 'H.', '2.8', '-LSB-', 'Database', 'Management', '-RSB-', ':', 'Database', 'Applications-Data', 'Mining', 'Algorithms', 'Clustering', 'plays', 'a', 'major', 'role', 'in', 'data', 'mining', 'as', 'a', 'tool', 'to', 'discover', 'structure', 'in', 'data', '.', 'Object', 'clustering', 'algorithms', 'operate', 'on', 'a', 'feature', 'vector', 'representation', 'of', 'the', 'data', 'and', 'find', 'clusters', 'that', 'are', 'compact', 'with', 'respect', 'to', 'an', 'assumed', '-LRB-', 'dis', '-RRB-', 'similarity', 'measure', 'between', 'the', 'data', 'points', 'in', 'feature', 'space', '.', 'As', 'a', 'consequence', ',', 'the', 'nature', 'of', 'clusters', 'identified', 'by', 'a', 'clustering', 'algorithm', 'is', 'highly', 'dependent', 'on', 'the', 'assumed', 'similarity', 'measure', '.', 'The', 'most', 'commonly', 'used', 'dissimilarity', 'measure', ',', 'namely', 'the', 'Euclidean', 'metric', ',', 'assumes', 'that', 'the', 'dissimilarity', 'measure', 'is', 'isotropic', 'and', 'spatially', 'invariant', ',', 'and', 'Permission', 'to', 'make', 'digital', 'or', 'hard', 'copies', 'of', 'all', 'or', 'part', 'of', 'this', 'work', 'for', 'personal', 'or', 'classroom', 'use', 'is', 'granted', 'without', 'fee', 'provided', 'that', 'copies', 'are', 'not', 'made', 'or', 'distributed', 'for', 'profit', 'or', 'commercial', 'advantage', 'and', 'that', 'copies', 'bear', 'this', 'notice', 'and', 'the', 'full', 'citation', 'on', 'the', 'first', 'page', '.', 'To', 'copy', 'otherwise', ',', 'to', 'republish', ',', 'to', 'post', 'on', 'servers', 'or', 'to', 'redistribute', 'to', 'lists', ',', 'requires', 'prior', 'specific', 'permission', 'and/or', 'a', 'fee', '.', 'KDD', "'", '04', ',', 'August', '22', '25', ',', '2004', ',', 'Seattle', ',', 'Washington', ',', 'USA', '.', 'Copyright', '2004', 'ACM', '1-58113-888-1', '/', '04/0008', '...', '$', '5.00', '.', 'it', 'is', 'effective', 'only', 'when', 'the', 'clusters', 'are', 'roughly', 'spherical', 'and', 'all', 'of', 'them', 'have', 'approximately', 'the', 'same', 'size', ',', 'which', 'is', 'rarely', 'the', 'case', 'in', 'practice', '-LSB-', '8', '-RSB-', '.', 'The', 'problem', 'of', 'finding', 'non-spherical', 'clusters', 'is', 'often', 'addressed', 'by', 'utilizing', 'a', 'feature', 'weighting', 'technique', '.', 'These', 'techniques', 'discover', 'a', 'single', 'set', 'of', 'weights', 'such', 'that', 'relevant', 'features', 'are', 'given', 'more', 'importance', 'than', 'irrelevant', 'features', '.', 'However', ',', 'in', 'practice', ',', 'each', 'cluster', 'may', 'have', 'a', 'different', 'set', 'of', 'relevant', 'features', '.', 'We', 'consider', 'Spatially', 'Varying', 'Dissimilarity', '-LRB-', 'SVaD', '-RRB-', 'measures', 'to', 'address', 'this', 'problem', '.', 'Diday', 'et', '.', 'al.', '-LSB-', '4', '-RSB-', 'proposed', 'the', 'adaptive', 'distance', 'dynamic', 'clusters', '-LRB-', 'ADDC', '-RRB-', 'algorithm', 'in', 'this', 'vain', '.', 'A', 'fuzzified', 'version', 'of', 'ADDC', ',', 'popularly', 'known', 'as', 'the', 'Gustafson-Kessel', '-LRB-', 'GK', '-RRB-', 'algorithm', '-LSB-', '7', '-RSB-', 'uses', 'a', 'dynamically', 'updated', 'covariance', 'matrix', 'so', 'that', 'each', 'cluster', 'can', 'have', 'its', 'own', 'norm', 'matrix', '.', 'These', 'algorithms', 'can', 'deal', 'with', 'hyperelliposoidal', 'clusters', 'of', 'various', 'sizes', 'and', 'orientations', '.', 'The', 'EM', 'algorithm', '-LSB-', '2', '-RSB-', 'with', 'Gaussian', 'probability', 'distributions', 'can', 'also', 'be', 'used', 'to', 'achieve', 'similar', 'results', '.', 'However', ',', 'the', 'above', 'algorithms', 'are', 'computationally', 'expensive', 'for', 'high-dimensional', 'data', 'since', 'they', 'invert', 'covariance', 'matrices', 'in', 'every', 'iteration', '.', 'Moreover', ',', 'matrix', 'inversion', 'can', 'be', 'unstable', 'when', 'the', 'data', 'is', 'sparse', 'in', 'relation', 'to', 'the', 'dimensionality', '.', 'One', 'possible', 'solution', 'to', 'the', 'problems', 'of', 'high', 'computation', 'and', 'instability', 'arising', 'out', 'of', 'using', 'covariance', 'matrices', 'is', 'to', 'force', 'the', 'matrices', 'to', 'be', 'diagonal', ',', 'which', 'amounts', 'to', 'weighting', 'each', 'feature', 'differently', 'in', 'different', 'clusters', '.', 'While', 'this', 'restricts', 'the', 'dissimilarity', 'measures', 'to', 'have', 'axis', 'parallel', 'isometry', ',', 'the', 'weights', 'also', 'provide', 'a', 'simple', 'interpretation', 'of', 'the', 'clusters', 'in', 'terms', 'of', 'relevant', 'features', ',', 'which', 'is', 'important', 'in', 'knowledge', 'discovery', '.', 'Examples', 'of', 'such', 'algorithms', 'are', 'SCAD', 'and', 'Fuzzy-SKWIC', '-LSB-', '5', ',', '6', '-RSB-', ',', 'which', 'perform', 'fuzzy', 'clustering', 'of', 'data', 'while', 'simultaneously', 'finding', 'feature', 'weights', 'in', 'individual', 'clusters', '.', 'In', 'this', 'paper', ',', 'we', 'generalize', 'the', 'idea', 'of', 'the', 'feature', 'weighting', 'approach', 'to', 'define', 'a', 'class', 'of', 'spatially', 'varying', 'dissimilarity', 'measures', 'and', 'propose', 'algorithms', 'that', 'learn', 'the', 'dissimilarity', 'measure', 'automatically', 'from', 'the', 'given', 'data', 'while', 'performing', 'the', 'clustering', '.', 'The', 'idea', 'is', 'to', 'identify', 'clusters', 'inherent', 'in', 'the', 'data', 'that', 'are', 'compact', 'with', 'respect', 'to', 'the', 'unknown', 'spatially', 'varying', 'dissimilarity', 'measure', '.', 'We', 'compare', 'the', 'proposed', 'algorithms', 'with', 'a', 'diagonal', 'version', 'of', 'GK', '-LRB-', 'DGK', '-RRB-', 'and', 'a', 'crisp', 'version', 'of', 'SCAD', '-LRB-', 'CSCAD', '-RRB-', 'on', 'a', 'variety', 'of', 'data', 'sets', '.', 'Our', 'algorithms', 'perform', 'better', 'than', 'DGK', 'and', 'CSCAD', ',', 'and', 'use', 'more', 'stable', 'update', 'equations', 'for', 'weights', 'than', 'CSCAD', '.', 'The', 'rest', 'of', 'the', 'paper', 'is', 'organized', 'as', 'follows', '.', 'In', 'the', 'next', 'section', ',', 'we', 'define', 'a', 'general', 'class', 'of', 'dissimilarity', 'measures', '611', 'Research', 'Track', 'Poster', 'and', 'formulate', 'two', 'objective', 'functions', 'based', 'on', 'them', '.', 'In', 'Section', '3', ',', 'we', 'derive', 'learning', 'algorithms', 'that', 'optimize', 'the', 'objective', 'functions', '.', 'We', 'present', 'an', 'experimental', 'study', 'of', 'the', 'proposed', 'algorithms', 'in', 'Section', '4', '.', 'We', 'compare', 'the', 'performance', 'of', 'the', 'proposed', 'algorithms', 'with', 'that', 'of', 'DGK', 'and', 'CSCAD', '.', 'These', 'two', 'algorithms', 'are', 'explained', 'in', 'Appendix', 'A.', 'Finally', ',', 'we', 'summarize', 'our', 'contributions', 'and', 'conclude', 'with', 'some', 'future', 'directions', 'in', 'Section', '5', '.', 'We', 'first', 'define', 'a', 'general', 'class', 'of', 'dissimilarity', 'measures', 'and', 'formulate', 'a', 'few', 'objective', 'functions', 'in', 'terms', 'of', 'the', 'given', 'data', 'set', '.', 'Optimization', 'of', 'the', 'objective', 'functions', 'would', 'result', 'in', 'learning', 'the', 'underlying', 'dissimilarity', 'measure', '.', '2.1', 'SVaD', 'Measures', 'In', 'the', 'following', 'definition', ',', 'we', 'generalize', 'the', 'concept', 'of', 'dissimilarity', 'measures', 'in', 'which', 'the', 'weights', 'associated', 'with', 'features', 'change', 'over', 'feature', 'space', '.', 'Definition', '2.1', 'We', 'define', 'the', 'measure', 'of', 'dissimilarity', 'of', 'x', 'from', 'y', '1', 'to', 'be', 'a', 'weighted', 'sum', 'of', 'M', 'dissimilarity', 'measures', 'between', 'x', 'and', 'y', 'where', 'the', 'values', 'of', 'the', 'weights', 'depend', 'on', 'the', 'region', 'from', 'which', 'the', 'dissimilarity', 'is', 'being', 'measured', '.', 'Let', 'P', '=', '-LCB-', 'R', '1', ',', '...', ',', 'R', 'K', '-RCB-', 'be', 'a', 'collection', 'of', 'K', 'regions', 'that', 'partition', 'the', 'feature', 'space', ',', 'and', 'w', '1', ',', 'w', '2', ',', '...', ',', 'and', 'w', 'K', 'be', 'the', 'weights', 'associated', 'with', 'R', '1', ',', 'R', '2', ',', '...', ',', 'and', 'R', 'K', ',', 'respectively', '.', 'Let', 'g', '1', ',', 'g', '2', ',', '...', ',', 'and', 'g', 'M', 'be', 'M', 'dissimilarity', 'measures', '.', 'Then', ',', 'each', 'w', 'j', ',', 'j', '=', '1', ',', '...', ',', 'K', ',', 'is', 'an', 'M', '-', 'dimensional', 'vector', 'where', 'its', 'l-th', 'component', ',', 'w', 'jl', 'is', 'associated', 'with', 'g', 'l', '.', 'Let', 'W', 'denote', 'the', 'K-tuple', '-LRB-', 'w', '1', ',', '...', ',', 'w', 'K', '-RRB-', 'and', 'let', 'r', 'be', 'a', 'real', 'number', '.', 'Then', ',', 'the', 'dissimilarity', 'of', 'x', 'from', 'y', 'is', 'given', 'by', ':', 'f', 'W', '-LRB-', 'x', ',', 'y', '-RRB-', '=', 'M', 'l', '=', '1', 'w', 'r', 'jl', 'g', 'l', '-LRB-', 'x', ',', 'y', '-RRB-', ',', 'if', 'y', 'R', 'j', '.', '-LRB-', '1', '-RRB-', 'We', 'refer', 'to', 'f', 'W', 'as', 'a', 'Spatially', 'Variant', 'Dissimilarity', '-LRB-', 'SVaD', '-RRB-', 'measure', '.', 'Note', 'that', 'f', 'W', 'need', 'not', 'be', 'symmetric', 'even', 'if', 'g', 'i', 'are', 'symmetric', '.', 'Hence', ',', 'f', 'W', 'is', 'not', 'a', 'metric', '.', 'Moreover', ',', 'the', 'behavior', 'of', 'f', 'W', 'depends', 'on', 'the', 'behavior', 'of', 'g', 'i', '.', 'There', 'are', 'many', 'ways', 'to', 'define', 'g', 'i', '.', 'We', 'list', 'two', 'instances', 'of', 'f', 'W', '.', 'Example', '2.1', '-LRB-', 'Minkowski', '-RRB-', 'Let', 'd', 'be', 'the', 'feature', 'space', 'and', 'M', '=', 'd.', 'Let', 'a', 'point', 'x', 'd', 'be', 'represented', 'as', '-LRB-', 'x', '1', ',', '...', ',', 'x', 'd', '-RRB-', '.', 'Then', ',', 'when', 'g', 'i', '-LRB-', 'x', ',', 'y', '-RRB-', '=', '|', 'x', 'i', '-', 'y', 'i', '|', 'p', 'for', 'i', '=', '1', ',', '...', ',', 'd', ',', 'and', 'p', '1', ',', 'the', 'resulting', 'SVaD', 'measure', ',', 'f', 'M', 'W', 'is', 'called', 'Minkowski', 'SVaD', '-LRB-', 'MSVaD', '-RRB-', 'measure', '.', 'That', 'is', ',', 'f', 'M', 'W', '-LRB-', 'x', ',', 'y', '-RRB-', '=', 'd', 'l', '=', '1', 'w', 'r', 'jl', '|', 'x', 'l', '-', 'y', 'l', '|', 'p', ',', 'if', 'y', 'R', 'j', '.', '-LRB-', '2', '-RRB-', 'One', 'may', 'note', 'that', 'when', 'w', '1', '=', '=', 'w', 'K', 'and', 'p', '=', '2', ',', 'f', 'M', 'W', 'is', 'the', 'weighted', 'Euclidean', 'distance', '.', 'When', 'p', '=', '2', ',', 'we', 'call', 'f', 'M', 'W', 'a', 'Euclidean', 'SVaD', '-LRB-', 'ESVaD', '-RRB-', 'measure', 'and', 'denote', 'it', 'by', 'f', 'E', 'W', '.', '1', 'We', 'use', 'the', 'phrase', '``', 'dissimilarity', 'of', 'x', 'from', 'y', "''", 'rather', 'than', '``', 'dissimilarity', 'between', 'x', 'and', 'y', "''", 'because', 'we', 'consider', 'a', 'general', 'situation', 'where', 'the', 'dissimilarity', 'measure', 'depends', 'on', 'the', 'location', 'of', 'y', '.', 'As', 'an', 'example', 'of', 'this', 'situation', 'in', 'text', 'mining', ',', 'when', 'the', 'dissimilarity', 'is', 'measured', 'from', 'a', 'document', 'on', '`', 'terrorism', "'", 'to', 'a', 'document', 'x', ',', 'a', 'particular', 'set', 'of', 'keywords', 'may', 'be', 'weighted', 'heavily', 'whereas', 'when', 'the', 'dissimilarity', 'is', 'measured', 'from', 'a', 'document', 'on', '`', 'football', "'", 'to', 'x', ',', 'a', 'different', 'set', 'of', 'keywords', 'may', 'be', 'weighted', 'heavily', '.', 'Example', '2.2', '-LRB-', 'Cosine', '-RRB-', 'Let', 'the', 'feature', 'space', 'be', 'the', 'set', 'of', 'points', 'with', 'l', '2', 'norm', 'equal', 'to', 'one', '.', 'That', 'is', ',', 'x', '2', '=', '1', 'for', 'all', 'points', 'x', 'in', 'feature', 'space', '.', 'Then', ',', 'when', 'g', 'l', '-LRB-', 'x', ',', 'y', '-RRB-', '=', '-LRB-', '1/d', '-', 'x', 'l', 'y', 'l', '-RRB-', 'for', 'l', '=', '1', ',', '...', ',', 'd', ',', 'the', 'resulting', 'SVaD', 'measure', 'f', 'C', 'W', 'is', 'called', 'a', 'Cosine', 'SVaD', '-LRB-', 'CSVaD', '-RRB-', 'measure', ':', 'f', 'C', 'W', '-LRB-', 'x', ',', 'y', '-RRB-', '=', 'd', 'i', '=', '1', 'w', 'r', 'jl', '-LRB-', '1/d', '-', 'x', 'l', 'y', 'l', '-RRB-', ',', 'if', 'y', 'R', 'j', '.', '-LRB-', '3', '-RRB-', 'In', 'the', 'formulation', 'of', 'the', 'objective', 'function', 'below', ',', 'we', 'use', 'a', 'set', 'of', 'parameters', 'to', 'represent', 'the', 'regions', 'R', '1', ',', 'R', '2', ',', '...', ',', 'and', 'R', 'K', '.', 'Let', 'c', '1', ',', 'c', '2', ',', '...', ',', 'and', 'c', 'K', 'be', 'K', 'points', 'in', 'feature', 'space', '.', 'Then', 'y', 'R', 'j', 'iff', 'f', 'W', '-LRB-', 'y', ',', 'c', 'j', '-RRB-', '<', 'f', 'W', '-LRB-', 'y', ',', 'c', 'i', '-RRB-', 'for', 'i', '=', 'j.', '-LRB-', '4', '-RRB-', 'In', 'the', 'case', 'of', 'ties', ',', 'y', 'is', 'assigned', 'to', 'the', 'region', 'with', 'the', 'lowest', 'index', '.', 'Thus', ',', 'the', 'K-tuple', 'of', 'points', 'C', '=', '-LRB-', 'c', '1', ',', 'c', '2', ',', '...', ',', 'c', 'K', '-RRB-', 'defines', 'a', 'partition', 'in', 'feature', 'space', '.', 'The', 'partition', 'induced', 'by', 'the', 'points', 'in', 'C', 'is', 'similar', 'in', 'nature', 'to', 'a', 'Voronoi', 'tessellation', '.', 'We', 'use', 'the', 'notation', 'f', 'W', ',', 'C', 'whenever', 'we', 'use', 'the', 'set', 'C', 'to', 'parameterize', 'the', 'regions', 'used', 'in', 'the', 'dissimilarity', 'measure', '.', '2.2', 'Objective', 'Function', 'for', 'Clustering', 'The', 'goal', 'of', 'the', 'present', 'work', 'is', 'to', 'identify', 'the', 'spatially', 'varying', 'dissimilarity', 'measure', 'and', 'the', 'associated', 'compact', 'clusters', 'simultaneously', '.', 'It', 'is', 'worth', 'mentioning', 'here', 'that', ',', 'as', 'in', 'the', 'case', 'of', 'any', 'clustering', 'algorithm', ',', 'the', 'underlying', 'assumption', 'in', 'this', 'paper', 'is', 'the', 'existence', 'of', 'such', 'a', 'dissimilarity', 'measure', 'and', 'clusters', 'for', 'a', 'given', 'data', 'set', '.', 'Let', 'x', '1', ',', 'x', '2', ',', '...', ',', 'and', 'x', 'n', 'be', 'n', 'given', 'data', 'points', '.', 'Let', 'K', 'be', 'a', 'given', 'positive', 'integer', '.', 'Assuming', 'that', 'C', 'represents', 'the', 'cluster', 'centers', ',', 'let', 'us', 'assign', 'each', 'data', 'point', 'x', 'i', 'to', 'a', 'cluster', 'R', 'j', 'with', 'the', 'closest', 'c', 'j', 'as', 'the', 'cluster', 'center', '2', ',', 'i.e.', ',', 'j', '=', 'arg', 'min', 'l', 'f', 'W', ',', 'C', '-LRB-', 'x', 'i', ',', 'c', 'l', '-RRB-', '.', '-LRB-', '5', '-RRB-', 'Then', ',', 'the', 'within-cluster', 'dissimilarity', 'is', 'given', 'by', 'J', '-LRB-', 'W', ',', 'C', '-RRB-', '=', 'K', 'j', '=', '1', 'x', 'i', 'R', 'j', 'M', 'l', '=', '1', 'w', 'r', 'jl', 'g', 'l', '-LRB-', 'x', 'i', ',', 'c', 'j', '-RRB-', '.', '-LRB-', '6', '-RRB-', 'J', '-LRB-', 'W', ',', 'C', '-RRB-', 'represents', 'the', 'sum', 'of', 'the', 'dissimilarity', 'measures', 'of', 'all', 'the', 'data', 'points', 'from', 'their', 'closest', 'centroids', '.', 'The', 'objective', 'is', 'to', 'find', 'W', 'and', 'C', 'that', 'minimize', 'J', '-LRB-', 'W', ',', 'C', '-RRB-', '.', 'To', 'avoid', 'the', 'trivial', 'solution', 'to', 'J', '-LRB-', 'W', ',', 'C', '-RRB-', ',', 'we', 'consider', 'a', 'normalization', 'condition', 'on', 'w', 'j', ',', 'viz.', ',', 'M', 'l', '=', '1', 'w', 'jl', '=', '1', '.', '-LRB-', '7', '-RRB-', 'Note', 'that', 'even', 'with', 'this', 'condition', ',', 'J', '-LRB-', 'W', ',', 'C', '-RRB-', 'has', 'a', 'trivial', 'solution', ':', 'w', 'jp', '=', '1', 'where', 'p', '=', 'arg', 'min', 'l', 'x', 'i', 'R', 'j', 'g', 'l', '-LRB-', 'x', 'i', ',', 'c', 'j', '-RRB-', ',', 'and', 'the', 'remaining', 'weights', 'are', 'zero', '.', 'One', 'way', 'to', 'avoid', 'convergence', 'of', 'w', 'j', 'to', 'unit', 'vectors', 'is', 'to', 'impose', 'a', 'regularization', 'condition', 'on', 'w', 'j', '.', 'We', 'consider', 'the', 'following', 'two', 'regularization', 'measures', 'in', 'this', 'paper', ':', '-LRB-', '1', '-RRB-', 'Entropy', 'measure', ':', 'M', 'l', '=', '1', 'w', 'jl', 'log', '-LRB-', 'w', 'jl', '-RRB-', 'and', '-LRB-', '2', '-RRB-', 'Gini', 'measure', ':', 'M', 'l', '=', '1', 'w', '2', 'jl', '.', '2', 'We', 'use', 'P', '=', '-LCB-', 'R', '1', ',', 'R', '2', ',', '...', ',', 'R', 'K', '-RCB-', 'to', 'represent', 'the', 'corresponding', 'partition', 'of', 'the', 'data', 'set', 'as', 'well', '.', 'The', 'intended', 'interpretation', '-LRB-', 'cluster', 'or', 'region', '-RRB-', 'would', 'be', 'evident', 'from', 'the', 'context', '.', '612', 'Research', 'Track', 'Poster', 'The', 'problem', 'of', 'determining', 'the', 'optimal', 'W', 'and', 'C', 'is', 'similar', 'to', 'the', 'traditional', 'clustering', 'problem', 'that', 'is', 'solved', 'by', 'the', 'K-Means', 'Algorithm', '-LRB-', 'KMA', '-RRB-', 'except', 'for', 'the', 'additional', 'W', 'matrix', '.', 'We', 'propose', 'a', 'class', 'of', 'iterative', 'algorithms', 'similar', 'to', 'KMA', '.', 'These', 'algorithms', 'start', 'with', 'a', 'random', 'partition', 'of', 'the', 'data', 'set', 'and', 'iteratively', 'update', 'C', ',', 'W', 'and', 'P', 'so', 'that', 'J', '-LRB-', 'W', ',', 'C', '-RRB-', 'is', 'minimized', '.', 'These', 'iterative', 'algorithms', 'are', 'instances', 'of', 'Alternating', 'Optimization', '-LRB-', 'AO', '-RRB-', 'algorithms', '.', 'In', '-LSB-', '1', '-RSB-', ',', 'it', 'is', 'shown', 'that', 'AO', 'algorithms', 'converge', 'to', 'a', 'local', 'optimum', 'under', 'some', 'conditions', '.', 'We', 'outline', 'the', 'algorithm', 'below', 'before', 'actually', 'describing', 'how', 'to', 'update', 'C', ',', 'W', 'and', 'P', 'in', 'every', 'iteration', '.', 'Randomly', 'assign', 'the', 'data', 'points', 'to', 'K', 'clusters', '.', 'REPEAT', 'Update', 'C', ':', 'Compute', 'the', 'centroid', 'of', 'each', 'cluster', 'c', 'j', '.', 'Update', 'W', ':', 'Compute', 'the', 'w', 'jl', 'j', ',', 'l.', 'Update', 'P', ':', 'Reassign', 'the', 'data', 'points', 'to', 'the', 'clusters', '.', 'UNTIL', '-LRB-', 'termination', 'condition', 'is', 'reached', '-RRB-', '.', 'In', 'the', 'above', 'algorithm', ',', 'the', 'update', 'of', 'C', 'depends', 'on', 'the', 'definition', 'of', 'g', 'i', ',', 'and', 'the', 'update', 'of', 'W', 'on', 'the', 'regularization', 'terms', '.', 'The', 'update', 'of', 'P', 'is', 'done', 'by', 'reassigning', 'the', 'data', 'points', 'according', 'to', '-LRB-', '5', '-RRB-', '.', 'Before', 'explaining', 'the', 'computation', 'of', 'C', 'in', 'every', 'iteration', 'for', 'various', 'g', 'i', ',', 'we', 'first', 'derive', 'update', 'equations', 'for', 'W', 'for', 'various', 'regularization', 'measures', '.', '3.1', 'Update', 'of', 'Weights', 'While', 'updating', 'weights', ',', 'we', 'need', 'to', 'find', 'the', 'values', 'of', 'weights', 'that', 'minimize', 'the', 'objective', 'function', 'for', 'a', 'given', 'C', 'and', 'P', '.', 'As', 'mentioned', 'above', ',', 'we', 'consider', 'the', 'two', 'regularization', 'measures', 'for', 'w', 'jl', 'and', 'derive', 'update', 'equations', '.', 'If', 'we', 'consider', 'the', 'entropy', 'regularization', 'with', 'r', '=', '1', ',', 'the', 'objective', 'function', 'becomes', ':', 'J', 'EN', 'T', '-LRB-', 'W', ',', 'C', '-RRB-', '=', 'K', 'j', '=', '1', 'x', 'i', 'R', 'j', 'M', 'l', '=', '1', 'w', 'jl', 'g', 'l', '-LRB-', 'x', 'i', ',', 'c', 'j', '-RRB-', '+', 'K', 'j', '=', '1', 'j', 'M', 'l', '=', '1', 'w', 'jl', 'log', '-LRB-', 'w', 'jl', '-RRB-', '+', 'K', 'j', '=', '1', 'j', 'M', 'l', '=', '1', 'w', 'jl', '-', '1', '.', '-LRB-', '8', '-RRB-', 'Note', 'that', 'j', 'are', 'the', 'Lagrange', 'multipliers', 'corresponding', 'to', 'the', 'normalization', 'constraints', 'in', '-LRB-', '7', '-RRB-', ',', 'and', 'j', 'represent', 'the', 'relative', 'importance', 'given', 'to', 'the', 'regularization', 'term', 'relative', 'to', 'the', 'within-cluster', 'dissimilarity', '.', 'Differentiating', 'J', 'EN', 'T', '-LRB-', 'W', ',', 'C', '-RRB-', 'with', 'respect', 'to', 'w', 'jl', 'and', 'equating', 'it', 'to', 'zero', ',', 'we', 'obtain', 'w', 'jl', '=', 'exp', '-', '-LRB-', 'j', '+', 'x', 'i', 'Rj', 'g', 'l', '-LRB-', 'x', 'i', ',', 'c', 'j', '-RRB-', '-RRB-', 'j', '-', '1', '.', 'Solving', 'for', 'j', 'by', 'substituting', 'the', 'above', 'value', 'of', 'w', 'jl', 'in', '-LRB-', '7', '-RRB-', 'and', 'substituting', 'the', 'value', 'of', 'j', 'back', 'in', 'the', 'above', 'equation', ',', 'we', 'obtain', 'w', 'jl', '=', 'exp', 'x', 'i', 'R', 'j', 'g', 'l', '-LRB-', 'x', 'i', ',', 'c', 'j', '-RRB-', '/', 'j', 'M', 'n', '=', '1', 'exp', 'x', 'i', 'R', 'j', 'g', 'n', '-LRB-', 'x', 'i', ',', 'c', 'j', '-RRB-', '/', 'j', '.', '-LRB-', '9', '-RRB-', 'If', 'we', 'consider', 'the', 'Gini', 'measure', 'for', 'regularization', 'with', 'r', '=', '2', ',', 'the', 'corresponding', 'w', 'jl', 'that', 'minimizes', 'the', 'objective', 'function', 'can', 'be', 'shown', 'to', 'be', 'w', 'jl', '=', '1', '/', '-LRB-', 'j', '+', 'x', 'i', 'R', 'j', 'g', 'l', '-LRB-', 'x', 'i', ',', 'c', 'j', '-RRB-', '-RRB-', 'M', 'n', '=', '1', '-LRB-', '1', '/', '-LRB-', 'j', '+', 'x', 'i', 'R', 'j', 'g', 'n', '-LRB-', 'x', 'i', ',', 'c', 'j', '-RRB-', '-RRB-', '-RRB-', '.', '-LRB-', '10', '-RRB-', 'In', 'both', 'cases', ',', 'the', 'updated', 'value', 'of', 'w', 'jl', 'is', 'inversely', 'related', 'Algorithm', 'Update', 'Equations', 'Acronyms', 'P', 'C', 'W', 'EEnt', '-LRB-', '5', '-RRB-', '-LRB-', '11', '-RRB-', '-LRB-', '9', '-RRB-', 'EsGini', '-LRB-', '5', '-RRB-', '-LRB-', '11', '-RRB-', '-LRB-', '10', '-RRB-', 'CEnt', '-LRB-', '5', '-RRB-', '-LRB-', '12', '-RRB-', '-LRB-', '9', '-RRB-', 'CsGini', '-LRB-', '5', '-RRB-', '-LRB-', '12', '-RRB-', '-LRB-', '10', '-RRB-', 'Table', '1', ':', 'Summary', 'of', 'algorithms', '.', 'to', 'x', 'i', 'R', 'j', 'g', 'l', '-LRB-', 'x', 'i', ',', 'c', 'j', '-RRB-', '.', 'This', 'has', 'various', 'interpretations', 'based', 'on', 'the', 'nature', 'of', 'g', 'l', '.', 'For', 'example', ',', 'when', 'we', 'consider', 'the', 'ESVaD', 'measure', ',', 'w', 'jl', 'is', 'inversely', 'related', 'to', 'the', 'variance', 'of', 'l-th', 'element', 'of', 'the', 'data', 'vectors', 'in', 'the', 'j-th', 'cluster', '.', 'In', 'other', 'words', ',', 'when', 'the', 'variance', 'along', 'a', 'particular', 'dimension', 'is', 'high', 'in', 'a', 'cluster', ',', 'then', 'the', 'dimension', 'is', 'less', 'important', 'to', 'the', 'cluster', '.', 'This', 'popular', 'heuristic', 'has', 'been', 'used', 'in', 'various', 'contexts', '-LRB-', 'such', 'as', 'relevance', 'feedback', '-RRB-', 'in', 'the', 'literature', '-LSB-', '9', '-RSB-', '.', 'Similarly', ',', 'when', 'we', 'consider', 'the', 'CSVaD', 'measure', ',', 'w', 'jl', 'is', 'directly', 'proportional', 'to', 'the', 'correlation', 'of', 'the', 'j-th', 'dimension', 'in', 'the', 'l-th', 'cluster', '.', '3.2', 'Update', 'of', 'Centroids', 'Learning', 'ESVaD', 'Measures', ':', 'Substituting', 'the', 'ESVaD', 'measure', 'in', 'the', 'objective', 'function', 'and', 'solving', 'the', 'first', 'order', 'necessary', 'conditions', ',', 'we', 'observe', 'that', 'c', 'jl', '=', '1', '|', 'R', 'j', '|', 'x', 'i', 'R', 'j', 'x', 'il', '-LRB-', '11', '-RRB-', 'minimizes', 'J', 'ESV', 'AD', '-LRB-', 'W', ',', 'C', '-RRB-', '.', 'Learning', 'CSVaD', 'Measures', ':', 'Let', 'x', 'il', '=', 'w', 'jl', 'x', 'il', ',', 'then', 'using', 'the', 'Cauchy-Swartz', 'inequality', ',', 'it', 'can', 'be', 'shown', 'that', 'c', 'jl', '=', '1', '|', 'R', 'j', '|', 'x', 'i', 'R', 'j', 'x', 'il', '-LRB-', '12', '-RRB-', 'maximizes', 'x', 'i', 'R', 'j', 'd', 'l', '=', '1', 'w', 'jl', 'x', 'il', 'c', 'jl', '.', 'Hence', ',', '-LRB-', '12', '-RRB-', 'also', 'minimizes', 'the', 'objective', 'function', 'when', 'CSVaD', 'is', 'used', 'as', 'the', 'dissimilarity', 'measure', '.', 'Table', '1', 'summarizes', 'the', 'update', 'equations', 'used', 'in', 'various', 'algorithms', '.', 'We', 'refer', 'to', 'this', 'set', 'of', 'algorithms', 'as', 'SVaD', 'learning', 'algorithms', '.', 'In', 'this', 'section', ',', 'we', 'present', 'an', 'experimental', 'study', 'of', 'the', 'algorithms', 'described', 'in', 'the', 'previous', 'sections', '.', 'We', 'applied', 'the', 'proposed', 'algorithms', 'on', 'various', 'text', 'data', 'sets', 'and', 'compared', 'the', 'performance', 'of', 'EEnt', 'and', 'EsGini', 'with', 'that', 'of', 'K-Means', ',', 'CSCAD', 'and', 'DGK', 'algorithms', '.', 'The', 'reason', 'for', 'choosing', 'the', 'K-Means', 'algorithm', '-LRB-', 'KMA', '-RRB-', 'apart', 'from', 'CSCAD', 'and', 'DGK', 'is', 'that', 'it', 'provides', 'a', 'baseline', 'for', 'assessing', 'the', 'advantages', 'of', 'feature', 'weighting', '.', 'KMA', 'is', 'also', 'a', 'popular', 'algorithm', 'for', 'text', 'clustering', '.', 'We', 'have', 'included', 'a', 'brief', 'description', 'of', 'CSCAD', 'and', 'DGK', 'algorithms', 'in', 'Appendix', 'A.', 'Text', 'data', 'sets', 'are', 'sparse', 'and', 'high', 'dimensional', '.', 'We', 'consider', 'standard', 'labeled', 'document', 'collections', 'and', 'test', 'the', 'proposed', 'algorithms', 'for', 'their', 'ability', 'to', 'discover', 'dissimilarity', 'measures', 'that', 'distinguish', 'one', 'class', 'from', 'another', 'without', 'actually', 'considering', 'the', 'class', 'labels', 'of', 'the', 'documents', '.', 'We', 'measure', 'the', 'success', 'of', 'the', 'algorithms', 'by', 'the', 'purity', 'of', 'the', 'regions', 'that', 'they', 'discover', '.', '613', 'Research', 'Track', 'Poster', '4.1', 'Data', 'Sets', 'We', 'performed', 'our', 'experiments', 'on', 'three', 'standard', 'data', 'sets', ':', '20', 'News', 'Group', ',', 'Yahoo', 'K1', ',', 'and', 'Classic', '3', '.', 'These', 'data', 'sets', 'are', 'described', 'below', '.', '20', 'News', 'Group', '3', ':', 'We', 'considered', 'different', 'subsets', 'of', '20', 'News', 'Group', 'data', 'that', 'are', 'known', 'to', 'contain', 'clusters', 'of', 'varying', 'degrees', 'of', 'separation', '-LSB-', '10', '-RSB-', '.', 'As', 'in', '-LSB-', '10', '-RSB-', ',', 'we', 'considered', 'three', 'random', 'samples', 'of', 'three', 'subsets', 'of', 'the', '20', 'News', 'Group', 'data', '.', 'The', 'subsets', 'denoted', 'by', 'Binary', 'has', '250', 'documents', 'each', 'from', 'talk.politics.mideast', 'and', 'talk.politics.misc', '.', 'Multi5', 'has', '100', 'documents', 'each', 'from', 'comp.graphics', ',', 'rec.motorcycles', ',', 'rec.sport.baseball', ',', 'sci.space', ',', 'and', 'talk.politics.mideast', '.', 'Finally', ',', 'Multi10', 'has', '50', 'documents', 'each', 'from', 'alt.atheism', ',', 'comp', '.', 'sys.mac.hardware', ',', 'misc.forsale', ',', 'rec.autos', ',', 'rec.sport.hockey', ',', 'sci.crypt', ',', 'sci.electronics', ',', 'sci.med', ',', 'sci.space', ',', 'and', 'talk.politics', '.', 'gun', '.', 'It', 'may', 'be', 'noted', 'that', 'Binary', 'data', 'sets', 'have', 'two', 'highly', 'overlapping', 'classes', '.', 'Each', 'of', 'Multi5', 'data', 'sets', 'has', 'samples', 'from', '5', 'distinct', 'classes', ',', 'whereas', 'Multi10', 'data', 'sets', 'have', 'only', 'a', 'few', 'samples', 'from', '10', 'different', 'classes', '.', 'The', 'size', 'of', 'the', 'vocabulary', 'used', 'to', 'represent', 'the', 'documents', 'in', 'Binary', 'data', 'set', 'is', 'about', '4000', ',', 'Multi5', 'about', '3200', 'and', 'Multi10', 'about', '2800', '.', 'We', 'observed', 'that', 'the', 'relative', 'performance', 'of', 'the', 'algorithms', 'on', 'various', 'samples', 'of', 'Binary', ',', 'Multi5', 'and', 'Multi10', 'data', 'sets', 'was', 'similar', '.', 'Hence', ',', 'we', 'report', 'results', 'on', 'only', 'one', 'of', 'them', '.', 'Yahoo', 'K1', '4', ':', 'This', 'data', 'set', 'contains', '2340', 'Reuters', 'news', 'articles', 'downloaded', 'from', 'Yahoo', 'in', '1997', '.', 'There', 'are', '494', 'from', 'Health', ',', '1389', 'from', 'Entertainment', ',', '141', 'from', 'Sports', ',', '114', 'from', 'Politics', ',', '60', 'from', 'Technology', 'and', '142', 'from', 'Business', '.', 'After', 'preprocessing', ',', 'the', 'documents', 'from', 'this', 'data', 'set', 'are', 'represented', 'using', '12015', 'words', '.', 'Note', 'that', 'this', 'data', 'set', 'has', 'samples', 'from', '6', 'different', 'classes', '.', 'Here', ',', 'the', 'distribution', 'of', 'data', 'points', 'across', 'the', 'class', 'is', 'uneven', ',', 'ranging', 'from', '60', 'to', '1389', '.', 'Classic', '3', '5', ':', 'Classic', '3', 'data', 'set', 'contains', '1400', 'aerospace', 'systems', 'abstracts', 'from', 'the', 'Cranfield', 'collection', ',', '1033', 'medical', 'abstracts', 'from', 'the', 'Medline', 'collection', 'and', '1460', 'information', 'retrieval', 'abstracts', 'from', 'the', 'Cisi', 'collection', ',', 'making', 'up', '3893', 'documents', 'in', 'all', '.', 'After', 'preprocessing', ',', 'this', 'data', 'set', 'has', '4301', 'words', '.', 'The', 'points', 'are', 'almost', 'equally', 'distributed', 'among', 'the', 'three', 'distinct', 'classes', '.', 'The', 'data', 'sets', 'were', 'preprocessed', 'using', 'two', 'major', 'steps', '.', 'First', ',', 'a', 'set', 'of', 'words', '-LRB-', 'vocabulary', '-RRB-', 'is', 'extracted', 'and', 'then', 'each', 'document', 'is', 'represented', 'with', 'respect', 'to', 'this', 'vocabulary', '.', 'Finding', 'the', 'vocabulary', 'includes', ':', '-LRB-', '1', '-RRB-', 'elimination', 'of', 'the', 'standard', 'list', 'of', 'stop', 'words', 'from', 'the', 'documents', ',', '-LRB-', '2', '-RRB-', 'application', 'of', 'Porter', 'stemming', '6', 'for', 'term', 'normalization', ',', 'and', '-LRB-', '3', '-RRB-', 'keeping', 'only', 'the', 'words', 'which', 'appear', 'in', 'at', 'least', '3', 'documents', '.', 'We', 'represent', 'each', 'document', 'by', 'the', 'unitized', 'frequency', 'vector', '.', '4.2', 'Evaluation', 'of', 'Algorithms', 'We', 'use', 'the', 'accuracy', 'measure', 'to', 'compare', 'the', 'performance', 'of', 'various', 'algorithms', '.', 'Let', 'a', 'ij', 'represent', 'the', 'number', 'of', 'data', 'points', 'from', 'class', 'i', 'that', 'are', 'in', 'cluster', 'j', '.', 'Then', 'the', 'accuracy', 'of', 'the', 'partition', 'is', 'given', 'by', 'j', 'max', 'i', 'a', 'ij', '/', 'n', 'where', 'n', 'is', 'the', 'total', 'number', 'of', 'data', 'points', '.', 'It', 'is', 'to', 'be', 'noted', 'that', 'points', 'coming', 'from', 'a', 'single', 'class', 'need', 'not', 'form', 'a', 'single', 'cluster', '.', 'There', 'could', 'be', 'multiple', '3', 'http://www-2.cs.cmu.edu/afs/cs.cmu.edu/project/theo-20/www/data/news20', '.', 'tar.gz', '4', 'ftp://ftp.cs.umn.edu/dept/users/boley/PDDPdata/doc-K', '5', 'ftp://ftp.cs.cornell.edu/pub/smart', '6', 'http://www.tartarus.org/~martin/PorterStemmer/', 'Iteration', '0', '1', '2', '3', '4', '5', 'J', '-LRB-', 'W', ',', 'C', '-RRB-', '334.7', '329.5', '328.3', '328.1', '327.8', 'Accuracy', '73.8', '80.2', '81.4', '81.6', '82', '82', 'Table', '2', ':', 'Evolution', 'of', 'J', '-LRB-', 'W', ',', 'C', '-RRB-', 'and', 'Accuracies', 'with', 'iterations', 'when', 'EEnt', 'applied', 'on', 'a', 'Multi5', 'data', '.', 'clusters', 'in', 'a', 'class', 'that', 'represent', 'sub-classes', '.', 'We', 'study', 'the', 'performance', 'of', 'SVaD', 'learning', 'algorithms', 'for', 'various', 'values', 'of', 'K', ',', 'i.e.', ',', 'the', 'number', 'of', 'clusters', '.', '4.3', 'Experimental', 'Setup', 'In', 'our', 'implementations', ',', 'we', 'have', 'observed', 'that', 'the', 'proposed', 'algorithms', ',', 'if', 'applied', 'on', 'randomly', 'initialized', 'centroids', ',', 'show', 'unstable', 'behavior', '.', 'One', 'reason', 'for', 'this', 'behavior', 'is', 'that', 'the', 'number', 'of', 'parameters', 'that', 'are', 'estimated', 'in', 'feature-weighting', 'clustering', 'algorithms', 'is', 'twice', 'as', 'large', 'as', 'that', 'estimated', 'by', 'the', 'traditional', 'KMA', '.', 'We', ',', 'therefore', ',', 'first', 'estimate', 'the', 'cluster', 'centers', 'giving', 'equal', 'weights', 'to', 'all', 'the', 'dimensions', 'using', 'KMA', 'and', 'then', 'fine-tune', 'the', 'cluster', 'centers', 'and', 'the', 'weights', 'using', 'the', 'feature-weighting', 'clustering', 'algorithms', '.', 'In', 'every', 'iteration', ',', 'the', 'new', 'sets', 'of', 'weights', 'are', 'updated', 'as', 'follows', '.', 'Let', 'w', 'n', '-LRB-', 't', '+1', '-RRB-', 'represent', 'the', 'weights', 'com-puted', 'using', 'one', 'of', '-LRB-', '9', '-RRB-', ',', '-LRB-', '10', '-RRB-', ',', '-LRB-', '14', '-RRB-', 'or', '-LRB-', '15', '-RRB-', 'in', 'iteration', '-LRB-', 't', '+', '1', '-RRB-', 'and', 'w', '-LRB-', 't', '-RRB-', 'the', 'weights', 'in', 'iteration', 't.', 'Then', ',', 'the', 'weights', 'in', 'iteration', '-LRB-', 't', '+', '1', '-RRB-', 'are', 'w', '-LRB-', 't', '+', '1', '-RRB-', '=', '-LRB-', '1', '-', '-LRB-', 't', '-RRB-', '-RRB-', 'w', '-LRB-', 't', '-RRB-', '+', '-LRB-', 't', '-RRB-', 'w', 'n', '-LRB-', 't', '+', '1', '-RRB-', ',', '-LRB-', '13', '-RRB-', 'where', '-LRB-', 't', '-RRB-', '-LSB-', '0', ',', '1', '-RSB-', 'decreases', 'with', 't', '.', 'That', 'is', ',', '-LRB-', 't', '-RRB-', '=', '-LRB-', 't', '1', '-RRB-', ',', 'for', 'a', 'given', 'constant', '-LSB-', '0', ',', '1', '-RSB-', '.', 'In', 'our', 'experiments', ',', 'we', 'observed', 'that', 'the', 'variance', 'of', 'purity', 'values', 'for', 'different', 'initial', 'values', 'of', '-LRB-', '0', '-RRB-', 'and', 'above', '0.5', 'is', 'very', 'small', '.', 'Hence', ',', 'we', 'report', 'the', 'results', 'for', '-LRB-', '0', '-RRB-', '=', '0.5', 'and', '=', '0.5', '.', 'We', 'set', 'the', 'value', 'of', 'j', '=', '1', '.', 'It', 'may', 'be', 'noted', 'that', 'when', 'the', 'documents', 'are', 'represented', 'as', 'unit', 'vectors', ',', 'KMA', 'with', 'the', 'cosine', 'dissimilarity', 'measure', 'and', 'Euclidean', 'distance', 'measure', 'would', 'yield', 'the', 'same', 'clusters', '.', 'This', 'is', 'essentially', 'the', 'same', 'as', 'Spherical', 'K-Means', 'algorithms', 'described', 'in', '-LSB-', '3', '-RSB-', '.', 'Therefore', ',', 'we', 'consider', 'only', 'the', 'weighted', 'Euclidean', 'measure', 'and', 'restrict', 'our', 'comparisons', 'to', 'EEnt', 'and', 'EsGini', 'in', 'the', 'experiments', '.', 'Since', 'the', 'clusters', 'obtained', 'by', 'KMA', 'are', 'used', 'to', 'initialize', 'all', 'other', 'algorithms', 'considered', 'here', ',', 'and', 'since', 'the', 'results', 'of', 'KMA', 'are', 'sensitive', 'to', 'initialization', ',', 'the', 'accuracy', 'numbers', 'reported', 'in', 'this', 'section', 'are', 'averages', 'over', '10', 'random', 'initializations', 'of', 'KMA', '.', '4.4', 'Results', 'and', 'Observations', '4.4.1', 'Effect', 'of', 'SVaD', 'Measures', 'on', 'Accuracies', 'In', 'Table', '2', ',', 'we', 'show', 'a', 'sample', 'run', 'of', 'EEnt', 'algorithm', 'on', 'one', 'of', 'the', 'Multi5', 'data', 'sets', '.', 'This', 'table', 'shows', 'the', 'evolution', 'of', 'J', '-LRB-', 'W', ',', 'C', '-RRB-', 'and', 'the', 'corresponding', 'accuracies', 'of', 'the', 'clusters', 'with', 'the', 'iterations', '.', 'The', 'accuracy', ',', 'shown', 'at', 'iteration', '0', ',', 'is', 'that', 'of', 'the', 'clusters', 'obtained', 'by', 'KMA', '.', 'The', 'purity', 'of', 'clusters', 'increases', 'with', 'decrease', 'in', 'the', 'value', 'of', 'the', 'objective', 'function', 'defined', 'using', 'SVaD', 'measures', '.', 'We', 'have', 'observed', 'a', 'similar', 'behavior', 'of', 'EEnt', 'and', 'EsGini', 'on', 'other', 'data', 'sets', 'also', '.', 'This', 'validates', 'our', 'hypothesis', 'that', 'SVaD', 'measures', 'capture', 'the', 'underlying', 'structure', 'in', 'the', 'data', 'sets', 'more', 'accurately', '.', '614', 'Research', 'Track', 'Poster', '4.4.2', 'Comparison', 'with', 'Other', 'Algorithms', 'Figure', '1', 'to', 'Figure', '5', 'show', 'average', 'accuracies', 'of', 'various', 'algorithms', 'on', 'the', '5', 'data', 'sets', 'for', 'various', 'number', 'of', 'clusters', '.', 'The', 'accuracies', 'of', 'KMA', 'and', 'DGK', 'are', 'very', 'close', 'to', 'each', 'other', 'and', 'hence', ',', 'in', 'the', 'figures', ',', 'the', 'lines', 'corresponding', 'to', 'these', 'algorithms', 'are', 'indistinguishable', '.', 'The', 'lines', 'corresponding', 'to', 'CSCAD', 'are', 'also', 'close', 'to', 'that', 'of', 'KMA', 'in', 'all', 'the', 'cases', 'except', 'Class', '3', '.', 'General', 'observations', ':', 'The', 'accuracies', 'of', 'SVaD', 'algorithms', 'follow', 'the', 'trend', 'of', 'the', 'accuracies', 'of', 'other', 'algorithms', '.', 'In', 'all', 'our', 'experiments', ',', 'both', 'SVaD', 'learning', 'algorithms', 'improve', 'the', 'accuracies', 'of', 'clusters', 'obtained', 'by', 'KMA', '.', 'It', 'is', 'observed', 'in', 'our', 'experiments', 'that', 'the', 'improvement', 'could', 'be', 'as', 'large', 'as', '8', '%', 'in', 'some', 'instances', '.', 'EEnt', 'and', 'EsGini', 'consis-tently', 'perform', 'better', 'than', 'DGK', 'on', 'all', 'data', 'sets', 'and', 'for', 'all', 'values', 'of', 'K.', 'EEnt', 'and', 'EsGini', 'perform', 'better', 'than', 'CSCAD', 'on', 'all', 'data', 'sets', 'excepts', 'in', 'the', 'case', 'of', 'Classic', '3', 'and', 'for', 'a', 'few', 'values', 'of', 'K.', 'Note', 'that', 'the', 'weight', 'update', 'equation', 'of', 'CSCAD', '-LRB-', '15', '-RRB-', 'may', 'result', 'in', 'negative', 'values', 'of', 'w', 'jl', '.', 'Our', 'experience', 'with', 'CSCAD', 'shows', 'that', 'it', 'is', 'quite', 'sensitive', 'to', 'initialization', 'and', 'it', 'may', 'have', 'convergence', 'problems', '.', 'In', 'contrast', ',', 'it', 'may', 'be', 'observed', 'that', 'w', 'jl', 'in', '-LRB-', '9', '-RRB-', 'and', '-LRB-', '10', '-RRB-', 'are', 'always', 'positive', '.', 'Moreover', ',', 'in', 'our', 'experience', ',', 'these', 'two', 'versions', 'are', 'much', 'less', 'sensitive', 'to', 'the', 'choice', 'of', 'j', '.', 'Data', 'specific', 'observations', ':', 'When', 'K', '=', '2', ',', 'EEnt', 'and', 'EsGini', 'could', 'not', 'further', 'improve', 'the', 'results', 'of', 'KMA', 'on', 'the', 'Binary', 'data', 'set', '.', 'The', 'reason', 'is', 'that', 'the', 'data', 'set', 'contains', 'two', 'highly', 'overlapping', 'classes', '.', 'However', ',', 'for', 'other', 'values', 'of', 'K', ',', 'they', 'marginally', 'improve', 'the', 'accuracies', '.', 'In', 'the', 'case', 'of', 'Multi5', ',', 'the', 'accuracies', 'of', 'the', 'algorithms', 'are', 'non-monotonic', 'with', 'K', '.', 'The', 'improvement', 'of', 'accuracies', 'is', 'large', 'for', 'intermediate', 'values', 'of', 'K', 'and', 'small', 'for', 'extreme', 'values', 'of', 'K', '.', 'When', 'K', '=', '5', ',', 'KMA', 'finds', 'relatively', 'stable', 'clusters', '.', 'Hence', ',', 'SVaD', 'algorithms', 'are', 'unable', 'to', 'improve', 'the', 'accuracies', 'as', 'much', 'as', 'they', 'did', 'for', 'intermediate', 'values', 'of', 'K.', 'For', 'larger', 'values', 'of', 'K', ',', 'the', 'clusters', 'are', 'closely', 'spaced', 'and', 'hence', 'there', 'is', 'little', 'scope', 'for', 'improvement', 'by', 'the', 'SVaD', 'algorithms', '.', 'Multi10', 'data', 'sets', 'are', 'the', 'toughest', 'to', 'cluster', 'because', 'of', 'the', 'large', 'number', 'of', 'classes', 'present', 'in', 'the', 'data', '.', 'In', 'this', 'case', ',', 'the', 'accuracies', 'of', 'the', 'algorithms', 'are', 'monotonically', 'increasing', 'with', 'the', 'number', 'of', 'clusters', '.', 'The', 'extent', 'of', 'improvement', 'of', 'accuracies', 'of', 'SVaD', 'algorithms', 'over', 'KMA', 'is', 'almost', 'constant', 'over', 'the', 'entire', 'range', 'of', 'K', '.', 'This', 'reflects', 'the', 'fact', 'that', 'the', 'documents', 'in', 'Multi10', 'data', 'set', 'are', 'uniformly', 'distributed', 'over', 'feature', 'space', '.', 'The', 'distribution', 'of', 'documents', 'in', 'Yahoo', 'K1', 'data', 'set', 'is', 'highly', 'skewed', '.', 'The', 'extent', 'of', 'improvements', 'that', 'the', 'SVaD', 'algorithms', 'could', 'achieve', 'decrease', 'with', 'K.', 'For', 'higher', 'values', 'of', 'K', ',', 'KMA', 'is', 'able', 'to', 'find', 'almost', 'pure', 'sub-clusters', ',', 'resulting', 'in', 'accuracies', 'of', 'about', '90', '%', '.', 'This', 'leaves', 'little', 'scope', 'for', 'improvement', '.', 'The', 'performance', 'of', 'CSCAD', 'differs', 'noticeably', 'in', 'the', 'case', 'of', 'Classic', '3', '.', 'It', 'performs', 'better', 'than', 'the', 'SVaD', 'algorithms', 'for', 'K', '=', '3', 'and', 'better', 'than', 'EEnt', 'for', 'K', '=', '9', '.', 'However', ',', 'for', 'larger', 'values', 'of', 'K', ',', 'the', 'SVaD', 'algorithms', 'perform', 'better', 'than', 'the', 'rest', '.', 'As', 'in', 'the', 'case', 'of', 'Multi5', ',', 'the', 'improvements', 'of', 'SVaD', 'algorithms', 'over', 'others', 'are', 'significant', 'and', 'consistent', '.', 'One', 'may', 'recall', 'that', 'Multi5', 'and', 'Classic', '3', 'consist', 'of', 'documents', 'from', 'distinct', 'classes', '.', 'Therefore', ',', 'this', 'observation', 'implies', 'that', 'when', 'there', 'are', 'distinct', 'clusters', 'in', 'the', 'data', 'set', ',', 'KMA', 'yields', 'confusing', 'clusters', 'when', 'the', 'number', 'of', 'clusters', 'is', 'over-Figure', '1', ':', 'Accuracy', 'results', 'on', 'Binary', 'data', '.', 'Figure', '2', ':', 'Accuracy', 'results', 'on', 'Multi5', 'data', '.', 'specified', '.', 'In', 'this', 'scenario', ',', 'EEnt', 'and', 'EsGini', 'can', 'fine-tune', 'the', 'clusters', 'to', 'improve', 'their', 'purity', '.', 'We', 'have', 'defined', 'a', 'general', 'class', 'of', 'spatially', 'variant', 'dissimilarity', 'measures', 'and', 'proposed', 'algorithms', 'to', 'learn', 'the', 'measure', 'underlying', 'a', 'given', 'data', 'set', 'in', 'an', 'unsupervised', 'learning', 'framework', '.', 'Through', 'our', 'experiments', 'on', 'various', 'textual', 'data', 'sets', ',', 'we', 'have', 'shown', 'that', 'such', 'a', 'formulation', 'of', 'dissimilarity', 'measure', 'can', 'more', 'accurately', 'capture', 'the', 'hidden', 'structure', 'in', 'the', 'data', 'than', 'a', 'standard', 'Euclidean', 'measure', 'that', 'does', 'not', 'vary', 'over', 'feature', 'space', '.', 'We', 'have', 'also', 'shown', 'that', 'the', 'proposed', 'learning', 'algorithms', 'perform', 'better', 'than', 'other', 'similar', 'algorithms', 'in', 'the', 'literature', ',', 'and', 'have', 'better', 'stability', 'properties', '.', 'Even', 'though', 'we', 'have', 'applied', 'these', 'algorithms', 'only', 'to', 'text', 'data', 'sets', ',', 'the', 'algorithms', 'derived', 'here', 'do', 'not', 'assume', 'any', 'specific', 'characteristics', 'of', 'textual', 'data', 'sets', '.', 'Hence', ',', 'they', 'Figure', '3', ':', 'Accuracy', 'results', 'on', 'Multi10', 'data', '.', '615', 'Research', 'Track', 'Poster', 'Figure', '4', ':', 'Accuracy', 'results', 'on', 'Yahoo', 'K1', 'data', '.', 'Figure', '5', ':', 'Accuracy', 'results', 'on', 'Classic', '3', 'data', '.', 'are', 'applicable', 'to', 'general', 'data', 'sets', '.', 'Since', 'the', 'algorithms', 'perform', 'better', 'for', 'larger', 'K', ',', 'it', 'would', 'be', 'interesting', 'to', 'investigate', 'whether', 'they', 'can', 'be', 'used', 'to', 'find', 'subtopics', 'of', 'a', 'topic', '.', 'Finally', ',', 'it', 'will', 'be', 'interesting', 'to', 'learn', 'SVaD', 'measures', 'for', 'labeled', 'data', 'sets', '.', '-LSB-', '1', '-RSB-', 'J.', 'C.', 'Bezdek', 'and', 'R.', 'J.', 'Hathaway', '.', 'Some', 'notes', 'on', 'alternating', 'optimization', '.', 'In', 'Proceedings', 'of', 'the', '2002', 'AFSS', 'International', 'Conference', 'on', 'Fuzzy', 'Systems', '.', 'Calcutta', ',', 'pages', '288', '300', '.', 'Springer-Verlag', ',', '2002', '.', '-LSB-', '2', '-RSB-', 'A.', 'P.', 'Dempster', ',', 'N.', 'M.', 'Laird', ',', 'and', 'Rubin', '.', 'Maximum', 'likelihood', 'from', 'incomplete', 'data', 'via', 'the', 'EM', 'algorithm', '.', 'Journal', 'Royal', 'Statistical', 'Society', 'B', ',', '39', '-LRB-', '2', '-RRB-', ':', '1', '38', ',', '1977', '.', '-LSB-', '3', '-RSB-', 'I.', 'S.', 'Dhillon', 'and', 'D.', 'S.', 'Modha', '.', 'Concept', 'decompositions', 'for', 'large', 'sparse', 'text', 'data', 'using', 'clustering', '.', 'Machine', 'Learning', ',', '42', '-LRB-', '1', '-RRB-', ':', '143', '175', ',', 'January', '2001', '.', '-LSB-', '4', '-RSB-', 'E.', 'Diday', 'and', 'J.', 'C.', 'Simon', '.', 'Cluster', 'analysis', '.', 'In', 'K.', 'S.', 'Fu', ',', 'editor', ',', 'Pattern', 'Recognition', ',', 'pages', '47', '94', '.', 'Springer-Verlag', ',', '1976', '.', '-LSB-', '5', '-RSB-', 'H.', 'Frigui', 'and', 'O.', 'Nasraoui', '.', 'Simultaneous', 'clustering', 'and', 'attribute', 'discrimination', '.', 'In', 'Proceedings', 'of', 'FUZZIEEE', ',', 'pages', '158', '163', ',', 'San', 'Antonio', ',', '2000', '.', '-LSB-', '6', '-RSB-', 'H.', 'Frigui', 'and', 'O.', 'Nasraoui', '.', 'Simultaneous', 'categorization', 'of', 'text', 'documents', 'and', 'identification', 'of', 'cluster-dependent', 'keywords', '.', 'In', 'Proceedings', 'of', 'FUZZIEEE', ',', 'pages', '158', '163', ',', 'Honolulu', ',', 'Hawaii', ',', '2001', '.', '-LSB-', '7', '-RSB-', 'D.', 'E.', 'Gustafson', 'and', 'W.', 'C.', 'Kessel', '.', 'Fuzzy', 'clustering', 'with', 'the', 'fuzzy', 'covariance', 'matrix', '.', 'In', 'Proccedings', 'of', 'IEEE', 'CDC', ',', 'pages', '761', '766', ',', 'San', 'Diego', ',', 'California', ',', '1979', '.', '-LSB-', '8', '-RSB-', 'R.', 'Krishnapuram', 'and', 'J.', 'Kim', '.', 'A', 'note', 'on', 'fuzzy', 'clustering', 'algorithms', 'for', 'Gaussian', 'clusters', '.', 'IEEE', 'Transactions', 'on', 'Fuzzy', 'Systems', ',', '7', '-LRB-', '4', '-RRB-', ':', '453', '461', ',', 'Aug', '1999', '.', '-LSB-', '9', '-RSB-', 'Y.', 'Rui', ',', 'T.', 'S.', 'Huang', ',', 'and', 'S.', 'Mehrotra', '.', 'Relevance', 'feedback', 'techniques', 'in', 'interactive', 'content-based', 'image', 'retrieval', '.', 'In', 'Storage', 'and', 'Retrieval', 'for', 'Image', 'and', 'Video', 'Databases', '-LRB-', 'SPIE', '-RRB-', ',', 'pages', '25', '36', ',', '1998', '.', '-LSB-', '10', '-RSB-', 'N.', 'Slonim', 'and', 'N.', 'Tishby', '.', 'Document', 'clustering', 'using', 'word', 'clusters', 'via', 'the', 'information', 'bottleneck', 'method', '.', 'In', 'Proceedings', 'of', 'SIGIR', ',', 'pages', '208', '215', ',', '2000', '.', 'APPENDIX', 'A', '.', 'OTHER', 'FEATURE', 'WEIGHTING', 'CLUSTERING', 'TECHNIQUES', 'A.', '1', 'Diagonal', 'Gustafson-Kessel', '-LRB-', 'DGK', '-RRB-', 'Gustafson', 'and', 'Kessel', '-LSB-', '7', '-RSB-', 'associate', 'each', 'cluster', 'with', 'a', 'different', 'norm', 'matrix', '.', 'Let', 'A', '=', '-LRB-', 'A', '1', ',', '...', ',', 'A', 'k', '-RRB-', 'be', 'the', 'set', 'of', 'k', 'norm', 'matrices', 'associated', 'with', 'k', 'clusters', '.', 'Let', 'u', 'ji', 'is', 'the', 'fuzzy', 'membership', 'of', 'x', 'i', 'in', 'cluster', 'j', 'and', 'U', '=', '-LSB-', 'u', 'ji', '-RSB-', '.', 'By', 'restricting', 'A', 'j', 's', 'to', 'be', 'diagonal', 'and', 'u', 'ji', '-LCB-', '0', ',', '1', '-RCB-', ',', 'we', 'can', 'reformulate', 'the', 'original', 'optimization', 'problem', 'in', 'terms', 'of', 'SVaD', 'measures', 'as', 'follows', ':', 'min', 'C', ',', 'W', 'J', 'DGK', '-LRB-', 'C', ',', 'W', '-RRB-', '=', 'k', 'j', '=', '1', 'x', 'i', 'R', 'j', 'M', 'l', '=', '1', 'w', 'jl', 'g', 'l', '-LRB-', 'x', 'i', ',', 'c', 'j', '-RRB-', ',', 'subject', 'to', 'l', 'w', 'jl', '=', 'j', '.', 'Note', 'that', 'this', 'problem', 'can', 'be', 'solved', 'using', 'the', 'same', 'AO', 'algorithms', 'described', 'in', 'Section', '3', '.', 'Here', ',', 'the', 'update', 'for', 'C', 'and', 'P', 'would', 'remain', 'the', 'same', 'as', 'that', 'discussed', 'in', 'Section', '3', '.', 'It', 'can', 'be', 'easily', 'shown', 'that', 'when', 'j', '=', '1', ',', 'j', ',', 'w', 'jl', '=', 'M', 'm', '=', '1', 'x', 'i', 'R', 'j', 'g', 'm', '-LRB-', 'x', 'i', ',', 'c', 'j', '-RRB-', '1/M', 'x', 'i', 'R', 'j', 'g', 'l', '-LRB-', 'x', 'i', ',', 'c', 'j', '-RRB-', '-LRB-', '14', '-RRB-', 'minimize', 'J', 'DGK', 'for', 'a', 'given', 'C.', 'A.', '2', 'Crisp', 'Simultaneous', 'Clustering', 'and', 'Attribute', 'Discrimination', '-LRB-', 'CSCAD', '-RRB-', 'Frigui', 'et', '.', 'al.', 'in', '-LSB-', '5', ',', '6', '-RSB-', ',', 'considered', 'a', 'fuzzy', 'version', 'of', 'the', 'feature-weighting', 'based', 'clustering', 'problem', '-LRB-', 'SCAD', '-RRB-', '.', 'To', 'make', 'a', 'fair', 'comparison', 'of', 'our', 'algorithms', 'with', 'SCAD', ',', 'we', 'derive', 'its', 'crisp', 'version', 'and', 'refer', 'to', 'it', 'as', 'Crisp', 'SCAD', '-LRB-', 'CSCAD', '-RRB-', '.', 'In', '-LSB-', '5', ',', '6', '-RSB-', ',', 'the', 'Gini', 'measure', 'is', 'used', 'for', 'regularization', '.', 'If', 'the', 'Gini', 'measure', 'is', 'considered', 'with', 'r', '=', '1', ',', 'the', 'weights', 'w', 'jl', 'that', 'minimize', 'the', 'corresponding', 'objective', 'function', 'for', 'a', 'given', 'C', 'and', 'P', ',', 'are', 'given', 'by', 'w', 'jl', '=', '1', 'M', '+', '1', '2', 'j', '1', 'M', 'M', 'n', '=', '1', 'x', 'i', 'R', 'j', 'g', 'n', '-LRB-', 'x', 'i', ',', 'c', 'j', '-RRB-', 'x', 'i', 'R', 'j', 'g', 'l', '-LRB-', 'x', 'i', ',', 'c', 'j', '-RRB-', '.', '-LRB-', '15', '-RRB-', 'Since', 'SCAD', 'uses', 'the', 'weighted', 'Euclidean', 'measure', ',', 'the', 'update', 'equations', 'of', 'centroids', 'in', 'CSCAD', 'remain', 'the', 'same', 'as', 'in', '-LRB-', '11', '-RRB-', '.', 'The', 'update', 'equation', 'for', 'w', 'jl', 'in', 'SCAD', 'is', 'quite', 'similar', 'to', '-LRB-', '15', '-RRB-', '.', 'One', 'may', 'note', 'that', ',', 'in', '-LRB-', '15', '-RRB-', ',', 'the', 'value', 'of', 'w', 'jl', 'can', 'become', 'negative', '.', 'In', '-LSB-', '5', '-RSB-', ',', 'a', 'heuristic', 'is', 'used', 'to', 'estimate', 'the', 'value', 'j', 'in', 'every', 'iteration', 'and', 'set', 'the', 'negative', 'values', 'of', 'w', 'jl', 'to', 'zero', 'before', 'normalizing', 'the', 'weights', '.', '616', 'Research', 'Track', 'Poster']
Document BIO Tags:  ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O']
Extractive/present Keyphrases:  ['dissimilarity measure', 'clustering', 'feature weighting']
Abstractive/absent Keyphrases:  ['spatially varying dissimilarity (svad)', 'learning dissimilarity measures']

-----------

Keyphrase Extraction

from datasets import load_dataset

# get the dataset only for keyphrase extraction
dataset = load_dataset("midas/nus", "extraction")

print("Samples for Keyphrase Extraction")

# sample from the test split
print("Sample from test data split")
test_sample = dataset["test"][0]
print("Fields in the sample: ", [key for key in test_sample.keys()])
print("Tokenized Document: ", test_sample["document"])
print("Document BIO Tags: ", test_sample["doc_bio_tags"])
print("\n-----------\n")

Keyphrase Generation

# get the dataset only for keyphrase generation
dataset = load_dataset("midas/nus", "generation")

print("Samples for Keyphrase Generation")

# sample from the test split
print("Sample from test data split")
test_sample = dataset["test"][0]
print("Fields in the sample: ", [key for key in test_sample.keys()])
print("Tokenized Document: ", test_sample["document"])
print("Extractive/present Keyphrases: ", test_sample["extractive_keyphrases"])
print("Abstractive/absent Keyphrases: ", test_sample["abstractive_keyphrases"])
print("\n-----------\n")

Citation Information

@InProceedings{10.1007/978-3-540-77094-7_41,
author="Nguyen, Thuy Dung
and Kan, Min-Yen",
editor="Goh, Dion Hoe-Lian
and Cao, Tru Hoang
and Solvberg, Ingeborg Torvik
and Rasmussen, Edie",
title="Keyphrase Extraction in Scientific Publications",
booktitle="Asian Digital Libraries. Looking Back 10 Years and Forging New Frontiers",
year="2007",
publisher="Springer Berlin Heidelberg",
address="Berlin, Heidelberg",
pages="317--326",
isbn="978-3-540-77094-7"
}

Contributions

Thanks to @debanjanbhucs, @dibyaaaaax and @ad6398 for adding this dataset

Downloads last month: 32

Edit dataset card

Size of downloaded dataset files:

71.7 MB

Size of the auto-converted Parquet files:

10.5 MB

Number of rows:

633