diff --git "a/README.md" "b/README.md"
new file mode 100644--- /dev/null
+++ "b/README.md"
@@ -0,0 +1,147 @@
+A dataset for benchmarking keyphrase extraction and generation techniques from long document English scientific papers. For more details about the dataset please refer the original paper - []().
+
+Data source - []()
+
+## Dataset Summary
+ 
+
+## Dataset Structure
+
+
+### Data Fields
+
+- **id**: unique identifier of the document.
+- **sections**: list of all the sections present in the document.
+- **sec_text**: list of white space separated list of words present in each section.
+- **sec_bio_tags**: list of BIO tags of white space separated list of words present in each section.
+- **extractive_keyphrases**: List of all the present keyphrases.
+- **abstractive_keyphrase**: List of all the absent keyphrases.
+
+
+### Data Splits
+
+|Split| #datapoints  |
+|--|--|
+| Train-Small | 20,000 |
+| Train-Medium | 50,000 |
+| Train-Large | 90,019 |
+| Test | 3413 |
+| Validation | 3339 |
+
+## Usage
+
+### Small Dataset
+
+```python
+from datasets import load_dataset
+
+# get small dataset
+dataset = load_dataset("midas/inspec", "small")
+
+def order_section(sample):
+  sections = []
+  sec_text = []
+  sec_bio_tags = []
+
+  if "title" in sample["sections"]:
+    title_idx = sample["sections"].index("title")
+    sections.append(sample["sections"].pop(title_idx))
+    sec_text.append(sample["sec_text"].pop(title_idx))
+    sec_bio_tags.append(sample["sec_bio_tags"].pop(title_idx))
+
+  if "abstract" in sample["sections"]:
+    abstract_idx = sample["sections"].index("abstract")
+    sections.append(sample["sections"].pop(abstract_idx))
+    sec_text.append(sample["sec_text"].pop(abstract_idx))
+    sec_bio_tags.append(sample["sec_bio_tags"].pop(abstract_idx))
+
+  sections += sample["sections"]
+  sec_text += sample["sec_text"]
+  sec_bio_tags += sample["sec_bio_tags"]
+
+  return sections, sec_text, sec_bio_tags
+
+# sample from the train split
+print("Sample from train data split")
+train_sample = dataset["train"][0]
+
+sections, sec_text, sec_bio_tags = order_section(train_sample)
+print("Fields in the sample: ", [key for key in train_sample.keys()])
+print("Section names: ", sections)
+print("Tokenized Document: ", sec_text)
+print("Document BIO Tags: ", sec_bio_tags)
+print("Extractive/present Keyphrases: ", train_sample["extractive_keyphrases"])
+print("Abstractive/absent Keyphrases: ", train_sample["abstractive_keyphrases"])
+print("\n-----------\n")
+
+# sample from the validation split
+print("Sample from validation data split")
+validation_sample = dataset["validation"][0]
+
+sections, sec_text, sec_bio_tags = order_section(validation_sample)
+print("Fields in the sample: ", [key for key in validation_sample.keys()])
+print("Section names: ", sections)
+print("Tokenized Document: ", sec_text)
+print("Document BIO Tags: ", sec_bio_tags)
+print("Extractive/present Keyphrases: ", validation_sample["extractive_keyphrases"])
+print("Abstractive/absent Keyphrases: ", validation_sample["abstractive_keyphrases"])
+print("\n-----------\n")
+
+# sample from the test split
+print("Sample from test data split")
+test_sample = dataset["test"][0]
+
+sections, sec_text, sec_bio_tags = order_section(test_sample)
+print("Fields in the sample: ", [key for key in test_sample.keys()])
+print("Section names: ", sections)
+print("Tokenized Document: ", sec_text)
+print("Document BIO Tags: ", sec_bio_tags)
+print("Extractive/present Keyphrases: ", test_sample["extractive_keyphrases"])
+print("Abstractive/absent Keyphrases: ", test_sample["abstractive_keyphrases"])
+print("\n-----------\n")
+
+```
+
+**Output**
+```bash
+Sample from train data split
+Fields in the sample:  ['id', 'sections', 'sec_text', 'extractive_keyphrases', 'abstractive_keyphrases', 'sec_bio_tags']
+Section names:  ['title', 'abstract', 'introduction', 'setup of the experiment', 'gathering input sketches', 'defining sketch/image pairs', 'interaction for gathering the ratings', 'anchoring', 'choice of stimulus duration', 'evaluation', 'rank correlation', 'tied ranks', 'measuring statistical significance', 'benchmarking sbir systems', 'study and analysis', 'consistency among sketch/image pairs', 'correlation analysis', 'descriptors and indexing', 'bag-of-features model for image retrieval', 'sampling strategies', 'codebook generation', 'search strategy', 'local features for representing sketches', 'shape context', 'spark feature', 'histogram of oriented gradients', 'shog feature', 'evaluation of descriptor performance', 'results and applications', 'finding optimal local descriptor parameters', 'codebook size', 'feature size', 'feature representation', 'experimental applications', 'specialized search: human faces', '2d search from 3d shapes', 'basic sketch-based video search', 'user study', 'possible sources of bias', 'choice of rating scale', 'benchmark', 'sketching interface', 'local features', 'conclusion']
+Tokenized Document:  [['Sketch-Based', 'Image', 'Retrieval:', 'Benchmark', 'and', 'Bag-of-Features', 'Descriptors'], ['Abstract-We', 'introduce', 'a', 'benchmark', 'for', 'evaluating', 'the', 'performance', 'of', 'large-scale', 'sketch-based', 'image', 'retrieval', 'systems.', 'The', 'necessary', 'data', 'are', 'acquired', 'in', 'a', 'controlled', 'user', 'study', 'where', 'subjects', 'rate', 'how', 'well', 'given', 'sketch/image', 'pairs', 'match.', 'We', 'suggest', 'how', 'to', 'use', 'the', 'data', 'for', 'evaluating', 'the', 'performance', 'of', 'sketch-based', 'image', 'retrieval', 'systems.', 'The', 'benchmark', 'data', 'as', 'well', 'as', 'the', 'large', 'image', 'database', 'are', 'made', 'publicly', 'available', 'for', 'further', 'studies', 'of', 'this', 'type.', 'Furthermore,', 'we', 'develop', 'new', 'descriptors', 'based', 'on', 'the', 'bag-of-features', 'approach', 'and', 'use', 'the', 'benchmark', 'to', 'demonstrate', 'that', 'they', 'significantly', 'outperform', 'other', 'descriptors', 'in', 'the', 'literature.'], ['F', 'OR', 'most', 'image', 'databases,', 'browsing', 'as', 'a', 'means', 'of', 'retrieval', 'is', 'impractical,', 'and', 'query-based', 'searching', 'is', 'required.', 'Queries', 'are', 'often', 'expressed', 'as', 'keywords', '(or', 'by', 'other', 'means', 'than', 'the', 'images', 'themselves),', 'requiring', 'the', 'images', 'to', 'be', 'tagged.', 'In', 'view', 'of', 'the', 'ever', 'increasing', 'size', 'of', 'image', 'databases,', 'the', 'assumption', 'of', 'an', 'appropriate', 'and', 'complete', 'set', 'of', 'tags', 'might', 'be', 'invalid,', 'and', 'content-based', 'search', 'techniques', 'become', 'vital..', 'Different', 'types', 'of', 'content-based', 'image', 'queries', 'have', 'been', 'suggested', 'and', 'analyzed:', 'example', 'images;', 'rough,', 'blurry', 'drawings', 'of', 'the', 'desired', 'colors;', 'simple', 'outline', 'sketches;', 'and', 'combinations', 'or', 'extensions', 'thereof', '[1]', '.', 'We', 'believe', 'that', 'outline', 'sketches', 'are', 'typically', 'easier', 'and', 'faster', 'to', 'generate', 'than', 'a', 'complete', 'color', 'description', 'of', 'the', 'scene.', 'And', 'they', 'can', 'be', 'generated', 'for', 'arbitrary', 'desired', 'images,', 'while', 'example', 'images', 'may', 'or', 'may', 'not', 'be', 'at', 'hand', 'when', 'searching.', 'In', 'addition,', 'input', 'devices', 'change', 'in', 'favor', 'of', 'sketching', 'as', 'touch-enabled', 'devices', 'become', 'more', 'common.', 'In', 'other', 'words,', 'sketch-based', 'image', 'retrieval', '(SBIR)', 'is', 'a', 'relevant', 'means', 'of', 'querying', 'large', 'image', 'databases..', 'Several', 'approaches', 'for', 'SBIR', 'have', 'been', 'suggested.', 'However,', 'to', 'achieve', 'interactive', 'query', 'response,', 'it', 'is', 'impossible', 'to', 'compare', 'the', 'sketch', 'to', 'all', 'images', 'in', 'the', 'database', 'directly.', 'Instead,', 'descriptors', 'are', 'extracted', 'in', 'a', 'preprocess', 'and', 'stored', 'in', 'a', 'data', 'structure', 'for', 'fast', 'access.', 'Very', 'commonly,', 'the', 'descriptors', 'are', 'interpreted', 'as', 'points', 'in', 'a', 'high-dimensional', 'space', 'and', 'finding', 'close', 'matches', 'means', 'searching', 'for', 'nearest', 'neighbors', 'in', 'this', 'space.', 'Moreover,', 'image', 'descriptors', 'can', 'be', 'roughly', 'classified', 'into', 'global', 'versus', 'local', 'descriptors:', 'global', 'descriptors', 'encode', 'specific', 'features', 'of', 'the', 'whole', 'image', 'that', 'suffice', 'to', 'describe', 'the', '"gist"', 'of', 'the', 'scene', '[2]', ',', 'while', 'many', 'local', 'descriptors', 'need', 'to', 'be', 'extracted', 'for', 'a', 'single', 'image,', 'with', 'each', 'descriptor', 'describing', 'only', 'a', 'small', 'spatially', 'localized', 'region', 'of', 'the', 'image', '[3]', '.', 'While', 'the', 'use', 'of', 'local', 'descriptors', 'is', 'a', 'common', 'approach', 'in', 'example-based', 'image', 'retrieval', '[4]', ',', '[5]', ',', '[6]', ',', '[7]', ',', 'SBIR', 'systems', 'up', 'to', 'now', 'still', 'employ', 'global', 'descriptors', 'and', 'thus', 'inherit', 'their', 'drawbacks,', 'mainly', 'being', 'not', 'invariant', 'to', 'affine', 'transformations..', 'An', 'important', 'design', 'feature', 'for', 'any', 'descriptor-based', 'retrieval', 'system', 'is', 'that', 'the', 'distance', 'metric', 'in', 'feature', 'space', 'correlates', 'with', 'perceptual', 'similarity.', 'To', 'gauge', 'this', 'perceptual', 'similarity,', 'ground-truth', 'information', 'from', 'user', 'studies', 'is', 'needed.', 'Interestingly,', 'Forsyth', '[8]', 'criticizes', 'the', 'design', 'of', 'many', 'existing', 'image', 'retrieval', 'systems', 'for', 'not', 'meeting', 'real', "users'", 'needs', 'when', 'they', 'are', 'based', 'on', 'image', 'collections', 'that', 'are', 'comprehensively', 'tagged', 'but', 'are', 'typically', 'unrealistically', 'small..', 'We', 'design', 'a', 'benchmark', 'for', 'SBIR', 'that', 'is', 'based', 'on', 'a', 'large', 'collection', 'of', 'images,', 'several', 'orders', 'of', 'magnitude', 'closer', 'in', 'size', 'to', 'real', 'data', 'sets', 'than', 'other', 'collections.', 'We', 'also', 'design', 'local', 'descriptors', 'for', 'SBIR.', 'The', 'benchmark', 'allows', 'us', 'to', 'show', 'that', 'they', 'better', 'model', "humans'", 'perceptual', 'metric', 'between', 'outline', 'sketches', 'and', 'images.', 'More', 'particularly,', 'we', 'report', 'on', 'the', 'following', 'contributions:.', '.', 'In', 'a', 'controlled', 'user', 'study,', 'we', 'gather', 'a', 'data', 'set', 'of', 'more', 'than', '30,000', 'ratings', 'indicating', 'how', 'well', 'sketch/image', 'pairs', 'match.', 'The', 'analysis', 'of', 'the', 'ratings', 'shows', '(probably', 'for', 'the', 'first', 'time)', 'that', 'human', 'subjects', 'rate', 'the', 'similarity', 'of', 'sketches', 'and', 'images', 'in', 'a', 'predictable', 'and', 'similar', 'way.', 'Thus,', 'the', 'data', 'define', 'a', 'benchmark', 'that', 'can', 'be', 'used', 'to', 'evaluate', 'how', 'well', 'the', 'results', 'of', 'an', 'arbitrary', 'SBIR', 'system', 'correspond', 'to', 'human', 'expectation.', 'Additionally,', 'we', 'define', 'a', 'set', 'of', '100,000', 'Creative', 'Commons', 'images', 'that', 'is', 'used', 'along', 'with', 'the', 'benchmark.', 'We', 'will', 'make', 'the', 'image', 'database', 'as', 'well', 'as', 'the', 'benchmark', 'freely', 'available', 'for', 'other', 'researchers', 'to', 'compare', 'image', 'retrieval', 'algorithms', 'and', 'evaluate', 'SBIR', 'systems.', '.', 'We', 'adapt', 'existing', 'image', 'features', '(such', 'as', 'shape', 'contexts', 'or', 'SIFT)', 'to', 'SBIR', 'and', 'also', 'introduce', 'new', 'local', 'shape', 'features.', 'These', 'features', 'are', 'used', 'in', 'a', 'bag-of-features', 'approach', 'for', 'SBIR.', 'Based', 'on', 'our', 'benchmark,', 'we', 'can', 'show', 'that', 'the', 'bag-of-feature', 'approaches', 'generally', 'outperform', 'existing', 'global', 'descriptors', 'from', 'the', 'literature-we', 'attribute', 'this', 'mostly', 'to', 'translation', 'invariance.', 'And', 'among', 'the', 'bag-of-features', 'approaches,', 'the', 'new', 'feature', 'descriptor', 'we', 'designed', 'specifically', 'for', 'SBIR', 'indeed', 'performs', 'better', 'than', 'other', 'general', 'image', 'features.', 'Based', 'on', 'the', 'new', 'descriptors,', 'we', 'introduce', 'prototypes', 'for', 'several', 'applications', 'that', 'benefit', 'from', 'SBIR.'], ['We', 'assume', 'that', 'humans', 'generally', 'agree', 'that', 'a', 'simple', 'sketch', 'may', 'be', 'perceptually', 'closer', 'to', 'some', 'images', 'than', 'to', 'others.', 'However,', 'we', 'make', 'no', 'assumptions', 'on', 'the', 'similarity', 'of', 'this', 'behavior', 'across', 'humans', 'or', 'even', 'if', 'humans', 'would', 'rate', 'the', 'likeness', 'of', 'images', 'similarly.', 'Given', 'a', 'few', 'examples', 'of', 'similarity', 'ratings,', 'we', 'ask', 'if', 'humans', 'gauge', 'other', 'pairs', 'of', 'sketches', 'and', 'images', 'consistently', 'over', 'time', 'and', 'across', 'subjects.', 'If', 'so,', 'we', 'would', 'like', 'to', 'gather', 'these', 'measurements', 'for', 'comparison', 'with', 'measurements', 'based', 'on', 'feature', 'extraction', 'in', 'computer', 'systems..', 'To', 'answer', 'this', 'question,', 'we', 'conducted', 'an', 'experiment,', 'in', 'which', 'we', 'show', 'pairs', 'of', 'sketches', 'and', 'images', '(see', 'Fig.', '1', ')', 'under', 'controlled', 'conditions', 'to', 'human', 'subjects', 'and', 'ask', 'them', 'to', 'rate', 'the', 'similarity', 'of', 'the', 'pair.', 'We', 'discuss', 'the', 'following', 'design', 'choices', 'for', 'the', 'study:.', '.', 'Sketches', 'shown', 'in', 'the', 'study.', '.', 'Images', 'paired', 'with', 'the', 'sketches.', '.', 'Human-computer', 'interaction', 'during', 'the', 'experiment', 'to', 'gather', 'the', 'ratings.', '.', 'Benchmarking', 'SBIR', 'systems', 'using', 'the', 'results', 'of', 'the', 'study.', 'In', 'the', 'following', 'section,', 'we', 'describe', 'how', 'the', 'experiment', 'was', 'performed', 'and', 'comment', 'on', 'the', 'results.'], ['The', 'choice', 'of', 'query', 'sketches', 'essentially', 'defines', 'the', 'difficulty', 'of', 'the', 'resulting', 'benchmark.', 'It', 'is', 'important', 'to', 'define', 'it', 'in', 'such', 'a', 'way', 'that', 'current', 'systems', 'can', 'be', 'evaluated.', 'If', 'the', 'sketches', 'would', 'contain', 'too', 'much', 'abstraction,', 'current', 'systems', 'would', 'perform', 'very', 'badly', 'and', 'an', 'evaluation', 'would', 'have', 'to', 'deal', 'with', 'more', 'noise.', 'Overall,', 'we', 'tried', 'to', 'select', 'the', 'set', 'of', 'sketches', 'for', 'the', 'study', 'such', 'that', 'a', 'reasonable', 'compromise', 'between', "users'", 'demands', 'toward', 'a', 'query', 'system', 'and', 'the', 'capabilities', 'of', 'current', 'systems', 'are', 'achieved..', 'We', 'gathered', 'a', 'large', 'number', 'of', 'sketches', 'drawn', 'by', 'different', 'subjects', 'that', 'are', 'not', 'biased', 'toward', 'potentially', 'working', 'with', 'a', 'particular', 'SBIR', 'system.', 'In', 'order', 'to', 'achieve', 'a', 'wide', 'spectrum', 'of', 'drawing', 'styles,', 'we', 'asked', 'a', 'total', 'of', '19', 'subjects', 'to', 'draw', 'sketches', 'using', 'two', 'different', 'methods:', 'first,', '16', 'individuals', '(that', 'had', 'not', 'been', 'exposed', 'to', 'SBIR)', 'generated', 'arbitrary', 'input', 'sketches', 'depicting', 'arbitrary', 'scenes', 'or', 'objects,', 'drawing', 'them', 'in', 'a', 'way', 'they', 'would', 'expect', 'to', 'work', 'well', 'for', 'an', 'imaginary', 'retrieval', 'system.', 'For', 'inspiration,', 'we', 'gave', 'them', 'a', 'list', 'of', 'categories', '(plants,', 'animals,', 'skylines,', 'landscapes,', 'machines,', 'and', 'humans)', 'but', 'we', 'stressed', 'that', 'sketches', 'from', 'any', 'other', 'category', 'were', 'also', 'allowed', 'and', 'actually', 'desired.', 'Second,', 'we', 'asked', 'three', 'subjects', 'to', 'also', 'create', 'sketches', 'by', 'roughly', 'tracing', 'the', 'objects', 'seen', 'in', 'existing', 'color', 'images.', 'For', 'both', 'types', 'of', 'sketches,', 'we', 'emphasized', 'that', 'including', 'shading', 'information', 'and', 'crosshatching', 'techniques', 'should', 'be', 'avoided;', 'instead,', 'we', 'asked', 'to', 'create', 'rough', 'outlines', 'that', 'are', 'quick', 'and', 'simple', 'to', 'draw..', 'This', 'resulted', 'in', 'a', 'total', 'of', '164', 'sketches', 'created', 'for', 'the', 'purpose', 'of', 'this', 'study.', 'From', 'this', 'set,', 'we', 'manually', 'selected', '49', 'sketches', 'with', 'the', 'aim', 'that', 'they', 'match', 'reasonably', 'with', 'a', 'sufficient', 'number', 'of', 'images', 'in', 'the', 'database.', 'We', 'used', 'the', 'following', 'criteria', 'in', 'our', 'selection:', 'sketches', 'should', 'depict', 'shape', 'rather', 'than', 'symbols;', 'they', 'should', 'depict', 'nonfictional', 'objects;', 'if', 'any', 'perspective', 'was', 'used,', 'it', 'should', 'be', 'reasonably', 'realistic.', 'Using', 'this', 'set', 'of', 'sketches,', 'we', 'now', 'describe', 'how', 'the', 'images', 'for', 'presentation', 'and', 'ranking', 'were', 'chosen.'], ['Performing', 'the', 'user', 'study', 'requires', 'us', 'to', 'select', 'a', 'certain', 'number', 'of', 'images', 'to', 'be', 'presented', 'for', 'rating', 'along', 'with', 'the', 'sketches.', 'Randomly', 'sampling', 'images', 'from', 'a', 'large', 'image', 'database', 'turned', 'out', 'not', 'to', 'be', 'applicable:', 'the', 'number', 'of', 'nonrelevant', 'images', 'in', 'the', 'database', 'given', 'a', 'certain', 'sketch', 'is', 'large', 'and', 'would', 'likely', 'cause', 'frustration', 'throughout', 'the', 'experiment', 'and', 'also', 'create', 'insufficient', 'data', 'for', 'close', 'matches..', 'Ideally,', 'we', 'would', 'like', 'to', 'gather', 'a', 'set', 'of', 'sketch/image', 'pairs', 'exhibiting', 'the', 'following', 'properties:.', '.', 'Rating', 'the', 'complete', 'set', 'should', 'be', 'possible', 'in', 'about', 'one', 'hour', 'per', 'participant', 'in', 'order', 'to', 'avoid', 'fatigue.', 'We', 'settled', 'for', '31', 'sketches', '(allowing', 'for', 'a', 'wide', 'variety', 'of', 'scenes', 'and', 'objects', 'depicted)', 'and', '40', 'images', 'associated', 'with', 'each', 'sketch.', '.', 'The', 'set', 'should', 'generate', 'roughly', 'the', 'same', 'number', 'of', 'ratings', 'for', 'each', 'discrete', 'rank', 'on', 'our', 'ranking', 'scale', '(i.e.,', 'approximately', 'same', 'number', 'of', 'well', 'matching', 'and', 'poorly', 'matching', 'images', 'associated', 'with', 'each', 'sketch).', 'This,', 'however,', 'would', 'require', 'a', 'priori', 'knowledge', 'of', 'how', 'subjects', 'rate', 'the', 'matches.', 'To', 'approximate', 'this', 'property,', 'we', 'performed', 'a', 'pilot', 'study.', 'We', 'generated', 'preliminary', 'sketch/image', 'pairs', 'by', 'using', 'a', 'subset', 'of', 'the', 'best', 'performing', 'SBIR', 'systems', 'from', 'Eitz', 'et', 'al.', '[9]', '..', 'For', 'each', 'of', 'the', '49', 'sketches', 'selected', 'in', 'Section', '2.1,', 'we', 'queried', 'for', 'the', 'top', 'ranking', '20', 'images', 'using', 'three', 'variants', 'of', 'Tensor', 'descriptor', 'as', 'well', 'as', 'the', 'histograms', 'of', 'oriented', 'gradients', '(HoG)', 'descriptor', '(we', 'discuss', 'this', 'process', 'and', 'its', 'potential', 'to', 'generate', 'a', 'biased', 'sample', 'later).', 'This', 'resulted', 'in', 'a', 'collection', 'of', '3', 'Á', '2', 'Á', '20', 'Á', '49', '¼', '5;880', 'sketch/image', 'pairs', '(including', 'duplicates).', 'Without', 'duplicates,', 'a', 'set', 'of', '4,532', 'sketch/image', 'pairs', 'remained..', 'Using', 'these', 'sketch/image', 'pairs,', 'we', 'performed', 'a', 'pilot', 'study', 'with', 'three', 'participants,', 'gathering', '3', 'Á', '4;532', '¼', '13;596', 'ratings.', 'As', 'expected,', 'the', 'distribution', 'of', 'ratings', 'was', 'not', 'uniform', 'for', 'most', 'sketches', '(see', 'Fig.', '7', ').', 'We', 'now', 'show', 'how', 'to', 'select', 'a', 'subset', 'of', 'these', 'sketch/image', 'pairs', 'that', 'would', 'likely', 'generate', 'a', 'more', 'uniform', 'distribution', 'of', 'the', 'ratings', 'in', 'the', 'final', 'study..', 'Assuming', 'a', 'uniform', 'distribution', 'of', 'the', 'ratings', 'over', 'the', 'scale', '1', 'to', '7,', '40', 'images', 'per', 'sketch', 'would', 'lead', 'to', 'an', 'average', 'of', '40=7', '%', '5:71', 'ratings', 'per', 'discrete', 'rank', 'on', 'the', 'scale.', 'For', 'each', 'sketch,', 'we', 'computed', 'the', 'standard', 'deviation', 'of', 'the', 'number', 'of', 'ratings', 'from', 'the', 'desired', 'mean', 'of', '5.71,', 'and', 'discarded', 'the', '18', 'sketches', 'with', 'the', 'largest', 'AE', '(exclusively', 'corresponding', 'to', 'sketches', 'associated', 'with', 'many', 'poorly', 'matching', 'images)..', 'For', 'the', 'remaining', 'sketches,', 'we', 'randomly', 'subsampled', 'the', 'set', 'of', 'associated', 'images', 'such', 'that', 'exactly', '40', 'images', 'remained,', 'however,', 'biasing', 'the', 'subsample', 'toward', 'a', 'uniform', 'distribution', 'of', 'ratings.', 'This', 'procedure', 'mostly', 'eliminated', 'images', 'with', 'poor', 'ratings,', 'as', 'expected..', 'The', 'result', 'of', 'the', 'pilot', 'study', 'is', 'a', 'set', 'of', '31', 'sketches,', 'with', 'exactly', '40', 'images', 'associated', 'with', 'each', 'sketch.', 'This', 'resulting', 'set', 'of', '1,240', 'sketch/image', 'pairs', 'is', 'used', 'in', 'the', 'final', 'user', 'study', 'and', 'presented', 'to', 'the', 'participants', 'for', 'rating.', 'The', 'distribution', 'of', 'ratings', 'from', 'the', 'pilot', 'study', 'and', 'the', 'final', 'study', 'is', 'visualized', 'in', 'Fig.', '7', 'and', 'illustrates', 'clearly,', 'that', 'the', 'proposed', 'subsampling', 'strategy', 'was', 'successful', 'in', 'selecting', 'sketch/image', 'pairs', 'that', 'are', 'closer', 'to', 'a', 'uniform', 'distribution', 'of', 'ratings.'], ['We', 'showed', 'each', 'sketch/image', 'pair', 'side', 'by', 'side', 'on', 'a', '24', 'inch', 'LCD', 'monitor', 'under', 'controlled', 'environmental', 'conditions', '(i.e.,', 'similar', 'lighting', 'conditions,', 'no', 'significant', 'audible', 'distraction,', 'and', '80', 'cm', 'viewing', 'distance).', 'An', 'example', 'display', 'is', 'shown', 'in', 'Fig.', '1', '.', 'Subjects', 'were', 'exposed', 'to', 'the', 'stimulus', 'for', '2', 'seconds.', 'After', 'the', 'stimulus,', 'the', 'screen', 'turned', 'black', 'for', '1', 'second.', 'Subjects', 'were', 'asked', 'to', 'rate', 'the', 'similarity', 'on', 'a', '7-point', 'Likert', 'scale', '[10]', 'from', '1', '(best)', 'to', '7', '(worst),', 'by', 'pressing', 'the', 'corresponding', 'number', 'key', 'on', 'a', 'keyboard.', 'The', 'rating', 'could', 'be', 'submitted', 'and', 'changed', 'during', 'the', 'total', 'of', '2', 'seconds', 'of', 'stimulus', 'or', 'the', '1', 'second', 'of', 'blank', 'screen,', 'but', 'not', 'afterward.', 'After', 'the', '3', 'seconds,', 'the', 'next', 'pair', 'was', 'automatically', 'displayed..', 'The', 'first', 'set', 'of', 'pairs', 'was', 'presented', 'with', 'a', 'suggested', 'scale', '(see', 'below).', 'After', 'that,', 'the', 'experiment', 'started', 'and', 'pairs', 'were', 'presented', 'in', 'random', 'order.', 'Participants', 'were', 'allowed', 'to', 'pause', 'the', 'study', 'at', 'any', 'time.', 'Apart', 'from', 'the', 'final', 'rating,', 'we', 'also', 'recorded', 'the', 'time', 'until', 'the', 'final', 'rating.'], ['To', 'understand', 'if', 'subjects', 'rate', 'sketch/image', 'pairs', 'consistently', 'over', 'time', 'and,', 'if', 'so,', 'to', 'get', 'comparable', 'ratings', 'across', 'subjects,', 'it', 'is', 'important', 'to', 'expose', 'subjects', 'to', 'example', 'pairs', 'and', 'a', 'desired', 'rating.', 'Thus,', 'directly', 'prior', 'to', 'the', 'experiment,', 'we', 'display', 'a', 'set', 'of', '21', 'sketch/image', 'pairs', '(three', 'sketches,', 'with', 'seven', 'corresponding', 'images', 'each,', 'as', 'shown', 'in', 'Fig.', '2', ')', 'together', 'with', 'their', 'corresponding', 'ratings', 'to', 'each', 'participant..', 'The', 'idea', 'is', 'that', 'human', 'subjects', 'use', 'this', 'information', 'for', 'anchoring,', 'creating', 'a', 'bias', 'toward', 'these', 'ratings', 'for', 'similar', 'matches:', 'if', 'human', 'subjects', 'are', 'able', 'to', 'consistently', 'rank', 'the', 'likeness', 'of', 'sketches', 'and', 'images,', 'then', 'anchoring', 'works.', 'If', 'humans', 'are', 'generally', 'unable', 'to', 'consistently', 'assess', 'the', 'matches,', 'then', 'the', 'effect', 'of', 'examples', 'would', 'quickly', 'diffuse', 'and', 'subjects', 'would', 'rate', 'the', 'matches', 'randomly', 'or', 'following', 'some', 'mechanism', 'that', 'we', 'are', 'not', 'aware', 'of.', 'We', 'include', 'the', 'set', 'of', 'sketch/image', 'pairs', 'used', 'for', 'anchoring', 'randomly', 'into', 'the', 'later', 'part', 'of', 'the', 'experiment..', 'If', 'consistent', 'similarity', 'rating', 'based', 'on', 'visual', 'perception', 'was', 'impossible,', 'this', 'would', 'now', 'be', 'easy', 'to', 'detect', 'by', 'analyzing', 'if', 'subjects', 'significantly', 'changed', 'their', 'rating', 'for', 'the', 'examples', 'or', 'if', 'ratings', 'were', 'inconsistent', 'across', 'subjects', 'despite', 'the', 'anchoring.'], ['It', 'is', 'clear', 'that', 'the', 'sketch/image', 'pair', 'cannot', 'be', 'shown', 'too', 'short', 'or', 'too', 'long.', 'Our', 'setup', 'leads', 'to', 'disks', 'with', 'a', 'radius', 'of', 'roughly', '2', 'cm', 'being', 'projected', 'into', 'the', 'foveal', 'region', 'of', 'the', 'eye.', 'This', 'means', 'a', 'human', 'observer', 'needs', 'saccades', 'to', 'compare', 'features', 'in', 'the', 'sketch', 'and', 'the', 'image.', 'Fixations', 'between', 'saccades', 'are', 'rarely', 'shorter', 'than', '200', 'ms', 'across', 'different', 'visual', 'activities', '[11]', '.', 'In', 'a', 'similar', 'experimental', 'setup', 'and', 'comparable', 'content,', 'a', 'recent', 'study', 'reports', 'a', 'mean', 'time', 'of', '250', 'ms', 'between', 'saccades', '[12]', '.', 'Thus,', 'comparing', 'few', 'features', 'in', 'the', 'pair', 'requires', 'at', 'least', 'roughly', 'a', 'second,', 'perhaps', 'more.', 'In', 'a', 'preliminary', 'experiment,', 'our', 'participants', 'found', 'display', 'times', 'less', 'than', '2', 'seconds', 'exhausting.', 'On', 'the', 'other', 'hand,', 'more', 'time', 'leads', 'to', 'more', 'high-level', 'considerations', 'and', 'more', 'noisy', 'data.', 'We', 'therefore', 'settled', 'for', '2', 'seconds', 'presentation', 'time.', 'This', 'also', 'helped', 'to', 'keep', 'the', 'time', 'for', 'rating', 'the', 'set', 'of', '1,240', 'sketch/image', 'displays', 'to', 'roughly', 'an', 'hour,', 'which', 'we', 'considered', 'tolerable.'], ['Given', 'the', 'experiment,', 'we', 'now', 'discuss', 'how', 'to', 'evaluate', 'the', 'results.', 'We', 'propose', 'to', 'base', 'the', 'evaluation', 'on', 'rank', 'correlation', 'and', 'show', 'how', 'this', 'approach', 'can', 'also', 'be', 'used', 'to', 'compare', 'automatic', 'SBIR', 'systems', 'against', 'the', 'human', 'data', 'gathered', 'in', 'the', 'experiment.'], ['Let', 'x', 'be', 'a', 'list', 'of', 'n', 'ratings', 'with', 'x', 'i', 'denoting', 'the', 'rating', 'assigned', 'to', 'the', 'ith', 'element.', "Kendall's", 'tau', '[13]', ',', '[14]', 'is', 'a', 'widely', 'used', 'measure', 'of', 'rank', 'correlation,', 'allowing', 'to', 'assess', 'the', 'degree', 'of', 'correspondence', 'between', 'two', 'ordered', 'lists', 'of', 'the', 'same', 'elements', 'and', 'determine', 'the', 'significance', 'of', 'this', 'correspondence.', 'In', 'our', 'setup,', 'these', 'lists', 'are', 'generated', 'in', 'two', 'areas:', 'first,', 'participants', 'of', 'the', 'user', 'study', 'rank', 'the', 'benchmark', 'images', 'with', 'respect', 'to', 'a', 'benchmark', 'sketch', '(visualized', 'in', 'Fig.', '3', ').', 'Second,', 'SBIR', 'systems', 'rank', 'the', 'results', 'of', 'a', 'query', 'with', 'respect', 'to', 'a', 'query', 'sketch.', 'Contrary', 'to', 'linear', 'correlation,', 'as', 'used', 'in', 'a', 'benchmark', 'related', 'to', 'ours', '[15]', ',', "Kendall's", 'rank', 'correlation', 'coefficient', 'is', 'independent', 'of', 'the', 'scale', 'and', 'distribution', 'of', 'the', 'data', 'to', 'be', 'compared.', 'Therefore,', 'it', 'facilitates', 'a', 'direct', 'comparison', 'of', 'the', 'experimental', 'data', '(on', 'a', 'scale', 'from', '1', 'to', '7)', 'with', 'the', 'results', 'of', 'any', 'retrieval', 'system,', 'given', 'the', 'particular', 'system', 'is', 'able', 'to', 'generate', 'a', 'weak', 'ordering', 'of', 'the', 'result', 'images', 'when', 'querying', 'with', 'a', 'particular', 'sketch..', "Kendall's", 'rank', 'correlation', 'coefficient', 'is', 'computed', 'as', 'the', 'difference', 'between', 'the', 'number', 'of', 'concordant', '(similarly', 'ordered)', 'and', 'discordant', '(reversely', 'ordered)', 'pairs', 'of', 'ranks', 'ðx', 'i', ';', 'y', 'i', 'Þ', 'and', 'ðx', 'j', ';', 'y', 'j', 'Þ', 'in', 'two', 'ordered', 'sets', 'x', 'and', 'y.', 'A', 'pair', 'is', 'concordant', 'if', 'ðx', 'i', 'À', 'x', 'j', 'Þðy', 'i', 'À', 'y', 'j', 'Þ', '>', '0', 'and', 'discordant', 'if', 'ðx', 'i', 'À', 'x', 'j', 'Þðy', 'i', 'À', 'y', 'j', 'Þ', '<', '0.', 'Normalization', 'by', 'the', 'total', 'number', 'of', 'pairs', 'is', 'applied', 'to', 'gain', 'independence', 'of', 'the', 'test', 'set', 'size.', 'Let', 'n', 'c', 'denote', 'the', 'number', 'of', 'concordant', 'and', 'n', 'd', 'denote', 'the', 'number', 'of', 'discordant', 'pairs,', 'then', 'is', 'defined', 'as.', 'According', 'to', 'this', 'definition,', 'can', 'take', 'values', 'in', 'the', 'range', '½À1;', '1,', 'with', 'À1', 'indicating', 'a', 'reversed', 'list,', '0', 'indicating', 'that', 'the', 'two', 'lists', 'are', 'independent,', 'and', '1', 'indicating', 'that', 'the', 'two', 'lists', 'have', 'the', 'same', '(weak)', 'order..', 'To', 'summarize,', 'we', 'suggest', 'to', 'use', "Kendall's", 'tau', 'as', 'a', 'measure', 'to', 'compare', 'the', 'performance', 'of', 'an', 'SBIR', 'system', 'against', 'the', 'data', 'gathered', 'in', 'the', 'user', 'study,', 'thus', 'defining', 'a', 'general', 'benchmark', 'for', 'SBIR', 'systems.'], ['It', 'is', 'common', 'in', 'our', 'setting', 'that', 'the', 'ranks', 'of', 'pairs', 'in', 'a', 'list', 'are', 'tied,', 'i.e.,', 'have', 'the', 'same', 'rank:', 'subjects', 'evaluated', '40', 'images', 'on', 'a', 'discrete', 'scale', 'from', '1', 'to', '7,', 'necessarily', 'resulting', 'in', 'a', 'certain', 'number', 'of', 'ties.', 'Also,', 'an', 'SBIR', 'system', 'may', 'produce', 'exactly', 'the', 'same', 'score', 'for', 'two', 'images', 'in', 'the', 'collection,', 'thus', 'possibly', 'producing', 'tied', 'pairs.', 'Our', 'measure', 'of', 'correlation', 'needs', 'to', 'be', 'able', 'to', 'deal', 'with', 'those', 'cases;', 'the', 'denominator', 'in', '(1)', 'is', 'too', 'large', 'in', 'the', 'case', 'of', 'ties', 'and', 'thus', 'needs', 'to', 'be', 'adapted', 'to', 'keep', 'the', 'correlation', 'coefficient', 'in', 'the', 'range', '½À1;', '1..', 'Let', 'N', '¼', 'nðn', 'À', '1Þ=2', '(number', 'of', 'possible', 'pairs', 'in', 'a', 'set', 'of', 'n', 'distinct', 'elements),', 'U', '¼', '.', '(number', 'of', 'ties', 'in', 'the', 'second', 'list).', "Kendall's", 'rank', 'correlation', 'coefficient', 'adapted', 'to', 'the', 'case', 'of', 'ties', 'is', 'denoted', 'as', 'b', 'and', 'defined', 'as', '[14]', ':'], ['Assuming', 'the', 'null', 'hypothesis', 'of', 'no', 'correlation', 'H', ':', '¼', '0', 'is', 'true,', 'we', 'are', 'interested', 'in', 'the', 'probability', 'of', 'obtaining', 'a', 'correlation', 'coefficient', 'greater', 'or', 'equal', 'than', 'the', 'actually', 'observed', 'correlation', 'coefficient', 'o', 'by', 'chance', '(p-value).', 'In', 'other', 'words:', 'each', 'observed', 'rank', 'correlation', 'value', 'o', 'comes', 'with', 'a', 'corresponding', 'p-value,', 'with', 'lower', 'p-values', 'indicating', 'that', 'it', 'is', 'less', 'likely', 'to', 'observe', '!', 'o', 'in', 'case', 'the', 'two', 'ordered', 'lists', 'are', 'actually', 'not', 'correlated.', "Kendall's", 'tau', 'allows', 'for', 'a', 'very', 'convenient', 'assessment', 'of', 'the', 'significance', 'of', 'a', 'correlation', 'value,', 'since', 'the', 'distribution', 'of', 'correlation', 'value', 'frequencies', 'quickly', 'tends', 'to', 'a', 'Gaussian', 'distribution', 'with', '2', '¼', 'ð4n', 'þ', '10Þ=9nðn', 'À', '1Þ', 'for', 'n', '>', '10.', 'For', 'smaller', 'sample', 'sizes,', 'the', 'exact', 'distribution', 'can', 'instead', 'be', 'easily', 'computed.', 'In', 'the', 'case', 'of', 'ties,', 'the', 'distribution', 'also', 'tends', 'to', 'a', 'Gaussian,', 'however,', 'with', 'a', 'different', 'standard', 'deviation', '[14]', '..', 'Throughout', 'the', 'paper,', 'we', 'assess', 'significance', 'of', 'correlation', 'coefficients', 'using', 'a', 'significance', 'threshold', 'of', '¼', '0:05,', 'i.e.,', 'accepting', 'the', 'null', 'hypothesis', 'of', 'no', 'correlation', 'for', 'p', '!', '.', 'For', 'p', '<', ',', 'we', 'reject', 'the', 'null', 'hypothesis', 'and', 'instead', 'accept', 'the', 'hypothesis', 'that', 'the', 'two', 'ordered', 'lists', 'indeed', 'correlate.'], ['We', 'propose', 'to', 'use', 'the', '31', 'ordered', 'lists', '(one', 'per', 'sketch)', 'resulting', 'from', 'averaging', 'the', 'ratings', 'over', 'the', '28', 'study', 'participants', 'as', '"ground', 'truth."', 'Each', 'of', 'these', 'lists', 'can', 'be', 'seen', 'as', 'a', 'consensus', 'between', 'the', 'participants', 'and', 'is', 'optimal', 'in', 'the', 'sense', 'that', 'it', 'maximizes', 'the', 'average', "Spearman's", 'rho', 'rank', 'correlation', 'coefficient', 'between', 'the', '28', 'lists', 'from', 'the', 'data', 'and', 'the', 'estimated', 'one', '[14]', '..', 'We', 'use', 'the', 'resulting', '31', 'benchmark', 'lists', 'to', 'evaluate', 'other', 'SBIR', "system's", 'results', 'by', 'determining', "Kendall's", 'rank', 'correlation', 'coefficient', 'b', 'for', 'each', 'of', 'the', 'corresponding', '31', 'ordered', 'lists', 'generated', 'by', 'the', 'system.', 'Benchmarking', 'a', 'system', 'thus', 'results', 'in', '31', 'correlation', 'coefficients', 'that', 'for', 'each', 'sketch', 'indicate', 'how', 'well', 'the', 'system', 'ranks', 'the', 'benchmark', 'images', 'compared', 'to', 'human', 'judgement.', 'Throughout', 'this', 'paper,', 'we', 'report', 'the', 'average', 'of', 'those', '31', 'correlation', 'coefficients', 'as', 'the', 'performance', 'indicator', 'for', 'a', 'specific', 'system..', 'The', 'complete', 'set', 'of', 'sketches', 'and', 'images', 'selected', 'for', 'the', 'benchmark', 'is', 'shown', 'in', 'the', 'additional', 'material.', 'The', 'images', 'corresponding', 'to', 'the', 'sketches', 'are', 'sorted', 'according', 'to', 'the', 'order', 'defined', 'by', 'the', 'benchmark,', 'i.e.,', 'a', 'retrieval', 'system', 'achieves', 'high', 'correlation', 'values', 'if', 'it', 'returns', 'the', 'benchmark', 'images', 'in', 'the', 'same', 'order', 'as', 'shown', 'in', 'the', 'additional', 'material..', 'To', 'summarize,', 'benchmarking', 'an', 'arbitrary', 'SBIR', 'is', 'now', 'straightforward', 'and', 'requires', 'the', 'following', 'steps:.', '.', 'Place', 'the', '1,240', 'benchmark', 'images', 'in', 'the', 'collection', 'of', '100,000', 'images', '(note', 'that', 'this', 'is', 'not', 'strictly', 'necessary', 'when', 'using', 'global', 'descriptors).', '.', 'For', 'each', 'of', 'the', '31', 'benchmark', 'sketches,', 'perform', 'a', 'query', 'on', 'the', 'resulting', 'collection', 'of', '101,240', 'images', 'and', 'determine', 'the', 'ranking', 'of', 'the', 'corresponding', 'benchmark', 'images', 'in', 'the', 'result', 'set.', '.', 'For', 'each', 'of', 'the', 'resulting', '31', 'ordered', 'lists,', 'compute', 'b', 'against', 'the', 'corresponding', '"ground-truth"', 'list.', 'The', 'resulting', 'values', 'can', 'be', 'compared', 'to', 'the', 'rank', 'correlation', 'coefficient', 'across', 'subjects', 'in', 'the', 'study', '(see', 'Fig.', '5', ').', 'An', 'ideal', 'system', 'would', 'perform', 'similar', 'to', 'human', 'subjects.'], ['We', 'gathered', 'our', 'data', 'using', 'the', 'experimental', 'setup', 'described', 'in', 'Section', '2.3.', 'Our', '28', 'participants', 'had', 'an', 'average', 'age', 'of', '25.5', 'years', '(AE3:1),', '23', 'were', 'male,', 'five', 'female.'], ['To', 'understand', 'if', 'the', '7-point', 'scale', 'we', 'used', 'in', 'the', 'experiment', 'is', 'not', 'introducing', 'noise,', 'we', 'analyzed', 'the', 'distribution', 'of', 'ratings', 'by', 'grouping', 'the', 'ratings', 'according', 'to', 'the', 'median', 'of', 'the', '28', 'ratings', 'for', 'each', 'sketch/image', 'pair', 'p', 'i', ';', 'i', '2', 'f1;', '.', '.', '.', ';', '1240g.', 'Let', 'r', 'i;j', 'denote', 'the', 'rating', 'of', 'p', 'i', 'by', 'participant', 'j', '(j', '2', 'f1;', '.', '.', '.', ';', '28g).', 'We', 'first', 'compute', 'the', 'median', 'rating', 'm', 'i', 'for', 'each', 'p', 'i', 'as', 'm', 'i', '¼', 'median', 'j', 'ðr', 'i;j', 'Þ.', 'We', 'then', 'define', 'the', 'multiset', 'of', 'ratings', 'that', 'fall', 'into', 'a', 'common', 'bin', 'k', 'when', 'binning', 'according', 'to', 'their', 'associated', 'median', 'rating', 'm', 'i', 'as.', 'For', 'each', 'B', 'k', ',', 'we', 'show', 'the', 'mean', 'and', 'standard', 'deviation', 'in', 'Fig.', '8a', 'and', 'the', 'histogram', 'in', 'Fig.', '8b', '.', 'The', 'analysis', 'shows', 'that', 'the', 'number', 'of', 'ratings', 'is', 'roughly', 'uniform', 'over', 'all', 'seven', 'bins', 'with', 'a', 'slight', 'peak', 'at', 'bin', '6.', 'The', 'variance', 'of', 'the', 'ratings', 'is', 'smallest', 'for', 'the', 'lower', 'and', 'higher', 'bins', 'and', 'peaks', 'at', 'bin', '4', 'with', '¼', '1:4692,', 'i.e.,', 'participants', 'were', 'quite', 'consistent', 'for', 'good', 'and', 'poor', 'matching', 'pairs', 'and', 'slightly', 'less', 'consistent', 'for', 'the', 'average', 'matches.'], ['We', 'have', 'performed', 'a', 'correlation', 'analysis', 'of', 'the', 'rating', 'results', 'of', 'this', 'study.', 'As', 'discussed,', 'we', 'use', "Kendall's", 'rank', 'correlation', 'coefficient', 'b', '.', 'First,', 'we', 'analyzed', 'the', 'correlation', 'of', 'ratings', 'throughout', 'the', 'experiment', 'for', 'the', 'sketch/image', 'pairs', 'used', 'for', 'anchoring.', '77.4', 'percent', 'of', 'the', 'resulting', 'correlation', 'coefficients', 'can', 'be', 'accepted', 'as', 'significant,', 'the', 'resulting', 'distribution', 'of', 'values', 'is', 'shown', 'in', 'Fig.', '4', '.', 'We', 'conclude', 'from', 'this', 'analysis', 'that', 'for', 'most', 'subjects,', 'anchoring', 'is', 'significant,', 'i.e.,', 'we', 'can', 'accept', 'the', 'hypothesis', 'that', 'the', 'ratings', 'given', 'by', 'the', 'participants', 'are', 'correlated', 'with', 'the', 'ratings', 'shown', 'in', 'the', 'anchoring', 'process..', 'Second,', 'we', 'compared', 'the', 'ratings', 'across', 'subjects.', 'For', 'each', 'sketch,', 'we', 'computed', 'b', 'for', 'all', 'possible', 'pairs', 'of', 'lists', 'generated', 'by', 'the', '28', 'subjects.', 'This', 'resulted', 'in', 'a', 'total', 'of', '378', 'correlation', 'values', 'per', 'sketch-the', 'number', 'of', 'possible', 'pairs', 'for', '28', 'participants.', 'The', 'analysis', 'reveals', 'that', 'the', 'ratings', 'across', 'subjects', 'are', 'mostly', 'consistent,', '86', 'percent', 'of', 'the', 'interuser', 'correlation', 'values', 'lie', 'over', 'the', 'significance', 'threshold', 'for', '¼', '0:05..', 'While', 'b', 'describes', 'the', 'correlation', 'between', 'two', 'sets,', 'we', 'are', 'also', 'interested', 'in', 'a', 'measure', 'of', 'agreement', 'among', 'the', '28', 'participants', '(per', 'sketch)', 'as', 'a', 'group.', 'This', 'is', 'known', 'as', 'the', 'problem', 'of', 'm', 'ordered', 'lists', 'and', 'formalized', 'by', "Kendall's", 'W', '[14]', '.', 'We', 'have', 'computed', "Kendall's", 'W', 'for', 'all', '31', 'sketchesthe', 'results', 'show', 'that', 'for', 'most', 'sketches,', 'the', 'agreement', 'between', 'the', 'study', 'participants', 'is', 'strong,', 'with', 'all', 'correlation', 'values', 'being', 'highly', 'significant..', 'Altogether,', 'we', 'take', 'this', 'as', 'a', 'strong', 'indication', 'that', 'humans', 'agree', 'on', 'how', 'well', 'a', 'sketch', 'fits', 'a', 'natural', 'image-a', 'further', 'indication', 'that', 'sketches', 'can', 'be', 'used', 'in', 'image', 'retrieval', 'systems', 'and', 'an', 'additional', 'motivation', 'to', 'develop', 'systems', 'that', 'match', "humans'", 'expectations.', 'This', 'also', 'indicates', 'that', 'a', 'benchmark', 'created', 'from', 'these', 'data', 'is', 'sound', 'and', 'general', 'enough', 'to', 'cover', 'the', 'similarity', 'perception', 'of', 'a', 'large', 'body', 'of', 'different', 'users.', 'For', 'each', 'sketch,', 'we', 'visualize', 'the', 'distribution', 'of', 'b', 'and', 'the', 'value', 'of', 'W', 'in', 'Fig.', '5', '..', 'Third,', 'we', 'analyzed', 'how', 'human', 'subjects', 'perform', 'against', 'the', 'benchmark.', 'Note', 'that', 'in', 'this', 'case,', "Kendall's", 'W', 'is', 'not', 'Fig.', '4', '.', 'For', 'each', 'subject,', 'the', 'plot', 'shows', 'three', 'correlations.', 'These', 'values', 'denote', 'how', 'well', 'the', "subject's", 'ratings', 'correlate', 'with', 'the', 'ratings', 'defined', 'in', 'the', 'anchoring', 'process', 'for', 'the', 'three', 'sketches', 'shown', 'in', 'Fig.', '2', '..', 'appropriate', 'since', 'we', 'are', 'indeed', 'only', 'interested', 'in', 'the', 'correspondence', 'between', 'two', 'ordered', 'lists:', 'the', "benchmark's", 'and', 'a', "subject's.", 'For', 'each', 'subject,', 'we', 'therefore', 'computed', '31', 'b', 'coefficients', '(one', 'for', 'each', 'sketch),', 'estimating', 'the', 'correspondence', 'between', 'the', "subject's", 'data', 'and', 'the', 'benchmark.', 'The', 'analysis', 'shows', 'that', '99', 'percent', 'of', 'the', 'correlation', 'coefficients', 'lie', 'over', 'the', 'significance', 'threshold', 'for', '¼', '0:05.', 'We', 'take', 'this', 'as', 'a', 'strong', 'indication', 'that', 'the', 'proposed', 'benchmark', 'adequately', 'reflects', 'human', 'assessment', 'of', 'shape/image', 'similarity.', 'We', 'plot', 'the', 'resulting', 'distribution', 'of', 'b', 'coefficients', 'in', 'Fig.', '6', '.', 'Additionally,', 'we', 'show', 'the', 'sketches', 'with', 'highest', 'and', 'lowest', 'inter-user', 'correlation', 'values', 'in', 'Fig.', '9', '.'], ['We', 'propose', 'using', 'a', 'bag-of-features', 'approach', '[5]', 'for', 'SBIR', 'employing', 'small', 'local', 'descriptors.', 'This', 'allows', 'basing', 'the', 'search', 'on', 'a', 'standard', 'inverted', 'index', 'data', 'structure', 'from', 'text', 'retrieval', '[16]', '.', 'We', 'discuss', 'the', 'four', 'main', 'components', 'of', 'our', 'retrieval', 'system:.', '1.', 'definition', 'and', 'representation', 'of', 'local', 'features,', '2.', 'sampling', 'strategies', 'defining', 'the', 'coordinates', 'in', 'image', 'space', 'of', 'the', 'features', 'to', 'be', 'extracted,', '3.', 'codebook', 'definition,', 'and', '4.', 'the', 'actual', 'search', 'algorithm', 'based', 'on', 'an', 'inverted', 'index.', 'While', 'we', 'rely', 'on', 'existing', 'methods', 'proposed', 'in', 'the', 'literature', 'for', 'sampling,', 'learning', 'a', 'codebook,', 'and', 'defining', 'the', 'search', 'algorithm,', 'our', 'work', 'focuses', 'on', 'feature', 'representation,', 'as', 'this', 'is', 'the', 'part', 'where', 'SBIR', 'systems', 'differ', 'strongly', 'from', 'classical', 'example-based', 'retrieval', 'systems.', 'In', 'particular,', 'we', 'evaluate', 'which', 'feature', 'representations', 'are', 'best', 'suited', 'for', 'implementing', 'a', 'bag-of-features-based', 'SBIR', 'system', 'by', 'searching', 'the', 'parameter', 'space', 'for', 'well', 'performing', 'combinations.', 'We', 'base', 'our', 'performance', 'evaluation', 'on', 'the', 'benchmark', 'defined', 'in', 'Section', '3,', 'i.e.,', 'on', 'real', "user's", 'preferences.'], ['Using', 'inverted', 'indices', 'for', 'image', 'retrieval', 'has', 'been', 'inspired', 'by', 'techniques', 'from', 'text', 'retrieval', '[4]', 'and', 'indeed', 'bears', 'many', 'similarities', 'with', 'text', 'retrieval', 'approaches.', 'However,', 'there', 'are', 'several', 'main', 'differences:', '.', 'Text', 'documents', 'are', 'naturally', 'separated', 'into', 'atomic,', 'semantically', 'meaningful', 'entities', '(words),', 'pixels', 'alone,', 'however,', 'do', 'not', 'contain', 'sufficient', 'information.', 'Instead,', 'larger', 'image', 'patches', 'are', 'considered', 'as', 'a', 'whole', 'and', 'a', 'feature', 'encoding', 'the', 'essential', 'information', 'in', 'this', 'local', 'area', 'is', 'extracted.', '.', 'No', 'natural', 'boundary', 'between', 'image', 'patches', 'typically', 'exists;', 'instead,', 'the', 'locations', 'of', 'patches', 'in', 'image', 'space', 'need', 'to', 'be', 'sampled.', '.', 'Contrary', 'to', 'text', 'retrieval', '(fixed', 'number', 'of', 'distinct', 'words),', 'a', 'gigantic', 'number', 'of', 'different', 'features', 'could', 'be', 'extracted', 'from', 'images.', 'Therefore,', 'a', 'finite-sized', 'visual', 'codebook', 'of', 'visual', 'words', 'is', 'typically', 'generated', 'which', 'assigns', 'perceptually', 'similar', 'features', 'to', 'the', 'same', 'visual', 'word.', 'We', 'next', 'quickly', 'discuss', 'the', 'design', 'choices', 'made', 'in', 'our', 'system', 'for', 'addressing', 'those', 'issues', 'and', 'then', 'discuss', 'the', 'proposed', 'feature', 'representations', 'that', 'we', 'have', 'identified', 'as', 'suitable', 'for', 'sketch-based', 'image', 'retrieval', 'in', 'more', 'detail.'], ['Initial', 'experiments', 'with', 'the', 'SIFT', 'interest', 'point', 'detector', '[3]', 'have-as', 'expected-shown', 'that', 'very', 'few', 'to', 'no', 'interest', 'points', 'are', 'detected', 'on', 'our', 'binary', 'sketches.', 'Instead,', 'we', 'perform', 'random', 'sampling', 'in', 'image', 'space', 'which', 'has', 'been', 'shown', 'to', 'work', 'well', 'in', 'a', 'bag-of-features', 'setup', 'for', 'image', 'classification', '[17]', '.', 'We', 'employ', 'two', 'different', 'strategies,', 'tailored', 'to', 'the', 'features', 'to', 'be', 'extracted', 'from', 'the', 'sample', 'regions:', '1)', 'generating', '500', 'random', 'samples', 'in', 'image', 'space', 'and', '2)', 'generating', '500', 'random', 'samples', 'on', 'the', 'sketch', 'lines.', 'In', 'the', 'next', 'section,', 'we', 'describe', 'which', 'strategy', 'is', 'appropriate', 'for', 'which', 'descriptor.'], ['We', 'learn', 'codebooks', 'from', 'a', 'set', 'of', '20,000', 'training', 'images', '(disjoint', 'from', 'the', 'set', 'of', 'query', 'images).', 'For', 'each', 'training', 'image,', 'we', 'extract', '500', 'features', 'sampled', 'on', 'random', 'locations', 'and', 'perform', 'k-means', 'clustering', 'on', 'the', 'resulting', 'set', 'of', '10', 'million', 'feature', 'vectors.', 'We', 'evaluate', 'the', 'influence', 'of', 'the', 'codebook', 'size', 'on', 'retrieval', 'performance', 'by', 'testing', 'the', 'following', 'range', 'of', 'codebook', 'sizes:', '250,', '500,', '750,', 'and', '1,000.'], ['We', 'rely', 'on', 'standard', 'methods', 'for', 'creating', 'and', 'querying', 'the', 'inverted', 'index', '[16]', ',', '[18]', '.', 'Creating', 'the', 'index', 'in', 'our', 'implementation', 'for', 'one', 'million', 'images', 'takes', 'roughly', '4', 'hours,', 'a', 'query', 'for', '50', 'images', 'takes', 'a', 'couple', 'of', 'seconds,', 'depending', 'on', 'the', 'number', 'of', 'distinct', 'visual', 'words', 'in', 'the', 'query.', 'Note', 'that', 'those', 'timings', 'could', 'be', 'easily', 'improved,', 'this,', 'however,', 'was', 'not', 'the', 'focus', 'of', 'this', 'work.'], ['In', 'this', 'section,', 'we', 'describe', 'our', 'approach', 'to', 'identifying', 'suitable', 'local', 'descriptors', 'for', 'SBIR,', 'capable', 'of', 'capturing', 'essential', 'properties', 'of', 'local', 'sketch', 'areas.', 'We', 'start', 'with', 'two', 'popular', 'feature', 'representation', 'approaches,', 'that', 'naturally', 'seem', 'to', 'be', 'suitable', 'for', 'representing', 'our', 'binary', 'sketches:', '1)', 'shape', 'contexts', '[19]', 'and', '2)', 'histograms', 'of', 'oriented', 'gradients', '[3]', ',', '[20]', '.', 'We', 'then', 'explore', 'if', 'and', 'how', 'those', 'descriptors', 'need', 'to', 'be', 'modified', 'to', 'work', 'well', 'for', 'SBIR', 'and', 'evaluate', 'a', 'large', 'range', 'of', 'parameter', 'settings', 'against', 'our', 'benchmark', 'to', 'identify', 'the', 'best', 'performing', 'descriptor.', 'We', 'show', 'the', 'results', 'of', 'our', 'evaluation', 'in', 'Fig.', '11', '..', 'When', 'extracting', 'descriptors', 'from', 'photographs,', 'we', 'apply', 'the', 'Canny', 'edge', 'detector', '[21]', 'in', 'a', 'preprocess.', 'We', 'use', 'a', '(rather', 'large)', '¼', '5', 'in', 'order', 'to', 'suppress', 'small', 'lines', 'that', 'are', 'unlikely', 'to', 'be', 'sketched', 'by', 'users.', 'We', 'use', 'a', 'low', 'threshold', 'of', '0.05', 'and', 'a', 'high', 'threshold', 'of', '0.2', '(both', 'thresholds', 'are', 'taken', 'relative', 'to', 'the', 'minimum/maximum', 'magnitude', 'of', 'gradient', 'remaining', 'after', 'the', 'nonmaximum', 'suppression', 'step).'], ['Shape', 'context', 'features', 'encode', 'the', 'distribution', 'of', 'sample', 'point', 'locations', 'on', 'the', 'shape', 'relative', 'to', 'each', 'of', 'the', 'other', 'sample', 'points', '(see', 'Fig.', '10', ',', 'left).', 'The', 'distribution', 'is', 'encoded', 'as', 'a', 'log-polar', 'histogram', 'with', 'five', 'bins', 'for', '(logarithmic)', 'distance', 'and', '12', 'bins', 'for', 'angles.', 'Because', 'each', 'shape', 'context', 'encodes', 'information', 'about', 'all', 'the', 'other', 'sample', 'points,', 'it', 'inherently', 'captures', 'global', 'information', 'about', 'the', 'shape.', 'For', 'our', 'purposes,', 'we', 'localize', 'shape', 'contexts', 'by', 'computing', 'the', 'distribution', 'only', 'within', 'local', 'regions', 'of', 'the', 'sample', 'point', 'with', 'a', 'fixed', 'radius.', 'We', 'sample', '500', 'points', 'on', 'the', 'feature', 'lines', 'and', 'use', 'several', 'local', 'radii', '(in', 'percent', 'of', 'the', 'image', 'diagonal):', '5,', '10,', '15,', '20,', '25,', 'and', '30.', 'Additionally,', 'we', 'test', 'the', 'global', 'variant,', 'encoding', 'for', 'each', 'sample', 'point', 'the', 'distribution', 'of', 'all', 'other', 'points', 'on', 'the', 'shape.', 'We', 'sample', 'only', 'on', 'the', 'features', 'lines,', 'corresponding', 'to', 'sketched', 'lines', 'for', 'queries', 'and', 'Canny', 'lines', 'in', 'the', 'case', 'of', 'images.'], ['We', 'introduce', 'the', 'Spark', 'feature', 'as', 'an', 'extension', 'of', 'shape', 'context', 'features,', 'specialized', 'for', 'the', 'needs', 'of', 'SBIR.', 'While', 'they', 'bear', 'some', 'similarity', 'with', 'shape', 'contexts', 'regarding', 'the', 'information', 'that', 'is', 'encoded,', 'both', 'the', 'way', 'that', 'other', 'sample', 'points', 'on', 'the', 'sketch', 'are', 'generated', 'as', 'well', 'as', 'the', 'local', 'region', 'they', 'describe', 'is', 'different.', 'First,', 'we', 'generate', 'random', 'sample', 'points', 'in', 'the', 'image', 'domain.', 'Note', 'that', 'those', 'sample', 'points', 'must', 'not', 'lie', 'on', 'sketch', 'lines,', 'instead', 'they', 'are', 'generated', 'to', 'lie', 'in', 'the', 'empty', 'areas', 'between', 'feature', 'lines.', 'For', 'each', 'sample', 'point,', 'we', 'trace', 'rays', 'of', 'random', 'direction', 'until', 'the', 'first', 'feature', 'line', 'is', 'hit,', 'if', 'any', '(see', 'Fig.', '10,', 'middle)', '.', 'The', 'descriptor', 'then', 'stores', 'the', 'distribution', 'of', 'several', 'properties', 'of', 'the', 'feature', 'lines', 'at', 'the', 'hitpoints.', 'We', 'have', 'tried', 'several', 'variants,', 'including', '2D', 'histograms', 'storing', 'distance/angle', 'information', '(as', 'in', 'the', 'shape', 'context),', 'distance/orientation', 'information', '(orientation', 'of', 'the', 'feature', 'line', 'at', 'the', 'hitpoint),', 'and', 'a', '3D', 'histogram', 'variant,', 'storing', 'distance,', 'angle,', 'and', 'orientation', 'information.'], ['Histograms', 'of', 'oriented', 'gradients', 'are', 'usually', 'implemented', 'as', '3D', 'histograms', 'encoding', 'the', 'distribution', 'of', 'gradient', 'orientations', 'in', 'small', 'local', 'areas', '[3]', ',', '[20]', '.', 'We', 'test', 'the', 'localized', 'variant', 'used', 'in', 'the', 'SIFT', 'descriptor', '(4', 'Â', '4', 'spatial', 'bins', 'and', 'eight', 'bins', 'for', 'gradient', 'orientation)', 'extracted', 'from', 'a', 'range', 'of', 'differently', 'sized', 'local', 'rectangular', 'windows', '(in', 'percent', 'of', 'the', 'image', 'diagonal):', '5,', '10,', '15,', '20,', '25,', 'and', '30.', 'We', 'determine', 'sampling', 'locations', 'by', 'random', 'sampling', 'in', 'image', 'space.'], ['We', 'improve', 'the', 'standard', 'histogram', 'of', 'oriented', 'gradients', 'descriptor', 'by', 'storing', 'only', 'the', 'most', 'dominant', 'sketched', 'feature', 'lines', 'in', 'the', 'histogram', 'of', 'oriented', 'gradients.', 'This', 'helps', 'to', 'make', 'descriptors', 'extracted', 'from', 'user', 'sketches', 'and', 'descriptors', 'extracted', 'from', 'the', 'database', 'image', 'more', 'similar,', 'improving', 'the', 'probability', 'that', 'descriptors', 'that', 'are', 'near', 'in', 'feature', 'space', 'correspond', 'to', 'perceptually', 'good', 'matches.', 'We', 'use', 'Canny', 'lines', 'as', 'an', 'indicator', 'for', 'important', 'features', 'and', 'store', 'only', 'orientations', 'that', 'correspond', 'to', 'data', 'lying', 'under', 'a', 'slightly', 'blurred', 'version', 'of', 'the', 'Canny', 'feature', 'lines.', 'We', 'test', 'the', 'same', 'variants', 'of', 'rectangular', 'windows', 'as', 'with', 'the', 'standard', 'histogram', 'of', 'oriented', 'gradients', 'descriptor.', 'The', 'resulting', 'descriptor', 'is', 'visualized', 'in', 'Fig.', '10', ',', 'right.'], ['We', 'evaluate', 'performance', 'of', 'the', 'local', 'SBIR', 'descriptors', 'using', 'the', 'benchmark', 'defined', 'in', 'Section', '3.', 'We', 'are', 'interested', 'in', 'how', 'the', 'following', 'three', 'parameters', 'influence', 'retrieval', 'performance:', '1)', 'codebook', 'size,', '2)', 'local', 'window', 'size', 'for', 'feature', 'extraction,', 'and', '3)', 'feature', 'representation.', 'For', 'each', 'of', 'the', 'six', 'descriptor', 'variants', '(histogram', 'of', 'oriented', 'gradients,', 'shape', 'context,', 'spark', '(2D,', '2D,', '3D)', ',', 'and', 'SHoG),', 'we,', 'therefore,', 'evaluate', 'all', 'combinations', 'of', 'four', 'different', 'codebook', 'sizes', '(250,', '500,', '750,', 'and', '1,000)', 'and', 'seven', 'local', 'feature', 'window', 'sizes', '(5,', '10,', '15,', '20,', '25,', '30', ',', 'in', 'percent', 'of', 'the', 'image', 'diagonal).', 'We', 'generate', 'the', 'codebooks', 'from', 'a', 'training', 'set', 'of', '20,000', 'images,', 'randomly', 'sampled', 'from', 'nine', 'million', 'Flickr', 'images', 'which', 'is', 'disjoint', 'from', 'the', 'evaluation', 'set.', 'The', 'evaluation', 'set', 'contains', '100,000', 'images', '(also', 'randomly', 'sampled', 'from', 'the', 'same', 'set', 'of', 'nine', 'million', 'Flickr', 'images)', 'plus', 'the', 'additional', '1,240', 'benchmark', 'images.', 'For', 'all', 'combinations,', 'we', 'compute', 'inverted', 'indices', 'using', 'the', 'corresponding', 'codebooks', 'and', 'the', 'descriptors', 'extracted', 'from', 'the', 'evaluation', 'set', 'of', '101,240', 'images..', 'We', 'then', 'benchmark', 'all', 'resulting', 'retrieval', 'systems', '(defined', 'as', 'a', 'combination', 'of', 'feature', 'type,', 'codebook', 'size,', 'and', 'local', 'radius)', 'with', 'the', 'method', 'proposed', 'in', 'Section', '3,', 'i.e.,', 'we', 'perform', 'queries', 'with', 'each', 'of', 'the', '31', 'benchmark', 'sketches', 'and', 'determine', 'the', 'order', 'of', 'the', 'corresponding', '40', 'benchmark', 'images', 'in', 'the', 'result', 'set.', 'We', 'show', 'a', 'visualization', 'of', 'the', 'results', 'in', 'Fig.', '11', 'and', 'comment', 'on', 'the', 'findings', 'in', 'the', 'next', 'section.', 'Additionally,', 'we', 'show', 'several', 'typical', 'retrieval', 'results', 'given', 'a', 'query', 'sketch', 'in', 'Fig.', '12', '.'], ['In', 'this', 'section,', 'we', 'comment', 'on', 'which', 'system', 'parameters', 'mainly', 'influence', 'performance', 'of', 'the', 'proposed', 'local', 'SBIR', 'descriptors', 'and', 'show', 'several', 'experimental', 'applications', 'that', 'benefit', 'from', 'a', 'state-of-the-art', 'SBIR', 'system.', 'We', 'show', 'a', 'demo', 'of', 'the', 'retrieval', 'system', 'as', 'well', 'as', 'all', 'experimental', 'applications', 'in', 'the', 'accompanying', 'video.'], ['We', 'discuss', 'our', 'findings', 'regarding', 'the', 'influence', 'of', 'codebook', 'size,', 'local', 'feature', 'window', 'radius,', 'and', 'feature', 'representation', 'on', 'retrieval', 'performance.', 'Additionally,', 'we', 'present', 'the', 'results', 'of', 'the', 'evaluation', 'of', 'a', 'set', 'of', 'four', 'different', 'global', 'sketch-based', 'descriptors:', 'angular', 'radial', 'partitioning', '(ARP)', '[22]', ',', 'edge', 'histogram', 'descriptor', 'from', 'the', 'MPEG-7', 'standard', '(EHD)', '[23]', 'and', 'the', 'Tensor', 'and', 'HoG', 'descriptors', '[9]', 'and', 'evaluate,', 'whether', 'a', 'bag-of-features-based', 'approach', 'is', 'superior', 'to', 'a', 'global', 'approach.', 'All', 'performance', 'numbers', 'have', 'been', 'determined', 'by', 'evaluating', 'the', 'corresponding', 'retrieval', 'system', 'with', 'a', 'certain', 'set', 'of', 'parameters', 'against', 'the', 'benchmark', 'defined', 'in', 'Section', '3.', 'A', 'combined', 'plot', 'summarizing', 'the', 'results', 'is', 'shown', 'in', 'Fig.', '11', '.'], ['We', 'have', 'generated', 'all', 'codebooks', 'from', 'the', 'same', 'training', 'set', 'of', '20,000', 'images', 'testing', 'a', 'range', 'of', 'different', 'codebook', 'sizes:', '250,', '500,', '750,', 'and', '1,000.', 'Retrieval', 'results', 'generally', 'are', 'best', 'for', 'a', 'codebook', 'size', 'in', 'the', 'order', 'of', '500-1,000', 'visual', 'words.', 'Note', 'that', 'this', 'number', 'is', 'significantly', 'smaller', 'than', 'the', 'number', 'of', 'visual', 'words', 'typically', 'used', 'in', 'example-based', 'image', 'retrieval.', 'We', 'attribute', 'this', 'to', 'the', 'fact', 'that', 'the', 'information', 'encoded', 'in', 'sketches', 'is', 'much', 'sparser', 'compared', 'to', 'images.', 'Additionally,', 'no', 'information', 'about', 'the', 'magnitude', 'of', 'gradients', 'is', 'available.'], ['We', 'find', 'that', 'rather', 'large', 'local', 'feature', 'sizes', 'are', 'necessary', 'to', 'achieve', 'good', 'retrieval', 'results,', 'independent', 'of', 'the', 'feature', 'representation', 'used.', 'If', 'the', 'local', 'window', 'size', 'is', 'chosen', 'too', 'small,', 'the', 'majority', 'of', 'visual', 'words', 'would', 'encode', 'small', 'line', 'segments', 'in', 'a', 'variety', 'of', 'different', 'orientations,', 'which', 'is', 'not', 'discriminative', 'enough', 'to', 'achieve', 'good', 'retrieval', 'results.', 'Note', 'that', 'this', 'result', 'depends', 'on', 'the', 'type', 'of', 'sketch', 'used', 'as', 'input:', 'artists', 'might', 'be', 'able', 'to', 'express', 'fine', 'detail', 'in', 'their', 'drawings', 'and', 'thus', 'might', 'benefit', 'from', 'smaller', 'local', 'windows-all', 'participants', 'that', 'have', 'generated', 'our', 'sketches,', 'however,', 'have', 'drawn', 'only', 'large-scale', 'features.', 'We', 'thus', 'assume', 'that', 'a', 'large', 'majority', 'of', 'potential', 'users', 'would', 'not', 'be', 'able', 'to', 'express', 'fine', 'details', 'in', 'their', 'drawings.', 'This', 'could', 'also', 'explain', 'the', 'good', 'retrieval', 'results', 'of', 'the', 'existing', 'global', 'descriptors.', 'Summarizing,', 'we', 'find', 'that', 'local', 'feature', 'sizes', 'in', 'the', 'order', 'of', '20-25', 'percent', 'of', 'the', "image's", 'diagonal', 'perform', 'best.', 'We', 'discuss', 'the', 'implications', 'of', 'this', 'in', 'Section', '6.'], ['We', 'find', 'that', 'unmodified', 'existing', 'shape', 'descriptors', '(shape', 'context', '[19]', 'and', 'histogram', 'of', 'oriented', 'gradients', '[3]', ',', '[20]', ')', 'are', 'not', 'directly', 'suitable', 'for', 'the', 'task', 'of', 'SBIR.', 'We', 'report', 'the', 'following', 'maximum', 'correlation', 'coefficients', 'achieved', 'for', 'the', 'global', 'descriptors', '(Tensor', 'and', 'HoG):', '0.223.', 'Both', 'the', 'shape', 'context', 'and', 'the', 'histogram', 'of', 'oriented', 'gradients', 'descriptor', 'achieve', 'lower', 'maximum', 'correlation', 'values', 'of', '0.161', 'and', '0.175', 'for', 'the', 'range', 'of', 'parameters', 'tested', 'in', 'this', 'evaluation', 'setup.', 'The', 'proposed', 'spark', 'descriptor', 'attains', 'a', 'maximum', 'correlation', 'coefficient', 'of', '0.217', 'for', 'a', 'codebook', 'size', 'of', '1,000', 'visual', 'words', 'and', 'a', 'local', 'radius', 'of', '20.', 'The', 'histogram', 'of', 'dominant', 'local', 'orientations', 'outperforms', 'the', 'other', 'local', 'descriptors', 'with', 'a', 'maximum', 'correlation', 'coefficient', 'of', '0.277', 'for', 'a', 'codebook', 'size', 'of', '1,000', 'visual', 'words', 'and', 'a', 'radius', 'of', '25', 'percent', 'of', 'the', 'image', 'diagonal.'], ['We', 'present', 'several', 'experimental', 'applications', 'that', 'build', 'on', 'the', 'bag-of-features', 'SBIR', 'system', 'proposed', 'in', 'Section', '4.', 'Note', 'that', 'in', 'each', 'application,', 'users', 'are', 'only', 'asked', 'to', 'draw', 'or', 'edit', 'simple', 'binary', 'feature', 'lines.'], ['We', 'performed', 'initial', 'experiments', 'for', 'sketch-based', 'search', 'on', 'the', 'FERET', 'face', 'database', '[24]', ',', 'containing', '12,000', 'pictures', 'taken', 'from', '1,200', 'human', 'faces.', 'As', 'illustrated', 'in', 'Fig.', '13', ',', 'our', 'SBIR', 'system', 'provides', 'acceptable', 'to', 'good', 'results', 'even', 'when', 'applied', 'in', 'such', 'a', 'specialized', 'search', 'scenario.', 'Controlling', 'the', 'visual', 'search', 'processes', 'through', 'sketch', 'lines', 'opens', 'the', 'question', 'of', 'the', 'drawing', 'interface', 'provided', 'to', 'usersadditional', 'computation', '(i.e.,', 'symmetry', 'enforcement,', 'filtering)', 'could', 'help', 'to', 'improve', 'retrieval', 'results', 'in', 'this', 'scenario.'], ['We', 'propose', 'a', 'simple', 'strategy', 'for', '2D', 'search', 'from', '3D', 'objects:', 'the', 'user', 'starts', 'by', 'choosing', 'a', '3D', 'object', 'in', 'a', 'shape', 'repository', 'and', 'selects', 'an', 'appropriate', 'viewpoint.', 'We', 'render', 'the', 'view', 'using', 'recent', 'line', 'drawing', 'algorithms', '[25]', ',', '[26]', 'and', 'forward', 'to', 'resulting', '2D', 'image', 'to', 'our', 'SBIR', 'search', 'engine.', 'While', 'this', 'method', 'obviously', 'requires', 'access', 'to', 'a', 'browsable', 'database', 'of', '3D', 'objects,', 'we', 'believe', 'that', 'it', 'could', 'be', 'particularly', 'helpful', 'for', '3D', 'artists', 'modeling', 'and', 'texturing', '3D', 'shapes:', 'extracting', 'such', 'data', 'from', 'real', 'photos', 'is', 'a', 'frequent', 'task', 'but', 'the', 'search', 'for', 'adequate', 'images', 'is', 'tedious.', 'Our', 'SBIR', 'system', 'definitely', 'eases', 'the', 'search', 'for', 'matching', 'images,', 'by', 'using', 'the', 'information', 'contained', 'in', 'the', 'designed', '3D', 'shape', 'to', 'query', 'for', 'matching', 'pictures.', 'Note', 'that', 'an', 'image-based', 'search', 'would', 'not', 'work', 'as', 'the', 'main', 'source', 'of', 'information', 'in', 'the', '3D', 'shape', 'is', 'lines', 'and', 'contours.', 'We', 'present', 'an', 'example', 'of', 'such', 'a', '2D', 'search', 'from', '3D', 'input', 'in', 'Fig.', '14.'], ['Video', 'collections', 'could', 'also', 'be', 'understood', 'as', 'large', 'image', 'collections,', 'which', 'again', 'can', 'now', 'be', 'easily', 'searched', 'using', 'the', 'proposed', 'SBIR', 'system.', 'We', 'performed', 'initial', 'experiments', 'by', 'searching', 'within', 'a', 'collection', 'of', '17', 'feature-length', 'movies.', 'We', 'extracted', 'the', 'I-frames', 'of', 'all', 'videos,', 'resulting', 'in', 'a', 'set', 'of', '78,000', 'images', 'which', 'again', 'could', 'be', 'searched', 'using', 'the', 'proposed', 'SBIR', 'system.', 'The', 'result', 'was', 'satisfying', 'for', 'simple', 'scenarios', 'but', 'appears', 'that', 'complex', 'animations', 'will', 'require', 'annotated', 'sketches,', 'containing', 'additional', 'information', 'on', 'movements', '[27]', ',', '[28]', ',', '[29]', '.'], ['There', 'were', 'several', 'design', 'decisions', 'involved', 'in', 'the', 'creation', 'of', 'the', 'user', 'study,', 'all', 'of', 'which', 'influenced', 'the', 'outcome', 'to', 'a', 'certain', 'degree.', 'The', 'choice', 'of', 'sketches', 'and', 'corresponding', 'images', 'certainly', 'has', 'the', 'largest', 'influence:', 'we', 'tried', 'to', 'generate', 'them', 'in', 'such', 'a', 'way', 'that', 'current', 'SBIR', 'systems', 'would', 'be', 'able', 'to', 'achieve', 'reasonable', 'results', 'with', 'the', 'resulting', 'benchmark.', 'Since', 'the', 'matching', 'images', 'were', 'generated', 'from', 'the', 'output', 'of', 'a', 'system', 'using', 'global', 'descriptors,', 'this', 'has', 'some', 'influence', 'on', 'what', 'the', 'benchmark', 'measures:', 'it', 'is', 'not', 'explicitly', 'designed', 'for', 'evaluation', 'of', 'invariance', 'to', 'affine', 'transformations.', 'A', 'further', 'study', 'similar', 'to', 'the', 'one', 'in', 'this', 'paper', 'would', 'be', 'helpful', 'to', 'evaluate', 'those', 'questions.', 'From', 'our', 'experience', 'and', 'the', 'feedback', 'of', 'the', 'study', 'participants,', 'we', 'can,', 'however,', 'report', 'that', 'users', 'still', 'give', 'good', 'ratings', 'if', 'an', 'object', 'is', 'located', 'at', 'a', 'slightly', 'different', 'position', 'than', 'in', 'the', 'sketch,', 'strong', 'offsets,', 'however,', 'typically', 'lead', 'to', 'poor', 'ratings.', 'Also,', 'slight', 'scale', 'invariance', 'is', 'desirable,', 'rotation', 'invariance,', 'however,', 'does', 'not', 'seem', 'to', 'be', 'what', 'the', 'average', 'user', 'is', 'looking', 'for.'], ['We', 'note', 'that', 'the', 'selection', 'process', 'of', 'images', 'to', 'be', 'paired', 'with', 'the', 'sketches', 'is', 'potentially', 'biased.', 'A', 'pool', 'of', 'candidate', 'images', 'has', 'been', 'collected', 'using', 'existing', 'sketch-based', 'retrieval', 'algorithms', 'and', 'it', 'is', 'hard', 'to', 'assess', 'what', 'images', 'have', 'been', 'ignored', 'in', 'this', 'process..', 'Potential', 'bias', 'for', 'the', 'study', 'could', 'only', 'be', 'introduced', 'by', 'systematically', 'ignoring', 'images', 'that', 'would', 'be', 'considered', 'good', 'matches', 'to', 'a', 'sketch', 'at', 'least', 'by', 'some', 'human', 'observers.', 'However,', 'the', 'same', 'could', 'be', 'true', 'for', 'any', 'other', 'automated', 'selection', 'process.', 'And,', 'also', 'a', 'human-guided', 'selection', 'process', 'would', 'likely', 'be', 'biased:', 'unless', 'we', 'know', 'that', 'humans', 'rate', 'the', 'likeness', 'of', 'sketches', 'and', 'images', 'similarly,', 'we', 'would', 'have', 'to', 'involve', 'several', 'subjects', 'in', 'the', 'selection', 'process-whose', 'selection', 'is', 'a', 'sampling', 'problem', 'in', 'itself.', 'More', 'severely,', 'the', 'manual', 'inspection', 'of', 'millions', 'of', 'images', 'will', 'most', 'likely', 'lead', 'to', 'fatigue', 'and', 'frustration,', 'which', 'would', 'bias', 'the', 'selection.', 'Consequently,', 'we', 'believe', 'it', 'is', 'impossible', 'to', 'select', 'a', 'set', 'of', 'images', 'for', 'this', 'task', 'that', 'was', 'arguably', 'unbiased..', 'We', 'like', 'to', 'explain', 'the', 'consequences', 'of', 'a', 'potentially', 'biased', 'images', 'sample:.', '1.', 'Most', 'obviously,', 'the', 'selection', 'based', 'on', 'an', 'existing', 'SBIR', 'system', 'could', 'favor', 'this', 'system', 'in', 'the', 'benchmark.', 'We', 'argue', 'that', 'this', 'is', 'very', 'unlikely,', 'since', 'subjects', 'are', 'not', 'aware', 'of', 'how', 'the', 'images', 'have', 'been', 'selected', 'and,', 'indeed,', 'for', 'a', 'few', 'sketches,', 'we', 'noticed', 'negative', 'correlation', 'values', 'between', "users'", 'rankings', 'and', 'the', "descriptor's", 'ranking.', '2.', 'Our', 'conclusion', 'that', 'humans', 'rank', 'the', 'likeness', 'of', 'sketches', 'and', 'images', 'consistently', 'would', 'have', 'to', 'be', 'limited', 'to', 'the', 'subsample', 'we', 'have', 'actually', 'analyzed,', 'if', 'a', 'significant', 'part', 'of', 'relevant', 'pairs', 'was', 'missing.', 'This', 'is', 'a', 'general', 'problem', 'in', 'any', 'study', 'of', 'this', 'type.', 'However,', 'for', 'the', 'definition', 'of', 'a', 'benchmark,', 'this', 'has', 'little', 'consequences,', 'as', 'the', 'conclusion', 'is', 'still', 'true', 'for', 'the', 'sample', 'used.', '3.', 'Optimizing', 'descriptor', 'parameters', 'based', 'on', 'the', 'benchmark', 'could', 'overfit', 'to', 'the', 'sample,', 'which', 'is', 'not', 'fully', 'representative', 'of', 'ground', 'truth.', 'This', 'is', 'a', 'common', 'problem', 'in', 'any', 'approach', 'that', 'optimizes', 'an', 'algorithm', 'based', 'on', 'sampled', 'data.', 'We', 'can,', 'however,', 'report', 'that', 'algorithms', 'that', 'appear', 'improved', 'based', 'on', 'the', 'benchmark', 'indeed', 'behave', 'better', 'in', 'practical', 'applications.'], ['A', '5', 'or', '7-point', 'Likert', 'scale', 'is', 'commonly', 'used', 'in', 'psychological', 'experiments-possibly', 'because', 'humans', 'are', 'able', 'to', 'discern', 'just', 'around', 'seven', 'values', 'in', 'many', 'types', 'of', 'experiments', '[30]', '.', 'Research', 'on', 'the', 'effect', 'of', 'scales', 'on', 'the', 'outcome', 'of', 'experiments', 'found', 'no', 'statistical', 'difference', 'between', '5', 'and', '7-point', 'scales', '[31]', '.', 'Using', 'a', '7-point', 'scale', 'in', 'our', 'study,', 'none', 'of', 'the', 'subjects', 'reported', 'they', 'disliked', 'the', 'scale', 'or', 'found', 'it', 'more', 'difficult', 'to', 'choose', 'among', 'the', 'pairs', 'that', 'did', 'not', 'match', 'well.'], ['We', 'propose', 'to', 'use', 'the', 'ranking', 'resulting', 'from', 'averaging', 'scores', 'over', 'all', '28', 'study', 'participants', 'as', 'the', 'benchmark', 'ranking.', 'Our', 'analysis', 'reveals', 'that', 'this', 'ranking', 'can', 'be', 'reasonably', 'used', 'as', 'a', 'benchmark', '(see', 'Fig.', '5', ',', 'right).', 'However,', 'certain', 'characteristics', 'of', 'the', 'benchmark', 'might', 'need', 'to', 'be', 'adapted', 'depending', 'on', 'the', 'application', 'and', 'the', 'needs', 'of', 'the', 'specific', 'user', '[8]', '.', 'Also,', 'there', 'are', 'certainly', 'other', 'valid', 'ways', 'of', 'analyzing', 'the', 'resulting', 'data', 'besides', 'rank', 'correlation.', 'We,', 'therefore,', 'provide', 'the', 'complete', 'data', 'set', 'gathered', 'from', 'the', 'user', 'study', 'as', 'an', 'open', 'resource,', 'hoping', 'that', 'this', 'spawns', 'further', 'research', 'on', 'SBIR', 'evaluation.'], ['A', 'search', 'result', 'can', 'only', 'be', 'as', 'good', 'as', 'the', 'input,', 'and', 'therefore', 'the', 'performance', 'of', 'current', 'SBIR', 'systems', 'currently', 'largely', 'depends', 'on', 'a', "user's", 'ability', 'to', 'depict', 'the', 'desired', 'sketch', 'in', 'a', '"realistic"', 'way.', 'Due', 'to', 'the', 'use', 'of', 'coarse', 'histogram', 'binning,', 'the', 'proposed', 'local', 'feature', 'descriptors', 'are', 'tolerant', 'against', 'offsets', 'in', 'position', 'and', 'orientation', 'of', 'the', 'depicted', 'sketch', 'lines-nevertheless,', 'they', 'rely', 'on', 'the', 'fact', 'that', 'the', 'depicted', 'lines', 'exist', 'in', 'the', 'images', 'to', 'be', 'searched.', 'The', 'proposed', '2D', 'search', 'from', '3D', 'input', 'could', 'be', 'an', 'initial', 'approach', 'to', 'overcome', 'those', 'problems,', 'helping', 'users', 'to', 'generate', 'sketches', 'that', 'are,', 'e.g.,', 'perspectively', 'correct.', 'Automatic', 'tools', 'for', 'simplification,', 'smoothing,', 'filtering,', 'and', 'enforcing', 'symmetry', 'in', 'the', 'sketch', 'could', 'support', 'users', 'in', 'generating', '"good"', 'sketches.', 'We', 'can', 'also', 'envision', 'approaches', 'where', 'a', 'system', '"teaches"', 'the', 'user', 'how', 'to', 'draw', 'sketches', 'in', 'order', 'to', 'achieve', 'good', 'retrieval', 'results..', 'Such', 'a', 'system', 'could,', 'e.g.,', 'filter', 'or', 'mark', 'lines', 'in', 'a', 'sketch', 'that', 'would', 'have', 'little', 'influence', 'on', 'the', 'search', 'results.'], ['We', 'found', 'that', 'the', 'local', 'feature', 'size', 'required', 'should', 'be', 'as', 'large', 'as', '25', 'percent', 'of', 'the', 'image', 'diagonal', 'in', 'order', 'to', 'achieve', 'good', 'query', 'results.', 'Note', 'that', 'with', 'such', 'large', 'window', 'sizes,', 'invariance', 'to', 'translations', 'also', 'suffers-for', 'the', 'large', 'sketches', 'typically', 'drawn', 'by', 'users,', 'there', 'is', 'simply', 'not', 'much', 'space', 'left', 'for', 'translating', 'the', 'sketch.', 'This', 'might', 'also', 'explain', 'the', 'good', 'results', 'achieved', 'with', 'global', 'descriptors,', 'which', 'are', 'mostly', 'translation', 'variant.', 'An', 'obvious', 'improvement', 'of', 'the', 'local', 'descriptors-which', 'we', 'left', 'for', 'future', 'work-is', 'making', 'them', 'fully', 'invariant', 'to', 'affine', 'transformations,', 'i.e.,', 'rotations', '(if', 'desired)', 'and', 'scaling.', 'Many', 'possible', 'approaches', 'for', 'this', 'problem', 'have', 'been', 'reported', 'in', 'the', 'image', 'retrieval', 'literature', 'and', 'it', 'remains', 'to', 'be', 'evaluated,', 'whether', 'those', 'approaches', 'can', 'be', 'directly', 'applied', 'to', 'SBIR.'], ['Our', 'main', 'conclusion', 'drawn', 'from', 'the', 'results', 'of', 'the', 'user', 'study', 'is', 'that', 'humans', 'consistently', 'agree', 'on', 'the', 'similarity', 'between', 'a', 'simple', 'binary', 'sketch', 'on', 'the', 'one', 'hand', 'and', 'a', 'color', 'image', 'on', 'the', 'other', 'hand.', 'This', 'result', 'has', 'allowed', 'us', 'to', 'define', 'a', 'general', 'benchmark', 'for', 'evaluating', 'the', 'performance', 'of', 'any', 'SBIR', 'system.', 'As', 'shown', 'in', 'this', 'paper,', 'the', 'benchmark', 'cannot', 'only', 'be', 'used', 'to', 'evaluate', 'existing', 'systems', 'but', 'can', 'also', 'be', 'used', 'to', 'optimize', 'new', 'systems', 'by', 'giving', 'a', 'means', 'for', 'measuring', 'the', 'influence', 'of', 'various', 'retrieval', 'system', 'parameters', 'on', 'retrieval', 'performance.', 'We', 'believe', 'that', 'the', 'most', 'important', 'detail', 'concerning', 'our', 'benchmark', 'is', 'that', 'it', 'is', 'grounded', 'on', 'real', "users'", 'input:', 'they', 'need', 'to', 'be', 'satisfied', 'by', 'the', 'query', 'results', 'of', 'a', 'particular', 'system', 'and', 'the', 'score', 'of', 'the', 'proposed', 'benchmark', 'is', 'directly', 'proportional', 'to', 'this', 'property.', 'Interestingly,', 'we', 'found', 'that', 'the', 'rather', 'small', 'difference', 'in', 'benchmark', 'correlation', 'values', 'between', 'the', 'best', 'global', 'and', 'the', 'best', 'local', 'descriptor', 'results', 'in', 'significantly', 'improved', 'experienced', 'retrieval', 'quality', '(i.e.,', 'one', 'can', '"clearly', 'feel"', 'the', 'difference).', 'Given', 'the', 'performance', 'of', 'the', 'currently', 'best', 'performing', 'descriptors,', 'we', 'have', 'to', 'admit', 'that', 'those', 'results', 'are', 'still', 'far', 'from', 'optimal-real', 'humans', 'are', 'able', 'to', 'achieve', 'substantially', 'higher', 'correlation', 'values', 'than', 'current', 'systems.', 'We', 'hope', 'that', 'the', 'benchmark', 'provided', 'in', 'this', 'paper', 'will', 'help', 'to', 'stimulate', 'further', 'research', 'on', 'sketch-based', 'image', 'retrieval', 'and', 'make', 'the', 'resulting', 'retrieval', 'systems', 'more', 'comparable.', '.', 'For', 'more', 'information', 'on', 'this', 'or', 'any', 'other', 'computing', 'topic,', 'please', 'visit', 'our', 'Digital', 'Library', 'at', 'www.computer.org/publications/dlib.']]
+Document BIO Tags:  [['O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O']]
+Extractive/present Keyphrases:  ['image databases', 'benchmarking']
+Abstractive/absent Keyphrases:  ['image/video retrieval']
+
+-----------
+
+Sample from validation data split
+Fields in the sample:  ['id', 'sections', 'sec_text', 'extractive_keyphrases', 'abstractive_keyphrases', 'sec_bio_tags']
+Section names:  ['title', 'abstract', '', 'evidence for locally-low-dimensional distributions', 'locally-linear regression', 'dimensionality-reduction methods', 'principal component regression (pcr)', 'principal component analysis in joint space (pcaj)', 'factor analysis (fa)', 'probabilistic principal component analysis (ppca)', 'reduced-rank regression (rrr)', 'partial least squares (pls)', 'algorithm 1 partial least squares', 'algorithm 2 incremental partial least squares (locally weighted)', 'conclusion', 'methodology', 'synthetic data', 'data generation', 'evaluation settings', 'comparison of dimensionality reduction methods', 'isotropic noise', 'locally-weighted regression', 'real-world data', 'results', 'discussion']
+Tokenized Document:  [['Local', 'Dimensionality', 'Reduction', 'for', 'Non-Parametric', 'Regression'], ['Abstract', 'Locally-weighted', 'regression', 'is', 'a', 'computationally-efficient', 'technique', 'for', 'non-linear', 'regression.', 'However,', 'for', 'high-dimensional', 'data,', 'this', 'technique', 'becomes', 'numerically', 'brittle', 'and', 'computationally', 'too', 'expensive', 'if', 'many', 'local', 'models', 'need', 'to', 'be', 'maintained', 'simultaneously.', 'Thus,', 'local', 'linear', 'dimensionality', 'reduction', 'combined', 'with', 'locally-weighted', 'regression', 'seems', 'to', 'be', 'a', 'promising', 'solution.', 'In', 'this', 'context,', 'we', 'review', 'linear', 'dimensionalityreduction', 'methods,', 'compare', 'their', 'performance', 'on', 'non-parametric', 'locally-linear', 'regression,', 'and', 'discuss', 'their', 'ability', 'to', 'extend', 'to', 'incremental', 'learning.', 'The', 'considered', 'methods', 'belong', 'to', 'the', 'following', 'three', 'groups:', '(1)', 'reducing', 'dimensionality', 'only', 'on', 'the', 'input', 'data,', '(2)', 'modeling', 'the', 'joint', 'input-output', 'data', 'distribution,', 'and', '(3)', 'optimizing', 'the', 'correlation', 'between', 'projection', 'directions', 'and', 'output', 'data.', 'Group', '1', 'contains', 'principal', 'component', 'regression', '(PCR);', 'group', '2', 'contains', 'principal', 'component', 'analysis', '(PCA)', 'in', 'joint', 'input', 'and', 'output', 'space,', 'factor', 'analysis,', 'and', 'probabilistic', 'PCA;', 'and', 'group', '3', 'contains', 'reduced', 'rank', 'regression', '(RRR)', 'and', 'partial', 'least', 'squares', '(PLS)', 'regression.', 'Among', 'the', 'tested', 'methods,', 'only', 'group', '3', 'managed', 'to', 'achieve', 'robust', 'performance', 'even', 'for', 'a', 'non-optimal', 'number', 'of', 'components', '(factors', 'or', 'projection', 'directions).', 'In', 'contrast,', 'group', '1', 'and', '2', 'failed', 'for', 'fewer', 'components', 'since', 'these', 'methods', 'rely', 'on', 'the', 'correct', 'estimate', 'of', 'the', 'true', 'intrinsic', 'dimensionality.', 'In', 'group', '3,', 'PLS', 'is', 'the', 'only', 'method', 'for', 'which', 'a', 'computationally-efficient', 'incremental', 'implementation', 'exists.'], ['In', 'many', 'real-world', 'applications,', 'fortunately,', 'high-dimensional', 'data', 'are', 'confined', 'to', 'locallylow-dimensional', 'distributions-see', 'Sect.', '2.', 'Hence,', 'if', 'we', 'have', 'a', 'local', 'regression', 'technique', 'that', 'exploits', 'these', 'low-dimensional', 'distributions,', 'then,', 'we', 'can', 'hope', 'to', 'carry', 'over', 'all', 'the', 'potential', 'benefits', 'of', 'locally-weighted', 'techniques', 'to', 'high-dimensional', 'real-world', 'data:', 'locally-weighted', 'regression', 'requires', 'inversion', 'of', 'the', 'covariance', 'matrix', 'of', 'the', 'data,', 'which', 'is', 'O(d', '3', ')', ',', 'with', 'd', 'equal', 'the', 'dimensionality', 'of', 'the', 'data.', 'Thus,', 'reducing', 'the', 'dimensionality', 'is', 'critical..', 'The', 'dimensionality', 'of', 'a', 'data', 'distribution', 'may', 'be', 'reduced', 'with', 'global', '2', 'non-linear', 'techniques', '[4,', '19,', '36,', '41,', '51]', '.', 'However,', 'these', 'techniques', 'are', 'computationally', 'expensive:', 'semi-definite', 'embedding', 'is', 'O(n', '3', ')', '[51]', ';', 'locally-linear', 'embedding', 'is', 'O(n', '2', ')', '[36]', ';', 'Isomap', 'is', 'O(n', '3', ')', '[41]', ',', 'Laplacian', 'eigenmaps', 'are', 'O(n', '2', ')', '[4]', ',', 'and', 'about', 'the', 'stochastic', 'neighbor', 'embedding,', 'Hinton', 'and', 'Roweis', 'note:', '"it', 'takes', 'several', 'hours', 'to', 'find', 'a', 'good', 'embedding', 'for', 'just', '3,000', 'data', 'points"', '[19]', '..', 'If', 'using', 'locally-confined', 'linear', 'regression,', 'the', 'natural', 'alternative', 'to', 'the', 'above', 'non-linear', 'dimensionality', 'reduction', 'techniques', 'is', 'linear', 'dimensionality', 'reduction-separately,', 'for', 'each', 'locally-confined', 'model.', 'The', 'primary', 'aim', 'of', 'this', 'paper', 'is', 'to', 'compare', 'linear', 'dimensionality-reduction', 'techniques', 'suited', 'for', 'locally-weighted', 'regression;', 'an', 'aim', 'which', 'is', 'slightly', 'divergent', 'from', 'generic', 'dimensionality-reduction', 'which', 'aims', 'at', 'data', 'preservation,', 'optimal', 'reconstruction', 'or', 'visualization,', 'for', 'example..', 'Real-time', 'applications', 'usually', 'require', 'an', 'incremental', 'learning', 'scheme.', 'Such', 'a', 'scheme', 'has', 'two', 'big', 'advantages:', 'first,', 'it', 'is', 'memory', 'efficient', 'since', 'only', 'one', 'training', 'pattern', 'needs', 'to', 'be', 'stored', 'at', 'a', 'time', '(in', 'addition', 'to', 'the', 'sufficient', 'statistics),', 'and', 'second,', 'it', 'adapts', 'quickly', 'to', 'changes', 'in', 'the', 'environment', 'without', 'catastrophic', 'failure', 'in', 'the', 'transition', 'phase', '(graceful', 'degradation).', 'Thus,', 'we', 'will', 'discuss', 'how', 'the', 'methods', 'that', 'we', 'test', 'extend', 'to', 'incremental', 'learning..', 'To', 'find', 'out', 'which', 'dimensionality-reduction', 'methods', 'are', 'most', 'suitable', 'for', 'locally-weighted', 'regression,', 'we', 'compare', 'six', 'state-of-the-art', 'methods,', 'which', 'are', 'grouped', 'into', '(1)', 'dimension', 'reduction', 'only', 'on', 'the', 'input', 'data,', '(2)', 'modeling', 'the', 'joint', 'input-output', 'data', 'distribution,', 'and', '(3)', 'maximizing', 'the', 'correlation', 'between', 'projection', 'directions', 'and', 'output', 'data.', 'To', 'group', '1', 'belongs', 'principal', 'component', 'regression', '(PCR);', 'to', 'group', '2', 'belongs', 'principal', 'component', 'analysis', '(PCA)', 'in', 'joint', 'space,', 'factor', 'analysis', '(FA),', 'and', 'probabilistic', 'PCA', '(PPCA)', 'in', 'joint', 'space;', 'and', 'to', 'group', '3', 'belongs', 'reduced-rank', 'regression', '(RRR)', 'and', 'partial', 'least', 'squares', '(PLS).', 'Where', 'applicable,', 'we', 'derive', 'corresponding', 'weighted', 'and', 'incremental', 'formulations..', 'Through', 'extensive', 'empirical', 'comparison', 'studies,', 'we', 'show', 'that', 'all', 'tested', 'dimensionalityreduction', 'methods', 'perform', 'reasonably', 'well', 'if', 'the', 'number', 'of', 'components', '(factors', 'or', 'projection', 'directions)', 'matches', 'the', 'intrinsic', 'dimensionality', 'of', 'the', 'data', 'distribution,', 'but', 'for', 'fewer', 'components,', 'group', '1', 'and', '2', 'methods', 'fail.', 'The', 'number', 'of', 'components,', 'however,', 'is', 'typically', 'not', 'given', 'beforehand.', 'In', 'incremental', 'learning,', 'components', 'are', 'added', 'incrementally', 'based', 'on', 'a', 'test', 'criterion', 'in', 'a', 'data', 'driven', 'manner.', 'If', 'the', 'number', 'of', 'components', 'is', 'less', 'than', 'the', 'intrinsic', 'dimensionality,', 'PLS-among', 'the', 'algorithms', 'that', 'can', 'be', 'formulated', 'in', 'an', 'incremental', 'scheme-results', 'in', 'the', 'lowest', 'prediction', 'error,', 'making', 'it', 'an', 'ideal', 'candidate', 'for', 'adding', 'projection', 'directions', 'on', 'the', 'fly.', 'Furthermore,', 'we', 'show', 'that', 'when', 'applying', 'PLS', 'for', 'locallyweighted', 'regression,', 'the', 'optimal', 'distance', 'metric', '(or', 'locality', 'neighborhood)', 'is', 'relatively', 'insensitive', 'to', 'the', 'choice', 'of', 'number', 'of', 'projections..', 'The', 'remainder', 'of', 'the', 'article', 'is', 'organized', 'as', 'follows.', 'Section', '2', 'provides', 'evidence', 'for', 'locally-low-dimensional', 'distributions.', 'Section', '3', 'introduces', 'locally-linear', 'regression.', 'Section', '4', 'explains', 'the', 'dimensionality-reduction', 'methods.', 'Section', '5', 'evaluates', 'these', 'methods,', 'first,', 'on', 'a', 'synthetic', 'data', 'set', 'with', 'known', 'structure,', 'and', 'second,', 'on', 'two', 'real-world', 'data', 'sets.', 'Section', '6', 'discusses', 'the', 'results', 'of', 'the', 'experiments,', 'and', 'Sect.', '7', 'closes', 'with', 'conclusions.'], ['Our', 'methodology', 'for', 'dimensionality', 'reduction', 'for', 'regression', 'relies', 'on', 'the', 'assumption', 'that', 'high-dimensional', 'data', 'sets', 'have', 'locally-low-dimensional', 'distributions,', 'an', 'assumption', 'that', 'requires', 'some', 'clarification.', 'Across', 'domains', 'like', 'vision,', 'speech,', 'motor', 'control,', 'climate', 'patterns,', 'human', 'gene', 'distributions,', 'and', 'a', 'range', 'of', 'other', 'physical', 'and', 'biological', 'sciences,', 'various', 'researchers', 'have', 'shown', 'that', 'the', 'true', 'intrinsic', 'dimensionality', 'of', 'high', 'dimensional', 'data', 'is', 'often', 'very', 'low', '[21,', '36,', '41,', '49]', '.', 'We', 'interpret', 'these', 'findings', 'as', 'evidence', 'that', 'the', 'physical', 'world', 'has', 'a', 'significant', 'amount', 'of', 'coherent', 'structure', 'that', 'expresses', 'itself', 'in', 'terms', 'of', 'strong', 'correlations', 'between', 'different', 'variables', 'that', 'describe', 'the', 'state', 'of', 'the', 'world', 'at', 'a', 'particular', 'moment', 'in', 'time.', 'For', 'instance,', 'in', 'computer', 'vision,', 'neighboring', 'pixels', 'of', 'an', 'image', 'of', 'a', 'natural', 'scene', 'have', 'redundant', 'information.', 'Moreover,', 'the', 'probability', 'distribution', 'of', 'natural', 'scenes', 'in', 'general', 'has', 'been', 'found', 'to', 'be', 'highly', 'structured', 'such', 'that', 'it', 'lends', 'itself', 'to', 'a', 'sparse', 'encoding', 'in', 'terms', 'of', 'set', 'of', 'basis', 'functions', '[5,', '33]', '..', 'Another', 'example', 'comes', 'from', 'our', 'own', 'research', 'on', 'human', 'motor', 'control.', 'Despite', 'that', 'humans', 'can', 'accomplish', 'movement', 'tasks', 'in', 'almost', 'arbitrary', 'ways-thus', 'possibly', 'generating', 'arbitrary', 'distributions', 'of', 'the', 'variables', 'that', 'describe', 'their', 'movements-behavioral', 'research', 'has', 'discovered', 'regularities', 'within', 'and', 'across', 'individuals', '[26,', '38]', '.', 'These', 'regularities', 'lead', 'to', 'locally-low-dimensional', 'data', 'distributions,', 'as', 'illustrated', 'in', 'the', 'example', 'in', 'Fig.', '2', '.', 'In', 'this', 'analysis', '[12]', ',', 'we', 'assessed', 'the', 'intrinsic', 'dimensionality', 'of', 'data', 'collected', 'from', 'full-body', 'movements', 'of', 'several', 'human', 'subjects.', 'The', 'data', 'were', 'collected', 'with', 'a', 'special', 'full-body', 'exoskeleton', '(see', 'Fig.', '1', ')', 'that', 'recorded', 'simultaneously', '35', 'joint', 'angles', 'at', '100', 'Hz', 'sampling', 'frequency.', 'Subjects', 'performed', 'a', 'variety', 'of', 'daily-life', 'tasks', '(e.g.,', 'walking,', 'object', 'manipulation,', 'and', 'reaching)', 'until', 'about', 'a', 'gigabyte', 'of', 'data', 'was', 'accumulated.', 'Our', 'analysis', 'examined', 'the', 'local', 'dimensionality', 'of', 'the', 'joint', 'distribution', 'of', 'positions,', 'velocities,', 'and', 'accelerations', 'of', 'the', 'collected', 'data,', 'i.e.,', 'a', '105-dimensional', 'data', 'set,', 'as', 'would', 'be', 'needed', 'as', 'inputs', 'to', 'learn', 'an', 'inverse', 'dynamics', '2', 'Dimensionality', 'analysis', 'a', 'The', 'cumulative', 'variance', 'accounted', 'versus', 'the', 'local', 'dimensionality', '(averaged', 'across', 'all', 'mixture', 'models;', 'an', 'average', 'of', '7.78', 'dimensions', 'accounted', 'for', '99%', 'of', 'the', 'variance)', 'b', 'The', 'distribution', 'of', 'the', 'effective', 'dimensionality', 'across', 'all', 'mixture', 'models', 'model', 'for', 'motor', 'control', '[26]', '.', 'To', 'analyze', 'the', 'local', 'dimensionality,', 'we', 'employed', 'a', 'variational', 'Bayesian', 'mixture', 'of', 'factor', 'analyzers', 'that', 'automatically', 'estimated', 'the', 'required', 'number', 'of', 'mixture', 'components', '[17]', '.', 'As', 'shown', 'in', 'Fig.2', '(a),', 'the', 'local', 'dimensionality', 'was', 'around', '5-8', 'dimensions,', 'computed', 'based', 'on', 'the', 'average', 'number', 'of', 'significant', 'latent', 'variables', 'per', 'mixture', 'component.', 'Figure', '2', '(b)', 'shows', 'the', 'distribution', 'of', 'the', 'effective', 'dimensionality', 'across', 'all', 'mixture', 'models.', 'In', 'summary,', 'the', 'results', 'from', 'our', 'analysis', 'and', 'other', 'sources', 'in', 'the', 'literature', 'show', 'that', 'there', 'is', 'a', 'large', 'class', 'of', 'high', 'dimensional', 'problems', 'that', 'can', 'be', 'treated', 'locally', 'in', 'much', 'lower', 'dimensions', 'if', 'one', 'can', 'determine', 'appropriate', 'regions', 'of', 'locality', 'and', 'the', 'local', 'projections', 'that', 'model', 'the', 'corresponding', 'low', 'dimensional', 'distributions.', 'As', 'a', 'caveat,', 'however,', 'it', 'may', 'happen', 'that', 'such', 'low', 'dimensional', 'distributions', 'are', 'embedded', 'in', 'additional', 'dimensions', 'that', 'are', 'irrelevant', 'for', 'the', 'problem', 'at', 'hand', 'but', 'have', 'considerable', 'variance.', 'In', 'the', 'context', 'of', 'regression,', 'it', 'will', 'thus', 'be', 'important', 'to', 'model', 'only', 'those', 'local', 'dimensions', 'that', 'carry', 'information', 'that', 'is', 'important', 'for', 'the', 'regression', 'and', 'eliminate', 'all', 'other', 'dimensions,', 'i.e.,', 'to', 'perform', 'local', 'dimensionality', 'reduction', 'with', 'the', 'conditional', 'distribution', 'of', 'regression', 'in', 'mind', 'and', 'not', 'just', 'based', 'on', 'input', 'or', 'joint', 'input-output', 'distributions.'], ['Linear', 'regression', 'assumes', 'a', 'linear', 'relationship', 'of', 'an', 'input', 'vector', 'x', 'and', 'an', 'output', 'variable', 'y.', 'Here,', 'for', 'simplicity,', 'we', 'consider', 'only', 'the', 'case', 'of', 'one', 'output', 'variable,', 'since,', 'on', 'the', 'one', 'hand,', 'many', 'problems', 'can', 'be', 'decomposed', 'into', 'multiple', 'mappings', 'onto', 'univariate', 'outputs,', 'and,', 'on', 'the', 'other', 'hand,', 'the', 'generalization', 'to', 'many', 'output', 'variables', 'is', 'mostly', 'straightforward.', 'We', 'also', 'assume,', 'without', 'loss', 'of', 'generality,', 'that', 'the', 'mean', 'values', 'of', 'x', 'and', 'y', 'are', 'zero.', 'Given', 'this', 'simplification,', 'the', 'model', 'function', 'in', 'linear', 'regression', 'is.', 'Here,', 'x', 'is', 'a', 'd-dimensional', 'input', 'vector;', 'y', 'is', 'the', 'output', 'value;', 'β', 'are', 'the', 'regression', 'coefficients,', 'and', 'y', 'is', 'a', 'homoscedastic', '(independent', 'of', 'x)', 'noise', 'variable.', '3', 'Furthermore,', 'let', 'n', 'be', 'the', 'number', 'of', 'training', 'data', 'points', '{(.', '.', 'The', 'coefficients', 'β', 'can', 'be', 'obtained', 'by', 'minimizing', 'the', 'expected', 'squared', 'error', 'E,.', 'which', 'results', 'in', 'the', 'ordinary-least-squares', 'solution.', 'The', 'matrix', 'X', 'contains', 'the', 'input', 'vectors', 'x', 'i', 'in', 'its', 'rows,', 'and', 'the', 'vector', 'y', 'contains', 'the', 'n', 'output', 'values', 'y', 'i', '.', 'This', 'solution', 'has', 'also', 'a', 'probabilistic', 'interpretation.', 'If', 'we', 'assume', 'that', 'y', 'has', 'a', 'Gaussian', 'distribution', 'of', 'variance', 'σ', '2', ',', 'then', 'the', 'conditional', 'probability', 'of', 'y', 'given', 'x', 'can', 'be', 'written', 'as', 'p(y|x).', ',', 'of', 'the', 'training', 'data,', 'given', 'a', 'constant', 'prior', 'p(x).', 'In', 'the', 'locally-linear', 'case,', 'the', 'data', 'points', '{x', 'i', '}', 'are', 'weighted', 'depending', 'on', 'their', 'relative', 'position', 'from', 'the', 'center', 'c', 'of', 'a', 'local', 'model.', 'The', 'most', 'common', 'weighting', 'function-and', 'the', 'only', 'one', 'we', 'will', 'deal', 'with', 'here-is', 'the', 'Gaussian', 'function,.', 'The', 'matrix', 'D', 'is', 'a', 'positive', 'semi-definite', 'distance', 'metric', 'that', 'determines', 'the', 'locality', '(region', 'of', 'influence)', 'of', 'the', 'local', 'model.', 'Regression', 'methods', 'can', 'be', 'adapted', 'to', 'the', 'local', 'case', 'by', 'multiplying', 'each', 'data', 'point', 'in', 'the', 'loss', 'function', '(2)', 'with', 'the', 'corresponding', 'weight', 'w', 'i', '[2]', ',.', 'Thus,', 'in', 'the', 'locally-weighted', 'case,', 'the', 'solution', '(3)', 'is', 'replaced', 'by.', 'where', 'W', 'is', 'a', 'diagonal', 'matrix,', 'containing', 'the', 'w', 'i', "'s", 'along', 'its', 'diagonal.', 'Weighting', 'the', 'loss', 'function', 'with', 'w', 'i', 'is', 'equivalent', 'to', 'weighting', 'each', 'single', 'data', 'point', 'x', 'i', 'and', 'output', 'y', 'i', 'with', '√', 'w', 'i', '[2]', '.', 'The', 'same', 'reformulation', 'also', 'holds', 'for', 'the', 'dimensionality-reduction', 'methods', 'discussed', 'below', '[39]', '.'], ['Dimensionality-reduction', 'methods', 'reduce', 'a', 'd-dimensional', 'data', 'set', 'to', 'a', 'k-dimensional', 'set', 'with', 'k', '<', 'd,', 'such', 'that', 'key', 'characteristics', 'of', 'the', 'data', 'are', 'retained-the', 'exact', 'definition', 'of', '"key', 'characteristics"', 'is', 'going', 'to', 'be', 'important,', 'as', 'will', 'become', 'apparent', 'below..', 'The', 'following', 'notations', 'will', 'be', 'used', 'across', 'all', 'methods:', 'the', '(mean', 'zero)', 'input', 'data', 'are', 'stored', 'in', 'the', 'n', '×', 'd', 'matrix', 'X,', 'and', 'the', '(mean', 'zero)', 'output', 'data', 'are', 'in', 'the', 'n-dimensional', 'vector', 'y.', 'For', 'the', 'methods', 'that', 'combine', 'input', 'and', 'output', 'into', 'a', 'joint', 'space,', 'the', 'n', '×', '(d', '+', '1)', 'matrix', 'Z', 'contains', 'in', 'its', 'rows', 'the', 'vectors.', 'The', 'following', 'subsections', 'present', 'the', 'fundamentals', 'of', 'six', 'methods-principal', 'component', 'regression,', 'principal', 'component', 'analysis', 'in', 'joint', 'space,', 'factor', 'analysis,', 'probabilistic', 'PCA', 'in', 'joint', 'space,', 'partial', 'least', 'squares,', 'and', 'reduced-rank', 'regression.', 'Each', 'section', 'will', 'show', 'how', 'dimensionality-reduction', 'can', 'be', 'used', 'in', 'a', 'regression', 'setting', 'and', 'will', 'also', 'address', 'how', 'the', 'method,', 'if', 'applicable,', 'extends', 'to', 'incremental', 'learning.'], ['Principal', 'component', 'regression', 'is', 'a', 'widespread', 'tool', 'for', 'reducing', 'the', 'dimensionality', 'of', 'the', 'input', 'space.', 'Here,', 'a', 'principal', 'component', 'analysis', 'is', 'applied', 'to', 'the', 'input', 'data', 'before', 'computing', 'ordinary', 'least', 'squares', 'on', 'the', 'principal', 'subspace..', 'The', 'principal', 'components', 'are', 'the', 'eigenvectors', 'of', 'the', 'covariance', 'matrix', 'C', '=', 'X', 'T', 'X.', 'Let', 'U', 'be', 'a', 'matrix', 'that', 'stores', 'these', 'eigenvectors', 'in', 'its', 'columns.', 'For', 'regression,', 'the', 'input', 'is', 'first', 'mapped', 'onto', 'the', 'principal', 'subspace.', 'Then,', 'on', 'this', 'subspace,', 'we', 'compute', 'ordinary', 'least', 'squares', 'regression.', 'Thus,', 'we', 'minimize', '||y', '−', 'XUα||', '2', 'with', 'respect', 'to', 'the', 'reduced', 'coefficients', 'α.', 'Therefore,', 'the', 'final', 'regression', 'coefficients', 'are.', 'where', 'is', 'a', 'diagonal', 'matrix', 'containing', 'the', 'eigenvalues', 'of', 'the', 'covariance', 'matrix', 'C.', 'In', 'the', 'locally-weighted', 'version,', 'the', 'coefficients', 'become.', 'here,', 'U', 'w', 'and', 'w', 'are', 'extracted', 'from', 'the', 'weighted', 'covariance', 'matrix', 'C', 'w', '=', 'X', 'T', 'WX..', 'To', 'obtain', 'an', 'incremental', 'version', 'of', 'PCR,', 'we', 'basically', 'need', 'an', 'incremental', 'PCA', 'routine.', 'Many', 'methods', 'exist', 'for', 'extracting', 'the', 'principal', 'components', 'incrementally', '[11,', '31,', '32,', '34,', '37]', '.', 'These', 'methods', 'compute', 'the', 'estimates', 'of', 'the', 'eigenvectors', 'and', 'eigenvalues', 'at', 'time', 'step', 't', '+', '1,', 'U(t', '+1)', 'and', '(t', '+1),', 'given', 'U(t),', '(t),', 'and', 'a', 'new', 'data', 'sample', '(x,', 'y).', 'Furthermore,', 'the', 'regression', 'coefficients', 'can', 'be', 'updated', 'incrementally', 'as.', ',', 'where', 'η', 'is', 'the', 'learning', 'rate.'], ['As', 'an', 'alternative', 'to', 'PCR,', 'the', 'principal', 'components', 'can', 'be', 'also', 'extracted', 'in', 'the', 'joint', 'space', 'of', 'input', 'and', 'output.', 'Thus,', 'different', 'from', 'above,', 'the', 'eigenvectors', 'are', 'extracted', 'from', 'the', 'covariance', 'matrix', 'in', 'joint', 'space,', 'C', '=', 'Z', 'T', 'Z,', 'with', 'Z', '=', '[X', 'y].', 'In', 'this', 'space,', 'the', 'principal', 'subspace', 'describes', 'the', 'orientation', 'of', 'the', 'data', 'distribution.', 'For', 'regression,', 'PCAJ', 'has', 'been', 'used', 'to', 'identify', 'directions', 'in', 'input', 'space', 'that', 'have', 'high', 'predictive', 'value', '[50]', '.', 'Here,', 'however,', 'we', 'use', 'the', 'principal', 'subspace', 'directly', 'for', 'regression', 'by', 'mapping', 'an', 'input', 'point', 'as', 'close', 'as', 'possible', 'to', 'this', 'subspace', '[39]', '..', 'The', 'matrix', 'U', 'can', 'be', 'decomposed', 'into', 'U', 'x', 'for', 'the', 'input', 'space', 'and', 'U', 'y', 'for', 'the', 'output', 'space,.', '.', 'To', 'achieve', 'a', 'mapping', 'from', 'input', 'to', 'output', 'space,', 'first,', 'a', 'point', 'on', 'the', 'principal', 'subspace', '(given', 'by', 'Uv)', 'is', 'obtained,', 'whose', 'input-space', 'component', 'is', 'closest', 'to', 'a', 'given', 'input', 'x:', 'the', 'free', 'variables', 'v', 'are', 'obtained', 'by', 'minimizing', '||x', '−', 'U', 'x', 'v||', '2', 'with', 'respect', 'to', 'v..', 'Finally,', 'the', 'output', 'is', 'given', 'by', 'y', '=', 'U', 'y', 'v.', 'Therefore,', 'the', 'regression', 'coefficients', 'are.', 'Using', 'the', 'orthonormality', 'of', 'U,', 'which', 'implies', 'U', 'T', 'x', 'U', 'x', '+', 'U', 'T', 'y', 'U', 'y', '=', '1,', 'and', 'the', 'Woodbury', 'matrix', 'identity,', '4', 'the', 'expression', 'for', 'the', 'coefficients', 'β', 'can', 'be', 'expressed', 'in', 'a', 'computationally', 'more', 'efficient', 'way:.', 'For', 'one-dimensional', 'output,', 'the', 'matrix', 'inversion', 'is', 'just', 'a', 'scalar', 'division.', 'In', 'the', 'locallyweighted', 'version,', 'the', 'eigenvectors', 'are', 'extracted', 'from', 'the', 'weighted', 'covariance', 'matrix', 'C', 'w', '=', 'X', 'T', 'WX.', 'To', 'make', 'this', 'algorithm', 'incremental,', 'as', 'for', 'PCR,', 'we', 'need', 'an', 'incremental', 'PCA', 'technique,', 'and', 'the', 'regression', 'coefficients', 'β', 'can', 'be', 'computed', 'using', '(10)', 'based', 'on', 'the', 'current', 'estimate', 'of', 'U.'], ['Factor', 'analysis', 'is', 'one', 'of', 'the', 'statistically', 'most', 'sound', 'methods', 'for', 'dimensionality', 'reduction', 'in', 'linear', 'systems.', 'Different', 'from', 'PCR', 'and', 'PCAJ,', 'FA', 'is', 'derived', 'from', 'the', 'assumption', 'that', 'the', 'data', 'are', 'generated', 'from', 'a', 'linear', 'model', 'with', 'k', '<', 'd', 'hidden', 'variables', 'plus', 'a', 'noise', 'term:', 'z', '=', 'Uv', '+', '[13]', '.', 'Here,', 'z', 'is', 'a', 'point', 'in', 'the', 'joint', 'space', 'of', 'input', 'and', 'output.', 'The', 'latent', 'variables', 'v', 'are', 'assumed', 'to', 'be', 'spherically', 'distributed,', 'N', '(0,', 'I).', 'The', 'noise', 'is', 'assumed', 'to', 'be', 'distributed', 'according', 'to', 'N', '(0,', '),', 'with', 'a', 'diagonal', 'matrix', '..', 'Under', 'these', 'assumptions,', 'the', 'unknown', 'parameters', 'U', 'and', 'can', 'be', 'obtained', 'by', 'maximizing', 'the', 'likelihood', 'of', 'the', 'data', '{z', 'i', '}.', 'This', 'maximization', 'can', 'be', 'carried', 'out', 'using', 'the', 'expectation-maximization', '(EM)', 'algorithm,', 'as,', 'for', 'example,', 'described', 'in', '[18]', '.', 'As', 'result,', 'the', 'conditional', 'probability', 'p(z|v)', 'is', 'given,', 'which', 'is', 'distributed', 'according', 'to', 'N', '(Uv,', ')..', 'For', 'regression,', 'we', 'are', 'interested', 'in', 'the', 'expectation', 'value', 'of', 'y,', 'E', '(y),', 'which', 'equals', 'β', 'T', 'x.', 'To', 'obtain', 'this', 'value,', 'we', 'compute', 'p(y|x).', 'This', 'computation', 'is', 'achieved', 'by', 'the', 'following', 'two', 'steps.', 'First,', 'we', 'decompose.', 'by', 'splitting', 'U', 'and', 'into', 'the', 'respective', 'components', 'for', 'the', 'input', 'and', 'output', 'space.', 'Second,', 'we', 'use', "Bayes'", 'rule', 'to', 'compute.', 'is', 'the', 'center', 'of', 'this', 'function.', 'The', 'result', 'is.', 'To', 'obtain', 'a', 'locally-weighted', 'version,', 'in', 'the', 'EM', 'algorithm', '[18]', ',', 'each', 'data', 'point', 'z', 'i', 'is', 'multiplied', 'by', '√', 'w', 'i', '.', 'FA', 'lacks', 'a', 'proper', 'incremental', 'formulation,', 'although', 'it', 'is', 'possible', 'to', 'create', 'ad', 'hoc', 'incremental', 'implementations', 'that', 'accumulate', 'the', 'sufficient', 'statistics', 'of', 'FA', 'incrementally', 'with', 'forgetting', 'factors.', 'Furthermore,', 'FA', 'is', 'computationally', 'more', 'expensive', 'than', 'the', 'other', 'methods', 'because', 'of', 'the', 'iterative', 'EM', 'algorithm,', 'and', 'FA', 'requires', 'a', 'little', 'bit', 'of', 'noise', 'in', 'the', 'input', 'data-otherwise,', 'the', 'algorithm', 'encounters', 'numerical', 'singularities.', 'On', 'the', 'positive', 'side,', 'FA', 'is', 'actually', 'able', 'to', 'deal', 'with', 'noise', 'in', 'the', 'inputs', 'in', 'a', 'principled', 'way,', 'which', 'is', 'superior', 'in', 'theory', 'to', 'any', 'of', 'the', 'other', 'algorithms', 'in', 'this', 'paper.'], ['Probabilistic', 'PCA', 'is', 'a', 'special', 'case', 'of', 'factor', 'analysis', 'under', 'the', 'assumption', 'of', 'isotropic', 'noise', '[43]', '.', 'This', 'restriction', 'allows', 'an', 'analytic', 'solution,', 'which', 'omits', 'the', 'EM-algorithm.', 'The', 'model', 'density', 'p(y,', 'x)', 'in', 'joint', 'space', 'is', 'described', 'by', 'a', 'multivariate', 'Gaussian,', 'N', '(0,', 'A', '−1', ')', 'with.', 'where', 'I', 'k', 'is', 'the', 'k', '×', 'k', 'identity', 'matrix;', 'U', 'and', 'are', 'the', 'eigenvectors', 'and', 'eigenvalues', 'as', 'obtained', 'from', 'a', 'PCA', 'in', 'joint', 'space,', 'and', 'σ', 'is', 'the', 'residual', 'variance,', 'σ', '2', '=', 'trace(C)', '−', 'trace(', '),', 'using', 'the', 'covariance', 'matrix', 'C.', 'Different', 'from', 'factor', 'analysis,', 'here,', 'the', 'variance', 'σ', '2', 'is', 'the', 'same', 'for', 'all', 'residual', 'dimensions.', 'For', 'regression,', 'we', 'use', 'the', 'probabilistic', 'density', 'p(y,', 'x)', 'as', 'in', 'factor', 'analysis', '(Sect.', '4.3)', 'and', 'not', 'the', 'intersection', 'with', 'the', 'principal', 'subspace', 'as', 'in', 'PCAJ', '(Sect.', '4.2)-otherwise', 'the', 'results', 'would', 'be', 'the', 'same', 'as', 'for', 'PCAJ.', 'Since', 'p(y,', 'x)', 'is', 'readily', 'available,', 'we', 'choose', 'the', 'coefficients', 'β', 'such', 'that', 'the', 'output', 'y', 'maximizes', 'p(y,', 'x)', 'for', 'a', 'given', 'input', 'x', '[22,', '23]', '.', '.', 'Thus,', 'we', 'decompose', 'A', 'into', 'the', 'components', 'of', 'input', 'and', 'output', 'space:.', 'The', 'optimal', 'output', 'y', 'maximizes', 'p(y,', 'x);', 'therefore,', 'we', 'set', 'the', 'derivative', 'of', 'p(y,', 'x)', 'with', 'respect', 'to', 'y', 'equal', 'zero.', 'This', 'step', 'results', 'in', 'y', '=', 'A', '−1', 'yy', 'A', 'T', 'xy', 'x.', 'Thus,', 'the', 'regression', 'coefficients', 'are.', 'For', 'a', 'one-dimensional', 'output', 'y,', 'the', 'inversion', 'of', 'A', 'yy', 'is', 'just', 'a', 'division', 'by', 'a', 'scalar.', 'An', 'alternative', 'derivation', 'can', 'be', 'obtained', 'by', 'taking', 'A', 'as', 'an', 'ellipsoid', 'and', 'by', 'computing', 'the', 'value', 'y', 'that', 'results', 'in', 'the', 'smallest', 'Mahalanobis', 'distance', 'of', '[x', 'T', ',', 'y]', 'to', 'the', 'origin', '[22,', '23]', '..', 'For', 'the', 'locally-weighted', 'version,', 'the', 'eigenvectors', 'and', 'eigenvalues', 'are', 'extracted', 'from', 'the', 'weighted', 'covariance', 'matrix', 'C', 'w', '=', 'X', 'T', 'WX.', 'For', 'incremental', 'learning,', 'the', 'eigenvectors', 'U', 'and', 'eigenvalues', 'can', 'be', 'computed', 'as', 'in', 'PCAJ.', 'In', 'addition,', 'an', 'estimate', 'for', 'the', 'residual', 'variance', 'v', 'res', '=', '(d', '−', 'k)σ', '2', 'needs', 'to', 'be', 'computed,', 'which', 'can', 'be', 'obtained', 'by', 'iterating.', 'where', 'η', 'is', 'the', 'learning', 'rate', 'as', 'in', 'incremental', 'PCA.', 'Based', 'on', 'the', 'current', 'estimates', 'of', 'U,', ',', 'and', 'σ', ',', 'the', 'regression', 'coefficients', 'can', 'be', 'updated', 'according', 'to', '(12)', ',', '(13),', 'and', '(14).'], ['Reduced-rank', 'regression', '[24]', '-a', 'common', 'model', 'in', 'econometrics', '[16]', '-is', 'multiple', 'regression', 'with', 'a', 'rank', 'constraint', 'on', 'the', 'coefficient', 'matrix', 'B,', 'as', 'in.', 'where', 'Y', 'is', 'the', 'output', 'and', 'E', 'the', 'error', 'matrix.', 'Since,', 'in', 'our', 'case,', 'we', 'consider', 'only', 'a', '1-dimensional', 'output,', 'the', 'rank', 'of', 'B', 'is', 'always', '1,', 'i.e,', 'the', 'rank', 'cannot', 'be', 'constrained', 'anymore.', 'Thus,', 'here,', 'reduced-rank', 'regression', 'does', 'not', 'do', 'dimensionality', 'reduction', 'and,', 'therefore,', 'does', 'not', 'provide', 'a', 'computational', 'gain', 'over', 'ordinary', 'least', 'squares,', 'which', 'gives', 'the', 'same', 'results.', 'Still,', 'we', 'put', 'RRR', 'into', 'this', 'comparison', 'for', 'two', 'reasons:', 'first,', 'as', 'a', 'control', 'showing', 'the', 'optimal', 'regression', 'performance', '(the', 'same', 'holds', 'for', 'ordinary', 'least', 'squares),', 'and', 'second,', 'as', 'a', 'context', 'for', 'PLS,', 'which', 'may', 'be', 'regarded', 'as', 'a', 'mix', 'between', 'PCR', 'and', 'RRR', '(see', 'Sect.', '4.6).', 'Reduced-rank', 'regression', 'methods', 'extract', 'projections', 'of', 'maximal', 'correlation', 'between', 'input', 'and', 'output.', 'These', 'projections', 'are', 'extracted', 'by', 'maximizing', 'the', 'squared', 'correlation.', 'under', 'the', 'constraint', 'that', 'the', 'projections', 'Xu', 'i', 'are', 'orthogonal', 'to', 'each', 'other', 'and', 'have', 'unit', 'length,', 'u', 'T', 'i', 'X', 'T', 'Xu', 'i', '=', '1', '[53]', '.', 'As', 'it', 'turns', 'out,', 'the', 'projection', 'directions', 'u', 'i', 'are', 'the', 'columns', 'of', 'the', 'matrix', 'U', 'that', 'contains', 'the', 'eigenvectors', 'of', 'C', '=', '(X', 'T', 'X)', '−1', 'X', 'T', 'yy', 'T', 'X.', 'For', 'regression,', 'as', 'in', 'PCR,', 'X', 'is', 'projected', 'onto', 'U,', 'and', 'we', 'work', 'only', 'with', 'the', 'projections.', 'Thus,', 'we', 'minimize', '||y', '−', 'XUα||', '2', 'with', 'respect', 'to', 'α', 'and', 'obtain.', 'In', 'our', 'case', 'of', 'a', '1-dimensional', 'output,', 'we', 'only', 'have', 'a', 'single', 'projection', 'direction', 'u.', 'Here,', 'the', 'matrix', 'inversion', 'in', 'the', 'β', 'term', 'is', 'only', 'a', 'devision.', 'The', 'computational', 'load,', 'however,', 'is', 'in', 'the', 'computation', 'of', 'C,', 'which', 'requires', 'the', 'inversion', 'of', 'X', 'T', 'X', 'with', 'complexity', 'O(d', '3', ')..', 'In', 'the', 'locally-weighted', 'version,', 'the', 'eigenvectors', 'are', 'extracted', 'from', 'the', 'matrix.', 'In', 'addition,', 'the', 'regression', 'coefficients', 'are', 'computed', 'as.', 'This', 'method', 'does', 'not', 'offer', 'an', 'incremental', 'solution:', 'all', 'data', 'points', 'need', 'to', 'be', 'accumulated', 'for', 'computing', 'the', 'projection', 'matrices', '(compare', 'with', 'PLS-Sect.', '4.6).'], ['Partial', 'least', 'squares', '(PLS)', 'is', 'a', 'regression', 'technique', 'extensively', 'used', 'in', 'chemometrics', '[52,', '15]', '.', 'However,', 'it', 'is', 'less', 'well', 'known', 'or', 'less', 'accepted', 'in', 'the', 'statistical', 'machine', 'learning', 'community', 'because', 'PLS', 'is', 'engineered', 'rather', 'than', 'motivated', 'by', 'a', 'statistical', 'description', 'of', 'the', 'training', 'data.', 'The', 'algorithm', 'starts', 'by', 'extracting', 'a', 'direction', 'u', '1', 'in', 'input', 'space', 'that', 'highly', 'correlates', 'with', 'the', 'output.', 'Then,', 'the', 'input', 'is', 'projected', 'onto', 'this', 'direction,', 'and', 'the', 'corresponding', 'regression', 'coefficient', 'is', 'computed.', 'Further', 'directions', 'are', 'obtained', 'by', 'deflation', '(see', 'Algorithm', '1).', 'PLS', 'is', 'purely', 'algorithmic', 'and', 'not', 'derived', 'from', 'an', 'optimality', 'criteria.', 'However,', 'up', 'to', 'several', 'digits,', 'PLS', 'produces', 'the', 'same', 'result', 'as', 'SIMPLS', '[10];', 'for', 'one', 'factor,', 'the', 'results', 'are', 'even', 'identical.', 'SIMPLS', 'maximizes', '(u', 'T', 'i', 'X', 'T', 'y)', '2', 'under', 'the', 'constraint', 'that', 'the', 'projections', 'Xu', 'i', 'are', 'orthogonal', 'to', 'each', 'other,', 'and', 'that', 'u', 'T', 'i', 'u', 'i', '=', '1.', 'Since', '(u', 'T', 'i', 'X', 'T', 'y)', '2', '=', 'corr', '2', '(Xu', 'i', ',', 'y)', 'var(Xu', 'i', '),', 'PLS', 'has', 'therefore', 'been', 'considered', 'as', 'a', 'mixture', 'between', 'RRR', 'and', 'PCR', '[1]', '.', 'For', 'sphericallydistributed', 'input', 'data', '(var(Xu', 'i', ')', '=', 'const.),', 'PLS', 'produces', 'the', 'same', 'result', 'as', 'RRR.', 'Alternative', 'methods', 'can', 'be', 'constructed', 'by', 'tuning', 'the', 'objective', 'function', 'between', 'var(Xu', 'i', ')', 'and', 'corr', '2', '(Xu', 'i', ',', 'y)', '[1]', '.', 'However,', 'these', 'methods', 'require', 'an', 'additional', 'parameter', 'and', 'are', 'thus', 'not', 'considered', 'here.'], ['In', 'the', 'locally-weighted', 'version,', 'we', 'need', 'to', 'do', 'the', 'following', 'substitutions:', '.', 'An', 'incremental', 'version', 'of', 'the', 'training', 'can', 'be', 'readily', 'derived', 'from', 'Algorithm', '1.', 'The', 'lines', '1,', '2,', '5,', '7,', '9', 'on', 'the', 'left-hand', 'side', 'already', 'contain', 'the', 'equations', 'for', 'single', 'data', 'points.', 'For', 'the', 'remaining', 'lines,', 'an', 'estimate', 'of', 'u', 'i', ',', 'a', 'i', '=', 's', 'T', 'i', 'Wy', 'i', ',', 'b', 'i', '=', 's', 'T', 'i', 'Ws', 'i', ',', 'and', 'q', 'i', '=', 'X', 'T', 'i', 'Ws', 'i', 'needs', 'to', 'be', 'updated', 'during', 'each', 'step,', 'given', 'a', 'learning', 'rate', 'η.', 'Algorithm', '2', 'shows', 'one', 'iteration', 'step', 'for', 'a', 'new', 'sample', '(x,', 'y)', 'with', 'weight', 'w.'], ['1:'], ['A', 'brief', 'summary', 'of', 'the', 'presented', 'dimensionality-reduction', 'methods', 'is', 'presented', 'in', 'Table', '1', '.', 'This', 'table', 'further', 'shows', 'the', 'computational', 'complexity', 'of', 'each', 'method,', 'for', 'training', 'and', 'testing,', 'and,', 'if', 'available,', 'for', 'the', 'incremental', 'version', 'of', 'the', 'algorithm.', 'Only', 'the', 'dominant', 'complexity', 'term', 'is', 'shown,', 'assuming', 'n', '>', 'd', '>', 'k.', 'For', 'linear', 'regression,', 'dimensionality-reduction', 'methods', 'that', 'maximize', 'the', 'correlation', 'between', 'projection', 'directions', 'and', 'output', 'data', 'do', 'better', 'than', 'methods', 'that', 'model', 'only', 'the', 'variance', 'of', 'the', 'data', 'distribution.', 'The', 'drawback', 'of', 'these', 'latter', 'methods', 'is', 'that', 'they', 'need', 'to', 'assume', 'that', 'the', 'number', 'of', 'factors', 'or', 'components', 'is', 'at', 'least', 'as', 'high', 'as', 'the', 'intrinsic', 'dimensionality', 'of', 'the', 'data-this', 'makes', 'incremental', 'addition', 'of', 'components', 'problematic.', 'Ideally,', 'one', 'projection', 'direction', 'would', 'be', 'sufficient,', 'namely', 'the', 'direction', 'in', 'input', 'space', 'that', 'maximally', 'correlates', 'with', 'the', 'output.', 'The', 'computation', 'of', 'this', 'direction,', 'however,', 'involves', 'calculations', 'which', 'are', 'at', 'least', 'as', 'expensive', 'as', 'the', 'ordinary', 'weighted', 'least', 'squares', 'on', 'the', 'full-dimensional', 'data', 'set..', 'Fortunately,', 'a', 'locally', 'weighted,', 'incremental', 'reformulation', 'of', 'partial', 'least', 'squares', '(PLS)', 'provides', 'an', 'ideal', 'dimensionality-reduction', 'technique:', 'PLS', 'does', 'well', 'with', 'only', 'a', 'few', 'projection', 'directions', '(it', 'works', 'with', 'only', 'one', 'projection', 'in', 'the', 'special', 'case', 'of', 'spherically', 'distributed', 'input', 'data),', 'and', 'since', 'the', 'projection', 'directions', 'are', 'orthogonal,', 'additional', 'relevant', 'dimensions', 'can', 'be', 'added', 'without', 'relearning', 'existing', 'projection', 'directions,', 'e.g.,', 'as', 'in', 'use', 'with', 'online', 'regression', 'algorithms', 'like', 'locally-weighted', 'projection', 'regression', '[48]', '.'], ['The', 'experiments', 'are', 'split', 'in', 'two', 'parts.', 'First,', 'on', 'a', 'data', 'set', 'with', 'known', 'structure,', 'we', 'show', 'how', 'the', 'dimensionality-reduction', 'methods', 'compare', 'with', 'each', 'other', 'for', 'different', 'factor', 'numbers', 'and', 'kernel', 'widths.', 'Second,', 'we', 'demonstrate', 'that', 'key', 'results', 'observed', 'in', 'the', 'synthetic', 'data', 'are', 'also', 'visible', 'in', 'two', 'real-world', 'data', 'sets.', 'Two', 'data', 'sets', 'were', 'used:', 'vision-robot', 'and', 'census-house', 'data.', 'The', 'vision-robot', 'data', 'were', 'taken', 'from', 'a', 'study', 'in', 'which', 'a', 'six-degrees-of-freedom', 'robot', 'arm', 'learned', 'to', 'grasp', 'an', 'object', '(a', 'small', 'brick)', 'presented', 'visually', 'on', 'a', 'table', 'surface', '[23]', '-see', 'Fig.', '7', '.', 'Each', 'data', 'point', 'combines', 'the', 'visual', 'information', 'of', 'the', 'object', 'with', 'the', 'grasping', 'arm', 'posture', 'of', 'the', 'robot.', 'To', 'collect', 'a', 'data', 'point,', 'the', 'robot', 'put', 'the', 'brick', 'on', 'the', 'table,', 'recorded', 'the', 'corresponding', 'arm', 'posture,', 'removed', 'the', 'arm,', 'and', 'took', 'a', 'picture', 'of', 'the', 'brick.', 'The', 'visual', 'information', 'consists', 'of', 'a', '4', '×', '4-pixels', 'grid', 'providing', 'a', 'coarse-grained', 'view', 'of', 'the', 'table', 'surface', 'and', 'a', 'histogram', 'showing', 'the', 'edge', 'distribution', 'over', 'four', 'orientations', 'within', 'the', 'camera', 'image', '[23]', '.', 'The', 'arm', 'posture', 'consists', 'of', 'six', 'joint', 'angles.', 'The', 'vision-robot', 'data', 'set', 'is', 'locally', 'low-dimensional,', 'because', 'the', 'brick', 'on', 'the', 'table', 'has', 'only', 'three', 'degrees', 'of', 'freedom', '(two', 'for', 'position', 'and', 'one', 'for', 'orientation).', 'Thus,', 'there', 'is', 'a', 'lot', 'of', 'redundancy', 'in', 'the', 'sensor', 'values', '(the', 'coarse-grained', 'image', 'and', 'the', 'edge', 'histogram).', 'A', 'disadvantage', 'of', 'this', 'data', 'set', 'for', 'our', 'regression', 'study', 'is', 'that', 'several', 'redundant', 'arm', 'postures', 'exist', 'for', 'a', 'given', 'image.', 'For', 'a', 'given', 'end-effector', 'position,', 'the', 'inverse', 'kinematics', 'of', 'the', 'robot', 'arm', 'has', 'several', 'solutions;', 'i.e.,', 'several', 'combinations', 'of', 'joint', 'angles', 'lead', 'to', 'the', 'same', 'endeffector', 'position', '[25,', '30]', '.', 'However,', 'in', 'the', 'collected', 'data,', 'the', 'shoulder', 'joint', 'showed', 'almost', 'no', 'redundancy', '(three', 'redundant', 'postures', 'could', 'be', 'identified', 'and', 'were', 'removed).', 'Thus,', 'we', 'used', 'the', 'angle', 'of', 'the', 'shoulder', 'joint', 'as', 'a', 'target', 'value', 'for', 'the', '20-dimensional', 'sensory', 'input.', 'Since', 'the', 'orientation', 'of', 'the', 'brick', 'is', 'irrelevant', 'for', 'the', 'angle', 'of', 'the', 'shoulder', 'joint,', 'the', 'intrinsic', 'dimensionality', 'of', 'the', 'relevant', 'data', 'is', 'only', 'two.', 'The', 'data', 'set', 'consists', 'of', '3,368', 'patterns;', 'the', 'first', '2,000', 'were', 'used', 'for', 'training,', 'the', 'rest', 'for', 'testing..', 'The', 'census-house', 'data', 'set', '[27]', 'is', 'part', 'of', 'the', 'Delve', 'repository.', 'The', 'data', 'show', 'median', 'house', 'prices', 'and', 'demographic', 'compositions', 'of', 'several', 'survey', 'regions,', 'as', 'obtained', 'from', 'the', '1990', 'US', 'Census.', 'Here,', 'we', 'used', 'a', 'subset', 'called', "'house-price-16L',", 'that', 'contains', 'only', '16', 'of', 'the', 'demographic', 'attributes.', 'These', 'attributes', 'form', 'the', 'input', 'and', 'the', 'corresponding', 'house', 'price', 'is', 'the', 'output.', 'Also', 'this', 'data', 'set', 'contains', 'redundancy,', 'since', 'some', 'of', 'the', 'attributes', 'correlate', 'with', 'each', 'other,', 'for', 'example,', 'the', 'number', 'of', 'families', 'and', 'the', 'number', 'of', 'households.', 'However,', 'the', 'intrinsic', 'dimensionality', 'is', 'unknown.', 'The', 'pattern', 'set', 'consists', 'of', '22,784', 'data', 'points;', 'thereof', '10,000', 'were', 'used', 'for', 'training', 'and', 'the', 'rest', 'for', 'testing..', 'Both', 'training', 'data', 'sets', 'were', 'processed', 'such', 'that', 'each', 'attribute', 'had', 'zero', 'mean', 'and', 'unit', 'variance.', 'For', 'regression,', 'as', 'for', 'the', 'sine-function', 'before,', 'we', 'used', 'only', 'one', 'local', 'model', 'centered', 'at', 'the', 'origin.', 'The', 'weight-function', 'was', 'uniform', 'and', 'had', 'the', 'same', 'metric', 'parameter', 'D', 'as', 'before.', 'The', 'optimal', 'D-value', 'was', 'obtained', 'by,', 'first,', 'computing', 'the', 'regression', 'using', 'RRR', 'with', 'k', '=', '1', 'for', 'various', 'D-values', '(in', 'steps', 'of', '0.1),', 'and', 'second,', 'choosing', 'the', 'D-value', 'resulting', 'in', 'the', 'lowest', 'error', '(D', '=', '2.4', 'for', 'the', 'vision-robot', 'and', 'D', '=', '0.3', 'for', 'the', 'house', 'data).', 'Using', 'this', 'optimal', 'D,', 'the', 'six', 'methods', 'were', 'evaluated', 'with', 'varying', 'number', 'of', 'factors', 'k.'], ['The', 'synthetic', 'data', 'are', 'sampled', 'from', 'an', 'embedded', 'manifold', 'of', 'either', 'linear', 'or', 'non-linear', 'structure', 'as', 'detailed', 'in', 'Sect.', '5.1.1.', 'Section', '5.1.2', 'describes', 'the', 'evaluation', 'settings.', 'On', 'the', 'linear', 'data,', 'Sect.', '5.1.3', 'compares', 'the', 'dimensionality-reduction', 'methods', 'for', 'different', 'number', 'of', 'components', 'k', 'and', 'different', 'noise', 'settings.', 'On', 'the', 'non-linear', 'data,', 'for', 'locally-weighted', 'regression,', 'Sect.', '5.1.4', 'compares', 'the', 'sensitivity', 'of', 'the', 'various', 'methods', 'to', 'the', 'optimal', 'kernel', 'width', 'for', 'a', 'range', 'of', 'projections', 'k.'], ['The', 'synthetic', 'data', 'set', 'was', 'designed', 'to', 'assume', 'the', 'following', 'four', 'characteristics.', 'First,', 'the', 'distribution', 'of', 'the', 'input', 'data', 'is', 'restricted', 'to', 'a', 'q-dimensional', 'subspace', 'of', 'arbitrary', 'orientation', 'to', 'allow', 'a', 'comparison', 'between', 'the', 'assumed', 'number', 'k', 'of', 'factors', 'and', 'the', 'intrinsic', 'dimensionality', 'q.', 'Second,', 'the', 'data', 'are', 'linearly', 'transformed', 'equivalent', 'to', 'duplicating', 'data', 'columns', 'in', 'V', 'and', 'rotating', 'the', 'resulting', 'data', 'points', 'in', 'the', 'd-dimensional', 'input', 'space.', 'Thus,', 'this', 'step', 'introduces', 'redundant', 'dimensions.', 'Third,', 'the', 'expected', 'variance', 'in', 'each', 'input', 'and', 'output', 'dimension', 'equals', '1', '(Appendix),', 'which', 'matches', 'the', 'standard', 'data', 'pre-processing', 'of', 'whitening', 'the', 'data-note,', 'here,', 'we', 'do', 'not', 'whiten', 'the', 'entire', 'data', '(which', 'would', 'result', 'in', 'artificially', 'expanding', 'the', 'noise', 'directions', 'as', 'well).', 'Finally,', 'the', 'non-linear', 'function', 'was', 'chosen', 'such', 'that', 'locally', 'around', 'the', 'origin,', 'the', 'same', 'input-output', 'relation', 'holds', 'as', 'for', 'the', 'linear', 'case..', 'We', 'generated', '5,000', 'training', 'patterns', 'and', '10,000', 'test', 'patterns.', 'Each', 'pattern', 'consists', 'of', 'a', 'd-dimensional', 'input', 'vector', 'x', 'and', 'a', '1-dimensional', 'output', 'y,', 'which', 'were', 'generated', 'using', 'the', 'following', 'procedure:', 'Then,', 'β', 'was', 'scaled', 'such', 'that', 'E(y', '2', ')', '=', '1', '(see', 'Appendix)..', 'The', 'dimensionality', 'd', 'was', 'set', 'to', '10,', 'and', 'the', 'intrinsic', 'dimensionality', 'q', 'was', 'set', 'to', '5.', 'The', 'noise', 'was', 'added', 'only', 'to', 'the', 'training', 'patterns;', 'the', 'test', 'patterns', 'were', 'noise', 'free.', 'Six', 'different', 'noise', 'settings', 'were', 'chosen', 'as', 'detailed', 'in', 'the', 'following:', 'These', 'noise', 'settings', 'were', 'chosen', 'to', 'selectively', 'match', 'assumptions', 'of', 'the', 'dimensionalityreduction', 'methods', '(like', 'PPCA', 'assumes', 'isotropic', 'noise)', 'and', 'to', 'explore', 'typical', 'conditions', 'in', 'applications:', 'first,', 'the', 'input', 'to', 'a', 'system', 'is', 'often', 'controlled', '(low', 'noise)', 'and', 'the', 'corresponding', 'output', 'observed', '(noisy);', 'second,', 'for', 'learning', 'from', 'sensory', 'data,', 'irrelevant', 'noise', 'dimensions', 'relate', 'to', 'sensor', 'values', 'that', 'are', 'irrelevant', 'for', 'a', 'given', 'task.'], ['We', 'tested', 'the', 'batch', 'versions', 'of', 'the', 'dimensionality-reduction', 'methods,', 'since', 'batch', 'versions', 'are', 'available', 'for', 'all', 'methods.', 'On', 'the', 'linear', 'data', 'with', 'isotropic', 'noise,', 'we', 'repeated', 'the', 'tests', 'using', 'the', 'incremental', 'versions', 'of', 'PCR,', 'PCAJ,', 'PPCA,', 'and', 'PLS..', 'The', 'batch', 'versions', 'were', 'slightly', 'modified', 'to', 'avoid', 'numerical', 'instabilities.', 'In', 'the', 'case', 'of', 'only', 'output', 'noise,', 'the', 'covariance', 'matrix', 'X', 'T', 'X', 'is', 'singular;', 'it', 'has', 'rank', 'q.', 'Thus,', 'each', 'of', 'the', 'methods', 'PCR,', 'PCAJ,', 'PPCA,', 'PLS,', 'and', 'RRR', 'will', 'be', 'numerically', 'unstable', 'for', 'k', '>', 'q.', 'For', 'RRR,', 'this', 'problem', 'even', 'holds', 'for', 'k', '=', '1.', 'To', 'avoid', 'that', 'these', 'numerical', 'instabilities', 'contaminate', 'the', 'results,', 'the', 'methods', 'were', 'slightly', 'modified.', 'In', 'PCR,', 'PPCA,', 'and', 'RRR,', 'a', 'small', 'value', '(10', '−6', ')', 'was', 'added', 'to', 'each', 'diagonal', 'element', 'of', 'the', 'covariance', 'matrix.', 'Thus,', 'here,', 'RRR', 'performs', 'like', 'ridge', 'regression', '[20]', ',', 'which', 'is', 'ordinary', 'least', 'squares', 'with', 'this', 'addition', 'to', 'the', 'covariance', 'matrix.', 'We', 'chose', 'this', 'addition', 'to', 'be', 'small', 'enough', 'not', 'to', 'alter', 'the', 'results', 'for', 'k', '≤', 'q;', 'and', 'for', 'k', '>', 'q,', 'it', 'adds', 'a', 'small', 'variance', 'to', 'the', 'excess', 'components', 'u', 'such', 'that', 'they', 'are', 'defined', 'but', 'negligible', 'for', 'the', 'output', 'y.', 'In', 'FA,', '10', '−6', 'was', 'added', 'to', 'the', 'diagonal', 'of', 'the', 'estimated', 'noise', 'variance', 'to', 'avoid', 'divisions', 'by', 'too', 'tiny', 'values.', 'For', 'PLS,', 'if', 'k', '>', 'q,', 's', 'T', 'i', 's', 'can', 'get', 'close', 'to', 'zero,', 'and', 'the', 'algorithm', 'gets', 'unstable.', 'This', 'instability', 'could', 'be', 'cured', 'by', 'setting', 'β', 'i', '=', '0', 'for', 's', 'T', 'i', 's', 'i', '<', '10', '−16', ',', 'since', 'the', 'corresponding', 'direction', 'does', 'not', 'contribute', 'to', 'the', 'y', 'value.', 'In', 'PCAJ,', 'for', 'k', '>', 'q,', 'the', 'first', 'excess', 'component', 'points', 'into', 'the', 'direction', 'of', 'the', 'output;', 'thus,', 'the', 'method', 'fails', 'since', 'the', 'principal', 'subspace', 'is', 'orthogonal', 'to', 'the', 'input', 'space', '(this', 'is', 'a', 'weakness', 'of', 'the', 'method', 'and', 'not', 'a', 'numerical', 'issue)..', 'To', 'evaluate', 'the', 'methods,', 'data', 'generation', 'and', 'regression', 'were', 'repeated', 'for', '100', 'runs.', 'Normalized', 'mean', 'square', 'errors', '(nMSE)-the', 'mean', 'prediction', 'error', 'divided', 'by', 'the', 'variance', 'of', 'the', 'output-were', 'computed', 'on', 'the', 'test', 'set', 'and', 'averaged', 'over', 'all', '100', 'runs.', 'In', 'each', 'run,', 'training', 'and', 'test', 'set', 'were', 'the', 'same', 'for', 'all', 'methods', 'and', 'for', 'all', 'k', 'and', 'D', 'values.', 'Apart', 'from', 'FA,', 'all', 'methods', 'have', 'analytic', 'solutions', 'in', 'the', 'batch', 'version.', 'For', 'FA,', '1,000', 'expectationmaximization', 'steps', 'were', 'iterated.', 'RRR', 'was', 'evaluated', 'only', 'for', 'k', '=', '1', 'since', 'we', 'have', 'only', 'one', 'non-zero', 'eigenvalue.', 'In', 'the', 'plots,', 'however,', 'we', 'replicate', 'the', 'corresponding', 'result', 'for', 'all', 'k', 'values', 'to', 'ease', 'the', 'comparison', 'with', 'the', 'other', 'methods..', 'In', 'the', 'incremental', 'versions', 'of', 'PCR,', 'PCAJ,', 'and', 'PPCA,', 'we', 'used', 'the', 'robust', 'recursive', 'least', 'square', 'algorithm', '[34]', 'to', 'extract', 'the', 'principal', 'components', 'incrementally.', 'We', 'implemented', 'this', 'algorithm', 'as', 'described', 'in', '[22]', '.', 'Since', 'the', 'orthonormality', 'of', 'the', 'principal', 'components', 'slowly', 'degrades,', 'we', 'did', 'a', 'Gram-Schmidt', 'orthonormalization', 'of', 'the', 'eigenvectors', 'after', 'each', '200', 'learning', 'steps.', 'For', 'PLS,', 'we', 'used', 'the', 'algorithm', 'as', 'shown', 'in', 'Sect.', '4.6', '(here,', 'w', '=', '1).', 'Initially,', 'the', 'vectors', 'u', 'i', 'were', 'set', 'to', 'random', 'values', 'and,', 'then,', 'orthonormalized.', 'Similar', 'to', 'above,', 'we', 'set', 'β', 'i', '=', '0', 'whenever', 's', '2', '<', '10', '−16', '.', 'For', 'all', 'incremental', 'algorithms,', 'we', 'set', 'the', 'learning', 'rate', 'to', 'η', '=', '1/t,', 'where', 't', 'is', 'the', 'iteration', 'step.', 'This', 'choice', 'counterbalances', 'forgetting', 'and', 'update', 'of', 'the', 'estimate', 'such', 'that', 'all', 'data', 'points', 'have', 'statistically', 'the', 'same', 'weight', '(see,', 'e.g.,', 'Sect.', 'A.3', 'in', '[21]', '-note,', 'this', 'choice', 'might', 'be', 'undesired', 'in', 'an', 'incremental', 'setting', 'in', 'which', 'older', 'data', 'samples', 'should', 'be', 'forgotten)..', 'In', 'the', 'non-linear', 'case,', 'the', 'data', 'points', 'were', 'weighted', 'according', 'to', '(4)', '.', 'The', 'center', 'c', 'was', 'set', 'to', 'zero,', 'and', 'the', 'distance', 'metric', 'D', 'was', 'set', 'to', 'DI', 'd', ',', 'where', 'I', 'd', 'is', 'the', 'd-dimensional', 'identity', 'matrix.', 'For', 'testing,', 'the', 'errors', 'for', 'each', 'test', 'point', 'were', 'multiplied', 'with', 'the', 'same', 'weight', 'function', 'used', 'for', 'training.'], ['On', 'the', 'linear', 'data,', 'Fig.', '3', 'compares', 'the', 'dimensionality', 'reduction', 'methods', 'for', 'different', 'number', 'of', 'components', 'k', 'and', 'different', 'noise', 'settings.', 'For', 'the', 'case', 'without', 'irrelevant', 'noise', 'dimension,', 'if', 'k', 'matches', 'the', 'intrinsic', 'dimensionality', 'q,', 'all', 'six', 'methods', 'do', 'almost', 'equally', 'well.', 'For', 'k', '>', 'q,', 'PCAJ', 'fails', 'for', 'only', 'output', 'noise,', 'and', 'for', 'other', 'noise', 'settings,', 'the', 'prediction', 'error', 'of', 'PCAJ', 'increases', 'with', 'increasing', 'k', '(not', 'shown', 'in', 'the', 'figure)', '.', 'The', 'other', 'methods', 'are', 'not', 'impaired', 'by', 'using', 'too', 'many', 'components', 'or', 'factors,', 'apart', 'from', 'FA', 'for', 'zero', 'noise', 'in', 'the', 'input;', 'here,', "FA's", 'performance', 'fluctuates', 'highly.'], ['Only-output', 'noise', 'For', 'k', '<', 'q,', 'PCR,', 'FA,', 'PPCA,', 'and', 'PCAJ', 'generate', 'large', 'errors.', 'PCR', 'does', 'worst,', 'because', 'it', 'omits', 'a', 'component', 'in', 'input', 'space', 'that', 'contributes', 'to', 'the', 'output', 'value.', 'Second', 'worst', 'is', 'FA,', 'whose', 'model', 'assumptions', 'are', 'violated.', 'On', 'the', 'other', 'hand,', 'PLS', 'and', 'RRR,', 'which', 'consider', 'the', 'correlation', 'between', 'input', 'and', 'output,', 'do', 'much', 'better', 'than', 'the', 'remaining', 'methods:', 'RRR', 'is', 'already', 'optimal', 'with', 'only', 'one', 'projection', 'direction,', 'and', 'PLS', 'is', 'almost', 'optimal', 'with', 'only', 'two', 'projection', 'directions..', 'When', 'adding', 'irrelevant', 'noise', 'dimensions,', 'PLS,', 'RRR,', 'and', 'FA', 'are', 'almost', 'unaffected.', 'However,', 'PCR,', 'PCAJ,', 'and', 'PPCA,', 'which', 'model', 'the', 'variance,', 'get', 'distorted', 'since', 'the', 'data', 'have', 'significant', 'variance', 'in', 'the', 'irrelevant', 'dimensions.', 'Worst', 'affected', 'is', 'PPCA,', 'which', 'essentially', 'models', 'the', 'data', 'by', 'wrapping', 'an', 'ellipsoid', 'around', 'it..', 'For', 'isotropic', 'noise', 'and', 'k', '=', 'q,', 'PCAJ', 'is', 'slightly', 'better', 'than', 'the', 'other', 'methods,', 'and', 'for', 'only', 'output', 'noise,', 'PCAJ', 'is', 'slightly', 'worse', 'than', 'all', 'other', 'methods.', 'This', 'difference', 'is', 'more', 'distinct', 'for', 'higher', 'noise.', 'To', 'illustrate', 'this', 'result,', 'we', 'compare', 'PCAJ', 'and', 'PCR', 'for', 'd', '=', '1', '(Fig.4', ';', 'in', 'this', 'simple', 'case,', 'PCR,', 'FA,', 'PPCA,', 'PLS,', 'and', 'RRR', 'all', 'yield', 'the', 'same', 'result).', 'With', 'isotropic', 'noise', '(Fig.', '4', '(left)', '),', 'PCAJ', 'produces', 'the', 'correct', 'result', '(nMSE:', '7.5', '*', '10', '−4', '±', '7.4', '*', '10', '−4', '),', 'which', 'differs', 'from', 'the', 'least-squares', 'solution,', 'and', 'thus,', 'PCR', 'fails', '(nMSE:', '0.22', '±', '0.01).', 'For', 'only', 'output', 'noise', '(Fig.', '4', '(right)', '),', 'the', 'ordinary', 'least-squares', 'solution', 'is', 'optimal', '(nMSE:', '3.7', '*', '10', '−4', '±', '3.2', '*', '10', '−4', '),', 'but,', 'here,', 'PCAJ', 'fails', '(nMSE:', '0.30', '±', '0.02)', 'because', 'the', 'direction', 'of', 'maximal', 'variance', 'is', 'rotated', 'into', 'the', 'direction', 'of', 'the', 'output', 'noise..', 'The', 'incremental', 'implementations', 'result', 'in', 'a', 'higher', 'error', 'rate', '(Fig.', '5)', '.', 'However,', 'we', 'see', 'the', 'same', 'pattern', 'as', 'observed', 'in', 'the', 'batch', 'algorithms:', 'for', 'k', '<', 'q,', 'PLS', 'is', 'doing', 'better', 'than', 'PCR,', 'PCAJ,', 'and', 'PPCA,', 'and', 'is', 'even', 'better', 'than', 'the', 'batch', 'versions', 'of', 'these', 'algorithms', '(compare', 'Fig.', '3', 'with', '5)', '.'], ['In', 'this', 'section,', 'we', 'evaluate', 'locally', 'weighted', 'regression', 'using', 'the', 'various', 'dimensionality', 'reduction', 'techniques', 'on', 'the', 'non-linear', 'data', 'set.', 'figure)', ';', 'PCAJ', 'fails', 'as', 'observed', 'above', '(see', 'Fig.', '3', ').', 'For', 'k', '=', '1,', 'the', 'optimal', 'D-value', 'shifts', 'even', 'for', 'PLS', 'to', 'smaller', 'values,', 'that', 'is,', 'wider', 'kernels', '(not', 'shown', 'in', 'the', 'figure).'], ['The', 'dimensionality-reduction', 'methods', 'were', 'further', 'tested', 'on', 'real-world', 'data', 'to', 'demonstrate', 'that', 'the', 'trends', 'shown', 'in', 'previous', 'results', 'are', 'also', 'relevant', 'to', 'non-synthetic', 'data', 'and', 'hence,', 'can', 'be', 'used', 'for', 'real-world', 'application.'], ['For', 'both', 'data', 'sets,', 'the', 'results', 'show', 'many', 'of', 'the', 'characteristics', 'as', 'seen', 'in', 'Sect.', '5.1.3', 'for', 'the', 'synthetic', 'data', '(Fig.', '8)', '.', 'RRR', 'provides', 'a', 'kind', 'of', 'base-line', 'for', 'the', 'optimal', 'performance.', 'Among', 'the', 'remaining', 'methods,', "PLS'", 'regression', 'error', 'decreases', 'the', 'most', 'quickly', 'with', 'increasing', 'number', 'of', 'factors.', 'FA,', 'as', 'in', 'the', 'case', 'with', 'irrelevant', 'noise', 'dimensions,', 'converges', 'more', 'quickly', 'than', 'the', 'remaining', 'methods', 'PCR,', 'PCAJ,', 'and', 'PPCA.', 'On', 'the', 'vision-robot', 'data,', 'the', 'prediction', 'error', 'for', 'FA', 'drops', 'sharply', 'at', 'the', 'intrinsic', 'dimensionality', '(k', '=', '2).', 'The', 'error', 'for', 'PCR,', 'PCAJ,', 'and', 'PPCA', 'drops', 'at', 'a', 'higher', 'k-value', '(k', '=', '4).', 'When', 'increasing', 'k', 'further,', 'only', 'PCAJ', 'fails.'], ['We', 'compared', 'the', 'regression', 'performance', 'of', 'non-parametric', 'dimensionality-reduction', 'methods', 'on', 'synthetic', 'and', 'real-world', 'data.', 'The', 'synthetic', 'data', 'were', 'constructed', 'such', 'that', 'they', 'were', 'restricted', 'to', 'a', 'lower', 'q-dimensional', 'subspace.', 'Our', 'basic', 'finding', 'was', 'that', 'if', 'the', 'number', 'k', 'of', 'factors,', 'components,', 'or', 'projection', 'directions', 'is', 'smaller', 'than', 'q', 'then', 'methods', 'that', 'are', 'based', 'on', 'maximizing', 'the', 'correlation', 'between', 'projection', 'directions', 'and', 'output', '(PLS', 'and', 'RRR)', 'do', 'better', 'than', 'methods', 'that', 'model', 'the', 'distribution', 'of', 'data', 'in', 'joint', 'space', '(FA,', 'PPCA,', 'and', 'PCAJ),', 'which', 'in', 'turn', 'do', 'better', 'than', 'methods', 'that', 'reduce', 'the', 'dimensionality', 'without', 'taking', 'the', 'regression', 'target', 'into', 'account', '(PCR).', 'This', 'finding', 'is', 'significant', 'in', 'view', 'of', 'the', 'practical', 'requirements', 'of', 'incrementally', 'adding', 'projection', 'directions', 'in', 'a', 'real-world', 'application', 'without', 'significant', 'prior', 'knowledge', 'of', 'the', 'true', 'intrinsic', 'dimensionality..', 'The', 'data', 'generation', 'mechanism', 'fulfilled', 'all', 'assumptions', 'of', 'factor', 'analysis', 'except', 'for', 'the', 'true', 'intrinsic', 'dimensionality', 'q.', 'Thus,', 'the', 'breakdown', 'of', 'FA', 'for', 'incorrect', 'number', 'of', 'factors', 'demonstrates', 'its', 'brittleness', 'with', 'respect', 'to', 'the', 'match', 'between', 'k', 'and', 'q;', 'making', 'it', 'inherently', 'difficult', 'to', 'use', 'for', 'a', 'constructive,', 'incremental', 'algorithm.', 'In', 'contrast,', 'PLS', 'shows', 'promising', 'results', 'with', 'graceful', 'degradation', 'for', 'k', '<', 'q..', 'As', 'the', 'comparison', 'with', 'RRR', 'shows,', 'the', 'dimensionality', 'could', 'be', 'even', 'reduced', 'to', 'one', 'by', 'finding', 'a', 'direction', 'whose', 'projections', 'maximally', 'correlate', 'with', 'the', 'output-this', 'is', 'nothing', 'but', 'the', 'direction', 'of', 'the', 'true', 'regression', 'vector', 'β.', 'However,', 'as', 'mentioned', 'earlier,', 'computationally,', 'RRR', 'is', 'equivalent', 'to', 'doing', 'ordinary', 'least', 'squares', 'on', 'the', 'full', 'data', 'set,', 'i.e.,', 'the', 'full', 'covariance', 'matrix', 'needs', 'to', 'be', 'inverted,', 'and', 'there', 'are', 'no', 'computationally-attractive', 'incremental', 'implementations.', 'Thus,', 'PLS', 'appears', 'as', 'the', 'best', 'compromise:', 'the', 'method', 'maximizes', 'only', 'the', 'correlation', 'in', 'the', 'special', 'case', 'of', 'spherically-distributed', 'input', 'data,', 'but', 'it', 'provides', 'an', 'efficient', 'implementation,', 'which', 'can', 'be', 'also', 'written', 'in', 'an', 'incremental', 'way..', 'In', 'a', 'further', 'test,', 'we', 'showed', 'that', 'this', 'advantage', 'of', 'PLS', 'for', 'k', '<', 'q', 'actually', 'holds', 'also', 'in', 'the', 'incremental', 'version', 'of', 'the', 'algorithm.', 'The', 'lower', 'performance', 'of', 'the', 'incremental', 'methods', 'for', 'k', '>', '1', 'is', 'probably', 'due', 'to', 'simultaneous', 'component', 'estimation,', 'which', 'is', 'known', 'to', 'accumulate', 'error', 'in', 'incremental', 'PCA', '[29]', '.', 'For', 'k', '≥', 'q,', 'PCAJ', 'did', 'best.', 'In', 'our', 'incremental', 'PCAJ', 'implementation,', 'inconsistencies', 'between', 'the', 'incrementally', 'updated', 'variables', 'are', 'probably', 'compensated', 'by', 'the', 'Gram-Schmidt', 'orthonormalization,', 'which', 'was', 'computed', 'every', '200', 'steps', '(see', 'Sect.', '5.1.2).', 'For', 'the', 'other', 'methods,', 'this', 'compensation', 'probably', 'did', 'not', 'work', 'as', 'well,', 'because', 'additional', 'variables', 'have', 'to', 'be', 'updated', '(β', 'for', 'PCR', 'and', 'the', 'residual', 'variance', 'for', 'PPCA).', 'Moreoever,', 'our', 'PLS', 'implementation', 'did', 'not', 'use', 'any', 'such', 'compensation', 'step..', 'Apart', 'from', 'the', 'breakdown', 'for', 'k', '<', 'q,', 'all', 'of', 'PCAJ,', 'PCR,', 'FA,', 'and', 'PPCA', 'showed', 'an', 'additional', 'specific', 'weakness.', 'PCAJ', 'deteriorates', 'for', 'k', '>', 'q;', 'particularly,', 'for', 'only', 'output', 'noise,', 'one', 'principal', 'component', 'points', 'into', 'the', 'direction', 'of', 'this', 'noise,', 'and', 'regression', 'cannot', 'proceed', 'because', 'the', 'principal', 'subspace', 'is', 'perpendicular', 'to', 'the', 'input', 'space.', 'PCR', 'fails', 'dramatically', 'if', 'k', '<', 'q', 'because', 'part', 'of', 'the', 'input', 'that', 'contributes', 'to', 'the', 'output', 'value', 'is', 'ignored.', 'FA', 'shows', 'higher', 'regression', 'errors', 'for', 'k', '>', 'q', 'if', 'input', 'dimensions', 'have', 'zero', 'noise,', 'probably,', 'because', 'the', 'model', 'does', 'not', 'consider', 'zero', 'noise', 'variance..', 'PPCA', 'fails', 'if', 'we', 'add', 'irrelevant', 'noise', 'dimensions', 'because', 'the', 'ellipsoid', 'associated', 'with', 'the', 'eigenvectors', 'and', 'eigenvalues', 'includes', 'this', 'noise', '(see', 'Sect.', '4.4).', 'Thus,', 'to', 'compensate', 'for', 'this', 'additional', 'noise,', 'as', 'many', 'components', 'as', 'noise', 'dimensions', 'need', 'to', 'be', 'added', '[21]', '.', 'PCR', 'and', 'PCAJ', 'do', 'better', 'with', 'irrelevant', 'noise', 'because', 'the', "data's", 'variance', 'equals', 'd/q', 'on', 'the', 'embedded', 'subspace;', 'the', 'variance', 'in', 'the', 'noise', 'dimensions', 'equals', '1', '(see', 'Sect.', '5.1.1).', 'Here,', 'FA', 'was', 'not', 'affected,', 'because', 'the', 'irrelevant', 'noise', 'dimensions', 'are', 'covered', 'by', 'the', 'model', 'assumptions.', 'This', 'feature', 'may', 'explain', 'why', 'FA', 'did', 'better', 'than', 'PCAJ,', 'PCR,', 'and', 'PPCA', 'on', 'the', 'real-world', 'data..', 'Furthermore,', 'we', 'illustrated', 'the', 'influence', 'of', 'the', 'noise-generation', 'model', 'on', 'the', 'regression', 'results.', 'Apart', 'from', 'PCAJ,', 'all', 'tested', 'methods', 'produce', 'an', 'optimal', 'regression', 'result', 'for', 'only', 'output', 'noise,', 'but', 'not', 'for', 'isotropic', 'noise.', 'The', 'model', 'assumptions', 'of', 'FA', 'and', 'PPCA', 'are', 'consistent', 'with', 'isotropic', 'noise,', 'and', 'these', 'methods', 'do', 'reproduce', 'the', 'underlying', 'model', 'correctly-the', 'density', 'p(y,', 'x)', 'matches', 'the', 'distribution', 'of', 'the', 'data', 'in', 'joint', 'space.', 'However,', 'maximizing', 'p(y|x)', 'for', 'a', 'given', 'x', 'results', 'in', 'the', 'ordinary-least-squares', 'solution,', 'which', 'is', 'not', 'optimal', 'for', 'noise-free', 'test', 'data.', 'PCAJ', 'also', 'aligns', 'its', 'principal', 'subspace', 'with', 'the', 'data', 'distribution', 'for', 'isotropic', 'noise,', 'but', 'PCAJ', 'uses', 'this', 'subspace', 'directly', 'as', 'the', 'result', 'for', 'regression,', 'which', 'is', 'optimal', 'for', 'noise-free', 'test', 'data..', 'On', 'non-linear', 'data', 'sets,', 'with', 'locally-linear', 'regression,', 'the', 'prediction', 'error', 'depends', 'on', 'the', 'width', 'of', 'the', 'kernel', 'function.', 'An', 'optimal', 'width', 'exists,', 'which', 'is', 'a', 'trade-off', 'between', 'finding', 'a', 'small', 'enough', 'value', 'for', 'a', 'good', 'linear', 'approximation', 'and', 'a', 'large', 'enough', 'value', 'to', 'avoid', 'over-fitting', '(because', 'of', 'the', 'noise).', 'In', 'incremental', 'learning,', 'when', 'the', 'number', 'of', 'components', 'q', 'changes,', 'a', 'robustness', 'of', 'the', 'optimal', 'width', 'about', 'q', 'is', 'desirable.', 'This', 'robustness', 'was', 'only', 'found', 'in', 'PLS', '(see', 'Fig.', '6', ')..', 'Using', 'the', 'real-world', 'data,', 'we', 'could', 'reproduce', 'the', 'main', 'findings', 'obtained', 'from', 'the', 'synthetic', 'data,', 'particularly,', 'the', 'advantage', 'of', 'maximizing', 'the', 'correlation', 'versus', 'maximizing', 'the', 'variance.', 'Thus,', 'our', 'synthetic', 'data', 'seems', 'to', 'have', 'basic', 'characteristics', 'found', 'in', 'real', 'applications:', 'being', 'lower-dimensional', 'than', 'the', 'embedding', 'space,', 'including', 'dimensions', 'with', 'irrelevant', 'noise,', 'being', 'globally', 'non-linear,', 'and', 'locally', 'linear.', 'In', 'robotics,', 'such', 'characteristics', 'are', 'likely', 'to', 'occur', 'in', 'sensory', 'data,', 'for', 'example,', 'in', 'visual', 'and', 'tactile', 'input.']]
+Document BIO Tags:  [['O', 'B', 'I', 'O', 'O', 'O'], ['O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'I', 'O', 'O', 'O', 'O', 'B', 'I', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'I', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'I', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'B', 'I', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'I', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'I', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I'], ['B', 'I', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['B', 'I', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O']]
+Extractive/present Keyphrases:  ['reduced-rank regression', 'incremental learning', 'correlation', 'factor analysis', 'principal component analysis', 'partial least squares', 'principal component regression', 'kernel function', 'locally-weighted regression', 'dimensionality reduction']
+Abstractive/absent Keyphrases:  []
+
+-----------
+
+Sample from test data split
+Fields in the sample:  ['id', 'sections', 'sec_text', 'extractive_keyphrases', 'abstractive_keyphrases', 'sec_bio_tags']
+Section names:  ['title', 'abstract', 'introduction', 'implications of flow for learning', 'flow and learning in a virtual world', 'play and learning', 'enhancing virtual learning through telepresence', 'the hoffman and novak conceptual model', 'participants', 'treatment', 'h', 'hypotheses one and two', 'hypothesis three', 'discussion', 'conclusion']
+Tokenized Document:  [['Correlating', 'the', 'effects', 'of', 'flow', 'and', 'telepresence', 'in', 'virtual', 'worlds:', 'Enhancing', 'our', 'understanding', 'of', 'user', 'behavior', 'in', 'game-based', 'learning'], ['Recent', 'research', 'on', 'online', 'learning', 'suggests', 'that', 'virtual', 'worlds', 'are', 'becoming', 'an', 'important', 'environment', 'to', 'observe', 'the', 'experience', 'of', 'flow.', 'From', 'these', 'simulated', 'spaces,', 'researchers', 'may', 'gather', 'a', 'deeper', 'understanding', 'of', 'cognition', 'in', 'the', 'context', 'of', 'game-based', 'learning.', 'Csikszentmihalyi', '(1997)', 'describes', 'flow', 'as', 'a', 'feeling', 'of', 'increased', 'psychological', 'immersion', 'and', 'energized', 'focus,', 'with', 'outcomes', 'that', 'evoke', 'disregard', 'for', 'external', 'pressures', 'and', 'the', 'loss', 'of', 'time', 'consciousness,', 'issuing', 'in', 'a', 'sense', 'of', 'pleasure.', 'Past', 'studies', 'suggest', 'that', 'flow', 'is', 'encountered', 'in', 'an', 'array', 'of', 'activities', 'and', 'places,', 'including', 'those', 'in', 'virtual', 'worlds.', 'The', "authors'", 'posit', 'that', 'flow', 'in', 'virtual', 'worlds,', 'such', 'as', 'Second', 'Life', '(SL),', 'can', 'be', 'positively', 'associated', 'with', 'degrees', 'of', 'the', 'cognitive', 'phenomenon', 'of', 'immersion', 'and', 'telepresence.', 'Flow', 'may', 'also', 'contribute', 'to', 'a', 'better', 'attitude', 'and', 'behavior', 'during', 'virtual', 'game-based', 'learning.', 'This', 'study', 'tested', 'three', 'hypotheses', 'related', 'to', 'flow', 'and', 'telepresence,', 'using', 'SL.', 'Findings', 'suggest', 'that', 'both', 'flow', 'and', 'telepresence', 'are', 'experienced', 'in', 'SL', 'and', 'that', 'there', 'is', 'a', 'significant', 'correlation', 'between', 'them.', 'These', 'findings', 'shed', 'light', 'on', 'the', 'complex', 'interrelationships', 'and', 'interactions', 'that', 'lead', 'to', 'flow', 'experience', 'in', 'virtual', 'gameplay', 'and', 'learning,', 'while', 'engendering', 'hope', 'that', 'learners,', 'who', 'experience', 'flow,', 'may', 'acquire', 'an', 'improved', 'attitude', 'of', 'learning', 'online.'], ["''Flow''", 'or', "''optimal", "experience''", 'is', 'a', 'highly', 'enjoyable', 'state', 'of', 'consciousness', 'that', 'occurs', 'when', 'our', 'skills', 'match', 'the', 'challenges', 'that', 'we', 'are', 'undertaking.', 'Csikszentmihalyi', '(1997)', 'describes', 'flow', 'as', 'a', 'feeling', 'of', 'enjoyment', 'and', 'psychological', 'immersion,', 'energized', 'focus,', 'and', 'involvement,', 'often', 'accompanied', 'by', 'positive', 'emotions', 'or', 'sense', 'of', 'pleasure.', 'In', 'such', 'a', 'state', 'of', 'mind,', 'time', 'appears', 'to', 'stand', 'still,', 'we', 'lose', 'our', 'sense', 'of', 'self,', 'and', 'we', 'enjoy', 'engaging', 'in', 'an', 'activity', 'for', 'its', 'own', 'sake.', "Flow's", 'benefits', 'relative', 'to', 'other', 'states', 'of', 'consciousness', 'make', 'it', 'a', 'useful', 'goal', 'as', 'people', 'look', 'to', 'building', 'virtual', 'environments', 'for', 'online', 'business,', 'health', 'care,', 'education,', 'and', 'gaming.', 'Salmon', '(2009)', 'suggests', 'that', 'virtual', 'space', 'has', 'created', 'a', 'context', 'for', 'the', "''new", 'cultural', "experience'", "'", '(p.', '532)', '.', 'Many', 'of', 'the', 'activities', 'we', 'currently', 'associate', 'with', 'the', 'two-dimensional', 'Web', 'will', 'eventually', 'develop', 'into', 'the', 'three-dimensional', '(3D)', 'Web', '(Manyika,', 'Roberts,', '&', 'Sprague,', '1965)', ',', 'including', '3D', 'applications', 'that', 'integrate', 'real-life', 'with', 'virtual', "''learning", 'activities', 'that', 'enable', 'unstructured', 'spaces', 'for', 'interaction', "''", '(Savin-Baden,', '2008,', 'p.', '528)', '.', 'Such', 'environments', 'already', 'provide', 'affordances,', 'such', 'as', 'particular', 'game', 'styles,', 'visual', 'features,', 'personalization,', 'independence', '(ownership),', 'and', 'immersion', 'that', 'appeal', 'to', 'high', 'school', 'and', 'college', 'age', 'users', '(Salmon,', '2009)', '.', 'Ultimately,', 'what', 'the', 'so-called', "''play-learner''", 'experiences', 'is', 'what', 'Warburton', '(2009)', 'refers', 'to', 'as', "''experiential", 'learning,', 'cooperative', 'learning,', 'and', 'game-based', "learning''", '(p.', '421).', 'This', 'has', 'major', 'implications', 'for', 'the', 'field', 'of', 'education..', 'Virtual', 'worlds', 'now', 'allow', 'educators', 'to', 'extend', 'the', 'traditional', 'pedagogical', 'formula', 'for', 'learning', 'well', 'beyond', 'both', 'brick', '(traditional', 'schools)', 'and', 'click', '(traditional', 'educational', 'software)', 'paradigms', 'currently', 'employed.', 'In', 'addition', 'to', 'individual', 'or', 'personal', 'flow', 'experiences,', 'students', 'may', 'also', 'experience', 'social', 'flow', 'while', 'using', 'computer', 'games', 'that', 'cause', 'them', 'to', 'interact', 'with', 'one', 'another', 'within', 'a', 'virtual', 'learning', 'community', '(Inal', 'and', 'Cagiltay,', '2007)', '.', 'In', '3D', 'space', 'participants', 'learn', 'to', 'play,', 'establish', 'group', 'affiliations,', 'and', 'create', 'a', 'strong', 'sense', 'of', 'presence.', 'The', 'small', 'groups', 'of', 'users', '(represented', 'by', 'avatars)', 'formed', 'in', 'these', 'settings', 'have', 'the', 'ability', 'to', 'learn', 'a', 'range', 'of', 'topics', 'together', '(Salmon,', '2009)', '.', 'By', 'applying', 'Csikszentmihalyi', 'and', "Csikszentmihalyi's", '(1988)', 'flow', 'principles', 'to', 'the', 'areas', 'of', 'online', 'gameplay', 'and', 'learning,', 'designers', 'can', 'create', 'virtual', 'worlds', 'that', 'present', 'more', 'opportunities', 'for', 'flow.', 'Early', 'attempts', 'at', 'applying', 'flow', 'theory', 'to', 'such', 'ends', 'include', 'investigations', 'of', 'online', 'consumer', 'behavior', 'and', 'marketing', '(Hoffman', '&', 'Novak,', '1996)', ',', 'computer-mediated', 'communication', '(Trevino', '&', 'Webster,', '1992)', ',', 'and', 'user', 'intrinsic', 'interest,', 'curiosity', 'and', 'attention', '(Webster,', 'Trevino,', '&', 'Ryan,', '1993)', '..', 'The', 'studies', 'described', 'above', 'suggest', 'that', 'flow', 'experience', 'is', 'a', 'significant', 'cognitive', 'state', 'in', 'online', 'virtual', 'community', 'behavior', 'that', 'may', 'influence', 'serious', 'gameplay', 'and', 'learning.', 'In', 'the', 'future,', 'online', 'environments', '(and', 'the', 'functions', 'and', 'tasks', 'they', 'present', 'to', 'users)', 'will', 'need', 'to', 'facilitate', 'flow', 'experience.', 'Hence,', 'it', 'is', 'imperative', 'that', 'designers', 'of', 'virtual', 'worlds', 'understand', 'the', 'mechanisms', 'underlying', 'the', 'enjoyment', 'of', 'virtual', 'experiences', 'and', 'flow.', 'This', 'is', 'argued', 'by', 'Finneran', 'and', 'Zhang', '(2003)', ',', 'who', 'called', 'for', 'further', 'research', 'into', 'flow', 'because', 'of', 'its', 'important', 'contribution', 'to', 'our', 'understanding', 'of', 'the', 'optimal', 'experience..', 'Telepresence', 'is', 'also', 'a', 'sensation', 'unique', 'to', 'online', 'environments,', 'which', 'causes', 'users', 'feel', 'they', 'are', 'part', 'of', 'the', 'action', '(Novak,', 'Hoffman,', '&', 'Yung,', '2000)', '.', 'Telepresence', 'has', 'been', 'shown', 'to', 'support', 'exploratory', 'behavior', 'in', 'online', 'environments', 'such', 'as', 'virtual', 'communities', '(Finneran', '&', 'Zhang,', '2005)', 'and', 'may', 'be', 'a', 'critical', 'means', 'of', 'increasing', 'the', "user's", 'sense', 'of', "''being", "there,''", 'i.e.,', 'being', 'completely', 'immersed', 'in', 'virtual', 'space.', 'For', 'example,', 'video', 'gamers', 'often', 'become', 'totally', 'absorbed', 'in', 'the', 'experience', 'of', 'a', "game's", 'flow,', 'thereby', 'experiencing', 'a', 'distorted', 'sense', 'of', 'time', 'and', 'many', 'positive', 'emotions.', 'In', 'such', 'a', 'mental', 'state,', 'telepresence', 'transports', 'the', 'player', 'to', 'a', 'virtual', 'place', 'where', 'their', 'connection', 'with', 'real', 'time', 'and', 'space', 'slowly', 'fade', 'into', 'the', 'background', 'of', 'consciousness,', 'while', 'flow', 'takes', 'a', 'prominent', 'place.', 'Gamers', 'consider', 'this', 'an', 'optimal', 'experience,', 'one', 'that', 'is', 'highly', 'valued,', 'desired,', 'and', 'indicative', 'of', 'the', "''flow", "experience.''", 'Work', 'of', 'several', 'researchers', 'who', 'have', 'published', 'findings', 'on', 'the', 'relationship', 'between', 'flow', 'and', 'telepresence', 'and', 'virtual', 'learning', 'and', 'gameplay', 'is', 'also', 'significant', '(Draper', '&', 'Blair,', '1996;', 'Finneran', '&', 'Zhang,', '2003;', 'Novak', '&', 'Hoffman,', '1997;', 'Sheridan,', '1992;', 'Steuer,', '1992)', '..', 'With', 'the', 'emergence', 'of', 'virtual', 'worlds,', 'such', 'as', 'Second', 'Life', '(SL),', 'calls', 'for', 'research', 'into', 'flow', 'in', 'the', 'context', 'of', 'game-based', 'learning', 'have', 'also', 'increased.', 'None', 'of', 'this', 'research,', 'however,', 'focuses', 'specifically', 'on', 'flow', 'and', 'telepresence', 'as', 'virtual', 'phenomena', 'that', 'can', 'enhance', 'the', 'learning', 'experience', 'while', 'promoting', 'exploration', 'and', 'creativity.', 'Therefore,', 'this', 'paper', 'first', 'examines', 'past', 'research', 'on', 'flow', 'phenomenon', 'to', 'better', 'identify', 'and', 'understand', 'telepresence', 'in', 'a', 'virtual', 'world', 'and', 'then', 'examines', 'its', 'application', 'and', 'relevance', 'to', 'gameplay', 'and', 'virtual', 'learning.', 'Also,', 'the', 'purpose', 'of', 'the', 'study', 'described', 'here', 'is', 'to', 'determine', 'the', 'degree', 'to', 'which', 'flow', 'and', 'telepresence', 'are', 'experienced', 'in', 'a', 'virtual', 'environment,', 'such', 'as', 'SL,', 'as', 'well', 'as', 'the', 'level', 'of', 'correlation', 'between', 'them.', 'Finally,', 'this', 'paper', 'examines', 'the', 'implications', 'of', 'the', 'findings', 'of', 'the', 'research,', 'building', 'on', 'an', 'earlier', 'pilot', 'study', '(Faiola', '&', 'Smyslova,', '2009)', '.', 'From', 'these', 'findings,', 'the', 'authors', 'argue', 'that', 'subjective', 'levels', 'of', 'flow', 'may', 'be', 'positively', 'associated', 'with', 'degrees', 'of', 'immersion', 'and', 'telepresence.'], ['The', 'notion', 'of', "'flow'", 'was', 'introduced', 'by', 'Csikszentmihalyi', '(1975)', 'as', 'a', 'technical', 'term', 'to', 'describe', 'the', 'good', 'feeling', 'or', "''optimal", "experience''", 'people', 'have', 'as', 'a', 'motivating', 'factor', 'in', 'their', 'daily', 'activities', 'such', 'as', 'work,', 'sports,', 'and', 'artistic', 'performance.', 'Although', "Csikszentmihalyi's", 'research', 'was', 'part', 'of', 'the', 'larger', 'field', 'of', 'intrinsic', 'motivation,', 'his', 'investigation', 'of', 'flow', 'was', 'contrary', 'to', 'the', 'traditional', 'utility-centric', 'motivational', 'theories', 'of', 'the', 'time', '(Csikszentmihalyi', '&', 'Csikszentmihalyi,', '1988;', 'Moneta', '&', 'Csikszentmihalyi,', '1996)', '.', 'Csikszentmihalyi', 'referred', 'to', 'flow', 'as', 'an', 'experience', 'people', 'had', 'when', 'they', "''worked", 'hard,', 'not', 'in', 'order', 'to', 'get', 'conventional', 'rewards,', 'but', 'because', 'the', 'work', 'itself', 'was', 'rewarding.', '.', '.', ".''", '(Csikszentmihalyi', 'and', 'Csikszentmihalyi,', '1988,', 'p.', '5)', '.', 'Similar', 'to', 'the', 'work', 'of', 'Csikszentmihalyi,', 'Maslow', '(1965)', 'ascribed', 'this', 'motivation', 'to', 'the', 'need', 'to', 'find', "one's", 'potentiality', 'or', 'limitations', 'through', 'an', 'activity', 'that', 'is', 'intensely', 'focused..', 'A', 'number', 'of', 'studies', 'by', 'Csikszentmihalyi', 'and', 'Csikszentmihalyi', '(1988)', ',', 'Csikszentmihalyi', '(1990', 'Csikszentmihalyi', '(', ',', '1997', 'analyze', 'how', 'users', 'experience', 'flow', 'in', 'online', 'information-seeking,', 'and', 'the', 'correlation', 'between', 'user', 'skill', 'level', 'and', 'propensity', 'to', 'experience', 'flow.', 'Other', 'researchers', 'found', 'that', 'flow', 'and', 'high', 'levels', 'of', 'enjoyment', 'and', 'control', 'in', 'computer-mediated', 'interactions', 'were', 'correlated', 'with', 'higher', 'online', 'experimentation', 'and', 'exploration', '(Ghani', '&', 'Deshpande,', '1994;', 'Ghani,', 'Supnick,', '&', 'Rooney,', '1991;', 'Katz,', '1987)', '..', 'Key', 'to', 'understanding', 'flow', 'is', 'the', 'concept', 'of', 'the', 'autotelic', 'experience.', 'The', 'autotelic', 'experience', 'is', 'the', 'result', 'of', 'an', 'activity', 'or', 'situation', 'that', 'produces', 'its', 'own', 'intrinsic', 'motivation,', 'rewards,', 'or', 'incentives,', 'specifically', 'without', 'any', 'outside', 'goals', 'or', 'rewards.', 'The', 'autotelic', 'experience', 'is', 'a', 'common', 'feeling', 'among', 'all', 'people', 'that', 'experience', 'flow', 'when', 'their', 'attention', 'is', 'focused', 'on', 'a', 'limited', 'stimulus', 'field.', 'Csikszentmihalyi', 'and', 'Csikszentmihalyi', '(1988)', 'states', 'that', 'in', 'an', 'autotelic', 'state,', 'people', "''forget", 'personal', 'problems,', 'lose', 'their', 'sense', 'of', 'time', 'and', 'of', 'themselves,', 'feel', 'competent', 'and', 'in', 'control,', '.', '.', '.', 'have', 'a', 'sense', 'of', 'harmony', 'and', 'union', 'with', 'their', 'surroundings.', '.', '.', 'and', 'cease', 'to', 'worry', 'about', 'whether', 'the', 'activity', 'will', 'be', 'productive', 'and', 'whether', 'it', 'will', 'be', "rewarded'", "'", '(p.', '182)', '..', 'Flow', 'is', 'a', 'complex', 'concept', 'that', 'is', 'difficult', 'to', 'operationalize', 'because', 'of', 'a', 'range', 'of', 'qualifiers.', 'Csikszentmihalyi', '(1990)', 'describes', 'nine', 'dimensions', 'of', 'flow,', 'which', 'include:', '(1)', 'clear', 'goals,', '(2)', 'immediate', 'feedback,', '(3)', 'a', 'match', 'between', 'personal', 'skills', 'and', 'challenges,', '(4)', 'merger', 'of', 'action', 'and', 'awareness,', '(5)', 'concentration', 'on', 'the', 'task,', '(6)', 'sense', 'of', 'control,', '(7)', 'loss', 'of', 'self-consciousness,', '(8)', 'altered', 'sense', 'of', 'time,', 'and', '(9)', 'the', 'experience', 'of', 'becoming', "''autotelic,''", 'i.e.,', 'doing', 'an', 'activity', 'for', 'its', 'own', 'sake', 'or', 'its', 'own', 'intrinsic', 'reward.', 'A', 'review', 'of', 'the', 'literature', 'by', 'Rodriguez-Sanchez', 'and', 'Schaufeli', '(2008)', 'suggests', 'that', 'a', 'more', 'condensed', 'definition', 'of', 'flow', 'as', 'an', 'optimal', 'experience', 'can', 'be', 'composed', 'of', 'three', 'basic', 'elements,', 'including:', 'absorption,', 'enjoyment,', 'and', 'intrinsic', 'interest..', '1', 'Also,', 'in', 'a', 'study', 'by', 'Hoffman', 'and', 'Novak', '(1996)', 'to', 'validate', 'correlations', 'between', 'flow', 'experience', 'and', 'online', 'learning,', 'findings', 'support', 'the', 'existence', 'of', 'five', 'sub-constructs,', 'including:', 'enjoyment,', 'telepresence,', 'focused', 'attention,', 'engagement,', 'and', 'time', 'distortion.'], ['The', 'notion', 'of', 'intrinsic', 'motivation', 'has', 'significant', 'implications', 'for', 'researchers', 'seeking', 'to', 'understand', 'how', 'learning', 'activities', 'and', 'environments', 'can', 'engender', 'motivation', 'in', 'students.', 'This', 'motivational', 'phenomenon', 'is', 'often', 'seen', 'when', 'the', 'goals', 'and', 'rewards', 'of', 'learning', 'are', 'meaningful', 'or', 'when', 'the', 'learning', 'assists', 'the', 'learner', 'in', 'obtaining', 'valued', 'accomplishments', '(Brandt,', '1995;', 'Chance,', '1992)', '.', 'The', 'concept', 'of', 'intrinsic', 'motivation', 'is', 'associated', 'directly', 'with', 'flow,', 'because', 'whatever', 'produces', 'flow', 'becomes', 'its', 'own', 'reward,', 'its', 'own', 'intrinsic', 'motivation..', 'As', 'a', 'balance', 'between', 'challenge', 'and', 'skill,', 'flow', 'occurs', 'during', 'the', 'learning', 'process', 'as', 'a', 'feeling', 'of', 'pleasure', 'that', 'issues', 'from', 'achieving', 'realistic', 'goals', 'and', 'overcoming', 'prescribed', 'challenges', '(Csikszentmihalyi,', '1990)', '.', 'Many', 'researchers', 'argue', 'that', 'the', 'composition', 'of', 'an', 'activity', 'must', 'be', 'in', 'the', 'context', 'of', 'explicit', 'challenges,', 'focused', 'goals', 'and', 'concentration,', 'and', 'control', '(Chan', '&', 'Ahern,', '1999)', ',', 'and', 'Finneran', 'and', 'Zhang', '(2005)', 'hold', 'that', 'the', 'effect', 'of', 'flow', 'is', 'increased', 'in', 'learning,', 'at', 'which', 'time', 'it', 'has', 'a', 'direct', 'impact', 'on', 'attitude', 'and', 'behavior.', 'They', 'cite', 'several', 'studies', 'that', 'indicate', 'that', 'flow', '1', 'Absorption', 'refers', 'to', 'the', 'sense', 'of', 'involvement', 'with', 'total', 'concentration', 'or', 'immersion', '(being', 'entirely', 'engrossed', 'in', 'the', 'activity', 'at', 'hand),', 'with', 'focused', 'attention', 'and', 'loss', 'of', 'self-consciousness', '(', 'Csikszentmihalyi,', '1997;', 'Ghani', '&', 'Deshpande,', '1994;', 'Lutz', '&', 'Guiry,', '1994;', 'Moneta', '&', 'Csikszentmihalyi,', '1996;', 'Trevino', '&', 'Webster,', '1992;', 'Novak', '&', 'Hoffman,', '1997)', '.', 'Enjoyment', 'refers', 'to', 'the', 'positive', 'affect', 'with', 'the', 'experience', 'of', 'pleasure', '(i.e.,', 'being', 'intrinsically', 'enjoyable)', 'being', 'directly', 'associated', 'with', 'the', 'activity', 'at', 'hand', '(', 'Ghani', '&', 'Deshpande,', '1994;', 'Moneta', '&', 'Csikszentmihalyi,', '1996;', 'Privette', '&', 'Bundrick,', '1987;', 'Novak', '&', 'Hoffman,', '1997)', '.', "''Intrinsic", "Interest''", 'refers', 'to', 'the', 'interest', 'or', 'drive', 'to', 'perform', 'an', '(autotelic)', 'activity', 'for', 'its', 'own', 'sake,', 'rather', 'than', 'for', 'any', 'other', 'extrinsic', 'reason', 'or', 'purpose', '(Moneta', '&', 'Csikszentmihalyi,', '1996;', 'Trevino', '&', 'Webster,', '1992;', 'Novak', '&', 'Hoffman,', '1997)', '..', 'shows', 'great', 'promise', 'in', 'its', 'ability', 'to', "''yield", 'increased', 'learning,', '[and]', '.', 'There', 'is', 'also', 'a', 'growing', 'body', 'of', 'research', 'examining', 'the', 'effect', 'that', 'flow', 'has', 'on', 'learning.', 'The', 'findings', 'of', 'a', 'study', 'by', 'Shin', '(2006)', 'suggest', 'that', 'students', 'in', "''high", 'flow', 'were', 'more', 'likely', 'to', 'be', 'satisfied', 'with', 'the', 'virtual', 'course', 'than', 'students', 'in', 'low', 'flow.', '.', '.', '.[implying', 'that]', 'a', 'positive', 'impact', 'of', 'flow', 'on', 'student-learning', 'achievement', 'is', 'highly', 'plausible', '.', '.', ".'", "'", '(p.', '717)', '.', 'This', 'research', 'on', 'flow', 'and', 'virtual', 'learning', 'suggests', 'that', 'further', 'investigation', 'is', 'required', 'to', 'identify', 'variables', 'which,', 'as', 'part', 'of', 'the', 'flow', 'experience', 'in', 'learning,', 'directly', 'influence', 'the', 'intentions', 'or', 'behaviors', 'of', 'users', 'of', 'virtual', 'worlds', '(Davis,', '1989', ')..', 'An', 'example', 'of', 'this', 'interest', 'has', 'been', 'a', 'recent', 'trend', 'of', 'research', 'on', 'online', '3D', 'gaming', 'environments', 'and', 'virtual', 'worlds', '(Carroll', 'and', 'Thomas,', '1988;', 'Faiola', '&', 'Voiskounsky,', '2007;', 'Pilke,', '2004;', 'Reid,', '2004;', 'Somekh,', '2003;', 'Steuer,', '1992;', 'Voiskounsky,', 'Mitina,', '&', 'Avetisova,', '2004)', '.', 'In', 'part,', 'these', 'studies', 'have', 'sought', 'to', 'understand', 'how', 'to', 'facilitate', 'flow', 'for', 'users', 'of', 'massively', 'multiplayer', 'online', 'role', 'playing', 'games', '(MMORPGs),', 'e.g.,', 'World', 'of', 'Warcraft.', 'In', 'addition', 'to', 'these', 'gaming', 'environments,', 'however,', 'there', 'are', 'a', 'number', 'of', 'non-gaming', 'environments', 'that', 'may', 'also', 'provide', 'flow', 'for', 'their', 'users.', 'These', 'virtual', 'worlds', 'are', 'broadly', 'classified', 'as', 'places', 'for', 'exploration', 'and', 'creativity,', 'or', 'simply', '3D', 'chat', 'spaces', 'for', 'community', 'interaction.', 'The', 'most', 'popular', 'virtual', 'worlds', 'are', 'Active', 'Worlds,', 'BrandWorlds,', 'Croquet,', 'Kaneva,', 'Lively,', 'Multiverse,', 'Smallworlds,', 'Twinity,', 'Worlds.com,', 'and', 'Second', 'Life.', 'Each', 'is', 'able', 'to', 'provide', 'a', 'virtual', 'community', 'life', 'designed', 'to', 'be', 'scalable', 'and', 'support', 'many', 'online', 'users..', 'Three-dimensional', 'environments', 'like', 'Second', 'Life', '2', '(SL)', 'provide', 'virtual', 'spaces', 'for', 'exploration', 'and', 'creativity', 'that', 'enhance', 'the', 'learning', 'experience.', 'Today,', 'there', 'are', 'over', '300', 'million', 'registered', 'users', 'who', 'spend', 'time', 'within', 'virtual', 'worlds', '(Spence,', '2008)', '.', 'Of', 'all', 'online', 'spaces,', 'SL', 'represents', 'the', 'most', 'developed', 'virtual', 'environment', 'for', 'social', 'interaction', '(Edirisingha,', 'Nie,', 'Pluciennik,', '&', 'Young,', '2009;', 'SavinBaden,', '2008)', ',', 'becoming', 'a', 'platform', 'that', 'provides', 'increased', 'potential', 'for', 'educators.', 'Program', 'developers', 'should', 'make', 'use', 'of', 'the', 'infrastructure', 'and', 'functionality', 'already', 'in', 'place', 'in', 'virtual', 'worlds', 'to', 'build', 'objects', 'and', 'environments', 'using', 'graphics', 'and', 'audio', 'tools', 'that', 'enhance', "users'", 'immersive', 'experience.', 'The', 'technical', 'infrastructure', 'of', 'virtual', 'worlds', 'generally', 'includes', 'tools', 'for', 'avatar', 'creation', 'and', 'the', 'dissemination', 'of', 'knowledge,', 'e.g.,', 'blogs,', 'wikis,', 'and', 'various', 'forms', 'of', 'social', 'networking.', 'Most', 'of', 'these', 'virtual', 'communities', 'support', 'online', 'interpersonal', 'experiences', 'and', 'facilitate', 'communication', 'and', 'learning.', 'Providing', 'such', 'tools', 'to', 'implement', 'diverse', 'online', 'experiences', 'will', 'provide', 'virtual', 'learners', 'the', 'necessary', 'functionality', 'to', 'induce', 'flow.', 'In', 'such', 'virtual', 'learning', 'environments,', 'students', 'have', 'the', 'tools', 'to', 'go', 'through', 'a', 'personal', 'transformation', 'that', 'includes', 'a', 'temporary', 'transfer', 'of', 'their', 'realworld', 'identity', 'to', 'a', 'self-created', 'identity', 'known', 'as', 'an', 'avatar.', 'The', 'avatar', 'allows', 'anonymity,', 'which', 'permits', 'online', 'learners', 'a', 'greater', 'sense', 'of', 'freedom', 'and', 'immersion', 'with', 'each', 'learning', 'experience.', 'Virtual', 'worlds', 'are', 'uniquely', 'qualified', 'to', 'provide', 'users', 'the', 'ability', 'to', 'project', 'themselves', 'onto', 'another', 'entity.', 'As', 'Witmer', 'and', 'Singer', '(1998)', 'hold,', 'virtual', 'worlds', 'provide', 'a', 'sense', 'of', 'being', "''enveloped", 'by,', 'included', 'in,', 'and', 'interacting', 'with', 'an', 'environment', 'that', 'provides', 'a', 'continuous', 'stream', 'of', 'stimuli', 'and', "experiences''", '(p.', '227)..', 'When', 'persona', 'role-play', 'and', 'performative', 'learning', 'become', 'part', 'of', 'a', 'complex', 'virtual', 'social', 'community,', 'the', 'potential', 'to', 'further', 'challenge', 'learners', 'and', 'produce', 'a', 'new', 'range', 'of', 'emotional', 'experiences', 'is', 'greatly', 'increased.', 'Salmon', '(2009)', 'describes', 'it', 'as', 'an', 'experience', 'that', "''transcends", 'being', 'a', "'puppet'", 'to', 'that', 'of', 'extension', 'of', "self''", '(p.', '533).', 'As', 'Warburton', '(2009)', 'states,', "''a", 'virtual', 'world', 'provides', 'an', 'experience', 'set', 'within', 'a', 'technological', 'environment', 'that', 'gives', 'the', 'user', 'a', 'strong', 'sense', 'of', 'being', "there''", '(421).', 'In', 'a', 'study', 'by', 'Warburton', '(2009)', ',', 'findings', 'suggest', 'that', 'the', "''immersive", 'nature', 'of', 'the', 'virtual', 'world,', 'crossing', 'physical,', 'social', 'and', 'cultural', 'dimensions,', 'can', 'provide', 'a', 'compelling', 'educational', 'experience,', 'particularly', 'in', 'relation', 'to', 'simulation', 'and', 'role-playing', "activities''", '(p.', '419).', 'The', 'experience', 'of', 'immersion', 'within', 'virtual', 'worlds', 'has', 'the', 'ability', 'to', 'provide', 'both', 'students', 'and', 'teachers', 'the', 'tools', 'to', "''project", 'themselves', 'into', 'the', 'learning', "space,''", 'which', 'are', "''key", 'elements', 'to', 'successful', 'learning', "transactions''", '(p.', '419).'], ['Play', 'represents', 'a', 'significant', 'opportunity', 'to', 'accomplish', 'enhanced', 'learning', 'in', 'virtual', 'worlds.', 'Play', 'is', 'also', 'a', 'useful', 'construct', 'for', 'understanding', 'human-computer', 'interaction', '3', '(HCI)', 'relative', 'to', 'behavioral', 'measures', 'of', 'playfulness', '(Webster', 'et', 'al.,', '1993)', '.', 'For', 'this', 'reason,', 'researchers', 'must', 'continue', 'to', 'explore', 'the', 'psychological', 'dimensions', 'and', 'related', 'value', 'of', 'what', 'makes', 'gameplay', 'motivating,', 'specifically', 'in', 'a', 'learning', 'context', '(Oliver', '&', 'Carr,', '2009', ').', 'Csikszentmihalyi', 'and', 'Csikszentmihalyi', '(1988)', 'notes', 'that', 'play', 'has', 'its', 'own', 'innate', 'motivators,', 'arguing', 'that', 'what', 'makes', "''play''", 'enjoyable', 'are', 'its', 'built-in', 'rewards', 'due', 'to', 'the', 'excitement', 'of', 'uncertainty,', 'what', 'we', 'might', 'refer', 'to', 'as', "''having", 'an', "edge.''", 'Hence,', 'an', 'increased', 'level', 'of', 'uncertainty', 'heightens', 'the', "''edge''", 'experienced', 'in', 'play.', 'This', 'often', 'includes', 'the', 'play', 'elements', 'of', 'demand,', 'challenge,', 'and', 'stress,', 'i.e.,', 'a', "''perceived", 'urgency,', 'importance,', 'and', 'significance', 'associated', 'with', 'the', "experience''", '(p.', '57).', 'He', 'also', 'states', 'that', 'for', 'people', 'to', 'experience', 'flow', 'in', 'play,', 'the', 'outcomes', 'must', 'be:', '(1)', 'real,', 'meaningful,', 'and', 'fateful,', '(2)', 'significant,', 'dependent,', 'and', "''determined", 'by', 'individual', 'volitional', "action,''", 'and', '(3)', "''intrinsically", 'rewarding,', 'occasioned', 'by', 'a', 'merging', 'of', 'action', 'and', 'awareness,', '[and]', 'an', 'absence', 'of', 'self-consciousness.', '.', ".''", '(p.', '52).', 'In', 'sum,', 'Csikszentmihalyi', 'argues', 'that', 'over', 'time,', "''the", 'purpose', 'of', 'play', 'shifts', 'from', 'the', 'achievement', 'of', 'immediate', 'enjoyment', 'to', 'the', 'earning', 'of', 'ultimate', 'success,', 'from', 'means', 'to', 'ends.', '.', '.', '.In', 'an', 'urgent', 'effort', 'to', 'regain', 'a', 'valued', 'but', 'intangible', 'aspect', 'of', 'life,', 'the', 'disenchanted', 'ones', 'search', 'for', 'flow', 'experience', 'in', 'less', 'than', 'encompassing', 'ways.', '.', ".''", '(p.', '56)..', 'When', 'the', 'level', 'of', 'both', 'challenge', 'and', 'skill', 'is', 'high,', 'a', 'gameplayer', 'not', 'only', 'enjoys', 'the', 'moment,', 'but', 'is', "''stretching", 'his', 'or', 'her', 'capabilities', 'with', 'the', 'likelihood', 'of', 'learning', 'new', 'skills', 'and', 'increasing', 'selfesteem', 'and', 'personal', "complexity''", '(Csikszentmihalyi', '&', 'LeFevre,', '1989,', 'p.', '816)', '.', 'These', 'experiences', 'are', 'translated', 'from', 'game', 'design', 'that', 'directs', 'gamers', 'along', 'a', 'continuum', 'of', 'action', 'in', 'which', 'there', 'is', '2', 'Second', 'Life', '(SL)', 'is', 'a', '3D', 'virtual', 'world', 'created', 'by', 'Linden', 'Labs', '(released', 'in', '2003),', 'with', 'over', '16', 'million', 'registered', 'accounts', '(Linden', 'Research,', '2008)', '.', 'Users', 'interact', 'with', 'existing', 'or', 'built', 'virtual', 'objects', 'through', 'a', 'virtual', 'self-customized', 'representation', 'referred', 'to', 'as', 'an', 'avatar.', 'Users', 'design', 'their', 'own', 'appearance,', 'including', 'age,', 'gender,', 'and', 'species', '(Wang', '&', 'Braman,', '2009', ').', 'Braman,', 'Vincenti,', 'Arboleda', 'and', 'Jinman', '(2009)', 'remark', 'that', 'users', 'of', 'SL', 'deal', 'with', 'a', 'range', 'of', '(mostly', 'technical)', 'limitations.', 'However,', 'most', 'users', 'agree', 'that', 'the', 'benefits', 'outweigh', 'the', 'limitations,', 'e.g.,', 'the', 'general', 'immersive', 'content,', '3D', 'social', 'interaction,', 'and', 'realistic', 'visualization.', 'Of', 'particular', 'interest', 'to', 'educators', 'are', 'the', "''simplified", 'methods', 'for', 'importing', 'external', "content''", 'for', 'building', "''rich", 'learning', 'and', 'teaching', "activities''", '(Warburton,', '2009,', 'pp.', '418-419', ')', 'that', 'support', 'multifaceted', 'social', 'interaction..', 'greater', 'or', 'lesser', 'degrees', 'of', 'risk', 'and', 'control', 'over', 'the', 'game', 'played.', 'This', 'experience', 'is', 'then', 'juxtaposed', 'to', 'their', 'personal', 'skill', 'levels', 'and', 'ability', 'to', 'mount', 'strategic', 'offensives', '(Ball,', '1972)', '..', 'Virtual', 'gaming', 'environments', 'that', 'have', 'a', 'particular', 'pedagogical', 'component', 'provide', 'opportunities', 'for', 'educators', 'to', 'motivate', 'learners.', 'Inal', 'and', 'Cagiltay', '(2007)', 'state', 'that', "''children's", 'optimal', 'flow', 'experiences', 'have', 'a', 'direct', 'relationship', 'with', 'their', "motivation''", '(p.', '456).', 'For', 'example,', 'research', 'suggests', 'that', 'gameplay', 'may', 'have', 'a', 'positive', 'impact', 'on', "children's", 'learning,', 'because', 'it', 'encourages', 'critical', 'thinking', '(Lim,', 'Nonis,', '&', 'Hedberg,', '2006)', '.', 'This', 'level', 'of', 'motivation', 'is', 'only', 'maintained,', 'however,', 'when', 'there', 'is', 'the', 'thrill', 'of', 'discovering', 'new', 'knowledge', 'and', 'when', 'adventures', 'are', 'laden', 'with', 'surmountable', 'challenges,', 'creating', 'a', 'balance', 'between', 'skills', 'and', 'difficulty.', 'To', 'increase', 'the', 'potential', 'for', 'enriching', 'and', 'maintaining', 'flow,', 'games', 'should', 'specify', 'challenge', 'levels,', 'provide', 'specific', 'goals,', 'and', 'give', 'appropriate', 'feedback', '(Dreher,', 'Reiners,', '&', 'Dreherb,', '2009;', 'Kiili,', '2005;', 'Sweetser', '&', 'Wyeth,', '2005)', '.', 'These', 'directives', 'were', 'substantiated', 'by', 'a', 'study', 'by', 'Inal', 'and', 'Cagiltay', '(2007)', ',', 'who', 'found', 'that', 'children', 'experienced', 'flow', 'during', 'gameplay', 'when', 'they', 'were', "''absorbed''", 'in', 'the', 'game,', 'because', 'they', 'were', "''only", 'thinking', 'of', 'passing', 'to', 'the', 'next', 'level', 'of', 'the', 'game', 'or', 'achieving', 'the', 'given', 'task', 'at', 'these', "times,''", 'while', 'being', "''less", 'aware', 'of', 'both', 'themselves', 'and', 'their', "friends''", '(p.', '459).', 'Carr', 'et', 'al.', '(2010)', 'hold', 'that', 'educators', 'still', 'face', 'a', 'range', 'of', 'issues', 'when', 'working', 'with', 'virtual', 'worlds.', 'They', 'complain', 'that', "''the", 'research', 'emerging', 'from', 'a', 'digital', 'game', 'studies', 'perspective.', '.', '.', 'is', 'rarely', 'used', 'by', 'educators', 'researching', 'the', 'pedagogic', 'potentials', 'of', 'virtual', 'worlds', 'such', 'as', 'Second', "Life''", '(p.', '446).', 'Their', 'research', 'links', 'game-based', 'learning', 'and', 'formal', 'education', 'by', 'framing', 'learning', 'as', 'a', 'social', 'process,', 'i.e.,', "''computer", 'games', 'in', 'learning', "contexts''", '(p.', '456)..', 'According', 'to', 'Ravenscroft', 'and', 'McAlister', '(2006)', ',', 'e-learning', 'researchers', 'are', 'beginning', 'to', 'acknowledge', 'the', 'difficulties', 'in', 'engaging', 'and', 'sustaining', 'the', 'motivation', 'of', 'online', 'learners.', 'As', 'a', 'result,', 'some', 'educators', 'are', 'becoming', 'increasingly', 'enthusiastic', 'about', 'the', 'potential', 'of', 'gameplay', 'as', 'a', 'new', 'interactive', 'paradigm', 'that', 'delivers', 'fun,', 'engagement,', 'and', 'enjoyment,', 'while', 'students', 'learn.', 'Dreher', 'et', 'al.', '(2009)', 'state', 'that', 'like', 'the', "''individual", 'flow', 'experiences', 'of', 'children,', 'their', 'social', 'flow', 'experiences', 'might', 'be', 'influenced', 'by', 'computer', 'games', 'fostering', 'or', 'encouraging', 'them', 'to', 'interact', 'with', 'each', "other'", "'", '(p.', '456)', '.', 'In', 'other', 'words,', 'the', 'relationship', 'between', 'virtual', 'gameplay', 'and', 'multiple', 'players', 'can', 'be', 'characterized', 'by', 'a', 'learning', 'experience', 'that', 'is', 'directly', 'affected', 'by', 'a', 'heightened', 'level', 'of', 'enjoyment,', 'i.e.,', 'social', 'telepresence', 'resulting', 'from', 'flow.'], ['Additionally', 'relevant', 'to', 'virtual', 'learning', 'is', 'the', 'relationship', 'between', 'flow', 'and', 'telepresence', '(Oliver', '&', 'Carr,', '2009;', 'Salmon,', '2009;', 'Shin,', '2006;', 'Warburton,', '2009', ').', 'In', 'particular,', 'beyond', 'the', 'basic', 'qualities', 'of', 'flow,', 'such', 'as', 'enjoyment', 'and', 'intrinsic', 'interest,', 'we', 'need', 'to', 'more', 'thoroughly', 'examine', 'the', 'phenomenon', 'of', 'telepresence,', 'which', 'refers', 'to', 'a', 'compelling', 'feeling', 'of', 'being', 'present', 'in', 'a', 'virtual', 'space.', 'This', 'feeling', 'is', 'sometimes', 'strongly', 'associated', 'with', 'vividness,', 'arousal,', 'focused', 'attention,', 'and', 'interactivity,', 'as', 'well', 'as', 'high', 'degrees', 'of', 'skill', 'and', 'control', '(Choi', '&', 'Kim,', '2004;', 'Draper', '&', 'Blair,', '1996;', 'Finneran', '&', 'Zhang,', '2003;', 'Novak', 'et', 'al.,', '2000;', 'Sheridan,', '1992;', 'Steuer,', '1992)', '..', 'Contrary', 'to', 'the', 'experience', 'of', 'being', 'present', 'or', "''being", "here,''", 'telepresence', 'is', 'the', 'experience', 'of', "''being", "there''", 'or', 'being', 'in', 'parallel', 'space', 'by', 'means', 'of', 'a', 'specific', 'computer-mediated', 'vehicle.', 'For', 'example,', 'through', 'the', 'use', 'of', 'a', 'communication', 'medium', '(Steuer,', '1992)', ',', 'the', 'environment', 'may', 'be', 'a', 'distant', 'location', 'viewed', 'through', 'a', 'digitally', 'generated', 'virtual', 'world,', 'such', 'as', 'the', 'game', 'World', 'of', 'Warcraft', 'or', 'Final', 'Fantasy', 'XII.', 'In', 'a', 'study', 'on', 'flow,', 'Pace', '(2004)', 'described', 'the', 'experience', 'of', 'telepresence', 'of', 'one', 'virtual', 'world', 'participant', 'by', 'noting', 'that', 'he', 'felt', 'like', 'he', 'was', 'actually', "''present", 'in', 'the', 'environment', 'generated', 'by', 'the', 'computer', '.', '.', '.[and', 'that', 'he]', 'forgot', 'that', 'he', 'was', 'just', 'looking', 'at', 'pixels', 'on', 'a', "screen'", "'", '(p.', '357)', '.', 'In', 'this', 'case,', 'the', 'participant', 'became', 'immersed', 'in', 'a', 'virtual', 'experience', 'that', 'was', 'entirely', 'manufactured', 'through', 'electronic', 'means.', 'What', 'this', 'suggests', 'is', 'that', 'the', "informant's", 'experience', 'of', 'flow', 'was', 'enhanced', 'with', 'a', 'cognitive', 'sense', 'of', 'depth', 'and', 'of', "''being", "there,''", 'that', 'is,', 'in', 'a', '3D', 'environmental', 'simulation', 'somewhere', 'in', 'virtual', 'space..', 'In', 'the', 'context', 'of', 'flow,', 'telepresence', 'can', 'produce', 'a', 'sense', 'of', 'time', 'distortion', 'and', 'forgetting', 'about', "one's", 'immediate', 'surroundings.', 'In', 'other', 'words,', 'the', "''awareness", 'of', "one's", 'surroundings-disappear', 'from', "consciousness''", '(Pace,', '2004,', 'p.', '358)', '.', 'Steuer', '(1992)', 'states', 'that', 'the', 'level', 'of', 'vividness', 'in', 'a', "person's", 'experience', 'of', 'a', 'computer-mediated', 'environment', 'contributes', 'greatly', 'to', 'the', 'level', 'of', 'telepresence', 'that', 'can', 'be', 'experienced.', 'Concurrent', 'with', 'a', 'sense', 'of', 'vividness,', 'responsiveness', 'is', 'a', 'key', 'factor,', 'which', 'is', 'largely', 'dictated', 'by', 'the', 'robustness', 'or', 'speed', 'of', 'the', 'system', 'and', 'the', 'realness', 'of', 'the', 'computer-generated', 'graphics', 'being', 'used', 'to', 'deliver', 'the', 'mediated', 'virtual-world', 'experience.', 'Agah', 'and', 'Tanie', '(1999)', 'describe', 'technology', 'that', 'can', 'produce', 'a', 'telepresence', 'experience', 'as', 'a', 'system', 'that', "''provides", 'the', 'user', 'with', 'the', 'feeling', 'of', 'being', 'present', 'in', 'a', 'remote', 'location', 'through', 'the', 'use', 'of', 'images,', 'sounds,', 'and', '(at', 'times)', "touch''", '(p.', '107).', 'Telepresence', 'demands', 'focused', 'attention,', 'however.', 'In', 'a', 'computer-mediated', 'environment,', "''telepresence", 'is', 'an', 'essential', 'factor', 'for', 'enabling', 'the', 'person', 'to', 'remain', 'concentrated', 'on', 'the', 'computer-based', "task''", '(Finneran', '&', 'Zhang,', '2003,', 'p.', '484)', '.', 'The', "users'", 'undivided', 'attention', 'is', 'required', 'to', 'produce', 'flow', 'and', 'to', 'transport', 'their', 'consciousness', 'to', 'a', 'virtual', 'space.', 'Other', 'studies', 'have', 'also', 'produced', 'significant', 'findings', 'that', 'support', 'the', 'relationship', 'between', 'enjoyment', 'and', 'telepresence', 'as', 'variables', 'affecting', 'flow', 'in', 'the', 'context', 'of', 'human-computer', 'interaction', '(Skadberg', '&', 'Kimmel,', '2004)', '.', 'Draper', 'and', 'Blair', '(1996)', 'concur', 'with', 'the', 'need', 'for', 'a', 'heightened', 'level', 'of', 'attention,', 'stating', 'that', 'telepresence', 'arises', 'from', "''commitment", 'of', 'attentional', 'resources', 'to', 'the', 'remote', 'task.', 'The', 'more', 'resources', 'a', 'user', 'devotes', 'to', 'the', 'task,', 'the', 'greater', 'the', 'identification', 'of', 'the', 'user', 'with', 'the', 'task', 'and', 'the', 'stronger', 'the', 'sense', 'of', 'telepresence.', '.', '.', '.One', 'could', 'hypothesize', 'that', 'telepresence', '(as', 'it', 'relates', 'to', 'flow)', 'is', 'the', 'perception', 'arising', 'from', 'allocation', 'of', 'attentional', 'resources,', 'while', 'subjective', 'workload', 'is', 'the', 'perception', 'of', 'the', 'allocation', "itself''", '(p.', '1033).', 'Csikszentmihalyi', '(1997)', 'argued', 'that', 'the', 'experience', 'of', 'flow', 'and', 'the', 'associated', 'heightened', 'enjoyment', 'occurs', 'more', 'readily', 'when', 'there', 'is', 'a', 'balance', 'between', 'an', "individual's", 'skill', 'and', 'the', 'difficulty', 'of', 'the', 'task', 'or', 'activity.', 'Most', 'striking', 'is', 'how', 'both', 'flow', 'and', 'telepresence', 'share', 'the', 'characteristic', 'of', 'concentration', 'on', 'task.', 'As', 'Draper', 'and', 'Blair', '(1996)', 'argue,', 'both', 'demand', 'a', 'level', 'of', 'concentration', 'void', 'of', 'any', "''distracting", 'stimuli', 'to', 'the', 'point', 'of', 'loss', 'of', 'awareness', 'of', 'self', 'as', 'separate', 'from', 'the', "task''", '(p.', '1030)..', 'Telepresence', 'becomes', 'a', 'particularly', 'powerful', 'tool', 'for', 'learning', 'when', 'it', 'is', 'paired', 'with', 'a', 'group', 'experience.', 'Whereas', 'telepresence', 'is', 'a', 'mediated', 'experience', 'of', 'spatial', 'presence,', 'social', 'learning', 'presence', 'refers', 'to', 'the', 'sense', 'of', 'being', 'with', 'others', 'during', 'a', 'virtual', 'learning', 'experience.', 'A', 'remarkable', 'phenomenon', 'can', 'be', 'observed', 'when', 'these', 'two', 'interrelated', 'phenomena', 'combine', 'harmoniously', 'in', 'social', 'learning', 'spaces.', 'Telepresence', 'becomes', 'social', 'telepresence', 'when', 'social', 'learning', '4', 'is', 'sustained', 'by', 'a', 'mediated', 'environment', 'such', 'as', 'a', 'virtual', 'world', '(Biocca,', 'Harms,', '&', 'Burgoon,', '2004;', 'Steuer,', '1992)', '.', 'Research', 'in', 'the', 'area', 'of', 'social', 'presence', 'dates', 'back', 'to', 'work', 'done', 'by', 'Short', '(1974)', 'and', 'others.', 'Edirisingha', 'et', 'al.', '(2009)', 'hold', 'that', '4', 'To', 'support', 'virtual', 'group', 'participation', 'and', 'communication,', 'an', 'assortment', 'of', 'new', 'media', 'is', 'required,', 'including', '3D', 'graphics', 'and', 'animation,', 'an', 'array', 'of', 'visual', 'constructs,', 'nonverbal-gestural,', 'voice,', 'and', 'textual', 'media', '(Dreher', 'et', 'al.,', '2009', ').', 'The', 'difficulty,', 'however,', 'is', 'that', 'the', 'precise', 'nature', 'of', 'learning', 'and', 'knowledge', 'construction', 'through', 'virtual', 'worlds', 'is', 'still', 'unknown.', 'As', 'Dreher', 'et', 'al.', '(2009)', 'social', 'presence', 'theory', 'can', 'assist', 'in', 'understanding', 'the', "''extent", 'to', 'which', 'a', 'medium', 'is', 'able', 'to', 'convey', 'a', 'sense', 'of', 'the', "participants'", 'being', 'physically', "present,''", 'what', 'Witmer', 'and', 'Singer', '(1998)', 'define', 'as', 'a', "''subjective", 'experience', 'of', 'being', 'in', 'one', 'place', 'or', 'environment,', 'even', 'when', 'one', 'is', 'physically', 'situated', 'in', "another''", '(p.', '225).', 'In', 'either', 'case,', 'challenges', 'to', 'reaching', 'some', 'goal', 'can', 'increase', 'flow,', 'while', 'reducing', 'the', "''emotional", 'and', 'psychological', 'distance', 'between', 'distance', "learners''", '(p.', '460).', 'Hence,', 'researchers', 'continue', 'to', 'examine', 'ways', 'whereby', 'distance-learning', 'within', 'a', 'virtual', 'context', 'like', 'SL', 'can', "''facilitate", 'social', "presence,''", "''foster", "socialization,''", 'and', 'maximize', 'the', 'experience', 'of', 'flow', '(Edirisingha', 'et', 'al.,', '2009;', 'Kehrwald,', '2008;', 'Salmon,', '2004)', '..', 'Having', 'an', 'online', 'social', 'telepresence', 'or', "''virtual", "awareness''", 'becomes', 'extremely', 'relevant', 'in', 'virtual', 'learning', 'as', 'a', 'facet', 'of', 'flow.', 'Together,', 'social', 'presence', 'and', 'flow', 'provide', 'for', 'a', 'complex', 'mix', 'of', 'theory', 'and', 'practice', 'relative', 'to', 'how', 'one', 'comes', 'to', 'think', 'and', 'feel,', 'discovers', 'new', 'knowledge,', 'acquires', 'trust,', 'interacts', 'with', 'others,', 'and', 'cultivates', 'intrinsic', 'motivation', 'in', 'a', 'virtual', 'learning', 'community', '(Draper', '&', 'Blair,', '1996;', 'Faiola', '&', 'Voiskounsky,', '2007;', 'Schroeder,', '2002;', 'Sherry,', '2004;', 'Woolfolk,', '2006)', '.', 'Educators', 'are', 'beginning', 'to', 'recognize', 'that', 'socialization', 'plays', 'a', 'crucial', 'role', 'in', 'virtual', 'contexts,', 'impacting', "learners'", "''perception", 'of', 'their', 'context', 'of', 'study', 'and', 'learning', "outcomes''", '(p.', '459).', 'In', 'such', 'cases,', 'the', 'design', 'of', 'online', 'environments', 'and', 'learning', 'scenarios', 'will', 'have', 'a', 'dramatic', 'impact', 'on', 'socialization', 'and', 'the', 'level', 'of', 'pleasure', 'learners', 'experience', 'in', 'virtual', 'worlds', '(Salmon,', '2004)', '.', 'Hence,', 'the', 'methods', 'that', 'virtual', 'learners', 'employ', 'to', 'discover', 'and', 'share', 'knowledge', 'as', 'a', 'social', 'group', 'will', 'be', 'of', 'great', 'interest', 'to', 'future', 'researchers..', 'Squire', 'notes', 'that', 'from', 'a', "''social", "perspective''", 'there', 'are', 'several', 'ways', 'to', 'understand', 'learning', 'as', 'a', 'social', 'achievement,', 'not', 'just', 'a', 'process', 'of', 'content', 'acquisition', 'or', 'skills', 'development', '(Squire,', '2002)', '.', 'He', 'goes', 'onto', 'argue', 'that', 'despite', 'increased', 'attention', 'on', 'games', "''as", 'a', 'maturing', 'medium,', 'the', 'pedagogical', 'potential', 'of', 'games', 'and', 'social', 'contexts', 'of', 'gaming', 'have', 'been', 'woefully', "unexamined.''", 'Hence,', 'considering', 'gameplay', 'practices', 'from', 'novel', 'perspectives', 'could', 'shed', 'new', 'light', 'on', 'social', 'presence', 'and', 'related', 'learning', 'outcomes.'], ['Whether', 'we', 'divide', 'flow', 'into', 'nine', 'components', '(Csikszentmihalyi,', '1990)', ',', 'five', 'components', '(Hoffman', '&', 'Novak,', '1996)', ',', 'or', 'three', 'components', '(Rodriguez-Sanchez', '&', 'Schaufeli,', '2008),', 'it', 'would', 'not', 'be', 'possible', 'to', 'conduct', 'an', 'intelligible', 'exploration', 'of', 'flow', 'and', 'learning', 'unless', 'the', 'interrelationships', 'among', 'all', 'of', 'these', 'components', 'were', 'clearly', 'delineated.', 'Fortunately,', 'a', 'conceptual', 'model', 'was', 'devised', 'to', 'examine', 'these', 'interrelationships', '(Hoffman', '&', 'Novak,', '1996;', 'Novak,', 'Hoffman,', '&', 'Yung,', '1998)', '.', 'In', 'it,', 'flow', 'is', 'defined', 'as', 'a', 'computer-mediated', 'activity', 'with', 'a', 'seamless', 'sequence', 'of', 'responses,', 'which', 'is', 'enhanced', 'by', 'telepresence.', 'Hoffman', 'and', 'Novak', '(1996)', 'showed', 'that', "''focused", 'attention', 'leads', 'to', 'arousal', 'and', 'telepresence,', 'which', 'both', 'lead', 'to', "flow''", '(p.', '56).', 'To', 'show', 'the', 'interrelationship', 'of', 'these', 'factors', 'they', 'measured', 'a', 'predictive', 'fit', 'of', 'various', 'theoretical', 'relationship', 'models', 'against', 'responses', 'to', 'web-based', 'questionnaires.', 'Two', 'years', 'later,', 'in', 'a', 'study', 'designed', 'to', 'further', 'fine-tune', 'this', 'conceptual', 'model,', 'Novak', 'et', 'al.', '(1998)', 'used', 'similar', 'methods', 'to', 'determine', 'that', 'the', 'speed', 'of', 'user-interaction', 'increases', 'the', 'challenge', 'of', 'the', 'interaction', 'and', 'results', 'in', 'more', 'focused', 'attention', 'on', 'the', 'problem', 'by', 'the', 'participant.', 'An', 'increase', 'in', 'the', 'balanced', 'factors', 'of', 'challenge', 'and', 'perceived', 'skill', 'increases', 'the', 'likeliness', 'of', 'the', 'user', 'engaging', 'in', 'play', 'behavior.', 'These', 'findings', 'suggest', 'that', 'an', 'increased', 'focus', 'of', 'attention', 'results', 'in', 'increased', 'play,', 'arousal,', 'and', 'sense', 'of', 'telepresence,', 'which', 'further', 'leads', 'to', 'an', 'increased', 'likelihood', 'of', 'experiencing', 'flow.', 'It', 'is', 'important', 'to', 'note', 'that', 'the', 'same', 'study', 'employed', 'a', "''comparative", 'fit', "index''", 'to', 'demonstrate', 'that', 'telepresence,', 'in', 'conjunction', 'with', 'play', 'and', 'arousal,', 'leads', 'to', 'flow', 'in', 'a', 'cognitive', 'model..', 'At', 'present,', "flow's", 'facilitation', 'by', 'telepresence', 'is', 'still', 'relatively', 'unexplored.', 'In', 'fact,', 'it', 'is', 'not', 'necessarily', 'true', 'that', 'either', 'condition', 'is', 'present', 'in', 'virtual', 'worlds.', 'Therefore,', 'the', 'study', 'described', 'in', 'this', 'paper', 'examines', 'the', 'correlation', 'between', 'telepresence', 'and', 'flow', 'in', 'more', 'detail', 'after', 'first', 'establishing', 'the', 'presence', 'of', 'each.', 'We', 'believe', 'that', 'these', 'topics', 'are', 'the', 'most', 'complex', 'and', 'in', 'need', 'of', 'the', 'most', 'fundamental', 'research.', 'To', 'determine', 'the', 'potential', 'impact', 'of', 'flow', 'and', 'telepresence', 'on', 'virtual', 'gameplay', 'and', 'learning,', 'basic', 'questions', 'need', 'to', 'be', 'answered', 'about', 'whether', 'participants', 'feel', 'flow', 'in', 'virtual', 'environments', 'and', 'what', 'factors', 'affect', 'the', "participants'", 'experience', 'of', 'telepresence.', 'An', 'understanding', 'of', 'the', 'correlation', 'between', 'flow', 'and', 'telepresence', 'is', 'also', 'needed', 'to', 'provide', 'insight', 'into', 'their', 'combined', 'influence', 'on', 'virtual', 'gaming', 'and', 'learning..', 'In', 'summary,', 'flow', 'through', 'telepresence', 'has', 'the', 'potential', 'to', 'increase', 'enjoyment', 'and', 'facilitate', 'greater', 'degrees', 'of', 'motivation', 'for', 'gamers', 'and', 'learners', 'of', 'virtual', 'world', 'communities,', 'while', 'providing', 'additional', 'insight', 'into', 'HCI', 'theory', 'and', 'best', 'practice.', 'Nevertheless,', 'few', 'studies', 'addressing', 'virtual', 'worlds', 'focus', 'specifically', 'on', 'flow', 'and', 'telepresence,', 'and', 'their', 'relationship', 'to', 'gameplay', 'and', 'learning.', 'Hence,', 'to', 'arrive', 'at', 'a', 'better', 'understanding', 'of', 'the', 'impact', 'of', 'flow', 'and', 'telepresence', 'on', 'game-based', 'learning,', 'the', 'authors', 'in', 'this', 'study', 'first', 'determine', 'the', 'degree', 'to', 'which', 'flow', 'and', 'telepresence', 'exist', 'in', 'a', '3D', 'virtual', 'world,', 'such', 'as', 'Second', 'Life.', 'Second,', 'they', 'determine', 'the', 'level', 'of', 'correlation', 'between', 'flow', 'and', 'telepresence..', 'From', 'this', 'vantage', 'point,', 'the', 'authors', 'posit', 'that', 'flow', 'is', 'positively', 'associated', 'with', 'degrees', 'of', 'immersion', 'and', 'telepresence,', 'with', 'direct', 'consequences', 'for', 'virtual', 'game-based', 'learning.', 'Hence,', 'they', 'ask,', 'what', 'are', 'the', 'determining', 'factors', 'influencing', 'flow', 'within', 'a', 'virtual', 'world,', 'what', 'is', 'the', 'relationship', 'between', 'telepresence', 'and', 'flow,', 'and', 'how', 'do', 'these', 'factors', 'and', 'effects', 'impact', 'users', 'during', 'virtual', 'gameplay', 'and', 'learning?', 'Corresponding', 'hypotheses', 'are', 'as', 'follows:', 'H', '1', 'Participants', 'experience', 'flow', 'while', 'using', 'SL..', 'H', '2', 'Participants', 'experience', 'telepresence', 'while', 'using', 'SL..', 'H', '3', 'Flow', 'experience', 'is', 'positively', 'correlated', 'with', 'the', 'experience', 'of', 'telepresence', 'while', 'using', 'SL.'], ['There', 'are', 'approximately', '14', 'million', 'virtual', 'community', 'users', 'of', 'SL.', 'Site', 'supported', 'statistics', 'show', 'that', 'an', 'average', 'of', 'five', 'hundred', 'thousand', 'residents', 'log-in', 'weekly.', 'Although', 'English', 'is', 'the', 'official', 'language', 'in', 'the', 'majority', 'of', 'the', 'virtual', 'communities,', 'and', 'the', 'majority', 'of', 'users', 'are', 'from', 'the', 'USA,', 'a', 'diverse', 'group', 'of', 'geographic', 'locations', 'and', 'national', 'cultures', 'is', 'represented.', 'Participants', 'for', 'this', 'study', 'were', 'recruited', 'from', 'the', 'English-speaking', 'SL', 'population,', 'in', 'particular', 'from', 'five', 'SL', 'discussion', 'groups,', 'readers', 'of', 'prominent', 'resident', 'blogs', 'dedicated', 'to', 'SL,', 'and', 'public', 'forum', 'listings', 'made', 'available', 'within', 'SL..', 'A', 'total', 'of', '115', 'SL', 'users', 'participated', 'in', 'the', 'study:', '47', 'males', 'and', '68', 'females', '(41%', 'and', '59%', 'respectively),', 'most', 'of', 'them', '(62%)', 'in', 'their', 'thirties', 'or', 'forties.', 'Only', 'one', 'participant', 'reported', 'having', 'beginner', 'computer', 'skills,', '35', '(30%)', 'defined', 'themselves', 'as', 'intermediate', 'computer', 'users,', 'and', '79', 'defined', 'themselves', '(68%)', 'as', 'experts.', 'Similar', 'percentages', 'were', 'reported', 'for', 'Internet', 'skills.', 'Most', 'of', 'the', 'participants', 'had', 'completed', 'undergraduate', 'or', 'post-graduate', 'degrees', '(86%).', 'Almost', 'all', 'participants', 'spent', 'more', 'than', '20', 'h', 'per', 'week', 'using', 'the', 'computer', 'and', 'online.', 'The', 'majority', 'of', 'the', 'participants', 'stated', 'work', 'as', 'the', 'main', 'reason', 'for', 'using', 'the', 'Internet', 'and', '31', 'participants', '(or', '27%', 'of', 'respondents)', 'stated', 'communication', 'as', 'their', 'main', 'motivation', 'of', 'Internet', 'use.'], ['Flow', 'researchers', 'have', 'developed', 'two', 'main', 'approaches', 'to', 'their', 'methodology.', 'Besides', 'the', "''open''", 'interview,', 'the', 'most', 'common', 'method', 'is', "''experience", "sampling,''", 'which', 'was', 'originated', 'by', 'Csikszentmihalyi', 'and', 'Csikszentmihalyi', '(1988)', '.', 'This', 'latter', 'method', 'is', 'administered', 'as', 'short', 'questionnaires', 'that', 'participants', 'fill', 'out', 'during', 'an', 'activity.', 'It', 'requires', 'much', 'effort', 'from', 'participants,', 'e.g.,', 'carrying', 'a', 'pager', 'or', 'downloading', 'software', 'for', 'entering', 'feedback,', 'or', 'filling', 'out', 'a', 'questionnaire', 'at', 'random', 'times', 'throughout', 'the', 'day.', 'The', 'authors', 'preferred', 'to', 'use', 'an', 'online', 'questionnaire', 'to', 'gather', 'the', 'responses,', 'choosing', 'a', 'multiple', 'choice', 'survey', 'instead', 'of', 'the', 'open', 'interview', 'or', 'experience', 'sampling', 'methods.', 'Based', 'on', 'this', 'method', 'the', 'authors', 'were', 'able', 'to', 'collect', 'more', 'data', 'in', 'a', 'shorter', 'period', 'of', 'time,', 'with', 'the', 'primary', 'goal', 'of', 'reaching', 'as', 'many', 'respondents', 'as', 'possible..', 'The', 'primary', 'online', 'questionnaire', 'was', 'composed', 'of', '23', 'multiple-choice', 'questions', 'based', 'on', 'information', 'gathered', 'from', 'formative', 'research', 'on', 'flow,', 'gaming,', 'and', 'virtual', 'reality,', 'as', 'well', 'as', 'several', 'exploratory', 'questions', 'the', 'authors', 'believed', 'would', 'provide', 'specific', 'insights', 'on', 'the', 'relationship', 'between', 'online', 'virtual', 'communities,', 'flow,', 'and', 'telepresence', '(McKenna', '&', 'Lee,', '1995;', 'Novak', 'and', 'Hoffman,', '1997;', 'Voiskounsky,', 'Mitina,', '&', 'Avetisova,', '2005', '.', 'The', '23', 'questions', 'in', 'the', 'primary', 'section', 'were', 'further', 'separated', 'into', 'two', 'sections;', 'the', 'first', 'section', 'was', 'related', 'to', 'flow', 'experience', '(13', 'questions),', 'and', 'the', 'second', 'was', 'related', 'to', 'telepresence', 'patterns', '(10', 'questions),', 'each', 'focusing', 'on', 'the', "participants'", 'experience', 'in', 'a', 'virtual', 'community,', 'i.e.,', 'in', 'SL.', 'The', 'second', 'section', 'was', 'composed', 'of', 'four', 'parts', 'related', 'to', 'the', "participants'", 'level', 'of', 'computer', 'experience,', 'e.g.,', 'general', 'online', 'experience,', 'general', 'computer', 'experience,', 'and', 'demographic', 'information.', 'Participants', 'had', 'to', 'evaluate', 'their', 'experiences', 'by', 'rating', 'each', 'flow', 'and', 'telepresence', 'statement', 'on', 'a', 'scale', 'of', 'one', 'to', 'five.', 'Several', 'negative', 'statements', 'were', 'included', 'in', 'the', 'questionnaire', 'to', 'balance', 'mostly', 'positive', 'statements.', 'The', 'questionnaire', 'was', 'delivered', 'using', 'the', 'online', 'service', 'Survey', 'Monkey.'], ['1', 'and', 'H', '2', 'were', 'analyzed', 'using', 'one-sample', 't-tests,', 'being', 'intended', 'as', 'prerequisites', 'for', 'testing', 'H', '3', '.', 'That', 'is,', 'without', 'evidence', 'that', 'respondents', 'actually', 'experienced', 'flow', 'and', 'telepresence,', 'testing', 'for', 'any', 'correlation', 'between', 'the', 'two', 'would', 'be', 'impossible.', 'Further', 'analysis', 'was', 'performed', 'to', 'see', 'whether', 'any', 'of', 'the', 'data', 'gathered', 'on', 'computer', 'usage', 'and', 'demographics', 'played', 'a', 'role', 'in', 'the', 'experience', 'of', 'flow', 'or', 'telepresence.', 'H', '3', 'was', 'analyzed', 'using', 'factor', 'analysis', 'to', 'study', 'the', 'relationships', 'between', 'flow', 'and', 'telepresence,', 'as', 'well', 'as', 'the', 'subcomponents', 'contained', 'within', 'each', 'of', 'those', 'variables.', 'As', 'this', 'data', 'was', 'collected', 'with', 'a', 'priori', 'hypotheses', 'about', 'the', 'relationships', 'between', 'the', 'variables,', 'factor', 'analysis', 'provides', 'the', 'means', 'to', 'measure', 'the', 'shared', 'variances', 'between', 'items', 'and', 'reveal', 'latent', 'variables', 'underlying', 'this', 'covariance.', 'While', 'principal', 'components', 'analysis', '(PCA)', 'is', 'often', 'used', 'in', 'similar', 'research,', 'it', 'disregards', 'any', 'such', 'underlying', 'variables', 'and', 'can', 'overestimate', 'the', 'amount', 'of', 'variance', 'accounted', 'for', 'by', 'each', 'factor', '(Gorsuch,', '1990)', '.', 'Though', 'factor', 'analysis', 'and', 'PCA', 'may', 'converge', 'upon', 'the', 'same', 'solution', 'with', 'large', 'numbers', 'of', 'items', 'and', 'fairly', 'high', 'communalities', 'between', 'variables,', 'this', 'study', 'does', 'not', 'meet', 'those', 'criteria..', 'Factors', 'were', 'extracted', 'using', 'the', 'maximum', 'likelihood', 'method', 'due', 'to', 'the', 'overall', 'normality', 'of', 'the', 'data.', 'The', 'method', 'to', 'identify', 'the', 'number', 'of', 'factors', 'for', 'each', 'analysis', 'was', 'an', 'inspection', 'of', 'the', 'scree', 'plot,', 'confirmed', 'with', 'parallel', 'analysis', '(Hayton,', 'Allen,', '&', 'Scarpello,', '2004', ').', 'This', 'method', 'is', 'considered', 'much', 'more', 'accurate', 'than', 'the', 'frequently', 'used', 'Kaiser', 'criterion', '(selecting', 'all', 'factors', 'with', 'eigenvalues', 'greater', 'than', '1),', 'which', 'generally', 'overestimates', 'the', 'appropriate', 'number', 'of', 'factors', '(Velicer', '&', 'Jackson,', '1990)', '.', 'As', 'some', 'correlation', 'between', 'factors', 'was', 'expected,', 'an', 'oblique', 'rotation', '(direct', 'oblimin)', 'was', 'used.', 'A', 'minimum', 'loading', 'of', '.40', 'on', 'only', 'one', 'factor', 'was', 'required', 'to', 'assign', 'an', 'item', 'to', 'a', 'factor.', 'Analysis', 'was', 'performed', 'using', 'SPSS', '17.'], ['The', 'mean', 'responses', 'for', 'both', 'factors', '(flow', 'and', 'telepresence)', 'were', 'significantly', 'higher', 'than', 'the', 'midpoint', 'of', 'the', 'scale', '(l', '0', '=', '3.00),', 'thus', 'satisfying', 'both', 'of', 'these', 'prerequisites', 'for', 'the', 'purposes', 'of', 'this', 'analysis', '(flow:', 't(114)', '=', '13.77,', 'p', '<', '.001;', 'telepresence:', 't(114)', '=', '9.73,', 'p', '<', '.001).', 'The', 'mean', 'response', 'for', 'flow', 'was', '3.82,', 'SD', '=', '0.64;', 'the', 'mean', 'response', 'for', 'telepresence', 'was', '3.65,', 'SD', '=', '0.72..', 'After', 'inverting', 'the', 'two', 'reverse-coded', 'items', 'in', 'the', 'flow', 'scale,', 'reliability', 'analysis', 'was', 'performed', 'on', 'both', 'scales.', 'Both', 'the', 'flow', 'and', 'telepresence', 'scales', 'had', 'high', 'reliabilities,', "Cronbach's", 'a', '=', '.88', '(flow)', 'and', '.87', '(telepresence),', 'with', 'average', 'inter-item', 'correlations', 'of', '.40', 'and', '.47,', 'respectively.', 'No', 'items,', 'if', 'removed,', 'would', 'have', 'resulted', 'in', 'any', 'substantial', 'increase', 'in', 'either', "scale's", 'reliability.', 'The', 'after', 'squaring', 'both', 'scales', 'for', 'a', 'normal', 'distribution,', 'flow', 'and', 'telepresence', 'scales', 'were', 'found', 'to', 'be', 'positively', 'correlated,', 'r', '=', '.56,', 'p', '<', '.001..', 'Further', 'analysis', 'was', 'performed', 'to', 'see', 'whether', 'any', 'of', 'the', 'data', 'gathered', 'on', 'computer', 'usage', 'and', 'demographics', 'played', 'a', 'role', 'in', 'the', 'experience', 'of', 'flow', 'or', 'telepresence.', 'Gender', 'showed', 'no', 'impact', 'on', 'either', 'scale', '(p', '>', '.05).', 'However,', 'the', 'degree', 'of', 'flow', 'experienced', 'increased', 'by', 'age', 'group,', 'with', 'the', 'oldest', 'respondents', '(56-65', 'years', 'old)', 'experiencing', 'the', 'most', 'flow', '(M', '=', '4.16,', 'SE', '=', '0.15),', 'and', 'the', 'youngest', 'respondents', '(18-25', 'years', 'old)', 'experiencing', 'the', 'least', 'flow', '(M', '=', '3.47,', 'SE', '=', '0.15),', 'F(4,110)', '=', '3.44,', 'p', '<', '.05,', 'difference', 'significant', 'at', 'a', '=', '.05', 'per', "Tukey's", 'HSD', 'test.'], ['The', 'first', 'factor', 'analysis', 'examined', 'the', 'entire', 'data', 'set', 'across', 'all', '23', 'questions', 'to', 'determine', 'the', 'relationships', 'between', 'the', 'two', 'main', 'questionnaire', 'topics,', 'flow', 'and', 'telepresence.', 'The', 'data', 'was', 'screened', 'for', 'univariate', 'outliers,', 'finding', 'none.', 'Reasonable', 'factorability', 'was', 'indicated', 'by', 'all', 'items', 'correlating', 'at', 'least', '.3', 'with', 'two', 'or', 'more', 'other', 'items,', 'and', 'the', 'diagonals', 'of', 'the', 'anti-image', 'correlation', 'matrix', 'for', 'all', 'items', 'were', '.67', 'or', 'greater,', 'confirming', 'inclusion', 'of', 'all', '23', 'items', 'in', 'the', 'factor', 'analysis.', 'The', 'Kaiser-Meyer-Olkin', '(KMO)', 'measure', 'of', 'sampling', 'adequacy', 'was', 'strong', 'at', '.84,', 'and', "Bartlett's", 'test', 'of', 'sphericity', 'was', 'significant,', 'v', '2', '(253)', '=', '1357.67,', 'p', '<', '.001.', 'The', 'scree', 'plot', 'and', 'subsequent', 'parallel', 'analysis', 'indicated', 'a', 'twofactor', 'solution,', 'as', 'anticipated.', 'Table', '1', 'shows', 'the', 'factor', 'loadings', 'after', 'rotation.', 'The', 'composition', 'of', 'factors', 'confirms', 'the', 'construction', 'of', 'the', 'survey', 'overall,', 'with', 'the', 'first', 'factor,', 'Flow,', 'explaining', '37.04%', 'of', 'the', 'variance,', 'and', 'the', 'second', 'factor,', 'Telepresence,', 'explaining', '8.93%', 'of', 'the', 'variance.', 'However,', 'there', 'were', 'two', 'exceptions.', 'Question', '13', "(''I", 'can', 'easily', 'control', 'objects', 'while', 'in', 'Second', "Life''),", 'though', 'intended', 'as', 'a', 'flow', 'item,', 'loaded', 'on', 'the', 'telepresence', 'factor.', 'Question', '15', "(''I", 'feel', 'aware', 'of', 'my', 'surroundings', 'in', 'Second', "Life''),", 'was', 'intended', 'as', 'a', 'telepresence', 'item', 'but', 'loaded', 'on', 'the', 'flow', 'factor.', 'Four', 'items', 'were', 'dropped', 'for', 'not', 'meeting', 'the', 'minimum', 'loading', 'criteria:', "''I", 'feel', 'confident', 'while', 'in', 'Second', "Life''", '(flow),', "''When", "I'm", 'in', 'Second', 'Life', 'it', 'feels', "'effortless'''", '(flow),', "''I", 'think', 'of', 'being', 'in', 'Second', 'Life', 'as', 'an', 'extension', 'of', 'the', "'Real", "World'''", '(telepresence),', 'and', "''I", 'experience', 'little', 'delay', 'from', 'my', 'actions', 'to', 'the', 'expected', "outcomes''", '(telepresence)..', 'Each', 'of', 'these', 'two', 'scales', 'was', 'then', 'analyzed', 'to', 'determine', 'the', 'existence', 'of', 'sub-factors', 'among', 'the', 'flow', 'and', 'telepresence', 'items.', 'However,', 'factor', 'analysis', 'of', 'each', 'scale', 'revealed', 'only', 'one-factor', 'solutions.', 'Therefore,', 'no', 'additional', 'subscales', 'of', 'either', 'flow', 'or', 'telepresence', 'were', 'identified.'], ['Traditional', 'cognitive', 'approaches', 'to', 'research', 'in', 'HCI', '(such', 'as', 'SOAR', 'and', 'ACT-R', '5', ')', 'have', 'tended', 'to', 'underestimate', 'emotion', 'and', 'pleasure', 'as', 'factors', 'that', 'can', 'have', 'a', 'dramatic', 'influence', 'on', 'user', 'experience.', 'As', 'Norman', '(2004)', 'asserts,', 'affect', 'is', 'linked', 'to', 'attitudes,', 'expectations,', 'and', 'motivations,', 'and', 'produces', 'a', 'level', 'of', 'emotional', 'response', 'that', 'plays', 'a', 'significant', 'role', 'in', 'user', 'cognition.', 'These', 'emotional', 'states', 'can', 'be', 'complex', 'and', 'can', 'influence', 'and', 'even', 'mediate', 'aspects', 'of', 'user', 'interaction,', 'shaping', "one's", 'virtual', 'world', 'experience.', 'Applying', 'HCI', 'design', 'theory', 'to', 'the', 'development', 'of', 'computermediated', 'environments,', 'such', 'as', 'virtual', 'worlds,', 'can', 'facilitate', 'the', 'experience', 'of', 'flow', 'and', 'has', 'the', 'potential', 'to', 'increase', "users'", 'pleasure.', 'For', 'example,', 'Ghani', 'and', 'Deshpande', '(1994)', 'state', 'that', 'flow', 'and', 'high', 'levels', 'of', 'enjoyment', 'are', 'correlated', 'with', 'higher', 'online', 'experimentation', 'and', 'exploration.', 'These', 'positive', 'experiences', 'of', 'online', 'users', 'have', 'wide', 'implications', 'for', 'serious', 'gaming', 'researchers', 'and', 'educators..', 'The', 'fact', 'that', 'effective', 'HCI', 'design', 'can', 'lead', 'to', 'higher', 'degrees', 'of', 'flow', 'is', 'important', 'in', 'that', 'it', 'indicates', 'that', "Csikszentmihalyi's", 'model', 'is', 'suitable', 'for', 'examining', 'the', 'quality', 'of', "users'", 'experiences', 'with', 'technology,', 'in', 'particular', 'online', 'experiences', 'within', 'virtual', 'worlds.', 'This', 'is', 'because', 'the', 'requirements', 'for', 'a', 'flow-inducing', 'virtual', 'experience', '(such', 'as', 'within', 'SL)', 'may', 'be', 'exactly', 'the', 'same', 'as', 'the', 'demands', 'for', 'a', 'user', 'interface', 'that', 'has', 'a', 'high', 'degree', 'of', 'usability.', 'Finneran', 'and', 'Zhang', '(2003)', 'came', 'to', 'the', 'same', 'conclusion', 'when', 'they', 'identified', 'that', 'the', 'high-level', 'conceptualization', 'of', "Csikszentmihalyi's", 'flow', 'model', 'still', 'needs', 'to', 'be', 'challenged', 'as', 'it', 'applies', 'to', 'a', 'range', 'of', 'information', 'technology', 'environments.', 'Moreover,', 'Finneran', 'and', 'Zhang', 'argue', 'that', "''in", 'order', 'for', 'MIS/HCI', 'researchers', 'to', 'progress', 'further', 'in', 'understanding', 'the', 'antecedents', 'of', 'flow,', 'we', 'need', 'to', 're-examine', 'the', 'over-arching', 'framework', 'of', 'the', 'original', 'flow', 'work', '[of', "Csikszentmihalyi]''", '(p.', '493)..', 'Our', 'findings', 'support', 'recent', 'research', '(Faiola', '&', 'Voiskounsky,', '2007;', 'Finneran', '&', 'Zhang,', '2005;', 'Pilke,', '2004;', 'Rodriguez-Sanchez', '&', 'Schaufeli,', '2008;', 'Sherry,', '2004;', 'Skadberg', '&', 'Kimmel,', '2004', ')', 'that', 'suggest', 'that', 'flow', 'experience', 'is', 'a', 'significant', 'cognitive', 'state', 'in', 'online', 'activities.', 'In', 'particular,', 'our', 'findings', 'for', 'H', '1', 'and', 'H', '2', 'support', 'our', 'position', 'that', 'both', 'flow', 'and', 'telepresence', 'are', 'experienced', 'in', 'measurable', 'ways', 'in', 'virtual', 'space,', 'and', 'that', 'flow', 'can', 'be', 'positively', 'associated', 'with', 'degrees', 'of', 'immersion', 'and', 'telepresence', 'in', 'a', '3D', 'virtual', 'world', 'such', 'as', 'SL.', 'More', 'importantly,', 'we', 'propose', 'that', 'considerable', 'evidence', 'supports', 'H', '3', ',', 'which', 'states', 'that', 'flow', 'can', 'be', 'correlated', 'with', 'telepresence.', 'These', 'findings', 'also', 'engender', 'hope', 'that', 'virtual', 'learners', 'who', 'experience', 'flow', 'may', 'learn', 'more', 'about', 'the', 'educational', 'subject', 'matter', 'provided', 'online,', 'leading', 'to', 'changes', 'of', 'attitude', 'and', 'behavior,', 'including', 'taking', 'positive', 'actions', '(Skadberg', '&', 'Kimmel,', '2004)', '..', 'Hence,', 'based', 'on', 'the', 'correlations', 'between', 'several', 'important', 'indicators', 'of', 'flow,', 'the', 'authors', 'can', 'conclude', 'that', 'there', 'are', 'strong', 'connections', 'between', 'flow', 'and', 'telepresence', 'in', 'SL,', 'and', 'that', 'the', 'ability', 'to', 'interact', 'with', 'the', 'virtual', 'environment', 'in', 'a', 'natural', 'way', 'can', 'enhance', 'a', 'feeling', 'of', 'being', 'present', 'in', 'a', 'virtual', 'world.', 'At', 'the', 'same', 'time,', 'these', 'correlations', 'not', 'only', 'improve', 'the', 'current', 'understanding', 'of', 'the', 'virtual', 'reality', 'experience,', 'they', 'also', 'provide', 'partial', 'support', 'for', 'models', 'that', 'seek', 'to', 'understand', 'these', 'interrelationships', '(Csikszentmihalyi,', '1990;', 'Hoffman', '&', 'Novak,', '1996;', 'Novak', 'et', 'al.,', '1998)', '.', '5', 'Soar', 'is', 'a', 'computational', 'theory', 'developed', 'by', 'Newell', '(1990)', 'for', 'modeling', 'a', 'wide', 'variety', 'of', 'human', 'cognitive', 'activities', 'from', 'syllogistic', 'reasoning', '(Polk', '&', 'Newell,', '1995)', 'to', 'aircraft', 'simulations', '(Jones', 'et', 'al.,', '1999)', '.', 'As', 'Byrne', 'notes,', "''Soar", 'casts', 'all', 'cognitive', 'activity', 'as', 'occurring', 'in', 'a', 'problem', 'space,', 'which', 'consists', 'of', 'a', 'number', 'of', 'states.', '.', '.', 'transformed', 'through', 'the', 'applications', 'of', "operators''", '(p.', '100).', 'ACT-R', '(Adaptive', 'Control', 'of', 'Thought-Rational)', 'is', 'a', 'theoretical', 'model', 'that', 'can', 'be', 'applied', 'to', 'HCI', 'related', 'to', 'cognitive', 'architecture', 'related', 'to', 'problem', 'solving,', 'learning', 'and', 'memory', '(Byrne,', '2001', ').'], ['This', 'paper', 'represents', 'an', 'attempt', 'to', 'disentangle', 'the', 'complex', 'relationship', 'between', 'flow', 'and', 'telepresence', 'in', 'a', 'virtual', 'world.', 'This', 'research', 'also', 'attempted', 'to', 'advance', 'the', 'discussion', 'of', 'the', 'relationship', 'between', 'flow', 'and', 'telepresence', 'by', 'presenting', 'some', 'observations', 'of', 'participant', 'responses', 'to', 'questions', 'related', 'to', 'the', 'experience', 'of', 'virtual', 'worlds.', 'The', 'authors', 'argue', 'that', 'substantiating', 'the', 'presence', 'of', 'flow', 'and', 'telepresence', 'in', 'virtual', 'worlds', 'is', 'not', 'merely', 'a', 'matter', 'of', 'observation.', 'Rather,', 'that', 'virtual', 'world', 'users', 'not', 'only', 'have', 'such', 'experiences', 'but', 'also', 'lose', 'their', 'sense', 'and', 'connection', 'with', 'real-time.', 'In', 'particular,', 'gameplayers', 'often', 'feel', 'totally', 'immersed', 'in', 'the', 'interactivity', 'of', 'a', 'game,', 'losing', 'their', 'sense', 'of', 'time,', 'while', 'feeling', 'a', 'heightened', 'sense', 'of', 'pleasure,', 'or', 'what', 'has', 'been', 'considered', 'the', "gamers'", 'optimal', 'experience.', 'Hence,', 'the', 'authors', 'conclude', 'that', 'for', 'these', 'observed', 'phenomena', 'to', 'be', 'productively', 'harnessed', 'for', 'use', 'in', 'education,', 'they', 'must', 'be', 'more', 'rigorously', 'understood.', 'For', 'this', 'reason,', 'the', 'authors', 'asked,', 'do', 'users', 'experience', 'flow', 'and', 'telepresence', 'in', 'a', 'virtual', 'world,', 'and', 'what', 'is', 'the', 'correlation', 'between', 'the', 'two?.', 'If', 'we', 'hope', 'to', 'leverage', 'the', 'power', 'of', 'flow', 'to', 'drive', 'advances', 'in', 'commerce', 'and', 'education,', 'it', 'will', 'be', 'necessary', 'to', 'gain', 'a', 'new', 'understanding', 'of', 'the', 'experiences', 'of', 'users', 'required', 'to', 'support', 'virtual', 'learning.', 'Fortunately,', 'this', 'is', 'an', 'exercise', 'that', 'seems', 'destined', 'to', 'bring', 'its', 'own', 'rewards.', 'Recent', 'trends', 'in', 'research', 'suggest', 'that', "''flow", "theory''", 'provides', 'new', 'insights', 'into', 'field', 'of', 'HCI.', 'However,', 'flow', 'occurs', 'under', 'a', 'limited', 'set', 'of', 'conditions.', 'For', 'example,', 'users', 'experience', 'flow', 'only', 'if', 'their', 'movement', 'through', 'a', 'virtual', 'space', 'feels', 'seamless,', 'while', 'at', 'the', 'same', 'time', 'their', 'skills', 'match', 'available', 'challenges.', 'Because', 'the', 'study', 'of', 'flow', 'can', 'clarify', 'the', 'features', 'that', 'contribute', 'to', 'an', 'optimal', 'experience,', 'it', 'is', 'a', 'more', 'holistic', 'metric', 'for', 'understanding', 'HCI', 'than', 'traditional', 'usability', 'and', 'time-on-task', 'studies.', 'User', 'experiences', 'of', 'flow', 'online', 'can', 'be', 'affected', 'by', 'a', 'number', 'of', 'factors,', 'such', 'as', 'high', 'levels', 'of', 'skill,', 'control,', 'challenge,', 'arousal,', 'and', 'focused', 'attention.', 'Therefore,', 'the', 'study', 'of', 'flow', 'in', 'new', 'environments,', 'such', 'as', 'virtual', 'worlds,', 'has', 'the', 'potential', 'to', 'yield', 'effective', 'new', 'tools', 'for', 'the', 'design', 'of', 'such', 'online', 'spaces..', 'Moreover,', 'the', 'rich', 'variety', 'of', 'interactions', 'that', 'take', 'place', 'in', 'virtual', 'gaming', 'and', 'learning', 'communities', 'may', 'also', 'provide', 'a', 'unique', 'opportunity', 'to', 'study', 'the', 'effect', 'of', 'flow,', 'providing', 'additional', 'insight', 'into', 'HCI', 'theory', 'and', 'best', 'practice.', 'Hence,', 'an', 'understanding', 'of', 'the', 'mechanisms', 'underlying', 'the', 'enjoyment', 'of', 'virtual', 'experiences', 'will', 'facilitate', 'effective', 'virtual', 'world', 'design', 'with', 'outcomes', 'that', 'directly', 'impact', 'user', 'pleasure..', 'The', 'final', 'consideration', 'in', 'all', 'this', 'is', 'the', 'implications', 'that', 'these', 'findings', 'have', 'for', 'the', 'field', 'of', 'distance', 'education', 'and', 'emerging', 'technologies', 'that', 'support', 'virtual', 'learning', 'spaces.', 'The', 'fact', 'that', 'we', 'are', 'beginning', 'to', 'have', 'the', 'first', 'rough', 'approximations', 'of', 'cause', 'and', 'effect', 'in', 'the', 'motivation', 'of', 'online', 'learning', 'is', 'very', 'significant.', 'We', 'believe', 'this', 'paper', 'outlines', 'several', 'very', 'important', 'and', 'useful', 'first', 'steps', 'in', 'understanding', 'the', 'complex', 'interrelationships', 'between', 'flow', 'and', 'telepresence', 'as', 'users', 'engage', 'in', 'online', 'virtual', 'learning', 'and', 'gameplay.', 'For', 'the', 'future,', 'we', 'hope', 'gathering', 'additional', 'evidence', 'will', 'allow', 'us', 'to', 'better', 'describe', 'a', "person's", 'experience', 'while', 'moving', 'within', 'a', 'virtual', 'world.', 'We', 'also', 'hope', 'that', 'such', 'research', 'will', 'be', 'of', 'value', 'to', 'virtual', 'world', 'developers', 'and', 'educators,', 'helping', 'them', 'to', 'create', 'worlds', 'with', 'features', 'to', 'significantly', 'enhance', 'the', "user's", 'immersive', 'experience.']]
+Document BIO Tags:  [['O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'B', 'I', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B'], ['O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'B'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O'], ['O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'I', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'B', 'O', 'B', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O', 'O']]
+Extractive/present Keyphrases:  ['gaming', 'online learning', 'telepresence', 'flow', 'virtual worlds']
+Abstractive/absent Keyphrases:  ['humancomputer interaction']
+
+-----------
+```
+
+
+
+## Citation Information
+Please cite the works below if you use this dataset in your work.
+
+```
+```
+
+## Contributions
+Thanks to [@debanjanbhucs](https://github.com/debanjanbhucs), [@dibyaaaaax](https://github.com/dibyaaaaax), [@UmaGunturi](https://github.com/UmaGunturi) and [@ad6398](https://github.com/ad6398) for adding this dataset