Datasets:

midas

/

nus

like 0

[ "Building", "a", "Research", "Library", "for", "the", "History", "of", "the", "Web", "This", "paper", "describes", "the", "building", "of", "a", "research", "library", "for", "studying", "the", "Web", ",", "especially", "research", "on", "how", "the", "structure", "and", "content", "of", "the", "Web", "change", "over", "time", ".", "The", "library", "is", "particularly", "aimed", "at", "supporting", "social", "scientists", "for", "whom", "the", "Web", "is", "both", "a", "fascinating", "social", "phenomenon", "and", "a", "mirror", "on", "society", ".", "The", "library", "is", "built", "on", "the", "collections", "of", "the", "Internet", "Archive", ",", "which", "has", "been", "preserving", "a", "crawl", "of", "the", "Web", "every", "two", "months", "since", "1996", ".", "The", "technical", "challenges", "in", "organizing", "this", "data", "for", "research", "fall", "into", "two", "categories", ":", "high-performance", "computing", "to", "transfer", "and", "manage", "the", "very", "large", "amounts", "of", "data", ",", "and", "human-computer", "interfaces", "that", "empower", "research", "by", "non-computer", "specialists", ".", "H.", "3.7", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Digital", "Libraries", "collection", ",", "systems", "issues", ",", "user", "issues", ".", "J.", "4", "-LSB-", "Social", "and", "Behavioral", "Sciences", "-RSB-", ":", "sociology", ".", "Algorithms", ",", "Management", ",", "Measurement", ",", "Performance", ",", "Design", ",", "Human", "Factors", ".", "1", ",", "while", "Amazon", "has", "recently", "made", "its", "older", "Alexa", "corpus", "commercially", "available", "for", "the", "development", "of", "searching", "and", "related", "services", "2", ".", "However", ",", "the", "only", "collection", "that", "can", "be", "used", "for", "more", "general", "research", "into", "the", "history", "of", "the", "Web", "is", "the", "Web", "collection", "of", "the", "Internet", "Archive", "3", ".", "Everybody", "with", "an", "interest", "in", "the", "history", "of", "the", "Web", "must", "be", "grateful", "to", "Brewster", "Kahle", "for", "his", "foresight", "in", "preserving", "the", "content", "of", "the", "Web", "for", "future", "generations", ",", "through", "the", "not-for-profit", "Internet", "Archive", "and", "through", "Alexa", "Internet", ",", "Inc.", ",", "which", "he", "also", "founded", ".", "1", "The", "Google", "Web", "Search", "API", "allows", "a", "client", "to", "submit", "a", "limited", "number", "of", "search", "requests", ",", "using", "the", "SOAP", "and", "WSDL", "standards", ".", "See", ":", "http://www.google.com/apis/", ".", "2", "See", "http://websearch.alexa.com/welcome.html", "for", "the", "Alexa", "corpus", "made", "available", "by", "Amazon", ".", "This", "site", "also", "has", "a", "description", "of", "the", "relationship", "between", "Alexa", "Internet", "and", "the", "Internet", "Archive", ".", "3", "The", "Internet", "Archive", "'s", "Web", "site", "is", "http://www.archive.org/", ".", "Copyright", "is", "held", "by", "the", "author/owner", "-LRB-", "s", "-RRB-", ".", "JCDL", "'", "06", ",", "June", "11-15", ",", "2006", ",", "Chapel", "Hill", ",", "North", "Carolina", ",", "USA", ".", "ACM", "1-5959", "3-354-9", "/", "06/0006", ".", "95", "Vannevar", "Bush", "Best", "Paper", "Candidate", "The", "Internet", "Archive", "began", "to", "collect", "and", "preserve", "the", "Web", "in", "1996", ".", "With", "a", "few", "gaps", "in", "the", "early", "years", ",", "the", "collection", "has", "added", "a", "full", "crawl", "of", "the", "Web", "every", "two", "months", "since", "then", ".", "Most", "but", "not", "all", "of", "this", "data", "comes", "from", "the", "Alexa", "crawls", ".", "Statistics", "of", "the", "sizes", "of", "the", "separate", "crawls", "are", "complicated", "by", "the", "fact", "that", "a", "single", "crawl", "may", "contain", "several", "variants", "of", "the", "same", "URL", ",", "but", "in", "August", "2005", "the", "total", "volume", "of", "data", "was", "544", "Terabytes", "-LRB-", "TB", "-RRB-", ".", "This", "is", "the", "size", "of", "the", "compressed", "data", ".", "As", "discussed", "below", ",", "the", "overall", "compression", "ratio", "is", "about", "10:1", ",", "so", "that", "the", "total", "size", "of", "the", "collection", "is", "approximately", "5", "to", "6", "Petabytes", "uncompressed", ".", "Table", "1", "gives", "estimates", "of", "the", "size", "of", "the", "individual", "crawls", "for", "each", "year", ".", "Table", "1", ".", "Estimates", "of", "crawl", "sizes", "-LRB-", "compressed", "-RRB-", "Year", "Web", "pages", "-LRB-", "TB", "per", "crawl", "-RRB-", "Metadata", "-LRB-", "TB", "per", "crawl", "-RRB-", "1996", "1", "0.2", "1997", "2", "0.4", "1998", "3", "0.6", "1999", "4", "0.8", "2000", "10", "1.2", "2001", "15", "2", "2002", "25", "3", "2003", "30", "4", "2004", "45", "6", "2005", "60", "10", "We", "are", "working", "with", "the", "Internet", "Archive", "to", "build", "a", "research", "library", "based", "on", "this", "collection", ".", "In", "summer", "2005", ",", "we", "began", "work", "on", "the", "system", "that", "is", "being", "used", "to", "transfer", "a", "major", "subset", "of", "the", "data", "to", "Cornell", "and", "to", "organize", "it", "for", "researchers", ",", "with", "a", "particular", "emphasis", "on", "supporting", "social", "science", "research", ".", "This", "paper", "describes", "the", "technical", "design", ",", "performance", "testing", ",", "and", "progress", "in", "implementation", ".", "The", "overall", "goals", "of", "the", "library", "and", "plans", "for", "its", "use", "in", "research", "are", "described", "in", "a", "separate", "paper", "-LSB-", "1", "-RSB-", ".", "1.3", "User", "Studies", "In", "building", "any", "library", ",", "the", "objective", "is", "to", "organize", "the", "collections", "and", "services", "so", "that", "they", "provide", "the", "greatest", "range", "of", "opportunities", "for", "users", ",", "both", "now", "and", "in", "the", "future", ".", "Inevitably", "the", "design", "is", "a", "trade-off", "between", "predictions", "of", "what", "users", "will", "find", "helpful", "and", "the", "practicalities", "of", "building", "and", "maintaining", "the", "library", ".", "This", "trade-off", "is", "particularly", "important", "for", "a", "library", "of", "the", "whole", "Web", "because", "of", "the", "computing", "challenges", "of", "managing", "very", "large", "amounts", "of", "data", ".", "Therefore", ",", "the", "design", "of", "the", "library", "began", "with", "interviews", "of", "potential", "users", "to", "identify", "how", "the", "collections", "might", "be", "organized", "to", "be", "most", "valuable", "to", "them", ".", "Two", "users", "studies", "were", "carried", "out", ",", "with", "sociologists", "and", "with", "computer", "science", "researchers", ".", "1.3.1", "Sociology", "In", "fall", "2005", ",", "Cornell", "received", "support", "from", "the", "National", "Science", "Foundation", "'s", "Next", "Generation", "Cybertools", "program", "for", "a", "project", "that", "combines", "sociology", "research", "with", "continuing", "development", "of", "the", "Web", "library", "4", ".", "In", "this", "project", ",", "the", "specific", "areas", "of", "research", "are", "diffusion", "of", "ideas", ",", "including", "polarization", "of", "opinions", "and", "the", "spread", "of", "urban", "legends", ".", "Conventionally", ",", "sociologists", "have", "studied", "such", "phenomena", "by", "analysis", "of", "small", "surveys", "with", "hand-coded", "data", ".", "One", "aim", "of", "the", "project", "is", "to", "develop", "a", "new", "methodology", "for", "such", "research", "built", "around", "very", "large-scale", "collections", "of", "Web", "data", ",", "with", "automated", "tools", "used", "to", "extract", ",", "encode", "and", "analyze", "the", "data", ".", "Social", "science", "researchers", "identified", "a", "number", "of", "specific", "studies", "that", "they", "would", "like", "to", "carry", "out", "using", "historical", "Web", "data", ".", "Many", "of", "the", "studies", "have", "the", "same", "general", "structure", ":", "-LRB-", "a", "-RRB-", "extract", "a", "subset", "of", "the", "Web", "for", "detailed", "analysis", ",", "-LRB-", "b", "-RRB-", "encode", "selected", "attributes", "of", "the", "pages", "in", "that", "subset", ",", "-LRB-", "c", "-RRB-", "repeat", "for", "the", "corresponding", "subsets", "at", "several", "different", "dates", ",", "-LRB-", "d", "-RRB-", "analyze", "the", "changes", "over", "time", ".", "The", "criteria", "by", "which", "a", "portion", "of", "the", "Web", "is", "chosen", "for", "analysis", "are", "extremely", "varied", ".", "Some", "desirable", "criteria", "are", "impossible", "with", "today", "'s", "computing", ",", "e.g.", ",", "they", "require", "understanding", "of", "the", "content", "of", "a", "page", ".", "However", ",", "simple", "criteria", "such", "as", "domain", "names", "provide", "a", "good", "starting", "point", "for", "many", "purposes", ",", "particularly", "when", "combined", "with", "focused", "Web", "crawling", "to", "refine", "the", "subsets", "for", "analysis", ".", "Once", "a", "subset", "has", "been", "extracted", ",", "social", "science", "researchers", "want", "to", "analyze", "the", "text", ",", "for", "which", "full", "text", "indexes", "are", "important", ".", "They", "also", "wish", "to", "analyze", "the", "structure", "of", "links", "between", "pages", "for", "the", "social", "relationship", "that", "they", "represent", ".", "Such", "research", "requires", "interdisciplinary", "efforts", "by", "computer", "scientists", "and", "social", "scientists", ".", "Some", "of", "the", "analysis", "tools", "already", "exist", ",", "e.g.", ",", "using", "full", "text", "indexes", "of", "Web", "pages", "to", "trace", "the", "movement", "of", "individuals", ".", "Others", "tools", "are", "themselves", "subjects", "of", "computer", "science", "research", "in", "natural", "language", "processing", "and", "machine", "learning", ",", "e.g.", ",", "to", "analyze", "the", "text", "of", "Web", "pages", "for", "sentiments", ",", "opinions", ",", "and", "other", "features", "of", "interest", "to", "social", "scientists", ".", "1.3.2", "Computer", "Science", "Ten", "computer", "scientists", "who", "carry", "out", "research", "on", "the", "Web", "contributed", "to", "the", "user", "studies", ".", "Their", "research", "areas", "include", "the", "structure", "and", "evolution", "of", "the", "Web", ",", "data", "mining", ",", "digital", "libraries", ",", "machine", "learning", ",", "and", "natural", "language", "processing", ".", "Most", "of", "their", "interest", "focuses", "on", "the", "textual", "content", "of", "Web", "pages", "and", "the", "structure", "of", "the", "Web", "as", "revealed", "by", "the", "graph", "of", "links", "between", "pages", ".", "Several", "of", "the", "researchers", "commented", "that", "they", "expend", "ninety", "percent", "of", "their", "effort", "gathering", "test", "data", ";", "even", "then", "they", "have", "difficulty", "in", "determining", "how", "robust", "the", "results", "are", "across", "time", ".", "A", "fundamental", "tool", "for", "such", "research", "is", "the", "Web", "graph", "of", "links", "between", "pages", ".", "Studies", "of", "the", "graph", "are", "very", "important", "in", "understanding", "the", "structure", "of", "the", "Web", ",", "and", "the", "graph", "is", "the", "basis", "of", "practical", "tools", "such", "as", "PageRank", "-LSB-", "3", "-RSB-", "or", "Hubs", "and", "Authorities", "-LSB-", "9", "-RSB-", ".", "Despite", "its", "importance", ",", "there", "have", "been", "few", "studies", "that", "have", "looked", "at", "changes", "in", "the", "Web", "graph", "over", "time", ".", "Many", "of", "the", "classical", "studies", "of", "the", "Web", "graph", "were", "based", "on", "early", "AltaVista", "crawls", "and", "have", "never", "been", "repeated", ".", "Algorithmic", "research", "needs", "graphs", "of", "at", "least", "one", "billion", "pages", ",", "preferably", "stored", "in", "the", "main", "memory", "of", "a", "single", "computer", ".", "For", "textual", "research", "on", "the", "Web", "there", "are", "two", "additional", "requirements", ".", "The", "first", "is", "snapshots", "that", "are", "repeated", "across", "time", "4", "Michael", "Macy", "-LRB-", "principal", "investigator", "-RRB-", ",", "et", "al.", ",", "``", "Very", "Large", "Semi-Structured", "Datasets", "for", "Social", "Science", "Research", "''", ".", "NSF", "grant", "SES-0537606", ".", "http://www.infosci.cornell.edu/SIN/cybertools/", "96", "that", "can", "be", "used", "for", "burst", "analysis", ",", "and", "other", "time", "based", "research", ".", "The", "second", "is", "full", "text", "indexes", "of", "substantial", "numbers", "of", "Web", "pages", ".", "Focused", "Web", "crawling", "is", "of", "particular", "importance", "in", "digital", "libraries", "research", ".", "Part", "of", "the", "original", "motivation", "for", "developing", "this", "library", "was", "an", "interest", "in", "automatic", "selection", "of", "library", "materials", "from", "the", "Web", "-LSB-", "2", ",", "10", "-RSB-", ".", "Using", "the", "actual", "Web", "for", "research", "in", "focused", "crawling", "is", "technically", "difficult", "and", "the", "results", "are", "often", "hard", "to", "interpret", "since", "no", "experiment", "can", "ever", "be", "repeated", "with", "exactly", "the", "same", "data", ".", "The", "Internet", "Archive", "uses", "highly", "compressed", "file", "formats", "developed", "in", "conjunction", "with", "Alexa", "Internet", ".", "Compressed", "Web", "pages", "are", "packed", "together", "in", "large", "files", "using", "the", "ARC", "format", "-LSB-", "4", "-RSB-", ".", "The", "pages", "in", "each", "ARC", "file", "are", "in", "essentially", "random", "order", ",", "usually", "the", "sequence", "in", "which", "the", "Web", "crawler", "originally", "captured", "them", ".", "Every", "ARC", "file", "has", "an", "associated", "DAT", "file", ",", "which", "contains", "metadata", "for", "the", "pages", "including", "URL", ",", "IP", "address", ",", "crawl", "date", "and", "time", ",", "and", "hyperlinks", "from", "the", "page", ".", "The", "files", "are", "compressed", "with", "gzip", ".", "Ten", "years", "ago", "the", "decision", "was", "made", "that", "ARC", "files", "should", "be", "approximately", "100", "MB", ",", "which", "seemed", "big", "at", "the", "time", ",", "but", "this", "size", "is", "now", "too", "small", "for", "efficiency", "and", "will", "need", "to", "be", "increased", ".", "The", "sizes", "of", "the", "DAT", "files", "depend", "on", "the", "number", "of", "pages", "in", "the", "associated", "ARC", "files", ",", "but", "average", "about", "15", "MB", ".", "The", "compression", "ratios", "also", "vary", "widely", ".", "The", "ratio", "is", "more", "than", "20:1", "for", "text", "files", "but", "close", "to", "1:1", "for", "files", "that", "are", "already", "compressed", "efficiently", ",", "such", "as", "videos", ".", "The", "overall", "ratio", "for", "ARC", "files", "is", "about", "10:1", ".", "2.1.1", "The", "Database", "The", "Cornell", "Web", "library", "uses", "a", "relational", "database", "to", "store", "metadata", "about", "the", "Web", "pages", "and", "a", "separate", "Page", "Store", "to", "store", "the", "actual", "pages", ".", "In", "addition", ",", "the", "unprocessed", "ARC", "and", "DAT", "files", "received", "from", "the", "Internet", "Archive", "are", "copied", "to", "a", "tape", "archive", ".", "In", "choosing", "a", "relational", "database", ",", "we", "considered", "but", "rejected", "two", "approaches", "that", "have", "been", "successful", "in", "related", "applications", ".", "The", "first", "option", "was", "to", "use", "a", "modern", "digital", "library", "repository", "with", "support", "for", "rich", "data", "models", ",", "such", "as", "XML", "and", "RDF", ",", "and", "search", "services", "that", "support", "semi-structured", "data", ",", "such", "as", "XQuery", ".", "Such", "capabilities", "are", "appealing", ",", "but", "we", "know", "of", "no", "repository", "system", "that", "can", "manage", "tens", "of", "billions", "of", "objects", ".", "The", "scale", "of", "the", "Web", "precludes", "such", "an", "approach", ".", "The", "second", "option", "was", "to", "follow", "the", "model", "of", "production", "services", "for", "the", "Web", ",", "such", "as", "Google", "-LSB-", "7", "-RSB-", "and", "Yahoo", ".", "They", "provide", "low", "cost", "processing", "and", "data", "storage", "by", "spreading", "their", "systems", "across", "very", "large", "numbers", "of", "small", ",", "commodity", "computers", "used", "as", "servers", ".", "This", "is", "the", "approach", "used", "by", "the", "Internet", "Archive", "to", "store", "its", "collections", "and", "for", "its", "very", "popular", "Wayback", "Machine", "5", ".", "We", "rejected", "this", "architecture", "for", "a", "research", "library", "for", "two", "principal", "reasons", ":", "-LRB-", "a", "-RRB-", "there", "are", "many", "algorithmic", "computations", "on", "large", "datasets", "where", "a", "single", "large", "computer", "is", "intrinsically", "more", "efficient", "than", "a", "distributed", "cluster", "of", "smaller", "machines", ",", "and", "-LRB-", "b", "-RRB-", "even", "when", "the", "research", "can", "be", "done", "effectively", ",", "clusters", "of", "computers", "are", "more", "difficult", "to", "program", "by", "researchers", "who", "are", "carrying", "out", "Web-scale", "research", ".", "As", "an", "example", ",", "each", "server", "at", "the", "Internet", "Archive", "has", "an", "index", "of", "the", "files", "stored", "on", "it", ",", "but", "there", "is", "only", "a", "very", "limited", "central", "index", ".", "The", "Wayback", "Machine", "allows", "a", "user", "to", "retrieve", "all", "the", "pages", "in", "the", "5", "The", "Wayback", "Machine", "is", "accessible", "at", "http://www.archive.org/", ".", "entire", "collection", "that", "have", "a", "given", "URL", ".", "It", "relies", "on", "a", "protocol", "in", "which", "an", "identifier", "is", "broadcast", "and", "each", "server", "responds", "with", "a", "list", "of", "matches", ".", "This", "is", "very", "efficient", "for", "this", "specific", "purpose", ",", "but", "it", "would", "be", "extremely", "difficult", "to", "extract", "the", "flexible", "subsets", "required", "by", "social", "science", "researchers", "with", "this", "organization", "of", "data", ".", "A", "relational", "database", "has", "many", "advantages", "for", "the", "Web", "library", "and", "one", "major", "disadvantage", ".", "Foremost", "among", "the", "advantages", "is", "scalability", ".", "Commercial", "relational", "database", "systems", "are", "highly", "optimized", "for", "storing", ",", "loading", ",", "indexing", ",", "extracting", ",", "backing-up", ",", "and", "restoring", "huge", "volumes", "of", "data", ".", "Usability", "is", "another", "important", "advantage", ".", "A", "relational", "schema", "provides", "a", "single", "image", "of", "the", "collection", ",", "expressed", "in", "a", "manner", "that", "is", "familiar", "to", "many", "researchers", ".", "The", "disadvantage", "is", "a", "loss", "of", "flexibility", ".", "The", "design", "and", "implementation", "of", "the", "database", "attempt", "to", "reconcile", "the", "expected", "uses", "that", "will", "be", "made", "of", "the", "library", "against", "scalability", "constraints", ",", "but", "it", "will", "be", "difficult", "to", "make", "major", "changes", "to", "the", "schema", "without", "rebuilding", "the", "entire", "database", ".", "The", "actual", "Web", "pages", "are", "stored", "in", "a", "separate", "Page", "Store", ".", "At", "the", "Internet", "Archive", ",", "if", "two", "Web", "pages", "are", "identical", "they", "are", "stored", "twice", ".", "With", "the", "new", "Page", "Store", ",", "duplicate", "pages", "are", "stored", "only", "once", ".", "Rather", "surprisingly", ",", "there", "is", "as", "yet", "very", "little", "data", "about", "how", "many", "pages", "remain", "unchanged", "between", "crawls", ",", "but", "we", "expect", "that", "elimination", "of", "duplicates", "will", "save", "significant", "online", "storage", ",", "especially", "with", "large", "audio", "and", "video", "files", ".", "The", "Page", "Store", "is", "implemented", "as", "a", "set", "of", "compressed", "files", ",", "one", "file", "for", "each", "page", "received", "in", "the", "ARC", "files", ".", "Since", "many", "pages", "on", "the", "Web", "do", "not", "change", "between", "crawls", ",", "the", "Preload", "subsystem", "checks", "for", "content", "duplicates", "using", "an", "MD5", "check", "sum", "of", "the", "content", ".", "Thus", ",", "a", "copy", "of", "the", "content", "is", "stored", "only", "once", "however", "many", "pages", "have", "that", "content", ".", "In", "order", "to", "guarantee", "fast", "access", "to", "the", "stored", "content", ",", "each", "page", "'s", "content", "is", "compressed", "individually", ".", "The", "architecture", "of", "the", "Page", "Store", "allows", "decisions", "to", "be", "made", "about", "which", "pages", "to", "store", "online", "at", "any", "given", "time", ".", "For", "example", ",", "the", "library", "might", "decide", "not", "to", "store", "large", "audio", "and", "video", "files", "online", ".", "While", "all", "metadata", "will", "be", "online", "at", "all", "times", ",", "an", "individual", "Web", "page", "could", "be", "accessed", "from", "the", "online", "Page", "Store", ",", "the", "off-line", "tape", "archive", ",", "or", "over", "the", "Internet", "from", "the", "Internet", "Archive", ".", "2.2", "Equipment", "The", "library", "is", "housed", "at", "the", "Cornell", "Theory", "Center", ",", "which", "is", "the", "university", "'s", "high-performance", "computing", "center", ".", "The", "choice", "of", "equipment", "and", "the", "use", "of", "a", "relational", "database", "were", "closely", "related", "decisions", ".", "The", "Theory", "Center", "has", "expertise", "in", "distributed", "cluster", "computing", ",", "but", "because", "of", "the", "very", "high", "data", "rates", ",", "a", "symmetric", "multi-processor", "configuration", "was", "chosen", "instead", ".", "Figure", "1", "shows", "part", "of", "the", "configuration", "of", "the", "central", "computer", ".", "Figure", "1", ".", "Configuration", "of", "the", "main", "computer", "system", "97", "The", "system", "is", "shared", "with", "another", "data-intensive", "program", "of", "research", ",", "the", "analysis", "of", "data", "from", "the", "Arecibo", "radio", "telescope", "in", "Puerto", "Rico", ".", "Each", "group", "has", "use", "of", "a", "dedicated", "Unisys", "ES7000/430", "server", ",", "with", "16", "Itanium2", "processors", "running", "at", "1.5", "Gigahertz", ".", "The", "memory", "can", "be", "shared", "between", "the", "servers", ",", "but", "in", "practice", "each", "project", "has", "sole", "use", "of", "32", "GB", ".", "Each", "server", "has", "a", "RAID", "disk", "subsystem", "attached", "via", "a", "dual-ported", "fiber-channel", ".", "The", "operating", "system", "is", "Microsoft", "Windows", "Server", "2003", ".", "For", "the", "Web", "library", "the", "disk", "subsystem", "provides", "an", "initial", "45", "TB", "of", "disk", "storage", ".", "We", "plan", "to", "extend", "the", "capacity", "to", "240", "TB", "by", "2007", ".", "There", "are", "no", "technical", "barriers", "to", "adding", "additional", "fiber", "channels", "and", "disk", "capacity", ".", "In", "the", "longer-term", ",", "disk", "prices", "are", "falling", "faster", "than", "the", "growth", "in", "the", "size", "of", "Web", "crawls", ",", "which", "gives", "confidence", "that", "the", "library", "will", "be", "able", "to", "keep", "up", "with", "the", "growth", "of", "the", "Web", ".", "By", "using", "a", "symmetric", "multi-processor", "configuration", "with", "a", "high", "performance", "disk", "subsystem", ",", "we", "are", "able", "to", "balance", "processing", "and", "disk", "access", "requirements", ".", "Since", "the", "data", "sets", "are", "local", "to", "the", "system", "on", "which", "the", "database", "is", "located", ",", "the", "system", "can", "perform", "bulk-loading", "tasks", "without", "incurring", "any", "networking", "penalties", ".", "The", "large", "real", "memory", "is", "an", "added", "attraction", "of", "this", "configuration", ".", "It", "allows", "researchers", "to", "carry", "out", "substantial", "computation", "entirely", "in", "memory", ".", "For", "instance", ",", "it", "is", "possible", "to", "process", "a", "Web", "graph", "of", "one", "billion", "pages", "within", "memory", ".", "2.3", "The", "Human", "Interface", "The", "design", "of", "the", "human", "interface", "is", "perhaps", "the", "most", "challenging", "aspect", "of", "developing", "the", "library", ".", "The", "social", "science", "research", "groups", "that", "we", "are", "working", "with", "have", "the", "technical", "skills", "to", "write", "scripts", "and", "simple", "programs", ".", "Many", "are", "experts", "in", "statistical", "calculations", ".", "But", "they", "should", "not", "be", "expected", "to", "write", "large", "or", "complex", "computer", "programs", ".", "The", "current", "design", "supports", "three", "categories", "of", "users", ".", "The", "Basic", "Access", "Service", "provides", "a", "Web", "Services", "API", "that", "allows", "a", "client", "to", "access", "pages", "in", "the", "collection", "by", "any", "metadata", "that", "is", "indexed", "in", "the", "database", ",", "e.g.", ",", "by", "URL", "and", "date", ".", "The", "Retro", "Browser", ",", "which", "is", "described", "below", ",", "uses", "this", "API", "to", "allow", "a", "user", "to", "browse", "the", "collection", "as", "it", "was", "at", "a", "certain", "date", ".", "The", "Subset", "Extraction", "Service", "supports", "users", "who", "wish", "to", "download", "sets", "of", "partially", "analyzed", "data", "to", "their", "own", "computers", "for", "further", "analysis", ".", "A", "Web", "form", "is", "provided", "to", "define", "a", "subset", "of", "the", "data", "-LRB-", "e.g.", ",", "by", "date", ",", "URL", ",", "domain", ",", "etc.", "-RRB-", ",", "extract", "subsets", "of", "the", "collection", ",", "and", "store", "them", "as", "virtual", "views", "in", "the", "database", ".", "Sets", "of", "analysis", "tools", ",", "many", "of", "which", "are", "already", "under", "development", ",", "can", "be", "applied", "to", "the", "subset", "and", "the", "results", "downloaded", "to", "a", "client", "computer", ".", "Technically", "advanced", "users", "can", "be", "authorized", "to", "run", "their", "own", "programs", "on", "the", "central", "computer", ".", "To", "support", "the", "Basic", "Access", "Service", "and", "the", "Subset", "Extraction", "Service", ",", "we", "provide", "a", "dedicated", "Web", "server", ",", "which", "is", "housed", "next", "to", "the", "main", "system", ".", "Although", "the", "library", "has", "been", "generously", "funded", "by", "the", "National", "Science", "Foundation", ",", "we", "do", "not", "yet", "have", "sufficient", "capacity", "to", "download", "and", "mount", "online", "the", "entire", "Web", "collection", "of", "the", "Internet", "Archive", ".", "This", "is", "the", "long", "term", "goal", ",", "but", "during", "the", "initial", "phase", ",", "care", "has", "been", "taken", "to", "balance", "the", "several", "parts", "of", "the", "system", ":", "online", "storage", ",", "network", "bandwidth", ",", "processing", "of", "the", "incoming", "data", ",", "database", ",", "performance", ",", "and", "the", "need", "to", "archive", ",", "back-up", ",", "and", "restore", "the", "data", ".", "In", "spring", "2005", ",", "several", "undergraduate", "and", "masters", "students", "carried", "out", "independent", "projects", "to", "estimate", "sizes", "and", "processing", "requirements", "6", ".", "To", "test", "database", "performance", "before", "large", "amounts", "of", "actual", "data", "were", "available", ",", "we", "used", "the", "R-MAT", "algorithm", "to", "generate", "a", "synthetic", "graph", "with", "properties", "similar", "to", "the", "Web", "graph", "-LSB-", "5", "-RSB-", ".", "This", "test", "graph", "has", "one", "billion", "nodes", "with", "more", "than", "seven", "billion", "links", ",", "and", "domain", "names", "generated", "according", "to", "their", "distribution", "on", "the", "real", "Web", "-LSB-", "11", "-RSB-", ".", "Based", "on", "these", "benchmarks", ",", "the", "decision", "was", "made", "to", "install", "a", "100", "Mb/sec", "network", "connection", "to", "the", "Internet", "Archive", "and", "to", "load", "data", "at", "a", "sustained", "rate", "of", "250", "GB/day", ",", "beginning", "January", "2006", ".", "This", "rate", "will", "enable", "the", "library", "to", "acquire", "and", "mount", "online", "by", "the", "end", "of", "2007", "a", "complete", "crawl", "of", "the", "Web", "for", "each", "year", "since", "1996", ".", "This", "phase", "will", "require", "approximately", "240", "TB", "of", "disk", "storage", ".", "Note", "that", "the", "disk", "requirement", "differs", "from", "the", "estimates", "of", "raw", "data", "shown", "in", "Table", "1", ".", "The", "database", "with", "its", "indexes", "is", "less", "highly", "compressed", "than", "the", "raw", "data", ",", "but", "savings", "are", "made", "in", "the", "storage", "of", "duplicate", "data", ",", "both", "in", "the", "database", "and", "the", "Page", "Store", ".", "During", "fall", "2005", ",", "first", "generation", "software", "was", "written", "for", "-LRB-", "a", "-RRB-", "the", "data", "flow", "system", "that", "brings", "data", "to", "the", "library", ",", "and", "-LRB-", "b", "-RRB-", "the", "user", "API", "and", "tool", "sets", ".", "They", "are", "described", "in", "the", "next", "two", "sections", ".", "Figure", "2", "shows", "the", "flow", "of", "data", "into", "the", "library", ".", "When", "ARC", "and", "DAT", "files", "are", "received", "from", "the", "Internet", "Archive", ",", "the", "first", "step", "is", "to", "store", "them", "in", "the", "tape", "archive", ".", "The", "Preload", "system", "then", "unpacks", "the", "raw", "data", ",", "extracts", "metadata", ",", "and", "prepares", "batch", "files", "for", "loading", "into", "the", "database", "and", "Page", "Store", ".", "Figure", "2", ".", "Flow", "of", "data", "into", "the", "library", "Figure", "2", "does", "not", "show", "the", "data", "tracking", "system", ".", "This", "is", "a", "major", "subsystem", "that", "manages", "the", "data", "transfers", ",", "monitors", "all", "errors", ",", "and", "tracks", "the", "tens", "of", "millions", "of", "files", "within", "the", "library", ".", "4.1", "Networking", "Internet2", "is", "used", "to", "transfer", "data", "from", "the", "Internet", "Archive", "in", "San", "Francisco", ",", "California", "to", "Cornell", "University", "in", "Ithaca", ",", "New", "York", ".", "For", "this", "purpose", ",", "a", "100Mbit/sec", "link", "has", "been", "established", "from", "the", "Internet", "Archive", "to", "Internet2", ".", "Both", "Cornell", "and", "the", "Internet", "Archive", "have", "internal", "networks", "with", "1", "Gbit/sec", "or", "greater", "performance", ".", "In", "the", "future", ",", "the", "National", "LambdaRail", "and", "the", "TeraGrid", "are", "intriguing", "possibilities", ".", "These", "new", "networks", "have", "the", "capacity", "to", "go", "6", "These", "student", "reports", "are", "available", "at", "http://www.infosci.cornell.edu/SIN/WebLib/papers.html", ".", "User", "tools", "Preload", "system", "Database", "Page", "store", "Tape", "archive", "Internet", "2", "98", "beyond", "bulk", "data", "transfer", "and", "support", "genuine", "distributed", "processing", "between", "the", "Web", "library", "and", "the", "Internet", "Archive", ".", "For", "example", ",", "if", "large", "audio", "and", "video", "files", "are", "not", "stored", "online", ",", "an", "application", "could", "use", "the", "TeraGrid", "to", "retrieve", "individual", "large", "files", "from", "the", "Internet", "Archive", "on", "demand", ".", "At", "the", "end", "of", "December", "2005", ",", "a", "series", "of", "experiments", "were", "run", "to", "measure", "the", "sustained", "throughput", "of", "multi-threaded", "FTP", "transfers", "over", "Internet2", ",", "using", "Transport", "Layer", "Security", ".", "These", "measurements", "showed", "transfer", "rates", "of", "280", "GB", "per", "day", "before", "system", "tuning", ",", "or", "rather", "better", "than", "30", "percent", "of", "the", "theoretical", "maximum", "throughput", "of", "the", "link", "to", "the", "Internet", "Archive", ".", "This", "is", "sufficient", "for", "the", "planned", "rate", "of", "250", "GB", "per", "day", ".", "If", "greater", "bandwidth", "proves", "necessary", ",", "the", "link", "from", "the", "Internet", "Archive", "to", "Internet2", "can", "be", "upgraded", "to", "500", "Mbps", "inexpensively", ",", "while", "the", "Cornell", "Theory", "Center", "will", "soon", "have", "enormous", "bandwidth", "available", "via", "the", "TeraGrid", ".", "4.2", "Preload", "Subsystem", "The", "Preload", "subsystem", "takes", "incoming", "ARC", "and", "DAT", "files", ",", "uncompresses", "them", ",", "parses", "them", "to", "extract", "metadata", ",", "and", "generates", "two", "types", "of", "output", "files", ":", "metadata", "for", "loading", "into", "the", "database", "and", "the", "actual", "content", "of", "the", "Web", "pages", "to", "be", "stored", "in", "the", "Page", "Store", ".", "Metadata", "for", "loading", "into", "the", "database", "is", "output", "in", "the", "form", "of", "40", "GB", "text", "files", ",", "a", "separate", "file", "for", "every", "database", "table", ".", "To", "satisfy", "the", "speed", "and", "flexibility", "requirements", ",", "the", "Preload", "system", "is", "designed", "to", "run", "as", "a", "set", "of", "independent", "single-thread", "processes", ",", "avoiding", "all", "inter-process", "communication", "and", "locking", "over", "input", "or", "output", "data", ".", "Likewise", ",", "each", "process", "writes", "its", "own", "output", "files", ".", "This", "design", "allows", "for", "easy", "configuration", "of", "the", "system", "to", "run", "a", "required", "number", "of", "processes", "on", "a", "given", "number", "of", "processors", ",", "on", "one", "or", "more", "machines", ".", "To", "determine", "each", "process", "'s", "input", ",", "input", "files", "are", "partitioned", "by", "the", "first", "k", "bits", "of", "the", "MD5", "hash", "sum", "of", "the", "filename", ",", "where", "2k", "is", "the", "total", "number", "of", "processes", "in", "the", "system", ".", "The", "design", "of", "the", "subsystem", "does", "not", "require", "the", "corresponding", "ARC", "and", "DAT", "files", "to", "be", "processed", "together", ".", "A", "series", "of", "experiments", "were", "run", "to", "test", "the", "performance", "of", "the", "Preload", "system", ",", "using", "the", "metadata", "from", "the", "synthetic", "Web", "graph", ".", "The", "experiments", "used", "1", ",", "2", ",", "4", "and", "8", "processors", ",", "with", "the", "data", "partitioned", "into", "16", "parts", ",", "according", "to", "the", "first", "4", "bits", "of", "the", "hash", "sum", ".", "Separate", "experiments", "were", "made", "for", "ARC", "and", "DAT", "files", ".", "Figure", "3", "shows", "results", "for", "the", "ARC", "files", ".", "The", "x-axis", "shows", "the", "number", "of", "CPUs", "used", ",", "and", "the", "y-axis", "shows", "the", "throughput", "in", "KB/sec", ".", "The", "white", "bar", "shows", "throughput", "per", "processor", "and", "the", "shaded", "bar", "shows", "total", "throughput", ".", "Adding", "more", "processors", "slightly", "decreases", "the", "throughput", "per", "processor", "due", "to", "contention", "for", "random", "disk", "accesses", ".", "The", "total", "throughput", "increases", "steadily", "up", "to", "four", "processors", ".", "After", "that", ",", "disk", "contention", "becomes", "too", "high", ",", "and", "the", "throughput", "actually", "declines", ".", "The", "results", "for", "DAT", "files", "are", "similar", ",", "with", "the", "total", "throughput", "flattening", "after", "four", "processors", ".", "From", "these", "experiments", ",", "we", "conclude", "that", "four", "processors", "are", "optimal", ".", "The", "corresponding", "throughputs", "are", "73", "MB/sec", "-LRB-", "about", "6", "TB/day", "-RRB-", "for", "ARC", "files", ",", "and", "12", "MB/sec", "-LRB-", "about", "1", "TB/day", "-RRB-", "for", "DAT", "files", ".", "When", "metadata", "from", "the", "DAT", "files", "is", "uncompressed", "its", "size", "increases", "by", "a", "factor", "of", "about", "11:1", ".", "Fortunately", ",", "much", "of", "this", "data", "is", "duplicated", ".", "For", "example", ",", "a", "given", "URL", "may", "occur", "many", "times", "in", "a", "crawl", "and", "be", "replicated", "in", "many", "crawls", ".", "Therefore", "duplicate", "elimination", "has", "been", "a", "major", "consideration", "in", "refining", "the", "database", "design", ".", "Figure", "3", ".", "Performance", "of", "Preload", "system", "-LRB-", "ARC", "files", "-RRB-", "Note", "that", "during", "the", "above", "experiments", "no", "other", "processes", "were", "running", "on", "the", "system", ".", "The", "overall", "performance", "will", "be", "lower", "when", "the", "Preload", "system", "is", "run", "in", "production", "mode", "at", "the", "same", "time", "as", "other", "subsystems", ".", "Also", ",", "during", "the", "preliminary", "phase", ",", "only", "text", "and", "HTML", "files", "were", "fully", "analyzed", "to", "extract", "links", "and", "anchor", "text", ".", "Processing", "of", "other", "file", "formats", "will", "be", "added", "in", "the", "future", ".", "Some", "of", "these", "formats", "will", "be", "computationally", "intensive", ",", "e.g.", ",", "PDF", "files", ".", "4.3", "Database", "Design", "The", "relational", "database", "uses", "Microsoft", "SQL", "Server", "2000", ".", "Three", "important", "goals", "when", "designing", "the", "database", "schema", "and", "deciding", "how", "to", "load", "the", "data", "to", "the", "database", "were", ":", "-LRB-", "a", "-RRB-", "minimize", "the", "storage", "requirements", ",", "-LRB-", "b", "-RRB-", "maximize", "the", "load", "throughput", ",", "and", "-LRB-", "c", "-RRB-", "support", "efficient", "logging", ",", "backup", ",", "and", "restore", ".", "Conceptually", ",", "for", "each", "crawl", ",", "the", "database", "stores", "metadata", "about", "each", "page", "-LRB-", "e.g.", ",", "information", "about", "the", "content", "of", "the", "page", ",", "URL", "of", "the", "page", "-RRB-", "and", "about", "the", "links", "between", "them", "-LRB-", "including", "anchor", "text", "and", "text", "surrounding", "the", "anchor", "text", "-RRB-", ".", "However", ",", "to", "avoid", "storing", "redundant", "data", ",", "the", "schema", "is", "denormalized", ".", "The", "denormalized", "schema", "is", "shown", "below", "in", "Figure", "4", ".", "Information", "about", "URL", "and", "domain", "names", "is", "stored", "in", "a", "look-up", "table", ",", "since", "the", "same", "URLs", "and", "domain", "names", "appear", "many", "times", "in", "a", "single", "crawl", "and", "across", "crawls", ".", "For", "similar", "reasons", ",", "anchor", "text", ",", "text", "surrounding", "the", "anchor", "text", ",", "and", "information", "about", "page", "content", "are", "stored", "in", "the", "look-up", "tables", "Dictionary", "and", "Page", "Content", "respectively", ",", "as", "shown", "in", "the", "schema", "in", "Figure", "4", ".", "To", "make", "the", "loading", "of", "the", "data", "faster", ",", "separate", "tables", "for", "each", "of", "Page", ",", "Page", "Content", "and", "Link", "are", "created", "for", "each", "crawl", "while", "the", "other", "tables", "-LRB-", "e.g.", ",", "the", "URL", "table", "-RRB-", "are", "shared", "among", "crawls", ".", "80", "70", "60", "50", "40", "30", "20", "10", "Throughput", "-LRB-", "MB/s", "-RRB-", "1", "2", "4", "8", "Number", "of", "CPUs", "99", "Figure", "4", ".", "Database", "design", ":", "the", "de-normalized", "schema", "The", "Preload", "subsystem", "outputs", "separate", "files", "conforming", "to", "the", "schema", "described", "above", "and", "these", "files", "are", "bulk", "loaded", "into", "the", "database", ".", "There", "are", "many", "parameters", "that", "affect", "the", "bulk", "load", "performance", ".", "These", "parameters", "include", ":", "batch", "size", ",", "file", "size", ",", "degree", "of", "parallelism", ",", "and", "interaction", "with", "the", "logging", ",", "backup", "and", "recovery", "system", ".", "The", "synthetic", "Web", "data", "was", "used", "to", "understand", "how", "these", "parameters", "affect", "the", "loading", "performance", "and", "to", "tune", "them", ".", "The", "first", "sets", "of", "experiments", "were", "used", "to", "determine", "the", "optimal", "file", "size", "for", "bulk", "loading", "and", "the", "number", "of", "CPUs", "used", ".", "In", "these", "experiments", ",", "default", ",", "recovery", "and", "backup", "mechanisms", "were", "used", "-LSB-", "6", "-RSB-", ".", "The", "results", "of", "the", "first", "set", "of", "experiments", "indicate", "that", "it", "is", "optimal", "to", "load", "each", "file", "as", "a", "single", "batch", ";", "a", "file", "size", "of", "40", "GB", "and", "4", "CPUs", "gave", "the", "best", "performance", ",", "and", "around", "800", "GB", "could", "be", "loaded", "in", "one", "day", ".", "However", ",", "the", "experiments", "to", "determine", "the", "file", "size", "and", "degree", "of", "parallelism", "showed", "significant", "variability", ".", "Using", "the", "default", "logging", "provided", "by", "MS", "SQL", "Server", "2000", ",", "checkpointing", "and", "nightly", "backups", "were", "consuming", "enormous", "resources", ".", "They", "interfered", "with", "the", "bulk", "loading", "process", "and", "are", "a", "probable", "cause", "of", "the", "variance", "seen", "in", "the", "performance", "benchmarks", ".", "Two", "observations", "were", "made", "to", "overcome", "the", "performance", "penalty", ".", "First", ",", "data", "is", "append-only", "while", "being", "bulk", "loaded", "and", "is", "read-only", "after", "the", "bulk", "load", "is", "complete", ";", "logging", ",", "recovery", "and", "backup", "mechanisms", "can", "be", "customized", "to", "increase", "the", "performance", "and", "decrease", "the", "variance", "in", "loading", "times", ".", "Second", ",", "tables", "in", "the", "schema", "can", "reside", "on", "different", "disks", "and", "thus", "can", "be", "written", "in", "parallel", ".", "Following", "these", "two", "observations", ",", "in", "the", "current", "design", "each", "table", "can", "be", "put", "onto", "a", "separate", "disk", "as", "shown", "in", "Figure", "5", ".", "Moreover", ",", "Page", ",", "Page", "Content", "and", "Links", "information", "for", "each", "crawl", "are", "put", "into", "separate", "files", ".", "This", "partitioning", "according", "to", "crawls", "is", "easy", "in", "MS", "SQL", "Server", "as", "separate", "tables", "for", "each", "of", "Page", ",", "Page", "Content", "and", "Link", "are", "created", "for", "each", "crawl", ".", "The", "database", "load", "subsystem", "is", "divided", "into", "two", "programs", ":", "a", "high-level", "program", "that", "organizes", "the", "processes", "and", "a", "low", "level", "program", "that", "runs", "separate", "loads", "in", "parallel", ".", "The", "workflow", "for", "loading", "each", "table", "in", "each", "crawl", "consists", "of", "five", "major", "steps", ":", "-LRB-", "a", "-RRB-", "Get", "the", "files", "produced", "by", "the", "Preload", "subsystem", "for", "the", "current", "table", "in", "the", "current", "crawl", "and", "write", "the", "relevant", "log", "information", "to", "an", "administrative", "database", ";", "commit", "the", "transaction", "writing", "the", "log", "information", ".", "-LRB-", "b", "-RRB-", "Write", "files", "of", "the", "table", "to", "the", "disk", "corresponding", "to", "the", "current", "table", "via", "the", "low", "level", "program", ";", "files", "corresponding", "to", "different", "tables", "can", "be", "written", "in", "parallel", ".", "-LRB-", "c", "-RRB-", "Create", "the", "necessary", "indexes", ".", "-LRB-", "d", "-RRB-", "Back-up", "the", "newly", "written", "data", ".", "-LRB-", "e", "-RRB-", "Write", "to", "the", "log", "the", "relevant", "information", "to", "indicate", "that", "processing", "of", "the", "files", "for", "the", "current", "table", "in", "the", "current", "crawl", "is", "complete", "and", "commit", "the", "transaction", "writing", "the", "log", "information", ".", "In", "MS", "SQL", "Server", "2000", ",", "backups", "and", "index", "creation", "are", "all", "atomic", ".", "Figure", "5", ".", "Database", "design", ":", "organization", "of", "file", "system", "This", "new", "design", "is", "being", "implemented", "and", "tested", ",", "as", "of", "January", "2006", ".", "First", "indications", "are", "that", "the", "performance", "will", "comfortably", "meet", "the", "required", "performance", "goals", ".", "Extensive", "benchmarking", "is", "required", "to", "tune", "many", "parameters", ",", "such", "as", "batch", "size", ",", "file", "size", ",", "degree", "of", "parallelism", ",", "and", "the", "index", "management", ".", "4.4", "Archiving", "Archiving", "and", "back-up", "are", "expensive", "operations", "with", "complex", "trade-offs", ".", "Without", "care", ",", "the", "networking", "bandwidth", "and", "disk", "throughput", "used", "in", "logging", ",", "back-up", ",", "and", "writing", "to", "the", "tape", "library", "could", "have", "a", "major", "impact", "on", "the", "system", "throughput", ".", "As", "described", "above", ",", "the", "database", "design", "allows", "the", "database", "files", "to", "be", "backed", "up", "incrementally", ".", "This", "provides", "two", "options", "for", "restoring", "the", "database", ",", "by", "reprocessing", "the", "raw", "data", "or", "from", "the", "back-up", ".", "The", "Page", "Store", "is", "not", "backed-up", ".", "If", "parts", "of", "it", "were", "ever", "corrupted", ",", "they", "would", "have", "to", "be", "restored", "by", "reprocessing", "the", "raw", "data", ".", "A", "current", "design", "project", "is", "to", "reorganize", "the", "Page", "Store", "to", "permit", "efficient", "restoration", ".", "The", "library", "uses", "a", "robotic", "tape", "library", "with", "LTO3", "tape", "drives", ".", "This", "is", "shared", "with", "other", "systems", "at", "the", "center", ".", "All", "unprocessed", "ARC", "and", "DAT", "files", "are", "copied", "to", "the", "tape", "library", "to", "be", "stored", "indefinitely", ".", "This", "preserves", "another", "copy", "of", "the", "Internet", "Archive", "'s", "data", "for", "the", "long-term", ".", "This", "data", "is", "unique", "and", "could", "never", "be", "replaced", ".", "The", "industry", "standard", "life", "of", "these", "tapes", "is", "thirty", "years", "but", "our", "expectation", "is", "that", "six", "years", "is", "a", "more", "probable", "time", "before", "the", "tape", "library", "is", "replaced", "and", "all", "the", "data", "will", "have", "to", "be", "copied", "onto", "fresh", "media", ".", "Figure", "6", "shows", "the", "architecture", "of", "the", "interface", "that", "the", "library", "offers", "to", "users", ".", "This", "is", "a", "three-tier", "architecture", ".", "The", "data", "tier", "consists", "of", "the", "relational", "database", "of", "metadata", "and", "the", "Page", "Store", ";", "the", "middleware", "tier", "provides", "services", "to", "access", "the", "data", ",", "tools", "to", "analyze", "it", ",", "and", "a", "choice", "of", "Web", "Services", "APIs", ";", "clients", "interact", "with", "the", "middleware", "tools", "either", "through", "the", "APIs", ",", "or", "directly", ".", "5.1", "Clients", "The", "user", "tools", "system", "was", "designed", "to", "be", "extensible", "and", "scalable", ".", "Specifically", ",", "it", "supports", "two", "categories", "of", "users", ":", "-LRB-", "a", "-RRB-", "users", "who", "analyze", "the", "data", "remotely", "from", "their", "own", "computers", ",", "perhaps", "at", "another", "institution", "or", "even", "in", "another", "country", ",", "and", "-LRB-", "b", "-RRB-", "Page", "Page", "Content", "Link", "-", "Destination", "URL", "URL", "Path", "Dictionary", "Domain", "Page", "Link", "Page", "Content", "Custom", "Log", "Everything", "Else", "100", "computationally", "intensive", "users", ",", "who", "may", "wish", "to", "run", "very", "heavy", "analyses", "of", "the", "data", "using", "the", "Cornell", "Theory", "Center", "computing", "environment", ".", "Corresponding", "to", "these", "two", "categories", "of", "users", "the", "architecture", "supports", "two", "types", "of", "clients", ":", "Web", "services", "clients", "and", "clients", "that", "execute", "their", "own", "programs", "on", "the", "library", "'s", "servers", ".", "The", "first", "category", "requires", "little", "technical", "sophistication", "from", "the", "user", ",", "while", "the", "second", "category", "trades", "complexity", "against", "the", "flexibility", "of", "being", "able", "to", "write", "custom", "programs", "and", "to", "use", "the", "full", "processing", "power", "available", ".", "Figure", "6", ".", "Architecture", "of", "the", "interfaces", "provided", "for", "users", "of", "the", "library", "Web", "services", "clients", "are", "intended", "to", "be", "used", "remotely", ",", "with", "moderate", "demands", "on", "their", "access", "to", "the", "data", ".", "Examples", "of", "these", "clients", "include", "running", "queries", "using", "a", "full", "text", "index", ",", "or", "fetching", "specific", "pages", "using", "existing", "indexes", ".", "Web", "service", "clients", "may", "also", "be", "used", "to", "start", ",", "control", ",", "and", "retrieve", "results", "from", "experiments", "run", "by", "high-performance", "clients", ".", "Web", "services", "are", "implemented", "by", "using", "Microsoft", "'s", "ATL", "server", "libraries", ".", "They", "run", "on", "a", "dedicated", "Web", "server", ".", "The", "clients", "themselves", "can", "be", "implemented", "in", "any", "language", "or", "environment", "that", "supports", "Web", "services", "standards", ".", "Users", "of", "these", "clients", "do", "not", "need", "to", "know", "how", "the", "data", "is", "stored", ".", "They", "are", "provided", "with", "forms", "that", "are", "automatically", "converted", "to", "SQL", "commands", "by", "the", "middleware", ".", "The", "high-performance", "clients", "will", "for", "the", "most", "part", "run", "within", "the", "Cornell", "Theory", "Center", ".", "They", "will", "usually", "have", "a", "high", "bandwidth", "connection", "to", "the", "database", ".", "Clients", "of", "this", "form", "may", "carry", "out", "research", "that", "need", "lots", "of", "computation", "power", ",", "e.g.", ",", "experiments", "that", "process", "very", "large", "subsets", "or", "analyze", "how", "the", "structure", "of", "the", "Web", "changes", "over", "time", ".", "These", "clients", "are", "implemented", "by", "linking", "against", "dynamic", "link", "libraries", "-LRB-", "DLLs", "-RRB-", "provided", "by", "the", "application", "server", "tier", ".", "5.2", "Access", "to", "the", "Database", "The", "application", "server", "tier", "accesses", "the", "database", "using", "Microsoft", "database", "tools", ".", "Two", "main", "areas", "of", "functionality", "have", "been", "implemented", "in", "this", "tier", ":", "Basic", "Access", "Services", "-LRB-", "BAS", "-RRB-", ",", "and", "the", "Subset", "Extraction", "Services", "-LRB-", "SES", "-RRB-", ".", "Each", "consists", "of", "two", "parts", ":", "a", "set", "of", "services", ",", "implemented", "as", "a", "series", "of", "dynamic", "link", "libraries", "-LRB-", "DLLs", "-RRB-", "written", "in", "C++", ",", "and", "a", "Web", "Services", "API", ".", "Basic", "Access", "Services", "are", "for", "clients", "that", "interact", "directly", "with", "the", "database", ".", "They", "allow", "a", "client", "to", "fetch", "pages", "given", "a", "combination", "of", "URL", "and", "date", "of", "crawl", ".", "They", "also", "allow", "a", "client", "to", "check", "within", "which", "crawls", "a", "given", "page", "is", "available", ".", "For", "example", ",", "a", "focused", "Web", "crawler", "can", "retrieve", "pages", "from", "a", "specified", "crawl", ",", "using", "a", "simple", "client", "script", "that", "interfaces", "to", "the", "BAS", "Web", "services", "API", ".", "Subset", "Extraction", "Services", "allow", "a", "client", "to", "select", "a", "part", "of", "the", "data", "as", "a", "subset", ".", "Once", "created", ",", "this", "subset", "is", "stored", "in", "the", "database", "as", "a", "view", ".", "Such", "subsets", "are", "useful", "for", "running", "experiments", "over", "a", "smaller", ",", "perhaps", "random", ",", "sample", "of", "the", "Web", ",", "as", "well", "as", "selecting", "relevant", "pages", "for", "a", "particular", "experiments", ",", "such", "as", "those", "from", "a", "given", "domain", ".", "For", "example", ",", "a", "researcher", "studying", "government", "Web", "sites", "might", "extract", "textual", "pages", "from", "the", ".", "gov", "domain", "for", "a", "selected", "range", "of", "dates", ".", "5.2.1", "Users", "Beyond", "Cornell", "This", "digital", "library", "is", "intended", "for", "the", "use", "of", "all", "academic", "researchers", ",", "not", "only", "those", "based", "at", "Cornell", ".", "Technically", ",", "this", "is", "straightforward", ".", "The", "library", "is", "connected", "to", "the", "Internet", ",", "including", "Internet2", ",", "and", "will", "soon", "be", "available", "via", "the", "TeraGrid", ".", "We", "are", "currently", "developing", "a", "code", "of", "use", "policies", "for", "researchers", ".", "Mining", "this", "data", "has", "potential", "for", "abuses", "of", "privacy", ".", "Cornell", "researchers", "need", "to", "follow", "the", "university", "'s", "procedures", "for", "such", "research", "and", "we", "need", "to", "find", "convenient", "ways", "to", "extend", "the", "code", "of", "practice", "to", "all", "users", "of", "the", "library", ".", "5.3", "User", "Tools", "5.3.1", "The", "Retro", "Browser", "The", "Retro", "Browser", "is", "an", "example", "of", "a", "Web", "services", "client", "that", "is", "already", "implemented", "and", "running", "in", "a", "test", "environment", "-LSB-", "12", "-RSB-", ".", "To", "a", "user", ",", "it", "appears", "to", "be", "a", "regular", "Web", "browser", ",", "except", "that", "it", "browses", "an", "historical", "snapshot", "of", "the", "Web", ".", "The", "Retro", "Browser", "is", "designed", "with", "the", "non-technical", "user", "in", "mind", ".", "The", "design", "assumes", "that", "the", "user", "may", "not", "be", "technically", "proficient", "and", "should", "not", "be", "expected", "to", "install", "new", "software", "or", "run", "special", "scripts", ".", "After", "the", "user", "has", "made", "an", "initial", "choice", "of", "a", "date", "in", "Web", "history", ",", "the", "Retro", "Bowser", "behaves", "like", "any", "other", "Web", "browser", ".", "The", "user", "uses", "a", "standard", "browser", "to", "carry", "out", "all", "the", "standard", "Web", "tasks", ",", "such", "as", "download", "an", "applet", ",", "run", "a", "script", ",", "submit", "a", "forms", ",", "etc.", ".", "The", "only", "difference", "is", "that", "every", "URL", "is", "resolved", "to", "the", "record", "in", "the", "Web", "library", "for", "the", "specified", "date", ".", "The", "major", "component", "of", "the", "Retro", "Browser", "is", "a", "Web", "server", "configured", "to", "be", "used", "as", "a", "proxy", "server", ".", "To", "obtain", "the", "data", "from", "the", "database", ",", "the", "proxy", "server", "utilizes", "the", "Basic", "Access", "Web", "Service", "API", ".", "The", "Retro", "Browser", "client", "interacts", "with", "the", "Retro", "Browser", "proxy", "in", "a", "standard", "HTTP", "client-server", "fashion", ".", "To", "fetch", "the", "appropriate", "page", "from", "the", "database", "requires", "a", "URL", "and", "the", "date", "of", "the", "crawl", ",", "which", "is", "represented", "by", "a", "crawl", "ID", ".", "The", "proxy", "server", "expects", "a", "session", "cookie", "specifying", "a", "crawl", "ID", "with", "every", "request", ".", "If", "such", "a", "cookie", "is", "not", "found", "with", "the", "request", ",", "the", "user", "is", "asked", "to", "specify", "the", "crawl", "ID", ".", "Further", "requests", "may", "or", "may", "not", "contain", "a", "cookie", "since", "cookies", "are", "tied", "to", "a", "domain", ".", "However", ",", "the", "Retro", "Browser", "proxy", "ensures", "that", "the", "cookie", "is", "replicated", "for", "all", "domains", "using", "a", "series", "of", "redirects", ".", "In", "this", "manner", ",", "the", "architecture", "ensures", "that", "the", "user", "is", "asked", "to", "specify", "the", "crawl", "date", "for", "the", "first", "request", "only", ".", "5.3.2", "Analysis", "of", "the", "Web", "Graph", "A", "set", "of", "analysis", "tools", "is", "under", "development", "that", "will", "provide", "more", "complex", "access", "and", "analysis", "functions", ".", "These", "tools", "are", "part", "of", "the", "application", "server", "tier", ".", "They", "are", "applied", "to", "subsets", "of", "the", "data", "and", "accessed", "either", "directly", "or", "through", "the", "Subset", "Extraction", "Services", "API", ".", "Data", "Tier", "Application", "Server", "Tier", "Client", "Tier", "Page", "Store", "Metadata", "Basic", "Access", "Services", "Subset", "Extraction", "Services", "BAS", "Web", "Service", "SES", "Web", "Service", "Clients", "High", "Performance", "Clients", "Retro-Browser", "101", "One", "group", "of", "tools", "operates", "on", "the", "Web", "graph", "of", "a", "subset", ".", "Hyperlinks", "from", "each", "Web", "page", "are", "stored", "in", "the", "database", ".", "Representation", "of", "the", "graph", "is", "by", "its", "adjacency", "matrix", "using", "a", "compressed", "sparse", "row", "representation", ".", "Preliminary", "software", "has", "been", "written", "to", "read", "all", "the", "links", "from", "a", "given", "subset", "of", "the", "data", "and", "construct", "the", "adjacency", "matrix", ".", "The", "matrix", "is", "then", "stored", "in", "the", "file", "system", "in", "a", "compressed", "form", ",", "which", "allows", "performing", "the", "basic", "operations", ",", "such", "as", "matrix", "addition", "and", "multiplication", ".", "The", "Cuthill-McKee", "algorithm", "is", "used", "to", "reorder", "the", "nodes", "to", "create", "dense", "blocks", "within", "the", "matrix", "to", "increase", "the", "compression", "ratio", "and", "allow", "in-memory", "processing", "-LSB-", "8", "-RSB-", ".", "5.3.3", "Full", "Text", "Indexes", "Full", "text", "indexes", "are", "a", "vital", "tool", "for", "many", "researchers", ".", "For", "instance", "a", "social", "science", "researcher", "may", "wish", "to", "track", "the", "Web", "pages", "that", "refer", "to", "a", "named", "individual", "or", "may", "identify", "trends", "by", "burst", "analysis", "of", "terms", "used", "on", "the", "Web", ".", "Our", "initial", "approach", "is", "to", "provide", "an", "indexing", "service", "for", "data", "subsets", ",", "using", "the", "Nutch", "search", "engine", ".", "It", "is", "straightforward", "to", "extract", "a", "subset", ",", "which", "is", "represented", "by", "a", "database", "view", ",", "and", "create", "a", "full", "text", "index", "of", "all", "textual", "pages", "in", "the", "subset", ".", "The", "only", "problem", "is", "the", "processing", "necessary", "to", "index", "a", "very", "large", "subset", ".", "We", "are", "in", "discussions", "with", "Cutting", ",", "the", "principal", "developer", "of", "the", "Lucene", "and", "Nutch", "search", "engines", "7", ".", "He", "has", "been", "working", "with", "the", "Internet", "Archive", "to", "build", "indexes", "of", "very", "large", "collections", "of", "Web", "pages", "in", "ARC", "format", ".", "For", "this", "purpose", ",", "they", "are", "developing", "a", "modified", "version", "of", "Nutch", ",", "known", "as", "Nutch", "WAX", "-LRB-", "Web", "Archive", "eXtensions", "-RRB-", ".", "Rather", "than", "duplicate", "this", "effort", ",", "we", "are", "exploring", "the", "possibility", "of", "providing", "access", "to", "these", "indexes", "through", "the", "Basic", "Access", "Service", ".", "We", "wish", "to", "thank", "Brewster", "Kahle", ",", "Tracey", "Jaquith", ",", "John", "Berry", "and", "their", "colleagues", "at", "the", "Internet", "Archive", "for", "their", "support", "of", "this", "work", ".", "The", "following", "Cornell", "students", "have", "contributed", "to", "the", "development", "of", "the", "library", "described", "in", "this", "paper", ":", "Mayank", "Gandhi", ",", "Nicholas", "Gerner", ",", "Min-Daou", "Gu", ",", "Wei", "Guo", ",", "Parul", "Jain", ",", "Karthik", "Jeyabalan", ",", "Jerrin", "Kallukalam", ",", "Serena", "Kohli", ",", "Ari", "Rabkin", ",", "Patrick", "Colin", "Reilly", ",", "Lipi", "Sanghi", ",", "Shantanu", "Shah", ",", "Dmitriy", "Shtokman", ",", "Chris", "Sosa", ",", "Samuel", "Benzaquen", "Stern", ",", "Jimmy", "Yanbo", "Sun", ",", "Harsh", "Tiwari", ",", "Nurwati", "Widodo", ",", "Yu", "Richard", "Wang", ".", "This", "work", "has", "been", "funded", "in", "part", "by", "the", "National", "Science", "Foundation", ",", "grants", "CNS-0403340", ",", "DUE-0127308", ",", "and", "SES-0537606", ",", "with", "equipment", "support", "from", "Unisys", "and", "by", "an", "E-Science", "grant", "and", "a", "gift", "from", "Microsoft", "Corporation", ".", "7", "The", "Lucene", "search", "engine", "is", "described", "at", "http://lucene.apache.org/", ".", "Nutch", "is", "described", "at", "http://lucene.apache.org/nutch/", ".", "-LSB-", "1", "-RSB-", "Arms", ",", "W.", ",", "Aya", ",", "S.", ",", "Dmitriev", ",", "P.", ",", "Kot", ",", "B.", ",", "Mitchell", ",", "R.", ",", "Walle", ",", "L.", ",", "A", "Research", "Library", "for", "the", "Web", "based", "on", "the", "Historical", "Collections", "of", "the", "Internet", "Archive", ".", "D-Lib", "Magazine", ".", "February", "2006", ".", "http://www.dlib.org/dlib/february06/arms/02arms.html", "-LSB-", "2", "-RSB-", "Bergmark", ",", "D.", ",", "Collection", "synthesis", ".", "ACM/IEEE-CS", "Joint", "Conference", "on", "Digital", "Libraries", ",", "2002", ".", "-LSB-", "3", "-RSB-", "Brin", ",", "S.", ",", "and", "Page", ".", "L.", ",", "The", "anatomy", "of", "a", "large-scale", "hypertextual", "Web", "search", "engine", ".", "Seventh", "International", "World", "Wide", "Web", "Conference", ".", "Brisbane", ",", "Australia", ",", "1998", ".", "-LSB-", "4", "-RSB-", "Burner", ",", "M.", ",", "and", "Kahle", ",", "B.", ",", "Internet", "Archive", "ARC", "File", "Format", ",", "1996", ".", "http://archive.org/web/researcher/ArcFileFormat.php", "-LSB-", "5", "-RSB-", "Chakrabarti", ",", "D.", ",", "Zhan", ",", "Y.", ",", "and", "Faloutsos", ",", "C.", ",", "R-MAT", ":", "recursive", "model", "for", "graph", "mining", ".", "SIAM", "International", "Conference", "on", "Data", "Mining", ",", "2004", ".", "-LSB-", "6", "-RSB-", "Gerner", ",", "N.", ",", "Sosa", ",", "C.", ",", "Fall", "2005", "Semester", "Report", "for", "Web", "Lab", "Database", "Load", "Group", ".", "M.Eng", ".", "report", ",", "Computer", "Science", "Department", ",", "Cornell", "University", ",", "2005", ".", "http://www.infosci.cornell.edu/SIN/WebLib/papers/Gerner200", "5.doc", ".", "-LSB-", "7", "-RSB-", "Ghemawat", ",", "S.", ",", "Gobioff", ",", "H.", "and", "Leung", ",", "S.", ",", "The", "Google", "File", "System", ".", "19th", "ACM", "Symposium", "on", "Operating", "Systems", "Principles", ",", "October", "2003", ".", "-LSB-", "8", "-RSB-", "Jeyabalan", ",", "K.", ",", "Kallukalam", ",", "J.", ",", "Representation", "of", "Web", "Graph", "for", "in", "Memory", "Computation", ".", "M.Eng", ".", "report", ",", "Computer", "Science", "Department", ",", "Cornell", "University", ",", "2005", ".", "http://www.infosci.cornell.edu/SIN/WebLib/papers/Jeyabalan", "Kallukalam2005.doc", ".", "-LSB-", "9", "-RSB-", "J.", "Kleinberg", ".", "Authoritative", "sources", "in", "a", "hyperlinked", "environment", ".", "Ninth", "ACM-SIAM", "Symposium", "on", "Discrete", "Algorithms", ",", "1998", ".", "-LSB-", "10", "-RSB-", "Mitchell", ",", "S.", ",", "Mooney", ",", "M.", ",", "Mason", ",", "J.", ",", "Paynter", ",", "G.", ",", "Ruscheinski", ",", "J.", ",", "Kedzierski", ",", "A.", ",", "Humphreys", ",", "K.", ",", "iVia", "Open", "Source", "Virtual", "Library", "System", ".", "D-Lib", "Magazine", ",", "9", "-LRB-", "1", "-RRB-", ",", "January", "2003", ".", "http://www.dlib.org/dlib/january03/mitchell/01mitchell.html", "-LSB-", "11", "-RSB-", "Shah", ",", "S.", ",", "Generating", "a", "web", "graph", ".", "M.Eng", ".", "report", ",", "Computer", "Science", "Department", ",", "Cornell", "University", ",", "2005", ".", "http://www.infosci.cornell.edu/SIN/WebLib/papers/Shah2005a", ".", "doc", ".", "-LSB-", "12", "-RSB-", "Shah", ",", "S.", ",", "Retro", "Browser", ".", "M.Eng", ".", "report", ",", "Computer", "Science", "Department", ",", "Cornell", "University", ",", "2005", ".", "http://www.infosci.cornell.edu/SIN/WebLib/papers/Shah2005b", ".", "pdf", ".", "102" ]

[ "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Hourly", "Analysis", "of", "a", "Very", "Large", "Topically", "Categorized", "Web", "Query", "Log", "We", "review", "a", "query", "log", "of", "hundreds", "of", "millions", "of", "queries", "that", "constitute", "the", "total", "query", "traffic", "for", "an", "entire", "week", "of", "a", "general-purpose", "commercial", "web", "search", "service", ".", "Previously", ",", "query", "logs", "have", "been", "studied", "from", "a", "single", ",", "cumulative", "view", ".", "In", "contrast", ",", "our", "analysis", "shows", "changes", "in", "popularity", "and", "uniqueness", "of", "topically", "categorized", "queries", "across", "the", "hours", "of", "the", "day", ".", "We", "examine", "query", "traffic", "on", "an", "hourly", "basis", "by", "matching", "it", "against", "lists", "of", "queries", "that", "have", "been", "topically", "pre-categorized", "by", "human", "editors", ".", "This", "represents", "13", "%", "of", "the", "query", "traffic", ".", "We", "show", "that", "query", "traffic", "from", "particular", "topical", "categories", "differs", "both", "from", "the", "query", "stream", "as", "a", "whole", "and", "from", "other", "categories", ".", "This", "analysis", "provides", "valuable", "insight", "for", "improving", "retrieval", "effectiveness", "and", "efficiency", ".", "It", "is", "also", "relevant", "to", "the", "development", "of", "enhanced", "query", "disambiguation", ",", "routing", ",", "and", "caching", "algorithms", ".", ":", "H.", "3.5", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Online", "Information", "Services", "Web-based", "services", ":", "Measurement", ",", "Human", "Factors", ".", "Understanding", "how", "queries", "change", "over", "time", "is", "critical", "to", "developing", "effective", ",", "efficient", "search", "services", ".", "We", "are", "unaware", "of", "any", "log", "analysis", "that", "studies", "differences", "in", "the", "query", "stream", "over", "the", "hours", "in", "a", "day", ";", "much", "less", "how", "those", "differences", "are", "manifested", "within", "topical", "categories", ".", "We", "focus", "on", "Circadian", "changes", "in", "popularity", "and", "uniqueness", "of", "topical", "categories", ".", "Emphasis", "on", "changing", "query", "stream", "characteristics", "over", "this", "longitudinal", "-LRB-", "time", "-RRB-", "aspect", "of", "query", "logs", "distinguishes", "this", "work", "from", "prior", "static", "log", "analysis", ",", "surveyed", "in", "-LSB-", "7", "-RSB-", ".", "We", "began", "with", "the", "hypothesis", "that", "there", "are", "very", "different", "characteristics", "during", "peak", "hours", "and", "off-peak", "hours", "during", "a", "day", ".", "After", "reviewing", "a", "week", "'s", "worth", "of", "data", "hundreds", "of", "millions", "of", "queries", "-", "we", "have", "found", ",", "not", "surprisingly", ",", "that", ":", "The", "number", "of", "queries", "issued", "is", "substantially", "lower", "during", "non-peak", "hours", "than", "peak", "hours", ".", "However", ",", "we", "knew", "little", "about", "how", "often", "queries", "are", "repeated", "from", "one", "hour", "of", "the", "day", "to", "the", "next", ".", "After", "examining", "the", "behavior", "of", "millions", "of", "queries", "from", "one", "hour", "of", "the", "day", "to", "the", "next", "we", "have", "found", "the", "less", "obvious", "result", ":", "The", "average", "number", "of", "query", "repetitions", "in", "an", "hour", "does", "not", "change", "significantly", "on", "an", "hourly", "basis", "throughout", "the", "day", ".", "Most", "queries", "appear", "no", "more", "than", "several", "times", "per", "hour", ".", "These", "queries", "consistently", "account", "for", "a", "large", "portion", "of", "total", "query", "volume", "throughout", "the", "course", "of", "the", "day", ".", "The", "queries", "received", "during", "peak", "hours", "are", "more", "similar", "to", "each", "other", "than", "their", "non-peak", "hour", "counterparts", ".", "We", "also", "analyze", "the", "queries", "representing", "different", "topics", "using", "a", "topical", "categorization", "of", "our", "query", "stream", ".", "These", "cover", "approximately", "13", "%", "of", "the", "total", "query", "volume", ".", "We", "hypothesized", "that", "traffic", "behavior", "for", "some", "categories", "would", "change", "over", "time", "and", "that", "others", "would", "remain", "stable", ".", "For", "16", "different", "categories", ",", "we", "examined", "their", "traffic", "characteristics", ":", "Some", "topical", "categories", "vary", "substantially", "more", "in", "popularity", "than", "others", "as", "we", "move", "through", "an", "average", "day", ".", "Some", "topics", "are", "more", "popular", "during", "particular", "times", "of", "the", "day", ",", "while", "others", "have", "a", "more", "constant", "level", "of", "interest", "over", "time", ".", "The", "query", "sets", "for", "different", "categories", "have", "differing", "similarity", "over", "time", ".", "The", "level", "of", "similarity", "between", "the", "actual", "query", "sets", "received", "within", "topical", "categories", "varies", "differently", "according", "to", "category", ".", "This", "leads", "us", "to", "believe", "that", "predictive", "algorithms", "that", "are", "able", "to", "estimate", "the", "likelihood", "of", "a", "query", "being", "repeated", "may", "well", "be", "possible", ".", "This", "could", "have", "a", "significant", "impact", "on", "future", "cache", "management", "and", "load-balancing", "algorithms", ".", "Such", "algorithms", "could", "improve", "retrieval", "effectiveness", "by", "assisting", "in", "query", "disambiguation", ",", "making", "it", "easier", "to", "determine", "what", "information", "need", "is", "being", "expressed", "by", "a", "query", "at", "a", "given", "time", ".", "They", "could", "also", "assist", "research", "in", "search", "efficiency", "that", "takes", "into", "account", "query", "arrival-rate", "s", "-LSB-", "3", "-RSB-", ".", "Our", "analysis", "covers", "the", "entirety", "of", "the", "tens", "of", "millions", "of", "queries", "each", "day", "in", "the", "search", "log", "from", "America", "Online", "over", "a", "complete", "week", "in", "December", ".", "This", "represents", "a", "population", "of", "tens", "of", "millions", "of", "users", "searching", "for", "a", "wide", "variety", "of", "topics", ".", "Section", "2", "reviews", "the", "prior", "work", "in", "query", "log", "analysis", ".", "Section", "3", "describes", "our", "analysis", "of", "overall", "query", "traffic", ".", "Section", "4", "describes", "our", "analysis", "of", "trends", "in", "categorized", "queries", ".", "Finally", ",", "in", "Section", "5", "we", "present", "our", "conclusions", "and", "directions", "for", "future", "work", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGIR", "'", "04", ",", "July", "25", "29", ",", "2004", ",", "Sheffield", ",", "South", "Yorkshire", ",", "UK", ".", "Copyright", "2004", "ACM", "1-58113-881-4", "/", "04/0007", "...", "$", "5.00", ".", "321", "Examinations", "of", "search", "engine", "evaluation", "indicate", "that", "performance", "likely", "varies", "over", "time", "due", "to", "differences", "in", "query", "sets", "and", "collections", "-LSB-", "6", "-RSB-", ".", "Although", "the", "change", "in", "collections", "over", "time", "has", "been", "studied", "-LRB-", "e.g.", ",", "the", "growth", "of", "the", "web", "-RRB-", "-LSB-", "10", "-RSB-", ",", "analysis", "of", "users", "'", "queries", "has", "been", "primarily", "limited", "to", "the", "investigation", "of", "a", "small", "set", "of", "available", "query", "logs", "that", "provide", "a", "snapshot", "of", "their", "query", "stream", "over", "a", "fixed", "period", "of", "time", ".", "Prior", "work", "can", "be", "partitioned", "into", "static", "query", "log", "analysis", "and", "some", "recent", "disclosures", "by", "web", "search", "engines", ".", "Query", "log", "analysis", "can", "be", "partitioned", "into", "large-scale", "log", "analysis", ",", "small-scale", "log", "analysis", "and", "some", "other", "applications", "of", "log", "analysis", "such", "as", "categorization", "and", "query", "clustering", ".", "Jansen", "and", "Pooch", "provide", "a", "framework", "for", "static", "log", "analysis", ",", "but", "do", "not", "address", "analysis", "of", "changes", "in", "a", "query", "stream", "over", "time", "-LSB-", "7", "-RSB-", ".", "Given", "that", "most", "search", "engines", "receive", "on", "the", "order", "of", "between", "tens", "and", "hundreds", "of", "millions", "of", "queries", "a", "day", "-LSB-", "22", "-RSB-", ",", "current", "and", "future", "log", "analysis", "efforts", "should", "use", "increasingly", "larger", "query", "sets", "to", "ensure", "that", "prior", "assumptions", "still", "hold", ".", "Previous", "studies", "measured", "overall", "aspects", "of", "users", "'", "queries", "from", "static", "web", "query", "logs", ".", "In", "the", "only", "large-scale", "study", "-LRB-", "all", "others", "involve", "only", "a", "few", "million", "queries", "-RRB-", ",", "Silverstein", "concludes", "that", "users", "typically", "view", "only", "the", "top", "ten", "search", "results", "and", "that", "they", "generally", "enter", "short", "queries", "from", "a", "static", "analysis", "of", "an", "AltaVista", "query", "log", "from", "six", "weeks", "in", "1998", "consisting", "of", "575", "million", "non-empty", "queries", "-LSB-", "16", "-RSB-", ".", "He", "also", "found", "that", "only", "13.6", "%", "of", "queries", "appear", "more", "than", "three", "times", ",", "the", "top", "25", "queries", "represent", "1.5", "%", "of", "the", "total", "query", "volume", ",", "and", "in", "75", "%", "of", "sessions", "users", "do", "not", "revise", "their", "queries", ".", "Additionally", ",", "co-occurrence", "analysis", "of", "the", "most", "frequent", "10,000", "queries", "showed", "that", "the", "most", "correlated", "terms", "are", "often", "constituents", "of", "phrases", ".", "No", "time-based", "or", "topic-based", "analysis", "of", "this", "query", "load", "was", "reported", ";", "it", "does", "not", "provide", "insight", "into", "how", "or", "when", "any", "usage", "or", "topical", "interest", "changes", "occur", ".", "Other", "studies", "examine", "the", "effect", "of", "advanced", "query", "operators", "on", "the", "search", "service", "coverage", "of", "Google", ",", "MSN", ",", "and", "AOL", ",", "finding", "that", "in", "general", ",", "they", "had", "little", "effect", "-LSB-", "4", "-RSB-", ".", "These", "overall", "statistics", "do", "not", "provide", "any", "insight", "into", "temporal", "changes", "in", "the", "query", "log", ",", "but", "do", "provide", "some", "insight", "into", "how", "people", "use", "search", "services", ".", "Jansen", ",", "et", ".", "al", ",", "also", "provide", "analysis", "of", "query", "frequency", "-LSB-", "7", "-RSB-", "-LSB-", "19", "-RSB-", ".", "Their", "findings", "indicate", "that", "the", "majority", "-LRB-", "57", "%", "-RRB-", "of", "query", "terms", "from", "the", "Excite", "log", "of", "more", "than", "51,000", "queries", "are", "used", "only", "once", ",", "and", "a", "large", "majority", "-LRB-", "78", "%", "-RRB-", "occur", "three", "times", "or", "less", ".", "These", "studies", "show", "that", "neither", "queries", "nor", "their", "component", "terms", "follow", "a", "Zipfian", "distribution", ",", "as", "the", "number", "of", "rare", ",", "infrequently", "repeated", "queries", "and", "terms", "is", "disproportionately", "large", ".", "Other", "studies", "have", "focused", "on", "user", "behavior", "at", "the", "query", "session", "level", "and", "found", "varying", "results", ",", "with", "some", "estimating", "reformulated", "queries", "constituting", "40-52", "%", "of", "queries", "in", "a", "log", "-LSB-", "18", "-RSB-", "-LSB-", "21", "-RSB-", ".", "Wang", ",", "et", ".", "al", "examined", "a", "log", "of", "more", "than", "500,000", "queries", "to", "a", "university", "search", "engine", "from", "1997-2001", "-LSB-", "23", "-RSB-", ".", "They", "find", "trends", "in", "the", "number", "of", "queries", "received", "by", "season", ",", "month", ",", "and", "day", ".", "We", "extend", "upon", "this", "work", "by", "examining", "the", "larger", "community", "of", "general", "web", "searchers", "and", "analyzing", "trends", "corresponding", "to", "hour", "of", "day", ".", "Several", "studies", "examine", "query", "categories", "in", "small", ",", "static", "logs", ".", "Spink", ",", "et", ".", "al", "analyzed", "logs", "totaling", "more", "than", "one", "million", "queries", "submitted", "to", "the", "Excite", "web", "search", "engine", "during", "single", "days", "in", "1997", ",", "1999", ",", "and", "2", "001", "-LSB-", "18", "-RSB-", "-LSB-", "19", "-RSB-", "-LSB-", "20", "-RSB-", ".", "They", "classified", "approximately", "2,500", "queries", "from", "each", "log", "into", "11", "topical", "categories", "and", "found", "that", "although", "search", "topics", "have", "changed", "over", "the", "years", ",", "users", "'", "behaviors", "have", "not", ".", "Ross", "and", "Wolfram", "categorized", "the", "top", "1,000", "term", "pairs", "from", "the", "one", "million", "query", "Excite", "log", "into", "30", "subject", "areas", "to", "show", "commonalities", "of", "terms", "in", "categorie", "s", "-LSB-", "13", "-RSB-", ".", "Jansen", ",", "et", ".", "al", "used", "lists", "of", "terms", "to", "identify", "image", ",", "audio", ",", "and", "video", "queries", "and", "measure", "their", "presence", "in", "the", "one", "million", "query", "Excite", "log", "-LSB-", "9", "-RSB-", ".", "In", "order", "to", "examine", "the", "differences", "in", "queries", "from", "users", "in", "different", "countries", ",", "Spink", ",", "et", ".", "al", ",", "examined", "a", "500,000", "query", "log", "from", "the", "FAST", "web", "search", "engine", "during", "2001", ",", "believed", "to", "be", "used", "largely", "by", "Europeans", "at", "that", "time", ",", "classifying", "2,500", "queries", "from", "it", "into", "the", "same", "topical", "categories", ".", "They", "found", "differences", "between", "FAST", "and", "Excite", "in", "the", "topics", "searched", "fo", "r", "-LSB-", "17", "-RSB-", ".", "Other", "work", "manually", "grouped", "queries", "by", "task", ".", "Broder", "defines", "queries", "as", "informational", ",", "navigational", "or", "transactional", "and", "presents", "a", "study", "of", "AltaVista", "users", "via", "a", "popup", "survey", "and", "manual", "categorization", "of", "200", "queries", "from", "a", "log", "-LSB-", "2", "-RSB-", ".", "Beitzel", ",", "et", ".", "al", "implicitly", "categorized", "queries", "from", "a", "search", "log", "as", "navigational", "by", "matching", "them", "to", "edited", "titles", "in", "web", "directories", "to", "automatically", "evaluate", "navigational", "web", "search", "-LSB-", "1", "-RSB-", ".", "Xie", "and", "Wolfram", "automatically", "categorized", "query", "terms", "by", "using", "results", "from", "web", "search", "engines", "to", "assign", "the", "terms", "to", "broad", "subject", "categorie", "s", "-LSB-", "25", "-RSB-", ".", "Several", "studies", "of", "query", "caching", "examine", "query", "frequency", "distributions", "from", "a", "static", "log", ",", "focusing", "on", "the", "average", "likelihood", "of", "an", "arbitrary", "query", "being", "repeated", "over", "the", "entire", ",", "fixed-length", "log", ".", "Lempel", "and", "Moran", "evaluated", "the", "performance", "of", "caching", "strategies", "over", "a", "log", "of", "seven", "million", "queries", "to", "AltaVista", "in", "2001", "and", "found", "that", "the", "frequencies", "of", "queries", "in", "their", "log", "followed", "a", "power", "law", "-LSB-", "11", "-RSB-", ".", "Eiron", "and", "McCurley", "compared", "query", "vocabulary", "from", "a", "log", "of", "nearly", "1.3", "million", "queries", "posed", "to", "a", "corporate", "intranet", "to", "the", "vocabulary", "of", "web", "page", "anchor", "text", "and", "found", "that", "the", "frequency", "of", "queries", "and", "query", "terms", "follows", "a", "tail-heavy", "power", "law", "-LSB-", "5", "-RSB-", ".", "Xie", "and", "O'Hallaron", "studied", "query", "logs", "from", "the", "Vivisimo", "meta-search", "engine", "of", "110,881", "queries", "over", "one", "month", "in", "2001", "in", "comparison", "to", "the", "Excite", "log", "of", "1.9", "million", "over", "one", "day", "in", "1999", "and", "found", "that", "although", "as", "in", "other", "studies", "over", "half", "of", "the", "queries", "are", "never", "repeated", ",", "the", "frequencies", "of", "queries", "that", "are", "repeated", "do", "follow", "a", "Zipfian", "distribution", "-LSB-", "26", "-RSB-", ".", "Saraiva", ",", "et", ".", "al", "evaluated", "a", "two-level", "caching", "scheme", "on", "a", "log", "of", "over", "100,000", "queries", "to", "a", "Brazilian", "search", "engine", "and", "found", "that", "query", "frequencies", "follow", "a", "Zipf-like", "distri", "bution", "-LSB-", "15", "-RSB-", ".", "Markatos", "simulated", "the", "effect", "of", "several", "types", "of", "query", "caches", "on", "an", "Excite", "query", "log", "of", "approximately", "one", "million", "queries", "and", "found", "that", "traditional", "caching", "methods", "provide", "significant", "improvements", "in", "efficiency", "-LSB-", "12", "-RSB-", ".", "Although", "traditional", "MRU-style", "caches", "obviously", "enhance", "throughput", "by", "exploiting", "temporal", "locality", "at", "the", "minute-to", "-", "minute", "level", ",", "these", "studies", "do", "not", "examine", "changes", "in", "the", "query", "stream", "according", "to", "the", "hour", "of", "the", "day", "that", "may", "be", "leveraged", "in", "enhanced", "cache", "design", ".", "It", "is", "well", "known", "that", "different", "users", "represent", "the", "same", "information", "need", "with", "different", "query", "terms", ",", "making", "query", "clustering", "attractive", "when", "examining", "groups", "of", "related", "queries", ".", "However", ",", "as", "Raghavan", "and", "Sever", "have", "shown", ",", "traditional", "similarity", "measures", "are", "unsuitable", "for", "finding", "query-to-query", "similarity", "-LSB-", "13", "-RSB-", ".", "Wen", ",", "et", ".", "al", ",", "incorporated", "click-through", "to", "cluster", "users", "'", "queries", "-LSB-", "23", "-RSB-", ".", "In", "evaluating", "their", "system", ",", "they", "analyzed", "a", "random", "subset", "of", "20,000", "queries", "from", "a", "single", "month", "of", "their", "approximately", "1-million", "queries-per-week", "traffic", ".", "They", "found", "322", "that", "the", "most", "popular", "22.5", "%", "queries", "represent", "only", "400", "clusters", "of", "queries", "using", "differing", "sets", "of", "query", "terms", ".", "Many", "web", "search", "services", "have", "begun", "to", "offer", "views", "of", "the", "most", "popular", "and/or", "changing", "-LRB-", "becoming", "drastically", "more", "or", "less", "popular", "-RRB-", "queries", ":", "AOL", "Member", "Trends", ",", "Yahoo", "-", "Buzz", "Index", ",", "Lycos", "-", "The", "Lycos", "50", "with", "Aaron", "Schatz", ",", "Google", "Zeitgeist", ",", "AltaVista", "-", "Top", "Queries", ",", "Ask", "Jeeves", ",", "Fast", "-LRB-", "AllTheWeb", "-RRB-", ".", "These", "views", "necessarily", "incorporate", "a", "temporal", "aspect", ",", "often", "showing", "popular", "queries", "for", "the", "current", "time", "period", "and", "those", "that", "are", "consistently", "popular", ".", "Some", "also", "break", "down", "popularity", "by", "topical", "categories", ".", "Systems", "seeking", "to", "display", "changing", "queries", "must", "address", "the", "issue", "of", "relative", "versus", "absolute", "change", "in", "a", "query", "'s", "frequency", "to", "find", "queries", "whose", "change", "is", "``", "interesting", "''", ",", "not", "simply", "a", "query", "that", "went", "from", "frequency", "one", "to", "two", "-LRB-", "a", "200", "%", "jump", "-RRB-", ",", "or", "one", "that", "went", "from", "10,000", "to", "11,000", "-LRB-", "a", "1000", "absolute", "change", "-RRB-", ".", "We", "examine", "a", "search", "log", "consisting", "of", "hundreds", "of", "millions", "of", "queries", "from", "a", "major", "commercial", "search", "service", "over", "the", "seven-day", "period", "from", "12/26/03", "through", "1/1/04", ".", "This", "log", "represents", "queries", "from", "approximately", "50", "million", "users", ".", "We", "preprocess", "the", "queries", "to", "normalize", "the", "query", "strings", "by", "removing", "any", "case", "differences", ",", "replacing", "any", "punctuation", "with", "white", "space", "-LRB-", "stripping", "advanced", "search", "operators", "from", "the", "approximately", "2", "%", "of", "queries", "containing", "them", "-RRB-", ",", "and", "compressing", "white", "space", "to", "single", "spaces", ".", "The", "average", "query", "length", "is", "1.7", "terms", "for", "popular", "queries", "and", "2.2", "terms", "over", "all", "queries", ".", "On", "average", ",", "users", "view", "only", "one", "page", "of", "results", "81", "%", "of", "the", "time", ",", "two", "pages", "18", "%", "and", "three", "or", "more", "1", "%", "of", "the", "time", ".", "First", ",", "we", "examine", "trends", "in", "the", "query", "stream", "as", "a", "whole", ",", "and", "then", "focus", "on", "trends", "related", "to", "queries", "manually", "categorized", "into", "topical", "categories", ".", "We", "begin", "our", "analysis", "of", "the", "overall", "stream", "by", "examining", "how", "the", "volume", "of", "query", "traffic", "changes", "as", "we", "move", "from", "peak", "to", "non-peak", "hours", ".", "We", "show", "the", "percentage", "of", "the", "day", "'s", "total", "and", "distinct", "number", "of", "queries", "for", "each", "hour", "in", "the", "day", "on", "average", "over", "our", "seven-day", "peri", "od", "in", "Figure", "1", "-LRB-", "all", "times", "in", "our", "query", "log", "are", "Eastern", "Standard", "Time", "-RRB-", ".", "Only", "0.75", "%", "of", "the", "day", "'s", "total", "queries", "appear", "from", "5-6AM", ",", "whereas", "6.7", "%", "of", "the", "day", "'s", "queries", "appear", "from", "9-10PM", ".", "Perhaps", "more", "interestingly", ",", "the", "ratio", "of", "distinct", "to", "total", "queries", "in", "a", "given", "hour", "is", "nearly", "constant", "throughout", "the", "day", ".", "This", "shows", "that", "the", "average", "number", "of", "times", "a", "query", "is", "repeated", "is", "virtually", "constant", "over", "the", "hours", "in", "a", "day", ",", "remaining", "near", "2.14", "with", "only", "a", "0.12", "standard", "deviation", ".", "Although", "the", "average", "repetition", "of", "queries", "remains", "nearly", "constant", ",", "we", "can", "examine", "this", "in", "greater", "detail", "by", "measuring", "the", "frequency", "distribution", "of", "queries", "at", "various", "hours", "in", "the", "day", ",", "as", "seen", "in", "Figure", "2", ".", "From", "this", "analysis", "it", "is", "clear", "that", "the", "vast", "majority", "of", "queries", "in", "an", "hour", "appear", "only", "one", "to", "five", "times", "and", "that", "these", "rare", "queries", "consistently", "account", "for", "large", "portions", "of", "the", "total", "query", "volume", "throughout", "the", "course", "of", "the", "day", ".", "Figure", "1", "Although", "we", "have", "shown", "that", "the", "query", "distribution", "does", "not", "change", "substantially", "over", "the", "course", "of", "a", "day", ",", "this", "does", "not", "provide", "insight", "into", "how", "the", "sets", "of", "queries", "vary", "from", "one", "hour", "to", "the", "next", ".", "To", "examine", "this", ",", "we", "measure", "the", "overlap", "between", "the", "sets", "of", "queries", "entered", "during", "those", "hours", ".", "We", "use", "traditional", "set", "and", "bag", "overlap", "measures", "as", "gi", "ven", "in", "Equation", "1", "and", "Equation", "2", ",", "respectively", ".", "Distinct", "overlap", "measures", "the", "similarity", "between", "the", "sets", "of", "unique", "queries", "from", "each", "hour", ",", "while", "overall", "-LRB-", "bag", "-RRB-", "overlap", "measures", "the", "similarity", "of", "their", "frequency", "distributions", "by", "incorporating", "the", "number", "of", "times", "each", "query", "appears", "in", "an", "hour", ",", "-RRB-", ";", "-LRB-", "A", "q", "C", "i", ".", "While", "these", "measures", "examine", "the", "similarity", "of", "the", "sets", "of", "queries", "received", "in", "an", "hour", "and", "the", "number", "of", "times", "they", "are", "entered", ",", "they", "do", "not", "incorporate", "the", "relative", "popularity", "or", "ranking", "of", "queries", "within", "the", "query", "sets", ".", "To", "examine", "this", ",", "we", "also", "measure", "the", "Pearson", "correlation", "of", "the", "queries", "'", "frequencies", ".", "As", "can", "be", "seen", "from", "Equation", "3", "-LRB-", "where", "-RRB-", ";", "-LRB-", "A", "q", "C", "is", "the", "mean", "number", "of", "query", "repetitions", "in", "period", "A", "and", "-RRB-", ";", "-LRB-", "A", "q", "C", "s", "is", "the", "standard", "deviation", "of", "all", "the", "query", "frequencies", "in", "period", "A", "-RRB-", ",", "this", "measures", "the", "degree", "of", "linear", "correlation", "between", "the", "frequencies", "of", "the", "queries", "in", "each", "hour", ",", "so", "two", "hours", "that", "had", "exactly", "the", "same", "queries", "with", "exactly", "the", "same", "frequencies", "would", "have", "a", "correlation", "of", "one", ".", "Note", "that", "this", "normalizes", "for", "the", "effect", "of", "differing", "query", "volume", ",", "i.e.", ",", "the", "correlation", "of", "two", "hours", "with", "exactly", "the", "same", "underlying", "query", "distributions", "simply", "scaled", "by", "a", "constant", "would", "also", "have", "a", "correlation", "of", "one", ".", "Figure", "2", "Percentage", "of", "Average", "Daily", "Query", "Traffic", "at", "Each", "Hour", "0", "%", "1", "%", "2", "%", "3", "%", "4", "%", "5", "%", "6", "%", "7", "%", "8", "%", "0", "6", "12", "18", "Hour", "of", "Day", "P", "e", "r", "c", "en", "t", "a", "g", "e", "o", "f", "D", "a", "i", "l", "y", "Qu", "er", "y", "T", "r", "af", "f", "i", "c", "Average", "Total", "Queries", "Average", "Distinct", "Queries", "Frequency", "Distribution", "of", "Selected", "Hours", "from", "12/26/03", "0", "%", "5", "%", "10", "%", "15", "%", "20", "%", "25", "%", "30", "%", "35", "%", "40", "%", "1", ",", "00", "11", "0", ",", "0", "0", "0", "50", "11", ",", "0", "0", "0", "20", "15", "0", "0", "10", "12", "0", "0", "51", "1", "0", "0", "26", "5", "0", "21", "2", "5", "16", "2", "0", "11", "1", "5", "10", "9", "8", "7", "6", "5", "4", "3", "2", "1", "Frequency", "Ranges", "P", "erc", "en", "t", "a", "g", "e", "o", "f", "T", "o", "t", "a", "l", "Q", "u", "er", "i", "e", "s", "12AM-1AM", "6AM-7AM", "12PM-1PM", "6PM-7PM", "323", "B", "A", "B", "A", "B", "A", "overlap", "dist", "=", "-RRB-", ",", "-LRB-", ".", "Equation", "1", ":", "Distinct", "Overlap", "of", "Query", "Sets", "from", "Hours", "A", "and", "B", "+", "=", "B", "A", "q", "i", "i", "B", "q", "i", "A", "q", "i", "B", "A", "q", "i", "i", "i", "i", "i", "i", "B", "q", "C", "A", "q", "C", "B", "q", "C", "A", "q", "C", "B", "q", "C", "A", "q", "C", "B", "A", "overlap", "-RRB-", "-RRB-", ";", "-LRB-", "-RRB-", ",", ";", "-LRB-", "min", "-LRB-", "-RRB-", ";", "-LRB-", "-RRB-", ";", "-LRB-", "-RRB-", "-RRB-", ";", "-LRB-", "-RRB-", ",", ";", "-LRB-", "min", "-LRB-", "-RRB-", ",", "-LRB-", "Equation", "2", ":", "Overall", "Overlap", "of", "Query", "Sets", "from", "Hours", "A", "and", "B", "-RRB-", ";", "-LRB-", "-RRB-", ";", "-LRB-", "1", ",", "-RRB-", "-RRB-", ";", "-LRB-", "-RRB-", ";", "-LRB-", "-RRB-", "-LRB-", "-RRB-", ";", "-LRB-", "-RRB-", ";", "-LRB-", "-LRB-", "1", "1", "B", "q", "C", "A", "q", "C", "n", "i", "i", "i", "B", "A", "s", "s", "B", "q", "C", "B", "q", "C", "A", "q", "C", "A", "q", "C", "n", "r", "=", "=", "Equation", "3", ":", "Pearson", "Correlation", "of", "Query", "Frequencies", "from", "Hours", "A", "and", "B", "Figure", "3", "In", "Figure", "3", "we", "examine", "the", "average", "level", "of", "overlap", "and", "correlation", "between", "the", "query", "sets", "received", "during", "the", "same", "hour", "for", "each", "day", "over", "our", "week", ".", "As", "measuring", "overlap", "over", "the", "set", "of", "all", "queries", "appearing", "in", "our", "week", "would", "be", "computationally", "expensive", ",", "we", "use", "the", "set", "of", "all", "the", "tens", "of", "millions", "of", "queries", "in", "the", "day", "after", "our", "seven-day", "period", "as", "an", "independent", "sample", "and", "measure", "overlap", "at", "each", "hour", "in", "our", "week", "of", "the", "queries", "matching", "those", "in", "that", "sample", ".", "Although", "we", "previously", "saw", "that", "the", "frequency", "distribution", "of", "queries", "does", "not", "substantially", "change", "across", "hours", "of", "the", "day", ",", "Figure", "3", "shows", "that", "the", "similarity", "between", "the", "actual", "queries", "that", "are", "received", "during", "each", "hour", "does", "in", "fact", "change", ".", "This", "trend", "seems", "to", "follow", "query", "volume", ",", "which", "is", "apparent", "if", "we", "sort", "the", "same", "overlap", "data", "by", "query", "volume", "as", "is", "done", "in", "Figure", "4", ".", "Clearly", ",", "as", "query", "volume", "increases", "the", "queries", "that", "compose", "that", "traffic", "are", "more", "likely", "to", "be", "similar", "across", "samples", "of", "those", "peak", "time", "periods", ".", "This", "finding", "is", "consistent", "with", "prior", "analyses", "of", "web", "query", "caches", "showing", "they", "significantly", "improve", "performance", "under", "heavy", "load", ".", "The", "more", "redundancy", "they", "are", "able", "to", "detect", ",", "the", "more", "caching", "algorithms", "are", "able", "to", "enhance", "throughput", ".", "Although", "the", "prior", "work", "primarily", "measures", "the", "effect", "of", "this", "redundancy", "in", "cache", "performance", ",", "it", "is", "obvious", "that", "redundancy", "must", "exist", "and", "be", "detected", "for", "caching", "to", "succeed", ".", "By", "examining", "the", "overall", "query", "stream", "by", "hour", "we", "are", "able", "to", "infer", "the", "effectiveness", "of", "general", "caching", "algorithms", "at", "those", "times", ".", "Figure", "4", "In", "Section", "3", "we", "analyzed", "the", "entire", "query", "log", ".", "However", ",", "this", "blanket", "view", "of", "the", "query", "traffic", "does", "not", "provide", "insight", "into", "the", "characteristics", "of", "particular", "categories", "of", "queries", "that", "might", "be", "exploited", "for", "enhanced", "efficiency", "or", "effectiveness", ".", "For", "example", ",", "a", "search", "provider", "who", "returns", "specialized", "results", "for", "entertainment", "queries", "can", "not", "determine", "from", "general", "query", "traffic", "alone", "whether", "a", "given", "query", "is", "more", "likely", "to", "be", "referring", "to", "entertainment", "related", "content", "or", "how", "to", "best", "process", "and", "cache", "that", "query", ".", "The", "remainder", "of", "our", "analysis", "focuses", "on", "trends", "relating", "to", "topical", "category", "of", "queries", ".", "Our", "query", "set", "is", "categorized", "simply", "by", "exactly", "matching", "queries", "to", "one", "of", "the", "lists", "corresponding", "to", "each", "category", ".", "These", "lists", "are", "manually", "constructed", "by", "editors", "who", "categorize", "real", "users", "'", "queries", ",", "generate", "likely", "queries", ",", "and", "import", "lists", "of", "phrases", "likely", "to", "be", "queries", "in", "a", "category", "-LRB-", "e.g.", ",", "cities", "in", "the", "US", "for", "the", "US", "Sites", "category", "-RRB-", ".", "Queries", "that", "match", "at", "least", "one", "category", "list", "comprise", "13", "%", "of", "the", "total", "query", "traffic", "on", "average", ".", "This", "represents", "millions", "of", "queries", "per", "day", ".", "Figure", "5", "To", "verify", "that", "our", "defined", "category", "lists", "sufficiently", "cover", "the", "topics", "in", "the", "query", "stream", ",", "we", "manually", "classified", "a", "random", "sample", "of", "queries", ",", "assigning", "them", "to", "``", "Other", "''", "if", "they", "did", "not", "intuitively", "fit", "into", "an", "existing", "category", ",", "as", "can", "be", "seen", "in", "Figure", "5", ".", "To", "determine", "the", "number", "of", "queries", "required", "to", "achieve", "a", "representative", "sample", ",", "we", "calculate", "the", "necessary", "sample", "size", "in", "queries", ",", "ss", "=", "-LRB-", "z", "2", "2", "-RRB-", "/", "2", ",", "where", "z", "is", "the", "confidence", "level", "value", ",", "is", "Sorted", "Average", "Overlap", "Characteristics", "from", "1/2/04", "that", "Matched", "Each", "Hour", "10", "%", "15", "%", "20", "%", "25", "%", "30", "%", "35", "%", "40", "%", "45", "%", "50", "%", "55", "%", "60", "%", "5", "6", "4", "7", "3", "2", "8", "1", "9", "10", "0", "11", "12", "13", "14", "23", "15", "16", "17", "18", "22", "19", "21", "20", "Hour", "of", "Day", "P", "e", "rcen", "t", "a", "g", "e", "Overlap", "Distinct", "Overlap", "Pearson", "Sampled", "Categorized", "Query", "Stream", "Breakdown", "Personal", "Finance", "3", "%", "Computing", "9", "%", "Research", "&", "Learn", "9", "%", "Entertainment", "13", "%", "Games", "5", "%", "Holidays", "1", "%", "Home", "5", "%", "US", "Sites", "3", "%", "Porn", "10", "%", "Shopping", "13", "%", "Sports", "3", "%", "T", "ravel", "5", "%", "Other", "16", "%", "Health", "5", "%", "Average", "Overlap", "Characteristics", "of", "Matching", "Queries", "from", "1/2/04", "10", "%", "15", "%", "20", "%", "25", "%", "30", "%", "35", "%", "40", "%", "45", "%", "50", "%", "55", "%", "0", "6", "12", "18", "Hour", "of", "Day", "Overlap", "Distinct", "Overlap", "Pearson", "324", "the", "sample", "standard", "deviation", ",", "and", "is", "the", "error", "rate", ".", "By", "setting", "our", "confidence", "level", "to", "99", "%", "and", "error", "rate", "to", "5", "%", ",", "we", "require", "a", "sample", "of", "600", "queries", ".", "The", "relative", "percentages", "for", "each", "category", "of", "the", "approximately", "13", "%", "of", "query", "volume", "that", "match", "any", "category", "list", "over", "our", "week", "-LRB-", "s", "ee", "Figure", "9", "-RRB-", "are", "within", "the", "error", "rate", "of", "those", "from", "our", "manually", "categorized", "sample", ".", "This", "shows", "that", "our", "lists", "are", "a", "reasonable", "representation", "of", "these", "topical", "categories", ".", "We", "focus", "on", "a", "subset", "of", "these", "categories", "and", "examine", "music", "and", "movies", "independent", "of", "other", "entertainment", "queries", ".", "The", "relative", "size", "of", "each", "category", "list", "we", "used", "is", "given", "in", "Figure", "6", ".", "Obviously", ",", "not", "all", "queries", "listed", "actually", "match", "those", "entered", "by", "users", ",", "especially", "when", "the", "category", "contains", "large", "imported", "lists", "of", "phrases", ".", "Figure", "6", "Although", "we", "have", "shown", "that", "our", "lists", "are", "a", "fair", "representation", "of", "the", "topics", "in", "the", "query", "stream", ",", "this", "does", "not", "indicate", "what", "portion", "of", "the", "frequency", "distribution", "of", "that", "stream", "they", "represent", ".", "To", "determine", "this", ",", "we", "measured", "the", "average", "proportion", "of", "queries", "matching", "any", "category", "list", "that", "appear", "at", "various", "frequencies", "each", "hour", "and", "compared", "them", "to", "the", "average", "overall", "hourly", "frequency", "distribution", "of", "the", "query", "stream", "-LRB-", "see", "Figure", "7", "-RRB-", ".", "Unsurprisingly", ",", "this", "comparison", "shows", "that", "queries", "in", "the", "category", "lists", "represent", "more", "popular", ",", "repeated", "queries", "than", "average", ",", "although", "the", "general", "shape", "of", "the", "distributions", "is", "similar", ".", "Figure", "7", "4.1", "Trends", "in", "Category", "Popularity", "We", "begin", "our", "temporal", "analysis", "of", "topical", "categories", "by", "measuring", "their", "relative", "popularity", "over", "the", "hours", "in", "a", "day", ".", "First", ",", "we", "examine", "the", "percent", "of", "total", "query", "volume", "matching", "a", "selected", "group", "of", "category", "lists", ",", "as", "can", "be", "seen", "in", "Figure", "8", ".", "It", "is", "clear", "that", "different", "topical", "categories", "are", "more", "and", "less", "popular", "at", "different", "times", "of", "the", "day", ".", "Personal", "finance", ",", "for", "example", ",", "becomes", "more", "popular", "from", "7-10AM", ",", "while", "music", "queries", "become", "less", "popular", ".", "Although", "it", "is", "difficult", "to", "compare", "the", "relative", "level", "of", "popularity", "shift", "from", "one", "category", "to", "another", "due", "to", "the", "differences", "in", "scale", "of", "each", "of", "their", "percentages", "of", "the", "query", "stream", ",", "it", "is", "clear", "that", "some", "categories", "'", "popularity", "changes", "more", "drastically", "throughout", "the", "day", "than", "others", ".", "Figure", "8", "In", "order", "to", "quantify", "this", ",", "we", "calculated", "the", "KL-divergence", "-LRB-", "Equation", "4", "-RRB-", "between", "the", "likelihood", "of", "receiving", "any", "query", "at", "a", "particular", "time", "and", "the", "likelihood", "of", "receiving", "a", "query", "in", "a", "particular", "category", ",", "as", "can", "be", "seen", "in", "Figure", "9", ".", "This", "reveals", "that", "the", "top", "three", "categories", "in", "terms", "of", "popularity", "are", "pornography", ",", "entertainment", ",", "and", "music", ".", "-RRB-", ",", "|", "-LRB-", "-RRB-", "|", "-LRB-", "log", "-RRB-", "|", "-LRB-", "-RRB-", "-RRB-", ",", "|", "-LRB-", "-RRB-", "|", "-LRB-", "-LRB-", "t", "c", "q", "p", "t", "q", "p", "t", "q", "p", "t", "c", "q", "p", "t", "q", "p", "D", "q", "=", "Equation", "4", ":", "KL-Divergence", "of", "Query", "Occurrence", "Likelihood", "for", "Category", "c", "and", "Total", "Stream", "at", "Time", "t", "Figure", "9", "Comparing", "these", "divergences", "to", "the", "proportion", "of", "categorized", "queries", "in", "each", "category", "in", "Figure", "6", "quickly", "illustrates", "that", "divergence", "is", "not", "correlated", "with", "the", "number", "of", "queries", "categorized", "in", "each", "category", ".", "Also", "shown", "in", "Figure", "9", "is", "the", "average", "percentage", "of", "the", "entire", "query", "volume", "and", "distinct", "queries", "that", "match", "each", "category", ".", "Although", "the", "categories", "that", "cover", "the", "largest", "portions", "of", "the", "query", "stream", "also", "have", "the", "most", "relative", "popularity", "fluctuation", ",", "this", "correlation", "does", "not", "continue", "throughout", "all", "categories", ".", "Relative", "Percentage", "of", "Categorized", "Queries", "0", "%", "5", "%", "10", "%", "15", "%", "20", "%", "25", "%", "30", "%", "35", "%", "40", "%", "45", "%", "50", "%", "Shopp", "ing", "Com", "puti", "ng", "Trave", "l", "Hom", "e", "Hea", "lth", "Gov", "ernm", "ent", "Games", "Rese", "arch", "&", "L", "earn", "ing", "Porn", "Holiday", "s", "Spor", "ts", "Mov", "ies", "Pers", "onal", "Fina", "nce", "Ente", "rtain", "men", "t", "US", "S", "ites", "Music", "P", "e", "r", "c", "e", "n", "t", "a", "ge", "of", "C", "a", "t", "e", "gor", "i", "z", "e", "d", "Q", "u", "e", "r", "i", "e", "s", "Hourly", "Frequency", "Distribution", "of", "Matching", "Queries", "vs.", "All", "Queries", "Averaged", "over", "7", "Days", "and", "16", "Categories", "0", "%", "5", "%", "10", "%", "15", "%", "20", "%", "25", "%", "30", "%", "35", "%", ">", "1,0", "00", "201-500", "51-1", "00", "21-2", "5", "11-1", "5", "9", "7", "5", "3", "1", "Frequency", "Ranges", "P", "e", "r", "cent", "a", "g", "e", "of", "A", "v", "er", "age", "T", "o", "t", "a", "M", "a", "t", "c", "hi", "ng", "Q", "u", "er", "i", "e", "s", "Avg", ".", "Matching", "Queries", "Avg", ".", "Queries", "Category", "Percentage", "of", "Entire", "Query", "Stream", "and", "Divergence", "from", "Likelihood", "of", "any", "Query", "at", "Each", "Hour", "0", "%", "1", "%", "2", "%", "3", "%", "4", "%", "5", "%", "6", "%", "Com", "puti", "ng", "Spo", "rts", "Holi", "day", "s", "Rese", "arch", "and", "L", "earni", "ng", "Hea", "lth", "Gam", "es", "US", "S", "ites", "Shopp", "ing", "Gov", "ernm", "ent", "Mov", "ies", "Tra", "vel", "Pers", "ona", "l", "Fin", "ance", "Home", "Music", "Ente", "rtain", "men", "t", "Porn", "Category", "KL-Divergence", "%", "of", "query", "stream", "Distinct", "%", "of", "query", "stream", "Categorical", "Percent", "over", "Time", "0", "%", "1", "%", "2", "%", "3", "%", "4", "%", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "12", "13", "14", "15", "16", "17", "18", "19", "20", "21", "22", "23", "24", "Hour", "of", "Day", "Entertainment", "Games", "Health", "Personal", "Finance", "Shopping", "Music", "USSites", "Porn", "325", "We", "drilled", "down", "into", "the", "highly", "fluctuating", "categories", "and", "examined", "the", "behavior", "of", "the", "queries", "with", "the", "most", "highly", "fluctuating", "frequencies", "in", "each", "category", ".", "From", "this", "we", "hoped", "to", "gain", "some", "insight", "into", "the", "reasons", "why", "certain", "categories", "fluctuate", ",", "and", "the", "effect", "of", "terms", "and", "queries", "with", "very", "high", "flux", "on", "those", "categories", ".", "For", "example", ",", "the", "three", "most", "changing", "queries", "for", "the", "entertainment", "category", "on", "average", "over", "our", "week", "were", ":", "Table", "1", ":", "Top", "Three", "Fluctuating", "Entertainment", "Queries", "gwyneth", "paltrow", "paris", "hilton", "orlando", "bloom", "All", "three", "of", "these", "queries", "are", "specifically", "related", "to", "recent", "events", "in", "US", "popular", "culture", ";", "the", "actress", "Gwyneth", "Paltrow", "recently", "married", "in", "secret", ",", "and", "the", "news", "of", "her", "nuptials", "broke", "during", "the", "week", "we", "analyzed", ".", "Hilton", "Hotel", "heiress", "Paris", "Hilton", "has", "been", "a", "popular", "topic", "recently", ";", "she", "starred", "in", "a", "prime", "time", "reality", "TV", "show", "entitled", "``", "The", "Simple", "Life", "''", ".", "Also", "popular", "is", "Orlando", "Bloom", ",", "the", "actor", "who", "portrays", "a", "popular", "character", "in", "the", "``", "Lord", "of", "the", "Rings", "''", "trilogy", ".", "As", "the", "final", "installment", "of", "the", "series", "was", "released", "in", "US", "theatres", "during", "the", "week", "prior", "to", "our", "query", "log", ",", "it", "is", "no", "surprise", "to", "see", "his", "name", "as", "a", "top-changing", "query", ".", "Drilling", "down", "further", ",", "we", "pinpointed", "some", "of", "the", "specific", "instances", "where", "these", "popular", "queries", "jumped", "the", "most", ".", "For", "example", ",", "in", "the", "afternoon", "of", "Friday", ",", "December", "27th", ",", "the", "popularity", "of", "the", "query", "``", "gwyneth", "paltrow", "''", "skyrocketed", ".", "From", "3-4PM", ",", "it", "occurred", "once", ",", "from", "4-5PM", "it", "occurred", "67", "times", ",", "and", "from", "5PM-6PM", "it", "occurred", "11,855", "times", ".", "The", "top", "changing", "-LRB-", "on", "average", "-RRB-", "twenty-five", "queries", ",", "after", "normalization", ",", "in", "the", "Entertainment", "and", "Music", "categories", "are", "shown", "in", "Table", "2", ".", "Table", "2", ":", "Top", "25", "Fluctuating", "Queries", "from", "Music", "and", "Entertainment", "Music", "Entertainment", "lyrics", "music", "britney", "spears", "furniture", "love", "hilary", "duff", "good", "charlotte", "sloppy", "seconds", "jessica", "simpson", "b2k", "eminem", "christina", "aguilera", "simple", "plan", "justin", "timberlake", "free", "music", "linkin", "park", "michael", "jackson", "beyonce", "jennifer", "lopez", "50", "cent", "kinky", "napster", "chic", "tupac", "blink", "182", "gwyneth", "paltrow", "paris", "hilton", "orlando", "bloom", "espn", "disney", "johnny", "depp", "much", "music", "disney", "channel", "hgtv", "disneychannel", "com", "www", "disneychanel", "com", "katie", "holmes", "pictures", "pamela", "anderson", "cartoon", "network", "hilary", "duff", "fake", "chad", "michael", "murray", "vivica", "a", "fox", "disneychannel", "care", "bears", "sailor", "moon", "www", "cartoonnetwork", "com", "days", "of", "our", "lives", "charmed", "tom", "welling", "We", "also", "looked", "at", "some", "of", "the", "most", "frequently", "changing", "terms", "to", "see", "how", "they", "relate", "to", "the", "change", "of", "entire", "queries", "containing", "those", "terms", ".", "Some", "excellent", "examples", "of", "this", "behavior", "in", "the", "Entertainment", "category", "include", "the", "terms", "``", "pictures", "''", "-LRB-", "the", "tenth-most", "changing", "term", "-RRB-", "and", "``", "duff", "''", "-LRB-", "the", "17", "th", "-", "most", "changing", "term", "-RRB-", ".", "We", "looked", "at", "the", "popularity", "change", "-LRB-", "i.e.", ",", "change", "in", "frequency", "-RRB-", "for", "queries", "containing", "these", "terms", "and", "found", "that", "several", "of", "them", "also", "exhibited", "large", "changes", "over", "time", ".", "For", "example", ",", "on", "the", "afternoon", "of", "December", "28", "th", "from", "noon", "to", "5PM", "EST", ",", "the", "query", "``", "hilary", "duff", "''", "changed", "from", "an", "initial", "frequency", "of", "27", "from", "12-1PM", "to", "a", "peak", "of", "131", "-LRB-", "from", "3-4PM", "-RRB-", ",", "and", "then", "stabilized", "around", "70", "for", "the", "rest", "of", "the", "evening", ";", "similar", "spikes", "in", "frequency", "for", "this", "query", "occurred", "at", "similar", "times", "during", "other", "days", "in", "our", "period", "of", "study", ".", "4.2", "Trends", "in", "Uniqueness", "of", "Queries", "Within", "Categories", "Although", "we", "have", "shown", "that", "different", "categories", "have", "differing", "trends", "of", "popularity", "over", "the", "hours", "of", "a", "day", ",", "this", "does", "not", "provide", "insight", "into", "how", "the", "sets", "of", "queries", "within", "those", "categories", "change", "throughout", "the", "day", ".", "In", "order", "to", "examine", "this", ",", "we", "return", "to", "the", "overlap", "measures", "used", "in", "Sec", "tion", "3", ".", "Overlap", ",", "distinct", "overlap", ",", "and", "the", "Pearson", "correlation", "of", "query", "frequencies", "for", "Personal", "Finance", "and", "Music", "are", "show", "n", "in", "Figure", "10", "a", "nd", "Figure", "11", ".", "Figure", "10", "Although", "the", "uniqueness", "of", "queries", "in", "categories", "in", "general", "appears", "to", "be", "correlated", "with", "that", "of", "the", "entire", "query", "stream", "-LRB-", "Figure", "3", "-RRB-", ",", "that", "of", "particular", "categories", "appears", "to", "be", "substantially", "different", "from", "one", "to", "the", "next", ".", "For", "example", ",", "if", "we", "compare", "the", "overlap", "characteristics", "of", "personal", "finance", "with", "those", "of", "music", ",", "we", "see", "they", "are", "quite", "different", ".", "Not", "only", "does", "personal", "finance", "have", "generally", "higher", "overlap", ",", "but", "it", "has", "a", "much", "higher", "overall", "overlap", "than", "distinct", "overlap", ",", "whereas", "they", "are", "nearly", "equal", "for", "music", ".", "Other", "categories", "with", "generally", "high", "overlap", "and", "distinct", "overlap", "are", "shopping", ",", "computing", ",", "and", "travel", ".", "Also", ",", "the", "correlation", "of", "frequencies", "of", "personal", "finance", "queries", "is", "very", "high", "all", "day", ",", "indicating", "searchers", "are", "entering", "the", "same", "queries", "roughly", "the", "same", "relative", "amount", "of", "times", ",", "this", "is", "clearly", "not", "true", "for", "music", ".", "Some", "categories", "have", "a", "high", "Pearson", "correlation", ".", "This", "indicates", "that", "a", "significant", "portion", "of", "the", "queries", "in", "these", "categories", "is", "often", "ranked", "similarly", "by", "frequency", ".", "These", "categories", "are", ":", "pornography", ",", "travel", ",", "research", "and", "learning", ",", "and", "computing", ",", "and", "their", "Pearson", "correlations", "are", "illustrate", "d", "in", "Figure", "12", ".", "Personal", "Finance", "Overlap", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "12", "13", "14", "15", "16", "17", "18", "19", "20", "21", "22", "23", "Overlap", "Dist", ".", "Olap", "Pearson", "326", "Figure", "11", "It", "is", "clear", "that", "some", "categories", "have", "very", "similarly", "ranked", "queries", "by", "frequency", "throughout", "the", "day", ",", "while", "others", "vary", "dramatically", "according", "to", "query", "volume", ".", "Referring", "back", "to", "Figure", "6", "and", "Figure", "9", ",", "uniqueness", "of", "queries", "in", "particular", "categories", "does", "not", "appear", "to", "be", "correlated", "with", "the", "number", "of", "queries", "in", "their", "respective", "category", "lists", ",", "the", "proportion", "of", "the", "query", "stream", "they", "represent", ",", "or", "the", "number", "of", "distinct", "queries", "they", "match", ".", "Figure", "12", "This", "type", "of", "data", "is", "potentially", "of", "great", "use", "to", "query", "caching", "algorithms", ".", "For", "example", ",", "if", "it", "is", "known", "a", "priori", "that", "queries", "for", "certain", "categories", "are", "similarly", "ranked", "throughout", "the", "day", ",", "they", "can", "be", "given", "higher", "priority", "in", "a", "query-caching", "scheme", ".", "Similarly", ",", "queries", "in", "categories", "whose", "rankings", "change", "vastly", "over", "time", "might", "be", "given", "low", "caching", "priority", ".", "This", "study", "focuses", "on", "investigating", "the", "nature", "of", "changes", "in", "the", "query", "stream", "of", "a", "very", "large", "search", "service", "over", "time", ".", "Understanding", "how", "users", "'", "queries", "change", "over", "time", "is", "critical", "to", "developing", "effective", ",", "efficient", "search", "systems", "and", "to", "engineering", "representative", "test", "sets", "and", "evaluations", "that", "drive", "this", "development", ".", "In", "this", "study", "we", "find", "trends", "over", "time", "that", "are", "stable", "despite", "continuing", "fluctuation", "in", "query", "volume", ".", "Although", "the", "average", "query", "is", "repeated", "only", "twice", "during", "any", "given", "hour", "of", "the", "day", ",", "the", "total", "query", "traffic", "varies", "both", "in", "magnitude", "from", "one", "hour", "to", "the", "next", ",", "and", "also", "in", "degree", "of", "overlap", "and", "correlation", "in", "popularity", "of", "the", "queries", "that", "are", "received", ".", "In", "addition", ",", "we", "also", "find", "that", "the", "frequency", "distribution", "of", "an", "hour", "'s", "worth", "of", "queries", "remains", "constant", "throughout", "the", "day", ".", "Also", ",", "at", "the", "most", "general", "level", ",", "we", "find", "that", "query", "volume", "is", "highest", "and", "query", "sets", "are", "most", "stable", "during", "peak", "hours", "of", "the", "day", ".", "This", "study", "further", "investigates", "changes", "in", "the", "query", "stream", "over", "time", "by", "examining", "the", "nature", "of", "changes", "in", "popularity", "of", "particular", "topical", "categories", ".", "For", "this", "we", "use", "a", "set", "of", "topical", "categories", "created", "by", "human", "editors", "that", "represents", "approximately", "13", "%", "of", "the", "average", "query", "traffic", ".", "We", "show", "that", "popularity", "of", "some", "of", "these", "categories", "fluctuates", "considerably", "while", "other", "categories", "remain", "relatively", "stable", "over", "the", "hours", "in", "a", "day", ".", "Additionally", ",", "we", "show", "that", "the", "overlap", "and", "correlation", "in", "popularity", "of", "the", "queries", "within", "each", "topical", "category", "varies", "quite", "differently", "over", "the", "course", "of", "the", "day", ".", "Extending", "this", "analysis", "to", "investigate", "changes", "in", "the", "very", "rare", "queries", "not", "often", "matched", "by", "our", "category", "lists", "would", "provide", "insight", "into", "whether", "those", "are", "changing", "similarly", "to", "more", "popular", "queries", ".", "One", "method", "for", "approaching", "this", "might", "be", "to", "incorporate", "automatic", "query", "classification", "methods", "to", "extend", "our", "basic", "lists", "This", "study", "is", "the", "gateway", "to", "a", "large", "and", "diverse", "body", "of", "future", "work", ".", "Integrating", "this", "knowledge", "of", "Circadian", "changes", "in", "the", "query", "stream", "by", "category", "will", "likely", "yield", "improved", "query", "disambiguation", ",", "query", "caching", ",", "and", "load", "balancing", "algorithms", ".", "-LSB-", "1", "-RSB-", "Beitzel", ",", "S.", ",", "Jensen", ",", "E.", ",", "Chowdhury", ",", "A.", ",", "and", "Grossman", ",", "D.", "Using", "Titles", "and", "Category", "Names", "from", "Editor-driven", "Taxonomies", "for", "Automatic", "Evaluation", ".", "In", "Proceedings", "of", "CIKM", "'03", "-LRB-", "New", "Orleans", ",", "LA", ",", "November", ",", "2003", "-RRB-", ",", "ACM", "Press", ".", "-LSB-", "2", "-RSB-", "Broder", ",", "A", ".", "A", "Taxonomy", "of", "Web", "Search", ".", "SIGIR", "Forum", "36", "-LRB-", "2", "-RRB-", "-LRB-", "Fall", ",", "2002", "-RRB-", ".", "-LSB-", "3", "-RSB-", "Chowdhury", ",", "A.", ",", "G.", "Pass", ".", "``", "Operational", "Requirements", "for", "Scalable", "Search", "Systems", "''", ",", "In", "Proceedings", "of", "CIKM", "'03", "-LRB-", "New", "Orleans", ",", "LA", ",", "November", "2003", "-RRB-", ",", "ACM", "Press", ".", "-LSB-", "4", "-RSB-", "Eastman", ",", "C.", ",", "B.", "Jansen", ",", "``", "Coverage", ",", "Relevance", ",", "and", "Ranking", ":", "The", "Impact", "of", "Query", "Operators", "on", "Web", "Search", "Engine", "Results", "''", ",", "ACM", "Transactions", "on", "Information", "Systems", ",", "Vol", ".", "21", ",", "No.", "4", ",", "October", "2003", ",", "Pages", "383", "411", ".", "-LSB-", "5", "-RSB-", "Eiron", ",", "N.", ",", "K.", "McCurley", ".", "``", "Analysis", "of", "Anchor", "Text", "for", "Web", "Search", "''", ",", "In", "Proceedings", "of", "SIGIR", "'03", "-LRB-", "Toronto", ",", "Canada", ",", "July", "2003", "-RRB-", ",", "ACM", "Press", ".", "-LSB-", "6", "-RSB-", "Hawking", ",", "D.", ",", "Craswell", ",", "N.", ",", "and", "Griffiths", ",", "K.", "Which", "Search", "Engine", "is", "Best", "at", "Finding", "Online", "Services", "?", "In", "Proceedings", "of", "WWW10", "-LRB-", "Hong", "Kong", ",", "May", "2001", "-RRB-", ",", "Posters", ".", "Actual", "poster", "available", "as", "http://pigfish.vic.cmis.csiro.au/~nickc/pubs/www10actualpos", "ter.pdf", "-LSB-", "7", "-RSB-", "Jansen", ",", "B.", "and", "Pooch", ",", "U", ".", "A", "review", "of", "Web", "searching", "studies", "and", "a", "framework", "for", "future", "research", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", "and", "Technology", "52", "-LRB-", "3", "-RRB-", ",", "235-246", ",", "2001", ".", "-LSB-", "8", "-RSB-", "Jansen", ",", "B.", ",", "Spink", ",", "A.", ",", "and", "Saracevic", ",", "T.", "Real", "life", ",", "real", "users", ",", "and", "real", "needs", ":", "a", "study", "and", "analysis", "of", "user", "queries", "on", "the", "web", ".", "Information", "Processing", "and", "Management", ",", "36", "-LRB-", "2", "-RRB-", "-LRB-", "2000", "-RRB-", ",", "207-227", ".", "-LSB-", "9", "-RSB-", "Jansen", ",", "B.J.", ",", "Goodrum", ",", "A.", ",", "Spink", ",", "A.", "Searching", "for", "multimedia", ":", "video", ",", "audio", ",", "and", "image", "Web", "queries", ".", "World", "Wide", "Web", "3", "-LRB-", "4", "-RRB-", ",", "2000", ".", "-LSB-", "10", "-RSB-", "Lawrence", ",", "S.", "and", "Giles", ",", "C.L.", "Searching", "the", "World", "Wide", "Web", ".", "Science", "280", "-LRB-", "5360", "-RRB-", ",", "98-100", ",", "1998", ".", "Pearson", "Correlations", "of", "Frequencies", "for", "Categories", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "12", "13", "14", "15", "16", "17", "18", "19", "20", "21", "22", "23", "Personal", "Finance", "Music", "Movies", "Porn", "Computing", "Games", "Entertainment", "Government", "Music", "Overlap", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "1", "0", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "12", "13", "14", "15", "16", "17", "18", "19", "20", "21", "22", "23", "Overlap", "Dist", ".", "Olap", "Pearson", "327", "-LSB-", "11", "-RSB-", "Lempel", ",", "R.", "and", "Moran", ",", "S.", "Predictive", "caching", "and", "prefetching", "of", "query", "results", "in", "search", "engines", ".", "In", "Proceedings", "of", "WWW12", "-LRB-", "Budapest", ",", "May", "2003", "-RRB-", ".", "-LSB-", "12", "-RSB-", "Markatos", ",", "E.P.", "On", "Caching", "Search", "Engine", "Query", "Results", ".", "In", "the", "Proceedings", "of", "the", "5th", "International", "Web", "Caching", "and", "Content", "Delivery", "Workshop", ",", "May", "2000", ".", "-LSB-", "13", "-RSB-", "Raghavan", ",", "V.", "and", "Sever", ",", "H.", "On", "the", "Reuse", "of", "Past", "Optimal", "Queries", ".", "In", "Proc", ".", "of", "the", "1995", "SIGIR", "Conference", ",", "344-350", ",", "Seattle", ",", "WA", ",", "July", "1995", ".", "-LSB-", "14", "-RSB-", "Ross", ",", "N.", "and", "Wolfram", ",", "D.", "End", "user", "searching", "on", "the", "Internet", ":", "An", "analysis", "of", "term", "pair", "topics", "submitted", "to", "the", "Excite", "search", "engine", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", "51", "-LRB-", "10", "-RRB-", ",", "949-958", ",", "2000", ".", "-LSB-", "15", "-RSB-", "Saraiva", ",", "P.", ",", "Moura", ",", "E.", ",", "Ziviani", ",", "N.", ",", "Meira", ",", "W.", ",", "Fonseca", ",", "R.", ",", "Riberio-Neto", ",", "B.", "Rank-preserving", "two-level", "caching", "for", "scalable", "search", "engines", ".", "In", "Proc", ".", "of", "the", "24th", "SIGIR", "Conference", ",", "51-58", ",", "New", "Orleans", ",", "LA", ",", "September", ",", "2001", ".", "-LSB-", "16", "-RSB-", "Silverstein", ",", "C.", ",", "Henzinger", ",", "M.", ",", "Marais", ",", "H.", ",", "and", "Moricz", ",", "M.", "Analysis", "of", "a", "very", "large", "web", "search", "engine", "query", "log", ".", "SIGIR", "Forum", "33", "-LRB-", "1", "-RRB-", "-LRB-", "Fall", ",", "1999", "-RRB-", ",", "6-12", ".", "-LSB-", "17", "-RSB-", "Spink", ",", "A.", ",", "Ozmutlu", ",", "S.", ",", "Ozmutlu", ",", "H.C.", ",", "and", "Jansen", ",", "B.J.", "U.S.", "versus", "European", "web", "searching", "trends", ".", "SIGIR", "Forum", "36", "-LRB-", "2", "-RRB-", ",", "32-38", ",", "2002", ".", "-LSB-", "18", "-RSB-", "Spink", ",", "A.", ",", "Jansen", ",", "B.J.", ",", "Wolfram", ",", "D.", ",", "and", "Saracevic", ",", "T.", "From", "E-sex", "to", "e-commerce", ":", "Web", "search", "changes", ".", "IEEE", "Computer", ",", "35", "-LRB-", "3", "-RRB-", ",", "107-109", ",", "2002", ".", "-LSB-", "19", "-RSB-", "Spink", ",", "A.", ",", "Wolfram", ",", "D.", ",", "Jansen", ",", "B.J.", "and", "Saracevic", ",", "T.", "Searching", "the", "Web", ":", "The", "Public", "and", "Their", "Queries", ".", "Journal", "of", "the", "American", "Society", "of", "Information", "Science", "53", "-LRB-", "2", "-RRB-", ",", "226-234", ",", "2001", ".", "-LSB-", "20", "-RSB-", "Spink", ",", "A.", ",", "Jansen", ",", "B.J.", ",", "and", "Saracevic", ",", "T.", "Vox", "populi", ":", "The", "public", "searching", "of", "the", "web", ".", "Journal", "of", "the", "American", "Society", "of", "Information", "Science", "52", "-LRB-", "12", "-RRB-", ",", "1073-1074", ",", "2001", ".", "-LSB-", "21", "-RSB-", "Spink", ",", "A.", ",", "Jansen", ",", "B.J.", ",", "and", "Ozmultu", ",", "H.C.", "Use", "of", "query", "reformulation", "and", "relevance", "feedback", "by", "Excite", "users", ".", "Internet", "Research", ":", "Electronic", "Networking", "Applications", "and", "Policy", "10", "-LRB-", "4", "-RRB-", ",", "2000", ".", "-LSB-", "22", "-RSB-", "Sullivan", ",", "D.", "Searches", "Per", "Day", ".", "Search", "Engine", "Watch", ",", "February", ",", "2003", ".", "http://searchenginewatch.com/reports/article.php/2156461", "-LSB-", "23", "-RSB-", "Wang", ",", "P.", ",", "Berry", ",", "M.", ",", "and", "Yang", ",", "Y.", "Mining", "longitudinal", "web", "queries", ":", "Trends", "and", "patterns", ".", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", "and", "Technology", "54", "-LRB-", "8", "-RRB-", ",", "743-758", ",", "June", "2003", ".", "-LSB-", "24", "-RSB-", "J.", "Wen", ",", "J.", "Nie", ",", "H.", "Zhang", "``", "Query", "Clustering", "using", "User", "Logs", "''", "ACM", "Transactions", "on", "Information", "Systems", ",", "Vol", ".", "20", ",", "No.", "1", ",", "January", "2002", ",", "pp59-81", ".", "-LSB-", "25", "-RSB-", "Wolfram", ",", "D.", ",", "H.", "Xie", ",", "``", "Subject", "categorization", "of", "query", "terms", "for", "exploring", "Web", "users", "'", "search", "interests", "''", ",", "Journal", "of", "the", "American", "Society", "for", "Information", "Science", ",", "v.", "53", "n.", "8", ",", "p.617-630", ",", "June", "2002", ".", "-LSB-", "26", "-RSB-", "Xie", ",", "Y.", ",", "O'Hallaron", ",", "D.", "Locality", "in", "Search", "Engine", "Queries", "and", "Its", "Implications", "for", "Caching", ".", "Infocom", "2002", ".", "328" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Context-Aware", "Web", "Information", "Systems", "Apart", "from", "completeness", "usability", ",", "performance", "and", "maintainability", "are", "the", "key", "quality", "aspects", "for", "Web", "information", "systems", ".", "Considering", "usability", "as", "key", "implies", "taking", "usage", "processes", "into", "account", "right", "from", "the", "beginning", "of", "systems", "development", ".", "Context-awareness", "appears", "as", "a", "promising", "idea", "for", "increasing", "usability", "of", "Web", "Information", "Systems", ".", "In", "the", "present", "paper", "we", "propose", "an", "approach", "to", "context-awareness", "of", "Web", "Information", "Systems", "that", "systematically", "distinguishes", "among", "the", "various", "important", "kinds", "of", "context", ".", "We", "show", "how", "parts", "of", "this", "context", "can", "be", "operationalized", "for", "increasing", "customers", "'", "usage", "comfort", ".", "Our", "approach", "permits", "designing", "Web", "information", "systems", "such", "that", "they", "meet", "high", "quality", "expectations", "concerning", "usability", ",", "performance", "and", "maintainability", ".", "We", "demonstrate", "the", "validity", "of", "our", "approach", "by", "discussing", "the", "part", "of", "a", "banking", "Web", "Information", "System", "dedicated", "to", "online", "home-loan", "application", ".", "1.1", "Generations", "of", "Web", "Services", "Understanding", "Web", "Information", "Systems", "-LRB-", "WIS", "-RRB-", "as", "monolithic", "and", "presentation-oriented", "query-answer", "systems", "would", "be", "too", "simplistic", ".", "Implementing", "the", "individual", "services", "of", "a", "WIS", "only", "on", "the", "basis", "of", "XML", "or", "-LRB-", "D", "-RRB-", "HTML", "suites", "suffices", "for", "the", "interface", "accessible", "by", "a", "particular", "customer", ".", "The", "quality", "of", "service", "provided", "by", "a", "WIS", "both", "expected", "and", "implemented", ",", "however", ",", "evolved", "over", "the", "last", "decade", "and", "has", "evolved", "beyond", "mere", "completeness", ".", "Extending", "the", "classification", "in", "-LRB-", "Berger", "2003", ",", "p.", "146", "-RRB-", "we", "distinguish", "between", "different", "generations", "of", "WIS.", ".", "First", "generation", "-LRB-", "1G", "-RRB-", ":", "``", "build", "it", ",", "and", "they", "will", "come", "''", "First", "develop", "a", "WIS", ",", "then", "customers", "will", "come", ",", "because", "they", "believe", "that", "it", "is", "useful", ".", "Many", "of", "the", "1G-WIS", "were", "informational", ",", "i.e.", ",", "they", "were", "n't", "interactive", ".", "Second", "generation", "-LRB-", "2G", "-RRB-", ":", "``", "advertise", "online", "sales", ",", "and", "they", "will", "come", "''", "Develop", "a", "WIS", "and", "market", "it", ".", "Customers", "will", "Copyright", "c", "2004", ",", "Australian", "Computer", "Society", ",", "Inc.", ".", "This", "paper", "appeared", "at", "First", "Asia-Pacific", "Conference", "on", "Conceptual", "Modelling", "-LRB-", "APCCM", "2004", "-RRB-", ",", "Dunedin", ",", "New", "Zealand", ".", "Conferences", "in", "Research", "and", "Practice", "in", "Information", "Technology", ",", "Vol", ".", "31", ".", "Sven", "Hartmann", ",", "John", "Roddick", ",", "Ed", ".", "Reproduction", "for", "academic", ",", "not-for", "profit", "purposes", "permitted", "provided", "this", "text", "is", "included", ".", "come", ",", "because", "the", "advertisement", "convinced", "them", "about", "the", "WIS", "'s", "usability", ".", "The", "WIS", "may", "be", "transactional", ",", "i.e.", ",", "contain", "interactive", "interfaces", "to", "company", "products", "and", "services", ".", "A", "standard", "interface", "is", "provided", "but", "hard", "to", "learn", ".", "No", "particular", "customer", "usage", "aid", "is", "offered", ".", "Third", "generation", "-LRB-", "3G", "-RRB-", ":", "``", "realize", "a", "pleasant", "use", "of", "high", "quality", "services", ",", "and", "they", "will", "come", "''", "Customers", "will", "find", "using", "the", "WIS", "helpful", ".", "They", "will", "do", "the", "marketing", ".", "3G-WIS", "'s", "typical", "characteristics", "are", ":", "high", "value", "and", "up-to-date", "content", ",", "high", "performance", ",", "brand", "value", "of", "the", "provider", ",", "and", "pleasant", "and", "easy", "use", "for", "casual", "as", "well", "as", "for", "frequent", "customers", ".", "Many", "WIS", "including", "several", "banking", "WIS", "are", "still", "2G", ".", "However", ",", "impressive", "and", "well-developed", "WIS", ",", "e.g.", ",", "the", "Amazon", "web-site", ",", "demonstrate", "the", "feasibil-ity", "of", "3G-WIS", ".", "The", "success", "of", "such", "WIS", "is", "based", "on", "deep", "understanding", "of", "the", "application", "area", ",", "the", "customers", "needs", ",", "abilities", "and", "habits", ".", "Adaptation", "to", "customers", "--", "if", "provided", "--", "is", "based", "on", "allocating", "the", "most", "suited", "subspace", "of", "the", "WIS", "application", "space", "to", "the", "customer", ".", "WIS", "can", "be", "classified", "into", "e-business", ",", "e-learning", ",", "edutainment", ",", "community", ",", "information", "and", "personality", "WIS.", ".", "In", "the", "e-business", "class", "the", "B2B", "systems", "have", "been", "more", "successful", "than", "B2C", "systems", ".", "This", "success", "results", "from", "well-understood", "usage", "scenarios", "built", "into", "the", "WIS.", ".", "We", "observe", "that", "usage", "scenarios", "are", "better", "understood", "for", "B2B-WIS", "than", "for", "B2C-WIS", ".", "Storyboarding", "is", "a", "design", "approach", "focusing", "on", "usage", "scenarios", ".", "However", ",", "so", "far", "it", "is", "mainly", "used", "employing", "pinboard", "approaches", ",", "see", "e.g.", "-LRB-", "Siegel", "1998", ",", "Van", "Duyne", "et", "al.", "2003", "-RRB-", ".", "Pinboard", "approaches", "map", "a", "number", "of", "scenarios", "observed", "in", "the", "application", "onto", "tree-structured", "web", "sites", ".", "Storyboarding", "in", "the", "movie", "business", "is", "used", "to", "design", "much", "more", "complex", "scenarios", ".", "To", "overcome", "this", "limitation", "the", "storyboard", "specification", "language", "SiteLang", "has", "been", "introduced", "in", "-LRB-", "Thalheim", "and", "D", "usterh", "oft", "2001", "-RRB-", ".", "Until", "now", "it", "has", "been", "applied", "in", "more", "that", "two", "dozen", "WIS", "projects", "of", "the", "Cottbus", "InfoTeam", "since", "1999", ".", "Our", "development", "experience", "implies", "that", "implementing", "3G-WIS", "requires", "sophisticated", "database", "support", ",", "see", "-LRB-", "Thalheim", "2000a", "-RRB-", ".", "Our", "approach", "to", "guarantee", "for", "this", "support", "is", "based", "on", "the", "theory", "of", "media", "types", ",", "which", "generalize", "database", "views", "-LRB-", "see", "e.g.", "-LRB-", "Schewe", "and", "Thalheim", "2001", "-RRB-", "-RRB-", ".", "Another", "finding", "from", "our", "practical", "experiences", "is", "that", "customer", "behavior", "has", "changed", ".", "They", "are", "no", "more", "patiently", "waiting", "until", "their", "needs", "are", "met", ".", "They", "require", "personal", "interfaces", ".", "Customization", "of", "system", "interfaces", "to", "users", "is", "37", "known", "for", "quite", "a", "while", ".", "However", ",", "WIS", "are", "targeting", "new", "and", "casual", "customers", ".", "These", "customers", "are", "not", "capable", "or", "willing", "to", "arrange", "for", "system", "adaptation", ".", "Internet", "service", "providers", "report", "customers", "frequently", "complaining", "about", "insufficient", "user-friendliness", "and", "unsophisticated", "WIS.", "1.2", "Problems", "of", "Complex", "Applications", "Modern", "applications", ",", "in", "particular", "WIS", "often", "appear", "to", "be", "relatively", "simple", ",", "if", "only", "their", "interface", "is", "considered", ".", "Their", "point-and-click", "operating", "mode", "is", "de-liberately", "set", "up", "in", "a", "way", "that", "causes", "the", "impression", "of", "simplicity", ".", "Internally", ",", "however", ",", "things", "may", "be", "quite", "different", ".", "A", "client-server", "multi-tier", "architecture", "with", "HTML-server", ",", "database", "server", "and", "application", "server", "might", "be", "used", ".", "This", "implies", "some", "non-trivial", "development", "tasks", "done", "such", "as", "database", "design", "and", "development", "of", "an", "application", "programmer", "interface", "or", "similar", ".", "In", "addition", ",", "several", "customer", "types", "may", "be", "known", "to", "the", "application", "system", ".", "A", "WIS", "may", "appear", "very", "different", "to", "customers", "of", "different", "type", ".", "The", "functionality", "they", "access", ",", "however", ",", "is", "still", "the", "basic", "functionality", "as", "implemented", "by", "the", "servers", "mentioned", "before", ".", "Consequently", "as", "many", "function", "schemas", "and", "data", "schemas", "need", "to", "be", "developed", "as", "there", "are", "anticipated", "customer", "types", ".", "These", "schemas", "need", "to", "be", "integrated", "to", "develop", "a", "consistent", "view", "of", "the", "key", "application", "functionalities", ".", "Views", "that", "are", "based", "on", "these", "schemas", "need", "to", "be", "generated", "allowing", "the", "individual", "customers", "to", "operate", "with", "the", "application", "in", "the", "way", "that", "is", "most", "natural", "for", "them", ".", "The", "development", "of", "WIS", "thus", "can", "be", "a", "quite", "complex", "process", ".", "Among", "others", "the", "complexity", "of", "this", "development", "process", "depends", "on", "the", "degree", "of", "use", "of", "an", "underlying", "database", ",", "from", "which", "dynamic", "web", "pages", "are", "created", ".", "Furthermore", ",", "the", "complexity", "of", "this", "process", "depends", "on", "the", "number", "of", "versions", "of", "usage", "processes", "of", "the", "WIS", "that", "need", "to", "be", "anticipated", ".", "Since", "different", "usage", "processes", "may", "lead", "to", "different", "data", "and", "functionality", "accessible", "to", "customers", ".", "Additional", "complexity", "comes", "in", "--", "e.g.", "in", "the", "case", "of", "modern", "retail", "banking", "--", "when", "a", "requirement", "is", "set", "in", "place", "that", "various", "access", "channels", "--", "e.g.", "channels", "needed", "for", "cell-phone", "-", "or", "PDA-access", "--", "should", "be", "made", "available", "to", "customers", ".", "Apart", "from", "the", "purely", "technical", "problem", "arising", "from", "discretionary", "access", "channels", "the", "problem", "of", "layout", "for", "these", "channels", "has", "to", "be", "solved", ".", "1.3", "An", "Application", "Example", "An", "example", "of", "a", "WIS", "in", "retail", "banking", "showing", "a", "relatively", "high", "diversity", "of", "the", "usage", "process", "is", "online", "loan", "application", ",", "if", "considered", "in", "full", "generality", "as", "we", "do", "it", "here", ".", "For", "an", "introduction", "to", "lending", "in", "general", ",", "of", "which", "the", "loan", "business", "is", "just", "a", "part", ",", "see", "e.g.", "-LRB-", "Valentine", "1999", "-RRB-", ".", "Not", "all", "banks", "offer", "online", "home-loan", "application", "facilities", ".", "Those", "that", "provide", "such", "facilities", "do", "not", "necessarily", "allow", "customers", "to", "deal", "with", "them", "completely", "online", ".", "Banks", "that", "offer", "effective", "online", "loan", "application", "are", "the", "Swiss", "UBS", "AG", "and", "the", "New", "Zealand", "and", "Australia", "based", "ASB", "Bank", ".", "The", "acceptance", "of", "a", "longer", "interruption", "of", "service", "at", "the", "ASB", "site", "indicated", "that", "at", "least", "for", "this", "bank", "online", "home-loan", "application", "is", "not", "yet", "considered", "a", "major", "part", "of", "their", "business", ".", "Complexity", "in", "home-loan", "applications", "results", "from", "the", "fact", "that", "the", "applicant", "not", "necessarily", "is", "exactly", "one", "natural", "person", ".", "For", "each", "of", "the", "applicants", "properties", "and", "debts", "need", "to", "be", "identified", "and", "valuated", ".", "Often", "banks", "would", "accept", "only", "home-loan", "applications", "of", "at", "most", "two", "people", ",", "in", "general", "the", "couple", "that", "is", "going", "to", "live", "in", "the", "home", "financed", "with", "the", "loan", ".", "Complexity", "is", "further", "increased", "by", "the", "loan", "not", "necessarily", "being", "a", "fresh", "one", "but", "being", "already", "granted", "to", "someone", "who", "due", "to", "his", "or", "her", "financial", "conditions", "has", "chosen", "to", "move", "the", "loan", "to", "a", "different", "bank", ".", "Furthermore", ",", "the", "properties", "offered", "for", "securing", "the", "loan", "may", "belong", "to", "a", "variety", "of", "types", ".", "Some", "of", "these", "types", ",", "e.g.", "real", "estate", "property", "may", "require", "physical", "inspection", "to", "determine", "the", "value", "they", "can", "cover", ".", "Other", "properties", "such", "as", "financial", "instruments", ",", "i.e.", "shares", ",", "options", "or", "accounts", ",", "may", "only", "need", "an", "inquiry", "to", "the", "respective", "depot", "or", "account", ".", "If", "cash", "is", "a", "security", ",", "then", "it", "might", "even", "be", "impossible", "to", "finish", "the", "process", "electronically", ",", "as", "the", "cash", "needs", "to", "be", "brought", "to", "the", "bank", "branch", ",", "counted", "and", "deposited", ".", "It", "is", "similar", "with", "debts", ".", "On", "real", "estate", "properties", "there", "might", "be", "liabilities", "that", "require", "an", "assessment", "of", "the", "actual", "value", ".", "Of", "course", "there", "is", "quite", "a", "number", "of", "so-called", "loan", "structures", "-LRB-", "see", "-LRB-", "Valentine", "1999", ",", "p.", "226f", ".", "-RRB-", "-RRB-", "distinguishing", "between", "loans", ".", "For", "instance", ",", "they", "may", "differ", "from", "each", "other", "in", "their", "term", ",", "frequency", "of", "repayments", ",", "borrower", "'s", "authorization", "to", "increase", "the", "debt", "-LRB-", "e.g.", "overdraft", "facility", "-RRB-", ",", "the", "minimum", "security", "ratio", "or", "the", "repayment", "structure", ".", "The", "latter", "addresses", "the", "schema", "of", "how", "capital", "and", "interests", "are", "paid", "for", "by", "the", "customer", ".", "Independently", "of", "the", "loan", "structure", "a", "customer", "might", "chose", "among", "several", "loan", "options", "that", "specify", "how", "the", "interests", "develop", "over", "time", ",", "i.e.", "they", "may", "be", "fixed", "for", "a", "particular", "time", "period", "or", "they", "may", "float", "like", "general", "interest", "rates", "in", "banking", ".", "Apart", "from", "these", "principal", "choices", "in", "a", "home-loan", "there", "are", "a", "number", "of", "tools", "available", "for", "customer", "'s", "use", "throughout", "online", "home", "loan", "applications", "such", "as", "a", "borrowing", "power", "calculator", ",", "a", "repayment", "schedule", "calculator", ",", "etc.", ".", "Additionally", ",", "dictionaries", "of", "banking", "terms", ",", "act", "excerpts", "and", "comments", "as", "well", "as", "descriptions", "of", "the", "applying", "financial", "instruments", "need", "to", "be", "accessible", "to", "customers", ".", "All", "the", "possible", "options", "in", "the", "financial", "instruments", "and", "the", "respective", "variations", "of", "the", "WIS", "usage", "will", "only", "be", "considered", "by", "a", "small", "number", "of", "customers", ".", "In", "more", "technical", "terms", "we", "have", "to", "deal", "with", "a", "generic", "process", "type", ".", "Most", "of", "its", "instances", "realize", "only", "a", "part", "of", "the", "possible", "variations", ".", "At", "present", "online", "home-loan", "application", "systems", "are", "not", "typical", "retail", "banking", "applications", ".", "Automated", "clearing", "house", "-LRB-", "ACH", "-RRB-", ",", "i.e.", "direct", "deposit", "of", "payments", ",", "withdrawing", "monthly", "mortgage", "payments", ",", "etc.", "are", "more", "typical", ".", "According", "to", "-LRB-", "Berger", "2003", ",", "p.", "150f", ".", "-RRB-", "its", "use", "in", "the", "US", "is", "steeply", "increasing", "and", "has", "after", "starting", "problems", "even", "increased", "productivity", ".", "However", ",", "ACH", "is", "a", "back-office", "activity", ",", "whereas", "online", "home-loan", "application", "is", "a", "customer-home", "or", "front-office", "activity", ".", "According", "to", "-LRB-", "Berger", "2003", ",", "p.", "149", "-RRB-", "internet-only", "banks", "performed", "more", "poorly", "than", "conventional", "banks", "did", ".", "If", "this", "finding", "implies", "that", "online", "home-loan", "applications", "are", "less", "productive", "than", "conventional", "home-loan", "application", "processing", "then", "we", "believe", "that", "this", "is", "only", "a", "temporary", "phenomenon", ".", "We", "believe", "that", "cultural", "obstacles", "concerning", "internet-banking", "will", "disappear", "when", "3G-WIS", "have", "become", "more", "popular", ".", "According", "to", "-LRB-", "Berger", "2003", "-RRB-", "there", "is", "empirical", "evidence", "for", "an", "increasing", "market", "share", "of", "electronic", "payment", ".", "According", "to", "studies", "reported", "in", "-LRB-", "Berger", "2003", ",", "p.", "162", "-RRB-", "there", "is", "even", "empirical", "evidence", "for", "increased", "productivity", "due", "to", "investment", "in", "IT", "labor", ",", "while", "there", "is", "no", "empirical", "evidence", "for", "IT", "investments", "increasing", "efficiency", "in", "general", ".", "This", "is", "consistent", "with", "the", "basic", "insight", "that", "not", "the", "mere", "use", "of", "IT", "but", "the", "kind", "and", "quality", "of", "this", "use", "can", "increase", "productivity", ".", "Our", "paper", "shall", "help", "making", "3G-WIS", "more", "popular", "and", "thus", "contributes", "to", "internet", "banking", "more", "completely", "covering", "the", "business", "at", "a", "higher", "level", "of", "quality", ".", "38", "1.4", "Related", "Work", "A", "lot", "of", "related", "work", "has", "been", "done", "on", "the", "development", "of", "web", "information", "systems", ".", "The", "work", "in", "-LRB-", "Atzeni", "et", "al.", "1998", "-RRB-", "emphasizes", "the", "design", "of", "content", "leading", "to", "databases", ",", "navigation", "leading", "to", "hypertext", ",", "and", "presentation", "leading", "to", "the", "pages", "layout", ".", "Other", "authors", "-LRB-", "see", "for", "example", "-LRB-", "Baresi", "et", "al.", "2000", "-RRB-", ",", "-LRB-", "Bonifati", "et", "al.", "2000", "-RRB-", ",", "-LRB-", "G", "adtke", "and", "Turowski", "1999", "-RRB-", "and", "-LRB-", "Rossi", "et", "al.", "1999", "-RRB-", "-RRB-", "follow", "the", "same", "lines", "of", "thought", "or", "concentrate", "on", "the", "``", "add-on", "''", "to", "database", "design", ",", "emphasizing", "mainly", "the", "hypertext", "design", "dealing", "with", "navigation", "structures", "-LRB-", "see", "-LRB-", "Garzotto", "et", "al.", "1993", "-RRB-", "and", "-LRB-", "Schwabe", "and", "Rossi", "1998", "-RRB-", "-RRB-", ".", "The", "work", "in", "-LRB-", "Feyer", "et", "al.", "1998", "-RRB-", "presents", "the", "forerunner", "of", "the", "theory", "of", "media", "types", "-LRB-", "see", "-LRB-", "Schewe", "and", "Thalheim", "2001", "-RRB-", "-RRB-", ".", "Media", "types", "provide", "a", "theoretically", "sound", "way", "to", "integrate", "databases", ",", "external", "views", ",", "navigation", "structures", ",", "operations", ",", "and", "even", "support", "adaptivity", "to", "different", "users", ",", "environments", "and", "channels", ".", "The", "adaptivity", "feature", "distinguishes", "them", "from", "the", "dialogue", "types", "that", "are", "used", "to", "integrate", "database", "systems", "with", "their", "user", "interfaces", "-LRB-", "see", "-LRB-", "Schewe", "and", "Schewe", "2000", "-RRB-", "-RRB-", ".", "The", "work", "in", "-LRB-", "Schewe", "and", "Thalheim", "2001", "-RRB-", "already", "emphasizes", "that", "conceptual", "abstraction", "from", "content", ",", "functionality", ",", "and", "presentation", "of", "an", "intended", "site", "is", "not", "sufficient", "for", "the", "adequate", "conceptual", "modelling", "of", "web-based", "systems", ",", "even", "if", "complex", "media", "types", "are", "taken", "into", "consideration", ".", "Some", "of", "the", "approaches", "mentioned", "before", "-LRB-", "see", "-LRB-", "Atzeni", "et", "al.", "1998", "-RRB-", ",", "-LRB-", "Baresi", "et", "al.", "2000", "-RRB-", ",", "-LRB-", "Bonifati", "et", "al.", "2000", "-RRB-", ",", "-LRB-", "G", "adtke", "and", "Turowski", "1999", "-RRB-", ",", "-LRB-", "Rossi", "et", "al.", "1999", "-RRB-", ",", "-LRB-", "Garzotto", "et", "al.", "1993", "-RRB-", "and", "-LRB-", "Schwabe", "and", "Rossi", "1998", "-RRB-", "-RRB-", "miss", "out", "on", "the", "important", "aspect", "of", "story", "boarding", ",", "which", "is", "needed", "to", "capture", "the", "business", "content", "of", "the", "system", ".", "Story", "boarding", "in", "a", "process-oriented", "holistic", "manner", "focusses", "on", "user", "intentions", ".", "In", "more", "recent", "work", "some", "of", "the", "authors", "-LRB-", "Kaschek", "et", "al.", "2003a", "-RRB-", "started", "to", "investigate", "this", "idea", "more", "thoroughly", ".", "Conceptual", "modelling", "traditionally", "considered", "more", "ontolog-ical", "aspects", "than", "epistemological", "ones", ".", "Since", "web", "information", "systems", "in", "two", "respects", "considerably", "differ", "from", "non-web", "information", "systems", "epistemological", "aspects", ",", "however", ",", "need", "to", "be", "taken", "more", "seriously", ":", "Web", "information", "systems", "are", "open", "in", "the", "sense", "that", "actual", "users", "virtually", "may", "be", "just", "anyone", ".", "In", "non-web", "system", "there", "was", "traditionally", "a", "much", "stricter", "access", "control", "preventing", "non-staff", "from", "using", "the", "system", ".", "The", "business", "idea", ",", "however", ",", "has", "changed", "and", "customers", "need", "to", "be", "attracted", "and", "pre-selected", "by", "a", "web", "information", "system", ".", "Furthermore", ",", "web", "information", "systems", "are", "open", "in", "the", "sense", "that", "it", "is", "very", "easy", "to", "use", "them", "for", "accessing", "other", "web", "systems", ".", "This", "introduces", "more", "competition", "among", "those", "who", "offer", "services", "on", "the", "web", ".", "Quality", "of", "web", "information", "systems", "in", "the", "sense", "of", "fitness", "for", "users", "'", "use", "thus", "tends", "to", "be", "more", "important", "than", "it", "was", "for", "non-web", "systems", ".", "Web", "information", "systems", "partly", "substitute", "staff-customer", "interaction", "by", "customer-computer", "interaction", ".", "Consequently", ",", "web", "information", "systems", "must", "focus", "on", "aiding", "customers", "in", "doing", "the", "business", "the", "system", "provider", "is", "engaged", "in", ".", "Clearly", "this", "only", "can", "be", "done", "on", "the", "basis", "of", "a", "customer", "model", ".", "User", "profiling", "together", "with", "story", "boarding", "is", "a", "holistic", "manner", "for", "this", ".", "In", "-LRB-", "Schewe", "and", "Thalheim", "2001", "-RRB-", "it", "is", "suggested", "that", "story", "boarding", "be", "supported", "through", "directed", "graphs", "called", "scenarios", ",", "in", "which", "the", "nodes", "represent", "the", "scenes", "and", "the", "edges", "correspond", "either", "to", "navigation", "or", "to", "actions", "issued", "by", "the", "user", ".", "This", "extends", "the", "work", "in", "-LRB-", "Feyer", "et", "al.", "1998", "-RRB-", ",", "where", "simply", "partially", "ordered", "sets", "have", "been", "used", ".", "In", "addition", ",", "user", "profiling", "is", "approached", "by", "using", "user", "dimensions", "capturing", "various", "aspects", "of", "how", "to", "characterise", "users", ".", "This", "has", "been", "extended", "in", "-LRB-", "Srinivasa", "2001", "-RRB-", "to", "a", "formal", "description", "of", "interactive", "systems", ".", "The", "work", "in", "-LRB-", "D", "usterh", "oft", "and", "Thalheim", "2001", "-RRB-", "presents", "a", "formalised", "language", "SiteLang", "to", "support", "the", "specification", "of", "story", "boards", ".", "the", "work", "also", "indicates", "ideas", "how", "to", "exploit", "word", "fields", "for", "designing", "dialogue", "steps", "in", "story", "boards", ".", "In", "-LRB-", "Schewe", "et", "al.", "1995", "-RRB-", "and", "-LRB-", "Schewe", "1996", "-RRB-", "refinement", "primitives", "for", "dialogues", "have", "been", "discussed", ".", "Due", "to", "the", "connection", "between", "dialogues", "and", "scenarios", ",", "this", "approach", "to", "refinement", "is", "also", "useful", "for", "story", "boarding", ".", "The", "work", "in", "-LRB-", "Schewe", "et", "al.", "2002", "-RRB-", "applies", "story", "boarding", "and", "user", "profiling", "to", "the", "area", "of", "on-line", "loan", "systems", ".", "1.5", "Outline", "In", "section", "2", "we", "discuss", "WIS", "specification", ",", "in", "particular", "story", "spaces", "and", "scenarios", ",", "we", "further", "discuss", "media", "objects", ",", "dialogue-step", "specification", "and", "context", ".", "In", "the", "following", "section", "3", "we", "discuss", "database", "design", "for", "WIS", ",", "utilization", "of", "context", "for", "WIS", "and", "a", "stepwise", "WIS", "generation", "approach", "called", "``", "onion", "generation", "''", ".", "Finally", ",", "in", "section", "4", "we", "continue", "the", "discussion", "of", "our", "example", "and", "show", "how", "our", "approach", "can", "be", "applied", "to", "modelling", "of", "WIS.", ".", "Due", "to", "space", "restrictions", ",", "however", ",", "we", "can", "only", "discuss", "the", "storyboarding", "part", ".", "2.1", "Story", "Spaces", "and", "Scenario", "Modelling", "usage", "processes", "right", "from", "the", "beginning", "of", "systems", "development", "requires", "using", "a", "sufficiently", "expressive", "high", "level", "semantic", "model", "as", "a", "respective", "conceptual", "framework", ".", "Storyboarding", "uses", "the", "metaphor", "``", "story", "''", "to", "conceptualize", "usage", "processes", ".", "We", "presuppose", "that", "a", "story", "-LRB-", "for", "the", "source", "of", "the", "interrogatives", "used", "here", "refer", "to", "-LRB-", "Zachman", "1987", ",", "Sowa", "and", "Zachman", "1992", "-RRB-", "-RRB-", "tells", "what", "happened", ",", "why", "and", "where", ",", "as", "well", "as", "who", "did", "it", "how", "and", "when", ".", "The", "story", "of", "customer-WIS", "interaction", "thus", "is", "the", "intrigue", "or", "plot", "of", "a", "narrative", "work", "or", "an", "account", "of", "events", ".", "Within", "a", "story", "one", "can", "distinguish", "threads", "of", "activity", ",", "so-called", "scenarios", ",", "i.e.", ",", "paths", "of", "scenes", "that", "are", "connected", "by", "transitions", ".", "See", "figure", "2.1", "for", "an", "example", "scenario", ".", "We", "do", "not", "intend", "to", "model", "branching", "stories", ".", "These", "require", "managing", "a", "number", "of", "activities", "at", "the", "same", "time", ",", "i.e.", ",", "in", "parallel", ".", "A", "capability", "that", "-", "as", "we", "believe", "-", "many", "casual", "customers", "wo", "n't", "have", ".", "With", "the", "term", "story", "space", "we", "mean", "the", "integration", "of", "all", "scenarios", "in", "a", "story", ".", "We", "define", "the", "story", "space", "W", "of", "a", "WIS", "W", "as", "the", "7-tuple", "-LRB-", "S", "W", ",", "T", "W", ",", "E", "W", ",", "G", "W", ",", "A", "W", ",", "W", ",", "W", "-RRB-", "where", "S", "W", ",", "T", "W", ",", "E", "W", ",", "G", "W", "and", "A", "W", "are", "the", "set", "of", "scenes", "created", "by", "W", ",", "the", "set", "of", "scene", "transitions", "and", "events", "that", "can", "occur", ",", "the", "set", "of", "guards", "and", "the", "set", "of", "actions", "that", "are", "relevant", "for", "W", ",", "respectively", ".", "Thus", ",", "T", "W", "is", "a", "subset", "of", "S", "W", "S", "W", ".", "Furthermore", "W", ":", "S", "W", "SceneSpec", "is", "a", "function", "associating", "a", "scene", "specification", "with", "each", "scene", "in", "S", "W", ",", "and", "W", ":", "T", "W", "E", "W", "G", "W", "A", "W", ",", "t", "-LRB-", "e", ",", "g", ",", "a", "-RRB-", "is", "a", "function", "associating", "with", "each", "scene", "transition", "t", "occurring", "in", "W", "the", "event", "e", "that", "triggers", "transition", "t", ",", "the", "guard", "g", ",", "i.e.", "a", "logical", "condition", "blocking", "the", "transition", "if", "it", "evaluates", "to", "false", "on", "occurrence", "of", "e", ",", "and", "the", "action", "a", "that", "is", "performed", "while", "the", "transition", "takes", "place", ".", "The", "language", "SiteLang", ",", "see", "-LRB-", "Thalheim", "and", "D", "usterh", "oft", "2001", "-RRB-", ",", "offers", "concepts", "and", "notation", "for", "specification", "of", "story", "spaces", ",", "scene", "and", "scenarios", "in", "them", ".", "Scenes", "and", "their", "specifications", "are", "discussed", "in", "subsection", "2.2", ".", "2.2", "Scenes", "We", "consider", "scenes", "as", "the", "conceptual", "locations", "at", "which", "the", "customer-WIS", "interaction", ",", "i.e.", ",", "dialogue", "39", "sc", "1", "-", "sc", "2", "-", "sc", "3", "-", "sc", "4", "-", "sc", "5", "-", "...", "y", "6", "?", "9", "side", "story", "Figure", "2.1", ":", "Scenario", "with", "a", "loop", "representing", "a", "side", "story", "takes", "place", ".", "Dialogues", "can", "be", "specified", "using", "so-called", "dialogue-step", "expressions", ".", "Scenes", "can", "be", "distinguished", "from", "each", "other", "by", "means", "of", "their", "identifier", ":", "Scene-ID", ".", "With", "each", "scene", "there", "is", "associated", "a", "media", "object", "and", "the", "set", "of", "actors", "that", "are", "involved", "in", "it", ".", "Furthermore", ",", "with", "each", "scene", "a", "representation", "specification", "is", "associated", "as", "well", "as", "a", "context", ".", "Scenes", "therefore", "can", "be", "specified", "using", "the", "following", "frame", ":", "Scene", "=", "-LRB-", "Scene-ID", "DialogueStepExpression", "MediaObject", "Actors", "ActorID", "Right", "Tasks", "Assigned", "Roles", "Representation", "-LRB-", "styles", ",", "defaults", ",", "emphasis", ",", "...", "-RRB-", "Context", "-LRB-", "equipment", ",", "channel", ",", "particular", "-RRB-", "Dialogue-step", "expressions", "consist", "of", "dialogues", "and", "operators", "applied", "to", "them", ".", "Dialogue", "steps", "are", "discussed", "in", "subsection", "2.4", "below", ".", "The", "provided", "operators", "are", "based", "on", "the", "basic", "dialogue", "step", "algebra", "introduced", "in", "-LRB-", "Thalheim", "and", "D", "usterh", "oft", "2001", "-RRB-", ":", "Basic", "control", "commands", "are", "sequence", ";", "-LRB-", "execution", "of", "steps", "in", "sequence", "-RRB-", ",", "parallel", "split", "|", "|", "-LRB-", "execute", "steps", "in", "parallel", "-RRB-", ",", "exclusive", "choice", "|", "|", "-LRB-", "choose", "one", "execution", "path", "from", "many", "alternatives", "-RRB-", ",", "synchronization", "|", "sync", "|", "-LRB-", "synchronize", "two", "parallel", "threads", "of", "execution", "by", "an", "synchronization", "condition", "sync", ",", "and", "simple", "merge", "+", "-LRB-", "merge", "two", "alternative", "execution", "paths", "-RRB-", ".", "The", "exclusive", "choice", "is", "considered", "to", "be", "the", "default", "parallel", "operation", "and", "is", "denoted", "by", "|", "|", ".", "Structural", "control", "commands", "are", "arbitrary", "cycles", "-LRB-", "execute", "steps", "w/out", "any", "structural", "restriction", "on", "loops", "-RRB-", ",", "arbitrary", "cycles", "+", "-LRB-", "execute", "steps", "w/out", "any", "structural", "restriction", "on", "loops", "but", "at", "least", "once", "-RRB-", ",", "optional", "execution", "-LSB-", "-RSB-", "-LRB-", "execute", "the", "step", "zero", "times", "or", "once", "-RRB-", ",", "implicit", "termination", "-LRB-", "terminate", "if", "there", "is", "nothing", "to", "be", "done", "-RRB-", ",", "entry", "step", "in", "the", "scene", "and", "termination", "step", "in", "the", "scene", ".", "Advanced", "branching", "and", "synchronization", "control", "commands", "are", "multiple", "choice", "|", "-LRB-", "m", ",", "n", "-RRB-", "|", "-LRB-", "choose", "between", "m", "and", "n", "execution", "paths", "from", "several", "alternatives", "-RRB-", ",", "multiple", "merge", "-LRB-", "merge", "many", "execution", "paths", "without", "synchronizing", "-RRB-", ",", "discriminator", "-LRB-", "merge", "many", "execution", "paths", "without", "synchronizing", ",", "execute", "the", "subsequent", "steps", "only", "once", "-RRB-", "n-out-of-m", "join", "-LRB-", "merge", "many", "execution", "paths", ",", "perform", "partial", "synchronization", "and", "execute", "subsequent", "step", "only", "once", "-RRB-", ",", "and", "synchronizing", "join", "-LRB-", "merge", "many", "execution", "paths", ",", "synchronize", "if", "many", "paths", "are", "taken", ",", "simple", "merge", "if", "only", "one", "execution", "path", "is", "taken", "-RRB-", ".", "We", "also", "may", "define", "control", "commands", "on", "multiple", "objects", "-LRB-", "CMO", "-RRB-", "such", "as", "CMO", "with", "a", "priori", "known", "design", "time", "knowledge", "-LRB-", "generate", "many", "instances", "of", "one", "step", "when", "a", "number", "of", "instances", "is", "known", "at", "the", "design", "time", "-RRB-", ",", "CMO", "with", "a", "priori", "known", "runtime", "knowledge", "-LRB-", "generate", "many", "instances", "of", "one", "step", "when", "a", "number", "of", "instances", "can", "be", "determined", "at", "some", "point", "during", "the", "runtime", "-LRB-", "as", "in", "FOR", "loops", "-RRB-", "-RRB-", ",", "CMO", "with", "no", "a", "priori", "runtime", "knowledge", "-LRB-", "generate", "many", "instances", "of", "one", "step", "when", "a", "number", "of", "instances", "can", "not", "be", "determined", "-LRB-", "as", "in", "a", "while", "loop", "-RRB-", "-RRB-", ",", "and", "CMO", "requiring", "synchronization", "-LRB-", "synchronization", "edges", "-RRB-", "-LRB-", "generate", "many", "instances", "of", "one", "activity", "and", "synchronize", "afterwards", "-RRB-", ".", "State-based", "control", "commands", "are", "deferred", "choice", "-LRB-", "execute", "one", "of", "the", "two", "alternative", "threads", ",", "the", "choice", "which", "tread", "is", "to", "be", "executed", "should", "be", "implicit", "-RRB-", ",", "interleaved", "parallel", "executing", "-LRB-", "execute", "two", "activities", "in", "random", "order", ",", "but", "not", "in", "parallel", "-RRB-", ",", "and", "milestone", "-LRB-", "enable", "an", "activity", "until", "a", "milestone", "has", "been", "reached", "-RRB-", ".", "Finally", ",", "cancellation", "control", "commands", "are", "used", ",", "e.g.", "cancel", "step", "-LRB-", "cancel", "-LRB-", "disable", "-RRB-", "an", "enabled", "step", "-RRB-", "and", "cancel", "case", "-LRB-", "cancel", "-LRB-", "disable", "-RRB-", "the", "step", "-RRB-", ".", "These", "control", "composition", "operators", "are", "generalizations", "of", "workflow", "patterns", "-LRB-", "see", ",", "e.g.", "-LRB-", "Workflow", "Management", "Coalition", "1999", ",", "Jablonski", "1996", "-RRB-", "-RRB-", "and", "follow", "approaches", "developed", "for", "Petri", "net", "algebras", ".", "A", "graphical", "representation", "of", "a", "login", "scene", "is", "given", "in", "figure", "2.2", ".", "We", "are", "interested", "in", "well-formed", "dialogues", "and", "do", "not", "allow", "specifications", "which", "lead", "to", "and-split", "or", "or-split", "common", "in", "workflow", "specifications", ".", "This", "scene", "is", "specified", "by", "the", "dialogue", "step", "expression", "Enter", "login", ";", "-LRB-", "Customer", "login", ";", "-LSB-", "Change", "profile", ";", "-RSB-", "-LRB-", "Service", "kind", "selection", ";", "Service", "selection", ";", "Service", "customization", "-RRB-", "|", "|", "Join", "cooperating", "group", "|", "|", "Join", "bank", "club", "|", "|", "Join", "bank", "programs", "|", "|", "General", "customer", "information", "-RRB-", "|", "|", "-LRB-", "Anonymous", "Login", ";", "-LSB-", "Extend", "adding", "identity", ";", "-RSB-", "-LRB-", "Program", "selection", ";", "Module", "selection", ";", "Unit", "selection", "-RRB-", "-RRB-", "Enter", "Login", ":", "U", "Change", "profile", "Y", "j", "General", "customer", "information", "Anonymous", "login", "j", ":", "Extend", "by", "adding", "identity", "K", "Service", "kind", "selection", "j", "Service", "seeking", "selection", "U", "Service", "customization", "Customer", "login", "K", "y", "j", "U", ":", "Join", "cooperating", "group", "Join", "bank", "program", "Join", "bank", "club", "Login", "Scene", "With", "Adaptation", "of", "System", "Facilities", "Figure", "2.2", ":", "Scene", "for", "Login", "Into", "a", "Bank", "WIS", "2.3", "Media", "Objects", "A", "scene", "is", "supported", "by", "media", "objects", "following", "the", "codesign", "approach", ".", "Media", "objects", "are", "instances", "of", "media", "types", ".", "40", "Bank", "Service", "Customer", "Service", "Role", "Customer", "Login", "Customer", "Profile", "Profile", "Type", "Task", "Portfolio", "Type", "Customer", "Portfolio", "Web", "Address", "Account", "Login", "History", "Figure", "2.3", ":", "Cutout", "of", "the", "profiling", "schema", "The", "core", "of", "a", "media", "type", "is", "defined", "by", "a", "view", "on", "some", "underlying", "database", "schema", ",", "i.e.", "it", "consists", "of", "a", "view", "schema", "and", "a", "defining", "query", ".", "However", ",", "this", "query", "must", "be", "able", "to", "create", "identifiers", "in", "order", "to", "create", "links", "between", "the", "various", "media", "objects", ".", "This", "core", "of", "a", "media", "type", "--", "called", "raw", "media", "type", "in", "-LRB-", "Schewe", "and", "Thalheim", "2001", "-RRB-", "--", "is", "extended", "in", "three", "directions", ":", "As", "a", "first", "extension", "operations", "are", "added", "to", "the", "view", "in", "the", "same", "way", "as", "d-operations", "were", "added", "to", "dialogue", "objects", "in", "-LRB-", "Schewe", "and", "Schewe", "2000", "-RRB-", ".", "Basically", ",", "the", "use", "of", "operations", "just", "adds", "dynamics", "to", "the", "media", "objects", ".", "So", ",", "if", "a", "media", "object", "is", "associated", "with", "a", "scene", ",", "the", "operations", "of", "the", "media", "object", "define", "the", "available", "dynamic", "functionality", ".", "The", "second", "extension", "provides", "adaptivity", "and", "hierarchies", ".", "Adaptivity", "to", "the", "user", "deals", "with", "needs", "arising", "from", "different", "users", ".", "Adaptivity", "to", "the", "technical", "environment", "copes", "with", "technical", "restrictions", "of", "end-devices", ".", "Adaptivity", "to", "the", "communication", "channel", "deals", "with", "adaptation", "to", "needs", "arising", "from", "various", "communication", "channels", ".", "For", "all", "three", "forms", "of", "adaptivity", "media", "types", "provide", "mechanisms", "for", "a", "controlled", "form", "of", "information", "loss", ",", "which", "is", "coupled", "with", "algorithms", "for", "the", "splitting", "of", "information", "content", ".", "The", "hierarchies", "are", "adopted", "from", "dimension", "hierarchies", "in", "OLAP", ".", "The", "third", "extension", "simply", "covers", "ordering", "and", "other", "presentation", "options", ".", "Thus", ",", "roughly", "speaking", "media", "objects", "consist", "of", "abstract", "containers", ",", "supported", "DBMS", "processes", "and", "database", "manipulations", "requests", ".", "Basic", "media", "objects", "-LRB-", "Schewe", "and", "Thalheim", "2000", "-RRB-", "are", "characterized", "by", "syntactic", "expressions", ",", "have", "a", "semantical", "meaning", "and", "are", "used", "within", "a", "certain", "pragmatical", "framework", ".", "Media", "objects", "can", "be", "parameterized", ".", "Typical", "parameters", "are", "the", "representation", "style", ",", "the", "actor", "frame", ",", "and", "the", "context", "frame", ".", "Therefore", "we", "distinguish", "between", "media", "objects", "and", "runtime", "media", "objects", "in", "which", "all", "parameters", "are", "instantiated", ".", "During", "runtime", ",", "the", "media", "object", "is", "extended", "by", "specific", "escort", "information", "-LRB-", "Thalheim", "2000", "-RRB-", ".", "This", "escort", "information", "is", "represented", "for", "user", "support", ".", "It", "allows", "the", "user", "to", "see", "the", "history", "of", "steps", "performed", "before", "being", "in", "the", "current", "state", ".", "Escort", "information", "is", "further", "generated", "from", "the", "story", "space", ".", "In", "this", "case", "a", "user", "is", "informed", "on", "alternative", "paths", "which", "could", "be", "used", "to", "reach", "the", "given", "scene", "and", "which", "might", "be", "used", "for", "backtracking", "from", "the", "current", "scene", ".", "For", "the", "generation", "of", "media", "objects", "and", "their", "composition", "on", "the", "basis", "of", "information", "units", "we", "extend", "the", "classical", "SQL", "frame", "to", "the", "frame", "generate", "Mapping", ":", "Vars", "Structure", "from", "Views", "where", "Selection", "condition", "represent", "using", "Style", "guide", "&", "Abstraction", "browsing", "definition", "Condition", "&", "Navigation", "The", "views", "and", "therefore", "the", "media", "object", "may", "have", "hidden", "parameters", "-LRB-", "for", "instance", ",", "EventID", "-RRB-", "which", "are", "not", "visible", "to", "the", "actor", ".", "They", "can", "be", "parameterized", "by", "variables", "-LRB-", "for", "instance", ",", "@Today", "-RRB-", ".", "For", "media", "objects", "we", "reuse", "ideas", "developed", "for", "OLAP", "technology", "-LRB-", "Thalheim", "2000", "-RRB-", ":", "views", "on", "ER", "schemata", "-LRB-", "abstraction", "on", "schemata", "-LRB-", "aggregation", ",", "scoping", ",", "...", "-RRB-", ",", "versions", "-RRB-", ",", "variations", "of", "generation", "functions", ",", "display", "with", "canonical", "functionality", "-LRB-", "drill-down", ",", "roll-up", ",", "rotate", ",", "pivoting", ",", "push", ",", "pull", ",", "dimension", ",", "aggregation", "-RRB-", ",", "using", "generic", "evaluation", "functions", "and", "models", ",", "implicit", "incorporation", "of", "hierarchies", "and", "implicit", "incorporation", "of", "time", ",", "space", ",", "...", ".", "Furthermore", ",", "involved", "actors", "are", "specified", "in", "dependence", "on", "their", "profiles", ",", "tasks", "assigned", "to", "them", ",", "their", "access", "and", "manipulation", "rights", ",", "and", "their", "roles", "to", "be", "taken", "while", "visiting", "the", "scene", ".", "This", "specification", "is", "based", "on", "-LRB-", "Altus", "2000", "-RRB-", "and", "similar", "to", "profiles", "of", "actors", "in", "information", "systems", ".", "It", "is", "our", "aim", "to", "specify", "generic", "scenes", ".", "Thus", ",", "we", "add", "the", "representation", "styles", "which", "can", "be", "applied", "to", "the", "media", "object", "of", "the", "scene", ".", "Representation", "depends", "on", "the", "equipment", "of", "the", "actor", ".", "In", "the", "city", "site", "projects", ",", "we", "have", "gained", "experience", "with", "different", "representation", "styles", ":", "internet", "display", "with", "high-speed", "channel", ",", "internet-display", "with", "medium", "speed", "display", "-LRB-", "default", "style", "-RRB-", ",", "videotext", "and", "WAP", "display", ".", "For", "instance", ",", "for", "videotext", "any", "graphical", "information", "is", "cut", "out", "or", "replaced", "by", "textual", "information", ".", "Finally", ",", "the", "context", "of", "access", "is", "specified", ".", "Access", "determines", "the", "display", "facilities", ".", "Channels", "can", "be", "of", "high", "or", "low", "speed", ".", "The", "particular", "usage", "of", "a", "scene", "by", "an", "actor", "depends", "on", "the", "scenario", "history", ".", "The", "login", "scene", "in", "Figure", "2.2", "is", "based", "on", "the", "schema", "in", "Figure", "2.3", ".", "The", "corresponding", "media", "object", "specification", "has", "the", "following", "structure", ":", "MediaObject", "-LRB-", "@Customer", "ID", "-RRB-", "=", "generate", "-LRB-", "ID", ",", "profile", ",", "portfolio", ",", "context", "-RRB-", "from", "Customer", "1", "Login", "Account", "History", "1", "Customer", "Profile", "1", "Customer", "Portfolio", "1", "...", "where", "Customer.ID", "=", "@Customer", "ID", "...", "represent", "using", "41", "XSL", "style.Ident", "=", "Profile", "Type.Preference.StyleIdent", "&", "createVarsFor", "-LRB-", "profile", ",", "portfolio", ",", "context", "-RRB-", "browsing", "definition", "Customer", "portfolio", "...", "&", "Navigation", "none", "The", "representation", "styles", "determine", "the", "order", "and", "the", "tailoring", "of", "the", "elements", "of", "the", "media", "object", ".", "2.4", "Dialogue", "Steps", "We", "conceptualize", "the", "customer-WIS", "interaction", "as", "a", "dialogue", "between", "these", "two", ".", "Therefore", "the", "customer-WIS", "interaction", "unfolds", "in", "a", "sequences", "of", "dialogue", "steps", ",", "i.e.", ",", "elementary", "communication", "acts", ".", "The", "basic", "WIS-state", "transformations", "triggered", "by", "actors", "can", "thus", "be", "understood", "as", "caused", "by", "dialogue", "steps", ".", "These", "may", "access", "the", "media", "object", "that", "is", "associated", "to", "the", "scene", "within", "which", "the", "dialogue", "step", "occurs", ".", "Comparable", "to", "-LRB-", "Goldin", "et", "al.", "2000", "-RRB-", "we", "use", "the", "following", "frame", "for", "specifying", "the", "control", "of", "dialogue", "steps", ":", "on", "precond", "if", "event", "and", "guard", "do", "action", "result", "in", "postcond", "Consequently", "dialogue", "steps", "may", "be", "specified", "by", "the", "following", "frame", ":", "DialogueStep", "-LRB-", "Identification", "-RRB-", "=", "-LRB-", "sub-unit", "=", "view", "on", "media", "object", "of", "the", "scene", "enabled", "processes", "=", "subset", "of", "supplied", "processes", ",", "manipulation", "requests", "actor", "=", "subset", "of", "enabled", "actors", "in", "a", "given", "context", "control", "=", "-LRB-", "precondition", ",", "enabling", "event", ",", "guard", ",", "postcondition", "-RRB-", "-RRB-", "Dialogue", "step", "specifications", "can", "be", "represented", "graphically", "as", "shown", "in", "figure", "2.4", ".", "The", "figure", "for", "the", "scene", "`", "anonymous", "login", "'", "represents", "the", "specification", "of", "dialogue", "step", "`", "login", "'", ".", "Anonymous", "login", "-RRB-", "BankSurveyView", "ServiceOfferView", "SelectModule", ",", "SelectCommunication", "NewSession", "AddToLog", "LogChannelData", "LogUserEngineData", "Anonymous", "User", ",", "Visitor", "6", "?", "-LRB-", "ClickAnonymous", ",", "ServicesAvailable", ",", "ServiceSelected", "CustomerStyleSelected", "ClickOnOneOption", "-RRB-", "Figure", "2.4", ":", "Dialogue", "Step", "for", "Anonymous", "Login", "Based", "on", "the", "properties", "of", "the", "actions", "we", "conclude", ",", "for", "instance", ",", "that", "after", "withdrawal", "a", "previous", "member", "of", "a", "cooperating", "group", "can", "not", "participate", "in", "the", "discussions", "in", "the", "community", ".", "A", "task", "property", "frame", "is", "defined", "by", "a", "task", "name", ",", "reasons", "for", "task", "involvement", ",", "an", "aim", ",", "a", "postcondition", "-LRB-", "enabled", "next", "activities", "-RRB-", ",", "the", "information", "from", "the", "database", ",", "the", "information", "for", "the", "database", ",", "the", "resources", "-LRB-", "actor", ",", "resources", ",", "partner", "-RRB-", ",", "and", "a", "starting", "situation", "-LRB-", "precondition", ",", "activity", ",", "priority", ",", "frequency", ",", "repetition", "rate", "-RRB-", ".", "We", "use", "graphical", "representations", "of", "scene", "specifications", "as", "indicated", "by", "figure", "2.5", ".", "Scenes", "are", "represented", "by", "frameboxes", "and", "dialogue", "steps", "by", "ellipses", ".", "The", "transitions", "among", "dialogue", "steps", "are", "represented", "by", "arrows", "between", "these", ".", "We", "use", "the", "graphical", "notation", "developed", "for", "state", "charts", ",", "e.g.", ",", "the", "default", "start", "step", "of", "a", "scene", "is", "denoted", "by", "a", "solid", "circle", ",", "the", "end", "state", "by", "a", "solid", "circle", "surrounded", "by", "an", "empty", "circle", ",", "the", "history", "entry", "into", "a", "scene", "is", "denoted", "by", "an", "`", "H", "'", "surrounded", "by", "an", "empty", "circle", ".", "Furthermore", ",", "we", "can", "adopt", "refinement", "and", "clustering", ",", "concurrency", ",", "delays", "and", "time-outs", ",", "transient", "states", ",", "event", "priorities", "and", "parameterized", "states", ".", "For", "more", "detail", "on", "state", "charts", "see", ",", "e.g.", "-LRB-", "Harel", "and", "Naamad", "1996", "-RRB-", "and", "for", "their", "application", "-LRB-", "Rumbaugh", "et", "al.", "1991", "-RRB-", ".", "dialogue", "step", "next", "dialogue", "step", "sub", "-", "unit", "enabled", "process", "manipulation", "sub-request", "enabled", "actor", "6", "?", "control", ":", "U", "dialogue", "scene", "expression", "transition", "according", "to", "scene", "involved", "actors", "story", "scene", "sequence", "media", "object", "representation", "style", "context", ",", "task", "6", "6", "6", "6", "6", "6", "Figure", "2.5", ":", "Representation", "of", "scene", "specifications", "2.5", "Context", "Context", "has", "been", "usually", "defined", "within", "the", "object", "sets", "of", "the", "database", "-LRB-", "Bell", "2001", ",", "Connolly", "2001", "-RRB-", ".", "There", "only", "very", "few", "trials", "to", "consider", "context", "of", "the", "scenarios", "or", "stories", "-LRB-", "Whitsey", "2003", "-RRB-", ".", "In", "-LRB-", "Thalheim", "2000a", "-RRB-", "context", "has", "been", "defined", "for", "media", "types", ".", "For", "dealing", "more", "complete", "and", "justifiable", "with", "context", "we", "start", "with", "a", "dictionary", "definition", "of", "context", "of", "something", "as", "that", "what", "one", "needs", "to", "understand", "the", "something", ".", "This", "implies", "our", "understanding", "of", "context", "as", "a", "three", "place", "predicate", "C", "-LRB-", "S", ",", "H", ",", "A", "-RRB-", "which", "if", "true", "says", "that", "actor", "A", "needs", "helper", "H", "to", "act", "reasonably", "on", "S", ".", "If", "the", "actor", "is", "an", "individual", "then", "we", "stay", "with", "the", "focus", "on", "understanding", ".", "For", "non-human", "actors", ",", "however", ",", "we", "focus", "on", "acting", "according", "to", "predefined", "quality", "aspects", "and", "behavior", "rules", ".", "The", "something", "we", "consider", "here", "as", "relevant", "are", "WIS-parts", ".", "The", "helpers", "we", "here", "take", "into", "account", "are", "the", "various", "data", "that", "are", "relevant", "for", "the", "WIS-parts", "in", "question", ".", "The", "actors", "we", "consider", "here", "are", "the", "WIS", "and", "the", "individuals", "occupying", "the", "roles", ":", "customer", ",", "vendor", "and", "developer", "with", "respect", "to", "the", "WIS", "at", "hand", ".", "We", "thus", "distinguish", "the", "following", "contexts", ":", "Customer", "'s", "scenario", "context", ",", "i.e.", ",", "that", "what", "the", "customer", "needs", "to", "understand", "for", "efficiently", "and", "ef-fectively", "solve", "his/her", "business", "problem", ".", "Vendor", "'s", "WIS-context", ",", "i.e.", ",", "that", "what", "the", "vendor", "needs", "to", "understand", "how", "to", "run", "the", "WIS", "economically", ".", "Data", "that", "typically", "is", "part", "of", "this", "context", "are", ":", "the", "intention", "of", "the", "provider", ",", "the", "theme", "of", "the", "web", "site", ",", "the", "mission", "or", "corporate", "identity", "of", "the", "site", ",", "and", "the", "occasion", "and", "purpose", "of", "the", "visits", "of", "actors", ".", "Developer", "'s", "WIS-context", ",", "i.e.", ",", "that", "what", "the", "developer", "needs", "to", "understand", "for", "being", "capable", "of", "implementing", "the", "WIS.", ".", "Data", "that", "typically", "is", "part", "of", "this", "context", "are", ":", "the", "potential", "environment", ",", "e.g.", "hard", "-", "and", "software", ",", "channels", ",", "the", "information", "system", ",", "especially", "the", "associated", "databases", ",", "42", "Context", "Dialogue", "Expression", "AcceptCond", "ID", "ID", "Do", "Condition", "Event", "Particular", "Default", "Obligat", "Usage", "Emphasis", "Profile", "Group", "-LRB-", "1,1", "-RRB-", "-LRB-", "1", ",", "n", "-RRB-", "-LRB-", "1,1", "-RRB-", "?", "enabled", "6", "?", "involved", ":", "Actor", "Dialogue", "Step", "uses", "6", "?", "used", "Right", ":", "Right", "Category", "Media", "Object", "Task", "Role", "Category", "Task", "Assignment", "?", "Representation", "Style", "6", "basedOn", "Scene", "Activity", "Sequence", "?", "?", "Story", "in", "Figure", "3.1", ":", "The", "Structure", "of", "the", "Web", "Site", "Database", "the", "story", "space", ",", "scenes", ",", "dialogue", "steps", ",", "roles", ",", "and", "rights", ",", "the", "tasks", "to", "be", "performed", "within", "the", "story", ",", "and", "the", "roles", "in", "the", "scenario", ".", "WIS", "'s", "scene", "context", ",", "i.e.", ",", "that", "what", "the", "WIS", "needs", "to", "be", "capable", "of", "making", "solving", "certain", "business", "problems", "easy", "and", "pleasant", "for", "customers", ".", "Data", "that", "typically", "is", "part", "of", "this", "context", "are", ":", "History", "and", "current", "usage", "allow", "context", "adaptation", "to", "scenarios", "which", "are", "played", "at", "present", "by", "the", "current", "user", ".", "Adaptation", "to", "the", "current", "environment", "is", "defined", "as", "context", "adaptation", "to", "the", "current", "channel", ",", "to", "the", "client", "infrastructure", "and", "to", "the", "server", "load", ".", "Users", "are", "grouped", "to", "actors", ".", "Therefore", ",", "we", "can", "define", "the", "current", "user", "by", "instantiation", "of", "the", "actor", ".", "Goals", "and", "particular", ",", "policy", "-LRB-", "exceptions", ",", "social", ",", "organizational", "-RRB-", "define", "a", "specialization", "of", "the", "content", ",", "structuring", "and", "functionality", "of", "a", "web", "page", ".", "A", "WIS", "is", "supported", "by", "media", "objects", "that", "belong", "to", "media", "types", ".", "The", "collection", "of", "all", "media", "types", "is", "called", "suite", ".", "Our", "framework", "offers", "four", "hooks", "for", "dealing", "with", "the", "context", "we", "need", "to", "consider", ":", "1", ".", "Specialization", "of", "media", "type", "suite", "for", "usage", "and", "user", "adaptation", ":", "The", "database", "types", "may", "have", "subtypes", "specializing", "the", "database", "types", ".", "Media", "types", "are", "defined", "on", "the", "basis", "of", "views", ".", "Therefore", ",", "we", "can", "follow", "the", "approach", "discussed", "in", "-LRB-", "Thalheim", "2000a", "-RRB-", "for", "specialization", "of", "types", ".", "Specialization", "is", "defin-able", "through", "specialization", "of", "types", ",", "instantiation", "of", "parameters", ".", "extension", "of", "types", ",", "and", "restriction", "and", "constraint", "application", ".", "2", ".", "Application", "of", "rules", "towards", "generation", "of", "extended", "suites", ":", "Suites", "can", "be", "extended", "by", "providing", "view", "rules", "defining", "views", "on", "top", "of", "the", "media", "types", ".", "This", "approach", "supports", "portfolio", "extension", "and", "container", "extension", ".", "3", ".", "Instantiation", "of", "explicit", "context", "parameters", "can", "be", "used", "for", "adaptation", "of", "web", "sites", "to", "the", "current", "profile", ",", "to", "the", "current", "environment", "or", "to", "the", "current", "workload", ".", "4", ".", "Storage", "of", "utilization", "profile", "similar", "to", "login", "track", "supports", "to", "use", "history", "of", "previous", "utilization", "of", "the", "web", "site", "by", "the", "user", ".", "We", "extend", "the", "web", "site", "database", "by", "explicit", "utilization", "logs", "for", "used", "media", "objects", ",", "preferences", "of", "usage", ",", "users", "workspace", "or", "work", "rooms", ",", "and", "variations", "of", "users", "media", "objects", "3.1", "Database", "Modelling", "for", "WIS", "Web", "site", "management", "becomes", "a", "nightmare", "whenever", "a", "web", "site", "has", "been", "developed", "in", "a", "handicraft", "approach", ".", "For", "this", "reason", ",", "generation", "of", "web", "sites", "is", "currently", "based", "on", "web", "site", "content", "management", ".", "Content", "management", "systems", "currently", "support", "the", "representation", "of", "web", "pages", "on", "a", "take-and-place", "metaphor", ":", "Select", "or", "compile", "the", "content", "objects", "of", "a", "page", ",", "compile", "the", "navigation", "structure", "and", "place", "the", "content", "objects", "using", "page", "frames", ".", "Our", "web", "site", "team", "also", "used", "this", "approach", ".", "This", "approach", "is", "entirely", "satisfying", "the", "needs", "as", "long", "as", "the", "general", "structure", "of", "a", "web", "site", "is", "stable", "and", "no", "adaptation", "to", "the", "user", "is", "required", ".", "In", "order", "to", "dynamically", "generate", "the", "web", "site", "we", "decided", "to", "store", "the", "web", "site", "stories", "in", "a", "database", ".", "The", "structure", "of", "this", "database", "is", "displayed", "in", "figure", "3.1", ".", "We", "specify", "the", "web", "site", "story", "space", "based", "on", "the", "our", "web", "SiteLang", ".", "This", "specification", "is", "inserted", "into", "the", "database", "by", "the", "SiteLang", "editor", ".", "We", "can", "now", "extract", "the", "page", "under", "consideration", "by", "an", "instantiated", "query", "from", "this", "database", ".", "Context", "may", "be", "infused", "directly", "depending", "on", "the", "query", "result", ".", "Similar", "to", "the", "context", "infusion", ",", "users", "of", "a", "web", "site", "have", "their", "own", "profile", ",", "their", "own", "portfolio", "and", "their", "history", ".", "This", "information", "is", "used", "for", "adapting", "the", "content", "of", "the", "web", "site", "to", "the", "current", "usage", ".", "3.2", "Context", "Infusion", "in", "Scenarios", "Typical", "business", "processes", "have", "a", "very", "large", "number", "of", "variants", ".", "Classically", ",", "workflow", "approaches", "have", "43", "been", "used", "for", "specification", "of", "such", "varieties", ".", "Since", "the", "complexity", "of", "variants", "might", "be", "much", "higher", "the", "workflow", "approach", "did", "not", "succeed", "in", "providing", "a", "sound", "basis", "for", "the", "specification", "of", "all", "variants", ".", "We", "observe", ",", "however", ",", "that", "in", "practice", "these", "varieties", "are", "internally", "structured", ".", "They", "may", "be", "composed", ",", "extended", "or", "filtered", "by", "smaller", "scenarios", ".", "e-banking", "challenges", "storyboarding", "by", "its", "orthogonality", "and", "variety", ".", "Instead", "of", "specifying", "all", "possible", "variants", "we", "prefer", "to", "model", "the", "generation", "mechanism", "of", "the", "very", "large", "variety", "of", "scenarios", ".", "This", "generation", "supports", "runtime", "adaptation", "to", "the", "current", "scenario", ",", "the", "context", "and", "other", "parameters", ".", "At", "the", "same", "time", ",", "banking", "sites", "are", "threatened", "to", "expose", "customers", "to", "the", "``", "lost", "in", "hyperspace", "syndrome", "''", ".", "Therefore", ",", "customers", "should", "be", "supported", "in", "tracking", "back", "onto", "the", "right", "path", ".", "Our", "solution", "to", "this", "challenge", "is", "based", "on", "generic", "parameters", "that", "are", "instantiated", "depending", "on", "the", "customer", ",", "the", "history", ",", "the", "context", "etc.", ".", "Each", "set", "of", "media", "objects", "is", "specified", "by", "a", "context-free", "expression", "with", "a", "set", "of", "parameters", ".", "These", "parameters", "are", "instantiated", "depending", "on", "the", "customer", "profile", ",", "the", "customer", "task", "portfolio", ",", "the", "customer", "computational", "environment", ",", "the", "presentation", "environment", ",", "and", "the", "available", "and", "accessible", "media", "objects", ".", "Instead", "of", "providing", "a", "full", "generation", "rule", "set", "we", "illustrate", "our", "approach", "on", "the", "basis", "of", "an", "example", ".", "A", "customer", "of", "a", "bank", "provides", "his/her", "identity", "e", "1", ",", "inserts", "some", "data", "e", "2", ",1", "and", "e", "2", ",2", "in", "any", "order", "or", "signs", "that", "the", "bank", "may", "request", "these", "data", "from", "somewhere", "else", "e", "2", ",3", ".", "Then", "the", "customer", "seeks", "a", "loan", "and", "fills", "the", "corresponding", "forms", "e", "3", ".", "The", "customer", "gives", "bail", "data", "in", "different", "variants", "-LRB-", "e", "5", ",1", "|", "|", "-LRB-", "e", "5", ",2", ";", "e", "5", ",3", "-RRB-", "-RRB-", ".", "The", "scenario", "is", "supported", "by", "the", "eight", "media", "objects", ".", "Now", "we", "can", "inject", "the", "context", "into", "the", "media", "object", "expression", "of", "the", "scenario", ".", "For", "instance", ",", "we", "may", "have", "the", "following", "stepwise", "refinements", ":", "Media", "objects", "of", "a", "scenario", ":", "e", "1", ";", "-LRB-", "-LRB-", "e", "2", ",1", "|", "|", "e", "2", ",2", "-RRB-", "|", "|", "e", "2", ",3", "-RRB-", ";", "e", "3", ";", "-LRB-", "e", "5", ",1", "|", "|", "-LRB-", "e", "5", ",2", ";", "e", "5", ",3", "-RRB-", "-RRB-", "Extending", "by", "objects", "syntactic", "verbal", "context", "and", "meta-information", ":", "e", "16", ";", "-LSB-", "e", "21", ";", "-RSB-", "e", "1", ";", "-LRB-", "-LRB-", "e", "2", ",1", "|", "|", "e", "2", ",2", "-RRB-", "|", "|", "e", "2", ",3", "-RRB-", ";", "e", "9", ";", "e", "3", ";", "-LRB-", "e", "10", "|", "|", "e", "11", "-RRB-", ";", "-LRB-", "e", "5", ",1", "|", "|", "-LRB-", "e", "5", ",2", ";", "e", "5", ",3", "-RRB-", "-RRB-", "Extending", "by", "story", "space", "associations", ",", "e.g.", ",", "side", "paths", ",", ",", "filtering", "against", "availability", "and", "compiling", "against", "the", "customer", "profile", "e", "16", ";", "-LSB-", "e", "21", ";", "-RSB-", "e", "1", ";", "-LRB-", "-LRB-", "e", "2", ",1", "|", "|", "-LRB-", "SB", "e", "2", ",2", "|", "|", "CB", "e", "2", ",2", "-RRB-", "-RRB-", "|", "|", "e", "2", ",3", "-RRB-", ";", "-LSB-", "-LRB-", "e", "17", ";", "e", "18", ";", "-RRB-", "-RSB-", "e", "9", ";", "Gr", "e", "3", ",1", ";", "An", "e", "3", ",2", ";", "Inf", "e", "3", ",3", ";", "F", "orm", "e", "3", ";", "-LRB-", "e", "10", "|", "|", "e", "11", "-RRB-", ";", "-LRB-", "e", "5", ",1", "|", "|", "-LRB-", "e", "5", ",2", ";", "e", "5", ",3", "-RRB-", "-RRB-", "Filtering", "with", "or", "extending", "by", "the", "web", "site", "context", ":", "e", "16", ";", "-LSB-", "e", "21", ";", "-RSB-", "e", "1", ";", "-LRB-", "SB", "e", "2", ",2", "|", "|", "e", "2", ",3", "-RRB-", ";", "-LSB-", "-LRB-", "e", "17", ";", "e", "18", ";", "-RRB-", "-RSB-", "e", "9", ";", "Gr", "e", "3", ",1", ";", "An", "e", "3", ",2", ";", "Inf", "e", "3", ",3", ";", "F", "orm", "e", "3", ";", "-LRB-", "e", "10", "|", "|", "e", "11", "-RRB-", ";", "-LRB-", "e", "5", ",2", ";", "e", "5", ",3", "-RRB-", "Coping", "customer", "'s", "history", "-", "already", "finished", "dialogue", "steps", "and", "repeating", "dialogue", "steps", ":", "e", "Repe", "1", ";", "-LSB-", "-LRB-", "e", "17", ";", "e", "18", ";", "-RRB-", "-RSB-", "e", "Repe", "9", ";", "Gr", "e", "3", ",1", ";", "An", "e", "3", ",2", ";", "Inf", "e", "3", ",3", ";", "F", "orm", "e", "3", ";", "-LRB-", "e", "10", "|", "|", "e", "11", "-RRB-", ";", "-LRB-", "e", "5", ",2", ";", "e", "5", ",3", "-RRB-", "Coping", "with", "customers", "history", "negotiation", "steps", "and", "pragmatical", "elements", ":", "e", "Repe", "1", ";", "e", "25", ";", "-LSB-", "-LRB-", "e", "17", ";", "e", "18", ";", "-RRB-", "-RSB-", "e", "Repe", "9", ";", "Gr", "e", "3", ",1", ";", "An", "e", "3", ",2", ";", "Inf", "e", "3", ",3", ";", "F", "orm", "e", "3", ";", "-LRB-", "e", "10", "|", "|", "e", "11", "-RRB-", ";", "-LRB-", "e", "5", ",2", ";", "e", "P", "rak", "5", ",2", ";", "e", "5", ",3", "-RRB-", "3.3", "The", "Onion", "Generation", "XML", "documents", "provide", "a", "universal", "structuring", "mechanism", ".", "XSL", "rules", "allow", "to", "generate", "XML", "documents", "from", "XML", "suites", ".", "This", "opportunity", "supports", "a", "multi-layer", "generation", "of", "web", "information", "systems", ".", "Thus", "we", "use", "the", "multi-layer", "onion", "generation", "presented", "in", "Figure", "3.2", ".", "presentation", "engine", "actor", "profile", "adaptation", ",", "equipment", "adaptation", ",", "channel", "adaptation", ",", "decomposer", ",", "style", "extension", "container", "engine", "services", "packages", ",", "wrapping", "functions", ",", "dialogue", "scene", "and", "scenario", "functions", "units", "engine", "survey", ",", "landmark", ",", "indexing", ",", "I/O", ",", "navigation", ",", "integration", "etc.", "functions", "view", "handler", "virtual", "materialized", "views", "update", "views", "DBS", "...", "DBMS", "Figure", "3.2", ":", "The", "Onion", "Approach", "to", "Stepwise", "WIS-Generation", "The", "onion", "generation", "approach", "is", "based", "on", "the", "layered", "structure", "of", "the", "WIS", "arising", "from", "the", "use", "of", "SiteLang", "and", "media", "objects", ".", "On", "the", "outermost", "shell", "the", "presentation", "facilities", "are", "introduced", ".", "This", "shell", "deals", "with", "style", "presentation", "functions", ".", "Containers", "used", "in", "the", "next", "inner", "shell", "are", "used", "to", "ship", "information", "from", "the", "web-server", "to", "the", "user", ".", "Thus", ",", "this", "shell", "deals", "with", "the", "adaptation", "to", "the", "user", "and", "his/her", "environment", ".", "The", "next", "inner", "shell", "handles", "the", "information", "units", ",", "i.e.", "the", "core", "media", "objects", ".", "Inside", "this", "shell", "we", "find", "further", "shells", "dealing", "with", "views", "on", "the", "underlying", "database", ",", "and", "innermost", "we", "find", "the", "database", "itself", ".", "The", "onion", "approach", "fits", "nicely", "into", "a", "translational", "approach", ",", "which", "generates", "consistent", "sets", "of", "XML", "documents", ".", "In", "our", "projects", "we", "used", "the", "XML", "extender", "of", "the", "database", "system", "DB2", "to", "generate", "XML", "documents", ".", "Thus", ",", "the", "layering", "approach", "to", "the", "generation", "of", "XML", "displayed", "in", "Figure", "3.2", "allows", "to", "use", "another", "strategy", "to", "generate", "XML", "documents", ".", "This", "facility", "is", "displayed", "in", "Figure", "3.3", ".", "This", "transformation", "approach", "has", "been", "success-fully", "used", "in", "two", "of", "our", "e-learning", "projects", "and", "our", "community", "services", "projects", ".", "These", "project", "require", "sophisticated", "context", "adaptation", ".", "The", "approach", "implements", "an", "XML", "suite", "on", "top", "of", "the", "relational", "DBMS", "DB2", ".", "The", "extended", "ER", "model", "-LRB-", "Thalheim", "2000", "-RRB-", "provides", "a", "better", "approach", "to", "XML", "suite", "generation", "than", "relational", "models", "or", "the", "classical", "ER", "model", "for", "a", "number", "of", "reasons", ":", "Structures", "can", "be", "defined", "already", "in", "complex", "nested", "formats", ".", "Types", "of", "higher", "order", "are", "supported", ".", "The", "model", "uses", "cardinality", "constraints", "with", "participation", "semantics", ".", "44", "conceptual", "representation", "abstract", "XML", "representation", "XML", "implementation", "on", "top", "of", "DB2", "dynamic", "scene", "object", "XML", "scene", "onion", "reflective", "adaptations", "container", "media", "object", "meta", "functions", "views", "functions", "=", "=", "=", "database", "schema", "-LRB-", "HERM", "-RRB-", "functors", "for", "XSLT", "functors", "for", "XSLT", "container", "onion", "media", "object", "onion", "XML", "suite", "DTD", "functors", "for", "XSLT", "functors", "for", "XSLT", "enriched", "XML", "suite", "enriched", "XML", "suite", "enriched", "XML", "suite", "XML", "documents", "DAC", "for", "DB2", "access", "?", "?", "?", "?", "?", "?", "?", "?", "j", "j", "j", "?", "?", "?", "?", "Figure", "3.3", ":", "The", "General", "Procedure", "for", "Translation", "from", "SiteLang", "to", "XML", "4.1", "Banking", "and", "Mortgages", "According", "to", "-LRB-", "Wierichs", "and", "Smets", "2001", "-RRB-", "a", "bank", "is", "an", "''", "...", "institution", "that", "as", "part", "of", "an", "economy", "offers", "financial", "services", ".", "The", "economical", "function", "of", "banks", "is", "to", "create", "a", "liquidity", "equalization", "in", "the", "cash", "flow", "that", "is", "reverse", "to", "the", "product", "and", "service", "flow", ".", "The", "focal", "points", "of", "the", "bank", "operational", "activity", "are", "conducting", "payments", ",", "acceptance", "of", "money", "for", "investment", ",", "and", "granting", "credits", ".", "''", "Furthermore", "the", "particular", "liquidity", "equalization", "that", "is", "chosen", "out", "of", "the", "set", "of", "possible", "such", "equalizations", "is", "a", "preferable", "one", ".", "The", "respective", "preference", "structure", "is", "worked", "out", "by", "banks", "on", "base", "of", "an", "assessment", "involving", "financing", "cost", "and", "interests", ",", "see", "-LRB-", "Matthews", "et", "al.", "2003", "-RRB-", ".", "A", "loan", "according", "to", "-LRB-", "Wierichs", "and", "Smets", "2001", "-RRB-", "is", "the", "``", "relinquishment", "of", "money", "or", "other", "fungible", "-LRB-", "...", "-RRB-", "properties", "connected", "with", "the", "obligation", "of", "the", "debtor", "to", "give", "back", "the", "relinquished", "in", "equal", "kind", ",", "quality", "and", "quantity", ".", "''", "An", "enhanced", "version", "of", "the", "model", "of", "the", "loan", "process", "is", "represented", "in", "figure", "4.1", "as", "a", "UML", "sequence", "diagram", ".", "It", "shows", "the", "roles", "involved", "in", "the", "loan", "process", "as", "the", "labels", "inside", "the", "rectangular", "boxes", "on", "the", "top", "of", "the", "diagram", ".", "It", "further", "indicates", "the", "concurrency", "that", "may", "be", "utilized", "in", "this", "process", ".", "It", "achieves", "this", "by", "means", "of", "showing", "the", "communication", "between", "the", "roles", ".", "This", "communication", "is", "represented", "by", "the", "arrows", "starting", "at", "the", "dashed", "lines", "that", "represent", "logical", "time", ",", "i.e.", ",", "life", "lines", "of", "the", "roles", ".", "The", "labels", "attached", "to", "the", "arrows", "indicate", "the", "content", "of", "the", "message", "associated", "with", "the", "respective", "arrow", ".", "The", "bottom", "level", "rectangle", "containing", "the", "messages", "`", "Payback", "-LRB-", "-RRB-", "'", "and", "`", "CheckPayback", "-LRB-", "-RRB-", "'", "signifies", "that", "these", "messages", "are", "to", "be", "repeatedly", "sent", "until", "the", "stop", "condition", "signified", "by", "the", "asterisk", "and", "displayed", "below", "the", "rectangle", "`", "debit", "position", "balanced", "'", "becomes", "true", ".", "4.2", "Mortgages", "and", "variants", "The", "figure", "4.1", "from", "a", "bank", "technical", "point", "of", "view", "schematizes", "the", "process", ".", "This", "process", "clearly", "is", "not", "fully", "suited", "as", "the", "only", "base", "of", "application", "development", ".", "For", "aiding", "development", "more", "information", "is", "needed", "about", "how", "customers", "are", "anticipated", "to", "interact", "with", "the", "system", "under", "construction", ".", "We", "use", "here", "the", "function", "W", "of", "the", "story", "space", "W", "of", "a", "WIS", "W", "to", "show", "how", "the", "customer", "interaction", "with", "the", "WIS", "changes", "the", "appearance", "of", "it", "for", "the", "customer", "Story", "boarding", "is", "a", "useful", "technique", "to", "obtain", "the", "required", "information", ".", "Our", "respective", "starting", "point", "is", "the", "investigation", "of", "the", "Web", "site", "of", "the", "Australian", "and", "New", "Zealand", "based", "ASB", "Bank", ".", "From", "earlier", "work", ",", "see", "-LRB-", "Kaschek", "et", "al.", "2003", "-RRB-", "we", "knew", "that", "it", "offered", "an", "online", "loan", "application", "facility", ".", "We", "investigated", "this", "Web", "site", "more", "closely", "and", "found", "that", "this", "site", "at", "each", "of", "its", "pages", "essentially", "offered", "customers", "data", "that", "can", "be", "typed", "as", "follows", ":", "advertisement", ",", "i.e.", ",", "information", "about", "ASB", "Bank", "including", "a", "welcome", "and", "a", "logo", ".", "disclaimer", ",", "i.e.", ",", "a", "statement", "limiting", "the", "legal", "responsibility", "of", "ASB", "Bank", "with", "respect", "to", "the", "data", "displayed", "and", "the", "implications", "customers", "might", "draw", "from", "it", ".", "search", ",", "i.e.", ",", "a", "facility", "taking", "an", "unlimited", "customer", "input", "and", "returning", "those", "ASB", "Bank", "pages", "that", "best", "met", "this", "search", "expression", ".", "highlights", ",", "i.e.", ",", "the", "main", "contents", "that", "ASB", "Bank", "wants", "to", "be", "displayed", "at", "each", "particular", "of", "its", "Web", "pages", ".", "path", ",", "i.e.", ",", "a", "redundancy", "eliminated", "sequence", "of", "ASB", "Bank", "Web", "pages", "visited", "so", "far", "by", "the", "customer", "interacting", "with", "the", "site", "and", "supposed", "to", "be", "used", "as", "a", "navigation", "aid", ".", "reference", ",", "i.e.", ",", "a", "couple", "of", "links", "the", "target", "of", "which", "offer", "more", "information", "about", "the", "page", "actually", "visited", "by", "the", "customer", ".", "business", "branch", "selector", ",", "i.e.", ",", "a", "navigation", "bar", "that", "breaks", "down", "the", "information", "space", "of", "the", "site", "into", "subspaces", "according", "to", "the", "business", "branches", "of", "ASB", "Bank", ".", "subspace", "selector", ",", "i.e.", ",", "a", "navigation", "bar", "that", "for", "each", "subspace", "that", "corresponds", "to", "a", "business", "branch", "breaks", "down", "the", "subspace", "into", "2nd", ".", "level", "subspaces", ".", "subspace", "navigator", ",", "i.e.", ",", "for", "each", "2nd", ".", "level", "subspace", "a", "navigation", "bar", "breaking", "down", "the", "subspace", "in", "a", "number", "of", "information", "space", "locations", ".", "45", "Marketer", "Customer", "ProductAd", "-LRB-", "-RRB-", "Inquiry", "-LRB-", "-RRB-", "RevisedProductAd", "-LRB-", "-RRB-", "Analyst", "Application", "-LRB-", "-RRB-", "Lender", "ApplicationApproval", "-LRB-", "-RRB-", "Notification", "-LRB-", "-RRB-", "Service", "Documentation", "-LRB-", "-RRB-", "Documentation", "-LRB-", "-RRB-", "SignedContract", "-LRB-", "-RRB-", "SignedContract", "-LRB-", "-RRB-", "Accounts", "AdvanceFunds", "-LRB-", "-RRB-", "PositionsGenerated", "-LRB-", "-RRB-", "Payback", "-LRB-", "-RRB-", "UseLoan", "-LRB-", "-RRB-", "Moniter", "Start", "-LRB-", "-RRB-", "CheckPayback", "-LRB-", "-RRB-", "*", "-LSB-", "debit", "position", "balanced", "-RSB-", "Figure", "4.1", ":", "UML", "diagram", "representing", "the", "loan", "process", "We", "have", "then", "represented", "the", "navigation", "structure", "offered", "by", "the", "ASB", "Web", "site", "as", "a", "state", "chart", "the", "states", "of", "which", "represent", "scenes", ".", "The", "state", "transitions", "are", "presupposed", "to", "be", "triggered", "by", "customers", "clicking", "links", ",", "i.e.", ",", "navigation", "events", ".", "The", "labels", "attached", "to", "the", "state", "transitions", "are", "a", "string", "representing", "the", "navigation", "event", "and", "an", "action", "carried", "out", "throughout", "the", "transition", ".", "This", "action", "is", "prefixed", "by", "a", "slash", ",", "i.e.", ",", "by", "''", "/", "''", ".", "The", "semantics", "of", "the", "action", "is", "specified", "in", "form", "of", "a", "programming", "language", "like", "assignment", "and", "assigns", "new", "values", "to", "variables", "holding", "the", "data", "listed", "above", ".", "In", "this", "way", "one", "can", "specify", "what", "data", "and", "functionality", "is", "accessible", "to", "a", "customer", "at", "a", "particular", "scene", ".", "Explanations", "and", "tables", "or", "the", "like", "are", "presupposed", "to", "be", "just", "text", ".", "All", "other", "transition", "labels", "used", "as", "values", "in", "assignments", "are", "presupposed", "to", "be", "links", ".", "If", "a", "variable", "is", "supposed", "to", "hold", "several", "links", "then", "these", "are", "connected", "by", "a", "plus", "sign", ",", "i.e.", ",", "by", "''", "+", "''", ".", "If", "more", "than", "one", "action", "has", "to", "take", "place", "at", "a", "transition", "then", "all", "these", "actions", "are", "connected", "by", "a", "&", "-", "sign", ".", "The", "variables", "used", "in", "figure", "4.2", "are", "D", ",", "S", ",", "H", ",", "A", ",", "R", "and", "P", "respectively", "representing", "values", "of", "type", "disclaimer", ",", "search", "facility", ",", "highlight", ",", "advertisement", ",", "references", "and", "path", ".", "Those", "of", "them", "being", "displayed", "at", "a", "particular", "page", "are", "represented", "as", "non", "delimited", "string", ",", "i.e.", ",", "if", "all", "of", "them", "occur", "the", "string", "DSHARP", "is", "attached", "as", "label", "to", "the", "state", "representing", "the", "page", ".", "Furthermore", "the", "variables", "BS", ",", "SS", "and", "SN", "are", "used", "to", "respectively", "represent", "values", "of", "type", "business", "branch", "selector", ",", "subspace", "selector", "and", "subspace", "navigator", ".", "The", "initial", "state", "in", "the", "figure", "is", "reached", "after", "moving", "onto", "the", "home", "page", "of", "ASB", "Bank", "and", "clicking", "BS.Personal", "which", "signifies", "the", "business", "branch", "of", "retail", "banking", ".", "The", "other", "1st", ".", "level", "subspaces", "of", "the", "application", "'s", "information", "space", "are", "``", "All", "''", ",", "``", "Business", "''", ",", "``", "Institutional", "''", "and", "``", "Rural", "''", "in", "the", "obvious", "meaning", ".", "The", "subspace", "selector", "of", "``", "BS.Personal", "''", "allows", "to", "chose", "from", "18", "different", "2nd", ".", "level", "subspaces", ".", "One", "of", "them", "is", "Home", "loans", ".", "Clicking", "it", ",", "i.e.", ",", "``", "BS.Personal-SS", ".", "Home", "loans", "''", "leads", "to", "the", "initial", "state", "of", "figure", "4.2", ".", "If", "required", "we", "could", "add", "further", "navigation", "detail", "including", "the", "impact", "of", "navigation", "on", "the", "variables", "occurring", "in", "the", "figure", ".", "Furthermore", "if", "it", "would", "be", "required", "we", "could", "add", "further", "variables", "to", "represent", "data", "of", "types", "here", "not", "dealt", "with", ".", "4.3", "Adaptation", "to", "customers", ",", "context", "and", "specific", "case", "Adaptation", "to", "customers", "is", "a", "must", "if", "optimal", "customer", "support", "is", "aimed", "at", ".", "ASB", "Bank", "realizes", "a", "limited", "customer", "adaptation", "in", "that", "it", "offers", "in", "the", "subspace", "selector", "of", "BS.Personal", "second", "level", "subspaces", "both", "for", "kids", "and", "for", "young", "folks", ".", "ASB", "Bank", "concerning", "the", "home", "loan", "subspace", "of", "its", "information", "space", "does", "not", "offer", "much", "adaptation", "to", "customers", ".", "It", "only", "offers", "a", "bank", "technical", "terms", "dictionary", "and", "specif-ically", "addresses", "first", "home", "buyers", ".", "Neither", "are", "all", "New", "Zealand", "official", "language", "versions", "of", "the", "Web", "site", "available", "nor", "can", "it", "be", "tuned", "to", "meet", "any", "kind", "of", "disabilities", "such", "as", "weak", "eyesight", "or", "color", "blindness", ".", "The", "approach", "to", "adaptation", "to", "customers", "taken", "by", "sites", "like", "the", "one", "under", "investigation", "consists", "in", "identifying", "the", "subspace", "of", "the", "information", "space", "they", "create", "that", "most", "likely", "will", "fit", "best", "the", "needs", "of", "a", "particular", "customer", ".", "The", "match", "between", "customer", "and", "subspace", "is", "then", "done", "such", "that", "the", "customer", "is", "asked", "to", "give", "some", "characteristics", "of", "him", "or", "her", "into", "the", "system", "and", "based", "on", "that", "the", "respective", "subspace", "is", "chosen", ".", "ASB", "Bank", "does", "so", "concerning", "kids", "and", "young", "folks", ".", "Other", "banks", "have", "additionally", "the", "customer", "type", "student", "or", "wealthy", "individual", ".", "This", "strategy", "is", "suggested", "by", "the", "fact", "that", "the", "site", "vendor", "in", "general", "does", "not", "know", "much", "about", "the", "individuals", "accessing", "its", "site", ".", "A", "technique", "to", "consider", "knowledge", "about", "customers", "to", "the", "design", "process", "is", "the", "creation", "and", "use", "of", "personas", ",", "i.e.", ",", "archetypical", "customers", "and", "design", "the", "navigation", "structure", "as", "well", "as", "the", "page", "layout", "such", "that", "it", "fits", "optimally", "to", "the", "personas", "used", ".", "Concerning", "more", "detail", "about", "personas", "in", "particular", "their", "construction", "see", ",", "e.g.", "-LRB-", "Wodtke", "2003", ",", "pp.", "159", "-RRB-", "Adaptation", "of", "the", "business", "case", "at", "hand", "of", "course", "can", "only", "be", "achieved", "in", "response", "to", "the", "customer-site", "interaction", ".", "In", "the", "navigation", "structure", "diagram", "in", "figure", "4.2", "we", "have", "used", "variable", "of", "data", "types", "that", "were", "chosen", "with", "respect", "to", "the", "site", "at", "hand", ",", "i.e.", ",", "ASB", "Bank", "'s", "Web", "site", ".", "We", "expect", "that", "this", "adaptation", "can", "always", "be", "achieved", "the", "way", "we", "have", "proposed", "here", ".", "Once", "the", "analysis", "has", "shown", "what", "data", "and", "functionality", "shall", "be", "accessible", "to", "customers", "data", "and", "functionality", "can", "be", "typed", "and", "variables", "of", "the", "respective", "type", "can", "be", "used", "to", "describe", "how", "the", "site", "adapts", "to", "the", "actual", "use", ".", "A", "type", "level", "adaptation", "that", "can", "be", "carried", "out", "while", "customers", "are", "interacting", "with", "a", "site", "is", "semi", "automatic", "reconsideration", "of", "the", "type", "of", "customer", ":", "Customers", "in", "this", "respect", "are", "presupposed", "to", "be", "characterized", "by", "a", "value", "for", "each", "of", "a", "number", "of", "46", "Lending", "Calculators", "/", "H", ":", "=", "Affordability", "Calculator", "+", "Amount", "Requested", "Calculator", "+", "Home", "Loan", "Options", "Calculator", "+", "Arrange", "your", "loan", "Home", "loans", "DSHARP", "BS", ",", "SS", ",", "SN", "Arranging", "a", "loan", "DSHARP", ",", "BS", ",", "SS", ",", "SN", "Affordability", "Calculator", "Amount", "Required", "Calculator", "Home", "Loan", "Options", "Calculator", "H.Affordability", "Calculator", "/", "H", ":", "=", "Amount", "Required", "Calculator", "+", "Home", "Loan", "Options", "Calculator", "SN.Arranging", "a", "home", "loan", "H.Home", "Loan", "Options", "Calculator", "/", "H", ":", "=", "Amount", "Required", "Calculator", "+", "Affordability", "Calculator", "H.Amount", "Required", "Calculator", "/", "H", ":", "=", "Apply", "by", "phone", "+", "Apply", "online", "+", "We", "come", "2", "u", "+", "U", "come", "2", "us", "+", "Send", "inquiry", "&", "refine", "SN", "calculator", "input", "form", "calculator", "nput", "form", "calculator", "input", "form", "/", "H", ":", "=", "Affordability", "Calculator", "+", "Home", "Loan", "Options", "Calculator", "Online", "home", "loan", "application", "H.Apply", "online", "SN.Home", "Loan", "Calculator", "SS.Home", "loans.Introduction", "/", "H", ":", "=", "Home", "loan", "rates", "+", "Buying", "your", "first", "home", "?", "+", "Loan", "top", "up", "needed", "?", "+", "Fixed", "rate", "loan", "expiring", "&", "SN", ":", "=", "Introducyion", "+", "Loans", "at", "a", "glance", "+", "Interest", "rate", "options", "+", "Interest", "rates", "+", "Home", "loan", "calculators", "+", "Home", "buyers", "guide", "+", "Review", "your", "home", "loan", "+", "Move", "your", "loan", "to", "us", "+", "Fixed", "rate", "expiry", "+", "Arranging", "a", "home", "loan", "+", "Mobile", "lending", "service", "application", "form", "SN.Loans", "at", "a", "glance", "/", "H", ":", "=", "Loan", "types", "+", "loan", "options", "&", "refine", "SN", "-LRB-", "types", ",", "options", "-RRB-", "Interest", "rate", "options", "SN.Interest", "rate", "options", "/", "H", ":", "=", "variable", "rates", "+", "fixed", "rates", "+", "explanation", "DSHARP", "BS", ",", "SS", ",", "SN", "Interest", "rates", "DSHARP", "BS", ",", "SS", ",", "SN", "SN.Interest", "rates", "/", "H", ":", "=", "latest", "rates", "table", "Home", "buyers", "guide", "SN.Home", "buyers", "guide", "/", "H", ":", "=", "Houses", "4", "sale", "+", "Home", "buyers", "inspection", "list", "+", "Home", "valuation", "+", "Property", "information", "+", "Priority", "checklist", "+", "Glossary", "of", "terms", "&", "refine", "SN", "DSHARP", "BS", ",", "SS", ",", "SN", "Review", "your", "loan", "DSHARP", "BS", ",", "SS", ",", "SN", "SN.Review", "your", "loan", "/", "H", ":", "=", "explanation", "&", "R", ":", "=", "Credit", "cards", "+", "Omni", "cards", "+", "Moneymaker", "account", "Move", "your", "loan", "to", "us", "SN.Move", "your", "oan", "to", "us", "/", "H", ":", "=", "explanation", "DSHARP", "BS", ",", "SS", ",", "SN", "Loans", "at", "a", "glance", "DSHARP", "BS", ",", "SS", ",", "SN", "SN.Fixed", "rate", "expiry", "Fixed", "rate", "expiry", "DSHARP", "BS", ",", "SS", ",", "SN", "/", "H", ":", "=", "explanation", "&", "refine", "SN", "DSHARP", "BS", ",", "SS", ",", "SN", "Mobile", "lending", "service", "DSHARP", "BS", ",", "SS", ",", "SN", "SN.Mobile", "lending", "service", "/", "H", ":", "=", "explanation", "+", "contact", "phone", "numbers", "Figure", "4.2", ":", "Navigation", "structure", "of", "a", "part", "of", "ASB", "Bank", "'s", "Web", "site", "dimensions", ".", "The", "customer", "type", "according", "to", "-LRB-", "Schewe", "and", "Thalheim", "2001", "-RRB-", "can", "be", "defined", "as", "a", "convex", "region", "in", "the", "multi", "dimensional", "space", "create", "as", "cartesian", "product", "of", "the", "scales", "associated", "to", "the", "customer", "dimensions", ".", "Based", "on", "an", "automatic", "customer", "assessment", "that", "in", "response", "to", "his", "or", "her", "site-interaction", "updates", "the", "scores", "in", "each", "of", "the", "dimension", "throughout", "customer-site", "interaction", "one", "can", "then", "track", "how", "a", "customer", "'s", "trace", "moves", "through", "this", "space", "and", "detect", "when", "a", "modified", "type", "would", "better", "fit", "the", "customer", "'s", "behavior", "than", "the", "actual", "type", "does", ".", "Clearly", "such", "update", "should", "only", "be", "done", "with", "customer", "permission", "Banking", "services", "such", "as", "online", "home-loan", "application", "require", "a", "very", "sophisticated", "and", "well-adapted", "internet", "interface", ".", "Customers", "want", "to", "focus", "on", "solving", "their", "business", "problem", ",", "i.e.", ",", "the", "goal", "they", "want", "to", "achieve", "by", "means", "of", "interacting", "with", "the", "WIS.", ".", "They", "consider", "WIS", "as", "tools", "that", "shall", "be", "easy", "to", "handle", ",", "completely", "cover", "the", "business", "and", "do", "not", "add", "technical", "complexities", "to", "it", ".", "Customers", "want", "to", "have", "a", "pleasant", "usage", "experience", ",", "in", "particular", "they", "do", "not", "want", "to", "be", "treated", "like", "everybody", "else", ".", "They", "want", "WIS", "remember", "and", "exploit", "their", "usage", "peculiarities", "in", "authenticated", "and", "where", "adequate", "in", "anonymous", "sessions", ".", "This", "paper", "shows", "how", "this", "can", "be", "achieved", ".", "As", "a", "guiding", "principle", "we", "introduce", "considering", "context", "and", "using", "it", "to", "simplify", "WIS-handling", ".", "We", "have", "shown", "how", "WIS", "'s", "scene", "context", "can", "be", "injected", "into", "the", "WIS", "and", "how", "XML", "suites", "can", "be", "generated", "using", "the", "story", "board", "of", "the", "site", "and", "available", "customer", "data", ".", "Acknowledgements", "We", "would", "like", "to", "thank", "Hans-J", "urgen", "Engelbrecht", "from", "the", "Department", "of", "Applied", "&", "International", "Economics", "at", "Massey", "University", "for", "pointing", "to", "us", "work", "on", "the", "the", "economic", "effects", "of", "technical", "progress", "in", "the", "banking", "industry", ".", "Altus", ",", "M.", "Decision", "support", "for", "conceptual", "database", "design", "based", "on", "the", "evidence", "theory", "-", "An", "intelligent", "dialogue", "interface", "for", "conceptual", "database", "design", ".", "PhD", "thesis", ",", "Faculty", "of", "Mathematics", ",", "Natural", "Sciences", "and", "Computer", "Science", "of", "BTU", "Cottbus", ",", "Cottbus", ",", "2000", ".", "Atzeni", ",", "P.", ",", "Gupta", ",", "A.", ",", "and", "Sarawagi", ",", "S.", "Design", "and", "maintenance", "of", "data-intensive", "web-sites", ".", "In", "Proceeding", "EDBT", "'", "98", ",", "vol", ".", "1377", "of", "LNCS", ".", "Springer-Verlag", ",", "Berlin", ",", "1998", ",", "pp.", "436", "450", ".", "Baresi", ",", "L.", ",", "Garzotto", ",", "F.", ",", "and", "Paolini", ",", "P.", "From", "web", "sites", "to", "web", "applications", ":", "New", "issues", "for", "conceptual", "modeling", ".", "In", "ER", "Workshops", "2000", ",", "vol", ".", "1921", "of", "LNCS", ".", "Springer-Verlag", ",", "Berlin", ",", "2000", ",", "pp.", "89", "100", ".", "Bell", ",", "J.", "Pragmatic", "reasoning", ":", "Inferring", "contexts", ".", "In", "Proc", ".", "Context", "'", "1999", "-LRB-", "1999", "-RRB-", ",", "LNAI", "1688", ",", "Springer", ",", "pp.", "42", "53", ".", "Berger", ",", "A.", "N", ".", "The", "Economic", "Effects", "of", "Technolog-ical", "Progress", ":", "Evidence", "from", "the", "Banking", "Industry", ".", "Journal", "of", "Money", ",", "Credit", ",", "and", "Banking", "35", ",", "2", "-LRB-", "2003", "-RRB-", ",", "141", "176", ".", "Bonifati", ",", "A.", ",", "Ceri", ",", "S.", ",", "Fraternali", ",", "P.", ",", "and", "Maurino", ",", "A.", "Building", "multi-device", ",", "content-centric", "applications", "using", "WebML", "and", "the", "W3I3", "tool", "suite", ".", "In", "ER", "Workshops", "2000", ",", "vol", ".", "1921", "of", "LNCS", ".", "Springer-Verlag", ",", "Berlin", ",", "2000", ",", "pp.", "64", "75", ".", "Workflow", "Management", "Coalition", ",", "Ed", ".", "The", "Workflow", "Management", "Coalition", "specification", ":", "Workflow", "Management", "Coalition", "terminology", "&", "glossary", ".", "Workflow", "Management", "Coalition", ",", "47", "Winchester", ",", "United", "Kingdom", ",", "1999", ".", "Document", "Status", "Issue", "3.0", ".", "Connolly", ",", "J.", "H.", "Context", "in", "the", "study", "of", "human", "languages", "and", "computer", "programming", "languages", ":", "A", "comparison", ".", "In", "Proc", ".", "Context", "'", "2001", "-LRB-", "2001", "-RRB-", ",", "LNAI", "2116", ",", "Springer", ",", "pp.", "116", "128", ".", "D", "usterh", "oft", ",", "A.", ",", "and", "Thalheim", ",", "B.", "SiteLang", ":", "Conceptual", "modeling", "of", "internet", "sites", ".", "In", "Conceptual", "Modeling", "ER", "2001", ",", "H.", "S.", "K.", "et", "al.", ",", "Ed.", ",", "vol", ".", "2224", "of", "LNCS", ".", "Springer-Verlag", ",", "Berlin", ",", "2001", ",", "pp.", "179", "192", ".", "Feyer", ",", "T.", ",", "Schewe", ",", "K.-D.", ",", "and", "Thalheim", ",", "B.", "Conceptual", "modelling", "and", "development", "of", "information", "services", ".", "In", "Conceptual", "Modeling", "ER", "'", "98", ",", "T.", "Ling", "and", "S.", "Ram", ",", "Eds.", ",", "vol", ".", "1507", "of", "LNCS", ".", "Springer-Verlag", ",", "Berlin", ",", "1998", ",", "pp.", "7", "20", ".", "G", "adke", ",", "M.", ",", "and", "Turowski", ",", "K.", "Generic", "web-based", "federation", "of", "business", "application", "systems", "for", "e-commerce", "applications", ".", "In", "EFIS", "1999", ".", "1999", ",", "pp.", "25", "42", ".", "Garzotto", ",", "F.", ",", "Paolini", ",", "P.", ",", "and", "Schwabe", ",", "D.", "HDM", "-", "a", "model-based", "approach", "to", "hypertext", "application", "design", ".", "ACM", "ToIS", "11", ",", "1", "-LRB-", "1993", "-RRB-", ",", "1", "26", ".", "Goldin", ",", "D.", ",", "Srinivasa", ",", "S.", ",", "and", "Thalheim", ",", "B.", "Is", "=", "dbs", "+", "interaction", "-", "towards", "principles", "of", "information", "systems", ".", "In", "Proc", ".", "ER", "'", "2000", "-LRB-", "2000", "-RRB-", ",", "LNCS", "1920", ",", "Springer", ",", "pp.", "140", "153", ".", "Harel", ",", "D.", ",", "and", "Naamad", ",", "A", ".", "The", "STATEMATE", "Semantics", "of", "Statecharts", ".", "ACM", "Transactions", "on", "Software", "Engineering", "and", "Methodology", "5", ",", "4", "-LRB-", "Ok-tober", "1996", "-RRB-", ",", "293", "333", ".", "Jablonski", ",", "S.", "Workflow-Management-Systeme", ":", "Modellierung", "und", "Architektur", ".", "Thomson", "'s", "Ak-tuelle", "Tutorien", ".", "International", "Thomson", "Publishing", ",", "Bonn", ",", "Germay", "et", "al.", ",", "1996", ".", "Kaschek", ",", "R.", ",", "Matthews", ",", "C.", ",", "and", "Wallace", ",", "C.", "e-Mortgages", ":", "NZ", "State", "of", "the", "Art", "and", "Perspectives", ".", "In", "Proceedings", "of", "SCI", "2003", "-LRB-", "2003", "-RRB-", ".", "Kaschek", ",", "R.", ",", "Schewe", ",", "K.-D.", ",", "Thalheim", ",", "B.", ",", "Zhang", ",", "L.", "Modelling", "contexts", "in", "web", "information", "systems", ".", "Proc", ".", "WES", "2003", ".", "Matthews", ",", "C.", "D.", ",", "Kaschek", ",", "R.", "H.", ",", "Wallace", ",", "C.", "M.", ",", "and", "Schewe", ",", "K.", "D.", "IST", "in", "Lending", ":", "Unlimited", "potential", "but", "limited", "practice", ".", "Available", "from", ":", "http://cbs.dk/staff/lars.heide/ISTOS/program.htm", ",", "2003", ".", "Paper", "presented", "at", "ISTOS", "Workshop", "in", "Barcelona", ",", "Spain", ",", "28-30", "March", "2003", ".", "Rossi", ",", "G.", ",", "Schwabe", ",", "D.", ",", "and", "Lyardet", ",", "F.", "Web", "application", "models", "are", "more", "than", "conceptual", "models", ".", "In", "Advances", "in", "Conceptual", "Modeling", ",", "P.", "C.", "et", "al.", ",", "Ed.", ",", "vol", ".", "1727", "of", "LNCS", ".", "Springer-Verlag", ",", "Berlin", ",", "1999", ",", "pp.", "239", "252", ".", "Rumbaugh", ",", "J.", ",", "Blaha", ",", "M.", ",", "Premerlani", ",", "W.", ",", "Eddy", ",", "F.", ",", "and", "Lorensen", ",", "W.", "Object-Oriented", "Modeling", "and", "Design", ".", "Prentice-Hall", ",", "Inc.", ",", "Engle-wood", "Cliffs", ",", "New", "Jersey", ",", "1991", ".", "Schewe", ",", "B.", "Kooperative", "Softwareentwicklung", ".", "Deutscher", "Universit", "atsverlag", ",", "Wiesbaden", ",", "Germany", ",", "1996", ".", "Schewe", ",", "B.", ",", "Schewe", ",", "K.-D.", ",", "and", "Thalheim", ",", "B.", "Objektorientierter", "Datenbankentwurf", "in", "der", "Entwicklung", "betrieblicher", "Informationssysteme", ".", "Informatik", "Forschung", "und", "Entwicklung", "10", "-LRB-", "1995", "-RRB-", ",", "115", "127", ".", "Schewe", ",", "K.-D.", ",", "Kaschek", ",", "R.", ",", "Matthews", ",", "C.", ",", "and", "Wallace", ",", "C.", "Modelling", "web-based", "banking", "systems", ":", "Story", "boarding", "and", "user", "profiling", ".", "In", "Proceedings", "of", "the", "Workshop", "on", "Conceptual", "Modelling", "Approaches", "to", "E-Commerce", ",", "H.", "Mayr", "and", "W.-J", ".", "Van", "den", "Heuvel", ",", "Eds", ".", "Springer-Verlag", ",", "2002", ".", "Schewe", ",", "K.-D.", ",", "and", "Schewe", ",", "B.", "Integrating", "database", "and", "dialogue", "design", ".", "Knowledge", "and", "Information", "Systems", "2", ",", "1", "-LRB-", "2000", "-RRB-", ",", "1", "32", ".", "Schewe", ",", "K.-D.", ",", "and", "Thalheim", ",", "B.", "Modeling", "interaction", "and", "media", "objects", ".", "In", "Proc", ".", "NLDB", "'", "2000", "-LRB-", "2000", "-RRB-", ",", "LNCS", "1959", ",", "Springer", ",", "pp.", "313", "324", ".", "Schewe", ",", "K.-D.", ",", "and", "Thalheim", ",", "B.", "Modeling", "interaction", "and", "media", "objects", ".", "In", "Advances", "in", "Conceptual", "Modeling", ",", "E.", "M", "etais", ",", "Ed.", ",", "vol", ".", "1959", "of", "LNCS", ".", "Springer-Verlag", ",", "Berlin", ",", "2001", ",", "pp.", "313", "324", ".", "Schwabe", ",", "D.", ",", "and", "Rossi", ",", "G", ".", "An", "object", "oriented", "approach", "to", "web-based", "application", "design", ".", "TAPOS", "4", ",", "4", "-LRB-", "1998", "-RRB-", ",", "207", "225", ".", "Siegel", ",", "D", ".", "The", "secrets", "of", "successful", "web", "sites", ".", "Markt", "und", "Technik", ",", "M", "unchen", ",", "1998", ".", "Sowa", ",", "J.", "F.", ",", "and", "Zachman", ",", "J.", "A.", "Extending", "and", "formalizing", "the", "framework", "for", "information", "systems", "architecture", ".", "IBM", "Systems", "Journal", "31", ",", "3", "-LRB-", "1992", "-RRB-", ",", "590", "616", ".", "Srinivasa", ",", "S", ".", "A", "Calculus", "of", "Fixed-Points", "for", "Char-acterising", "Interactive", "Behaviour", "of", "Information", "Systems", ".", "PhD", "thesis", ",", "BTU", "Cottbus", ",", "Fachbereich", "Informatik", ",", "Cottbus", ",", "2001", ".", "Thalheim", ",", "B.", "Entity-relationship", "modeling", "Foundations", "of", "database", "technology", ".", "Springer", ",", "2000", ".", "See", "also", "http://www.informatik.tu-cottbus", ".", "de", "/", "thalheim/HERM.htm", ".", "Thalheim", ",", "B.", "Readings", "in", "fundamentals", "of", "interaction", "in", "information", "systems", ".", "Reprint", "BTU", "Cottbus", ",", "2000", ".", "Collection", "of", "papers", "by", "C.", "Binder", ",", "W.", "Clau", ",", "A.", "D", "usterh", "oft", ",", "T.", "Feyer", ",", "T.", "Gutacker", ",", "B.", "Heinze", ",", "J.", "Lewerenz", ",", "M.", "Roll", ",", "B.", "Schewe", ",", "K.-D", ".", "Schewe", ",", "K.", "Seelig", ",", "S.", "Srinivasa", ",", "B.", "Thalheim", ".", "Accessible", "through", "http://www.informatik.tu-cottbus.de/", "thalheim", ".", "Thalheim", ",", "B.", "," ]

[ "O", "B", "I", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Entropy", "and", "Self-Organization", "in", "Multi-Agent", "Systems", "Emergent", "self-organization", "in", "multi-agent", "systems", "appears", "to", "contradict", "the", "second", "law", "of", "thermodynamics", ".", "This", "paradox", "has", "been", "explained", "in", "terms", "of", "a", "coupling", "between", "the", "macro", "level", "that", "hosts", "self-organization", "-LRB-", "and", "an", "apparent", "reduction", "in", "entropy", "-RRB-", ",", "and", "the", "micro", "level", "-LRB-", "where", "random", "processes", "greatly", "increase", "entropy", "-RRB-", ".", "Metaphorically", ",", "the", "micro", "level", "serves", "as", "an", "entropy", "``", "sink", ",", "''", "permitting", "overall", "system", "entropy", "to", "increase", "while", "sequestering", "this", "increase", "from", "the", "interactions", "where", "self-organization", "is", "desired", ".", "We", "make", "this", "metaphor", "precise", "by", "constructing", "a", "simple", "example", "of", "pheromone-based", "coordination", ",", "defining", "a", "way", "to", "measure", "the", "Shannon", "entropy", "at", "the", "macro", "-LRB-", "agent", "-RRB-", "and", "micro", "-LRB-", "pheromone", "-RRB-", "levels", ",", "and", "exhibiting", "an", "entropy-based", "view", "of", "the", "coordination", ".", "Researchers", "who", "construct", "multi-agent", "systems", "must", "cope", "with", "the", "world", "'s", "natural", "tendency", "to", "disorder", ".", "Many", "applications", "require", "a", "set", "of", "agents", "that", "are", "individually", "autonomous", "-LRB-", "in", "the", "sense", "that", "each", "agent", "determines", "its", "actions", "based", "on", "its", "own", "state", "and", "the", "state", "of", "the", "environment", ",", "without", "explicit", "external", "command", "-RRB-", ",", "but", "corporately", "structured", ".", "We", "want", "individual", "local", "decisions", "to", "yield", "coherent", "global", "behavior", ".", "Self-organization", "in", "natural", "systems", "-LRB-", "e.g.", ",", "human", "culture", ",", "insect", "colonies", "-RRB-", "is", "an", "existence", "proof", "that", "individual", "autonomy", "is", "not", "incompatible", "with", "global", "order", ".", "However", ",", "widespread", "human", "experience", "warns", "us", "that", "building", "systems", "that", "exhibit", "both", "individual", "autonomy", "and", "global", "order", "is", "not", "trivial", ".", "Not", "only", "agent", "researchers", ",", "but", "humans", "in", "general", ",", "seek", "to", "impose", "structure", "and", "organization", "on", "the", "world", "around", "us", ".", "It", "is", "a", "universal", "experience", "that", "the", "structure", "we", "desire", "can", "be", "achieved", "only", "through", "hard", "work", ",", "and", "that", "it", "tends", "to", "fall", "apart", "if", "not", "tended", ".", "This", "experience", "is", "sometimes", "summarized", "informally", "as", "``", "Murphy", "'s", "Law", ",", "''", "the", "observation", "that", "anything", "that", "can", "go", "wrong", ",", "will", "go", "wrong", "and", "at", "the", "worst", "possible", "moment", ".", "At", "the", "root", "of", "the", "ubiquity", "of", "disorganizing", "tendencies", "is", "the", "Second", "Law", "of", "Thermodynamics", ",", "that", "``", "energy", "spontaneously", "tends", "to", "flow", "only", "from", "being", "concentrated", "in", "one", "place", "to", "becoming", "diffused", "and", "spread", "out", ".", "''", "-LSB-", "9", "-RSB-", "Adding", "energy", "to", "a", "system", "can", "overcome", "the", "Second", "Law", "'s", "``", "spontaneous", "tendency", "''", "and", "lead", "to", "increasing", "structure", ".", "However", ",", "the", "way", "in", "which", "energy", "is", "added", "is", "critical", ".", "Gasoline", "in", "the", "engines", "of", "construction", "equipment", "can", "construct", "a", "building", "out", "of", "raw", "steel", "and", "concrete", ",", "while", "the", "same", "gasoline", "in", "a", "bomb", "can", "reduce", "a", "building", "to", "a", "mass", "of", "raw", "steel", "and", "concrete", ".", "Agents", "are", "not", "immune", "to", "Murphy", ".", "The", "natural", "tendency", "of", "a", "group", "of", "autonomous", "processes", "is", "to", "disorder", ",", "not", "to", "organization", ".", "Adding", "information", "to", "a", "collection", "of", "agents", "can", "lead", "to", "increased", "organization", ",", "but", "only", "if", "it", "is", "added", "in", "the", "right", "way", ".", "We", "will", "be", "successful", "in", "engineering", "agent-based", "systems", "just", "to", "the", "degree", "that", "we", "understand", "the", "interplay", "between", "disorder", "and", "order", ".", "The", "fundamental", "claim", "of", "this", "paper", "is", "that", "the", "relation", "between", "self-organization", "in", "multi-agent", "systems", "and", "thermodynamic", "concepts", "such", "as", "the", "second", "law", "is", "not", "just", "a", "loose", "metaphor", ",", "but", "can", "provide", "quantitative", ",", "analytical", "guidelines", "for", "designing", "and", "operating", "agent", "systems", ".", "We", "explain", "the", "link", "between", "these", "concepts", ",", "and", "demonstrate", "by", "way", "of", "a", "simple", "example", "how", "they", "can", "be", "applied", "in", "measuring", "the", "behavior", "of", "multi-agent", "systems", ".", "Our", "inspiration", "is", "a", "model", "for", "self-organization", "proposed", "by", "Kugler", "and", "Turvey", "-LSB-", "7", "-RSB-", ",", "which", "suggests", "that", "the", "key", "to", "reducing", "disorder", "in", "a", "multi-agent", "system", "is", "coupling", "that", "system", "to", "another", "in", "which", "disorder", "increases", ".", "Section", "2", "reviews", "this", "model", "and", "relates", "it", "to", "the", "problem", "of", "agent", "coordination", ".", "Section", "3", "describes", "a", "test", "scenario", "that", "we", "have", "devised", ",", "inspired", "by", "self-organization", "in", "pheromone", "systems", ",", "and", "outlines", "a", "method", "for", "measuring", "entropy", "in", "this", "scenario", ".", "Section", "4", "reports", "our", "experimental", "results", ".", "Section", "5", "summarizes", "our", "conclusions", ".", "In", "the", "context", "of", "biomechanical", "systems", ",", "Kugler", "and", "Turvey", "-LSB-", "7", "-RSB-", "suggest", "that", "self-organization", "can", "be", "reconciled", "with", "second-law", "tendencies", "if", "a", "system", "includes", "multiple", "coupled", "levels", "of", "dynamic", "activity", ".", "Purposeful", ",", "self-organizing", "behavior", "occurs", "at", "the", "macro", "level", ".", "By", "itself", ",", "such", "behavior", "would", "be", "contrary", "to", "the", "second", "law", ".", "However", ",", "the", "system", "includes", "a", "micro", "level", "whose", "dynamics", "generate", "increasing", "disorder", ".", "Thus", "the", "system", "as", "a", "whole", "is", "increasingly", "disordered", "over", "time", ".", "Crucially", ",", "the", "behavior", "of", "elements", "at", "the", "macro", "level", "is", "coupled", "to", "the", "micro", "level", "dynamics", ".", "To", "understand", "this", "model", ",", "we", "begin", "with", "an", "example", ",", "then", "abstract", "out", "the", "underlying", "dynamics", ",", "and", "finally", "comment", "on", "the", "legitimacy", "of", "identifying", "processes", "at", "this", "level", "with", "principles", "from", "thermodynamics", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "AGENTS", "'", "01", ",", "May", "28-June", "1", ",", "2001", ",", "Montr", "al", ",", "Quebec", ",", "Canada", ".", "Copyright", "2001", "ACM", "1-58113-326-X", "/", "01/0005", "...", "$", "5.00", ".", "124", "2.1", "An", "Example", ":", "Pheromones", "The", "parade", "example", "of", "such", "a", "system", "is", "the", "self-organization", "of", "an", "insect", "colony", "-LRB-", "such", "as", "the", "construction", "of", "minimal", "spanning", "tree", "networks", "among", "nests", "and", "food", "sources", "by", "ants", ",", "or", "the", "erection", "of", "multi-storied", "structures", "with", "regularly", "spaced", "pillars", "and", "floors", "by", "tropical", "termites", "-RRB-", ",", "through", "pheromone-based", "coordination", "-LSB-", "1", ",", "11", "-RSB-", ".", "Pheromones", "are", "scent", "markers", "that", "insects", "use", "in", "two", "ways", ".", "First", ",", "they", "deposit", "pheromones", "in", "the", "environment", "to", "record", "their", "state", ".", "For", "example", ",", "a", "foraging", "ant", "just", "emerging", "from", "the", "nest", "in", "search", "of", "food", "might", "deposit", "nest", "pheromone", ",", "while", "an", "ant", "that", "has", "found", "food", "and", "is", "carrying", "it", "will", "deposit", "food", "pheromone", ".", "-LRB-", "-LSB-", "15", "-RSB-", "documents", "use", "of", "multiple", "pheromones", "by", "insects", ".", "-RRB-", "Second", ",", "they", "orient", "their", "movements", "to", "the", "gradient", "of", "the", "pheromone", "field", ".", "In", "the", "example", "of", "foraging", "ants", ",", "those", "seeking", "food", "climb", "the", "gradient", "of", "the", "food", "pheromone", ",", "while", "those", "carrying", "food", "climb", "the", "gradient", "of", "the", "nest", "pheromone", ".", "The", "most", "realistic", "models", "of", "the", "ants", "'", "pheromone-climbing", "behavior", "incorporates", "a", "stochastic", "element", "in", "their", "movement", ".", "That", "is", ",", "they", "do", "not", "follow", "the", "gradient", "deterministically", ",", "but", "use", "its", "strength", "to", "weight", "a", "roulette", "wheel", "from", "which", "they", "determine", "their", "movement", ".", "The", "environment", "in", "which", "pheromones", "are", "deposited", "plays", "a", "critical", "role", "in", "such", "a", "system", ".", "It", "is", "not", "passive", ",", "but", "active", ",", "and", "performs", "three", "information-processing", "functions", "with", "the", "pheromones", ".", "1", ".", "It", "aggregates", "deposits", "of", "the", "same", "flavor", "of", "pheromone", "from", "different", "ants", ",", "thus", "providing", "a", "form", "of", "data", "fusion", "across", "multiple", "agents", "at", "different", "times", ",", "based", "on", "their", "traversal", "of", "a", "common", "location", ".", "2", ".", "It", "evaporates", "pheromones", "over", "time", ",", "thus", "forgetting", "obsolete", "information", ".", "This", "dynamic", "is", "usefully", "viewed", "as", "a", "novel", "approach", "to", "truth", "maintenance", ".", "Conventional", "knowledge", "bases", "remember", "every", "assertion", "unless", "there", "is", "cause", "to", "retract", "it", ",", "and", "execute", "truth", "maintenance", "processes", "to", "detect", "and", "resolve", "the", "conflicts", "that", "result", "when", "inconsistent", "assertions", "coexist", ".", "Insect", "systems", "forget", "every", "assertion", "unless", "it", "is", "regularly", "reinforced", ".", "3", ".", "Evaporation", "provides", "a", "third", "function", ",", "that", "of", "disseminating", "information", "from", "the", "location", "at", "which", "it", "was", "deposited", "to", "nearby", "locations", ".", "An", "ant", "does", "not", "have", "to", "stumble", "across", "the", "exact", "location", "at", "which", "pheromone", "was", "deposited", "in", "order", "to", "access", "the", "information", "it", "represents", ",", "but", "can", "sense", "the", "direction", "from", "its", "current", "location", "to", "the", "pheromone", "deposit", "in", "the", "form", "of", "the", "gradient", "of", "evaporated", "pheromone", "molecules", ".", "2.2", "The", "Model", "in", "Detail", "In", "the", "Kugler-Turvey", "model", ",", "ants", "and", "their", "movements", "constitute", "the", "macro", "level", "of", "the", "system", ",", "while", "pheromone", "molecules", "constitute", "the", "micro", "level", ".", "The", "purposeful", "movement", "of", "ants", ",", "constructing", "minimal", "paths", "among", "their", "nests", "and", "food", "sources", ",", "achieve", "a", "reduction", "in", "disorder", "at", "the", "macro", "level", ",", "made", "possible", "because", "the", "agents", "at", "this", "level", "are", "coupled", "to", "the", "micro", "level", ",", "where", "the", "evaporation", "of", "pheromone", "molecules", "under", "Brownian", "motion", "results", "in", "an", "overwhelming", "growth", "in", "disorder", ".", "As", "a", "result", ",", "the", "disorder", "of", "the", "overall", "system", "increases", ",", "in", "keeping", "with", "the", "Second", "Law", ",", "in", "spite", "of", "the", "emergence", "of", "useful", "order", "at", "the", "macro", "level", ".", "Figure", "1", "illustrates", "the", "interplay", "among", "these", "processes", ",", "and", "how", "this", "model", "of", "agent", "coordination", "differs", "from", "more", "classical", "views", ".", "Classically", ",", "agents", "are", "considered", "to", "perceive", "one", "another", "directly", ",", "reason", "about", "this", "perception", ",", "and", "then", "take", "rational", "action", ".", "The", "Kugler-Turvey", "model", "views", "coordination", "as", "being", "mediated", "by", "an", "environment", "that", "agents", "change", "by", "their", "actions", "-LRB-", "e.g.", ",", "depositing", "pheromones", "-RRB-", ",", "a", "process", "known", "as", "``", "stigmergy", "''", "-LSB-", "4", "-RSB-", ".", "Processes", "in", "the", "environment", "generate", "structures", "that", "the", "agents", "perceive", ",", "thus", "permitting", "ordered", "behavior", "at", "the", "agent", "level", ".", "At", "the", "same", "time", ",", "these", "processes", "increase", "disorder", "at", "the", "micro", "level", ",", "so", "that", "the", "system", "as", "a", "whole", "becomes", "less", "ordered", "over", "time", ".", "Research", "in", "synthetic", "pheromones", "-LSB-", "2", ",", "12", ",", "13", "-RSB-", "draws", "directly", "on", "this", "model", "of", "coordination", ",", "but", "the", "model", "is", "of", "far", "broader", "applicability", ".", "In", "a", "multi-commodity", "market", ",", "individual", "agents", "follow", "economic", "fields", "generated", "by", "myriad", "individual", "transactions", ",", "and", "self-organization", "in", "the", "demand", "and", "supply", "of", "a", "particular", "commodity", "is", "supported", "by", "an", "environment", "that", "distributes", "resources", "based", "on", "the", "other", "transactions", "in", "the", "system", ".", "The", "movement", "of", "currency", "in", "such", "a", "system", "provides", "similar", "functions", "to", "those", "of", "pheromones", "in", "insect", "systems", ".", "More", "broadly", ",", "we", "hypothesize", "that", "a", "coupling", "of", "ordered", "and", "disordered", "systems", "is", "ubiquitous", "in", "robust", "self-organizing", "systems", ",", "and", "that", "the", "lack", "of", "such", "a", "coupling", "correlates", "with", "architectures", "that", "do", "not", "meet", "their", "designers", "'", "expectations", "for", "emergent", "cohesiveness", ".", "2.3", "A", "Caveat", "At", "this", "point", ",", "readers", "with", "a", "background", "in", "physics", "and", "chemistry", "may", "be", "uneasy", ".", "These", "disciplines", "formulated", "the", "Second", "Law", "within", "a", "strict", "context", "of", "processes", "that", "result", "in", "energy", "changes", ".", "The", "fundamental", "physical", "measures", "associated", "with", "the", "second", "law", "are", "temperature", "T", ",", "heat", "Q", ",", "and", "-LRB-", "thermodynamic", "-RRB-", "entropy", "S", ",", "related", "by", "the", "definition", "Equation", "1", "T", "dQ", "dS", "=", "Statistical", "mechanics", "identifies", "this", "macroscopic", "measure", "with", "the", "number", "of", "microscopically", "defined", "states", "accessible", "to", "the", "system", "by", "the", "relation", "Equation", "2", "S", "k", "ln", "where", "k", "is", "Boltzmann", "'s", "constant", ",", "1.4E-16", "erg/deg", ".", "M", "icro", "New", "to", "n", "ian", ";", "F", "o", "rce", "F", "ield", ";", "E", "n", "tro", "p", "y", "F", "lo", "w", "-LRB-", "E", "n", "tro", "p", "y", "-RRB-", "F", "lo", "w", "-LRB-", "E", "n", "tro", "p", "y", "-RRB-", "M", "acro", "No", "n", "-", "New", "to", "n", "ian", "F", "lo", "w", "F", "ield", "``", "Neg", "en", "tro", "p", "y", "''", "Pe", "rcep", "tio", "n", "Percep", "tion", "P", "h", "ero", "m", "o", "n", "e", "Rational", "Action", "-LRB-", "Entropy", "-RRB-", "Ra", "tio", "na", "l", "A", "cti", "on", "-LRB-", "Ent", "ropy", "-RRB-", "P", "h", "ero", "m", "o", "n", "e", "Dynam", "ics", "P", "ercep", "tio", "n", "Ratio", "n", "al", "A", "ctio", "n", "Ag", "en", "t", "1", "Ag", "en", "t", "2", "T", "rad", "itio", "n", "al", "A", "g", "en", "t", "Dynam", "ics", "Key", "M", "icro", "New", "to", "n", "ian", ";", "F", "o", "rce", "F", "ield", ";", "E", "n", "tro", "p", "y", "F", "lo", "w", "-LRB-", "E", "n", "tro", "p", "y", "-RRB-", "F", "lo", "w", "-LRB-", "E", "n", "tro", "p", "y", "-RRB-", "M", "acro", "No", "n", "-", "New", "to", "n", "ian", "F", "lo", "w", "F", "ield", "``", "Neg", "en", "tro", "p", "y", "''", "Pe", "rcep", "tio", "n", "Percep", "tion", "P", "h", "ero", "m", "o", "n", "e", "Rational", "Action", "-LRB-", "Entropy", "-RRB-", "Ra", "tio", "na", "l", "A", "cti", "on", "-LRB-", "Ent", "ropy", "-RRB-", "P", "h", "ero", "m", "o", "n", "e", "Dynam", "ics", "P", "ercep", "tio", "n", "Ratio", "n", "al", "A", "ctio", "n", "Ag", "en", "t", "1", "Ag", "en", "t", "2", "T", "rad", "itio", "n", "al", "A", "g", "en", "t", "Dynam", "ics", "Key", "Figure", "1", ".", "Comparison", "of", "Conventional", "and", "Pheromone-Based", "Models", "of", "Coordination", "125", "Thus", "defined", ",", "thermodynamic", "entropy", "has", "strong", "formal", "similarities", "-LSB-", "10", "-RSB-", "to", "information", "entropy", "-LSB-", "14", "-RSB-", "Equation", "3", "=", "i", "i", "i", "p", "p", "S", "log", "where", "i", "ranges", "over", "the", "possible", "states", "of", "the", "system", "and", "p", "i", "is", "the", "probability", "of", "finding", "the", "system", "in", "state", "i", ".", "These", "formal", "similarities", "have", "led", "to", "a", "widespread", "appropriation", "of", "the", "notion", "of", "``", "entropy", "''", "as", "a", "measure", "of", "macro-level", "disorder", ",", "and", "of", "the", "Second", "Law", "as", "describing", "a", "tendency", "of", "systems", "to", "become", "more", "chaotic", ".", "Our", "approach", "participates", "to", "this", "appropriation", ".", "It", "has", "been", "objected", "-LSB-", "8", "-RSB-", "that", "such", "appropriation", "completely", "ignores", "the", "role", "of", "energy", "intrinsic", "to", "both", "thermodynamic", "definitions", "-LRB-", "via", "T", "and", "dQ", "in", "the", "macro", "definition", "and", "k", "in", "the", "micro", "definition", "-RRB-", ".", "Such", "an", "objection", "implicitly", "assumes", "that", "energy", "is", "logically", "prior", "to", "the", "definition", ",", "and", "that", "unless", "information", "processes", "are", "defined", "in", "terms", "of", "energy", "changes", ",", "it", "is", "illegitimate", "to", "identify", "their", "changes", "in", "entropy", "with", "those", "of", "thermodynamics", ".", "An", "alternative", "approach", "to", "the", "question", "would", "argue", "that", "in", "fact", "the", "prior", "concept", "is", "not", "ergs", "but", "bits", ",", "the", "universe", "is", "nothing", "but", "a", "very", "large", "cellular", "automaton", "with", "very", "small", "cells", "-LSB-", "3", ",", "6", "-RSB-", ",", "and", "physics", "and", "chemistry", "can", "in", "principle", "be", "redefined", "in", "terms", "of", "information-theoretic", "concepts", ".", "Our", "approach", "is", "sympathetic", "with", "this", "view", ".", "While", "we", "are", "not", "prepared", "at", "this", "point", "to", "define", "the", "precise", "correspondence", "between", "ergs", "and", "bits", ",", "we", "believe", "that", "physical", "models", "are", "an", "under-exploited", "resource", "for", "understanding", "computational", "systems", "in", "general", "and", "multi-agent", "systems", "in", "particular", ".", "The", "fact", "that", "the", "thermodynamic", "and", "information", "approaches", "work", "in", "different", "fundamental", "units", "-LRB-", "ergs", "vs.", "bits", "-RRB-", "is", "not", "a", "reason", "to", "separate", "them", ",", "but", "a", "pole", "star", "to", "guide", "research", "that", "may", "ultimately", "bring", "them", "together", ".", "We", "experiment", "with", "these", "concepts", "using", "a", "simple", "model", "of", "pheromone-based", "behavior", ".", "In", "this", "section", "we", "describe", "the", "experiment", "and", "how", "one", "measures", "entropy", "over", "it", ".", "3.1", "The", "Coordination", "Problem", "Consider", "two", "agents", ",", "one", "fixed", "and", "one", "mobile", ",", "who", "desire", "to", "be", "together", ".", "Neither", "knows", "the", "location", "of", "the", "other", ".", "The", "mobile", "agent", ",", "or", "walker", ",", "could", "travel", "to", "the", "destination", "of", "the", "stationary", "one", ",", "if", "it", "only", "knew", "where", "to", "go", ".", "The", "stationary", "agent", ",", "or", "target", ",", "deposits", "pheromone", "molecules", "at", "its", "location", ".", "As", "the", "pheromone", "molecules", "diffuse", "through", "the", "environment", ",", "they", "create", "a", "gradient", "that", "the", "walker", "can", "follow", ".", "Initially", ",", "the", "walker", "is", "at", "-LRB-", "30,30", "-RRB-", "and", "the", "target", "is", "at", "-LRB-", "50,50", "-RRB-", "in", "a", "100x100", "field", ".", "Every", "time", "step", ",", "the", "target", "deposits", "one", "molecule", "at", "-LRB-", "50,50", "-RRB-", ".", "Both", "the", "walker", "and", "the", "pheromone", "molecules", "move", "by", "computing", "an", "angle", "-LSB-", "0,2", "-RSB-", "relative", "to", "their", "current", "heading", "and", "taking", "a", "step", "of", "constant", "length", "-LRB-", "1", "for", "the", "walker", ",", "2", "for", "the", "pheromone", "molecule", "-RRB-", "in", "the", "resulting", "direction", ".", "Thus", "both", "molecules", "and", "walkers", "can", "be", "located", "at", "any", "real-valued", "coordinates", "in", "the", "field", ".", "Molecules", "move", "every", "cycle", "of", "the", "simulation", "and", "the", "walker", "every", "five", "cycles", ",", "so", "altogether", "the", "molecules", "move", "ten", "times", "as", "fast", "as", "the", "walker", ".", "Molecules", "fall", "off", "of", "the", "field", "when", "they", "reach", "the", "edge", ",", "while", "the", "walker", "bounces", "off", "the", "edges", ".", "Molecules", "choose", "the", "heading", "for", "their", "next", "step", "from", "a", "uniform", "random", "distribution", ",", "and", "so", "execute", "an", "unbiased", "random", "walk", ".", "The", "walker", "computes", "its", "heading", "from", "two", "inputs", ".", "1", ".", "It", "generates", "a", "gradient", "vector", "Gr", "from", "its", "current", "location", "to", "each", "molecule", "within", "a", "specified", "radius", ",", "with", "magnitude", "Equation", "4", "<", "=", "i", "r", "i", "r", "g", "G", "2", "r", "where", "r", "i", "is", "the", "distance", "between", "the", "walker", "and", "the", "ith", "molecule", "and", "g", "is", "a", "``", "gravitational", "constant", "''", "-LRB-", "currently", "1", "-RRB-", ".", "2", ".", "It", "generates", "a", "random", "vector", "Rr", "with", "random", "heading", "and", "length", "equal", "to", "a", "temperature", "parameter", "T", ".", "The", "vector", "sum", "R", "G", "r", "r", "+", ",", "normalized", "to", "the", "walker", "'s", "step", "length", "-LRB-", "1", "in", "these", "experiments", "-RRB-", ",", "defines", "the", "walker", "'s", "next", "step", ".", "Including", "Rr", "in", "the", "computation", "permits", "us", "to", "explore", "the", "effectiveness", "of", "different", "degrees", "of", "stochasticity", "in", "the", "walker", "'s", "movement", ",", "following", "the", "example", "of", "natural", "pheromone", "systems", ".", "The", "state", "of", "the", "walker", "defines", "the", "macro", "state", "of", "the", "system", ",", "while", "the", "states", "of", "the", "molecules", "define", "the", "micro", "state", ".", "This", "model", "can", "easily", "be", "enhanced", "in", "a", "number", "of", "directions", ",", "including", "adding", "multiple", "walkers", "and", "multiple", "targets", ",", "and", "permitting", "walkers", "and", "targets", "to", "deposit", "pheromone", "molecules", "of", "various", "flavors", ".", "The", "simple", "configuration", "is", "sufficient", "to", "demonstrate", "our", "techniques", "and", "their", "potential", "for", "understanding", "how", "the", "walker", "finds", "the", "target", ".", "3.2", "Measuring", "Entropy", "Computing", "the", "Shannon", "or", "Information", "Entropy", "defined", "in", "Equation", "3", "requires", "that", "we", "measure", "1", ".", "the", "set", "of", "states", "accessible", "to", "the", "system", "and", "2", ".", "the", "probability", "of", "finding", "the", "system", "in", "each", "of", "those", "states", ".", "3.2.1", "Measuring", "the", "Number", "of", "System", "States", "In", "most", "computational", "systems", ",", "the", "discreteness", "of", "digital", "computation", "makes", "counting", "system", "states", "straightforward", "-LRB-", "though", "the", "number", "of", "possible", "states", "is", "extremely", "high", "-RRB-", ".", "We", "have", "purposely", "defined", "the", "movement", "of", "our", "walker", "and", "molecules", "in", "continuous", "space", "to", "highlight", "the", "challenge", "of", "counting", "discrete", "system", "states", "in", "an", "application", "embedded", "in", "the", "physical", "world", "-LRB-", "such", "as", "a", "robotic", "application", "-RRB-", ".", "Our", "approach", "is", "to", "superimpose", "a", "grid", "on", "the", "field", ",", "and", "define", "a", "state", "on", "the", "basis", "of", "the", "populations", "of", "the", "cells", "of", "the", "grid", ".", "We", "can", "define", "state", ",", "and", "thus", "entropy", ",", "in", "terms", "either", "of", "location", "or", "direction", ".", "Location-based", "state", "is", "based", "on", "a", "single", "snapshot", "of", "the", "system", ",", "while", "direction-based", "state", "is", "based", "on", "how", "the", "system", "has", "changed", "between", "successive", "snapshots", ".", "Each", "approach", "has", "an", "associated", "gridding", "technique", ".", "For", "location-based", "entropy", ",", "we", "divide", "the", "field", "with", "a", "grid", ".", "Figure", "2", "shows", "a", "2x2", "grid", "with", "four", "cells", ",", "one", "spanning", "each", "quarter", "of", "the", "field", ".", "The", "state", "of", "this", "system", "is", "a", "four-element", "vector", "reporting", "the", "number", "of", "molecules", "in", "each", "cell", "-LRB-", "in", "the", "example", ",", "reading", "row-wise", "from", "upper", "left", ",", "<", "1,1,3,2", ">", ".", "The", "number", "of", "possible", "states", "in", "an", "nxn", "grid", "with", "m", "particles", "is", "n", "2m", ".", "The", "parameters", "in", "location-based", "gridding", "are", "the", "number", "of", "divisions", "in", "each", "direction", ",", "their", "orientation", ",", "and", "the", "origin", "of", "the", "grid", ".", "126", "Rectangular", "grids", "are", "easiest", "to", "manage", "computationally", ",", "but", "one", "could", "also", "tile", "the", "plane", "with", "hexagons", ".", "For", "direction-based", "entropy", ",", "we", "center", "a", "star", "on", "the", "previous", "location", "of", "each", "particle", "and", "record", "the", "sector", "of", "the", "star", "into", "which", "the", "particle", "is", "found", "at", "the", "current", "step", ".", "Figure", "3", "shows", "a", "four-rayed", "star", "with", "a", "two", "particles", ".", "The", "state", "of", "the", "system", "is", "a", "vector", "with", "one", "element", "for", "each", "particle", "in", "some", "canonical", "order", ".", "Counting", "sectors", "clockwise", "from", "the", "upper", "left", ",", "the", "state", "of", "this", "example", "is", "<", "2,3", ">", ".", "The", "number", "of", "possible", "states", "with", "an", "n-pointed", "star", "and", "m", "particles", "is", "mn", ".", "The", "parameters", "in", "direction-based", "gridding", "are", "the", "number", "of", "rays", "in", "the", "star", "and", "the", "rotation", "of", "the", "star", "about", "its", "center", ".", "In", "both", "techniques", ",", "the", "analysis", "depends", "critically", "on", "the", "resolution", "of", "the", "grid", "-LRB-", "the", "parameter", "n", "-RRB-", "and", "its", "origin", "and", "orientation", "-LRB-", "for", "location", "-RRB-", "or", "rotation", "-LRB-", "for", "direction", "-RRB-", ".", "To", "understand", "the", "dependency", "on", "n", ",", "consider", "two", "extremes", ".", "If", "n", "is", "very", "large", ",", "the", "chance", "of", "two", "distributions", "of", "particles", "on", "the", "field", "having", "the", "same", "state", "is", "vanishingly", "small", ".", "For", "N", "distributions", ",", "each", "will", "be", "a", "distinct", "state", ",", "each", "state", "will", "have", "equal", "probability", "1/N", ",", "and", "the", "entropy", "will", "be", "log", "-LRB-", "N", "-RRB-", ".", "This", "state", "of", "affairs", "is", "clearly", "not", "informative", ".", "At", "the", "other", "extreme", ",", "n", "=", "1", ",", "all", "distributions", "represent", "the", "same", "state", ",", "which", "therefore", "occurs", "with", "probability", "1", ",", "yielding", "entropy", "0", ",", "again", "not", "informative", ".", "We", "choose", "the", "gridding", "resolution", "empirically", "by", "observing", "the", "length", "scales", "active", "in", "the", "system", "as", "it", "operates", ".", "To", "understand", "the", "dependency", "on", "origin/orientation", "or", "rotation", ",", "consider", "two", "particles", "in", "the", "same", "cell", ".", "After", "they", "move", ",", "will", "they", "still", "be", "in", "the", "same", "cell", "-LRB-", "keeping", "entropy", "the", "same", "-RRB-", "or", "in", "different", "cells", "-LRB-", "increasing", "entropy", "-RRB-", "?", "Exactly", "the", "same", "movements", "of", "the", "two", "particles", "could", "yield", "either", "result", ",", "depending", "on", "how", "the", "grid", "is", "registered", "with", "the", "field", ".", "We", "follow", "Gutowitz", "'s", "technique", "-LSB-", "5", "-RSB-", "of", "measuring", "the", "entropy", "with", "several", "different", "origins", "and", "taking", "the", "minimum", ",", "thus", "minimizing", "entropy", "contributions", "resulting", "from", "the", "discrete", "nature", "of", "the", "grid", ".", "3.2.2", "Measuring", "the", "Probabilities", "In", "principle", ",", "one", "could", "compute", "the", "probability", "of", "different", "system", "states", "analytically", ".", "This", "approach", "would", "be", "arduous", "even", "for", "our", "simple", "system", ",", "and", "completely", "impractical", "for", "a", "more", "complex", "system", ".", "We", "take", "a", "Monte", "Carlo", "approach", "instead", ".", "We", "run", "the", "system", "repeatedly", ".", "At", "each", "step", "in", "time", ",", "we", "estimate", "the", "probability", "of", "each", "observed", "state", "by", "counting", "the", "number", "of", "replications", "in", "which", "that", "state", "was", "observed", ".", "The", "results", "reported", "here", "are", "based", "on", "30", "replications", ".", "Shannon", "entropy", "has", "a", "maximum", "value", "of", "log", "-LRB-", "N", "-RRB-", "for", "N", "different", "states", ",", "achieved", "when", "each", "state", "is", "equally", "probable", ".", "To", "eliminate", "this", "dependence", "on", "N", ",", "we", "normalize", "the", "entropies", "we", "report", "by", "dividing", "by", "log", "-LRB-", "N", "-RRB-", "-LRB-", "in", "our", "case", ",", "log", "-LRB-", "30", "-RRB-", "-RRB-", ",", "incidentally", "making", "the", "choice", "of", "base", "of", "logarithms", "irrelevant", ".", "We", "report", "the", "behavior", "of", "entropy", "first", "in", "the", "micro", "system", ",", "then", "in", "the", "unguided", "and", "guided", "macro", "system", ",", "and", "finally", "in", "the", "complete", "system", ".", "4.1", "Entropy", "in", "the", "Micro", "System", "Figure", "4", "shows", "locational", "entropy", "in", "the", "micro", "system", "-LRB-", "the", "pheromone", "molecules", "-RRB-", ",", "computed", "from", "a", "5x5", "grid", ".", "Entropy", "increases", "with", "time", "until", "it", "saturates", "at", "1", ".", "The", "more", "molecules", "enter", "the", "system", "and", "the", "more", "they", "disperse", "throughout", "the", "field", ",", "the", "higher", "the", "entropy", "grows", ".", "Increasing", "the", "grid", "resolution", "has", "no", "effect", "on", "the", "shape", "of", "this", "increase", ",", "but", "reduces", "the", "time", "to", "saturation", ",", "because", "the", "molecules", "must", "spread", "out", "from", "a", "single", "-LRB-", "0,0", "-RRB-", "-LRB-", "100,0", "-RRB-", "-LRB-", "0,100", "-RRB-", "-LRB-", "100,100", "-RRB-", "-LRB-", "0,0", "-RRB-", "-LRB-", "100,0", "-RRB-", "-LRB-", "0,100", "-RRB-", "-LRB-", "100,100", "-RRB-", "Figure", "2", ".", "Location-based", "gridding", ".", "-LRB-", "0,0", "-RRB-", "-LRB-", "100,0", "-RRB-", "-LRB-", "0,100", "-RRB-", "-LRB-", "100,100", "-RRB-", "1", "2", "-LRB-", "0,0", "-RRB-", "-LRB-", "100,0", "-RRB-", "-LRB-", "0,100", "-RRB-", "-LRB-", "100,100", "-RRB-", "1", "2", "Figure", "3", ".", "Direction-based", "gridding", ".", "0", "50", "100", "150", "200", "250", "Time", "0.2", "0.4", "0.6", "0.8", "1", "o", "r", "c", "i", "My", "p", "o", "r", "t", "n", "E", "Figure", "4", ".", "Micro", "Entropy", "x", "Time", "-LRB-", "5x5", "Grid", "-RRB-", "127", "location", "and", "the", "finer", "the", "grid", ",", "the", "sooner", "they", "can", "generate", "a", "large", "number", "of", "different", "states", ".", "Directional", "entropy", "also", "increases", "with", "time", "to", "saturation", ".", "This", "result", "-LRB-", "not", "plotted", "-RRB-", "can", "be", "derived", "analytically", ".", "The", "molecule", "population", "increases", "linearly", "with", "time", "until", "molecules", "start", "reaching", "the", "edge", ".", "Then", "the", "growth", "slows", ",", "and", "eventually", "reaches", "0", ".", "Let", "M", "be", "the", "population", "of", "the", "field", "at", "equilibrium", ",", "and", "consider", "all", "M", "molecules", "being", "located", "at", "-LRB-", "50,50", "-RRB-", "through", "the", "entire", "run", ".", "Initially", ",", "all", "are", "stationary", ",", "and", "each", "time", "step", "one", "additional", "molecule", "is", "activated", ".", "Then", "the", "total", "number", "of", "possible", "system", "states", "for", "a", "4-star", "is", "4M", ",", "but", "the", "number", "actually", "sampled", "during", "the", "period", "of", "linear", "population", "growth", "is", "4t", ",", "since", "the", "stationary", "molecules", "do", "not", "generate", "any", "additional", "states", ".", "Thus", "the", "entropy", "during", "the", "linear", "phase", "is", "log", "-LRB-", "4t", "-RRB-", "/", "log", "-LRB-", "4M", "-RRB-", ".", "As", "the", "growth", "becomes", "sublinear", ",", "the", "entropy", "asymptotically", "approaches", "1", ",", "as", "with", "locational", "entropy", ".", "4.2", "Entropy", "in", "the", "Unguided", "Macro", "System", "Figure", "5", "shows", "the", "path", "of", "a", "walker", "uncoupled", "to", "the", "micro", "system", "-LRB-", "when", "the", "target", "is", "emitting", "no", "pheromone", "molecules", "-RRB-", ".", "With", "no", "coupling", "to", "the", "micro", "field", ",", "the", "walker", "is", "just", "a", "single", "molecule", "executing", "a", "random", "walk", ".", "Figure", "6", "shows", "that", "locational", "entropy", "for", "this", "walker", "increases", "over", "time", ",", "reflecting", "the", "increased", "number", "of", "cells", "accessible", "to", "the", "walker", "as", "its", "random", "walk", "takes", "it", "farther", "from", "its", "base", ".", "The", "grid", "size", "-LRB-", "15", "divisions", "in", "each", "direction", "-RRB-", "is", "chosen", "on", "the", "basis", "of", "observations", "of", "the", "guided", "walker", ",", "discussed", "in", "the", "next", "section", ".", "The", "directional", "entropy", "-LRB-", "not", "plotted", "-RRB-", "is", "constant", "at", "1", ",", "since", "the", "walker", "chooses", "randomly", "at", "each", "step", "from", "all", "available", "directions", ".", "4.3", "Entropy", "in", "Guided", "Macro", "System", "Now", "we", "provide", "the", "walker", "with", "a", "micro", "field", "by", "emitting", "pheromone", "molecules", "from", "the", "target", ".", "Figure", "7", "shows", "the", "path", "followed", "by", "a", "typical", "walker", "with", "radius", "=", "20", "and", "T", "=", "0", ".", "This", "path", "has", "three", "distinct", "parts", ".", "Initially", ",", "the", "walker", "wanders", "randomly", "around", "its", "origin", "at", "-LRB-", "30,30", "-RRB-", ",", "until", "the", "wavefront", "of", "molecules", "diffusing", "from", "-LRB-", "50,50", "-RRB-", "encounters", "its", "radius", ".", "In", "this", "region", ",", "the", "walker", "has", "no", "guidance", ",", "because", "no", "molecules", "are", "visible", ".", "Once", "the", "walker", "begins", "to", "sense", "molecules", ",", "it", "moves", "rather", "directly", "from", "the", "vicinity", "of", "-LRB-", "30,30", "-RRB-", "to", "-LRB-", "50,50", "-RRB-", ",", "following", "the", "pheromone", "gradient", ".", "When", "it", "arrives", "at", "-LRB-", "50,50", "-RRB-", ",", "it", "again", "receives", "no", "guidance", "from", "the", "molecules", ",", "because", "they", "are", "distributed", "equally", "in", "all", "directions", ".", "So", "it", "again", "meanders", ".", "The", "clouds", "of", "wandering", "near", "the", "start", "and", "finish", "have", "diameters", "in", "the", "range", "of", "5", "to", "10", ",", "suggesting", "a", "natural", "grid", "between", "20x20", "and", "10x10", ".", "We", "report", "here", "experiments", "with", "a", "15x15", "grid", ".", "Because", "of", "their", "initial", "random", "walk", "around", "their", "origin", ",", "walkers", "in", "different", "runs", "will", "be", "at", "different", "locations", "when", "they", "start", "to", "move", ",", "and", "will", "follow", "slightly", "different", "paths", "to", "the", "target", "-LRB-", "Figure", "8", "-RRB-", ".", "30", "35", "40", "45", "50", "55", "x", "30", "35", "40", "45", "50", "55", "y", "Figure", "5", ".", "Unguided", "Walker", "Path", ".", "Axes", "are", "location", "in", "the", "-LRB-", "100x100", "-RRB-", "field", ".", "0", "50", "100", "150", "200", "250", "Time", "0.2", "0.4", "0.6", "0.8", "1", "o", "r", "c", "a", "My", "p", "o", "r", "t", "n", "E", "Figure", "6", ".", "Unguided", "Walker", "Locational", "Entropy", "-LRB-", "15x15", "Grid", "-RRB-", "30", "35", "40", "45", "50", "55", "x", "30", "35", "40", "45", "50", "55", "y", "Figure", "7", ".", "Guided", "Walker", "Path", "-LRB-", "=", "20", ",", "T", "=", "0", "-RRB-", "30", "35", "40", "45", "50", "55", "x", "30", "35", "40", "45", "50", "55", "y", "Figure", "8", ".", "Ensemble", "of", "Guided", "Walkers", "-LRB-", "=", "20", ",", "T", "=", "0", "-RRB-", "128", "The", "dots", "in", "Figure", "9", "and", "Figure", "10", "show", "the", "directional", "and", "locational", "entropies", "across", "this", "ensemble", "of", "guided", "walkers", "as", "a", "function", "of", "time", ".", "The", "solid", "line", "in", "each", "case", "plots", "the", "normalized", "median", "distance", "from", "the", "walkers", "to", "the", "target", "-LRB-", "actual", "maximum", "28", "-RRB-", ",", "while", "the", "dashed", "line", "plots", "the", "normalized", "median", "number", "of", "molecules", "visible", "to", "the", "walkers", "-LRB-", "actual", "maximum", "151", "-RRB-", ".", "The", "lines", "show", "how", "changes", "in", "entropy", "and", "reduction", "in", "distance", "to", "the", "target", "are", "correlated", "with", "the", "number", "of", "molecules", "that", "the", "walker", "senses", "at", "any", "given", "moment", ".", "At", "the", "beginning", "and", "end", "of", "the", "run", ",", "when", "the", "walkers", "are", "wandering", "without", "guidance", ",", "directional", "entropy", "is", "1", ",", "corresponding", "to", "a", "random", "walk", ".", "During", "the", "middle", "portion", "of", "the", "run", ",", "when", "the", "walker", "is", "receiving", "useful", "guidance", "from", "the", "micro", "level", ",", "the", "entropy", "drops", "dramatically", ".", "As", "the", "temperature", "parameter", "T", "is", "increased", "in", "the", "range", "50", "to", "100", ",", "the", "bottom", "of", "the", "entropy", "well", "rises", ",", "but", "the", "overall", "shape", "remains", "the", "same", "-LRB-", "plot", "not", "shown", "-RRB-", ".", "The", "locational", "entropy", "presents", "a", "different", "story", ".", "The", "minimization", "method", "for", "avoiding", "discreteness", "artifacts", "has", "the", "effect", "of", "selecting", "at", "each", "time", "step", "the", "offset", "that", "best", "centers", "the", "cells", "on", "the", "walkers", ".", "At", "the", "beginning", "of", "the", "run", "and", "again", "at", "the", "end", ",", "most", "walkers", "are", "close", "together", ",", "and", "fall", "within", "the", "same", "cell", "-LRB-", "because", "we", "chose", "a", "cell", "size", "comparable", "to", "these", "clouds", "-RRB-", ".", "Walkers", "leave", "the", "starting", "cloud", "at", "different", "times", ",", "since", "those", "closer", "to", "the", "target", "sense", "the", "pheromones", "sooner", ",", "and", "follow", "different", "paths", ",", "depending", "on", "where", "they", "were", "when", "the", "pheromone", "reached", "them", ".", "Thus", "they", "spread", "out", "during", "this", "movement", "phase", ",", "and", "cluster", "together", "again", "once", "they", "reach", "the", "target", ".", "The", "effect", "of", "raising", "T", "to", "100", "on", "locational", "entropy", "is", "that", "the", "right", "end", "of", "the", "curve", "rises", "until", "the", "curve", "assumes", "a", "similar", "shape", "-LRB-", "plot", "not", "shown", "-RRB-", "to", "Figure", "6", ".", "Comparison", "of", "Figure", "6", "and", "Figure", "10", "shows", "that", "though", "the", "directed", "portion", "of", "the", "walker", "'s", "movement", "has", "higher", "entropy", "than", "the", "undirected", "portions", ",", "coupling", "the", "walker", "to", "the", "micro", "level", "does", "reduce", "the", "walker", "'s", "overall", "entropy", ".", "Even", "at", "its", "maximum", ",", "the", "entropy", "of", "the", "guided", "walker", "is", "much", "lower", "than", "that", "of", "the", "random", "one", ",", "demonstrating", "the", "basic", "dynamics", "of", "the", "Kugler-Turvey", "model", ".", "The", "different", "behavior", "of", "locational", "and", "directional", "entropy", "is", "instructive", ".", "Which", "is", "more", "orderly", ":", "a", "randomly", "moving", "walker", ",", "or", "one", "guided", "by", "pheromones", "?", "The", "expected", "location", "of", "a", "random", "walker", "is", "stationary", "-LRB-", "though", "with", "a", "non-zero", "variance", "-RRB-", ",", "while", "that", "of", "a", "guided", "walker", "is", "non-stationary", ".", "In", "terms", "of", "location", ",", "the", "random", "walker", "is", "thus", "more", "regular", ",", "and", "the", "location", "entropy", "reflects", "this", ".", "However", ",", "the", "movement", "of", "the", "guided", "walker", "is", "more", "orderly", "than", "that", "of", "the", "random", "walker", ",", "and", "this", "difference", "is", "reflected", "in", "the", "directional", "entropy", ".", "This", "difference", "highlights", "the", "importance", "of", "paying", "attention", "to", "dynamical", "aspects", "of", "agent", "behavior", ".", "Our", "intuition", "that", "the", "guided", "walker", "is", "more", "orderly", "than", "the", "random", "one", "is", "really", "an", "intuition", "about", "the", "movement", "of", "this", "walker", ",", "not", "its", "location", ".", "4.4", "Entropy", "in", "the", "Overall", "System", "Central", "to", "the", "Kugler-Turvey", "model", "is", "the", "assertion", "that", "entropy", "increase", "at", "the", "micro", "level", "is", "sufficient", "to", "ensure", "entropy", "increase", "in", "the", "overall", "system", "even", "in", "the", "presence", "of", "self-organization", "and", "concomitant", "entropy", "reduction", "at", "the", "micro", "level", ".", "Our", "experiment", "illustrates", "this", "dynamic", ".", "As", "illustrated", "in", "Figure", "4", ",", "by", "time", "60", ",", "normalized", "entropy", "in", "the", "micro", "system", "has", "reached", "the", "maximum", "level", "of", "1", ",", "indicating", "that", "each", "of", "the", "30", "replications", "of", "the", "experiment", "results", "in", "a", "distinct", "state", ".", "If", "each", "replication", "is", "already", "distinct", "on", "the", "basis", "of", "the", "locations", "of", "the", "pheromone", "molecules", "alone", ",", "adding", "additional", "state", "elements", "-LRB-", "such", "as", "the", "location", "of", "the", "walker", "-RRB-", "can", "not", "cause", "two", "replications", "to", "become", "the", "same", ".", "Thus", "by", "time", "60", "the", "normalized", "entropy", "of", "the", "entire", "system", "must", "also", "be", "at", "a", "maximum", ".", "In", "particular", ",", "decreases", "in", "macro", "entropy", ",", "such", "as", "the", "decrease", "in", "locational", "entropy", "from", "time", "80", "on", "seen", "in", "Figure", "10", ",", "do", "not", "reduce", "the", "entropy", "of", "the", "overall", "system", ".", "One", "may", "ask", "whether", "the", "reduction", "in", "macro", "-LRB-", "walker", "-RRB-", "entropy", "is", "causally", "related", "to", "the", "increase", "in", "micro", "entropy", ",", "or", "just", "coincidental", ".", "After", "all", ",", "a", "static", "gradient", "of", "pheromone", "molecules", "would", "guide", "the", "walker", "to", "the", "target", "just", "as", "effectively", ",", "but", "would", "be", "identical", "in", "every", "run", ",", "and", "so", "exhibit", "zero", "entropy", ".", "This", "argument", "neglects", "whatever", "process", "generates", "the", "static", "gradient", "in", "the", "first", "place", ".", "An", "intelligent", "observer", "could", "produce", "the", "gradient", ",", "but", "then", "the", "behavior", "of", "the", "system", "would", "hardly", "be", "``", "self-organizing", ".", "''", "In", "our", "scenario", ",", "the", "gradient", "emerges", "as", "a", "natural", "consequence", "of", "a", "completely", "random", "process", ",", "the", "random", "walk", "of", "the", "pheromone", "molecules", "emerging", "from", "the", "target", ".", "The", "gradient", "can", "then", "reduce", "the", "entropy", "of", "a", "walker", "at", "the", "macro", "level", ",", "but", "the", "price", "paid", "for", "this", "entropy", "reduction", "is", "the", "increase", "in", "entropy", "generated", "by", "the", "random", "process", "that", "produces", "and", "maintains", "the", "gradient", ".", "0", "10", "20", "30", "40", "50", "Time", "0.2", "0.4", "0.6", "0.8", "1", "y", "p", "o", "r", "t", "n", "E", "e", "c", "n", "a", "t", "s", "i", "Dd", "n", "as", "e", "l", "u", "c", "e", "l", "o", "M", "Figure", "9", ".", "Guided", "walker", ":", "dots", "=", "directional", "entropy", "-LRB-", "4", "star", "-RRB-", ",", "solid", "line", "=", "median", "distance", "to", "target", "-LRB-", "max", "28", "-RRB-", ",", "dashed", "line", "=", "median", "visible", "molecules", "-LRB-", "max", "151", "-RRB-", ".", "0", "50", "100", "150", "200", "250", "Time", "0.2", "0.4", "0.6", "0.8", "1", "o", "r", "c", "a", "My", "p", "o", "r", "t", "n", "E", "e", "c", "n", "a", "t", "s", "i", "Dd", "n", "as", "e", "l", "u", "c", "e", "l", "o", "M", "Figure", "10", ".", "Guided", "walker", ":", "dots", "=", "locational", "entropy", "-LRB-", "15x15", "grid", "-RRB-", ",", "solid", "line", "=", "median", "distance", "to", "target", "-LRB-", "max", "28", "-RRB-", ",", "dashed", "line", "=", "median", "visible", "molecules", "-LRB-", "max", "151", "-RRB-", ".", "129", "One", "may", "also", "ask", "whether", "our", "hypothesis", "requires", "a", "quantitative", "relation", "between", "entropy", "loss", "at", "the", "macro", "level", "and", "entropy", "gain", "at", "the", "micro", "level", ".", "A", "strict", "entropy", "balance", "is", "not", "required", ";", "the", "micro", "level", "might", "generate", "more", "entropy", "than", "the", "macro", "level", "loses", ".", "In", "operational", "terms", ",", "the", "system", "may", "have", "a", "greater", "capacity", "for", "coordination", "than", "a", "particular", "instantiation", "exploits", ".", "What", "is", "required", "is", "that", "the", "entropy", "increase", "at", "the", "micro", "level", "be", "sufficient", "to", "cover", "the", "decrease", "at", "the", "macro", "level", ",", "and", "this", "we", "have", "shown", ".", "To", "be", "effective", ",", "multi-agent", "systems", "must", "yield", "coordinated", "behavior", "from", "individually", "autonomous", "actions", ".", "Concepts", "from", "thermodynamics", "-LRB-", "in", "particular", ",", "the", "Second", "Law", "and", "entropy", "-RRB-", "have", "been", "invoked", "metaphorically", "to", "explain", "the", "conditions", "under", "which", "coordination", "can", "emerge", ".", "Our", "work", "makes", "this", "metaphor", "more", "concrete", "and", "derives", "several", "important", "insights", "from", "it", ".", "This", "metaphor", "can", "be", "made", "quantitative", ",", "through", "simple", "state", "partitioning", "methods", "and", "Monte", "Carlo", "simulation", ".", "These", "methods", "show", "how", "coordination", "can", "arise", "through", "coupling", "the", "macro", "level", "-LRB-", "in", "which", "we", "desire", "agent", "self-organization", "with", "a", "concomitant", "decrease", "in", "entropy", "-RRB-", "to", "an", "entropy-increasing", "process", "at", "a", "micro", "level", "-LRB-", "e.g.", ",", "pheromone", "evaporation", "-RRB-", ".", "Our", "demonstration", "focuses", "on", "synthetic", "pheromones", "for", "the", "sake", "of", "expositional", "simplicity", ",", "but", "we", "believe", "that", "the", "same", "approach", "would", "be", "fruitful", "for", "understanding", "self-organization", "with", "other", "mechanisms", "of", "agent", "coordination", ",", "such", "as", "market", "systems", ".", "This", "confirmation", "of", "the", "Kugler-Turvey", "model", "encourages", "us", "as", "agent", "designers", "to", "think", "explicitly", "in", "terms", "of", "macro", "and", "micro", "levels", ",", "with", "agent", "behaviors", "at", "the", "macro", "level", "coupled", "in", "both", "directions", "-LRB-", "causally", "and", "perceptually", "-RRB-", "to", "entropy-increasing", "processes", "at", "the", "micro", "level", ".", "Some", "form", "of", "pheromone", "or", "currency", "is", "a", "convenient", "mechanism", "for", "creating", "such", "an", "entropy-increasing", "process", ".", "Researchers", "must", "distinguish", "between", "static", "and", "dynamic", "order", "in", "a", "multi-agent", "system", ".", "We", "have", "exhibited", "a", "system", "that", "appears", "intuitively", "to", "be", "self-organizing", ",", "and", "shown", "that", "the", "measure", "of", "order", "underlying", "this", "intuition", "is", "dynamic", "rather", "than", "static", ".", "This", "work", "is", "supported", "in", "part", "by", "the", "DARPA", "JFACC", "program", "under", "contract", "F30602-99-C-0202", "to", "ERIM", "CEC", ".", "The", "views", "and", "conclusions", "in", "this", "document", "are", "those", "of", "the", "authors", "and", "should", "not", "be", "interpreted", "as", "representing", "the", "official", "policies", ",", "either", "expressed", "or", "implied", ",", "of", "the", "Defense", "Advanced", "Research", "Projects", "Agency", "or", "the", "US", "Government", ".", "-LSB-", "1", "-RSB-", "E.", "Bonabeau", ",", "M.", "Dorigo", ",", "and", "G.", "Theraulaz", ".", "Swarm", "Intelligence", ":", "From", "Natural", "to", "Artificial", "Systems", ".", "New", "York", ",", "Oxford", "University", "Press", ",", "1999", ".", "-LSB-", "2", "-RSB-", "S.", "Brueckner", ".", "Return", "from", "the", "Ant", ":", "Synthetic", "Ecosystems", "for", "Manufacturing", "Control", ".", "Thesis", "at", "Humboldt", "University", "Berlin", ",", "Department", "of", "Computer", "Science", ",", "2000", ".", "-LSB-", "3", "-RSB-", "E.", "Fredkin", ".", "Finite", "Nature", ".", "In", "Proceedings", "of", "The", "XXVIIth", "Recontre", "de", "Moriond", ",", "1992", ".", "-LSB-", "4", "-RSB-", "P.-P", ".", "Grass", ".", "La", "Reconstruction", "du", "nid", "et", "les", "Coordinations", "Inter-Individuelles", "chez", "Bellicositermes", "Natalensis", "et", "Cubitermes", "sp.", ".", "La", "th", "orie", "de", "la", "Stigmergie", ":", "Essai", "d'interpr", "tation", "du", "Comportement", "des", "Termites", "Constructeurs", ".", "Insectes", "Sociaux", ",", "6:41-80", ",", "1959", ".", "-LSB-", "5", "-RSB-", "H.", "A.", "Gutowitz", ".", "Complexity-Seeking", "Ants", ".", "In", "Proceedings", "of", "Third", "European", "Conference", "on", "Artifical", "Life", ",", "1993", ".", "-LSB-", "6", "-RSB-", "B.", "Hayes", ".", "Computational", "Creationism", ".", "American", "Scientist", ",", "87", "-LRB-", "5", "-RRB-", ":", "392-396", ",", "1999", ".", "-LSB-", "7", "-RSB-", "P.", "N.", "Kugler", "and", "M.", "T.", "Turvey", ".", "Information", ",", "Natural", "Law", ",", "and", "the", "Self-Assembly", "of", "Rhythmic", "Movement", ".", "Lawrence", "Erlbaum", ",", "1987", ".", "-LSB-", "8", "-RSB-", "F.", "L.", "Lambert", ".", "Shuffled", "Cards", ",", "Messy", "Desks", ",", "and", "Disorderly", "Dorm", "Rooms", "-", "Examples", "of", "Entropy", "Increase", "?", "Nonsense", "!", "Journal", "of", "Chemical", "Education", ",", "76:1385", ",", "1999", ".", "-LSB-", "9", "-RSB-", "F.", "L.", "Lambert", ".", "The", "Second", "Law", "of", "Thermodynamics", ".", "2000", ".", "Web", "Page", ",", "http://www.secondlaw.com/", ".", "-LSB-", "10", "-RSB-", "J.", "Lukkarinen", ".", "Re", ":", "continuing", "on", "Entropy", ".", "2000", ".", "Email", "Archive", ",", "http://necsi.org:8100/Lists/complex-science/Message/2236", ".", "html", ".", "-LSB-", "11", "-RSB-", "V.", "D.", "Parunak", ".", "`", "Go", "to", "the", "Ant", "'", ":", "Engineering", "Principles", "from", "Natural", "Agent", "Systems", ".", "Annals", "of", "Operations", "Research", ",", "75:69-101", ",", "1997", ".", "-LSB-", "12", "-RSB-", "V.", "D.", "Parunak", "and", "S.", "Brueckner", ".", "Ant-Like", "Missionaries", "and", "Cannibals", ":", "Synthetic", "Pheromones", "for", "Distributed", "Motion", "Control", ".", "In", "Proceedings", "of", "Fourth", "International", "Conference", "on", "Autonomous", "Agents", "-LRB-", "Agents", "2000", "-RRB-", ",", "pages", "467-474", ",", "2000", ".", "-LSB-", "13", "-RSB-", "Peeters", ",", "P.", "Valckenaers", ",", "J.", "Wyns", ",", "and", "S.", "Brueckner", ".", "Manufacturing", "Control", "Algorithm", "and", "Architecture", ".", "In", "Proceedings", "of", "Second", "International", "Workshop", "on", "Intelligent", "Manufacturing", "Systems", ",", "pages", "877-888", ",", "K.U.", "Leuven", ",", "1999", ".", "-LSB-", "14", "-RSB-", "E.", "Shannon", "and", "W.", "Weaver", ".", "The", "Mathematical", "Theory", "of", "Communication", ".", "Urbana", ",", "IL", ",", "University", "of", "Illinois", ",", "1949", ".", "-LSB-", "15", "-RSB-", "ithsonian", "Institution", ".", "Encyclopedia", "Smithsonian", ":", "Pheromones", "in", "Insects", ".", "1999", ".", "Web", "Page", ",", "http://www.si.edu/resource/faq/nmnh/buginfo/pheromones.ht", "m.", "130" ]

[ "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Creating", "a", "Massive", "Master", "Index", "for", "HTML", "and", "Print", "An", "index", "connects", "readers", "with", "information", ".", "Creating", "an", "index", "for", "a", "single", "book", "is", "a", "time-honored", "craft", ".", "Creating", "an", "index", "for", "a", "massive", "library", "of", "HTML", "topics", "is", "a", "modern", "craft", "that", "has", "largely", "been", "discarded", "in", "favor", "of", "robust", "search", "engines", ".", "The", "authors", "show", "how", "they", "optimized", "a", "single-sourced", "index", "for", "collections", "of", "HTML", "topics", ",", "printed", "books", ",", "and", "PDF", "books", ".", "With", "examples", "from", "a", "recent", "index", "of", "24,000", "entries", "for", "7,000", "distinct", "HTML", "topics", "also", "published", "as", "40", "different", "PDF", "books", ",", "the", "authors", "discuss", "the", "connections", "between", "modern", "technology", "and", "traditional", "information", "retrieval", "methods", "that", "made", "the", "index", "possible", ",", "usable", ",", "and", "efficient", "to", "create", "and", "maintain", ".", "I.", "7.2", "-LSB-", "Document", "and", "Text", "Processing", "-RSB-", ":", "Index", "Generation", ",", "Document", "Preparation", "--", "Index", "generation", ";", "H.", "3.1", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Content", "Analysis", "and", "Indexing", "--", "Indexing", "methods", ";", "H3", ".7", ":", "Digital", "Libraries", ":", "User", "issues", ";", "H.", "5.4", "-LSB-", "Information", "Interfaces", "and", "Presentation", "-RSB-", ":", "Hypertext", "/", "Hypermedia-Navigation", ":", "Documentation", ",", "Design", ",", "Human", "factors", "Trademarks", "and", "Copyyright", "IBM", "and", "DB2", "are", "trademarks", "or", "registered", "trademarks", "of", "International", "Business", "Machines", "Corporation", "in", "the", "United", "States", ",", "other", "countries", ",", "or", "both", ".", "Microsoft", "and", "Windows", "are", "trademarks", "or", "registered", "trademarks", "of", "Microsoft", "Corporation", "in", "the", "United", "States", ",", "other", "countries", ",", "or", "both", ".", "JavaHelp", "and", "JavaScript", "are", "trademarks", "or", "registered", "trademarks", "of", "Sun", "Microsystems", ",", "Inc.", "in", "the", "United", "States", ",", "other", "countries", ",", "or", "both", ".", "Other", "company", ",", "product", "or", "service", "names", "may", "be", "trademarks", "or", "service", "marks", "of", "others", ".", "2002", "IBM", "Canada", "Ltd.", ".", "All", "rights", "reserved", ".", "A", "project", "with", "a", "large", "library", "of", "existing", "documentation", "of", "about", "40", "books", "-LRB-", "several", "with", "multiple", "volumes", "-RRB-", "required", "a", "high-quality", "master", "index", ".", "The", "material", "was", "written", "using", "a", "proprietary", "SGML", "authoring", "tool", "and", "converted", "to", "both", "HTML", "for", "browser-based", "information", "and", "PDF", ".", "The", "library", "was", "being", "converted", "from", "a", "set", "of", "books", "into", "a", "task-oriented", ",", "topic-based", "set", "of", "documentation", ",", "so", "very", "little", "indexing", "time", "was", "available", "for", "the", "approximately", "20", "authors", "in", "two", "sites", "fully", "engaged", "in", "rewriting", "the", "documentation", "to", "conform", "to", "new", "guidelines", "for", "online", "topics", ",", "to", "incorporate", "new", "content", ",", "and", "to", "change", "content", "for", "the", "next", "release", "of", "their", "product", ".", "The", "four", "project", "editors", "responsible", "for", "the", "complete", "library", "were", "likewise", "busy", "assisting", "the", "structural", "conversion", "of", "the", "library", ".", "Customers", "were", "asking", "for", "more", "direct", "ways", "to", "find", "information", ".", "At", "a", "user", "conference", ",", "52", "percent", "of", "users", "said", "the", "former", "book", "indexes", "were", "their", "primary", "entry", "point", "into", "product", "information", ".", "Given", "these", "imposing", "-LRB-", "but", "sadly", "typical", "-RRB-", "resource", "constraints", ",", "the", "information", "architect", "for", "the", "project", "and", "an", "editor", "with", "extensive", "indexing", "experience", "worked", "together", "to", "develop", "an", "approach", "that", "would", "use", "technology", "to", "maximize", "the", "available", "efforts", "of", "both", "authors", "and", "editors", ".", "This", "paper", "describes", "the", "approach", "from", "the", "perspectives", "of", "the", "authors", ",", "editors", ",", "and", ",", "most", "importantly", ",", "the", "users", "of", "this", "set", "of", "documentation", ".", "The", "approach", "is", "described", "in", "enough", "detail", "to", "enable", "other", "projects", "to", "adapt", "the", "approach", "to", "the", "constraints", "of", "their", "situation", ".", "The", "paper", "also", "indicates", "the", "future", "directions", "that", "the", "project", "will", "explore", ".", "The", "challenges", "to", "producing", "a", "high-quality", "master", "index", "were", "not", "just", "posed", "by", "available", "resources", "or", "by", "available", "technology", ",", "but", "also", "by", "the", "writing", "culture", "of", "the", "project", ".", "The", "project", "had", "historically", "been", "heavily", "oriented", "towards", "writing", "and", "producing", "books", "--", "the", "HTML", "documentation", "set", "had", "been", "simply", "a", "collection", "of", "books", "converted", "to", "HTML", ".", "As", "a", "result", ",", "navigation", "through", "the", "HTML", "documentation", "was", "difficult", ";", "there", "were", "almost", "no", "links", "between", "books", ",", "and", "each", "book", "was", "organized", "under", "its", "own", "table", "of", "contents", ".", "Full-text", "search", "of", "the", "HTML", "books", "had", "been", "the", "only", "method", "of", "finding", "information", "across", "the", "complete", "library", ",", "if", "a", "user", "did", "n't", "know", "which", "book", "to", "consult", "directly", ".", "The", "product", "market", "share", "was", "expanding", ",", "and", "new", "users", "had", "to", "learn", "the", "product", "quickly", ".", "However", ",", "cultural", "attitudes", "towards", "writing", "reinforced", "the", "problem", "of", "books", "as", "separate", "silos", "of", "information", ":", "authors", "were", "responsible", "for", ",", "and", "took", "justifiable", "pride", "in", ",", "producing", "their", "individual", "books", ",", "and", "while", "consistency", "in", "style", "and", "ease", "of", "access", "across", "the", "library", "was", "encouraged", ",", "it", "was", "much", "less", "important", "to", "the", "writers", "'", "satisfaction", "and", "explicit", "goals", "than", "completing", "their", "self-contained", "sets", "of", "information", "well", ".", "Earlier", ",", "the", "product", "had", "offered", "a", "PostScript", "master", "index", "as", "a", "printed", "book", "and", "a", "file", ",", "in", "response", "to", "customer", "feedback", "about", "finding", "information", "across", "the", "growing", "library", ".", "There", "was", "never", "time", "to", "improve", "it", ",", "so", "it", "was", "eventually", "dropped", ",", "but", "at", "the", "same", "time", ",", "the", "need", "for", "better", "retrievability", "of", "information", "was", "increasing", "and", "search", "did", "not", "adequately", "meet", "that", "need", ".", "Users", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "or", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "specific", "permission", "and/or", "a", "fee", ".", "SIGDOC", "'", "02", ",", "October", "20-23", ",", "Toronto", ",", "Ontario", ",", "Canada", ".", "Copyright", "2002", "ACM", "1-58113-543-2", "/", "02/0010", "...", "$", "5.00", "186", "demanded", "both", "an", "interactive", "information", "finder", "and", "an", "easily", "scanned", "printable", "index", ".", "The", "previous", "version", "of", "the", "library", "produced", "a", "master", "index", "in", "both", "PDF", "and", "PostScript", "formats", "to", "assist", "users", "on", "platforms", "on", "which", "search", "did", "not", "work", ".", "However", ",", "the", "PDF", "index", "was", "generated", "from", "the", "individual", "indexes", "of", "each", "PDF", "book", "after", "the", "content", "of", "the", "books", "had", "been", "frozen", "for", "translation", ",", "so", "there", "was", "no", "attempt", "or", "opportunity", "to", "enforce", "consistency", "in", "indexing", "style", "across", "books", ",", "even", "when", "editors", "were", "able", "to", "help", "writers", "improve", "individual", "book", "indexes", ".", "Any", "effort", "in", "directly", "editing", "the", "master", "index", "would", "have", "been", "lost", "on", "the", "library", "as", "a", "whole", "because", "the", "index", "entries", "were", "part", "of", "the", "source", "books", ".", "Even", "so", ",", "the", "process", "of", "creating", "the", "master", "index", "took", "days", "and", "required", "the", "cooperation", "of", "dozens", "of", "authors", ".", "The", "PDF", "master", "index", "was", "only", "a", "limited", "replacement", "for", "search", ",", "since", "neither", "the", "PDF", "nor", "the", "PostScript", "version", "could", "provide", "direct", "links", "to", "the", "indexed", "information", ".", "The", "PDF", "master", "index", "forced", "users", "to", "find", "and", "open", "the", "corresponding", "PDF", "or", "printed", "book", ",", "then", "find", "the", "referenced", "page", "themselves", ".", "As", "part", "of", "the", "effort", "to", "address", "the", "problems", "of", "navigating", "through", "the", "HTML", "documentation", "for", "the", "next", "release", "of", "the", "product", ",", "the", "information", "architect", "and", "the", "editors", "decided", "to", "produce", "a", "high-quality", "master", "index", "in", "HTML", ",", "even", "though", "the", "full-text", "search", "capability", "would", "be", "supported", "across", "all", "platforms", "for", "the", "next", "release", ".", "A", "frequent", "question", "early", "in", "the", "project", "was", "``", "Why", "bother", "with", "an", "online", "index", "if", "you", "have", "a", "good", "search", "engine", "?", "''", "The", "problem", "with", "search", "is", "that", "typical", "search", "solutions", "are", "limited", "to", "the", "terms", "or", "keywords", "that", "are", "found", "within", "the", "content", "matter", ",", "making", "search", "results", "a", "happy", "coincidence", "between", "the", "user", "'s", "terminology", "and", "the", "content", "'s", "terminology", ".", "If", "synonyms", "or", "preferred", "terms", "are", "addressed", "at", "all", "in", "typical", "search", "solutions", ",", "they", "are", "implemented", "as", "meta", "keywords", ".", "This", "turns", "an", "explicit", "advantage", "of", "the", "index", "-LRB-", "the", "capability", "of", "training", "the", "user", "in", "a", "product", "'s", "vocabulary", "using", "see", "or", "see", "also", "references", "-RRB-", "into", "an", "implicit", "method", "to", "improve", "search", "results", ".", "The", "terms", "used", "in", "an", "index", "reflect", "the", "indexers", "'", "knowledge", "of", "the", "subject", "matter", "and", "the", "users", "of", "that", "set", "of", "documentation", ".", "While", "search", "solutions", "typically", "provide", "the", "user", "with", "the", "title", ",", "a", "ranking", ",", "and", "occasionally", "keywords", "in", "context", ",", "an", "index", "'s", "primary", ",", "secondary", ",", "and", "tertiary", "entries", "give", "users", "more", "data", "and", "context", "with", "which", "to", "select", "the", "right", "piece", "of", "information", "to", "meet", "their", "needs", ".", "A", "previous", "version", "of", "the", "product", "shipped", "a", "PDF", "master", "index", "that", "was", "generated", "simply", "by", "collecting", "and", "sorting", "the", "author-created", ",", "book-specific", "indexes", "from", "each", "of", "the", "40", "books", ".", "An", "analysis", "of", "the", "resulting", "master", "index", "revealed", "that", "the", "indexing", "approach", "varied", "greatly", "across", "writers", ".", "There", "were", "many", "cases", "of", "inconsistent", "terminology", ".", "Singular", "versus", "plural", "nouns", ",", "preferences", "for", "verbs", "or", "nouns", ",", "and", "capitalization", "differences", "were", "the", "easiest", "problems", "to", "spot", ".", "Some", "authors", "indexed", "every", "occurrence", "of", "a", "given", "term", ",", "other", "authors", "indexed", "only", "the", "most", "significant", "usage", "of", "a", "given", "term", ",", "and", "others", "indexed", "almost", "nothing", "at", "all", ".", "Some", "authors", "indexed", "every", "possible", "synonym", "for", "a", "given", "term", ",", "and", "others", "indexed", "only", "the", "term", "itself", ".", "Some", "authors", "relied", "heavily", "on", "secondary", "and", "tertiary", "entries", "to", "lend", "structure", "to", "their", "index", ",", "while", "others", "relied", "almost", "exclusively", "on", "primary", "index", "entries", ".", "Many", "writers", "clearly", "did", "n't", "understand", "the", "significance", "of", "such", "decisions", "on", "the", "customers", "who", "would", "ultimately", "use", "the", "indexes", ".", "The", "master", "index", "was", "over", "350", "pages", ",", "and", "seemingly", "small", "differences", "in", "primary", "entries", "sometimes", "resulted", "in", "users", "having", "to", "look", "through", "several", "pages", "to", "find", "a", "specific", "entry", ".", "A", "complicating", "cultural", "problem", "was", "that", ",", "for", "many", "authors", ",", "indexing", "was", "an", "activity", "to", "be", "performed", "only", "when", "the", "content", "had", "been", "written", "and", "checked", "for", "technical", "accuracy", ".", "In", "many", "cases", ",", "this", "meant", "that", "the", "index", "for", "an", "individual", "book", "received", "very", "little", "attention", ",", "and", ",", "in", "most", "cases", ",", "the", "master", "index", "received", "no", "attention", "at", "all", ".", "It", "was", "clear", "that", "there", "were", "indexing", "problems", "throughout", "the", "library", ".", "However", ",", "without", "painstakingly", "analyzing", "each", "index", "in", "conjunction", "with", "the", "master", "index", ",", "it", "was", "impossible", "to", "determine", "what", "significant", "material", "might", "not", "have", "been", "indexed", "or", "which", "books", "had", "inconsistent", "capitalization", "and", "use", "of", "plurals", ".", "In", "the", "wake", "of", "the", "first", "master", "index", "in", "PDF", ",", "the", "editors", "initiated", "an", "attempt", "to", "address", "some", "of", "the", "most", "glaring", "inconsistencies", "by", "setting", "indexing", "guidelines", ",", "educating", "authors", "in", "the", "art", "of", "indexing", ",", "and", "encouraging", "authors", "to", "collaborate", "with", "other", "authors", "in", "the", "project", "to", "define", "standard", "indexing", "terminology", "for", "new", "or", "existing", "problem", "areas", "-LRB-", "for", "example", ",", "using", "specific", "labels", "for", "program", "entities", "so", "they", "made", "sense", "in", "the", "context", "of", "other", "entities", "from", "across", "the", "library", ",", "such", "as", "``", "SQL", "data", "type", "''", "versus", "``", "data", "type", "''", "-RRB-", ".", "The", "effort", "met", "with", "some", "success", ",", "but", "the", "process", "of", "standardizing", "terminology", "across", "the", "library", "was", "unwieldy", ":", "index", "entries", "were", "maintained", "within", "the", "source", "files", "for", "each", "book", ",", "and", "the", "average", "book", "had", "between", "50", "and", "200", "source", "files", ".", "So", ",", "making", "a", "single", "terminology", "change", "that", "affected", "10", "percent", "of", "the", "source", "files", "in", "half", "of", "the", "books", "in", "the", "library", "would", "require", "opening", ",", "editing", ",", "and", "saving", "approximately", "200", "source", "files", "that", "are", "kept", "within", "a", "version", "control", "system", ".", "At", "five", "minutes", "per", "source", "file", ",", "that", "'s", "almost", "17", "hours", "of", "work", "!", "In", "addition", ",", "the", "source", "files", "were", "often", "accessible", "only", "to", "the", "author", ",", "so", "there", "was", "a", "potential", "bottleneck", "and", "a", "conflict", "between", "demands", "on", "the", "author", "'s", "time", "to", "write", "new", "content", "or", "revise", "existing", "index", "entries", ".", "Recognizing", "these", "problems", "along", "with", "others", "related", "to", "the", "shift", "to", "a", "topic-based", "architecture", ",", "we", "proposed", "a", "solution", "that", "required", "both", "technical", "and", "cultural", "change", ".", "The", "new", "approach", "to", "indexing", "was", "a", "shift", "from", "viewing", "index", "entries", "as", "content", "owned", "by", "each", "author", "and", "created", "solely", "during", "the", "writing", "process", "to", "treating", "index", "entries", "as", "metadata", "to", "be", "created", "and", "edited", "during", "a", "separate", "process", ".", "The", "new", "topic-writing", "process", "involves", "adding", "all", "topics", "in", "the", "library", "to", "a", "relational", "database", "and", "storing", "index", "entries", "in", "a", "table", "related", "to", "the", "table", "that", "stores", "the", "topics", ".", "The", "database", "is", "affectionately", "known", "as", "Dobalina", ".", "The", "very", "nature", "of", "an", "index", "is", "a", "database", ",", "because", "they", "consist", "of", "records", "that", "are", "compiled", "into", "a", "readable", ",", "searchable", "format", "-LRB-", "Wright", ",", "2001", "-RRB-", ",", "or", "several", "for", "single-sourced", "information", ".", "The", "database", "maximized", "our", "ability", "to", "generate", "flexible", "outputs", "for", "different", "formats", ".", "The", "initial", "indexing", "pass", "took", "advantage", "of", "the", "index", "entries", "in", "the", "legacy", "documentation", ":", "a", "Perl", "script", "stripped", "the", "index", "187", "entries", "from", "the", "source", "files", ",", "replacing", "them", "with", "an", "SGML", "text", "entity", "unique", "to", "each", "file", ",", "and", "inserting", "the", "index", "entries", "into", "the", "database", ".", "Once", "the", "index", "entries", "were", "in", "the", "database", ",", "both", "authors", "and", "editors", "could", "then", "use", "a", "Web", "interface", "to", "the", "database", "to", "maintain", "the", "index", "entries", ".", "To", "build", "a", "PDF", "version", "of", "their", "books", ",", "the", "authors", "download", "a", "set", "of", "auxiliary", "SGML", "files", "from", "the", "database", "that", "define", "the", "SGML", "text", "entities", "as", "their", "corresponding", "index", "entries", ".", "The", "following", "example", "demonstrates", "how", "the", "index", "entries", "are", "dynamically", "generated", "from", "the", "database", "and", "incorporated", "into", "the", "SGML", "source", ".", "<", "!", "--", "Start", "of", "topic", "source", "file", "--", ">", "&", "index1", ";", "<", "!", "--", "Index", "text", "entity", "--", ">", "<", "p", ">", "Some", "topic", "content", ".", "<", "/", "p", ">", "<", "!", "--", "End", "of", "topic", "source", "file", "--", ">", "<", "!", "--", "Index", "entity", "definitions", "generated", "by", "database", "--", ">", "<", "!", "ENTITY", "index1", "''", "<", "index", ">", "<", "primary", ">", "SQL", "statements", "<", "/", "primary", ">", "<", "secondary", ">", "data", "definition", "<", "/", "secondary", ">", "<", "primary", ">", "data", "definition", "<", "/", "primary", ">", "<", "secondary", ">", "SQL", "statements", "<", "/", "secondary", ">", "<", "/", "index", ">", "''", ">", "5.1", "Better", "living", "through", "automation", "Storing", "the", "index", "entries", "in", "a", "database", "gives", "the", "team", "the", "ability", "to", "quickly", "generate", "the", "HTML", "master", "index", ",", "freeing", "authors", "from", "the", "requirement", "to", "painstakingly", "transform", "each", "of", "their", "books", "to", "create", "the", "individual", "indexes", "that", "composed", "the", "PDF", "master", "index", ".", "The", "process", "of", "creating", "the", "master", "index", "now", "takes", "approximately", "15", "minutes", "instead", "of", "days", ".", "Dynamic", "access", "to", "the", "entire", "set", "of", "index", "entries", "enables", "the", "team", "to", "easily", "isolate", "certain", "consistency", "problems", ",", "such", "as", "plural", "nouns", "or", "incorrect", "capitalization", ";", "to", "immediately", "identify", "topics", "without", "index", "entries", ";", "to", "help", "ensure", "library-wide", "consistency", "for", "new", "index", "terms", "by", "providing", "drop-down", "selection", "of", "terms", ";", "and", "to", "effect", "social", "change", "by", "eliminating", "the", "need", "to", "access", "source", "files", "to", "add", ",", "edit", ",", "or", "delete", "index", "entries", ".", "Spell-checking", "the", "24,000-odd", "master", "index", "entries", "takes", "about", "two", "hours", ".", "The", "changes", "to", "the", "index", "terms", "are", "made", "in", "the", "database", ",", "so", "the", "corrections", "are", "automatically", "reflected", "in", "the", "book", "indexes", ".", "The", "previous", "approach", "would", "have", "required", "communicating", "each", "correction", "to", "the", "writer", ",", "and", "the", "master", "index", "would", "still", "have", "been", "subject", "to", "the", "errors", "if", "a", "writer", "did", "not", "have", "time", "to", "integrate", "the", "changes", "throughout", "the", "affected", "source", "files", ".", "5.2", "Cultural", "and", "process", "changes", "The", "role", "of", "editors", "changed", "significantly", ";", "rather", "than", "providing", "guidance", "to", "authors", ",", "the", "editors", "collectively", "edit", "the", "master", "index", "by", "directly", "manipulating", "index", "entries", "for", "the", "entire", "library", "through", "a", "Web", "interface", ".", "More", "extensive", "or", "complicated", "changes", "to", "index", "entries", "are", "accomplished", "through", "Perl", "scripts", "that", "manipulate", "the", "database", "records", ".", "Maintaining", "index", "entries", "in", "a", "database", "enables", "new", "methods", "of", "collaboration", ";", "for", "example", ",", "a", "writing", "team", "might", "designate", "their", "most", "skilled", "indexer", "to", "index", "the", "new", "content", "for", "a", "release", ".", "Indexing", "training", "provided", "detailed", "guidelines", "for", "the", "authors", "with", "a", "hands-on", "experience", "in", "group", "indexing", ".", "The", "detailed", "guidelines", "are", "included", "in", "the", "Appendix", ".", "They", "consist", "of", "two", "tables", "--", "one", "listing", "general", "indexing", "guidelines", "and", "a", "content-oriented", "table", "that", "lists", "specific", "consistency", "rules", "for", "the", "library", ".", "They", "also", "include", "some", "guidelines", "to", "help", "writers", "improve", "the", "quality", "of", "their", "PDF", "indexes", ".", "After", "the", "index", "entries", "are", "in", "the", "database", ",", "authors", "can", "dynamically", "generate", "Web-based", "reports", "about", "the", "index", "entries", "for", "their", "book", ".", "One", "report", "simply", "lists", "the", "number", "of", "index", "entries", "per", "topic", ";", "as", "each", "topic", "should", "have", "at", "least", "one", "index", "entry", ",", "this", "is", "an", "easy", "way", "for", "writers", "to", "ensure", "that", "all", "topics", "are", "indexed", "and", "to", "see", "how", "extensively", ".", "This", "also", "helps", "writers", "meet", "the", "guideline", "that", "each", "PDF", "book", "should", "have", "no", "more", "than", "two", "locators", "for", "any", "index", "entry", "-LRB-", "primary-secondary-tertiary", "combination", "-RRB-", ",", "to", "ensure", "that", "entries", "are", "at", "the", "best", "level", "of", "detail", "for", "users", ".", "Another", "report", ",", "shown", "in", "Figure", "1", ",", "flags", "specific", "index", "entries", "that", "might", "contravene", "the", "indexing", "guidelines", ".", "For", "example", ",", "the", "report", "checks", "for", "index", "entries", "that", "differ", "only", "by", "case", "and", "primary", "index", "entries", "that", "contain", "a", "comma", ",", "as", "well", "as", "other", "conditions", ".", "A", "primary", "index", "entry", "that", "contains", "a", "comma", "typically", "suggests", "that", "the", "entry", "should", "be", "split", "into", "primary", "and", "secondary", "entries", "so", "it", "will", "nest", "with", "other", "secondary", "entries", ".", "Figure", "1", ".", "Report", "on", "inconsistent", "index", "entries", "To", "ease", "the", "authors", "'", "job", "of", "verifying", "or", "addressing", "deficiencies", "noted", "in", "the", "reports", ",", "the", "reports", "provide", "links", "to", "both", "the", "content", "of", "the", "source", "file", "-LRB-", "View", "column", "-RRB-", "and", "the", "authors", "'", "indexing", "interface", "-LRB-", "Title", "column", "-RRB-", ".", "The", "authors", "'", "screens", "are", "implemented", "as", "a", "Web-based", "form", "with", "two", "modes", "of", "work", ":", "updating", "existing", "index", "entries", ",", "and", "adding", "index", "entries", ".", "6.1", "Authors", "'", "update", "index", "screen", "The", "update", "screen", ",", "shown", "in", "Figure", "2", ",", "is", "a", "set", "of", "text", "fields", "that", "display", "the", "current", "primary", ",", "secondary", ",", "and", "tertiary", "entries", "-LRB-", "shown", "as", "i1", ",", "i2", ",", "and", "i3", ",", "respectively", "-RRB-", ".", "188", "Figure", "2", ".", "Authors", "'", "updating", "screen", "When", "authors", "update", "an", "entry", "in", "a", "text", "field", ",", "the", "status", "of", "that", "entry", "automatically", "switches", "from", "No", "Change", "to", "Edit", ".", "When", "authors", "complete", "their", "changes", ",", "they", "click", "Submit", "to", "commit", "their", "changes", "for", "any", "flagged", "entries", "to", "the", "topic", "database", ".", "In", "Figure", "2", ",", "for", "example", ",", "the", "writer", "can", "easily", "see", "that", "the", "third", "entry", "is", "n't", "done", "the", "same", "way", "as", "the", "first", "two", ",", "and", "that", "the", "third", "entry", "under", "names", "has", "an", "unnecessary", "for", ".", "Authors", "also", "have", "the", "option", "of", "deleting", "index", "entries", "by", "selecting", "the", "Delete", "radio", "button", "for", "any", "entries", ".", "After", "they", "submit", "their", "changes", ",", "they", "see", "a", "refreshed", "table", "with", "any", "deletions", "at", "the", "top", "followed", "by", "a", "list", "of", "changes", ".", "6.2", "Authors", "'", "add", "entry", "screen", "The", "Add", "Index", "Entries", "screen", ",", "shown", "in", "Figure", "3", ",", "enables", "authors", "to", "add", "index", "entries", "easily", "in", "a", "way", "that", "maintains", "consistency", "with", "the", "entries", "already", "in", "the", "database", ".", "To", "add", "a", "new", "index", "entry", "for", "a", "topic", ",", "the", "author", "begins", "by", "clicking", "the", "initial", "character", "for", "the", "new", "index", "entry", "from", "a", "drop-down", "box", ".", "Figure", "3", ".", "Selecting", "the", "initial", "character", "of", "a", "new", "index", "entry", "The", "author", "then", "selects", "the", "primary", "entry", "-LRB-", "the", "i1", "entry", "-RRB-", "from", "the", "drop-down", "box", "that", "has", "been", "dynamically", "added", "to", "the", "form", ".", "This", "box", "lists", "all", "the", "primary", "entries", "that", "start", "with", "the", "initial", "character", "selected", ".", "When", "an", "author", "picks", "a", "primary", "entry", ",", "as", "in", "Figure", "4", ",", "it", "is", "automatically", "copied", "into", "the", "i1", "entry", "text", "box", ".", "The", "author", "then", "drills", "down", "through", "the", "available", "secondary", "and", "tertiary", "entries", ",", "picking", "the", "relevant", "entries", ".", "At", "any", "time", "in", "the", "process", "of", "adding", "a", "new", "index", "entry", ",", "authors", "can", "manually", "enter", "or", "change", "the", "primary", ",", "secondary", ",", "or", "tertiary", "entries", "in", "the", "text", "boxes", "if", "the", "existing", "index", "entries", "in", "the", "database", "do", "not", "suit", "their", "needs", ".", "This", "approach", "provides", "a", "flexible", "way", "to", "limit", ",", "but", "not", "rigidly", "control", ",", "authors", "'", "indexing", "vocabulary", ".", "The", "next", "builds", "of", "the", "individual", "book", "or", "deliverable", ",", "the", "HTML", "master", "index", ",", "and", "the", "PDF", "master", "index", "reflect", "any", "new", ",", "deleted", ",", "or", "updated", "index", "entries", ".", "Figure", "4", ".", "Selecting", "the", "primary", "entry", "from", "the", "existing", "list", "While", "the", "author", "interface", "focuses", "on", "a", "book-by-book", "-LRB-", "or", "deliverable-by-deliverable", "-RRB-", "view", "of", "the", "index", ",", "the", "role", "of", "the", "editors", "in", "the", "indexing", "effort", "is", "to", "improve", "the", "quality", "of", "the", "index", "across", "the", "entire", "library", ".", "Their", "primary", "focus", "is", "on", "the", "master", "index", "in", "HTML", ".", "During", "the", "editing", "phase", ",", "a", "new", "master", "index", "in", "HTML", "was", "generated", "every", "two", "hours", "to", "enable", "the", "editors", "to", "quickly", "view", "the", "results", "of", "their", "work", ".", "The", "editors", "'", "indexing", "interface", "reflects", "their", "needs", "and", "approach", "to", "the", "task", "of", "editing", "the", "master", "index", ".", "Editors", "begin", "by", "finding", "a", "problem", "index", "entry", "in", "the", "master", "index", "using", "a", "separate", "browser", "window", ".", "Then", ",", "they", "use", "a", "string", "or", "substring", "of", "the", "primary", "index", "entry", ",", "as", "shown", "in", "Figure", "5", ",", "to", "bring", "up", "a", "listing", "of", "all", "primary", "index", "entries", "beginning", "with", "that", "string", ".", "The", "search", "is", "not", "case-sensitive", ",", "so", "any", "variations", "in", "capitalization", "are", "included", "in", "the", "search", "results", ".", "189", "Figure", "5", ".", "Editors", "'", "screen", "for", "finding", "a", "primary", "index", "entry", "The", "primary", "entry", "search", "yields", "matching", "results", "from", "across", "the", "entire", "library", ",", "so", "the", "editor", "can", "quickly", "address", "inconsistencies", "between", "two", "primary", "entries", "and", "rationalize", "secondary", "and", "tertiary", "entries", ".", "The", "list", "of", "search", "results", "appears", "in", "a", "screen", "similar", "to", "the", "authors", "'", "Show/Update/Add", "Index", "Entries", "screen", ",", "as", "shown", "in", "Figure", "6", ".", "Figure", "6", ".", "Editors", "'", "indexing", "screen", "for", "updating", "entries", "When", "an", "editor", "submits", "a", "change", ",", "the", "editors", "'", "indexing", "interface", "refreshes", "with", "the", "results", ",", "making", "it", "easy", "to", "confirm", "that", "the", "expected", "change", "was", "made", ".", "The", "next", "builds", "of", "the", "affected", "individual", "books", "or", "deliverables", ",", "the", "HTML", "master", "index", ",", "and", "the", "PDF", "master", "index", "reflect", "any", "new", ",", "deleted", ",", "or", "changed", "index", "entries", ".", "Several", "alternative", "presentation", "formats", "were", "considered", "for", "the", "HTML", "version", "of", "the", "master", "index", ".", "These", "included", "the", "format", "used", "by", "the", "individual", "book", "indexes", "in", "the", "previous", "version", "of", "the", "documentation", ",", "third-party", "formats", ",", "and", "an", "internally", "developed", "format", ".", "8.1", "Previous", "presentation", "format", "Previous", "versions", "of", "the", "HTML", "indexes", "generated", "by", "the", "project", "'s", "standard", "tools", "were", "created", "for", "individual", "books", ".", "These", "indexes", "were", "presented", "as", "nested", ",", "unordered", "lists", "of", "index", "terms", ".", "Links", "to", "the", "HTML", "pages", "were", "displayed", "as", "arbitrary", "four-digit", "integers", ",", "as", "shown", "in", "Figure", "7", ".", "If", "an", "index", "entry", "pointed", "to", "more", "than", "one", "location", "in", "the", "HTML", "book", ",", "the", "links", "were", "displayed", "as", "arbitrary", "integers", "separated", "by", "commas", ".", "Figure", "7", ".", "Previous", "index", "presentation", "format", "One", "of", "the", "disadvantages", "of", "this", "presentation", "format", "is", "that", "users", "have", "no", "criteria", "by", "which", "to", "choose", "among", "the", "links", "that", "might", "be", "presented", "for", "a", "single", "index", "entry", ".", "The", "arbitrary", "integers", "might", "even", "give", "users", "the", "impression", "of", "being", "some", "sort", "of", "relevance", "ranking", ".", "Another", "disadvantage", "is", "that", ",", "for", "a", "master", "index", "composed", "of", "approximately", "40", "books", ",", "the", "large", "number", "of", "primary", ",", "secondary", ",", "and", "tertiary", "index", "entries", "makes", "the", "index", "very", "difficult", "to", "scan", "in", "an", "online", "medium", ".", "8.2", "Third-party", "formats", "Some", "existing", "systems", "that", "support", "indexes", ",", "such", "as", "Sun", "JavaHelpTM", ",", "limit", "index", "entries", "to", "a", "one-to-one", "mapping", "between", "each", "unique", "index", "entry", "and", "a", "corresponding", "locator", ".", "This", "was", "not", "an", "acceptable", "limitation", "for", "the", "project", "'s", "large", "documentation", "set", ";", "each", "unique", "index", "entry", "needed", "to", "be", "able", "to", "map", "to", "multiple", "locators", ".", "Other", "systems", ",", "such", "as", "Microsoft", "HTML", "Help", ",", "do", "support", "multiple", "locators", "for", "a", "single", "index", "entry", "through", "the", "use", "of", "a", "pop-up", "window", "but", "do", "not", "support", "the", "operating", "systems", "supported", "by", "the", "project", ".", "Oracle", "Help", "for", "Java", "and", "Oracle", "Help", "for", "the", "Web", "-LRB-", "http://otn.oracle.com/tech/java/help/content.html", "-RRB-", "can", "display", "multiple", "topics", "per", "index", "entry", "using", "the", "topic", "titles", ",", "but", "they", "are", "currently", "limited", "to", "two", "levels", "of", "index", "entries", ".", "Oracle", "Help", "for", "the", "Web", "enables", "the", "user", "to", "type", "the", "first", "few", "characters", "of", "a", "primary", "entry", "to", "jump", "ahead", "to", "that", "section", "of", "the", "index", ",", "but", "requires", "the", "user", "to", "click", "on", "the", "index", "entry", "to", "display", "any", "links", "to", "topics", ".", "We", "decided", "to", "display", "the", "index", "in", "the", "content", "pane", "of", "a", "help", "system", "partly", "to", "enable", "portability", ".", "If", "we", "later", "decide", "to", "deliver", "our", "information", "in", "a", "different", "help", "system", "such", "as", "JavaHelp", ",", "the", "Eclipse", "help", "system", ",", "or", "Windows", "Help", "we", "can", "avoid", "any", "limitations", "in", "the", "help", "system", "'s", "built-in", "support", "for", "indexes", ".", "Trying", "to", "drop", "24,000", "index", "entries", "into", "a", "navigation", "pane", "simply", "will", "not", "deliver", "acceptable", "performance", ".", "Assuming", "that", "we", "continue", "to", "deliver", "HTML-based", "documentation", "in", "future", "versions", "of", "the", "190", "product", ",", "this", "approach", "will", "provide", "users", "of", "future", "versions", "of", "the", "product", "with", "a", "consistent", "means", "of", "accessing", "the", "master", "index", ".", "8.3", "Internally", "developed", "format", "The", "solution", "for", "this", "project", "was", "to", "provide", "an", "expanding", ",", "collapsing", "master", "index", ",", "as", "shown", "in", "Figure", "8", ".", "To", "assist", "in", "scanning", ",", "the", "HTML", "master", "index", "presents", "only", "the", "primary", "entries", "at", "first", ",", "but", "enables", "users", "to", "drill", "down", "to", "secondary", "and", "tertiary", "entries", "to", "find", "exactly", "the", "information", "they", "need", ".", "An", "index", "entry", "that", "maps", "to", "multiple", "topics", "displays", "the", "locators", "as", "a", "further", "nested", "list", "of", "links", ".", "To", "provide", "users", "with", "criteria", "by", "which", "they", "can", "judge", "which", "of", "several", "locators", "meets", "their", "needs", ",", "each", "locator", "is", "shown", "as", "the", "title", "of", "the", "corresponding", "topic", ",", "as", "illustrated", "below", ".", "Figure", "8", ".", "Current", "index", "presentation", "format", "Nielsen", "'s", "1997", "article", "``", "The", "Need", "for", "Speed", "''", "suggests", "that", "34K", "is", "the", "maximum", "size", "of", "an", "optimal", "Web", "page", "for", "a", "ten-second", "response", "time", "for", "a", "dial-up", "connection", "to", "the", "Web", ".", "However", ",", "internal", "surveys", "of", "our", "users", "indicated", "that", "most", "users", "of", "our", "product", "access", "the", "documentation", "either", "from", "a", "local", "workstation", "or", "from", "a", "web", "server", "within", "their", "company", "'s", "intranet", ".", "We", "wanted", "to", "give", "users", "the", "additional", "context", "provided", "by", "full", "topic", "titles", ",", "so", "we", "divided", "the", "content", "into", "multiple", "files", ".", "Given", "our", "typical", "user", "scenarios", ",", "we", "decided", "that", "we", "could", "allow", "somewhat", "larger", "files", "than", "recommended", "by", "Nielsen", "and", "divided", "the", "index", "by", "initial", "letter", "into", "27", "separate", "files", ",", "including", "one", "file", "for", "all", "index", "entries", "beginning", "with", "non-alphabetic", "characters", ".", "The", "resulting", "average", "size", "of", "the", "set", "of", "index", "files", "is", "100K", ",", "the", "median", "size", "of", "the", "set", "of", "index", "files", "is", "60K", ",", "and", "the", "largest", "index", "file", "is", "400K", ".", "The", "average", "index", "file", "loads", "and", "displays", "in", "less", "than", "one", "second", "from", "an", "intranet", "or", "local", "workstation", ",", "while", "the", "largest", "index", "file", "takes", "just", "over", "three", "seconds", "to", "load", "and", "display", ".", "These", "times", "are", "within", "Nielsen", "'s", "maximum", "threshold", "for", "web", "usability", ".", "While", "the", "longest", "delays", "fall", "outside", "the", "threshold", "of", "optimal", "usability", "response", "times", "of", "less", "than", "one", "second", ",", "we", "feel", "that", "the", "slightly", "increased", "initial", "load", "time", "is", "balanced", "by", "the", "ease", "of", "scanning", "an", "index", "file", "that", "contains", "all", "of", "the", "entries", "for", "an", "initial", "character", ".", "When", "we", "collected", "the", "complete", "set", "of", "24,000", "index", "entries", "in", "a", "single", "HTML", "file", ",", "the", "file", "size", "was", "over", "two", "megabytes", "and", "some", "browsers", "were", "incapable", "of", "displaying", "the", "file", ".", "The", "current", "index", "presentation", "format", "uses", "only", "two", "images", ",", "each", "smaller", "than", "one", "kilobyte", ",", "which", "are", "downloaded", "by", "the", "browser", "only", "once", ".", "Approximately", "five", "percent", "of", "the", "total", "size", "of", "the", "HTML", "index", "represents", "the", "JavaScript", "and", "CSS", "code", "that", "makes", "the", "index", "accessible", "by", "keyboard", "navigation", ".", "The", "majority", "of", "the", "content", "is", "due", "to", "the", "topic", "titles", ",", "which", "average", "29", "characters", "per", "title", ".", "Index", "entries", "average", "13", "characters", "per", "entry", ".", "Initial", "usability", "sessions", "on", "the", "current", "index", "presentation", "format", "indicate", "that", "users", "understand", "how", "to", "work", "with", "the", "expanding", "and", "collapsing", "lists", ",", "prefer", "this", "format", "to", "our", "previous", "index", "format", ",", "and", "find", "the", "performance", "of", "the", "index", "from", "an", "intranet", "or", "from", "a", "locally", "workstation", "acceptable", ".", "However", ",", "as", "these", "sessions", "drew", "on", "the", "experiences", "of", "only", "four", "users", ",", "we", "recognize", "the", "need", "to", "do", "further", "research", "to", "confirm", "the", "validity", "of", "this", "presentation", "format", ".", "In", "PDF", ",", "the", "individual", "book", "indexes", "look", "like", "regular", "book", "indexes", ";", "that", "is", ",", "they", "display", "the", "index", "entries", "and", "one", "or", "more", "page", "numbers", "for", "those", "index", "entries", ".", "The", "decision", "to", "associate", "index", "entries", "with", "entire", "topics", "has", "the", "detrimental", "effect", "of", "forcing", "all", "index", "entries", "for", "a", "given", "topic", "to", "point", "to", "the", "beginning", "of", "that", "topic", ".", "For", "topics", "that", "are", "longer", "than", "a", "page", ",", "users", "might", "have", "to", "browse", "through", "subsequent", "pages", "to", "find", "the", "information", "represented", "by", "the", "index", "entry", "in", "which", "they", "are", "interested", ".", "However", ",", "length", "should", "not", "be", "an", "issue", "for", "most", "topics", ",", "as", "authors", "are", "encouraged", "to", "keep", "topics", "short", "to", "ensure", "good", "online", "display", ".", "The", "exception", "is", "some", "reference", "topics", ":", "a", "topic", "covering", "the", "syntax", "of", "a", "single", "command", "might", "be", "over", "20", "pages", ",", "and", "a", "user", "might", "legitimately", "be", "interested", "in", "just", "one", "of", "the", "optional", "arguments", "for", "that", "command", ".", "In", "future", "iterations", "of", "the", "topic", "database", "we", "hope", "to", "enable", "a", "more", "granular", "indexing", "strategy", "to", "address", "this", "shortcoming", ".", "We", "decided", "to", "optimize", "our", "indexing", "effort", "for", "the", "master", "index", "-LRB-", "both", "in", "HTML", "and", "PDF", "-RRB-", ",", "rather", "than", "for", "individual", "book", "indexes", ",", "so", "we", "had", "to", "relax", "some", "traditional", "indexing", "guidelines", ".", "One", "decision", "we", "made", "was", "to", "allow", "individual", "book", "indexes", "to", "contain", "primary", "entries", "with", "only", "a", "single", "secondary", "entry", ".", "Rather", "than", "concatenating", "such", "entries", "with", "a", "comma", ",", "we", "decided", ",", "for", "the", "sake", "of", "the", "master", "index", ",", "to", "keep", "these", "entries", "as", "primary", "and", "secondary", "entries", ".", "The", "following", "example", "demonstrates", "how", "an", "individual", "book", "index", "is", "normally", "edited", "to", "concatenate", "the", "primary", "and", "secondary", "entries", ":", "SQL", "statements", ",", "overview", "453", "However", ",", "to", "optimize", "such", "entries", "for", "the", "master", "index", ",", "the", "individual", "book", "index", "must", "contain", "distinct", "primary", "entries", "with", "a", "lone", "secondary", "entry", ",", "as", "in", "the", "following", "example", ":", "SQL", "statements", "overview", "453", "We", "felt", "that", "this", "decline", "in", "usability", "of", "the", "individual", "book", "indexes", "would", "be", "recouped", "by", "reducing", "the", "number", "of", "comma-spliced", "entries", "in", "the", "master", "index", ",", "as", "shown", "in", "the", "following", "example", "from", "the", "PDF", "version", "-LRB-", "the", "identifiers", "in", "front", "of", "the", "page", "numbers", "are", "short", "forms", "of", "the", "book", "names", "-RRB-", ":", "191", "SQL", "statements", ",", "issuing", "ADGv1", ":", "238", "SQL", "statements", ",", "overview", "ADMINv1", ":", "453", "The", "master", "index", "instead", "presents", "the", "optimal", "arrangement", "of", "nested", "primary", "and", "secondary", "entries", ":", "SQL", "statements", "issuing", "ADGv1", ":", "238", "overview", "ADMINv1", ":", "453", "One", "indexing", "decision", "driven", "by", "the", "requirements", "of", "PDF", "that", "posed", "a", "potential", "compromise", "to", "the", "quality", "of", "the", "HTML", "master", "index", "instead", "improved", "the", "master", "index", ".", "It", "was", "necessary", "to", "artificially", "subdivide", "extremely", "long", "index", "entries", "into", "separate", "primary", "and", "secondary", "entries", "in", "PDF", "because", "the", "books", "display", "the", "index", "in", "a", "three-column", "format", ".", "A", "limitation", "of", "the", "PDF", "transform", "technology", "used", "by", "the", "authoring", "tool", "is", "that", "extremely", "long", "index", "entries", "that", "contain", "no", "spaces", ",", "such", "as", "the", "API", "keyword", "SQL_DESC_DATETIME_INTERVAL", "_", "PRECISION", ",", "bleed", "over", "column", "boundaries", "rather", "than", "wrap", "cleanly", ".", "In", "those", "cases", "where", "many", "similar", "entries", "also", "start", "with", "the", "same", "prefix", ",", "the", "prefix", "was", "turned", "into", "a", "primary", "entry", "and", "the", "remainder", "was", "indexed", "as", "a", "secondary", "entry", ".", "This", "indexing", "decision", "reduces", "the", "number", "of", "primary", "entries", "in", "the", "master", "index", ",", "making", "it", "much", "easier", "for", "the", "user", "to", "scan", "the", "primary", "entries", "in", "the", "collapsed", "HTML", "master", "index", ".", "So", "the", "preceding", "example", "becomes", "one", "of", "many", "index", "entries", "with", "the", "primary", "entry", "``", "SQL_DESC", "''", ":", "SQL_DESC", "_", "BIND_OFFSET_PRT", "DATETIME_INTERVAL_PRECISION", "DISPLAY_SIZE", "The", "HTML", "master", "index", "is", "implemented", "in", "HTML", "Version", "4.0", "using", "Cascading", "Style", "Sheets", "level", "2", "-LRB-", "CSS2", "at", "http://www.w3.org/Style/CSS/", "-RRB-", ",", "Document", "Object", "Model", "-LRB-", "DOM", "at", "http://www.w3.org/DOM/", "-RRB-", ",", "and", "ECMAScript", "262", "-LRB-", "http://www.ecma.ch/ecma1/stand/ecma-262.htm", "-RRB-", "to", "enable", "the", "expanding", "and", "collapsing", "behavior", ".", "Microsoft", "Internet", "Explorer", "5.0", "and", "higher", "and", "Netscape", "6", "and", "higher", "support", "the", "expanding", "and", "collapsing", "behavior", ".", "Other", "browsers", "degrade", "gracefully", "to", "display", "nested", "unordered", "lists", "of", "the", "index", "terms", "and", "associated", "topics", ".", "The", "topic", "database", ",", "known", "as", "``", "Dobalina", ",", "''", "is", "implemented", "with", "a", "blend", "of", "open-source", "and", "proprietary", "products", ".", "The", "relational", "database", "is", "IBM", "DB2", "Version", "7.2", "-LRB-", "http://www.software.ibm.com/data/db2/udb", "-RRB-", ",", "running", "on", "a", "reasonably", "powerful", "server", ",", "but", "it", "could", "fairly", "easily", "be", "replaced", "by", "an", "open-source", "database", "such", "as", "MySQL", "or", "PostgreSQL", ".", "The", "source", "format", "for", "documentation", "is", "SGML", "-LRB-", "produced", "with", "a", "tool", "built", "on", "ArborText", "using", "a", "proprietary", "IBMIDDOC", "DTD", "-RRB-", ",", "which", "enables", "us", "to", "dynamically", "generate", "index", "entries", "as", "text", "entities", ".", "XML", "or", "some", "sort", "of", "manipulated", "HTML", "would", "also", "fit", "easily", "into", "this", "model", ".", "The", "project", "uses", "the", "Apache", "Web", "server", "-LRB-", "http://httpd.apache.org", "-RRB-", "to", "display", "the", "Web", "scripting", "front", "end", "implemented", "in", "PHP", "-LRB-", "PHP", ":", "Hypertext", "Preprocessor", ",", "see", "http://php.apache.org", "-RRB-", ".", "PHP", "also", "creates", "the", "auxiliary", "source", "files", "used", "to", "generate", "the", "PDF", "books", ".", "The", "HTML", "master", "index", "is", "generated", "by", "a", "Perl", "script", "-LRB-", "http://www.perl.org", "-RRB-", ",", "which", "connects", "to", "the", "database", "through", "the", "Perl", "database", "interface", "module", "-LRB-", "http://dbi.perl.org", "-RRB-", ".", "Most", "of", "the", "initial", "processing", "of", "the", "documentation", "source", "files", "was", "also", "performed", "with", "Perl", "scripts", ".", "The", "index", "improvement", "process", "for", "such", "a", "large", "information", "set", "is", "planned", "over", "several", "phases", ",", "as", "shown", "in", "Table", "1", ".", "In", "this", "project", ",", "we", "are", "now", "planning", "Phase", "3", ".", "Table", "1", ".", "Phases", "of", "the", "indexing", "effort", "Phase", "1", ":", "Recognize", "the", "problem", "and", "build", "internal", "support", "Reassess", "master", "index", "quality", "problems", "Analyze", "information", "retrieval", "needs", "Experiment", "with", "scripts", "Build", "indexing", "requirements", "Develop", "indexing", "guidelines", "Collect", "user", "feedback", "Phase", "2", ":", "Create", "first", "version", "for", "writers", "and", "customers", "Create", "the", "topic", "database", "Develop", "indexing", "interfaces", "Design", "the", "presentation", "of", "the", "master", "index", "and", "do", "initial", "user", "testing", "Establish", "flexible", "controlled", "vocabulary", "process", "and", "start", "adding", "see", "references", "Train", "authors", "in", "indexing", "and", "guidelines", "Edit", "master", "index", "-LRB-", "focus", "on", "primary", "entries", "-RRB-", "Conduct", "initial", "user", "testing", "of", "index", "presentation", "format", "Phase", "3", ":", "Continue", "refining", "the", "master", "index", "Provide", "multiple", "entry", "points", "to", "the", "index", "in", "the", "product", "Implement", "See", "also", "references", "Review", "consistency", "of", "primary", "entries", "Edit", "master", "index", "-LRB-", "focus", "on", "subentries", "-RRB-", "Add", "more", "syntax", "and", "reference", "entries", "Implement", "and", "apply", "further", "reporting", "features", "Promote", "internal", "use", "and", "gather", "feedback", "on", "index", "content", "to", "refine", "user", "orientation", "of", "entries", "and", "to", "``", "fill", "holes", "''", "Do", "user", "testing", "Reuse", "user-centered", "design", "scenarios", "Phase", "4", ":", "Ensure", "completeness", "of", "contributing", "content", "areas", "Continue", "to", "develop", "reporting", "features", "to", "improve", "overall", "consistency", "Ensure", "completeness", "of", "concept", "and", "task", "entries", "Edit", "PDF", "indexes", "to", "help", "ensure", "that", "content", "is", "adequately", "indexed", "Work", "with", "each", "small", "writing", "teams", "to", "improve", "index", "coverage", "Analyze", "problems", "with", "PDF", "and", "master", "indexes", "in", "other", "languages", "Phase", "5", ":", "Maintain", "and", "continue", "improving", "index", "Establish", "iterative", "maintenance", "process", "Continue", "to", "improve", "presentation", ",", "technology", ",", "and", "content", "Build", "consensus", "to", "improve", "quality", "of", "localized", "indexes", "This", "table", "shows", "our", "actual", "process", "and", "not", "necessarily", "the", "best", "possible", "task", "flow", ".", "For", "example", ",", "ideally", ",", "See", "and", "See", "also", "references", "would", "be", "fully", "implemented", "in", "phase", "2", ".", "192", "One", "area", "for", "future", "development", "is", "the", "creation", "of", "additional", "reports", "and", "scripts", ".", "For", "example", ",", "a", "regular", "report", "could", "identify", "all", "the", "new", "entries", "that", "were", "not", "part", "of", "the", "last", "published", "index", "for", "special", "editing", "attention", ".", "We", "are", "currently", "augmenting", "our", "lists", "of", "see", "references", "for", "synonyms", ",", "competitive", "terms", ",", "and", "obsolete", "terms", ".", "We", "plan", "to", "take", "full", "advantage", "of", "the", "capabilities", "of", "our", "relational", "database", "to", "create", "mappings", "between", "deprecated", "or", "less", "acceptable", "terms", "and", "acceptable", "terms", ",", "so", "that", "any", "PDF", "book", "with", "an", "index", "entry", "for", "a", "deprecated", "term", "automatically", "includes", "cross-references", "that", "lead", "to", "the", "acceptable", "term", ".", "A", "new", "indexing", "screen", "for", "authors", ",", "with", "some", "of", "the", "function", "of", "the", "editors", "'", "indexing", "screen", ",", "will", "facilitate", "improvements", "of", "the", "PDF", "indexes", ".", "We", "'ve", "put", "a", "lot", "of", "effort", "into", "making", "what", "'s", "already", "in", "the", "index", "more", "consistent", ",", "usable", ",", "and", "predictable", ".", "But", "one", "of", "the", "biggest", "problems", "is", "to", "fill", "the", "remaining", "content", "holes", ",", "that", "is", ",", "what", "'s", "not", "yet", "indexed", ".", "Customer", ",", "developer", ",", "and", "service", "feedback", "indicates", "the", "need", "to", "improve", "the", "granularity", "of", "indexing", "reference", "topics", "that", "document", "syntax", ".", "We", "will", "also", "ensure", "that", "the", "index", "provides", "easy", "access", "to", "information", "needed", "to", "implement", "business", "and", "customer", "scenarios", "developed", "by", "the", "user-centered", "design", "and", "development", "teams", ",", "and", "continue", "to", "develop", "the", "usability", "of", "the", "index", "interfaces", "in", "the", "product", ".", "In", "Phase", "4", ",", "we", "plan", "to", "work", "with", "each", "small", "writing", "team", "on", "specific", "ways", "to", "improve", "the", "retrievability", "of", "their", "information", ".", "-LSB-", "1", "-RSB-", "Nielsen", ",", "Jakob", ",", "``", "The", "Need", "for", "Speed", ",", "''", "1997", ";", "available", "at", "http://www.useit.com/alertbox/9703a.html", "-LSB-", "2", "-RSB-", "Wright", ",", "Jan", "C.", ",", "``", "Single-Source", "Indexing", ",", "''", "Proceedings", "of", "the", "19", "th", "Annual", "International", "Conference", "on", "Systems", "Documentation", ",", "October", "2001", ";", "available", "at", "http://www.portal.acm.org", "193" ]

[ "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Evolutionary", "Learning", "with", "Kernels", ":", "A", "Generic", "Solution", "for", "Large", "Margin", "Problems", "In", "this", "paper", "we", "embed", "evolutionary", "computation", "into", "statistical", "learning", "theory", ".", "First", ",", "we", "outline", "the", "connection", "between", "large", "margin", "optimization", "and", "statistical", "learning", "and", "see", "why", "this", "paradigm", "is", "successful", "for", "many", "pattern", "recognition", "problems", ".", "We", "then", "embed", "evolutionary", "computation", "into", "the", "most", "prominent", "representative", "of", "this", "class", "of", "learning", "methods", ",", "namely", "into", "Support", "Vector", "Machines", "-LRB-", "SVM", "-RRB-", ".", "In", "contrast", "to", "former", "applications", "of", "evolutionary", "algorithms", "to", "SVMs", "we", "do", "not", "only", "optimize", "the", "method", "or", "kernel", "parameters", ".", "We", "rather", "use", "both", "evolution", "strategies", "and", "particle", "swarm", "optimization", "in", "order", "to", "directly", "solve", "the", "posed", "constrained", "optimization", "problem", ".", "Transforming", "the", "problem", "into", "the", "Wolfe", "dual", "reduces", "the", "total", "runtime", "and", "allows", "the", "usage", "of", "kernel", "functions", ".", "Exploiting", "the", "knowledge", "about", "this", "optimization", "problem", "leads", "to", "a", "hybrid", "mutation", "which", "further", "decreases", "convergence", "time", "while", "classification", "accuracy", "is", "preserved", ".", "We", "will", "show", "that", "evolutionary", "SVMs", "are", "at", "least", "as", "accurate", "as", "their", "quadratic", "programming", "counterparts", "on", "six", "real-world", "benchmark", "data", "sets", ".", "The", "evolutionary", "SVM", "variants", "frequently", "outperform", "their", "quadratic", "programming", "competitors", ".", "Additionally", ",", "the", "proposed", "algorithm", "is", "more", "generic", "than", "existing", "traditional", "solutions", "since", "it", "will", "also", "work", "for", "non-positive", "semidefinite", "kernel", "functions", "and", "for", "several", ",", "possibly", "competing", ",", "performance", "criteria", ".", "Track", ":", "Learning", "Classifier", "Systems", "and", "other", "Genetics-Based", "Machine", "Learning", "Learning", "General", "Terms", "Algorithms", ",", "Theory", ",", "Experimentation", "In", "this", "paper", "we", "will", "discuss", "how", "evolutionary", "algorithms", "can", "be", "used", "to", "solve", "large", "margin", "optimization", "problems", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "GECCO", "'", "06", ",", "July", "8", "12", ",", "2006", ",", "Seattle", ",", "Washington", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-186-4", "/", "06/0007", "...", "$", "5.00", ".", "We", "explore", "the", "intersection", "of", "three", "highly", "active", "research", "areas", ",", "namely", "machine", "learning", ",", "statistical", "learning", "theory", ",", "and", "evolutionary", "algorithms", ".", "While", "the", "connection", "between", "statistical", "learning", "and", "machine", "learning", "was", "analyzed", "before", ",", "embedding", "evolutionary", "algorithms", "into", "this", "connection", "will", "lead", "to", "a", "more", "generic", "algorithm", "which", "can", "deal", "with", "problems", "today", "'s", "learning", "schemes", "can", "not", "cope", "with", ".", "Supervised", "machine", "learning", "is", "often", "about", "classification", "problems", ".", "A", "set", "of", "data", "points", "is", "divided", "into", "several", "classes", "and", "the", "machine", "learning", "method", "should", "learn", "a", "decision", "function", "in", "order", "to", "decide", "into", "which", "class", "an", "unseen", "data", "point", "should", "be", "classified", ".", "The", "maximization", "of", "a", "margin", "between", "data", "points", "of", "different", "classes", ",", "i.", "e.", "the", "distance", "between", "a", "decision", "hyperplane", "and", "the", "nearest", "data", "points", ",", "interferes", "with", "the", "ideas", "of", "statistical", "learning", "theory", ".", "This", "allows", "the", "definition", "of", "an", "error", "bound", "for", "the", "generalization", "error", ".", "Furthermore", ",", "the", "usage", "of", "kernel", "functions", "allows", "the", "learning", "of", "non-linear", "decision", "functions", ".", "We", "focus", "on", "Support", "Vector", "Machines", "-LRB-", "SVM", "-RRB-", "as", "they", "are", "the", "most", "prominent", "representatives", "for", "large", "margin", "problems", ".", "Since", "SVMs", "guarantee", "an", "optimal", "solution", "for", "the", "given", "data", "set", "they", "are", "currently", "one", "of", "the", "mostly", "used", "learning", "methods", ".", "Furthermore", ",", "many", "other", "optimization", "problems", "can", "also", "be", "formulated", "as", "large", "margin", "problem", "-LSB-", "26", "-RSB-", ".", "The", "relevance", "of", "large", "margin", "methods", "can", "be", "measured", "by", "the", "number", "of", "submissions", "to", "the", "main", "machine", "learning", "conferences", "over", "the", "past", "years", "1", ".", "Usually", ",", "the", "optimization", "problem", "posed", "by", "SVMs", "is", "solved", "with", "quadratic", "programming", ".", "However", ",", "there", "are", "some", "drawbacks", ".", "First", ",", "for", "kernel", "functions", "which", "are", "not", "positive", "semidefinite", "no", "unique", "global", "optimum", "exists", ".", "In", "these", "cases", "quadratic", "programming", "is", "not", "able", "to", "find", "satisfying", "solutions", "at", "all", ".", "Moreover", ",", "most", "implementations", "do", "not", "even", "terminate", "-LSB-", "8", "-RSB-", ".", "There", "exist", "several", "useful", "non-positive", "kernels", "-LSB-", "15", "-RSB-", ",", "among", "them", "the", "sigmoid", "kernel", "which", "simulates", "a", "neural", "network", "-LSB-", "3", ",", "23", "-RSB-", ".", "A", "more", "generic", "optimization", "scheme", "should", "allow", "such", "non-positive", "kernels", "without", "the", "need", "for", "omitting", "the", "more", "efficient", "dual", "optimization", "problem", "-LSB-", "17", "-RSB-", ".", "Second", ",", "SVMs", "should", "be", "able", "to", "optimize", "several", "performance", "measures", "at", "the", "same", "time", ".", "Traditional", "SVMs", "try", "to", "maximize", "the", "prediction", "accuracy", "alone", ".", "However", ",", "depending", "on", "the", "application", "area", "other", "specific", "performance", "criteria", "should", "be", "optimized", "instead", "of", "or", "additionally", "to", "prediction", "accuracy", ".", "Although", "first", "attempts", "were", "made", "to", "incorporate", "multivariate", "performance", "measures", "into", "SVMs", "-LSB-", "13", "-RSB-", ",", "the", "problem", "is", "not", "generally", "solved", "and", "no", "solution", "exist", "1", "More", "than", "30", "%", "of", "all", "accepted", "papers", "for", "ICML", "2005", "dealt", "with", "SVMs", "and", "other", "large", "margin", "methods", ".", "1553", "for", "competing", "criteria", ".", "This", "problem", "as", "well", "as", "the", "general", "trade-off", "between", "training", "error", "and", "capacity", "could", "be", "easily", "solved", "by", "an", "-LRB-", "multi-objective", "-RRB-", "evolutionary", "optimization", "approach", ".", "Former", "applications", "of", "evolutionary", "algorithms", "to", "SVMs", "include", "the", "optimization", "of", "method", "and", "kernel", "parameters", "-LSB-", "6", ",", "19", "-RSB-", ",", "the", "selection", "of", "optimal", "feature", "subsets", "-LSB-", "7", "-RSB-", ",", "and", "the", "creation", "of", "new", "kernel", "functions", "by", "means", "of", "genetic", "programming", "-LSB-", "10", "-RSB-", ".", "The", "latter", "is", "particularly", "interesting", "since", "it", "can", "not", "be", "guaranteed", "that", "the", "resulting", "kernel", "functions", "are", "again", "positive", "semi-definite", ".", "Replacing", "the", "traditional", "optimization", "techniques", "by", "evolution", "strategies", "or", "particle", "swarm", "optimization", "can", "tackle", "both", "problems", "mentioned", "above", ".", "We", "will", "extract", "as", "much", "information", "as", "possible", "from", "the", "optimization", "problem", "at", "hand", "and", "develop", "and", "compare", "different", "search", "point", "operations", ".", "We", "will", "show", "that", "the", "proposed", "implementation", "leads", "to", "as", "good", "results", "as", "traditional", "SVMs", "on", "all", "real-world", "benchmark", "data", "sets", ".", "Additionally", ",", "the", "optimization", "is", "more", "generic", "since", "it", "also", "allows", "non-positive", "semi-definite", "kernel", "functions", "and", "the", "simultaneous", "optimization", "of", "different", ",", "maybe", "competing", ",", "criteria", ".", "1.1", "Outline", "In", "Section", "2", "we", "give", "a", "short", "introduction", "into", "the", "concept", "of", "structural", "risk", "minimization", "and", "the", "ideas", "of", "statistical", "learning", "theory", ".", "We", "will", "also", "discuss", "an", "upper", "bound", "for", "the", "generalization", "error", ".", "This", "allows", "us", "to", "formalize", "the", "optimization", "problem", "of", "large", "margin", "methods", "in", "Section", "3", ".", "We", "will", "introduce", "SVMs", "for", "the", "classification", "of", "given", "data", "points", "in", "Section", "3.1", "and", "extend", "the", "separation", "problem", "to", "non-separable", "datasets", "-LRB-", "see", "Section", "3.2", "-RRB-", "with", "non-linear", "hyperplanes", "-LRB-", "see", "Section", "3.3", "-RRB-", ".", "This", "leads", "to", "a", "constrained", "optimization", "problem", "for", "which", "we", "utilize", "evolution", "strategies", "and", "particle", "swarm", "optimization", "in", "Section", "4", ".", "We", "discuss", "several", "enhancements", "and", "a", "new", "type", "of", "mutation", "before", "we", "evaluate", "the", "proposed", "methods", "on", "real-world", "benchmark", "datasets", "in", "Section", "5", ".", "In", "this", "section", "we", "discuss", "the", "idea", "of", "structural", "risk", "minimization", ".", "Machine", "learning", "methods", "following", "this", "paradigm", "have", "a", "solid", "theoretical", "foundation", "and", "it", "is", "possible", "to", "define", "bounds", "for", "prediction", "errors", ".", "Let", "X", "IR", "m", "be", "a", "real-valued", "vector", "of", "random", "variables", ".", "Let", "Y", "IR", "be", "another", "random", "variable", ".", "X", "and", "Y", "obey", "a", "fixed", "but", "unknown", "probability", "distribution", "P", "-LRB-", "X", ",", "Y", "-RRB-", ".", "Machine", "Learning", "tries", "to", "find", "a", "function", "f", "-LRB-", "x", ",", "-RRB-", "which", "predict", "the", "value", "of", "Y", "for", "a", "given", "input", "x", "X", ".", "The", "function", "class", "f", "depends", "on", "a", "vector", "of", "parameters", ",", "e.", "g.", "if", "f", "is", "the", "class", "of", "all", "polynomials", ",", "might", "be", "the", "degree", ".", "We", "define", "a", "loss", "function", "L", "-LRB-", "Y", ",", "f", "-LRB-", "X", ",", "-RRB-", "-RRB-", "in", "order", "to", "penalize", "errors", "during", "prediction", "-LSB-", "9", "-RSB-", ".", "Every", "convex", "function", "with", "arity", "2", ",", "positive", "range", ",", "and", "L", "-LRB-", "x", ",", "x", "-RRB-", "=", "0", "can", "be", "used", "as", "loss", "function", "-LSB-", "22", "-RSB-", ".", "This", "leads", "to", "a", "possible", "criterion", "for", "the", "selection", "of", "a", "function", "f", ",", "the", "expected", "risk", ":", "R", "-LRB-", "-RRB-", "=", "Z", "L", "-LRB-", "y", ",", "f", "-LRB-", "x", ",", "-RRB-", "-RRB-", "dP", "-LRB-", "x", ",", "y", "-RRB-", ".", "-LRB-", "1", "-RRB-", "Since", "the", "underlying", "distribution", "is", "not", "known", "we", "are", "not", "able", "to", "calculate", "the", "expected", "risk", ".", "However", ",", "instead", "of", "estimating", "the", "probability", "distribution", "in", "order", "to", "allow", "this", "calculation", ",", "we", "directly", "estimate", "the", "expected", "risk", "by", "using", "a", "set", "of", "known", "data", "points", "T", "=", "-LCB-", "-LRB-", "x", "1", ",", "y", "1", "-RRB-", ",", "...", ",", "-LRB-", "x", "n", ",", "y", "n", "-RRB-", "-RCB-", "X", "Y", ".", "T", "is", "usually", "called", "training", "data", ".", "Using", "this", "set", "of", "data", "points", "we", "can", "calculate", "the", "empirical", "risk", ":", "R", "emp", "-LRB-", "-RRB-", "=", "1", "n", "n", "X", "i", "=", "1", "L", "-LRB-", "y", "i", ",", "f", "-LRB-", "x", "i", ",", "-RRB-", "-RRB-", ".", "-LRB-", "2", "-RRB-", "If", "training", "data", "is", "sampled", "according", "to", "P", "-LRB-", "X", ",", "Y", "-RRB-", ",", "the", "empirical", "risk", "approximates", "the", "expected", "risk", "if", "the", "number", "of", "samples", "grows", ":", "lim", "n", "R", "emp", "-LRB-", "-RRB-", "=", "R", "-LRB-", "-RRB-", ".", "-LRB-", "3", "-RRB-", "It", "is", ",", "however", ",", "a", "well", "known", "problem", "that", "for", "a", "finite", "number", "of", "samples", "the", "minimization", "of", "R", "emp", "-LRB-", "-RRB-", "alone", "does", "not", "lead", "to", "a", "good", "prediction", "model", "-LSB-", "27", "-RSB-", ".", "For", "each", "loss", "function", "L", ",", "each", "candidate", ",", "and", "each", "set", "of", "tuples", "T", "X", "Y", "with", "T", "T", "=", "exists", "another", "parameter", "vector", "so", "that", "L", "-LRB-", "y", ",", "f", "-LRB-", "x", ",", "-RRB-", "-RRB-", "=", "L", "-LRB-", "y", ",", "f", "-LRB-", "x", ",", "-RRB-", "-RRB-", "for", "all", "x", "T", "and", "L", "-LRB-", "y", ",", "f", "-LRB-", "x", ",", "-RRB-", "-RRB-", ">", "L", "-LRB-", "y", ",", "f", "-LRB-", "x", ",", "-RRB-", "-RRB-", "for", "all", "x", "T", ".", "Therefore", ",", "the", "minimization", "of", "R", "emp", "-LRB-", "-RRB-", "alone", "does", "not", "guarantee", "the", "optimal", "selection", "of", "a", "parameter", "vector", "for", "other", "samples", "according", "to", "the", "distribution", "P", "-LRB-", "X", ",", "Y", "-RRB-", ".", "This", "problem", "is", "often", "referred", "to", "as", "overfitting", ".", "At", "this", "point", "we", "use", "one", "of", "the", "main", "ideas", "of", "statistical", "learning", "theory", ".", "Think", "of", "two", "different", "functions", "perfectly", "approximating", "a", "given", "set", "of", "training", "points", ".", "The", "first", "function", "is", "a", "linear", "function", ",", "i.", "e.", "a", "simple", "hyperplane", "in", "the", "considered", "space", "IR", "m", ".", "The", "second", "function", "also", "hits", "all", "training", "points", "but", "is", "strongly", "wriggling", "in", "between", ".", "Naturally", ",", "if", "we", "had", "to", "choose", "between", "these", "two", "approximation", "functions", ",", "we", "tend", "to", "select", "the", "more", "simple", "one", ",", "i.", "e.", "the", "linear", "hyperplane", "in", "this", "example", ".", "This", "derives", "from", "the", "observation", "that", "more", "simple", "functions", "behave", "better", "on", "unseen", "examples", "than", "very", "complicated", "functions", ".", "Since", "the", "mere", "minimization", "of", "the", "empirical", "risk", "according", "to", "the", "training", "data", "is", "not", "appropriate", "to", "find", "a", "good", "generalization", ",", "we", "incorporate", "the", "capacity", "2", "of", "the", "used", "function", "into", "the", "optimization", "problem", "-LRB-", "see", "Figure", "1", "-RRB-", ".", "This", "leads", "to", "the", "minimization", "of", "the", "structural", "risk", "R", "struct", "-LRB-", "-RRB-", "=", "R", "emp", "-LRB-", "-RRB-", "+", "-LRB-", "-RRB-", ".", "-LRB-", "4", "-RRB-", "is", "a", "function", "which", "measures", "the", "capacity", "of", "the", "function", "class", "f", "depending", "on", "the", "parameter", "vector", ".", "Since", "the", "empirical", "risk", "is", "usually", "a", "monotonically", "decreasing", "function", "of", ",", "we", "use", "to", "manage", "the", "trade-off", "between", "training", "error", "and", "capacity", ".", "Methods", "minimizing", "this", "type", "of", "risk", "function", "are", "known", "as", "shrinkage", "estimators", "-LSB-", "11", "-RSB-", ".", "2.1", "Bound", "on", "the", "generalization", "performance", "For", "certain", "functions", "the", "structural", "risk", "is", "an", "upper", "bound", "for", "the", "empirical", "risk", ".", "The", "capacity", "of", "the", "function", "f", "for", "a", "given", "can", "for", "example", "be", "measured", "with", "help", "of", "the", "Vapnik-Chervonenkis", "dimension", "-LRB-", "VC", "dimension", "-RRB-", "-LSB-", "27", ",", "28", "-RSB-", ".", "The", "VC", "dimension", "is", "defined", "as", "the", "cardinality", "of", "the", "biggest", "set", "of", "tuples", "which", "can", "separated", "with", "help", "of", "f", "in", "all", "possible", "ways", ".", "For", "example", ",", "the", "VC", "dimension", "of", "linear", "hyperplanes", "in", "an", "m-dimensional", "space", "is", "m", "+1", ".", "Using", "the", "VC", "dimension", "as", "a", "measure", "for", "capacity", "leads", "to", "a", "probabilistic", "bound", "for", "the", "structural", "risk", "-LSB-", "27", "-RSB-", ".", "Let", "f", "be", "a", "function", "class", "with", "finite", "VC", "dimension", "h", "and", "f", "-LRB-", "-RRB-", "the", "best", "solution", "for", "the", "2", "Although", "not", "the", "same", ",", "the", "capacity", "of", "a", "function", "resembles", "a", "measurement", "of", "the", "function", "complexity", ".", "In", "our", "example", "we", "measure", "the", "ability", "to", "``", "wriggle", "''", ".", "More", "details", "in", "-LSB-", "27", "-RSB-", ".", "1554", "X", "Y", "Figure", "1", ":", "The", "simultaneous", "minimization", "of", "empirical", "risk", "and", "model", "complexity", "gives", "a", "hint", "which", "function", "should", "be", "used", "in", "order", "to", "generalize", "the", "given", "data", "points", ".", "empirical", "risk", "minimization", "for", "T", "with", "|", "T", "|", "=", "n", ".", "Now", "choose", "some", "such", "that", "0", "1", ".", "Then", "for", "losses", "smaller", "than", "some", "number", "B", ",", "the", "following", "bound", "holds", "with", "probability", "1", "-", ":", "R", "-LRB-", "-RRB-", "R", "emp", "-LRB-", "-RRB-", "+", "B", "s", "h", "`", "log", "2l", "h", "+", "1", "-", "log", "4", "l", ".", "-LRB-", "5", "-RRB-", "Surprisingly", ",", "this", "bound", "is", "independent", "of", "P", "-LRB-", "X", ",", "Y", "-RRB-", ".", "It", "only", "assumes", "that", "both", "the", "seen", "and", "the", "unseen", "data", "points", "are", "independently", "sampled", "according", "to", "some", "P", "-LRB-", "X", ",", "Y", "-RRB-", ".", "Please", "note", "that", "this", "bound", "also", "no", "longer", "contains", "a", "weighting", "factor", "or", "any", "other", "trade-off", "at", "all", ".", "The", "existence", "of", "a", "guaranteed", "error", "bound", "is", "the", "reason", "for", "the", "great", "success", "of", "structural", "risk", "minimization", "in", "a", "wide", "range", "of", "applications", ".", "As", "discussed", "in", "the", "previous", "section", "we", "need", "to", "use", "a", "class", "of", "functions", "whose", "capacity", "can", "be", "controlled", ".", "In", "this", "section", "we", "will", "discuss", "a", "special", "form", "of", "structural", "risk", "minimization", ",", "namely", "large", "margin", "approaches", ".", "All", "large", "margin", "methods", "have", "one", "thing", "in", "common", ":", "they", "embed", "structural", "risk", "minimization", "by", "maximizing", "a", "margin", "between", "a", "linear", "function", "and", "the", "nearest", "data", "points", ".", "The", "most", "prominent", "large", "margin", "method", "for", "classification", "tasks", "is", "the", "Support", "Vector", "Machine", "-LRB-", "SVM", "-RRB-", ".", "3.1", "Support", "Vector", "Machines", "We", "constrain", "the", "number", "of", "possible", "values", "of", "Y", "to", "2", ",", "without", "loss", "of", "generality", "these", "values", "should", "be", "-1", "and", "+1", ".", "In", "this", "case", ",", "finding", "a", "function", "f", "in", "order", "to", "decide", "which", "of", "both", "predictions", "is", "correct", "for", "an", "unseen", "data", "point", "is", "referred", "to", "as", "classification", "learning", "for", "the", "classes", "-1", "and", "+1", ".", "We", "start", "with", "the", "simplest", "case", ":", "learning", "a", "linear", "function", "from", "perfectly", "separable", "data", ".", "As", "we", "shall", "see", "in", "Section", "3.2", "and", "3.3", ",", "the", "general", "case", "-", "non-linear", "functions", "derived", "from", "non-separable", "data", "-", "leads", "to", "a", "very", "similar", "problem", ".", "If", "the", "data", "points", "are", "linearly", "separable", ",", "a", "linear", "hyperplane", "must", "exist", "in", "the", "input", "space", "IR", "m", "which", "separates", "both", "classes", ".", "This", "hyperplane", "is", "defined", "as", "H", "=", "-LCB-", "x", "|", "w", ",", "x", "+", "b", "=", "0", "-RCB-", ",", "-LRB-", "6", "-RRB-", "H", "w", "Margin", "Origin", "-", "b", "|", "w", "|", "+1", "-1", "Figure", "2", ":", "A", "simple", "binary", "classification", "problem", "for", "two", "classes", "-1", "-LRB-", "empty", "bullets", "-RRB-", "and", "+1", "-LRB-", "filled", "bullets", "-RRB-", ".", "The", "separating", "hyperplane", "is", "defined", "by", "the", "vector", "w", "and", "the", "offset", "b", ".", "The", "distance", "between", "the", "nearest", "data", "point", "-LRB-", "s", "-RRB-", "and", "the", "hyperplane", "is", "called", "margin", ".", "where", "w", "is", "normal", "to", "the", "hyperplane", ",", "|", "b", "|", "/", "|", "|", "w", "|", "|", "is", "the", "perpendicular", "distance", "of", "the", "hyperplane", "to", "the", "origin", "-LRB-", "offset", "or", "bias", "-RRB-", ",", "and", "|", "|", "w", "|", "|", "is", "the", "Euclidean", "norm", "of", "w", ".", "The", "vector", "w", "and", "the", "offset", "b", "define", "the", "position", "and", "orientation", "of", "the", "hyperplane", "in", "the", "input", "space", ".", "These", "parameters", "correspond", "to", "the", "function", "parameters", ".", "After", "the", "optimal", "parameters", "w", "and", "b", "were", "found", ",", "the", "prediction", "of", "new", "data", "points", "can", "be", "calculated", "as", "f", "-LRB-", "x", ",", "w", ",", "b", "-RRB-", "=", "sgn", "-LRB-", "w", ",", "x", "+", "b", "-RRB-", ",", "-LRB-", "7", "-RRB-", "which", "is", "one", "of", "the", "reasons", "why", "we", "constrained", "the", "classes", "to", "-1", "and", "+1", ".", "Figure", "2", "shows", "some", "data", "points", "and", "a", "separating", "hyperplane", ".", "If", "all", "given", "data", "points", "are", "correctly", "classified", "by", "the", "hyperplane", "at", "hand", "the", "following", "must", "hold", ":", "i", ":", "y", "i", "-LRB-", "w", ",", "x", "i", "+", "b", "-RRB-", "0", ".", "-LRB-", "8", "-RRB-", "Of", "course", ",", "an", "infinite", "number", "of", "different", "hyperplanes", "exist", "which", "perfectly", "separate", "the", "given", "data", "points", ".", "However", ",", "one", "would", "intuitively", "choose", "the", "hyperplane", "which", "has", "the", "biggest", "amount", "of", "safety", "margin", "to", "both", "sides", "of", "the", "data", "points", ".", "Normalizing", "w", "and", "b", "in", "a", "way", "that", "the", "point", "-LRB-", "s", "-RRB-", "closest", "to", "the", "hyperplane", "satisfy", "|", "w", ",", "x", "i", "+", "b", "|", "=", "1", "we", "can", "transform", "equation", "8", "into", "i", ":", "y", "i", "-LRB-", "w", ",", "x", "i", "+", "b", "-RRB-", "1", ".", "-LRB-", "9", "-RRB-", "We", "can", "now", "define", "the", "margin", "as", "the", "perpendicular", "distance", "of", "the", "nearest", "point", "-LRB-", "s", "-RRB-", "to", "the", "hyperplane", ".", "Consider", "two", "points", "x", "1", "and", "x", "2", "on", "opposite", "sides", "of", "the", "margin", ".", "That", "is", "w", ",", "x", "1", "+", "b", "=", "+1", "and", "w", ",", "x", "2", "+", "b", "=", "-1", "and", "w", ",", "-LRB-", "x", "1", "-", "x", "2", "-RRB-", "=", "2", ".", "The", "margin", "is", "then", "given", "by", "1", "/", "|", "|", "w", "|", "|", ".", "It", "can", "be", "shown", ",", "that", "the", "capacity", "of", "the", "class", "of", "separating", "hyperplanes", "decreases", "with", "increasing", "margin", "-LSB-", "21", "-RSB-", ".", "Maximizing", "the", "margin", "of", "a", "hyperplane", "therefore", "formalizes", "the", "structural", "risk", "minimization", "discussed", "in", "the", "previous", "section", ".", "Instead", "of", "maximizing", "1", "/", "|", "|", "w", "|", "|", "we", "could", "also", "minimize", "1", "2", "|", "|", "w", "|", "|", "2", "which", "will", "result", "into", "more", "simple", "equations", "later", ".", "This", "leads", "to", "the", "optimization", "problem", "minimize", "1", "2", "|", "|", "w", "|", "|", "2", "-LRB-", "10", "-RRB-", "subject", "to", "i", ":", "y", "i", "-LRB-", "w", ",", "x", "i", "+", "b", "-RRB-", "1", ".", "-LRB-", "11", "-RRB-", "1555", "Function", "10", "is", "the", "objective", "function", "and", "the", "constraints", "from", "equation", "11", "are", "called", "inequality", "constraints", ".", "They", "form", "a", "constrained", "optimization", "problem", ".", "We", "will", "use", "a", "Lagrangian", "formulation", "of", "the", "problem", ".", "This", "allows", "us", "to", "replace", "the", "inequality", "constraints", "by", "constraints", "on", "the", "Lagrange", "multipliers", "which", "are", "easier", "to", "handle", ".", "The", "second", "reason", "is", "that", "after", "the", "transformation", "of", "the", "optimization", "problem", ",", "the", "training", "data", "will", "only", "appear", "in", "dot", "products", ".", "This", "will", "allow", "us", "to", "generalize", "the", "optimization", "to", "the", "non-linear", "case", "-LRB-", "see", "Section", "3.3", "-RRB-", ".", "We", "will", "now", "introduce", "positive", "Lagrange", "multipliers", "i", ",", "i", "=", "1", ",", "...", ",", "n", ",", "one", "for", "each", "of", "the", "inequality", "constraints", ".", "The", "Lagrangian", "has", "the", "form", "L", "P", "-LRB-", "w", ",", "b", ",", "-RRB-", "=", "12", "|", "|", "w", "|", "|", "2", "n", "X", "i", "=", "1", "i", "y", "i", "-LRB-", "w", ",", "x", "i", "+", "b", "-RRB-", ".", "-LRB-", "12", "-RRB-", "Finding", "a", "minimum", "of", "this", "function", "requires", "that", "the", "derivatives", "L", "P", "-LRB-", "w", ",", "b", ",", "-RRB-", "w", "=", "w", "n", "P", "i", "=", "1", "i", "y", "i", "x", "i", "-LRB-", "13", "-RRB-", "L", "P", "-LRB-", "w", ",", "b", ",", "-RRB-", "b", "=", "n", "P", "i", "=", "1", "i", "y", "i", "-LRB-", "14", "-RRB-", "are", "zero", ",", "i.", "e.", "w", "=", "n", "P", "i", "=", "1", "i", "y", "i", "x", "i", "-LRB-", "15", "-RRB-", "0", "=", "n", "P", "i", "=", "1", "i", "y", "i", ".", "-LRB-", "16", "-RRB-", "The", "Wolfe", "dual", ",", "which", "has", "to", "be", "maximized", ",", "results", "from", "the", "Lagrangian", "by", "substituting", "15", "and", "16", "into", "12", ",", "thus", "L", "D", "-LRB-", "w", ",", "b", ",", "-RRB-", "=", "n", "X", "i", "=", "1", "i", "-", "12", "n", "X", "i", "=", "1", "n", "X", "j", "=", "1", "y", "i", "y", "j", "i", "j", "x", "i", ",", "x", "j", ".", "-LRB-", "17", "-RRB-", "This", "leads", "to", "the", "dual", "optimization", "problem", "which", "must", "be", "solved", "in", "order", "to", "find", "a", "separating", "maximum", "margin", "hyperplane", "for", "given", "set", "of", "data", "points", ":", "maximize", "n", "P", "i", "=", "1", "i", "1", "2", "n", "P", "i", "=", "1", "n", "P", "j", "=", "1", "y", "i", "y", "j", "i", "j", "x", "i", ",", "x", "j", "-LRB-", "18", "-RRB-", "subject", "to", "i", "0", "for", "all", "i", "=", "1", ",", "...", ",", "n", "-LRB-", "19", "-RRB-", "and", "n", "P", "i", "=", "1", "i", "y", "i", "=", "0", ".", "-LRB-", "20", "-RRB-", "From", "an", "optimal", "vector", "we", "can", "calculate", "the", "optimal", "normal", "vector", "w", "using", "equation", "15", ".", "The", "optimal", "offset", "can", "be", "calculated", "with", "help", "of", "equation", "11", ".", "Please", "note", ",", "that", "w", "is", "a", "linear", "combination", "of", "those", "data", "points", "x", "i", "with", "i", "=", "0", ".", "These", "data", "points", "are", "called", "support", "vectors", ",", "hence", "the", "name", "support", "vector", "machine", ".", "Only", "support", "vectors", "determine", "the", "position", "and", "orientation", "of", "the", "separating", "hyperplane", ",", "other", "data", "points", "might", "as", "well", "be", "omitted", "during", "learning", ".", "In", "Figure", "2", "the", "support", "vectors", "are", "marked", "with", "circles", ".", "The", "number", "of", "support", "vectors", "is", "usually", "much", "smaller", "than", "the", "total", "number", "of", "data", "points", ".", "3.2", "Non-separable", "data", "We", "now", "consider", "the", "case", "that", "the", "given", "set", "of", "data", "points", "is", "not", "linearly", "separable", ".", "The", "optimization", "problem", "discussed", "in", "the", "previous", "section", "would", "not", "have", "a", "solution", "since", "in", "this", "case", "constraint", "11", "could", "not", "be", "fulfilled", "for", "all", "i", ".", "We", "relax", "this", "constraint", "by", "introducing", "positive", "slack", "variables", "i", ",", "i", "=", "1", ",", "...", ",", "n.", "Constraint", "11", "becomes", "i", ":", "y", "i", "-LRB-", "w", ",", "x", "i", "+", "b", "-RRB-", "1", "i", ".", "-LRB-", "21", "-RRB-", "In", "order", "to", "minimize", "the", "number", "of", "wrong", "classifications", "we", "introduce", "a", "correction", "term", "C", "P", "n", "i", "=", "1", "i", "into", "the", "objective", "function", ".", "The", "optimization", "problems", "then", "becomes", "minimize", "1", "2", "|", "|", "w", "|", "|", "2", "+", "C", "n", "P", "i", "=", "1", "i", "-LRB-", "22", "-RRB-", "subject", "to", "i", ":", "y", "i", "-LRB-", "w", ",", "x", "i", "+", "b", "-RRB-", "1", "i", ".", "-LRB-", "23", "-RRB-", "The", "factor", "C", "determines", "the", "weight", "of", "wrong", "predictions", "as", "part", "of", "the", "objective", "function", ".", "As", "in", "the", "previous", "section", "we", "create", "the", "dual", "form", "of", "the", "Lagrangian", ".", "The", "slacking", "variables", "i", "vanish", "and", "we", "get", "the", "optimization", "problem", "maximize", "n", "P", "i", "=", "1", "i", "1", "2", "n", "P", "i", "=", "1", "n", "P", "j", "=", "1", "y", "i", "y", "j", "i", "j", "x", "i", ",", "x", "j", "-LRB-", "24", "-RRB-", "subject", "to", "0", "i", "C", "for", "all", "i", "=", "1", ",", "...", ",", "n", "-LRB-", "25", "-RRB-", "and", "n", "P", "i", "=", "1", "i", "y", "i", "=", "0", ".", "-LRB-", "26", "-RRB-", "It", "can", "easily", "be", "seen", "that", "the", "only", "difference", "to", "the", "separable", "case", "is", "the", "additional", "upper", "bound", "C", "for", "all", "i", ".", "3.3", "Non-linear", "learning", "with", "kernels", "The", "optimization", "problem", "described", "with", "equations", "24", ",", "25", ",", "and", "26", "will", "deliver", "a", "linear", "separating", "hyperplane", "for", "arbitrary", "datasets", ".", "The", "result", "is", "optimal", "in", "a", "sense", "that", "no", "other", "linear", "function", "is", "expected", "to", "provide", "a", "better", "classification", "function", "on", "unseen", "data", "according", "to", "P", "-LRB-", "X", ",", "Y", "-RRB-", ".", "However", ",", "if", "the", "data", "is", "not", "linearly", "separable", "at", "all", "the", "question", "arises", "how", "the", "described", "optimization", "problem", "can", "be", "gener-alized", "to", "non-linear", "decision", "functions", ".", "Please", "note", "that", "the", "data", "points", "only", "appear", "in", "the", "form", "of", "dot", "products", "x", "i", ",", "x", "j", ".", "A", "possible", "interpretation", "of", "this", "dot", "product", "is", "the", "similarity", "of", "these", "data", "points", "in", "the", "input", "space", "IR", "m", ".", "Now", "consider", "a", "mapping", ":", "IR", "m", "H", "into", "some", "other", "Euclidean", "space", "H", "-LRB-", "called", "feature", "space", "-RRB-", "which", "might", "be", "performed", "before", "the", "dot", "product", "is", "calculated", ".", "The", "optimization", "would", "depend", "on", "dot", "products", "in", "this", "new", "space", "H", ",", "i.", "e.", "on", "functions", "of", "the", "form", "-LRB-", "x", "i", "-RRB-", ",", "-LRB-", "x", "j", "-RRB-", ".", "A", "function", "k", ":", "IR", "m", "IR", "m", "IR", "with", "the", "characteristic", "k", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", "=", "-LRB-", "x", "i", "-RRB-", ",", "-LRB-", "x", "j", "-RRB-", "-LRB-", "27", "-RRB-", "is", "called", "kernel", "function", "or", "kernel", ".", "Figure", "3", "gives", "a", "rough", "idea", "how", "transforming", "the", "data", "points", "can", "help", "to", "solve", "non-linear", "problems", "with", "the", "optimization", "in", "a", "-LRB-", "higher", "dimensional", "-RRB-", "space", "where", "the", "points", "can", "be", "linearly", "separated", ".", "A", "fascinating", "property", "of", "kernels", "is", "that", "for", "some", "mappings", "a", "kernel", "k", "exists", "which", "can", "be", "calculated", "without", "actually", "performing", ".", "Since", "often", "the", "dimension", "of", "H", "is", "greater", "than", "the", "dimension", "m", "of", "the", "input", "space", "and", "H", "sometimes", "is", "even", "infinite", "dimensional", ",", "the", "usage", "of", "such", "kernels", "is", "a", "very", "efficient", "way", "to", "introduce", "non-linear", "decision", "functions", "into", "large", "margin", "approaches", ".", "Prominent", "examples", "for", "such", "efficient", "non-linear", "kernels", "are", "polynomial", "kernels", "with", "degree", "d", "k", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", "=", "-LRB-", "x", "i", ",", "x", "j", "+", "-RRB-", "d", ",", "-LRB-", "28", "-RRB-", "radial", "basis", "function", "kernels", "-LRB-", "RBF", "kernels", "-RRB-", "k", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", "=", "e", "|", "|", "xi", "-", "xj", "|", "|", "2", "22", "-LRB-", "29", "-RRB-", "1556", "H", "R", "m", "Figure", "3", ":", "After", "the", "transformation", "of", "all", "data", "points", "into", "the", "feature", "space", "H", "the", "non-linear", "separation", "problem", "can", "be", "solved", "with", "a", "linear", "separation", "algorithm", ".", "In", "this", "case", "a", "transformation", "in", "the", "space", "of", "polynomials", "with", "degree", "2", "was", "chosen", ".", "for", "a", ">", "0", ",", "and", "the", "sigmoid", "kernel", "k", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", "=", "tanh", "-LRB-", "x", "i", ",", "x", "j", "-", "-RRB-", "-LRB-", "30", "-RRB-", "which", "can", "be", "used", "to", "simulate", "a", "neural", "network", ".", "and", "are", "scaling", "and", "shifting", "parameters", ".", "Since", "the", "RBF", "kernel", "is", "easy", "interpretable", "and", "often", "yields", "good", "prediction", "performance", ",", "it", "is", "used", "in", "a", "wide", "range", "of", "applications", ".", "We", "will", "also", "use", "the", "RBF", "kernel", "for", "our", "experiments", "described", "in", "section", "5", "in", "order", "to", "demonstrate", "the", "learning", "ability", "of", "the", "proposed", "SVM", ".", "We", "replace", "the", "dot", "product", "in", "the", "objective", "function", "by", "kernel", "functions", "and", "achieve", "the", "final", "optimization", "problem", "for", "finding", "a", "non-linear", "separation", "for", "non-separable", "data", "points", "maximize", "n", "P", "i", "=", "1", "i", "1", "2", "n", "P", "i", "=", "1", "n", "P", "j", "=", "1", "y", "i", "y", "j", "i", "j", "k", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", "-LRB-", "31", "-RRB-", "subject", "to", "0", "i", "C", "for", "all", "i", "=", "1", ",", "...", ",", "n", "-LRB-", "32", "-RRB-", "and", "n", "P", "i", "=", "1", "i", "y", "i", "=", "0", ".", "-LRB-", "33", "-RRB-", "It", "can", "be", "shown", "that", "if", "the", "kernel", "k", ",", "i.", "e.", "it", "'s", "kernel", "matrix", ",", "is", "positive", "definite", ",", "the", "objective", "function", "is", "concave", "-LSB-", "2", "-RSB-", ".", "The", "optimization", "problem", "therefore", "has", "a", "global", "unique", "maximum", ".", "However", ",", "in", "some", "cases", "a", "specialized", "kernel", "function", "must", "be", "used", "to", "measure", "the", "similarity", "between", "data", "points", "which", "is", "not", "positive", "definite", ",", "sometimes", "not", "even", "positive", "semidefinite", "-LSB-", "21", "-RSB-", ".", "In", "these", "cases", "the", "usual", "quadratic", "programming", "approaches", "might", "not", "be", "able", "to", "find", "a", "global", "maximum", "in", "feasible", "time", ".", "Since", "traditional", "SVMs", "are", "not", "able", "to", "optimize", "for", "non-positive", "semidefinite", "kernel", "function", ",", "it", "is", "a", "very", "appealing", "idea", "to", "replace", "the", "usual", "quadratic", "programming", "approaches", "by", "an", "evolution", "strategies", "-LRB-", "ES", "-RRB-", "approach", "-LSB-", "1", "-RSB-", "or", "by", "particle", "swarm", "optimization", "-LRB-", "PSO", "-RRB-", "-LSB-", "14", "-RSB-", ".", "In", "this", "section", "we", "will", "describe", "both", "a", "straightforward", "application", "of", "these", "techniques", "and", "how", "we", "can", "exploit", "some", "information", "about", "our", "optimization", "problem", "and", "incorporate", "that", "information", "into", "our", "search", "operators", ".", "4.1", "Solving", "the", "dual", "problem", "and", "other", "sim-plifications", "The", "used", "optimization", "problem", "is", "the", "dual", "problem", "for", "non-linear", "separation", "of", "non-separable", "data", "developed", "in", "the", "last", "sections", "-LRB-", "equations", "31", ",", "32", ",", "and", "33", "-RRB-", ".", "Of", "course", "it", "would", "also", "be", "possible", "to", "directly", "optimize", "the", "original", "form", "of", "our", "optimization", "problem", "depicted", "in", "equations", "22", "and", "23", ".", "That", "is", ",", "we", "could", "directly", "optimize", "the", "weight", "vectors", "and", "the", "offset", ".", "As", "mentioned", "before", ",", "there", "are", "two", "drawbacks", ":", "first", ",", "the", "costs", "of", "calculating", "the", "fitness", "function", "would", "be", "much", "higher", "for", "the", "original", "optimization", "problem", "since", "the", "fulfillment", "of", "all", "n", "constraints", "must", "be", "recalculated", "for", "each", "new", "hyperplane", ".", "It", "is", "a", "lot", "easier", "to", "check", "if", "all", "0", "i", "C", "apply", ".", "Second", ",", "it", "would", "not", "be", "possible", "to", "allow", "non-linear", "learning", "with", "efficient", "kernel", "functions", "in", "the", "original", "formulation", "of", "the", "problem", ".", "Furthermore", ",", "the", "kernel", "matrix", "K", "with", "K", "ij", "=", "k", "-LRB-", "x", "i", ",", "x", "j", "-RRB-", "can", "be", "calculated", "beforehand", "and", "the", "training", "data", "is", "never", "used", "during", "optimization", "again", ".", "This", "further", "reduces", "the", "needed", "runtime", "for", "optimization", "since", "the", "kernel", "matrix", "calculation", "is", "done", "only", "once", ".", "This", "is", "a", "nice", "example", "for", "a", "case", ",", "where", "transforming", "the", "objective", "function", "beforehand", "is", "both", "more", "efficient", "and", "allows", "enhancements", "which", "would", "not", "have", "been", "possible", "before", ".", "Transformations", "of", "the", "fitness", "functions", "became", "a", "very", "interesting", "topic", "recently", "-LSB-", "25", "-RSB-", ".", "Another", "efficiency", "improvement", "can", "be", "achieved", "by", "formulating", "the", "problem", "with", "b", "=", "0", ".", "All", "solution", "hyperplanes", "must", "then", "contain", "the", "origin", "and", "the", "constraint", "33", "will", "vanish", ".", "This", "is", "a", "mild", "restriction", "for", "high-dimensional", "spaces", "since", "the", "number", "of", "degrees", "of", "freedom", "is", "only", "decreased", "by", "one", ".", "However", ",", "during", "optimization", "we", "do", "not", "have", "to", "cope", "with", "this", "equality", "constraint", "which", "would", "take", "an", "additional", "runtime", "of", "O", "-LRB-", "n", "-RRB-", ".", "4.2", "EvoSVM", "and", "PsoSVM", "We", "developed", "a", "support", "vector", "machine", "based", "on", "evolution", "strategies", "optimization", "-LRB-", "EvoSVM", "-RRB-", ".", "We", "utilized", "three", "different", "types", "of", "mutation", "which", "will", "be", "described", "in", "this", "section", ".", "Furthermore", ",", "we", "developed", "another", "SVM", "based", "on", "particle", "swarm", "optimization", "-LRB-", "PsoSVM", "-RRB-", "which", "is", "also", "described", ".", "The", "first", "approach", "-LRB-", "EvoSVM-G", ",", "G", "for", "Gaussian", "mutation", "-RRB-", "merely", "utilizes", "a", "standard", "ES", "optimization", ".", "Individuals", "are", "the", "real-valued", "vectors", "and", "mutation", "is", "performed", "by", "adding", "a", "Gaussian", "distributed", "random", "variable", "with", "standard", "deviation", "C/10", ".", "In", "addition", ",", "a", "variance", "adaptation", "is", "conducted", "during", "optimization", "-LRB-", "1/5", "rule", "-LSB-", "18", "-RSB-", "-RRB-", ".", "Crossover", "probability", "is", "high", "-LRB-", "0.9", "-RRB-", ".", "We", "use", "tournament", "selection", "with", "a", "tournament", "size", "of", "0.25", "multiplied", "by", "the", "population", "size", ".", "The", "initial", "individuals", "are", "random", "vectors", "with", "0", "i", "C", ".", "The", "maximum", "number", "of", "generations", "is", "1000", "and", "the", "optimization", "is", "terminated", "if", "no", "improvement", "occurred", "during", "the", "last", "5", "generations", ".", "The", "population", "size", "is", "10", ".", "The", "second", "version", "is", "called", "EvoSVM-S", "-LRB-", "S", "for", "switching", "mutation", "-RRB-", ".", "Here", "we", "utilize", "the", "fact", "that", "only", "a", "small", "amount", "of", "input", "data", "points", "will", "become", "support", "vectors", "-LRB-", "sparsity", "-RRB-", ".", "On", "the", "other", "hand", ",", "one", "can", "often", "observe", "that", "non-zero", "alpha", "values", "are", "equal", "to", "the", "upper", "bound", "C", "and", "only", "a", "very", "small", "amount", "of", "support", "vectors", "exists", "with", "0", "<", "i", "<", "C.", "Therefore", ",", "we", "just", "use", "the", "well", "known", "mutation", "of", "genetic", "algorithms", "and", "switch", "between", "0", "and", "C", "with", "probability", "1/n", "for", "each", "i", ".", "The", "other", "parameters", "are", "equal", "to", "those", "described", "for", "the", "EvoSVM-G", ".", "1557", "for", "i", "=", "1", "to", "n", "do", "-LCB-", "if", "-LRB-", "random", "-LRB-", "0", ",", "1", "-RRB-", "<", "1/n", "-RRB-", "do", "-LCB-", "if", "-LRB-", "alpha_i", ">", "0", "-RRB-", "do", "-LCB-", "alpha_i", "=", "0", ";", "-RCB-", "else", "do", "-LCB-", "alpha_i", "=", "random", "-LRB-", "0", ",", "C", "-RRB-", ";", "-RCB-", "-RCB-", "-RCB-", "Figure", "4", ":", "A", "simple", "hybrid", "mutation", "which", "should", "speed-up", "the", "search", "for", "sparser", "solutions", ".", "It", "contains", "elements", "from", "standard", "mutations", "from", "both", "genetic", "algorithms", "and", "evolution", "strategies", ".", "Using", "this", "switching", "mutation", "inspired", "by", "genetic", "algorithms", "only", "allow", "i", "=", "0", "or", "i", "=", "C.", "Instead", "of", "a", "complete", "switch", "between", "0", "and", "C", "or", "a", "smooth", "change", "of", "all", "values", "i", "like", "the", "Gaussian", "mutation", "does", ",", "we", "developed", "a", "hybrid", "mutation", "combining", "both", "elements", ".", "That", "means", "that", "we", "check", "for", "each", "i", "with", "probability", "1/n", "if", "the", "value", "should", "be", "mutated", "at", "all", ".", "If", "the", "current", "value", "i", "is", "greater", "than", "0", ",", "i", "is", "set", "to", "0", ".", "If", "i", "is", "equal", "to", "0", ",", "i", "is", "set", "to", "a", "random", "value", "with", "0", "i", "C.", "Figure", "4", "gives", "an", "overview", "over", "this", "hybrid", "mutation", ".", "The", "function", "random", "-LRB-", "a", ",", "b", "-RRB-", "returns", "an", "uniformly", "distributed", "random", "number", "between", "a", "and", "b", ".", "The", "other", "parameters", "are", "the", "same", "as", "described", "for", "the", "EvoSVM-G", ".", "We", "call", "this", "version", "EvoSVM-H", "-LRB-", "H", "for", "hybrid", "-RRB-", ".", "As", "was", "mentioned", "before", ",", "the", "optimization", "problem", "usually", "is", "concave", "and", "the", "risk", "for", "local", "extrema", "is", "small", ".", "Therefore", ",", "we", "also", "applied", "a", "PSO", "technique", ".", "It", "should", "be", "inves-tigated", "if", "PSO", ",", "which", "is", "similar", "to", "the", "usual", "quadratic", "programming", "approaches", "for", "SVMs", "in", "a", "sense", "that", "the", "gradient", "information", "is", "exploited", ",", "is", "able", "to", "find", "a", "global", "optimum", "in", "shorter", "time", ".", "We", "call", "this", "last", "version", "PsoSVM", "and", "use", "a", "standard", "PSO", "with", "inertia", "weight", "0.1", ",", "local", "best", "weight", "1.0", ",", "and", "global", "best", "weight", "1.0", ".", "The", "inertia", "weight", "is", "dynami-cally", "adapted", "during", "optimization", "-LSB-", "14", "-RSB-", ".", "In", "this", "section", "we", "try", "to", "evaluate", "the", "proposed", "evolutionary", "optimization", "SVMs", ".", "We", "compare", "our", "implementation", "to", "the", "quadratic", "programming", "approaches", "usually", "applied", "to", "large", "margin", "problems", ".", "The", "experiments", "demonstrate", "the", "competitiveness", "in", "terms", "of", "classification", "error", "minimization", ",", "runtime", ",", "and", "robustness", ".", "We", "apply", "the", "discussed", "EvoSVM", "variants", "as", "well", "as", "the", "PsoSVM", "on", "six", "real-world", "benchmark", "datasets", ".", "We", "selected", "these", "datasets", "from", "the", "UCI", "machine", "learning", "repository", "-LSB-", "16", "-RSB-", "and", "the", "StatLib", "dataset", "library", "-LSB-", "24", "-RSB-", ",", "because", "they", "already", "define", "a", "binary", "classification", "task", ",", "consist", "of", "real-valued", "numbers", "only", "and", "do", "not", "contain", "missing", "values", ".", "Therefore", ",", "we", "did", "not", "need", "to", "perform", "additional", "prepro-cessing", "steps", "which", "might", "introduce", "some", "bias", ".", "The", "properties", "of", "all", "datasets", "are", "summarized", "in", "Table", "1", ".", "The", "default", "error", "corresponds", "to", "the", "error", "a", "lazy", "default", "classifier", "would", "make", "by", "always", "predicting", "the", "major", "class", ".", "Classifiers", "must", "produce", "lower", "error", "rates", "in", "order", "to", "learn", "at", "all", "instead", "of", "just", "guessing", ".", "In", "order", "to", "compare", "the", "evolutionary", "SVMs", "described", "in", "this", "paper", "with", "standard", "implementations", "we", "also", "applied", "two", "other", "SVMs", "on", "all", "datasets", ".", "Both", "SVMs", "use", "a", "Dataset", "n", "m", "Source", "Default", "Liver", "346", "6", "UCI", "0.010", "42.03", "Ionosphere", "351", "34", "UCI", "1.000", "35.90", "Sonar", "208", "60", "UCI", "1.000", "46.62", "Lawsuit", "264", "4", "StatLib", "0.010", "7.17", "Lupus", "87", "3", "StatLib", "0.001", "40.00", "Crabs", "200", "7", "StatLib", "0.100", "50.00", "Table", "1", ":", "The", "evaluation", "datasets", ".", "n", "is", "the", "number", "of", "data", "points", ",", "m", "is", "the", "dimension", "of", "the", "input", "space", ".", "The", "kernel", "parameter", "was", "optimized", "for", "the", "comparison", "SVM", "learner", "mySVM", ".", "The", "last", "column", "contains", "the", "default", "error", ",", "i.", "e.", "the", "error", "for", "always", "predicting", "the", "major", "class", ".", "slightly", "different", "optimization", "technique", "based", "on", "quadratic", "programming", ".", "The", "used", "implementations", "were", "mySVM", "-LSB-", "20", "-RSB-", "and", "LibSVM", "-LSB-", "4", "-RSB-", ".", "The", "latter", "is", "an", "adaptation", "of", "the", "widely", "used", "SV", "M", "light", "-LSB-", "12", "-RSB-", ".", "We", "use", "a", "RBF", "kernel", "for", "all", "SVMs", "and", "determine", "the", "best", "parameter", "value", "for", "with", "a", "grid", "search", "parameter", "optimization", "for", "mySVM", ".", "This", "ensures", "a", "fair", "comparison", "since", "the", "parameter", "is", "not", "optimized", "for", "one", "of", "the", "evolutionary", "SVMs", ".", "Possible", "parameters", "were", "0.001", ",", "0.01", ",", "0.1", ",", "1", "and", "10", ".", "The", "optimal", "value", "for", "each", "dataset", "is", "also", "given", "in", "Table", "1", ".", "In", "order", "to", "determine", "the", "performance", "of", "all", "methods", "we", "perform", "a", "k-fold", "cross", "validation", ".", "That", "means", "that", "the", "dataset", "T", "is", "divided", "into", "k", "disjoint", "subsets", "T", "i", ".", "For", "each", "i", "-LCB-", "1", ",", "...", ",", "k", "-RCB-", "we", "use", "T", "\\", "T", "i", "as", "training", "set", "and", "the", "remaining", "subset", "T", "i", "as", "test", "set", ".", "If", "F", "i", "is", "the", "number", "of", "wrong", "predictions", "on", "test", "set", "T", "i", "we", "calculate", "the", "average", "classification", "error", "E", "=", "1", "k", "k", "X", "i", "=", "1", "F", "i", "|", "T", "i", "|", "-LRB-", "34", "-RRB-", "over", "all", "test", "sets", "in", "order", "to", "measure", "the", "classification", "performance", ".", "In", "our", "experiments", "we", "choose", "k", "=", "20", ",", "i.", "e.", "for", "each", "evolutionary", "method", "the", "average", "and", "standard", "deviation", "of", "20", "runs", "is", "reported", ".", "All", "experiments", "were", "performed", "with", "the", "machine", "learning", "environment", "Yale", "-LSB-", "5", "-RSB-", ".", "Table", "2", "summarizes", "the", "results", "for", "different", "values", "of", "C", ".", "It", "can", "be", "seen", "that", "the", "EvoSVM", "variants", "frequently", "yield", "smaller", "classification", "errors", "than", "the", "quadratic", "programming", "counterparts", "-LRB-", "mySVM", "and", "LibSVM", "-RRB-", ".", "For", "C", "=", "1", ",", "a", "statistical", "significant", "better", "result", "was", "achieved", "by", "using", "LibSVM", "only", "for", "the", "Liver", "data", "set", ".", "For", "all", "other", "datasets", "the", "evolutionary", "optimization", "outperforms", "the", "quadratic", "programming", "approaches", ".", "The", "same", "applies", "for", "C", "=", "0.1", ".", "For", "rather", "small", "values", "of", "C", "most", "learning", "schemes", "were", "not", "able", "to", "produce", "better", "predictions", "than", "the", "default", "classifier", ".", "For", "C", "=", "0.01", ",", "however", ",", "PsoSVM", "at", "least", "provides", "a", "similar", "accuracy", "to", "LibSVM", ".", "The", "reason", "for", "higher", "errors", "of", "the", "quadratic", "programming", "approaches", "is", "probably", "a", "too", "aggressive", "termination", "criterion", ".", "Although", "this", "termination", "behavior", "further", "reduces", "runtime", "for", "mySVM", "and", "LibSVM", ",", "the", "classification", "error", "is", "often", "increased", ".", "It", "turns", "out", "that", "the", "standard", "ES", "approach", "EvoSVM-G", "using", "a", "mutation", "adding", "a", "Gaussian", "distributed", "random", "variable", "often", "outperforms", "the", "other", "SVMs", ".", "However", ",", "the", "1558", "C", "=", "1", "Liver", "Ionosphere", "Sonar", "Lawsuit", "Lupus", "Crabs", "Error", "T", "Error", "T", "Error", "T", "Error", "T", "Error", "T", "Error", "T", "EvoSVM-G", "34.71", "8.60", "68", "10.81", "5.71", "80", "14.03", "4.52", "26", "2.05", "1.87", "52", "25.20", "11.77", "8", "2.25", "3.72", "25", "EvoSVM-S", "35.37", "6.39", "4", "8.49", "3.80", "9", "17.45", "6.64", "6", "2.40", "1.91", "10", "30.92", "12.42", "<", "1", "4.05", "4.63", "2", "EvoSVM-H", "34.97", "7.32", "7", "6.83", "3.87", "22", "15.41", "6.39", "10", "2.01", "1.87", "14", "24.03", "13.68", "1", "3.95", "4.31", "7", "PsoSVM", "34.78", "4.95", "8", "9.90", "4.38", "9", "16.94", "5.61", "7", "3.02", "2.83", "3", "25.22", "7.67", "<", "1", "3.40", "3.70", "2", "mySVM", "33.62", "4.31", "2", "8.56", "4.25", "4", "15.81", "5.59", "2", "1.89", "2.51", "1", "25.28", "8.58", "1", "3.00", "3.32", "1", "LibSVM", "32.72", "5.41", "2", "7.70", "3.63", "3", "14.60", "4.96", "3", "2.41", "2.64", "1", "24.14", "12.33", "1", "3.00", "4.58", "1", "F", "Test", "3.20", "-LRB-", "0.01", "-RRB-", "9.78", "-LRB-", "0.00", "-RRB-", "6.19", "-LRB-", "0.00", "-RRB-", "1.51", "-LRB-", "0.19", "-RRB-", "11.94", "-LRB-", "0.00", "-RRB-", "2.25", "-LRB-", "0.05", "-RRB-", "C", "=", "0.1", "Liver", "Ionosphere", "Sonar", "Lawsuit", "Lupus", "Crabs", "Error", "T", "Error", "T", "Error", "T", "Error", "T", "Error", "T", "Error", "T", "EvoSVM-G", "33.90", "4.19", "74", "9.40", "6.14", "89", "21.72", "6.63", "35", "2.35", "1.92", "50", "24.90", "10.51", "7", "7.20", "4.36", "27", "EvoSVM-S", "35.57", "3.55", "4", "7.12", "3.54", "18", "24.90", "6.62", "4", "4.47", "2.31", "13", "25.98", "12.56", "<", "1", "7.95", "5.68", "2", "EvoSVM-H", "34.76", "4.70", "5", "6.55", "4.61", "23", "24.40", "6.09", "11", "4.16", "3.14", "19", "26.51", "13.03", "1", "6.50", "5.02", "2", "PsoSVM", "36.81", "5.04", "3", "13.96", "7.56", "10", "24.18", "6.11", "3", "3.03", "2.83", "3", "29.86", "12.84", "1", "8.15", "6.02", "1", "mySVM", "42.03", "1.46", "2", "35.90", "1.35", "2", "46.62", "1.62", "2", "7.17", "2.55", "1", "41.25", "6.92", "1", "6.50", "4.50", "1", "LibSVM", "33.08", "10.63", "2", "11.40", "6.52", "3", "22.40", "6.45", "3", "4.55", "3.25", "1", "25.29", "16.95", "1", "21.00", "12.41", "1", "F", "Test", "34.46", "-LRB-", "0.00", "-RRB-", "492.88", "-LRB-", "0.00", "-RRB-", "323.83", "-LRB-", "0.00", "-RRB-", "20.64", "-LRB-", "0.00", "-RRB-", "64.83", "-LRB-", "0.00", "-RRB-", "100.92", "-LRB-", "0.00", "-RRB-", "C", "=", "0.01", "Liver", "Ionosphere", "Sonar", "Lawsuit", "Lupus", "Crabs", "Error", "T", "Error", "T", "Error", "T", "Error", "T", "Error", "T", "Error", "T", "EvoSVM-G", "42.03", "1.46", "75", "35.90", "1.35", "86", "45.33", "2.20", "39", "7.17", "2.55", "55", "40.00", "6.33", "7", "26.20", "12.66", "27", "EvoSVM-S", "42.03", "1.46", "3", "35.90", "1.35", "9", "46.62", "1.62", "4", "7.17", "2.55", "3", "40.00", "6.33", "<", "1", "8.58", "4.35", "1", "EvoSVM-H", "42.03", "1.46", "3", "35.90", "1.35", "20", "46.27", "1.42", "12", "7.17", "2.55", "3", "40.00", "6.33", "1", "7.00", "4.00", "2", "PsoSVM", "41.39", "8.59", "3", "35.90", "1.35", "4", "27.90", "6.28", "3", "7.17", "2.55", "2", "31.94", "12.70", "1", "10.05", "7.26", "1", "mySVM", "42.03", "1.46", "2", "35.90", "1.35", "2", "46.62", "1.62", "2", "7.17", "2.55", "1", "40.00", "6.33", "1", "6.50", "4.50", "1", "LibSVM", "42.03", "1.46", "2", "35.90", "1.35", "3", "28.46", "10.44", "2", "7.17", "2.55", "1", "26.11", "16.44", "1", "50.00", "0.00", "1", "F", "Test", "0.52", "-LRB-", "0.77", "-RRB-", "0.00", "-LRB-", "1.00", "-RRB-", "442.46", "-LRB-", "0.00", "-RRB-", "0.00", "-LRB-", "1.00", "-RRB-", "78.27", "-LRB-", "0.00", "-RRB-", "1095.94", "-LRB-", "0.00", "-RRB-", "Table", "2", ":", "Classification", "error", ",", "standard", "deviation", ",", "and", "runtime", "of", "all", "SVMs", "on", "the", "evaluation", "datasets", "for", "parameters", "C", "=", "1", ",", "C", "=", "0.1", ",", "and", "C", "=", "0.01", ".", "The", "runtime", "T", "is", "given", "in", "seconds", ".", "The", "last", "line", "for", "each", "table", "depicts", "the", "F", "test", "value", "and", "the", "probability", "that", "the", "results", "are", "not", "statistical", "significant", ".", "runtime", "for", "this", "approach", "is", "far", "to", "big", "to", "be", "feasible", "in", "practical", "situations", ".", "The", "mere", "GA", "based", "selection", "mutation", "switching", "between", "0", "and", "C", "converges", "much", "faster", "but", "is", "often", "less", "accurate", ".", "The", "remaining", "runtime", "differences", "between", "EvoSVM-S", "and", "the", "quadratic", "programming", "counterparts", "can", "surely", "be", "reduced", "by", "code", "optimization", ".", "The", "used", "SVM", "implementations", "are", "matured", "and", "have", "been", "optimized", "over", "the", "years", "whereas", "the", "implementations", "of", "the", "evolutionary", "approaches", "follow", "standard", "recipes", "without", "any", "code", "optimization", ".", "The", "hybrid", "version", "EvoSVM-H", "combines", "the", "best", "elements", "of", "both", "worlds", ".", "It", "converges", "nearly", "as", "fast", "as", "the", "EvoSVM-S", "and", "is", "often", "nearly", "as", "accurate", "as", "the", "EvoSVM-G", ".", "In", "some", "cases", "-LRB-", "Ionosphere", ",", "Lupus", "-RRB-", "it", "even", "outperforms", "all", "other", "SVMs", ".", "PsoSVM", "on", "the", "other", "hand", "does", "not", "provide", "the", "best", "performance", "in", "terms", "of", "classification", "error", ".", "Compared", "to", "the", "other", "evolutionary", "approaches", ",", "however", ",", "it", "converged", "much", "earlier", "than", "the", "other", "competitors", ".", "Please", "note", "that", "the", "standard", "deviations", "of", "the", "errors", "achieved", "with", "the", "evolutionary", "SVMs", "are", "similar", "to", "the", "standard", "deviations", "achieved", "with", "mySVM", "or", "LibSVM", ".", "We", "can", "therefore", "conclude", "that", "the", "evolutionary", "optimization", "is", "as", "robust", "as", "the", "quadratic", "programming", "approaches", "and", "differences", "mainly", "derives", "from", "different", "subsets", "for", "training", "and", "testing", "due", "to", "cross", "validation", "instead", "of", "the", "used", "random-ized", "heuristics", ".", "Therefore", ",", "evolutionary", "SVMs", "provide", "an", "interesting", "alternative", "to", "more", "traditional", "SVM", "implementations", ".", "Beside", "the", "similar", "results", "EvoSVM", "is", "also", "able", "to", "cope", "with", "non-positive", "definite", "kernel", "functions", "and", "multivariate", "optimization", "In", "this", "paper", "we", "connected", "evolutionary", "computation", "with", "statistical", "learning", "theory", ".", "The", "idea", "of", "large", "margin", "methods", "was", "very", "successful", "in", "many", "applications", "from", "machine", "learning", "and", "data", "mining", ".", "We", "used", "the", "most", "prominent", "representative", "of", "this", "paradigm", ",", "namely", "Support", "Vector", "Machines", ",", "and", "employed", "evolution", "strategies", "and", "particle", "swarm", "optimization", "in", "order", "to", "solve", "the", "constrained", "optimization", "problem", "at", "hand", ".", "We", "developed", "a", "hybrid", "mutation", "which", "decreases", "convergence", "time", "while", "the", "classification", "accuracy", "is", "preserved", ".", "An", "interesting", "property", "of", "large", "margin", "methods", "is", "that", "the", "runtime", "for", "fitness", "evaluation", "is", "reduced", "by", "transforming", "the", "problem", "into", "the", "dual", "problem", ".", "In", "our", "case", ",", "the", "algorithm", "is", "both", "faster", "and", "provides", "space", "for", "other", "improvements", "like", "incorporating", "a", "kernel", "function", "for", "non-linear", "classification", "tasks", ".", "This", "is", "a", "nice", "example", "how", "a", "transformation", "into", "the", "dual", "optimization", "problem", "can", "be", "exploited", "by", "evolutionary", "algorithms", ".", "We", "have", "seen", "that", "evolutionary", "SVMs", "are", "at", "least", "as", "accurate", "as", "their", "quadratic", "programming", "counterparts", ".", "For", "practical", "values", "of", "C", "the", "evolutionary", "SVM", "variants", "frequently", "outperformed", "their", "competitors", ".", "We", "can", "conclude", "that", "evolutionary", "algorithms", "proved", "as", "reliable", "as", "other", "optimization", "schemes", "for", "this", "type", "of", "problems", ".", "In", "addition", ",", "beside", "the", "inherent", "advantages", "of", "evolutionary", "algorithms", "-LRB-", "e.", "g.", "parallelization", ",", "multi-objective", "optimization", "of", "train-1559", "ing", "error", "and", "capacity", "-RRB-", "it", "is", "now", "also", "possible", "to", "employ", "non", "positive", "semidefinite", "kernel", "functions", "which", "would", "lead", "to", "unsolvable", "problems", "for", "other", "optimization", "techniques", ".", "In", "our", "future", "work", "we", "plan", "to", "make", "experiments", "with", "such", "non", "positive", "semidefinite", "kernel", "functions", ".", "This", "also", "applies", "for", "multi-objective", "optimization", "of", "both", "the", "margin", "and", "the", "training", "error", ".", "It", "turns", "out", "that", "the", "hybrid", "mutation", "delivers", "results", "nearly", "as", "accurate", "as", "the", "Gaussian", "mutation", "and", "has", "a", "similar", "convergence", "behavior", "compared", "to", "the", "switching", "mutation", "known", "from", "GAs", ".", "Future", "improvements", "could", "start", "with", "a", "switching", "mutation", "and", "can", "post-optimize", "with", "a", "Gaussian", "mutation", "after", "a", "first", "convergence", ".", "Values", "always", "remaining", "0", "or", "C", "during", "the", "first", "run", "could", "be", "omitted", "in", "the", "post-optimization", "step", ".", "It", "is", "possible", "that", "this", "mutation", "is", "even", "faster", "and", "more", "accurate", "then", "EvoSVM-H", ".", "This", "work", "was", "supported", "by", "the", "Deutsche", "Forschungsge-meinschaft", "-LRB-", "DFG", "-RRB-", "within", "the", "Collaborative", "Research", "Center", "``", "Reduction", "of", "Complexity", "for", "Multivariate", "Data", "Structures", "''", ".", "-LSB-", "1", "-RSB-", "H.-G", ".", "Beyer", "and", "H.-P", ".", "Schwefel", ".", "Evolution", "strategies", ":", "A", "comprehensive", "introduction", ".", "Journal", "Natural", "Computing", ",", "1", "-LRB-", "1", "-RRB-", ":", "2", "52", ",", "2002", ".", "-LSB-", "2", "-RSB-", "C.", "Burges", ".", "A", "tutorial", "on", "support", "vector", "machines", "for", "pattern", "recognition", ".", "Data", "Mining", "and", "Knowledge", "Discovery", ",", "2", "-LRB-", "2", "-RRB-", ":", "121", "167", ",", "1998", ".", "-LSB-", "3", "-RSB-", "G.", "Camps-Valls", ",", "J.", "Martin-Guerrero", ",", "J.", "Rojo-Alvarez", ",", "and", "E.", "Soria-Olivas", ".", "Fuzzy", "sigmoid", "kernel", "for", "support", "vector", "classifiers", ".", "Neurocomputing", ",", "62:501", "506", ",", "2004", ".", "-LSB-", "4", "-RSB-", "C.-C", ".", "Chang", "and", "C.-J", ".", "Lin", ".", "LIBSVM", ":", "a", "library", "for", "support", "vector", "machines", ",", "2001", ".", "-LSB-", "5", "-RSB-", "S.", "Fischer", ",", "R.", "Klinkenberg", ",", "I.", "Mierswa", ",", "and", "O.", "Ritthoff", ".", "Yale", ":", "Yet", "Another", "Learning", "Environment", "Tutorial", ".", "Technical", "Report", "CI-136", "/", "02", ",", "Collaborative", "Research", "Center", "531", ",", "University", "of", "Dortmund", ",", "Dortmund", ",", "Germany", ",", "2002", ".", "-LSB-", "6", "-RSB-", "F.", "Friedrichs", "and", "C.", "Igel", ".", "Evolutionary", "tuning", "of", "multiple", "svm", "parameters", ".", "In", "Proc", ".", "of", "the", "12th", "European", "Symposium", "on", "Artificial", "Neural", "Networks", "-LRB-", "ESANN", "2004", "-RRB-", ",", "pages", "519", "524", ",", "2004", ".", "-LSB-", "7", "-RSB-", "H.", "Fr", "phlich", ",", "O.", "Chapelle", ",", "and", "B.", "Sch", "olkopf", ".", "Feature", "selection", "for", "support", "vector", "machines", "using", "genetic", "algorithms", ".", "International", "Journal", "on", "Artificial", "Intelligence", "Tools", ",", "13", "-LRB-", "4", "-RRB-", ":", "791", "800", ",", "2004", ".", "-LSB-", "8", "-RSB-", "B.", "Haasdonk", ".", "Feature", "space", "interpretation", "of", "svms", "with", "indefinite", "kernels", ".", "IEEE", "Transactions", "on", "Pattern", "Analysis", "and", "Machine", "Intelligence", ",", "27", "-LRB-", "4", "-RRB-", ":", "482", "492", ",", "2005", ".", "-LSB-", "9", "-RSB-", "T.", "Hastie", ",", "R.", "Tibshirani", ",", "and", "J.", "Friedman", ".", "The", "Elements", "of", "Statistical", "Learning", ":", "Data", "Mining", ",", "Inference", ",", "and", "Prediction", ".", "Springer", "Series", "in", "Statistics", ".", "Springer", ",", "2001", ".", "-LSB-", "10", "-RSB-", "T.", "Howley", "and", "M.", "Madden", ".", "The", "genetic", "kernel", "support", "vector", "machine", ":", "Description", "and", "evaluation", ".", "Artificial", "Intelligence", "Review", ",", "2005", ".", "-LSB-", "11", "-RSB-", "W.", "James", "and", "C.", "Stein", ".", "Estimation", "with", "quadratic", "loss", ".", "In", "Proceedings", "of", "the", "Fourth", "Berkeley", "Symposium", "on", "Mathematics", ",", "Statistics", "and", "Probability", ",", "pages", "361", "380", ",", "1960", ".", "-LSB-", "12", "-RSB-", "T.", "Joachims", ".", "Making", "large-scale", "SVM", "learning", "practical", ".", "In", "B.", "Sch", "olkopf", ",", "C.", "Burges", ",", "and", "A.", "Smola", ",", "editors", ",", "Advances", "in", "Kernel", "Methods", "-", "Support", "Vector", "Learning", ",", "chapter", "11", ".", "MIT", "Press", ",", "Cambridge", ",", "MA", ",", "1999", ".", "-LSB-", "13", "-RSB-", "T.", "Joachims", ".", "A", "support", "vector", "method", "for", "multivariate", "performance", "measures", ".", "In", "Proc", ".", "of", "the", "International", "Conference", "on", "Machine", "Learning", "-LRB-", "ICML", "-RRB-", ",", "pages", "377", "384", ",", "2005", ".", "-LSB-", "14", "-RSB-", "J.", "Kennedy", "and", "R.", "C.", "Eberhart", ".", "Particle", "swarm", "optimization", ".", "In", "Proc", ".", "of", "the", "International", "Conference", "on", "Neural", "Networks", ",", "pages", "1942", "1948", ",", "1995", ".", "-LSB-", "15", "-RSB-", "H.-T", ".", "Lin", "and", "C.-J", ".", "Lin", ".", "A", "study", "on", "sigmoid", "kernels", "for", "svm", "and", "the", "training", "of", "non-psd", "kernels", "by", "smo-type", "methods", ",", "March", "2003", ".", "-LSB-", "16", "-RSB-", "D.", "Newman", ",", "S.", "Hettich", ",", "C.", "Blake", ",", "and", "C.", "Merz", ".", "UCI", "repository", "of", "machine", "learning", "databases", ",", "1998", ".", "http://www.ics.uci.edu/", "mlearn/MLRepository.html", ".", "-LSB-", "17", "-RSB-", "C.", "Ong", ",", "X.", "Mary", ",", "S.", "Canu", ",", "and", "A.", "J.", "Smola", ".", "Learning", "with", "non-positive", "kernels", ".", "In", "Proc", ".", "of", "the", "21st", "International", "Conference", "on", "Machine", "Learning", "-LRB-", "ICML", "-RRB-", ",", "pages", "639", "646", ",", "2004", ".", "-LSB-", "18", "-RSB-", "I.", "Rechenberg", ".", "Evolutionsstrategie", ":", "Optimierung", "technischer", "Systeme", "nach", "Prinzipien", "der", "biologischen", "Evolution", ".", "Frommann-Holzboog", ",", "1973", ".", "-LSB-", "19", "-RSB-", "T.", "Runarsson", "and", "S.", "Sigurdsson", ".", "Asynchronous", "parallel", "evolutionary", "model", "selection", "for", "support", "vector", "machines", ".", "Neural", "Information", "Processing", ",", "3", "-LRB-", "3", "-RRB-", ":", "59", "67", ",", "2004", ".", "-LSB-", "20", "-RSB-", "S.", "R", "uping", ".", "mySVM", "Manual", ".", "Universit", "at", "Dortmund", ",", "Lehrstuhl", "Informatik", "VIII", ",", "2000", ".", "http://www-ai", ".", "cs.uni-dortmund", ".", "de/SOFTWARE/MYSVM", "/", ".", "-LSB-", "21", "-RSB-", "B.", "Sch", "olkopf", "and", "A.", "J.", "Smola", ".", "Learning", "with", "Kernels", "Support", "Vector", "Machines", ",", "Regularization", ",", "Optimization", ",", "and", "Beyond", ".", "MIT", "Press", ",", "2002", ".", "-LSB-", "22", "-RSB-", "A.", "Smola", ",", "B.", "Sch", "olkopf", ",", "and", "K.-R", ".", "M", "uller", ".", "General", "cost", "functions", "for", "support", "vector", "regression", ".", "In", "Proceedings", "of", "the", "8th", "International", "Conference", "on", "Artificial", "Neural", "Networks", ",", "pages", "79", "83", ",", "1998", ".", "-LSB-", "23", "-RSB-", "A.", "J.", "Smola", ",", "Z.", "L.", "Ovari", ",", "and", "R.", "C.", "Williamson", ".", "Regularization", "with", "dot-product", "kernels", ".", "In", "Proc", ".", "of", "the", "Neural", "Information", "Processing", "Systems", "-LRB-", "NIPS", "-RRB-", ",", "pages", "308", "314", ",", "2000", ".", "-LSB-", "24", "-RSB-", "Statlib", "datasets", "archive", ".", "http://lib.stat.cmu.edu/datasets/", ".", "-LSB-", "25", "-RSB-", "T.", "Storch", ".", "On", "the", "impact", "of", "objective", "function", "transformations", "on", "evolutionary", "and", "black-box", "algorithms", ".", "In", "Proc", ".", "of", "the", "Genetic", "and", "Evolutionary", "Computation", "Conference", "-LRB-", "GECCO", "-RRB-", ",", "pages", "833", "840", ",", "2005", ".", "-LSB-", "26", "-RSB-", "B.", "Taskar", ",", "V.", "Chatalbashev", ",", "D.", "Koller", ",", "and", "C.", "Guestrin", ".", "Learning", "structured", "prediction", "models", ":", "A", "large", "margin", "approach", ".", "In", "Proc", ".", "of", "the", "International", "Conference", "on", "Machine", "Learning", "-LRB-", "ICML", "-RRB-", ",", "2005", ".", "-LSB-", "27", "-RSB-", "V.", "Vapnik", ".", "Statistical", "Learning", "Theory", ".", "Wiley", ",", "New", "York", ",", "1998", ".", "-LSB-", "28", "-RSB-", "V.", "Vapnik", "and", "A.", "Chervonenkis", ".", "The", "necessary", "and", "sufficient", "conditions", "for", "consistency", "in", "the", "empirical", "risk", "minimization", "method", ".", "Pattern", "Recognition", "and", "Image", "Analysis", ",", "1", "-LRB-", "3", "-RRB-", ":", "283", "305", ",", "1991", ".", "1560" ]

[ "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Formally", "Deriving", "an", "STG", "Machine", "Starting", "from", "P.", "Sestoft", "semantics", "for", "lazy", "evaluation", ",", "we", "define", "a", "new", "semantics", "in", "which", "normal", "forms", "consist", "of", "variables", "pointing", "to", "lambdas", "or", "constructions", ".", "This", "is", "in", "accordance", "with", "the", "more", "recent", "changes", "in", "the", "Spineless", "Tagless", "G-machine", "-LRB-", "STG", "-RRB-", "machine", ",", "where", "constructions", "only", "appear", "in", "closures", "-LRB-", "lambdas", "only", "appeared", "in", "closures", "already", "in", "previous", "versions", "-RRB-", ".", "We", "prove", "the", "equivalence", "between", "the", "new", "semantics", "and", "Sestoft", "'s", ".", "Then", ",", "a", "sequence", "of", "STG", "machines", "are", "derived", ",", "formally", "proving", "the", "correctness", "of", "each", "derivation", ".", "The", "last", "machine", "consists", "of", "a", "few", "imperative", "instructions", "and", "its", "distance", "to", "a", "conventional", "language", "is", "minimal", ".", "The", "paper", "also", "discusses", "the", "differences", "between", "the", "final", "machine", "and", "the", "actual", "STG", "machine", "implemented", "in", "the", "Glasgow", "Haskell", "Compiler", ".", "D.", "3.1", "-LSB-", "Programming", "Languages", "-RSB-", ":", "Formal", "Definitions", "and", "Theory", "--", "semantics", ",", "syntax", ";", "D.", "3.2", "-LSB-", "Programming", "Languages", "-RSB-", ":", "Language", "Classifications", "--", "applicative", "-LRB-", "functional", "-RRB-", "languages", ";", "D.", "3.4", "-LSB-", "Programming", "Languages", "-RSB-", ":", "Processors-code", "generation", ",", "compilers", ";", "F.", "3.2", "-LSB-", "Logics", "and", "meanings", "of", "programs", "-RSB-", ":", "Semantics", "of", "Programming", "Languages", "--", "operational", "semantics", "Theory", ",", "Languages", ",", "Verification", "Work", "partially", "supported", "by", "the", "Spanish", "project", "TIC", "2000-0738", ".", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "PPDP", "'", "03", ",", "August", "27", "29", ",", "2003", ",", "Uppsala", ",", "Sweden", ".", "Copyright", "2003", "ACM", "1-58113-705-2", "/", "03/0008", "...", "$", "5.00", ".", "The", "Spineless", "Tagless", "G-machine", "-LRB-", "STG", "-RRB-", "-LSB-", "6", "-RSB-", "is", "at", "the", "heart", "of", "the", "Glasgow", "Haskell", "Compiler", "-LRB-", "GHC", "-RRB-", "-LSB-", "7", "-RSB-", "which", "is", "perhaps", "the", "Haskell", "compiler", "generating", "the", "most", "efficient", "code", ".", "For", "a", "description", "of", "Haskell", "language", "see", "-LSB-", "8", "-RSB-", ".", "Part", "of", "the", "secret", "for", "that", "is", "the", "set", "of", "analysis", "and", "transformations", "carried", "out", "at", "the", "intermediate", "representation", "level", ".", "Another", "part", "of", "the", "explanation", "is", "the", "efficient", "design", "and", "implementation", "of", "the", "STG", "machine", ".", "A", "high", "level", "description", "of", "the", "STG", "can", "be", "found", "in", "-LSB-", "6", "-RSB-", ".", "If", "the", "reader", "is", "interested", "in", "a", "more", "detailed", "view", ",", "then", "the", "only", "available", "information", "is", "the", "Haskell", "code", "of", "GHC", "-LRB-", "about", "80.000", "lines", ",", "12.000", "of", "which", "are", "devoted", "to", "the", "implementation", "of", "the", "STG", "machine", "-RRB-", "and", "the", "C", "code", "of", "its", "different", "runtime", "systems", "-LRB-", "more", "than", "40.000", "lines", "-RRB-", "-LSB-", "1", "-RSB-", ".", "In", "this", "paper", "we", "provide", "a", "step-by-step", "derivation", "of", "the", "STG", "machine", ",", "starting", "from", "a", "description", "higher-level", "than", "that", "of", "-LSB-", "6", "-RSB-", "and", "arriving", "at", "a", "description", "lower-level", "than", "that", ".", "Our", "starting", "point", "is", "a", "commonly", "accepted", "operational", "semantics", "for", "lazy", "evaluation", "provided", "by", "Peter", "Sestoft", "in", "-LSB-", "10", "-RSB-", "as", "an", "improvement", "of", "John", "Launchbury", "'s", "well-known", "definition", "in", "-LSB-", "4", "-RSB-", ".", "Then", ",", "we", "present", "the", "following", "refinements", ":", "1", ".", "A", "new", "operational", "semantics", ",", "which", "we", "call", "semantics", "S3", "--", "acknowledging", "that", "semantics", "1", "and", "2", "were", "defined", "by", "Mountjoy", "in", "a", "previous", "attempt", "-LSB-", "5", "-RSB-", "--", ",", "where", "normal", "forms", "may", "appear", "only", "in", "bindings", ".", "2", ".", "A", "first", "machine", ",", "called", "STG-1", ",", "derived", "from", "S3", "in", "which", "explicit", "replacement", "of", "pointers", "for", "variables", "is", "done", "in", "expressions", ".", "3", ".", "A", "second", "machine", "STG-2", "introducing", "environments", "in", "closures", ",", "case", "alternatives", ",", "and", "in", "the", "control", "expression", ".", "4", ".", "A", "third", "machine", ",", "called", "ISTG", "-LRB-", "I", "stands", "for", "imperative", "-RRB-", "with", "a", "very", "small", "set", "of", "elementary", "instructions", ",", "each", "one", "very", "easy", "to", "be", "implemented", "in", "a", "conventional", "language", "such", "as", "C.", "5", ".", "A", "translation", "from", "the", "language", "of", "STG-2", "to", "the", "language", "of", "ISTG", "in", "which", "the", "data", "structures", "of", "STG-2", "are", "represented", "-LRB-", "or", "implemented", "-RRB-", "by", "the", "ISTG", "data", "structures", ".", "102", "e", "x", "--", "variable", "|", "x.e", "--", "lambda", "abstraction", "|", "e", "x", "--", "application", "|", "letrec", "x", "i", "=", "e", "i", "in", "e", "--", "recursive", "let", "|", "C", "x", "i", "--", "constructor", "application", "|", "case", "e", "of", "C", "i", "x", "ij", "e", "i", "--", "case", "expression", "Figure", "1", ":", "Launchbury", "'s", "normalized", "-", "calculus", "At", "each", "refinement", ",", "a", "formal", "proof", "of", "the", "soundness", "and", "completeness", "of", "the", "lower", "level", "with", "respect", "to", "the", "upper", "one", "is", "carried", "out", "1", ".", "In", "the", "end", ",", "the", "final", "implementation", "is", "shown", "correct", "with", "respect", "to", "Sestoft", "'s", "operational", "semantics", ".", "The", "main", "contribution", "of", "the", "work", "is", "showing", "that", "an", "efficient", "machine", "such", "as", "STG", "can", "be", "presented", ",", "understood", ",", "and", "formally", "reasoned", "about", "at", "different", "levels", "of", "abstraction", ".", "Also", ",", "there", "are", "some", "differences", "between", "the", "machine", "we", "arrive", "at", "and", "the", "actual", "STG", "machine", "implemented", "in", "the", "Glasgow", "Haskell", "Compiler", ".", "We", "argue", "that", "some", "design", "decisions", "in", "the", "actual", "STG", "machine", "are", "not", "properly", "justified", ".", "The", "plan", "of", "the", "paper", "is", "as", "follows", ":", "after", "this", "introduction", ",", "in", "Section", "2", ",", "a", "new", "language", "called", "FUN", "is", "introduced", "and", "the", "semantics", "S3", "for", "this", "language", "is", "defined", ".", "Two", "theorems", "relating", "Launchbury", "'s", "original", "language", "and", "semantics", "to", "the", "new", "ones", "are", "presented", ".", "Section", "3", "defines", "the", "two", "machines", "STG-1", "and", "STG-2", ".", "Some", "propositions", "show", "the", "consistency", "between", "both", "machines", "and", "the", "correctness", "and", "completeness", "of", "STG-1", "with", "respect", "to", "S3", ",", "eventhough", "the", "latter", "creates", "more", "closures", "in", "the", "heap", "and", "produces", "different", "-LRB-", "but", "equivalent", "-RRB-", "normal", "forms", ".", "Section", "4", "defines", "machine", "ISTG", "and", "Section", "5", "defines", "the", "translation", "from", "STG-2", "expressions", "to", "ISTG", "instructions", ".", "Two", "invariants", "are", "proved", "which", "show", "the", "correctness", "of", "the", "translation", ".", "Section", "6", "discusses", "the", "differences", "between", "our", "translation", "and", "the", "actual", "implementation", "done", "by", "GHC", ".", "Finally", ",", "Section", "7", "concludes", ".", "We", "begin", "by", "reviewing", "the", "language", "and", "semantics", "given", "by", "Sestoft", "as", "an", "improvement", "to", "Launchbury", "'s", "semantics", ".", "Both", "share", "the", "language", "given", "in", "Figure", "1", "where", "A", "i", "denotes", "a", "vector", "A", "1", ",", "...", ",", "A", "n", "of", "subscripted", "entities", ".", "It", "is", "a", "normalized", "-", "calculus", ",", "extended", "with", "recursive", "let", ",", "constructor", "applications", "and", "case", "expressions", ".", "Sestoft", "'s", "normalization", "process", "forces", "constructor", "applications", "to", "be", "saturated", "and", "all", "applications", "to", "only", "have", "variables", "as", "arguments", ".", "Weak", "head", "normal", "forms", "are", "either", "lambda", "abstractions", "or", "constructions", ".", "Throughout", "this", "section", ",", "w", "will", "denote", "-LRB-", "weak", "head", "-RRB-", "normal", "forms", ".", "Sestoft", "'s", "semantic", "rules", "are", "given", "in", "Figure", "2", ".", "There", ",", "a", "judgement", ":", "e", "A", ":", "w", "denotes", "that", "expression", "e", ",", "with", "its", "free", "variables", "bound", "in", "heap", ",", "reduces", "to", "normal", "form", "w", "and", "produces", "the", "final", "heap", ".", "When", "fresh", "pointers", "are", "created", ",", "freshness", "is", "understood", "w.r.t.", "-LRB-", "dom", "-RRB-", "A", ",", "where", "A", "contains", "the", "addresses", "of", "the", "closures", "under", "evaluation", "1", "The", "details", "of", "the", "proofs", "can", "be", "found", "in", "a", "technical", "report", "at", "one", "of", "the", "author", "'s", "page", "http://dalila.sip.ucm.es/~albertoe", ".", ":", "x.e", "A", ":", "x.e", "Lam", ":", "C", "p", "i", "A", ":", "C", "p", "i", "Cons", ":", "e", "A", ":", "x.e", ":", "e", "-LSB-", "p/x", "-RSB-", "A", ":", "w", ":", "e", "p", "A", ":", "w", "App", ":", "e", "A", "-LCB-", "p", "-RCB-", ":", "w", "-LSB-", "p", "e", "-RSB-", ":", "p", "A", "-LSB-", "p", "w", "-RSB-", ":", "w", "Var", "-LSB-", "p", "i", "^", "e", "i", "-RSB-", ":", "^", "e", "A", ":", "w", ":", "letrec", "x", "i", "=", "e", "i", "in", "e", "A", ":", "w", "where", "p", "i", "fresh", "Letrec", ":", "e", "A", ":", "C", "k", "p", "j", ":", "e", "k", "-LSB-", "p", "j", "/", "x", "kj", "-RSB-", "A", ":", "w", ":", "case", "e", "of", "C", "i", "x", "ij", "e", "i", "A", ":", "w", "Case", "Figure", "2", ":", "Sestoft", "'s", "natural", "semantics", "-LRB-", "see", "rule", "Var", "-RRB-", ".", "The", "notation", "^", "e", "in", "rule", "Letrec", "means", "the", "replacement", "of", "the", "variables", "x", "i", "by", "the", "fresh", "pointers", "p", "i", ".", "This", "is", "the", "only", "rule", "where", "new", "closures", "are", "created", "and", "added", "to", "the", "heap", ".", "We", "use", "the", "term", "pointers", "to", "refer", "to", "dynam-ically", "created", "free", "variables", ",", "bounded", "to", "expressions", "in", "the", "heap", ",", "and", "the", "term", "variables", "to", "refer", "to", "-LRB-", "lambda-bound", ",", "let-bound", "or", "case-bound", "-RRB-", "program", "variables", ".", "We", "consistently", "use", "p", ",", "p", "i", ",", "...", "to", "denote", "free", "variables", "and", "x", ",", "y", ",", "...", "to", "denote", "program", "variables", ".", "J.", "Mountjoy", "'s", "-LSB-", "5", "-RSB-", "had", "the", "idea", "of", "changing", "Launchbury-Sestoft", "'s", "language", "and", "semantics", "in", "order", "to", "get", "closer", "to", "the", "STG", "language", ",", "and", "then", "to", "derive", "the", "STG", "machine", "from", "the", "new", "semantics", ".", "He", "developed", "two", "different", "semantics", ":", "In", "the", "first", "one", ",", "which", "we", "call", "semantics", "S1", ",", "the", "main", "change", "was", "that", "normal", "forms", "were", "either", "constructions", "-LRB-", "as", "they", "were", "in", "Sestoft", "'s", "semantics", "-RRB-", "or", "variables", "pointing", "to", "closures", "containing", "-", "abstractions", ",", "instead", "of", "just", "-", "abstractions", ".", "The", "reason", "for", "this", "was", "to", "forbid", "a", "-", "abstraction", "in", "the", "control", "expression", "as", "it", "happens", "in", "the", "STG", "machine", ".", "Another", "change", "was", "to", "force", "applications", "to", "have", "the", "form", "x", "x", "1", ",", "i.e.", "consisting", "of", "a", "variable", "in", "the", "functional", "part", ".", "This", "is", "also", "what", "the", "STG", "language", "requires", ".", "These", "changes", "forced", "Mountjoy", "to", "modify", "the", "source", "language", "and", "to", "define", "a", "normalization", "from", "Launchbury", "'s", "language", "to", "the", "new", "one", ".", "Mountjoy", "proved", "that", "the", "normalization", "did", "not", "change", "the", "normal", "forms", "arrived", "at", "by", "both", "semantics", ".", "The", "second", "semantics", ",", "which", "we", "call", "semantics", "S2", ",", "forced", "applications", "to", "be", "done", "at", "once", "to", "n", "arguments", "instead", "of", "doing", "it", "one", "by", "one", ".", "Correspondingly", ",", "-", "abstractions", "were", "allowed", "to", "have", "several", "arguments", ".", "This", "is", "exactly", "what", "the", "STG", "machine", "requires", ".", "Semantics", "S2", "was", "informally", "derived", "and", "contained", "some", "mistakes", ".", "In", "particular", ",", "-LRB-", "cf.", "-LSB-", "5", ",", "pag", ".", "171", "-RSB-", "-RRB-", "rule", "App", "M", "makes", "a", "-", "abstraction", "to", "appear", "in", "the", "control", "expression", ",", "in", "contradiction", "with", "the", "desire", "of", "having", "-", "abstractions", "only", "in", "the", "heap", ".", "Completing", "and", "correcting", "Mountjoy", "'s", "work", "we", "have", "defined", "a", "new", "semantics", "S3", "in", "which", "the", "main", "changes", "in", "the", "source", "language", "w.r.t.", "Mountjoy", "'s", "are", "the", "following", ":", "1", ".", "We", "force", "constructor", "applications", "to", "appear", "only", "in", "bindings", ",", "i.e.", "in", "heap", "closures", ".", "Correspondingly", ",", "normal", "forms", "are", "variables", "pointing", "to", "either", "-", "abstractions", "or", "constructions", ".", "We", "will", "use", "the", "term", "lambda", "forms", "to", "refer", "to", "-", "abstractions", "or", "constructions", "alike", ".", "The", "motivation", "for", "this", "decision", "is", "to", "generate", "more", "efficient", "code", "as", "it", "will", "be", "seen", "in", "Section", "5.1", ".", "103", "e", "e", "x", "in", "--", "n", ">", "0", ",", "application", "|", "x", "--", "variable", "|", "letrec", "x", "i", "=", "lf", "i", "in", "e", "--", "recursive", "let", "|", "case", "e", "of", "alt", "i", "--", "case", "expression", "alt", "C", "x", "j", "e", "--", "case", "alternative", "lf", "x", "in", ".", "e", "--", "n", ">", "0", ",", "lambda", "abstraction", "|", "C", "x", "in", "--", "constructor", "application", "|", "e", "--", "expression", "Figure", "3", ":", "Language", "FUN", "2", ".", "We", "relax", "applications", "to", "have", "the", "form", "e", "x", "in", ",", "where", "e", "is", "an", "arbitrary", "expression", "-LRB-", "excluding", ",", "of", "course", ",", "lambda", "forms", "-RRB-", ".", "The", "initial", "motivation", "for", "this", "was", "not", "to", "introduce", "unjustified", "restrictions", ".", "In", "the", "conclusions", "we", "discuss", "that", "the", "generated", "code", "is", "also", "more", "efficient", "than", "the", "one", "produced", "by", "restricting", "applications", "to", "be", "of", "the", "form", "x", "x", "in", ".", "Additionally", ",", "our", "starting", "point", "is", "Sestoft", "'s", "semantics", "instead", "of", "Launchbury", "'s", ".", "The", "main", "difference", "is", "that", "Sestoft", "substitutes", "fresh", "pointers", "for", "program", "variables", "in", "rule", "Letrec", "while", "Launchbury", "substitutes", "fresh", "variables", "for", "all", "bound", "variables", "in", "rule", "Var", "instead", ".", "The", "syntax", "of", "the", "language", ",", "called", "FUN", ",", "is", "shown", "in", "Figure", "3", ".", "Notice", "that", "applications", "are", "done", "to", "n", "arguments", "at", "once", ",", "being", "e", "x", "in", "an", "abbreviation", "of", "-LRB-", "...", "-LRB-", "e", "x", "1", "-RRB-", "...", "-RRB-", "x", "n", ",", "and", "that", "consequently", "-", "abstractions", "may", "have", "several", "arguments", ".", "Its", "operational", "semantics", ",", "called", "S3", "is", "given", "in", "Figure", "4", ".", "For", "simplicity", ",", "we", "have", "eliminated", "the", "set", "A", "of", "pending", "updates", "appearing", "in", "Sestoft", "'s", "semantics", ".", "This", "set", "is", "not", "strictly", "needed", "provided", "that", "the", "fresh", "name", "generator", "for", "pointers", "does", "not", "repeat", "previously", "generated", "names", "and", "provided", "that", "pointer", "'s", "names", "are", "always", "distinguish-able", "from", "program", "variables", ".", "In", "rule", "Case", "S3", ",", "expression", "e", "k", "is", "the", "righthand", "side", "expression", "of", "the", "alternative", "alt", "k", ".", "The", "notation", "-LSB-", "p", "e", "-RSB-", "highlights", "the", "fact", "that", "-LRB-", "p", "e", "-RRB-", ",", "and", "-LSB-", "p", "e", "-RSB-", "means", "the", "disjoint", "union", "of", "and", "-LRB-", "p", "e", "-RRB-", ".", "Please", "notice", "that", "this", "notation", "may", "not", "coincide", "with", "other", "notations", "in", "which", "and", "-LSB-", "p", "e", "-RSB-", "denote", "different", "heaps", ".", "Finally", "notice", "that", ",", "besides", "rule", "Letrec", "S3", ",", "also", "rule", "App", "S3", "creates", "closures", "in", "the", "heap", ".", "Language", "FUN", "is", "at", "least", "as", "expressive", "as", "Launchbury", "'s", "-", "calculus", ".", "The", "following", "normalization", "function", "transforms", "any", "Launchbury", "'s", "expression", "into", "a", "semantically", "equivalent", "FUN", "expression", ".", "Definition", "1", ".", "We", "define", "the", "normalization", "function", "N", ":", "Launch", "FUN", ":", "N", "x", "def", "=", "x", "N", "-LRB-", "e", "x", "-RRB-", "def", "=", "-LRB-", "N", "e", "-RRB-", "x", "N", "-LRB-", "x.e", "-RRB-", "def", "=", "letrec", "y", "=", "N", "-LRB-", "x.e", "-RRB-", "in", "y", ",", "y", "fresh", "N", "-LRB-", "C", "x", "i", "-RRB-", "def", "=", "letrec", "y", "=", "C", "x", "i", "in", "y", ",", "y", "fresh", "N", "-LRB-", "letrec", "x", "i", "=", "e", "in", "in", "e", "-RRB-", "def", "=", "letrec", "x", "i", "=", "N", "e", "i", "n", "in", "N", "e", "N", "-LRB-", "case", "e", "of", "C", "i", "y", "ij", "e", "i", "-RRB-", "def", "=", "case", "N", "e", "of", "C", "i", "y", "ij", "N", "e", "i", "N", ",", "N", ":", "Launch", "FUN", ":", "N", "-LRB-", "C", "x", "in", "-RRB-", "def", "=", "C", "x", "in", "N", "e", "def", "=", "N", "e", ",", "e", "=", "C", "x", "in", "N", "-LRB-", "x.e", "-RRB-", "def", "=", "x.N", "e", "N", "e", "def", "=", "N", "e", ",", "e", "=", "x.e", "The", "following", "proposition", "prove", "that", "the", "normalization", "functions", "are", "well", "defined", ".", "Proposition", "1", ".", "1", ".", "Let", "e", "Launch", "then", "N", "e", "FUN", "2", ".", "Let", "e", "lf", "then", "N", "e", "lf", "3", ".", "Let", "e", "=", "x.e", "and", "e", "=", "C", "x", "i", "then", ",", "N", "e", "=", "N", "e", "4", ".", "-LRB-", "N", "e", "-RRB-", "-LSB-", "p", "i", "/", "x", "i", "-RSB-", "=", "N", "-LRB-", "e", "-LSB-", "p", "i", "/", "x", "i", "-RSB-", "-RRB-", "5", ".", "-LRB-", "N", "e", "-RRB-", "-LSB-", "p", "i", "/", "x", "i", "-RSB-", "=", "N", "-LRB-", "e", "-LSB-", "p", "i", "/", "x", "i", "-RSB-", "-RRB-", "Proof", ".", "1", ".", "By", "structural", "induction", "on", "e.", "2", ".", "Trivial", ".", "3", ".", "Trivial", ".", "4", ".", "By", "definition", "of", "N", "and", "of", "substitutions", ".", "5", ".", "By", "definition", "of", "N", "and", "of", "substitutions", ".", "To", "see", "that", "both", "semantics", "reduce", "an", "expression", "to", "equivalent", "normal", "forms", ",", "first", "we", "prove", "that", "the", "normalization", "does", "not", "change", "the", "meaning", "of", "an", "expression", "within", "Sestoft", "'s", "semantics", ".", "Then", ",", "we", "prove", "that", "both", "semantics", "reduce", "any", "FUN", "expression", "to", "equivalent", "normal", "forms", ",", "provided", "that", "such", "normal", "forms", "exist", ".", "2.1", "Soundness", "and", "completeness", "The", "following", "two", "propositions", "prove", "that", "the", "normalization", "does", "not", "change", "the", "meaning", "of", "an", "expression", ".", "We", "use", "the", "following", "notation", ":", "denotes", "a", "one-to-one", "renaming", "of", "pointers", ",", "and", "means", "that", ".", "This", "is", "needed", "to", "express", "the", "equivalence", "between", "the", "heaps", "of", "both", "semantics", "up", "to", "some", "renaming", ".", "As", "S3", "generates", "more", "closures", "than", "Sestoft", "'s", ",", "it", "is", "not", "possible", "to", "guarantee", "that", "the", "fresh", "pointers", "are", "exactly", "the", "same", "in", "the", "two", "heaps", ".", "Proposition", "2", ".", "-LRB-", "Sestoft", "Sestoft", "-RRB-", "For", "all", "e", "Launch", "we", "have", ":", "-LCB-", "-RCB-", ":", "e", ":", "w", "-LCB-", "-RCB-", ":", "N", "e", ":", "w", ".", "w", "=", "N", "-LRB-", "w", "-RRB-", "N", "Proof", ".", "By", "induction", "on", "the", "number", "of", "reductions", "of", "Launchbury", "expressions", ".", "Proposition", "3", ".", "-LRB-", "Sestoft", "Sestoft", "-RRB-", "For", "all", "e", "FUN", "we", "have", ":", "-LCB-", "-RCB-", ":", "e", ":", "w", "e", "Launch", ".", "N", "e", "=", "e", "-LCB-", "-RCB-", ":", "e", ":", "w", ".", "N", "-LRB-", "w", "-RRB-", "=", "w", "N", "104", "-LSB-", "p", "x", "in", ".", "e", "-RSB-", ":", "p", ":", "p", "Lam", "S3", "-LSB-", "p", "C", "p", "i", "-RSB-", ":", "p", ":", "p", "Cons", "S3", ":", "e", "-LSB-", "p", "x", "in", ".", "y", "im", ".", "e", "-RSB-", ":", "p", ":", "e", "p", "in", "-LSB-", "q", "y", "im", ".", "e", "-LSB-", "p", "i", "/", "x", "i", "n", "-RSB-", "-RSB-", ":", "q", "m", ",", "n", ">", "0", ",", "q", "fresh", "App", "S3", ":", "e", "-LSB-", "p", "x", "im", ".", "e", "-RSB-", ":", "p", ":", "e", "-LSB-", "p", "i", "/", "x", "i", "m", "-RSB-", "p", "m", "+1", "...", "p", "n", "-LSB-", "q", "w", "-RSB-", ":", "q", ":", "e", "p", "in", ":", "q", "n", "m", "App", "S3", ":", "e", "-LSB-", "q", "w", "-RSB-", ":", "q", "-LSB-", "p", "e", "-RSB-", ":", "p", "-LSB-", "p", "w", "-RSB-", ":", "q", "Var", "S3", "-LSB-", "p", "i", "^", "lf", "i", "-RSB-", ":", "^", "e", "-LSB-", "p", "w", "-RSB-", ":", "p", ":", "letrec", "x", "i", "=", "lf", "i", "in", "e", ":", "p", "p", "i", "fresh", "Letrec", "S3", ":", "e", "-LSB-", "p", "C", "k", "p", "j", "-RSB-", ":", "p", ":", "e", "k", "-LSB-", "p", "j", "/", "y", "kj", "-RSB-", "-LSB-", "q", "w", "-RSB-", ":", "q", ":", "case", "e", "of", "C", "i", "y", "ij", "e", "i", ":", "q", "Case", "S3", "Figure", "4", ":", "Semantics", "S3", "Proof", ".", "By", "induction", "on", "the", "number", "of", "reductions", "of", "Launchbury", "expressions", ".", "Now", "we", "prove", "the", "equivalence", "between", "the", "two", "semantics", ".", "We", "consider", "only", "FUN", "expressions", "because", "it", "has", "been", "proved", "that", "the", "normalization", "does", "not", "change", "the", "meaning", "of", "an", "expression", ".", "Proposition", "4", ".", "-LRB-", "Sestoft", "S3", ",", "completeness", "of", "S3", "-RRB-", "For", "all", "e", "FUN", "we", "have", ":", "-LCB-", "-RCB-", ":", "e", ":", "w", "-LCB-", "-RCB-", ":", "e", "-LSB-", "p", "w", "-RSB-", ":", "p", ".", "w", "=", "w", "Proof", ".", "By", "induction", "on", "the", "number", "of", "reductions", "of", "FUN", "expressions", ".", "Proposition", "5", ".", "-LRB-", "S3", "Sestoft", ",", "soundness", "of", "S3", "-RRB-", "For", "all", "e", "FUN", "we", "have", ":", "-LCB-", "-RCB-", ":", "e", "-LSB-", "p", "w", "-RSB-", ":", "p", "-LCB-", "-RCB-", ":", "e", ":", "w", ".", "w", "=", "w", "Proof", ".", "By", "induction", "on", "the", "number", "of", "reductions", "of", "FUN", "expressions", ".", "Once", "adapted", "the", "source", "language", "to", "the", "STG", "language", ",", "we", "are", "ready", "to", "derive", "an", "STG-like", "machine", "from", "semantics", "S3", ".", "Following", "a", "similar", "approach", "to", "Sestoft", "MARK-1", "machine", "-LSB-", "10", "-RSB-", ",", "we", "first", "introduce", "a", "very", "simple", "STG", "machine", ",", "which", "we", "will", "call", "STG-1", ",", "in", "which", "explicit", "variable", "substitutions", "are", "done", ".", "A", "configuration", "in", "this", "machine", "is", "a", "triple", "-LRB-", ",", "e", ",", "S", "-RRB-", "where", "represents", "the", "heap", ",", "e", "is", "the", "control", "expression", "and", "S", "is", "the", "stack", ".", "The", "heap", "binds", "pointers", "to", "lambda", "forms", "which", ",", "in", "turn", ",", "may", "reference", "other", "pointers", ".", "The", "stack", "stores", "three", "kinds", "of", "objects", ":", "arguments", "p", "i", "of", "pending", "applications", ",", "case", "alternatives", "alts", "of", "pending", "pattern", "matchings", ",", "and", "marks", "#", "p", "of", "pending", "updates", ".", "In", "Figure", "5", ",", "the", "transitions", "of", "the", "machine", "are", "shown", ".", "They", "look", "very", "close", "to", "the", "lazy", "semantics", "S3", "presented", "in", "Section", "2", ".", "For", "instance", ",", "the", "single", "rule", "for", "letrec", "in", "Figure", "5", "is", "a", "literal", "transcription", "of", "the", "Letrec", "S3", "rule", "of", "Figure", "4", ".", "The", "semantic", "rules", "for", "case", "and", "applications", "are", "split", "each", "one", "into", "two", "rules", "in", "the", "machine", ".", "The", "semantic", "rule", "for", "variable", "is", "also", "split", "into", "two", "in", "order", "to", "take", "care", "of", "updating", "the", "closure", ".", "So", ",", "in", "principle", ",", "an", "execution", "of", "the", "STG-1", "machine", "could", "be", "regarded", "as", "the", "linearization", "of", "the", "semantic", "derivation", "tree", "by", "introducing", "an", "auxiliary", "stack", ".", "But", "sometimes", "appearances", "are", "misleading", ".", "The", "theorem", "below", "shows", "that", "in", "fact", "STG-1", "builds", "less", "closures", "in", "the", "heap", "than", "the", "semantics", "and", "it", "may", "arrive", "to", "different", "-LRB-", "but", "semantically", "equivalent", "-RRB-", "normal", "forms", ".", "In", "order", "to", "prove", "the", "soundness", "and", "completeness", "of", "STG-1", ",", "we", "first", "enrich", "the", "semantics", "with", "a", "stack", "parameter", "S", "in", "the", "rules", ".", "The", "new", "rules", "for", "S", "-LRB-", "only", "those", "which", "modify", "S", "-RRB-", "are", "shown", "in", "Figure", "6", ".", "It", "is", "trivial", "to", "show", "that", "the", "rules", "are", "equivalent", "to", "the", "ones", "in", "Figure", "4", "as", "the", "stack", "is", "just", "an", "observation", "of", "the", "derivations", ".", "It", "may", "not", "influence", "them", ".", "The", "following", "theorem", "establishes", "the", "correspondence", "between", "the", "-LRB-", "enriched", "-RRB-", "semantics", "and", "the", "machine", ".", "Proposition", "6", ".", "Given", ",", "e", "and", "S", ",", "then", ":", "e", "S", "-LSB-", "p", "w", "-RSB-", ":", "p", "iff", "-LRB-", ",", "e", ",", "S", "-RRB-", "-LRB-", ",", "p", ",", "S", "-RRB-", ",", "where", "1", ".", "2", ".", "if", "-LSB-", "p", "C", "p", "in", "-RSB-", "then", "S", "=", "S", ",", "p", "=", "p", "and", "-LSB-", "p", "C", "p", "in", "-RSB-", "3", ".", "if", "-LSB-", "p", "x", "in", ".", "e", "-RSB-", "then", "there", "exists", "m", "0", "s.t.", "-LSB-", "p", "y", "im", ".", "x", "in", ".", "e", "-RSB-", "and", "S", "=", "q", "im", ":", "S", "and", "e", "=", "e", "-LSB-", "q", "i", "/", "y", "i", "m", "-RSB-", "105", "Heap", "Control", "Stack", "rule", "letrec", "-LCB-", "x", "i", "=", "lf", "i", "-RCB-", "in", "e", "S", "letrec", "-LRB-", "1", "-RRB-", "=", "-LSB-", "p", "i", "lf", "i", "-LSB-", "p", "j", "/", "x", "j", "-RSB-", "-RSB-", "e", "-LSB-", "p", "i", "/", "x", "i", "-RSB-", "S", "case", "e", "of", "alts", "S", "case1", "=", "e", "alts", ":", "S", "-LSB-", "p", "C", "k", "p", "i", "-RSB-", "p", "C", "j", "y", "ji", "e", "j", ":", "S", "case2", "=", "e", "k", "-LSB-", "p", "i", "/", "y", "ki", "-RSB-", "S", "e", "p", "in", "S", "app1", "=", "e", "p", "in", ":", "S", "-LSB-", "p", "x", "in", ".", "e", "-RSB-", "p", "p", "in", ":", "S", "app2", "=", "e", "-LSB-", "p", "i", "/", "x", "i", "n", "-RSB-", "S", "-LSB-", "p", "e", "-RSB-", "p", "S", "var1", "=", "e", "#", "p", ":", "S", "-LSB-", "p", "x", "ik", ".", "y", "im", ".", "e", "-RSB-", "p", "p", "ik", ":", "#", "q", ":", "S", "var2", "=", "-LSB-", "q", "p", "p", "ik", "-RSB-", "p", "p", "ik", ":", "S", "-LSB-", "p", "C", "k", "p", "i", "-RSB-", "p", "#", "q", ":", "S", "var3", "=", "-LSB-", "q", "C", "k", "p", "i", "-RSB-", "p", "S", "-LRB-", "1", "-RRB-", "p", "i", "are", "distinct", "and", "fresh", "w.r.t.", ",", "letrec", "-LCB-", "x", "i", "=", "lf", "i", "-RCB-", "in", "e", ",", "and", "S", "Figure", "5", ":", "The", "STG-1", "Machine", "Proof", ".", "By", "induction", "on", "the", "number", "of", "reductions", "of", "FUN", "expressions", ".", "The", "proposition", "shows", "that", "the", "semantic", "rule", "App", "S3", "of", "Figure", "4", "is", "not", "literally", "transcribed", "in", "the", "machine", ".", "The", "machine", "does", "not", "create", "intermediate", "lambdas", "in", "the", "heap", "unless", "an", "update", "is", "needed", ".", "Rule", "app2", "in", "Figure", "5", "applies", "a", "lambda", "always", "to", "all", "its", "arguments", "provided", "that", "they", "are", "in", "the", "stack", ".", "For", "this", "reason", ",", "a", "lambda", "with", "more", "parameters", "than", "that", "of", "the", "semantics", "may", "be", "arrived", "at", "as", "normal", "form", "of", "a", "functional", "expression", ".", "Also", "for", "this", "reason", ",", "an", "update", "mark", "may", "be", "interspersed", "with", "arguments", "in", "the", "stack", "when", "a", "lambda", "is", "reached", "-LRB-", "see", "rule", "var2", "in", "Figure", "5", "-RRB-", ".", "A", "final", "implication", "is", "that", "the", "machine", "may", "stop", "with", "m", "pending", "arguments", "in", "the", "stack", "and", "a", "variable", "in", "the", "control", "expression", "pointing", "to", "a", "lambda", "with", "n", ">", "m", "parameters", ".", "The", "semantics", "always", "ends", "a", "derivation", "with", "a", "variable", "as", "normal", "form", "and", "an", "empty", "stack", ".", "Again", ",", "following", "Sestoft", "and", "his", "MARK-2", "machine", ",", "once", "we", "have", "proved", "the", "soundness", "and", "completeness", "of", "STG-1", ",", "we", "introduce", "STG-2", "having", "environments", "instead", "of", "explicit", "variable", "substitutions", ".", "Also", ",", "we", "add", "trimmers", "to", "this", "machine", "so", "that", "environments", "kept", "in", "closures", "and", "in", "case", "alternatives", "only", "reference", "the", "free", "variables", "of", "the", "expression", "instead", "of", "all", "variables", "in", "scope", ".", "A", "configuration", "of", "STG-2", "is", "a", "quadruple", "-LRB-", ",", "e", ",", "E", ",", "S", "-RRB-", "where", "E", "is", "the", "environment", "of", "e", ",", "the", "alternatives", "are", "pairs", "-LRB-", "alts", ",", "E", "-RRB-", ",", "and", "a", "closure", "is", "a", "pair", "-LRB-", "lf", ",", "E", "-RRB-", ".", "Now", "expressions", "and", "lambda", "forms", "keep", "their", "original", "variables", "and", "the", "associated", "environment", "maps", "them", "to", "pointers", "in", "the", "heap", ".", "The", "notation", "E", "|", "t", "means", "the", "trimming", "of", "environment", "E", "to", "the", "trimmer", "t", ".", "A", "trimmer", "is", "just", "a", "collection", "of", "variable", "names", ".", "The", "resulting", "machine", "is", "shown", "in", "Figure", "7", ".", "Proposition", "7", ".", "Given", "a", "closed", "expression", "e", "0", ".", "-LRB-", "-LCB-", "-RCB-", ",", "e", "0", ",", "-LSB-", "-RSB-", "-RRB-", "STG-1", "-", "-LRB-", ",", "q", ",", "p", "in", "-RRB-", "where", "either", ":", "-LSB-", "q", "C", "q", "im", "-RSB-", "n", "=", "0", "or", "-LSB-", "q", "x", "im", ".", "e", "-RSB-", "m", ">", "n", "0", "if", "and", "only", "if", "-LRB-", "-LCB-", "-RCB-", ",", "e", "0", ",", "-LCB-", "-RCB-", ",", "-LSB-", "-RSB-", "-RRB-", "STG-2", "-", "-LRB-", ",", "x", ",", "E", "-LSB-", "x", "q", "-RSB-", ",", "p", "in", "-RRB-", "-RRB-", "and", "either", ":", "-LSB-", "q", "-LRB-", "C", "x", "im", ",", "-LCB-", "x", "i", "q", "im", "-RCB-", "-RRB-", "-RSB-", "n", "=", "0", "or", "-LSB-", "q", "-LRB-", "x", "im", ".", "e", ",", "E", "-RRB-", "-RSB-", "m", ">", "n", "0", "e", "=", "E", "e", ".", "Proof", ".", "By", "induction", "on", "the", "number", "of", "reductions", ".", "In", "this", "Section", "we", "`", "invent", "'", "an", "imperative", "STG", "machine", ",", "called", "ISTG", ",", "by", "defining", "a", "set", "of", "machine", "instructions", "and", "an", "operational", "semantics", "for", "them", "in", "terms", "of", "the", "state", "transition", "that", "each", "instruction", "produces", ".", "In", "fact", ",", "this", "machine", "tries", "to", "provide", "an", "intermediate", "level", "of", "reasoning", "between", "the", "STG-2", "machine", "and", "the", "final", "C", "implementation", ".", "In", "the", "actual", "GHC", "implementation", ",", "`", "below", "'", "the", "operational", "description", "of", "-LSB-", "6", "-RSB-", "we", "find", "only", "a", "translation", "to", "C.", "By", "looking", "at", "the", "compiler", "and", "at", "the", "runtime", "system", "listings", ",", "one", "can", "grasp", "some", "details", ",", "but", "many", "others", "are", "lost", ".", "We", "think", "that", "the", "gap", "to", "be", "bridged", "is", "too", "high", ".", "Moreover", ",", "it", "is", "not", "possible", "to", "reason", "about", "the", "correctness", "of", "the", "implementation", "when", "so", "many", "details", "are", "introduced", "at", "once", ".", "The", "ISTG", "architecture", "has", "been", "inspired", "by", "the", "actual", "implementation", "of", "the", "STG", "machine", "done", "by", "GHC", ",", "and", "the", "ISTG", "instructions", "have", "been", "derived", "from", "the", "STG-2", "machine", "by", "analyzing", "the", "elementary", "steps", "involved", "in", "every", "machine", "transition", ".", "An", "ISTG", "machine", "configuration", "consists", "of", "a", "5-tuple", "-LRB-", "is", ",", "S", ",", "node", ",", ",", "cs", "-RRB-", ",", "where", "is", "is", "a", "machine", "instruction", "sequence", "ended", "with", "the", "instruction", "ENTER", "or", "RETURNCON", ",", "S", "is", "the", "stack", ",", "node", "is", "a", "heap", "pointer", "pointing", "to", "the", "closure", "under", "execution", "-LRB-", "the", "one", "to", "which", "is", "belongs", "to", "-RRB-", ",", "is", "the", "heap", "and", "cs", "is", "a", "code", "store", "where", "the", "instruction", "sequences", "resulting", "from", "compiling", "the", "program", "expressions", "are", "kept", ".", "We", "will", "use", "the", "following", "notation", ":", "a", "for", "pointers", "to", "closures", "in", ",", "as", "and", "ws", "for", "lists", "of", "such", "pointers", ",", "and", "p", "for", "106", ":", "e", "p", "in", ":", "S", "-LSB-", "p", "x", "in", ".", "y", "im", ".", "e", "-RSB-", ":", "p", ":", "e", "p", "in", "S", "-LSB-", "q", "y", "im", ".", "e", "-LSB-", "p", "i", "/", "x", "i", "n", "-RSB-", "-RSB-", ":", "q", "m", ",", "n", ">", "0", ",", "q", "fresh", "App", "S3", ":", "e", "p", "in", ":", "S", "-LSB-", "p", "x", "im", ".", "e", "-RSB-", ":", "p", ":", "e", "-LSB-", "p", "i", "/", "x", "i", "m", "-RSB-", "p", "m", "+1", "...", "p", "n", "S", "-LSB-", "q", "w", "-RSB-", ":", "q", ":", "e", "p", "in", "S", ":", "q", "n", "m", "App", "S3", ":", "e", "#", "p", ":", "S", "-LSB-", "q", "w", "-RSB-", ":", "q", "-LSB-", "p", "e", "-RSB-", ":", "p", "S", "-LSB-", "p", "w", "-RSB-", ":", "q", "Var", "S3", ":", "e", "alts", ":", "S", "-LSB-", "p", "C", "k", "p", "j", "-RSB-", ":", "p", ":", "e", "k", "-LSB-", "p", "j", "/", "y", "kj", "-RSB-", "S", "-LSB-", "q", "w", "-RSB-", ":", "q", ":", "case", "e", "of", "alts", "S", ":", "q", "Case", "S3", "Figure", "6", ":", "The", "enriched", "semantics", "pointers", "to", "code", "fragments", "in", "cs", ".", "By", "cs", "-LSB-", "p", "is", "-RSB-", "we", "denote", "that", "the", "code", "store", "cs", "maps", "pointer", "p", "to", "the", "instruction", "sequence", "is", "and", ",", "by", "cs", "-LSB-", "p", "is", "i", "n", "-RSB-", ",", "that", "cs", "maps", "p", "to", "a", "vectored", "set", "of", "instruction", "sequences", "is", "1", ",", "...", ",", "is", "n", ",", "each", "one", "corresponding", "to", "an", "alternative", "of", "a", "case", "expression", "with", "n", "constructors", "C", "1", ",", "...", ",", "C", "n", ".", "Also", ",", "S", "!", "i", "will", "denote", "the", "i-th", "element", "of", "the", "stack", "S", "counting", "from", "the", "top", "and", "starting", "at", "0", ".", "Likewise", ",", "node", "!", "i", "will", "denote", "the", "i-th", "free", "variable", "of", "the", "closure", "pointed", "to", "by", "node", "in", ",", "this", "time", "starting", "at", "1", ".", "Stack", "S", "may", "store", "pointers", "a", "to", "closures", "in", ",", "pointers", "p", "to", "code", "sequences", "and", "code", "alternatives", "in", "cs", ",", "and", "update", "marks", "#", "a", "indicating", "that", "closure", "pointed", "to", "by", "a", "must", "be", "updated", ".", "A", "closure", "is", "a", "pair", "-LRB-", "p", ",", "ws", "-RRB-", "where", "p", "is", "a", "pointer", "to", "an", "instruction", "sequence", "is", "in", "cs", ",", "and", "ws", "is", "the", "closure", "environment", ",", "having", "a", "heap", "pointer", "for", "every", "free", "variable", "in", "the", "expression", "whose", "translation", "is", "is", ".", "These", "representation", "decisions", "are", "very", "near", "to", "the", "GHC", "implementation", ".", "In", "its", "runtime", "system", "all", "these", "elements", "-LRB-", "stack", ",", "heap", ",", "node", "register", "and", "code", "-RRB-", "are", "present", "-LSB-", "9", "-RSB-", ".", "Our", "closures", "are", "also", "a", "small", "simplification", "of", "theirs", ".", "In", "Figure", "8", ",", "the", "ISTG", "machine", "instructions", "and", "its", "operational", "semantics", "are", "shown", ".", "The", "machine", "instructions", "BUILDENV", ",", "PUSHALTS", "and", "UPDTMARK", "roughly", "correspond", "to", "the", "three", "possible", "pushing", "actions", "of", "machine", "STG-2", ".", "The", "SLIDE", "instruction", "has", "no", "clear", "correspondence", "in", "the", "STG-2", ".", "As", "we", "will", "see", "in", "Section", "5", ",", "it", "will", "be", "used", "to", "change", "the", "current", "environment", "when", "a", "new", "closure", "is", "entered", ".", "Instructions", "ALLOC", "and", "BUILDCLS", "will", "implement", "heap", "closure", "creation", "in", "the", "letrec", "rule", "of", "STG-2", ".", "Both", "BUILDENV", "and", "BUILDCLS", "make", "use", "of", "a", "list", "of", "pairs", ",", "each", "pair", "indicating", "whether", "the", "source", "variable", "is", "located", "in", "the", "stack", "or", "in", "the", "current", "closure", ".", "Of", "course", ",", "it", "is", "not", "intended", "this", "test", "to", "be", "done", "at", "runtime", ".", "An", "efficient", "translation", "of", "these", "`", "machine", "'", "instructions", "to", "an", "imperative", "language", "will", "generate", "the", "appropriate", "copy", "statement", "for", "each", "pair", ".", "Instructions", "ENTER", "and", "RETURNCON", "are", "typical", "of", "the", "actual", "STG", "machine", "as", "described", "in", "-LSB-", "6", "-RSB-", ".", "It", "is", "interesting", "to", "note", "that", "it", "has", "been", "possible", "to", "describe", "our", "previous", "STG", "machines", "without", "any", "reference", "to", "them", ".", "In", "our", "view", ",", "they", "belong", "to", "ISTG", ",", "i.e.", "to", "a", "lower", "level", "of", "abstraction", ".", "Finally", ",", "instruction", "ARGCHECK", ",", "which", "implements", "updates", "with", "lambda", "normal", "forms", ",", "is", "here", "at", "the", "same", "level", "of", "abstraction", "as", "RETURNCON", ",", "which", "implements", "updates", "with", "constructions", "normal", "forms", ".", "Predefined", "code", "is", "stored", "in", "cs", "for", "updating", "with", "a", "partial", "application", "and", "for", "blackholing", "a", "closure", "under", "evaluation", ".", "The", "corresponding", "code", "pointers", "are", "respectively", "called", "p", "n", "+1", "pap", "and", "p", "bh", "in", "Figure", "8", ".", "The", "associated", "code", "is", "the", "following", ":", "p", "bh", "=", "-LSB-", "-RSB-", "p", "n", "+1", "pap", "=", "-LSB-", "BUILDENV", "-LSB-", "-LRB-", "NODE", ",", "1", "-RRB-", ",", "...", ",", "-LRB-", "NODE", ",", "n", "+", "1", "-RRB-", "-RSB-", ",", "ENTER", "-RSB-", "The", "code", "of", "a", "blackhole", "just", "blocks", "the", "machine", "as", "there", "is", "no", "instruction", "to", "execute", ".", "There", "is", "predefined", "code", "for", "partial", "applications", "with", "different", "values", "for", "n", ".", "The", "code", "just", "copies", "the", "closure", "into", "the", "stack", "and", "jumps", "to", "the", "first", "pointer", "that", "is", "assumed", "to", "be", "pointing", "to", "a", "-", "abstraction", "closure", ".", "The", "translation", "to", "C", "of", "the", "9", "instructions", "of", "the", "ISTG", "should", "appear", "straightforward", "for", "the", "reader", ".", "For", "instance", ",", "BUILDCLS", "and", "BUILDENV", "can", "be", "implemented", "by", "a", "sequence", "of", "assignments", ",", "copying", "values", "to/from", "the", "stack", "an", "the", "heap", ";", "PUSHALTS", ",", "UPDTMARK", "and", "ENTER", "do", "straightforward", "stack", "manipulation", ";", "SLIDE", "is", "more", "involved", "but", "can", "be", "easily", "translated", "to", "a", "sequence", "of", "loops", "moving", "information", "within", "the", "stack", "to", "collapse", "a", "number", "of", "stack", "fragments", ".", "The", "more", "complex", "ones", "are", "RETURNCON", "and", "ARGCHECK", ".", "Both", "contains", "a", "loop", "which", "updates", "the", "heap", "with", "normal", "forms", "-LRB-", "respectively", ",", "constructions", "and", "partial", "applications", "-RRB-", "as", "long", "as", "they", "encounter", "update", "marks", "in", "the", "stack", ".", "Finally", ",", "the", "installation", "of", "a", "new", "instruction", "sequence", "in", "the", "control", "made", "by", "ENTER", "and", "RETURNCON", "are", "implemented", "by", "a", "simple", "jump", ".", "In", "this", "Section", ",", "we", "provide", "first", "the", "translation", "schemes", "for", "the", "FUN", "expressions", "and", "lambda", "forms", "and", "then", "prove", "that", "this", "translation", "correctly", "implements", "the", "STG-2", "machine", "on", "top", "of", "the", "ISTG", "machine", ".", "Before", "embarking", "into", "the", "details", ",", "we", "give", "some", "hints", "to", "intuitively", "understand", "the", "translation", ":", "The", "ISTG", "stack", "will", "represent", "not", "only", "the", "STG-2", "stack", ",", "but", "also", "-LRB-", "part", "of", "-RRB-", "the", "current", "environment", "E", "and", "all", "the", "environments", "associated", "to", "pending", "case", "alternatives", ".", "So", ",", "care", "must", "be", "taken", "to", "distinguish", "between", "environments", "and", "other", "objects", "in", "the", "stack", ".", "The", "rest", "of", "the", "current", "environment", "E", "is", "kept", "in", "the", "current", "closure", ".", "The", "translation", "knows", "where", "each", "free", "107", "Heap", "Control", "Environment", "Stack", "rule", "letrec", "-LCB-", "x", "i", "=", "lf", "i", "|", "t", "i", "-RCB-", "in", "e", "E", "S", "letrec", "-LRB-", "1", "-RRB-", "-LSB-", "p", "i", "-LRB-", "lf", "i", ",", "E", "|", "t", "i", "-RRB-", "-RSB-", "e", "E", "S", "case", "e", "of", "alts", "|", "t", "E", "S", "case1", "e", "E", "-LRB-", "alts", ",", "E", "|", "t", "-RRB-", ":", "S", "-LSB-", "p", "-LRB-", "C", "k", "x", "i", ",", "-LCB-", "x", "i", "p", "i", "-RCB-", "-RRB-", "-RSB-", "x", "E", "-LCB-", "x", "p", "-RCB-", "-LRB-", "alts", ",", "E", "-RRB-", ":", "S", "case2", "-LRB-", "2", "-RRB-", "e", "k", "E", "-LCB-", "y", "ki", "p", "i", "-RCB-", "S", "e", "x", "in", "E", "-LCB-", "x", "i", "p", "in", "-RCB-", "S", "app1", "e", "E", "p", "in", ":", "S", "-LSB-", "p", "-LRB-", "x", "in", ".", "e", ",", "E", "-RRB-", "-RSB-", "x", "E", "-LCB-", "x", "p", "-RCB-", "p", "in", ":", "S", "app2", "e", "E", "-LCB-", "x", "i", "p", "in", "-RCB-", "S", "-LSB-", "p", "-LRB-", "e", ",", "E", "-RRB-", "-RSB-", "x", "E", "-LCB-", "x", "p", "-RCB-", "S", "var1", "e", "E", "#", "p", ":", "S", "-LSB-", "p", "-LRB-", "x", "ik", ".", "y", "in", ".", "e", ",", "E", "-RRB-", "-RSB-", "x", "E", "-LCB-", "x", "p", "-RCB-", "p", "ik", ":", "#", "q", ":", "S", "var2", "-LRB-", "3", "-RRB-", "-LSB-", "q", "-LRB-", "x", "x", "ik", ",", "E", "-RSB-", "-RRB-", "x", "E", "p", "ik", ":", "S", "-LSB-", "p", "-LRB-", "C", "k", "x", "i", ",", "E", "-RRB-", "-RSB-", "x", "E", "-LCB-", "x", "p", "-RCB-", "#", "q", ":", "S", "var3", "-LSB-", "q", "-LRB-", "C", "k", "x", "i", ",", "E", "-RRB-", "-RSB-", "x", "E", "S", "-LRB-", "1", "-RRB-", "p", "i", "are", "distinct", "and", "fresh", "w.r.t.", ",", "letrec", "-LCB-", "x", "i", "=", "lf", "i", "-RCB-", "in", "e", ",", "and", "S.", "E", "=", "E", "-LCB-", "x", "i", "p", "i", "-RCB-", "-LRB-", "2", "-RRB-", "Expression", "e", "k", "corresponds", "to", "alternative", "C", "k", "y", "ki", "e", "k", "in", "alts", "-LRB-", "3", "-RRB-", "E", "=", "-LCB-", "x", "p", ",", "x", "i", "p", "ik", "-RCB-", "Figure", "7", ":", "The", "STG-2", "machine", "variable", "is", "located", "by", "maintaining", "two", "compile-time", "environments", "and", ".", "The", "first", "one", "corresponds", "to", "the", "environment", "kept", "in", "the", "stack", ",", "while", "the", "second", "one", "corresponds", "to", "the", "free", "variables", "accessed", "through", "the", "node", "pointer", ".", "The", "stack", "can", "be", "considered", "as", "divided", "into", "big", "blocks", "separated", "by", "code", "pointers", "p", "pointing", "to", "case", "alternatives", ".", "Each", "big", "block", "topped", "with", "such", "a", "pointer", "corresponds", "to", "the", "environment", "of", "the", "associated", "alternatives", ".", "In", "turn", ",", "each", "big", "block", "can", "be", "considered", "as", "divided", "into", "small", "blocks", ",", "each", "one", "topped", "with", "a", "set", "of", "arguments", "of", "pending", "applications", ".", "The", "compile-time", "environment", "is", "likewise", "divided", "into", "big", "and", "small", "blocks", ",", "so", "reflecting", "the", "stack", "structure", ".", "When", "a", "variable", "is", "reached", "in", "the", "current", "instruction", "sequence", ",", "an", "ENTER", "instruction", "is", "executed", ".", "This", "will", "finish", "the", "current", "sequence", "and", "start", "a", "new", "one", ".", "The", "upper", "big", "block", "of", "the", "stack", "must", "be", "deleted", "-LRB-", "corresponding", "to", "changing", "the", "current", "environment", "-RRB-", "but", "arguments", "of", "pending", "applications", "must", "be", "kept", ".", "This", "stack", "restructuring", "is", "accomplished", "by", "a", "SLIDE", "operation", "with", "an", "appropriate", "argument", ".", "Definition", "2", ".", "A", "stack", "environment", "is", "a", "list", "-LSB-", "-LRB-", "k", ",", "m", "k", ",", "n", "k", "-RRB-", ",", "...", ",", "-LRB-", "1", ",", "m", "1", ",", "n", "1", "-RRB-", "-RSB-", "of", "blocks", ".", "It", "describes", "the", "variables", "in", "the", "stack", "starting", "from", "the", "top", ".", "In", "a", "block", "-LRB-", ",", "m", ",", "n", "-RRB-", ",", "is", "an", "environment", "mapping", "exactly", "m", "-", "|", "n", "|", "program", "variables", "to", "disjoint", "numbers", "in", "the", "range", "1", ".", ".", "m", "-", "|", "n", "|", ".", "The", "empty", "environment", ",", "denoted", "is", "the", "list", "-LSB-", "-LRB-", "-LCB-", "-RCB-", ",", "0", ",", "0", "-RRB-", "-RSB-", ".", "A", "block", "-LRB-", ",", "m", ",", "n", "-RRB-", "corresponds", "to", "a", "small", "block", "in", "the", "above", "explanation", ".", "Blocks", "with", "n", "=", "-1", ",", "are", "topped", "with", "a", "code", "pointer", "pointing", "to", "alternatives", ".", "So", ",", "they", "provide", "a", "separation", "between", "big", "blocks", ".", "The", "upper", "big", "block", "consists", "of", "all", "the", "small", "blocks", "up", "to", "-LRB-", "and", "excluding", "-RRB-", "the", "first", "small", "block", "with", "n", "=", "-1", ".", "Blocks", "with", "n", ">", "0", "have", "m", "-", "n", "free", "variables", "and", "are", "topped", "with", "n", "arguments", "of", "pending", "applications", ".", "The", "upper", "block", "is", "the", "only", "one", "with", "n", "=", "0", "meaning", "that", "it", "is", "not", "still", "closed", "and", "that", "it", "can", "be", "extended", ".", "Definition", "3", ".", "A", "closure", "environment", "with", "n", "variables", "is", "a", "mapping", "from", "these", "variables", "to", "disjoint", "numbers", "in", "the", "range", "1", ".", ".", "n.", "Definition", "4", ".", "The", "offset", "of", "a", "variable", "x", "in", "from", "the", "top", "of", "the", "stack", ",", "denoted", "x", ",", "is", "given", "by", "x", "def", "=", "-LRB-", "k", "i", "=", "l", "m", "i", "-RRB-", "l", "x", ",", "being", "x", "dom", "l", "If", "the", "initial", "closed", "expression", "to", "be", "translated", "has", "different", "names", "for", "bound", "variables", ",", "then", "the", "compile", "time", "environments", "and", "will", "never", "have", "duplicate", "names", ".", "It", "will", "be", "proved", "below", "that", "every", "free", "variable", "of", "an", "expression", "being", "compiled", "will", "necessarily", "be", "either", "in", "or", "in", ",", "and", "never", "in", "both", ".", "This", "allows", "us", "to", "introduce", "the", "notation", "-LRB-", ",", "-RRB-", "x", "to", "mean", "-LRB-", ",", "-RRB-", "x", "def", "=", "-LRB-", "STACK", ",", "x", "-RRB-", "if", "x", "dom", "-LRB-", "NODE", ",", "x", "-RRB-", "if", "x", "dom", "The", "stack", "environment", "may", "suffer", "a", "number", "of", "operations", ":", "closing", "the", "current", "small", "block", "with", "a", "set", "of", "arguments", ",", "enlarging", "the", "current", "small", "block", "with", "new", "bindings", ",", "and", "closing", "the", "current", "big", "block", "with", "a", "pointer", "to", "case", "alternatives", ".", "These", "are", "formally", "defined", "as", "follows", ".", "Definition", "5", ".", "The", "following", "operations", "with", "stack", "environments", "are", "defined", ":", "1", ".", "-LRB-", "-LRB-", ",", "m", ",", "0", "-RRB-", ":", "-RRB-", "+", "n", "def", "=", "-LRB-", "-LCB-", "-RCB-", ",", "0", ",", "0", "-RRB-", ":", "-LRB-", ",", "m", "+", "n", ",", "n", "-RRB-", ":", "108", "Instructions", "Stack", "Node", "Heap", "Code", "control", "-LSB-", "ENTER", "-RSB-", "a", ":", "S", "node", "-LSB-", "a", "-LRB-", "p", ",", "ws", "-RRB-", "-RSB-", "cs", "-LSB-", "p", "is", "-RSB-", "=", "is", "S", "a", "cs", "-LSB-", "RETURNCON", "C", "m", "k", "-RSB-", "p", ":", "S", "node", "cs", "-LSB-", "p", "is", "i", "n", "-RSB-", "=", "is", "k", "S", "node", "cs", "-LSB-", "RETURNCON", "C", "m", "k", "-RSB-", "#", "a", ":", "S", "node", "-LSB-", "a", "-LRB-", "p", "bh", ",", "as", "-RRB-", ",", "node", "-LRB-", "p", ",", "ws", "-RRB-", "-RSB-", "cs", "=", "-LSB-", "RETURNCON", "C", "m", "k", "-RSB-", "S", "node", "-LSB-", "a", "-LRB-", "p", ",", "ws", "-RRB-", "-RSB-", "cs", "ARGCHECK", "m", ":", "is", "a", "im", ":", "S", "node", "cs", "=", "is", "a", "im", ":", "S", "node", "cs", "ARGCHECK", "m", ":", "is", "a", "in", ":", "#", "a", ":", "S", "node", "-LSB-", "a", "-LRB-", "p", "bh", ",", "ws", "-RRB-", "-RSB-", "cs", "n", "<", "m", "=", "ARGCHECK", "m", ":", "is", "a", "in", ":", "S", "node", "-LSB-", "a", "-LRB-", "p", "n", "+1", "pap", ",", "node", ":", "a", "in", "-RRB-", "-RSB-", "cs", "heap", "ALLOC", "m", ":", "is", "S", "node", "cs", "-LRB-", "1", "-RRB-", "=", "is", "a", "m", ":", "S", "node", "cs", "BUILDCLS", "i", "p", "z", "in", ":", "is", "S", "node", "cs", "-LRB-", "2", "-RRB-", "=", "is", "S", "node", "-LSB-", "S!i", "-LRB-", "p", ",", "a", "in", "-RRB-", "-RSB-", "cs", "stack", "BUILDENV", "z", "in", ":", "is", "S", "node", "cs", "-LRB-", "2", "-RRB-", "=", "is", "a", "in", ":", "S", "node", "cs", "PUSHALTS", "p", ":", "is", "S", "node", "cs", "=", "is", "p", ":", "S", "node", "cs", "UPDTMARK", ":", "is", "S", "node", "-LSB-", "node", "-LRB-", "p", ",", "ws", "-RRB-", "-RSB-", "cs", "=", "is", "#node", ":", "S", "node", "-LSB-", "node", "-LRB-", "p", "bh", ",", "ws", "-RRB-", "-RSB-", "cs", "SLIDE", "-LRB-", "n", "k", ",", "m", "k", "-RRB-", "l", ":", "is", "a", "kj", "n", "k", ":", "b", "kj", "m", "k", "l", ":", "S", "node", "cs", "=", "is", "a", "kj", "n", "k", "l", ":", "S", "node", "cs", "-LRB-", "1", "-RRB-", "a", "m", "is", "a", "pointer", "to", "a", "new", "closure", "with", "space", "for", "m", "free", "variables", ",", "and", "is", "the", "resulting", "heap", "after", "the", "allocation", "-LRB-", "2", "-RRB-", "a", "i", "=", "S!i", "if", "z", "i", "=", "-LRB-", "STACK", ",", "i", "-RRB-", "node", "!", "i", "if", "z", "i", "=", "-LRB-", "NODE", ",", "i", "-RRB-", "Figure", "8", ":", "The", "ISTG", "machine", "2", ".", "-LRB-", "-LRB-", ",", "m", ",", "0", "-RRB-", ":", "-RRB-", "+", "-LRB-", "-LCB-", "x", "i", "j", "i", "n", "-RCB-", ",", "n", "-RRB-", "def", "=", "-LRB-", "-LCB-", "x", "i", "m", "+", "j", "i", "n", "-RCB-", ",", "m", "+", "n", ",", "0", "-RRB-", ":", "3", ".", "-LRB-", "-LRB-", ",", "m", ",", "0", "-RRB-", ":", "-RRB-", "+", "+", "def", "=", "-LRB-", "-LCB-", "-RCB-", ",", "0", ",", "0", "-RRB-", ":", "-LRB-", ",", "m", "+", "1", ",", "-1", "-RRB-", ":", "5.1", "Translation", "schemes", "Functions", "trE", "and", "trA", "respectively", "translate", "a", "FUN", "expression", "and", "a", "case", "alternative", "to", "a", "sequence", "of", "ISTG", "machine", "instructions", ";", "function", "trAs", "translates", "a", "set", "of", "alternatives", "to", "a", "pointer", "to", "a", "vectored", "set", "of", "machine", "instruction", "sequences", "in", "the", "code", "store", ";", "and", "function", "trB", "translates", "a", "lambda", "form", "to", "a", "pointer", "to", "a", "machine", "instruction", "sequence", "in", "the", "code", "store", ".", "The", "translation", "schemes", "are", "shown", "in", "Figure", "9", ".", "The", "notation", "...", "&", "cs", "-LSB-", "p", "...", "-RSB-", "means", "that", "the", "corresponding", "translation", "scheme", "has", "a", "side", "effect", "which", "consists", "of", "creating", "a", "code", "sequence", "in", "the", "code", "store", "cs", "and", "pointing", "it", "by", "the", "code", "pointer", "p.", "Proposition", "8", ".", "-LRB-", "static", "invariant", "-RRB-", "Given", "a", "closed", "expression", "e", "0", "with", "different", "bound", "variables", "and", "an", "initial", "call", "trE", "e", "0", "-LCB-", "-RCB-", ",", "in", "all", "internal", "calls", "of", "the", "form", "trE", "e", ":", "1", ".", "The", "stack", "environment", "has", "the", "form", "=", "-LRB-", ",", "m", ",", "0", "-RRB-", ":", ".", "Moreover", ",", "there", "is", "no", "other", "block", "-LRB-", ",", "m", ",", "n", "-RRB-", "in", "with", "n", "=", "0", ".", "Consequently", ",", "all", "environment", "operations", "in", "the", "above", "translation", "are", "well", "defined", ".", "2", ".", "All", "free", "variables", "of", "e", "are", "defined", "either", "in", "or", "in", ".", "Moreover", ",", "dom", "dom", "=", ".", "3", ".", "The", "last", "instruction", "generated", "for", "e", "is", "ENTER", ".", "Consequently", ",", "the", "main", "instruction", "sequence", "and", "all", "sequences", "corresponding", "to", "case", "alternatives", "and", "to", "non-constructor", "closures", ",", "end", "in", "an", "ENTER", ".", "Proof", ".", "-LRB-", "1", "-RRB-", "and", "-LRB-", "2", "-RRB-", "are", "proved", "by", "induction", "on", "the", "tree", "structure", "of", "calls", "to", "trE", ";", "-LRB-", "3", "-RRB-", "is", "proved", "by", "structural", "induction", "on", "FUN", "expressions", ".", "In", "order", "to", "prove", "the", "correctness", "of", "the", "translation", ",", "we", "only", "need", "to", "consider", "ISTG", "machine", "configurations", "of", "the", "form", "-LRB-", "is", ",", "S", "I", ",", "node", ",", "I", ",", "cs", "-RRB-", "in", "which", "is", "is", "generated", "by", "a", "call", "to", "trE", "for", "some", "expression", "e", "and", "environments", ",", ".", "We", "call", "these", "stable", "configurations", ".", "We", "enrich", "then", "these", "configurations", "with", "three", "additional", "components", ":", "the", "environments", "109", "trE", "-LRB-", "e", "x", "in", "-RRB-", "=", "-LSB-", "BUILDENV", "-LRB-", ",", "-RRB-", "x", "i", "n", "-RSB-", "+", "+", "trE", "e", "-LRB-", "+", "n", "-RRB-", "trE", "-LRB-", "case", "e", "of", "alts", "|", "x", "in", "-RRB-", "=", "-LSB-", "BUILDENV", "zs", ",", "PUSHALTS", "p", "-RSB-", "+", "+", "trE", "e", "+", "+", "-LRB-", "-", "xs", "-RRB-", "where", "p", "=", "trAs", "alts", "=", "+", "-LRB-", "-LCB-", "xs", "j", "m", "-", "j", "+", "1", "m", "-RCB-", ",", "m", "-RRB-", "xs", "=", "-LSB-", "x", "|", "x", "x", "in", "x", "dom", "-RSB-", "zs", "=", "-LSB-", "-LRB-", "node", ",", "x", "-RRB-", "|", "x", "xs", "-RSB-", "m", "=", "|", "xs", "|", "trE", "-LRB-", "letrec", "x", "i", "=", "lf", "i", "|", "y", "ij", "mi", "n", "in", "e", "-RRB-", "=", "-LSB-", "ALLOC", "m", "n", ",", "...", ",", "ALLOC", "m", "1", "-RSB-", "+", "+", "-LSB-", "BUILDCLS", "-LRB-", "i", "-", "1", "-RRB-", "p", "i", "zs", "i", "n", "-RSB-", "+", "+", "trE", "e", "where", "=", "+", "-LRB-", "-LCB-", "x", "i", "n", "-", "i", "+", "1", "n", "-RCB-", ",", "n", "-RRB-", "p", "i", "=", "trB", "-LRB-", "lf", "i", "|", "y", "ij", "mi", "-RRB-", ",", "i", "-LCB-", "1", ".", ".", "n", "-RCB-", "zs", "i", "=", "-LRB-", ",", "-RRB-", "y", "ij", "m", "i", ",", "i", "-LCB-", "1", ".", ".", "n", "-RCB-", "trE", "x", "=", "-LSB-", "BUILDENV", "-LSB-", "-LRB-", ",", "-RRB-", "x", "-RSB-", ",", "SLIDE", "-LRB-", "-LRB-", "1", ",", "0", "-RRB-", ":", "ms", "-RRB-", ",", "ENTER", "-RSB-", "where", "ms", "=", "map", "-LRB-", "\\", "-LRB-", ",", "m", ",", "n", "-RRB-", "-LRB-", "n", ",", "m", "-", "n", "-RRB-", "-RRB-", "-LRB-", "takeWhile", "nn", "-RRB-", "nn", "-LRB-", ",", "m", ",", "-1", "-RRB-", "=", "False", "nn", "=", "True", "trAs", "-LRB-", "alt", "i", "n", "-RRB-", "=", "p", "&", "cs", "-LSB-", "p", "trA", "alt", "i", "n", "-RSB-", "trA", "-LRB-", "C", "x", "in", "e", "-RRB-", "=", "trE", "e", "-LCB-", "x", "i", "i", "n", "-RCB-", "trB", "-LRB-", "C", "n", "k", "x", "in", "|", "x", "in", "-RRB-", "=", "p", "&", "cs", "-LSB-", "p", "-LSB-", "RETURNCON", "C", "n", "k", "-RSB-", "-RSB-", "trB", "-LRB-", "x", "il", ".", "e", "|", "y", "j", "n", "-RRB-", "=", "p", "&", "cs", "-LSB-", "p", "-LSB-", "ARGCHECK", "l", "-RSB-", "+", "+", "trE", "e", "-RSB-", "where", "=", "-LSB-", "-LRB-", "-LCB-", "x", "i", "l", "-", "i", "+", "1", "l", "-RCB-", ",", "l", ",", "0", "-RRB-", "-RSB-", "=", "-LCB-", "y", "j", "j", "n", "-RCB-", "trB", "-LRB-", "e", "|", "y", "j", "n", "-RRB-", "=", "p", "&", "cs", "-LSB-", "p", "-LSB-", "UPDTMARK", "-RSB-", "+", "+", "trE", "e", "-RSB-", "where", "=", "-LCB-", "y", "j", "j", "n", "-RCB-", "Figure", "9", ":", "Translation", "schemes", "from", "STG-2", "to", "ISTG", "and", "used", "to", "generate", "is", ",", "and", "an", "environment", "stack", "S", "env", "containing", "a", "sequence", "of", "stack", "environments", ".", "The", "environments", "in", "S", "env", "are", "in", "one", "to", "one", "correspondence", "with", "case", "pointers", "stored", "in", "S", "I", ".", "Initially", "S", "env", "is", "empty", ".", "Each", "time", "an", "instruction", "PUSHALTS", "is", "executed", "-LRB-", "see", "trE", "definition", "for", "case", "-RRB-", ",", "the", "environment", "the", "corresponding", "alternatives", "are", "compiled", "with", ",", "is", "pushed", "onto", "stack", "S", "env", ".", "Each", "time", "a", "RETURNCON", "pops", "a", "case", "pointer", ",", "stack", "S", "env", "is", "also", "pop-ed", ".", "So", ",", "enriched", "ISTG", "configurations", "have", "the", "form", "-LRB-", "is", ",", ",", ",", "S", "I", ",", "S", "env", ",", "node", ",", "I", ",", "cs", "-RRB-", ".", "Definition", "6", ".", "A", "STG-2", "environment", "E", "is", "equivalent", "to", "an", "ISTG", "environment", "defined", "by", ",", ",", "S", "I", ",", "I", "and", "node", ",", "denoted", "E", "-LRB-", ",", "S", "I", ",", ",", "I", ",", "node", "-RRB-", "if", "dom", "E", "dom", "dom", "and", "x", "dom", "E", "E", "x", "=", "S", "I", "!", "-LRB-", "x", "-RRB-", "if", "x", "dom", "E", "x", "=", "node", "I", "!", "-LRB-", "x", "-RRB-", "if", "x", "dom", "Definition", "7", ".", "A", "STG-2", "stack", "S", "is", "equivalent", "to", "a", "triple", "-LRB-", ",", "S", "I", ",", "S", "env", "-RRB-", "of", "an", "ISTG", "enriched", "configuration", ",", "denoted", "S", "-LRB-", ",", "S", "I", ",", "S", "env", "-RRB-", ",", "if", "1", ".", "Whenever", "=", "-LRB-", ",", "m", ",", "0", "-RRB-", ":", ",", "then", "S", "I", "=", "a", "im", ":", "S", "I", "and", "S", "-LRB-", ",", "S", "I", ",", "S", "env", "-RRB-", "2", ".", "Whenever", "=", "-LRB-", ",", "m", ",", "n", "-RRB-", ":", ",", "n", ">", "0", ",", "then", "S", "=", "a", "in", ":", "S", ",", "S", "I", "=", "a", "in", ":", "b", "j", "m-n", ":", "S", "I", "and", "S", "-LRB-", ",", "S", "I", ",", "S", "env", "-RRB-", "3", ".", "Whenever", "=", "-LRB-", ",", "m", ",", "-1", "-RRB-", ":", ",", "then", "S", "=", "-LRB-", "alts", ",", "E", "-RRB-", ":", "S", ",", "S", "I", "=", "p", "alts", ":", "S", "I", ",", "S", "env", "=", "alts", ":", "S", "env", ",", "p", "alts", "=", "trAs", "alts", "alts", ",", "E", "-LRB-", "alts", ",", "S", "I", ",", ",", ",", "-RRB-", "and", "S", "-LRB-", "alts", ",", "S", "I", ",", "S", "env", "-RRB-", "4", ".", "Whenever", "S", "=", "#", "a", ":", "S", "and", "S", "I", "=", "#", "a", ":", "S", "I", ",", "then", "S", "-LRB-", ",", "S", "I", ",", "S", "env", "-RRB-", "5", ".", "Additionally", ",", "-LSB-", "-RSB-", "-LRB-", "-LCB-", "-RCB-", ",", "-LSB-", "-RSB-", ",", "-LSB-", "-RSB-", "-RRB-", "110", "Definition", "8", ".", "A", "STG-2", "heap", "is", "equivalent", "to", "an", "ISTG", "pair", "-LRB-", "I", ",", "cs", "-RRB-", ",", "denoted", "-LRB-", "I", ",", "cs", "-RRB-", ",", "if", "for", "all", "p", "we", "have", "-LSB-", "p", "-LRB-", "lf", "|", "x", "in", ",", "E", "-RRB-", "-RSB-", "if", "and", "only", "if", "I", "-LSB-", "p", "-LRB-", "q", ",", "ws", "-RRB-", "-RSB-", ",", "cs", "-LSB-", "q", "is", "-RSB-", ",", "is", "=", "trB", "-LRB-", "lf", "|", "x", "in", "-RRB-", "and", "ws", "=", "E", "x", "i", "n", ".", "Definition", "9", ".", "A", "STG-2", "configuration", "is", "equivalent", "to", "an", "ISTG", "enriched", "stable", "configuration", ",", "denoted", "-LRB-", ",", "e", ",", "E", ",", "S", "-RRB-", "-LRB-", "is", ",", ",", ",", "S", "I", ",", "S", "env", ",", "node", ",", "I", ",", "cs", "-RRB-", "if", "1", ".", "-LRB-", "I", ",", "cs", "-RRB-", "2", ".", "is", "=", "trE", "e", "3", ".", "E", "-LRB-", ",", "S", "I", ",", ",", "I", ",", "node", "-RRB-", "4", ".", "S", "-LRB-", ",", "S", "I", ",", "S", "env", "-RRB-", "Proposition", "9", ".", "-LRB-", "dynamic", "invariant", "-RRB-", "Given", "a", "closed", "expression", "e", "0", "with", "different", "bound", "variables", "and", "initial", "STG-2", "and", "ISTG", "configurations", ",", "respectively", "-LRB-", "-LCB-", "-RCB-", ",", "e", "0", ",", "-LCB-", "-RCB-", ",", "-LSB-", "-RSB-", "-RRB-", "and", "-LRB-", "trE", "e", "0", "-LCB-", "-RCB-", ",", ",", "-LCB-", "-RCB-", ",", "-LSB-", "-RSB-", ",", "-LSB-", "-RSB-", ",", ",", "-LCB-", "-RCB-", ",", "cs", "-RRB-", ",", "where", "cs", "is", "the", "code", "store", "generated", "by", "the", "whole", "translation", "of", "e", "0", ",", "then", "both", "machines", "evolve", "through", "equivalent", "configurations", ".", "Proof", ".", "By", "induction", "on", "the", "number", "of", "transitions", "of", "both", "machines", ".", "Only", "transitions", "between", "ISTG", "stable", "configurations", "are", "considered", ".", "Corollary", "10", ".", "The", "translation", "given", "in", "Section", "5.1", "is", "correct", ".", "There", "are", "some", "differences", "between", "the", "machine", "translation", "presented", "in", "Section", "5", "and", "the", "actual", "code", "generated", "by", "GHC", ".", "Some", "are", "just", "omissions", ",", "other", "are", "non-substantial", "differences", "and", "some", "other", "are", "deeper", "ones", ".", "In", "the", "first", "group", "it", "is", "the", "treatment", "of", "basic", "values", ",", "very", "elaborated", "in", "GHC", "-LRB-", "see", "for", "example", "-LSB-", "3", "-RSB-", "-RRB-", "and", "completely", "ig-nored", "here", ".", "We", "have", "preferred", "to", "concentrate", "our", "study", "in", "the", "functional", "kernel", "of", "the", "machine", "but", ",", "of", "course", ",", "a", "formal", "reasoning", "about", "this", "aspect", "is", "a", "clear", "continuation", "of", "our", "work", ".", "In", "the", "second", "group", "it", "is", "the", "optimization", "of", "update", "implementation", ".", "In", "GHC", ",", "updates", "can", "be", "done", "either", "by", "indirection", "or", "by", "closure", "creation", ",", "depending", "on", "whether", "there", "is", "enough", "space", "or", "not", "in", "the", "old", "closure", "to", "do", "update", "in", "place", ".", "This", "implies", "to", "keep", "closure", "size", "information", "somewhere", ".", "GHC", "keeps", "it", "in", "the", "so", "called", "info", "table", ",", "a", "static", "part", "shared", "by", "all", "closures", "created", "from", "the", "same", "bind", ".", "This", "table", "forces", "an", "additional", "indirection", "to", "access", "the", "closure", "code", ".", "Our", "model", "has", "simplified", "these", "aspects", ".", "We", "understand", "also", "that", "stack", "restructuring", ",", "as", "the", "one", "performed", "by", "our", "SLIDE", "instruction", ",", "is", "not", "implemented", "in", "this", "way", "by", "GHC", ".", "Apparently", ",", "stubbing", "of", "non", "used", "stack", "positions", "is", "done", "instead", ".", "An", "efficiency", "study", "could", "show", "which", "implementation", "is", "better", ".", "The", "cost", "of", "our", "SLIDE", "instruction", "is", "in", "O", "-LRB-", "n", "-RRB-", ",", "being", "n", "the", "number", "of", "arguments", "to", "be", "preserved", "in", "the", "stack", "when", "the", "current", "environment", "is", "discarded", ".", "Perhaps", "the", "deeper", "difference", "between", "our", "derived", "machine", "and", "the", "actual", "STG", "is", "our", "insistence", "in", "that", "FUN", "applications", "should", "have", "the", "form", "e", "x", "in", "instead", "of", "x", "x", "in", "as", "it", "is", "the", "case", "in", "the", "STG", "language", ".", "This", "decision", "is", "not", "justified", "in", "the", "GHC", "papers", "and", "perhaps", "could", "have", "a", "noticeable", "negative", "impact", "in", "performance", ".", "In", "a", "lazy", "language", ",", "the", "functional", "part", "of", "an", "application", "should", "be", "eagerly", "evaluated", ",", "but", "GHC", "does", "it", "lazily", ".", "This", "implies", "constructing", "a", "number", "of", "closures", "that", "will", "be", "immediately", "entered", "-LRB-", "and", "perhaps", "updated", "afterwards", "-RRB-", ",", "with", "a", "corresponding", "additional", "cost", "both", "in", "space", "and", "time", ".", "Our", "translation", "avoids", "creating", "and", "entering", "these", "closures", ".", "If", "the", "counter-argument", "were", "having", "the", "possibility", "of", "sharing", "functional", "expressions", ",", "this", "is", "always", "available", "in", "FUN", "since", "a", "variable", "is", "a", "particular", "case", "of", "an", "expression", ".", "What", "we", "claim", "is", "that", "the", "normalization", "process", "in", "the", "Core-to-STG", "translation", "should", "not", "introduce", "unneeded", "sharing", ".", "We", "have", "presented", "a", "stepwise", "derivation", "of", "a", "-LRB-", "well", "known", "-RRB-", "abstract", "machine", "starting", "from", "Sestoft", "'s", "operational", "semantics", ",", "going", "through", "several", "intermediate", "machines", "and", "arriving", "at", "an", "imperative", "machine", "very", "close", "to", "a", "conventional", "imperative", "language", ".", "This", "strategy", "of", "adding", "a", "small", "amount", "of", "detail", "in", "each", "step", "has", "allowed", "us", "both", "to", "provide", "insight", "on", "fundamental", "decisions", "underlying", "the", "STG", "design", "and", ",", "perhaps", "more", "importantly", ",", "to", "be", "able", "to", "show", "the", "correctness", "of", "each", "refinement", "with", "respect", "to", "the", "previous", "one", "and", ",", "consequently", ",", "the", "correctness", "of", "the", "whole", "derivation", ".", "To", "our", "knowledge", ",", "this", "is", "the", "first", "time", "that", "formal", "translation", "schemes", "and", "a", "formal", "proof", "of", "correctness", "of", "the", "STG", "to", "C", "translation", "has", "been", "done", ".", "Our", "previous", "work", "-LSB-", "2", "-RSB-", "followed", "a", "different", "path", ":", "it", "showed", "the", "soundness", "and", "completeness", "of", "a", "STG-like", "machine", "called", "STG-1S", "-LRB-", "laying", "somewhere", "between", "machines", "STG-2", "and", "ISTG", "of", "this", "paper", "-RRB-", "with", "respect", "to", "Sestoft", "'s", "semantics", ".", "The", "technique", "used", "was", "also", "different", ":", "a", "bisimulation", "between", "the", "STG-1S", "machine", "and", "Sestoft", "'s", "MARK-2", "machine", "was", "proved", ".", "We", "got", "the", "inspiration", "for", "the", "strategy", "followed", "here", "from", "Mountjoy", "-LSB-", "5", "-RSB-", "and", "in", "Section", "2", "we", "have", "explained", "the", "differences", "between", "his", "and", "our", "work", ".", "The", "previous", "machines", "of", "all", "these", "works", ",", "including", "STG-1", "and", "STG-2", "of", "this", "paper", ",", "are", "very", "abstract", "in", "the", "sense", "that", "they", "deal", "directly", "with", "functional", "expressions", ".", "The", "new", "machine", "ISTG", "introduced", "here", "is", "a", "really", "low", "level", "machine", "dealing", "with", "raw", "imperative", "instructions", "and", "pointers", ".", "Two", "contributions", "of", "this", "paper", "have", "been", "to", "bridge", "this", "big", "gap", "by", "means", "of", "the", "translations", "schemes", "and", "the", "proof", "of", "correctness", "of", "this", "translation", ".", "Our", "experience", "is", "that", "formal", "reasoning", "about", "even", "well", "known", "products", "always", "reveals", "new", "details", ",", "give", "new", "insight", ",", "makes", "good", "decisions", "more", "solid", "and", "provides", "trust", "in", "the", "behavior", "of", "our", "programs", ".", "-LSB-", "1", "-RSB-", "A.", "at", "URL", ":", "http://www.haskell.org/ghc/", ".", "-LSB-", "2", "-RSB-", "A.", "Encina", "and", "R.", "Pe", "~", "na", ".", "Proving", "the", "Correctness", "of", "the", "STG", "Machine", ".", "In", "Implementation", "of", "Functional", "Languages", ",", "IFL", "'", "01", ".", "Selected", "Papers", ".", "LNCS", "2312", ",", "pages", "88", "104", ".", "Springer-Verlag", ",", "2002", ".", "-LSB-", "3", "-RSB-", "S.", "P.", "Jones", "and", "J.", "Launchbury", ".", "Unboxed", "values", "as", "first", "class", "citizens", "in", "a", "non-strict", "functional", "language", ".", "Conference", "on", "Functional", "Programming", "Languages", "and", "Computer", "Architecture", "FPCA", "'", "91", ",", "LNCS", "523", ",", "September", "1991", ".", "-LSB-", "4", "-RSB-", "J.", "Launchbury", ".", "A", "Natural", "Semantics", "for", "Lazy", "Evaluation", ".", "In", "Proc", ".", "Conference", "on", "Principles", "of", "Programming", "Languages", ",", "POPL", "'", "93", ".", "ACM", ",", "1993", ".", "-LSB-", "5", "-RSB-", "J.", "Mountjoy", ".", "The", "Spineless", "Tagless", "G-machine", ",", "Naturally", ".", "In", "Third", "International", "Conference", "on", "Functional", "Programming", ",", "ICFP", "'", "98", ",", "Baltimore", ".", "ACM", "Press", ",", "1998", ".", "111", "-LSB-", "6", "-RSB-", "S.", "L.", "Peyton", "Jones", ".", "Implementing", "Lazy", "Functional", "Languages", "on", "Stock", "Hardware", ":", "the", "Spineless", "Tagless", "G-machine", ",", "Version", "2.5", ".", "Journal", "of", "Functional", "Programming", ",", "2", "-LRB-", "2", "-RRB-", ":", "127", "202", ",", "April", "1992", ".", "-LSB-", "7", "-RSB-", "S.", "L.", "Peyton", "Jones", ",", "C.", "V.", "Hall", ",", "K.", "Hammond", ",", "W.", "D.", "Partain", ",", "and", "P.", "L.", "Wadler", ".", "The", "Glasgow", "Haskell", "Compiler", ":", "A", "Technical", "Overview", ".", "In", "Joint", "Framework", "for", "Inf", ".", "Technology", ",", "Keele", ",", "pages", "249", "257", ",", "1993", ".", "-LSB-", "8", "-RSB-", "S.", "L.", "Peyton", "Jones", "and", "J.", "Hughes", ",", "editors", ".", "Report", "on", "the", "Programming", "Language", "Haskell", "98", ".", "URL", "http://www.haskell.org", ",", "February", "1999", ".", "-LSB-", "9", "-RSB-", "S.", "L.", "Peyton", "Jones", ",", "S.", "Marlow", ",", "and", "A.", "Reid", ".", "The", "STG", "Runtime", "System", "-LRB-", "revised", "-RRB-", ".", "http://www.haskell.org/ghc/docs", ",", "1999", ".", "-LSB-", "10", "-RSB-", "P.", "Sestoft", ".", "Deriving", "a", "Lazy", "Abstract", "Machine", ".", "Journal", "of", "Functional", "Programming", ",", "7", "-LRB-", "3", "-RRB-", ":", "231", "264", ",", "May", "1997", ".", "112" ]

[ "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Handoff", "Trigger", "Table", "for", "Integrated", "3G/WLAN", "Networks", "Vertical", "handoff", "is", "a", "switching", "process", "between", "heterogeneous", "wireless", "networks", "in", "a", "hybrid", "3G/WLAN", "network", ".", "Vertical", "handoffs", "fromWLAN", "to", "3G", "network", "often", "fail", "due", "to", "the", "abrupt", "degrade", "of", "the", "WLAN", "signal", "strength", "in", "the", "transition", "areas", ".", "In", "this", "paper", ",", "a", "Handoff", "Trigger", "Table", "is", "introduced", "to", "improve", "the", "performance", "of", "vertical", "handoff", ".", "Based", "on", "this", "table", ",", "a", "proactive", "handoff", "scheme", "is", "proposed", ".", "Simulation", "results", "show", "that", "with", "the", "proposed", "scheme", ",", "the", "vertical", "handoff", "decisions", "will", "be", "more", "efficient", "so", "that", "dropping", "probability", "can", "be", "decreased", "dramatically", ".", "C.", "4", "-LSB-", "Performance", "of", "Systems", "-RSB-", ":", "Design", "Studies", ";", "C.", "2.1", "-LSB-", "Network", "Architecture", "and", "Design", "-RSB-", ":", "Wireless", "Communications", "--", "Integrated", "3G/WLAN", "Networks", "Performance", "With", "the", "emergence", "of", "different", "wireless", "technologies", ",", "which", "are", "developed", "for", "different", "purposes", ",", "the", "integration", "of", "these", "wireless", "networks", "has", "attracted", "much", "attention", "from", "both", "academia", "and", "industry", ".", "Among", "them", ",", "the", "integration", "of", "3G", "cellular", "networks", "and", "wireless", "local", "access", "networks", "-LRB-", "WLAN", "-RRB-", "has", "become", "a", "very", "active", "area", "in", "the", "development", "toward", "the", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "IWCMC", "'", "06", ",", "July", "3", "6", ",", "2006", ",", "Vancouver", ",", "British", "Columbia", ",", "Canada", ".", "Copyright", "2006", "ACM", "1-59593-306-9", "/", "06/0007", "...", "$", "5.00", ".", "next", "generation", "wireless", "networks", ".", "WLAN", "access", "technology", "can", "offer", "high-speed", "data", "connections", "in", "a", "small", "coverage", "with", "relatively", "low", "cost", ".", "On", "the", "other", "hand", ",", "cellular", "networks", "can", "offer", "connectivity", "over", "several", "square", "kilometers", "but", "with", "relatively", "low", "data", "rate", ".", "Taking", "advantages", "of", "both", "networks", "will", "bring", "great", "benefits", "to", "both", "service", "providers", "and", "users", ".", "One", "of", "the", "desired", "features", "of", "such", "a", "heterogeneous", "wireless", "network", "is", "to", "support", "seamless", "global", "roaming", "or", "vertical", "handoff", ".", "Traditionally", ",", "handoff", "is", "performed", "within", "the", "same", "wireless", "system", ",", "which", "is", "called", "horizontal", "handoff", ".", "In", "contrast", ",", "a", "vertical", "handoff", "takes", "place", "between", "different", "wireless", "networks", "-LSB-", "2", "-RSB-", ".", "In", "an", "integrated", "3G/WLAN", "network", ",", "there", "are", "two", "directions", "in", "vertical", "handoff", ",", "one", "is", "from", "WLANs", "to", "3G", "networks", "and", "the", "other", "is", "from3G", "Networks", "to", "WLANs", ".", "In", "the", "first", "direction", ",", "the", "objective", "for", "handoff", "is", "to", "maintain", "the", "connectivity", ",", "i.e.", ",", "switching", "to", "the", "cellular", "network", "before", "the", "WLAN", "link", "breaks", "while", "trying", "to", "stay", "in", "the", "WLAN", "as", "long", "as", "possible", "because", "of", "its", "relatively", "high", "bandwidth", "and", "low", "cost", ".", "Since", "a", "WLAN", "has", "smaller", "coverage", "and", "is", "usually", "covered", "by", "a", "3G", "network", ",", "when", "the", "mobile", "terminal", "-LRB-", "MT", "-RRB-", "steps", "out", "of", "the", "WLAN", "area", ",", "the", "decay", "of", "the", "signal", "fromthe", "WLAN", "should", "be", "accurately", "detected", ".", "A", "timely", "decision", "of", "handoff", "should", "be", "made", "properly", ",", "and", "the", "MT", "should", "switch", "the", "connection", "to", "the", "appropriate", "3G", "network", "successfully", ".", "In", "the", "second", "direction", ",", "the", "objective", "of", "handoff", "is", "usually", "to", "improve", "QoS", "and", "acquire", "higher", "bandwidth", "with", "lower", "cost", ".", "In", "this", "paper", ",", "we", "will", "focus", "on", "the", "first", "direction", ",", "which", "is", "the", "handoff", "fromthe", "WLAN", "to", "the", "3G", "network", ".", "For", "a", "WLAN", ",", "signal", "power", "is", "limited", ",", "which", "causes", "the", "signal", "strength", "to", "be", "quite", "easily", "influenced", "by", "physical", "obstruction", "and", "blocks", ".", "For", "example", ",", "if", "the", "MT", "passes", "some", "blocks", "or", "moves", "into", "the", "elevator", ",", "there", "will", "be", "an", "abrupt", "drop", "in", "its", "received", "WLAN", "signal", "strength", ".", "In", "this", "case", ",", "the", "MT", "may", "not", "have", "enough", "time", "to", "finish", "the", "WLAN-to", "-3", "G-Network", "vertical", "handoff", "procedure", "before", "the", "link", "to", "WLAN", "breaks", ".", "Therefore", ",", "how", "to", "effectively", "detect", "the", "signal", "decay", "to", "trigger", "the", "handoff", "becomes", "a", "very", "important", "issue", ".", "In", "this", "paper", ",", "we", "propose", "to", "maintain", "a", "Handoff", "Trigger", "Table", "-LRB-", "HTT", "-RRB-", "at", "the", "Access", "Point", "-LRB-", "AP", "-RRB-", "to", "record", "some", "location", "information", "on", "transition", "areas", "in", "which", "vertical", "575", "handoffs", "occur", ".", "With", "the", "information", "of", "the", "HTT", ",", "a", "proactive", "handoff", "scheme", "is", "proposed", "to", "enable", "the", "MTs", "to", "start", "the", "vertical", "handoff", "procedure", "early", "enough", "to", "finish", "the", "vertical", "handoff", "procedure", ",", "thus", "the", "handoff", "call", "dropping", "probability", "can", "be", "decreased", "dramatically", ".", "The", "rest", "of", "this", "paper", "is", "organized", "as", "follows", ".", "In", "Section", "2", ",", "some", "related", "work", "is", "discussed", ".", "In", "Section", "3", ",", "we", "propose", "a", "Handoff", "Trigger", "Table", "to", "assist", "making", "handoff", "decisions", ".", "The", "handoff", "schem", "e", "based", "on", "this", "table", "is", "also", "presented", ".", "Section", "4", "gives", "simulation", "results", "to", "demonstrate", "the", "better", "performance", "of", "the", "proposed", "scheme", "in", "comparison", "with", "the", "traditional", "one", ".", "Section", "5", "concludes", "the", "paper", ".", "In", "traditional", "handoff", "schemes", ",", "the", "received", "signal", "strength", "-LRB-", "RSS", "-RRB-", "has", "been", "used", "as", "an", "indicator", "for", "making", "handoff", "decisions", ".", "Some", "of", "the", "traditional", "approaches", "are", "as", "follows", ":", "-LSB-", "5", "-RSB-", "RSS", ":", "handoff", "takes", "place", "if", "the", "RSS", "of", "a", "candidate", "point", "of", "attachment", "is", "larger", "than", "the", "RSS", "of", "the", "current", "point", "of", "attachm", "ent", "-LRB-", "RSS", "new", ">", "RSS", "current", "-RRB-", ";", "RSS", "plus", "threshold", ":", "handoff", "is", "made", "if", "the", "RSS", "of", "a", "candidate", "point", "of", "attachment", "is", "larger", "than", "that", "of", "the", "current", "point", "of", "attachment", "and", "the", "latter", "is", "less", "than", "a", "certain", "pre-defined", "threshold", "T", "-LRB-", "RSS", "new", ">", "RSS", "current", "and", "RSS", "current", "<", "T", "-RRB-", ";", "RSS", "plus", "hysteresis", ":", "a", "handoff", "takes", "place", "if", "the", "RSS", "of", "the", "candidate", "point", "of", "attachment", "is", "larger", "than", "the", "RSS", "of", "the", "current", "one", "with", "a", "pre-defined", "hysteresis", "margin", "H", "-LRB-", "RSS", "new", ">", "RSS", "current", "+", "H", "-RRB-", ";", "Algorithm", "plus", "dwell", "timer", ":", "sometimes", "a", "dwell", "timer", "can", "be", "added", "to", "the", "above", "algorithms", ".", "This", "timer", "is", "started", "when", "one", "of", "the", "above", "conditions", "happens", ",", "and", "the", "handoff", "takes", "place", "if", "the", "condition", "is", "met", "for", "the", "entire", "dwell", "timer", "interval", ".", "For", "the", "vertical", "handoff", "process", ",", "it", "may", "not", "be", "very", "reliable", "to", "make", "handoff", "decisions", "based", "only", "on", "the", "RSS", "of", "the", "point", "of", "attachment", "-LRB-", "e.g.", ",", "AP", "of", "the", "WLAN", "-RRB-", "and", "the", "candidate", "point", "of", "attachment", "-LRB-", "e.g.", ",", "base", "station", "of", "the", "3G", "network", "-RRB-", "because", "of", "the", "asymmetric", "nature", "of", "the", "handoff", "problem", "-LSB-", "6", "-RSB-", ".", "As", "mentioned", "before", ",", "the", "handoff", "from", "WLAN", "to", "3G", "network", "is", "expected", "to", "be", "efficient", "and", "effective", ".", "Some", "methods", "have", "been", "proposed", "to", "achieve", "this", "goal", ".", "One", "of", "them", "is", "the", "Fast", "Fourier", "Transform", "-LRB-", "FFT", "-RRB-", "-", "based", "decay", "detection", "-LSB-", "1", "-RSB-", ".", "This", "approach", "tries", "to", "estimate", "the", "signal", "decay", ",", "and", "will", "trigger", "the", "handoff", "after", "the", "signal", "is", "confirmed", "to", "be", "decreased", "to", "a", "certain", "threshold", ".", "However", ",", "this", "approach", "has", "high", "calculation", "complexity", "with", "the", "need", "of", "frequent", "sampling", ",", "and", "suffers", "from", "estimation", "errors", ".", "In", "-LSB-", "2", "-RSB-", ",", "handoff", "triggering", "nodes", "are", "used", "to", "notify", "the", "mobile", "terminal", "to", "start", "the", "handoff", ".", "These", "special", "nodes", "are", "data", "stations", "installed", "in", "WLAN/cellular", "transition", "regions", "where", "vertical", "handoffs", "occur", ".", "When", "an", "MT", "moves", "close", "to", "it", ",", "the", "handoff", "triggering", "node", "will", "send", "a", "handoff", "trigger", "command", "to", "trigger", "the", "link", "layer", "handoff", ".", "Using", "handoff", "trigger", "node", "can", "be", "good", "at", "triggering", "the", "handoffs", ",", "but", "if", "they", "are", "needed", "in", "many", "places", "within", "a", "WLAN", ",", "it", "will", "be", "costly", "to", "set", "up", "many", "trigger", "nodes", ".", "In", "addition", ",", "if", "there", "are", "new", "blocks", "appearing", "in", "the", "WLAN", ",", "it", "is", "hard", "to", "determine", "where", "the", "additional", "trigger", "nodes", "should", "be", "installed", ".", "Therefore", ",", "this", "approach", "is", "not", "very", "flexible", ".", "The", "Fuzzy", "logic", "based", "handoff", "algorithm", "-LSB-", "3", "-RSB-", "-LSB-", "4", "-RSB-", "is", "proposed", "to", "assist", "making", "handoff", "decisions", ".", "This", "algorithmdecreases", "handoff", "delay", "and", "the", "number", "of", "unnecessary", "handoffs", "by", "changing", "the", "RSS", "average", "window", "according", "to", "the", "MT", "speed", ".", "It", "is", "worth", "mentioning", "that", "some", "fuzzy", "logic", "based", "algorithms", "are", "complex", "and", "may", "not", "be", "easy", "to", "be", "implemented", "in", "practical", "systems", ".", "Recently", ",", "WLAN", "has", "been", "expected", "to", "provide", "user", "location", "information", "-LSB-", "6", "-RSB-", "-", "-LSB-", "10", "-RSB-", ",", "which", "is", "helpful", "for", "making", "vertical", "handoffs", ".", "We", "propose", "to", "use", "a", "Handoff", "Trigger", "Table", "-LRB-", "HTT", "-RRB-", "to", "store", "such", "location", "information", "at", "the", "AP", "and", "utilize", "it", "to", "trigger", "the", "WLAN-to-3G", "vertical", "handoff", "explicitly", ".", "Based", "on", "this", "table", ",", "a", "proactive", "handoff", "scheme", "is", "proposed", "to", "assist", "MTs", "to", "handoff", "in", "the", "right", "places", "at", "the", "right", "time", ".", "With", "this", "scheme", ",", "handoff", "decisions", "can", "be", "more", "efficient", "and", "handoffs", "are", "more", "likely", "to", "succeed", "compared", "with", "the", "traditional", "schemes", "which", "trigger", "the", "handoff", "mainly", "based", "on", "the", "received", "signal", "strength", "at", "the", "MTs", ".", "3.1", "Handoff", "Trigger", "Table", "A", "typical", "integrated", "3G/WLAN", "network", "is", "shown", "in", "Fig.", "1", ".", "The", "HTT", "is", "normally", "implemented", "at", "the", "APs", "of", "WLAN", "and", "used", "to", "record", "the", "user", "location", "information", "which", "will", "be", "helpful", "to", "make", "handoff", "decisions", "as", "explained", "later", ".", "An", "example", "of", "the", "HTT", "is", "given", "in", "Table", "1", ".", "Table", "1", ":", "An", "example", "of", "HandoffTrigger", "Table", "X", "1", "+", "D", ">", "x", ">", "X", "1", "-", "D", "Y", "1", "+", "D", ">", "y", ">", "Y", "1", "-", "D", "X", "2", "+", "D", ">", "x", ">", "X", "2", "-", "D", "Y", "2", "+", "D", ">", "y", ">", "Y", "2", "-", "D", "X", "n", "+", "D", ">", "x", ">", "X", "n", "-", "D", "Y", "n", "+", "D", ">", "y", ">", "Y", "n", "-", "D", "In", "the", "HTT", ",", "the", "information", "of", "the", "locations", "where", "an", "MT", "needs", "to", "handoff", "is", "given", ".", "We", "defined", "Black", "Holes", "-LRB-", "BH", "-RRB-", "the", "small", "areas", "in", "which", "the", "received", "signal", "strength", "at", "an", "MT", "decreases", "abruptly", "and", "the", "link", "to", "the", "AP", "breaks", "in", "a", "very", "short", "time", ".", "In", "such", "BHs", ",", "if", "the", "MT", "does", "not", "switch", "the", "connection", "to", "the", "3G", "network", ",", "it", "will", "not", "be", "able", "to", "keep", "the", "connectivity", "to", "its", "correspondence", "node", ".", "Each", "BH", "is", "proposed", "to", "be", "covered", "by", "a", "slightly", "larger", "area", ",", "namely", ",", "proactive", "area", ".", "When", "MTs", "move", "into", "a", "proactive", "area", ",", "the", "AP", "will", "send", "a", "message", "to", "notify", "the", "MT", "to", "start", "proactive", "handoff", "-LRB-", "detailed", "in", "Section", "3.2", "-RRB-", ",", "regardless", "of", "the", "current", "received", "signal", "strength", "at", "the", "MT.", "In", "Table", "1", ",", "-LRB-", "X", "i", ",", "Y", "i", ",", "i", "=", "1", ",", "2", ",", ",", "n", "-RRB-", "are", "the", "location", "coordinates", "of", "the", "center", "of", "the", "BHs", ",", "and", "D", "is", "the", "distance", "between", "the", "center", "of", "the", "black", "hole", "and", "proactive", "area", "edges", ".", "-LRB-", "X", "n", "+", "D", ">", "x", ">", "X", "n", "-", "D", ",", "Y", "n", "+", "D", ">", "y", ">", "Y", "n", "-", "D", "-RRB-", "is", "an", "example", "of", "possible", "ways", "to", "describe", "the", "proactive", "area", ".", "Note", "that", "other", "types", "of", "proactive", "areas", "such", "as", "circles", "can", "also", "be", "adopted", ".", "Fig.", "1", "illustrates", "the", "above", "two", "concepts", ",", "wherein", "A", ",", "B", "and", "C", "are", "three", "BHs", "within", "the", "WLAN", ",", "and", "A", "'", ",", "B", "'", ",", "C", "'", "are", "the", "corresponding", "proactive", "areas", ".", "The", "HTT", "will", "be", "initialized", "when", "the", "AP", "is", "installed", "in", "the", "WLAN", ",", "then", "it", "will", "be", "dynamically", "updated", ".", "In", "the", "initial", "stage", ",", "MTs", "will", "handoff", "in", "a", "traditional", "way", ",", "i.e.", ",", "handoff", "576", "Figure", "1", ":", "An", "example", "of", "WLAN", "with", "Black", "Holes", "when", "the", "received", "signal", "strength", "decreases", "to", "a", "threshold", ".", "In", "addition", ",", "the", "MT", "sends", "out", "a", "handoff", "notification", "to", "the", "AP", ",", "and", "the", "AP", "will", "record", "the", "coordinates", "of", "this", "handoff", "location", "into", "the", "HTT", ".", "Usually", "BH", "is", "not", "a", "dot", ",", "but", "a", "small", "area", ".", "Therefore", ",", "for", "each", "BH", ",", "the", "HTT", "will", "store", "many", "coordinates", "of", "points", "where", "vertical", "handoffs", "occur", ",", "then", "the", "AP", "will", "try", "to", "merge", "these", "coordinates", "to", "form", "a", "corresponding", "proactive", "area", "and", "put", "it", "into", "the", "HTT", ".", "After", "the", "initialization", "stage", ",", "the", "HTT", "will", "only", "contain", "the", "description", "of", "proactive", "areas", "instead", "of", "individual", "coordinates", "of", "BHs", ".", "Meanwhile", ",", "the", "AP", "will", "often", "check", "the", "HTT", "to", "decide", "whether", "any", "MT", "enters", "the", "proactive", "areas", ".", "When", "a", "new", "BH", "appears", ",", "the", "AP", "will", "be", "able", "to", "record", "its", "proactive", "area", "into", "the", "HTT", "after", "some", "vertical", "handoffs", "take", "place", "near", "this", "BH", ",", "similar", "to", "the", "initial", "stage", ".", "When", "a", "BH", "disappears", "due", "to", "some", "reasons", "-LRB-", "e.g.", ",", "restructure", "in", "the", "WLAN", "-RRB-", ",", "there", "will", "be", "no", "vertical", "handoffs", "occur", "in", "the", "corresponding", "proactive", "area", ".", "As", "a", "result", ",", "the", "AP", "will", "remove", "the", "entry", "of", "this", "proactive", "area", "fromthe", "HTT", "after", "some", "predefined", "time", ",", "which", "can", "be", "decided", "by", "the", "system", "administrator", ".", "With", "the", "above", "methods", ",", "the", "HTT", "is", "maintained", "dynamically", "and", "can", "adaptive", "to", "the", "change", "of", "the", "environment", ".", "3.2", "Proactive", "Handoff", "Scheme", "Based", "on", "the", "Handoff", "Trigger", "Table", ",", "we", "propose", "a", "proactive", "handoff", "scheme", "to", "achieve", "better", "handoff", "performance", ".", "In", "the", "traditional", "scheme", ",", "the", "handoff", "decision", "mechanism", "is", "that", "a", "handoff", "will", "be", "triggered", "when", "the", "current", "RSS", "is", "lower", "than", "a", "threshold", "-LRB-", "THm", "-RRB-", "or", "RSS", "from", "the", "candidate", "network", "is", "higher", "than", "a", "threshold", "-LRB-", "THw", "-RRB-", ".", "The", "procedure", "is", "illustrated", "in", "Fig.", "2", ".", "In", "the", "proposed", "scheme", ",", "we", "divide", "the", "handoff", "into", "two", "stages", ",", "a", "proactive", "handoff", "stage", "and", "a", "handoff", "stage", ".", "In", "the", "proactive", "handoff", "stage", ",", "when", "an", "MT", "moves", "into", "a", "proactive", "area", ",", "the", "AP", "will", "send", "it", "a", "proactive", "handoff", "message", ".", "Following", "that", "the", "MT", "will", "send", "out", "a", "binding", "update", "message", "to", "the", "AP", "and", "start", "this", "network", "layer", "handoff", ".", "The", "procedure", "is", "given", "in", "Fig.", "3", ".", "When", "an", "MT", "enters", "the", "WLAN", ",", "the", "RSSs", "in", "sampling", "intervals", "will", "be", "measured", "and", "their", "averages", "are", "computed", ".", "At", "the", "same", "time", ",", "the", "AP", "will", "check", "if", "the", "MT", "is", "in", "any", "proactive", "area", ".", "If", "yes", ",", "it", "will", "send", "a", "control", "message", "Pre-Handoff", "-", "CMD", "to", "the", "MT.", "After", "receiving", "this", "message", ",", "the", "MT", "will", "start", "to", "send", "the", "cellular", "network", "a", "message", "to", "request", "a", "connection", ".", "When", "the", "signal", "decreases", "to", "a", "certain", "threshold", "R", "t", ",", "the", "link-layer", "handoff", "starts", ",", "and", "the", "MT", "will", "Handoff", "execution", "RSS", "<", "Rt", "No", "Yes", "Start", "handoff", "Averaging", "Measurements", "Figure", "2", ":", "Traditional", "handoffscheme", "for", "Hybrid", "Networks", "Measurements", "Averaging", "Handoff", "Trigger", "Table", "Handoff", "execution", "RSS", "<", "Rt", "Pre-handoff", "Yes", "No", "Figure", "3", ":", "Proactive", "handoffscheme", "for", "Hybrid", "Networks", "switch", "the", "connection", "to", "the", "cellular", "network", ".", "When", "the", "received", "signal", "strength", "decreases", "to", "R", "t", ",", "but", "the", "MT", "still", "does", "not", "receive", "the", "Pre-Handoff-CMD", ",", "it", "will", "send", "a", "message", "to", "informthe", "AP", "to", "add", "this", "location", "coordinate", "into", "the", "HTT", ".", "The", "threshold", "R", "t", "is", "a", "design", "parameter", "that", "can", "be", "set", "by", "the", "administrator", "to", "best", "enable", "vertical", "handoff", "procedure", "under", "the", "WLAN-specific", "physical", "situation", ".", "In", "this", "section", ",", "we", "compare", "the", "performance", "of", "the", "proposed", "vertical", "handoff", "scheme", "with", "HTT", "and", "the", "traditional", "handoff", "scheme", "by", "simulation", ".", "Consider", "the", "simplified", "network", "model", "for", "3G/WLAN", "networks", "shown", "in", "Fig.", "1", ".", "We", "assume", "that", "the", "3G", "network", "covers", "the", "WLAN", "area", ".", "The", "RSS", "of", "the", "WLAN", "signal", "at", "an", "MH", "is", "assumed", "as", "a", "function", "of", "the", "distance", "d", "between", "the", "MH", "and", "the", "AP", "-LSB-", "11", "-RSB-", ":", "RSS", "-LRB-", "d", "-RRB-", "=", "P", "T", "L", "10n", "log", "-LRB-", "d", "-RRB-", "+", "f", "-LRB-", ",", "-RRB-", "dBm", ",", "where", "P", "T", "is", "the", "transmitted", "power", ",", "L", "is", "a", "constant", "signal", "power", "loss", ",", "n", "is", "the", "path", "loss", "exponent", ",", "and", "f", "-LRB-", ",", "-RRB-", "represents", "shadow", "fading", "modeled", "as", "zero", "mean", "Gaussian", "random", "variable", "with", "mean", "and", "standard", "deviation", ".", "In", "the", "WLAN", ",", "there", "are", "a", "number", "of", "BHs", ",", "in", "which", "the", "RSS", "will", "decrease", "to", "almost", "zero", "immediately", "and", "the", "MT", "will", "have", "to", "handoff", "to", "the", "3G", "networks", ".", "577", "The", "popular", "Random", "Waypoint", "mobility", "model", "-LSB-", "12", "-RSB-", "is", "used", "to", "simulate", "the", "mobility", "of", "the", "MTs", "in", "the", "WLAN", ".", "At", "the", "beginning", ",", "the", "MTs", "'", "positions", "in", "the", "WLAN", "are", "uniformly", "distributed", ".", "Each", "MT", "will", "move", "at", "a", "random", "speed", "V", ",", "which", "is", "uniformly", "distributed", "in", "-LSB-", "V", "min", ",", "V", "max", "-RSB-", ",", "and", "in", "a", "randomdirection", ".", "After", "randomtime", "T", "m", ",", "the", "MT", "will", "stop", "and", "stay", "for", "randomtime", "T", "s", ",", "with", "both", "T", "m", "and", "T", "s", "uniformly", "distributed", "in", "-LSB-", "0", ",", "2s", "-RSB-", ".", "The", "MT", "will", "continue", "the", "movement", "as", "described", "above", ".", "Any", "MT", "that", "moves", "out", "of", "the", "WLAN", "will", "be", "eliminated", ",", "and", "a", "new", "MT", "will", "be", "gener-ated", "in", "the", "WLAN", "with", "a", "randomly", "chosen", "location", ".", "Some", "other", "parameters", "used", "in", "the", "simulations", "are", "given", "in", "Table", "2", ".", "Table", "2", ":", "Parameters", "for", "the", "numerical", "examples", "Parameter", "Value", "PT", "100mW", "R", "t", "-85", "dbm", "n", "3.3", "7dB", "Handoff", "time", "2s", "Velocity", "range", "0", "2", "m", "/", "sec", "Number", "of", "BHs", "3", "WLAN", "area", "100m", "100m", "We", "define", "the", "transition", "time", "as", "the", "time", "from", "when", "an", "MT", "starts", "handoff", "to", "the", "moment", "it", "moves", "into", "a", "BH", ",", "and", "handoff", "time", "as", "the", "time", "from", "when", "an", "MT", "sends", "out", "the", "binding", "update", "message", "to", "the", "moment", "it", "receives", "the", "first", "package", "fromthe", "Base", "Station", ".", "The", "drop", "of", "a", "call", "only", "happens", "when", "the", "transition", "time", "is", "less", "than", "the", "handoff", "time", ".", "In", "Figs.", "4", ",", "5", "and", "6", ",", "we", "present", "the", "dropping", "probability", "of", "the", "proposed", "scheme", "and", "the", "traditional", "handoff", "scheme", "based", "on", "different", "proactive", "distance", ",", "D", ",", "and", "two", "values", "of", "user", "mobility", "rate", ",", "V", ",", "respectively", ".", "Fig.", "4", "illustrates", "the", "0", "0.5", "1", "1.5", "2", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "User", "Mobility", "rate", "Drop", "Probablity", "Traditional", "Method", "D", "=", "0.4", "HTT", "Method", "D", "=", "0.5", "HTT", "Method", "Figure", "4", ":", "Effect", "of", "user", "mobility", "effect", "of", "user", "mobility", "on", "the", "connection", "dropping", "probability", ".", "In", "this", "figure", ",", "the", "dropping", "probabilities", "for", "proactive", "distance", "D", "=", "0.4", "and", "D", "=", "0.5", ",", "are", "given", ".", "In", "these", "results", ",", "handoff", "time", "is", "2s", ".", "From", "the", "figure", ",", "we", "can", "see", "that", "the", "handoff", "probability", "has", "been", "reduced", "with", "the", "explicit", "handoff", "trigger", "in", "the", "proposed", "scheme", ",", "because", "mobile", "terminals", "can", "have", "more", "time", "to", "execute", "the", "handoff", ".", "When", "the", "proactive", "distance", "increases", ",", "the", "dropping", "probability", "decreases", ".", "This", "is", "due", "to", "the", "fact", "that", "when", "the", "proactive", "distance", "is", "larger", ",", "the", "time", "for", "the", "MT", "to", "execute", "the", "handoff", "will", "be", "longer", ".", "We", "can", "also", "see", "that", "when", "the", "MTs", "move", "faster", ",", "dropping", "probability", "will", "increase", "as", "well", ",", "because", "shorter", "time", "is", "made", "available", "for", "the", "MT", "to", "execute", "the", "vertical", "handoff", "given", "the", "same", "D.", "Compared", "with", "the", "HTT", "scheme", ",", "the", "traditional", "scheme", "is", "more", "sensitive", "to", "the", "user", "mobility", "rate", ",", "and", "the", "dropping", "probability", "increases", "rapidly", "as", "the", "mobility", "increases", ".", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "0.5", "0", "0.05", "0.1", "0.15", "0.2", "0.25", "0.3", "0.35", "0.4", "0.45", "Distance", "of", "prehandoff", "D", "r", "oppi", "ng", "P", "r", "obabl", "i", "t", "y", "V", "=", "0.5", "Traditional", "Method", "V", "=", "0.5", "HTT", "Method", "V", "=", "1", "Traditional", "Method", "V", "=", "1", "HTT", "Method", "Figure", "5", ":", "Effect", "of", "proactive", "distance", "Fig.", "5", "shows", "that", "as", "the", "proactive", "distance", "increases", ",", "the", "dropping", "probability", "of", "HTT", "scheme", "decreases", "very", "fast", "and", "it", "is", "quite", "sensitive", "to", "the", "distance", "increasing", ".", "When", "the", "user", "mobility", "rate", "increases", ",", "the", "dropping", "probability", "will", "also", "increase", ",", "which", "conforms", "with", "the", "results", "in", "Fig.", "4", ".", "Fig.", "6", "shows", "the", "impact", "of", "the", "handoff", "time", "-LRB-", "in", "practical", "value", "range", "-RRB-", "on", "the", "dropping", "probability", ".", "With", "a", "given", "transition", "time", ",", "if", "the", "handoff", "time", "increases", ",", "the", "dropping", "probability", "will", "be", "higher", ",", "as", "expected", ".", "Fig.", "7", "shows", "that", "the", "impact", "of", "the", "distance", "between", "AP", "and", "BH", "on", "the", "dropping", "probability", ".", "The", "signal", "strength", "decays", "with", "the", "distance", "to", "the", "AP", "in", "WLANs", ".", "In", "the", "proposed", "scheme", ",", "MTs", "start", "network", "layer", "handoff", "in", "advance", "according", "to", "the", "parameter", "D", "and", "regardless", "of", "the", "RSS", ",", "so", "the", "performance", "of", "the", "proposed", "scheme", "is", "independent", "from", "the", "distance", "d", "between", "the", "BH", "and", "the", "AP", ".", "However", ",", "for", "a", "given", "RSS", "threshold", ",", "the", "performance", "of", "traditional", "handoff", "scheme", "relies", "heavily", "on", "d", ",", "and", "it", "has", "better", "performance", "for", "the", "BHs", "which", "are", "far", "fromthe", "AP", ".", "This", "is", "because", "the", "signal", "strength", "is", "relatively", "high", "near", "the", "AP", ",", "and", "MT", "will", "normally", "find", "that", "its", "RSS", "is", "above", "the", "threshold", ".", "As", "the", "MT", "enters", "the", "BH", ",", "the", "signal", "strength", "degrades", "so", "abruptly", "that", "the", "MT", "does", "not", "have", "enough", "time", "to", "do", "handoff", ",", "which", "leads", "to", "high", "dropping", "probability", ".", "In", "contrast", ",", "the", "RSS", "of", "an", "MT", "moving", "around", "a", "BH", "that", "is", "far", "from", "the", "AP", "will", "be", "relatively", "low", "and", "may", "be", "close", "to", "the", "threshold", ",", "hence", "a", "handoff", "decision", "may", "be", "easily", "triggered", "before", "the", "MT", "enters", "the", "BH", ".", "In", "this", "case", ",", "the", "MT", "gets", "longer", "time", "to", "conduct", "the", "handoff", "procedure", "so", "a", "relatively", "lower", "dropping", "probability", "can", "be", "achieved", ".", "578", "1.8", "2", "2.2", "2.4", "2.6", "2.8", "3", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "Handoff", "time", "-LRB-", "s", "-RRB-", "D", "r", "oppi", "ng", "P", "r", "o", "bab", "l", "i", "t", "y", "Traditional", "Method", "HTT", "Method", "Figure", "6", ":", "Effect", "of", "Vertical", "handoff", "time", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "12", "0", "0.1", "0.2", "0.3", "0.4", "0.5", "0.6", "0.7", "0.8", "0.9", "Distance", "between", "AP", "and", "BH", "Dr", "oppi", "ng", "P", "r", "obabl", "i", "t", "y", "Traditional", "Method", "D", "=", "0.4", "HTT", "Method", "D", "=", "0.5", "HTT", "Method", "Figure", "7", ":", "Effect", "of", "distance", "between", "AP", "and", "BH", "FromFig", ".", "7", ",", "we", "can", "also", "see", "that", "for", "the", "proposed", "scheme", ",", "the", "proactive", "distance", "D", "should", "be", "set", "properly", ".", "Similar", "requirement", "applies", "to", "the", "setting", "of", "the", "threshold", "in", "the", "traditional", "scheme", ".", "If", "D", "or", "the", "threshold", "is", "set", "to", "be", "high", ",", "there", "will", "be", "many", "unnecessary", "handoffs", "although", "the", "dropping", "probability", "will", "decrease", ".", "On", "the", "other", "hand", ",", "if", "D", "or", "the", "threshold", "is", "too", "low", ",", "the", "dropping", "probability", "will", "increase", ".", "However", ",", "the", "dependence", "on", "d", "of", "the", "traditional", "handoff", "scheme", "can", "not", "be", "eliminated", "by", "simply", "adjusting", "the", "threshold", ",", "which", "makes", "the", "selection", "of", "a", "proper", "threshold", "in", "the", "traditional", "scheme", "even", "more", "difficult", ".", "We", "further", "study", "the", "performance", "of", "the", "two", "schemes", "in", "the", "WLAN", "with", "different", "number", "of", "BHs", ".", "The", "locations", "of", "the", "BHs", "are", "set", "to", "be", "uniformly", "distributed", "within", "the", "WLAN", ".", "FromFig", ".", "8", ",", "it", "can", "be", "seen", "that", "for", "both", "schemes", "the", "dropping", "probability", "is", "not", "sensitive", "to", "the", "number", "of", "BHs", "when", "their", "locations", "are", "uniformly", "distributed", ".", "The", "case", "for", "BHs", "with", "non-uniformdistribution", "is", "left", "as", "future", "work", ".", "2", "4", "6", "8", "10", "12", "14", "16", "18", "0.01", "0.015", "0.02", "0.025", "0.03", "0.035", "0.04", "0.045", "Number", "of", "BHs", "Dropping", "Probablity", "Traditional", "Method", "D", "=", "0.4", "HTT", "Method", "Figure", "8", ":", "Effect", "of", "number", "of", "BHs", "In", "this", "paper", ",", "vertical", "handoffs", "fromWLAN", "to", "3G", "cellular", "network", "has", "been", "investigated", ".", "To", "support", "making", "proper", "handoff", "decisions", ",", "a", "Handoff", "Trigger", "Table", "-LRB-", "HTT", "-RRB-", "has", "been", "proposed", "to", "be", "implemented", "at", "the", "AP", "of", "WLAN", "to", "record", "the", "location", "information", "of", "BHs", ".", "Based", "on", "this", "table", ",", "a", "proactive", "handoff", "scheme", "has", "been", "proposed", ".", "Simulation", "results", "have", "been", "given", "to", "show", "that", "with", "the", "information", "in", "the", "HTT", ",", "the", "vertical", "handoff", "decisions", "can", "be", "made", "more", "efficiently", "and", "dropping", "probability", "can", "be", "decreased", "signif-icantly", ".", "Possible", "future", "work", "include", "making", "the", "proactive", "distance", "D", "a", "variable", "for", "different", "environments", "and", "further", "investigating", "the", "unnecessary", "handoff", "events", "in", "different", "prehandoff", "schemes", ".", "The", "HTT", "scheme", "can", "also", "be", "used", "in", "sys-temdiscovery", "to", "assist", "reducing", "MH", "power", "consumption", ".", "This", "work", "has", "been", "supported", "jointly", "by", "the", "Natural", "Sciences", "and", "Engineering", "Research", "Council", "-LRB-", "NSERC", "-RRB-", "of", "Canada", "under", "Strategic", "Grant", "No.", "257682", "and", "Research", "in", "Motion", "-LRB-", "RIM", "-RRB-", ".", "-LSB-", "1", "-RSB-", "Q.", "Zhang", ",", "C.", "Guo", ",", "Z.", "Guo", "and", "W.", "Zhu", ",", "``", "Efficient", "mobility", "management", "for", "vertical", "handoff", "between", "WWAN", "and", "WLAN", "''", ",", "IEEE", "Communications", "Magazine", "Vol", ".", "41", ",", "Issue", "11", ",", "Nov.", "2003", ",", "pp.", "102", "108", ".", "-LSB-", "2", "-RSB-", "W.-T", ".", "Chen", ";", "J.-C", ".", "Liu", ";", "H.-K", ".", "Huang", ",", "``", "An", "adaptive", "scheme", "for", "vertical", "handoff", "in", "wireless", "overlay", "networks", "''", ",", "Proceedings", "of", "International", "Conference", "on", "Parallel", "and", "Distributed", "Systems", "2004", ",", "7-9", "July", "2004", ",", "pp.", "541", "548", ".", "-LSB-", "3", "-RSB-", "P.", "Khadivi", ",", "T.D.", "Todd", "and", "D.", "Zhao", ",", "``", "Handoff", "trigger", "nodes", "for", "hybrid", "IEEE", "802.11", "WLAN/cellular", "networks", "''", ",", "Proc", ".", "QSHINE", "2004", ",", "pp.", "164", "170", ".", "-LSB-", "4", "-RSB-", "A.", "Majlesi", "and", "B.H.", "Khalaj", ",", "``", "An", "adaptive", "fuzzy", "logic", "based", "handoff", "algorithmfor", "interworking", "between", "WLANs", "and", "mobile", "networks", "''", ",", "Proc", ".", "PIMRC", "'", "02", ",", "Sept.", "2002", ",", "pp.", "2446", "2451", ".", "-LSB-", "5", "-RSB-", "K.", "Pahlavan", ",", "et", "al.", ",", "``", "Handoff", "in", "hybrid", "mobile", "data", "579", "networks", "''", ",", "IEEE", "Personal", "Communications", ",", "Vol", ".7", ",", "No.", "2", ",", "April", "2000", ",", "pp.", "34", "47", ".", "-LSB-", "6", "-RSB-", "J.-Z", ".", "Sun", ",", "J.", "Sauvola", "and", "D.", "Howie", ",", "``", "Features", "in", "future", ":", "4G", "visions", "froma", "technical", "perspective", "''", ",", "Proc", ".", "GLOBECOM", "'", "01", ",", "Nov.", "2001", ",", "pp.", "3533", "3537", ".", "-LSB-", "7", "-RSB-", "P.", "Bahl", "and", "V.", "Padmanabhan", ",", "``", "RADAR", ":", "An", "in-building", "RF-based", "user", "location", "and", "tracking", "system", "''", ",", "Proc", ".", "IEEE", "INFOCOM", "'", "00", ",", "Tel-Aviv", ",", "Israel", ",", "2000", ",", "pp.", "775", "784", ".", "-LSB-", "8", "-RSB-", "P.Krishnan", ",", "A.S.", "Krishnakumar", ",", "W.-H", ".", "Ju", ",", "C.", "Mallows", ",", "and", "S.", "Ganu", ",", "``", "A", "systemfor", "LEASE", ":", "location", "estimationassisted", "by", "stationary", "emitters", "for", "indoor", "RF", "wireless", "networks", "''", ",", "Proc", ".", "IEEE", "INFOCOM", "'", "04", ",", "Hongkong", ",", "2004", ",", "pp.", "1001", "1011", ".", "-LSB-", "9", "-RSB-", "K.-I", ".", "Itoh", ",", "S.", "Watanabe", ",", "J.-S", ".", "Shih", ",", "and", "T.", "Sato", ",", "``", "Performance", "of", "handoff", "algorithm", "based", "on", "distance", "and", "RSSI", "measurements", "''", ",", "IEEE", "Trans", ".", "Vehic", ".", "Technol.", ",", "Vol", ".", "51", ",", "No.", "6", ",", "Nov.", "2002", ",", "pp.", "1460", "-", "1468", ".", "-LSB-", "10", "-RSB-", "J.", "Makela", ",", "M.", "Ylianttila", "and", "K.", "Pahlavan", ",", "``", "Handoff", "decision", "in", "multi-service", "networks", "''", ",", "Proc", ".", "PIMRC", "'", "00", ",", "Sept.", "2000", ",", "pp.", "655", "659", ".", "-LSB-", "11", "-RSB-", "A.H.", "Zahran", "and", "B.", "Liang", ",", "``", "Performance", "evaluation", "framework", "for", "vertical", "handoff", "algorithms", "in", "heterogeneous", "networks", "''", ",", "Proc", "ICC", "2005", ",", "May", "2005", ",", "pp.", "173", "178", "-LSB-", "12", "-RSB-", "C", "Bettstetter", ",", "H", "Hartenstein", "and", "X", "Perez-Costa", ",", "``", "Stochastic", "properties", "of", "the", "randomwaypoint", "mobility", "model", "''", ",", "Wireless", "Networks", ",", "Vol", ".", "10", ",", "No.", "5", ",", "Sept.", "2004", ",", "pp.", "555", "567", ".", "580" ]

[ "B", "I", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Geographically", "Focused", "Collaborative", "Crawling", "A", "collaborative", "crawler", "is", "a", "group", "of", "crawling", "nodes", ",", "in", "which", "each", "crawling", "node", "is", "responsible", "for", "a", "specific", "portion", "of", "the", "web", ".", "We", "study", "the", "problem", "of", "collecting", "geographically", "-", "aware", "pages", "using", "collaborative", "crawling", "strategies", ".", "We", "first", "propose", "several", "collaborative", "crawling", "strategies", "for", "the", "geographically", "focused", "crawling", ",", "whose", "goal", "is", "to", "collect", "web", "pages", "about", "specified", "geographic", "locations", ",", "by", "considering", "features", "like", "URL", "address", "of", "page", ",", "content", "of", "page", ",", "extended", "anchor", "text", "of", "link", ",", "and", "others", ".", "Later", ",", "we", "propose", "various", "evaluation", "criteria", "to", "qualify", "the", "performance", "of", "such", "crawling", "strategies", ".", "Finally", ",", "we", "experimentally", "study", "our", "crawling", "strategies", "by", "crawling", "the", "real", "web", "data", "showing", "that", "some", "of", "our", "crawling", "strategies", "greatly", "outperform", "the", "simple", "URL-hash", "based", "partition", "collaborative", "crawling", ",", "in", "which", "the", "crawling", "assignments", "are", "determined", "according", "to", "the", "hash-value", "computation", "over", "URLs", ".", "More", "precisely", ",", "features", "like", "URL", "address", "of", "page", "and", "extended", "anchor", "text", "of", "link", "are", "shown", "to", "yield", "the", "best", "overall", "performance", "for", "the", "geographically", "focused", "crawling", ".", "H.", "4", ".", "m", "-LSB-", "Information", "Systems", "-RSB-", ":", "Miscellaneous", ";", "D.", "2.8", "-LSB-", "Soft", "ware", "Engineering", "-RSB-", ":", "Metrics", "--", "performance", "measures", "Measurement", ",", "Performance", ",", "Experimentation", "While", "most", "of", "the", "current", "search", "engines", "are", "effective", "for", "pure", "keyword-oriented", "searches", ",", "these", "search", "engines", "are", "not", "fully", "effective", "for", "geographic-oriented", "keyword", "searches", ".", "For", "instance", ",", "queries", "like", "``", "restaurants", "in", "New", "York", ",", "NY", "''", "or", "``", "good", "plumbers", "near", "100", "milam", "street", ",", "Houston", ",", "TX", "''", "or", "``", "romantic", "hotels", "in", "Las", "Vegas", ",", "NV", "''", "are", "not", "properly", "man-aged", "by", "traditional", "web", "search", "engines", ".", "Therefore", ",", "in", "recent", "This", "work", "was", "done", "while", "the", "author", "was", "visiting", "Genieknows", ".", "com", "Copyright", "is", "held", "by", "the", "International", "World", "Wide", "Web", "Conference", "Committee", "-LRB-", "IW3C2", "-RRB-", ".", "Distribution", "of", "these", "papers", "is", "limited", "to", "classroom", "use", ",", "and", "personal", "use", "by", "others", ".", "WWW", "2006", ",", "May", "23", "26", ",", "2006", ",", "Edinburgh", ",", "Scotland", ".", "ACM", "1-59593-323-9", "/", "06/0005", ".", "years", ",", "there", "has", "been", "surge", "of", "interest", "within", "the", "search", "industry", "on", "the", "search", "localization", "-LRB-", "e.g.", ",", "Google", "Local", "1", ",", "Yahoo", "Local", "2", "-RRB-", ".", "The", "main", "aim", "of", "such", "search", "localization", "is", "to", "allow", "the", "user", "to", "perform", "the", "search", "according", "his/her", "keyword", "input", "as", "well", "as", "the", "geographic", "location", "of", "his/her", "interest", ".", "Due", "to", "the", "current", "size", "of", "the", "Web", "and", "its", "dynamical", "nature", ",", "building", "a", "large", "scale", "search", "engine", "is", "challenging", "and", "it", "is", "still", "active", "area", "of", "research", ".", "For", "instance", ",", "the", "design", "of", "efficient", "crawling", "strategies", "and", "policies", "have", "been", "exten-sively", "studied", "in", "recent", "years", "-LRB-", "see", "-LSB-", "9", "-RSB-", "for", "the", "overview", "of", "the", "field", "-RRB-", ".", "While", "it", "is", "possible", "to", "build", "geographically", "sensitive", "search", "engines", "using", "the", "full", "web", "data", "collected", "through", "a", "standard", "web", "crawling", ",", "it", "would", "rather", "be", "more", "attractive", "to", "build", "such", "search", "engines", "over", "a", "more", "focused", "web", "data", "collection", "which", "are", "only", "relevant", "to", "the", "targeted", "geographic", "locations", ".", "Focusing", "on", "the", "collection", "of", "web", "pages", "which", "are", "relevant", "to", "the", "targeted", "geographic", "location", "would", "leverage", "the", "overall", "processing", "time", "and", "efforts", "for", "building", "such", "search", "engines", ".", "For", "instance", ",", "if", "we", "want", "to", "build", "a", "search", "engine", "targeting", "those", "users", "in", "New", "York", ",", "NY", ",", "then", "we", "can", "build", "it", "using", "the", "web", "collection", ",", "only", "relevant", "to", "the", "city", "of", "New", "York", ",", "NY", ".", "Therefore", ",", "given", "intended", "geographic", "regions", "for", "crawling", ",", "we", "refer", "the", "task", "of", "collecting", "web", "pages", ",", "relevant", "to", "the", "intended", "geographic", "regions", "as", "geographically", "focused", "crawling", ".", "The", "idea", "of", "focusing", "on", "a", "particular", "portion", "of", "the", "web", "for", "crawling", "is", "not", "novel", ".", "For", "instance", ",", "the", "design", "of", "efficient", "topic-oriented", "or", "domain-oriented", "crawling", "strategies", "has", "been", "previously", "studied", "-LSB-", "8", ",", "23", ",", "24", "-RSB-", ".", "However", ",", "there", "has", "been", "little", "previous", "work", "on", "incorporating", "the", "geographical", "dimension", "of", "web", "pages", "to", "the", "crawling", ".", "In", "this", "paper", ",", "we", "study", "various", "aspects", "of", "crawling", "when", "the", "geographical", "dimension", "is", "considered", ".", "While", "the", "basic", "idea", "behind", "the", "standard", "crawling", "is", "straightforward", ",", "the", "collaborative", "crawling", "or", "parallel", "crawling", "is", "often", "used", "due", "to", "the", "performance", "and", "scalability", "issues", "that", "might", "arise", "during", "the", "real", "crawling", "of", "the", "web", "-LSB-", "12", ",", "19", "-RSB-", ".", "In", "a", "collaborative", "or", "parallel", "crawler", ",", "the", "multiple", "crawling", "nodes", "are", "run", "in", "parallel", "on", "a", "multiprocessor", "or", "in", "a", "distributed", "manner", "to", "maximize", "the", "download", "speed", "and", "to", "further", "improve", "the", "overall", "performance", "especially", "for", "the", "scalability", "of", "crawling", ".", "Therefore", ",", "we", "study", "the", "geographically", "focused", "crawling", "under", "the", "collaborative", "setting", ",", "in", "which", "the", "targeted", "geographic", "regions", "are", "divided", "and", "then", "assigned", "to", "each", "participating", "crawling", "node", ".", "More", "precisely", ",", "1", "http://local.google.com", "2", "http://local.yahoo.com", "287", "in", "a", "geographically", "focused", "collaborative", "crawler", ",", "there", "will", "be", "a", "set", "of", "geographically", "focused", "crawling", "nodes", "in", "which", "each", "node", "is", "only", "responsible", "for", "collecting", "those", "web", "pages", ",", "relevant", "to", "its", "assigned", "geographic", "regions", ".", "Furthermore", ",", "there", "will", "be", "additional", "set", "of", "general", "crawling", "nodes", "which", "aim", "to", "support", "other", "geographically", "focused", "crawling", "nodes", "through", "the", "general", "crawling", "-LRB-", "download", "of", "pages", "which", "are", "not", "geographically-aware", "-RRB-", ".", "The", "main", "contributions", "of", "our", "paper", "are", "follows", ":", "1", ".", "We", "propose", "several", "geographically", "focused", "collaborative", "crawling", "strategies", "whose", "goal", "is", "to", "collect", "web", "pages", "about", "the", "specified", "geographic", "regions", ".", "2", ".", "We", "propose", "several", "evaluation", "criteria", "for", "measuring", "the", "performance", "of", "a", "geographically", "focused", "crawling", "strategy", ".", "3", ".", "We", "empirically", "study", "our", "proposed", "crawling", "strategies", "by", "crawling", "the", "real", "web", ".", "More", "specifically", ",", "we", "collect", "web", "pages", "pertinent", "to", "the", "top", "100", "US", "cities", "for", "each", "crawling", "strategy", ".", "4", ".", "We", "empirically", "study", "geographic", "locality", ".", "That", "is", ",", "pages", "which", "are", "geographically", "related", "are", "more", "likely", "to", "be", "linked", "compared", "to", "those", "which", "are", "not", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "In", "Section", "2", ",", "we", "introduce", "some", "of", "the", "previous", "works", "related", "to", "our", "geographically", "focused", "collaborative", "crawling", ".", "In", "Section", "3", ",", "we", "describe", "the", "problem", "of", "geographically", "focused", "collaborative", "crawling", "and", "then", "we", "propose", "several", "crawling", "policies", "to", "deal", "with", "this", "type", "of", "crawling", ".", "In", "Section", "4", ",", "we", "present", "evaluation", "models", "to", "measure", "the", "performance", "of", "a", "geographically", "focused", "collaborative", "crawling", "strategy", ".", "In", "Section", "5", ",", "we", "present", "results", "of", "our", "experiments", "with", "the", "real", "web", "data", ".", "Finally", ",", "in", "Section", "6", ",", "we", "present", "final", "remarks", "about", "our", "work", ".", "A", "focused", "crawler", "is", "designed", "to", "only", "collect", "web", "pages", "on", "a", "specified", "topic", "while", "transversing", "the", "web", ".", "The", "basic", "idea", "of", "a", "focused", "crawler", "is", "to", "optimize", "the", "priority", "of", "the", "unvisited", "URLs", "on", "the", "crawler", "frontier", "so", "that", "pages", "concerning", "a", "particular", "topic", "are", "retrieved", "earlier", ".", "Bra", "et", "al.", "-LSB-", "4", "-RSB-", "propose", "a", "focused", "web", "crawling", "method", "in", "the", "context", "of", "a", "client-based", "real-time", "search", "engine", ".", "Its", "crawling", "strategy", "is", "based", "on", "the", "intuition", "that", "relevant", "pages", "on", "the", "topic", "likely", "contain", "links", "to", "other", "pages", "on", "the", "same", "topic", ".", "Thus", ",", "the", "crawler", "follows", "more", "links", "from", "relevant", "pages", "which", "are", "estimated", "by", "a", "binary", "classifier", "that", "uses", "keyword", "and", "regular", "expression", "matchings", ".", "In", "spite", "of", "its", "reasonably", "acceptable", "performance", ",", "it", "has", "an", "important", "drawback", "as", "a", "relevant", "page", "on", "the", "topic", "might", "be", "hardly", "reachable", "when", "this", "page", "is", "not", "pointed", "by", "pages", "relevant", "to", "the", "topic", ".", "Cho", "et", "al.", "-LSB-", "11", "-RSB-", "propose", "several", "strategies", "for", "prioritiz-ing", "unvisited", "URLs", "based", "on", "the", "pages", "downloaded", "so", "far", ".", "In", "contrast", "to", "other", "focused", "crawlers", "in", "which", "a", "supervised", "topic", "classifier", "is", "used", "to", "control", "the", "way", "that", "crawler", "handles", "the", "priority", "of", "pages", "to", "be", "be", "downloaded", ",", "their", "strategies", "are", "based", "on", "considering", "some", "simple", "properties", "such", "as", "linkage", "or", "keyword", "information", "to", "define", "the", "priority", "of", "pages", "to", "be", "downloaded", ".", "They", "conclude", "that", "determining", "the", "priority", "of", "pages", "to", "be", "downloaded", "based", "on", "their", "PageRank", "value", "yield", "the", "best", "overall", "crawling", "performance", ".", "Chakrabarti", "et", "al.", "-LSB-", "8", "-RSB-", "propose", "another", "type", "of", "focused", "crawler", "architecture", "which", "is", "composed", "of", "three", "components", ",", "namely", "classifier", ",", "distiller", "and", "crawler", ".", "The", "classifier", "makes", "the", "decision", "on", "the", "page", "relevancy", "to", "determine", "its", "future", "link", "expansion", ".", "The", "distiller", "identifies", "those", "hub", "pages", ",", "as", "defined", "in", "-LSB-", "20", "-RSB-", ",", "pointing", "to", "many", "topic", "related", "pages", "to", "determine", "the", "priority", "of", "pages", "to", "be", "visited", ".", "Finally", ",", "the", "crawling", "module", "fetches", "pages", "using", "the", "list", "of", "pages", "provided", "by", "the", "distiller", ".", "In", "the", "subsequent", "work", ",", "Chakrabarti", "et", "al.", "-LSB-", "7", "-RSB-", "suggest", "that", "only", "a", "fraction", "of", "URLs", "extracted", "from", "a", "page", "are", "worth", "following", ".", "They", "claim", "that", "a", "crawler", "can", "avoid", "irrelevant", "links", "if", "the", "relevancy", "of", "links", "can", "be", "determined", "by", "the", "local", "text", "surrounding", "it", ".", "They", "propose", "alternative", "focused", "crawler", "architecture", "where", "documents", "are", "modeled", "as", "tag", "trees", "using", "DOM", "-LRB-", "Document", "Object", "Model", "-RRB-", ".", "In", "their", "crawler", ",", "two", "classifiers", "are", "used", ",", "namely", "the", "``", "baseline", "''", "and", "the", "``", "apprentice", "''", ".", "The", "baseline", "classifier", "refers", "to", "the", "module", "that", "navigates", "through", "the", "web", "to", "obtain", "the", "enriching", "training", "data", "for", "the", "apprentice", "classifier", ".", "The", "apprentice", "classifier", ",", "on", "the", "other", "hand", ",", "is", "trained", "over", "the", "data", "collected", "through", "the", "baseline", "classifier", "and", "eventually", "guides", "the", "overall", "crawling", "by", "determining", "the", "relevancy", "of", "links", "using", "the", "contextual", "information", "around", "them", ".", "Diligenti", "et", "al.", "-LSB-", "14", "-RSB-", "use", "the", "context", "graph", "to", "improve", "the", "baseline", "best-first", "focused", "crawling", "method", ".", "In", "their", "approach", ",", "there", "is", "a", "classifier", "which", "is", "trained", "through", "the", "features", "extracted", "from", "the", "paths", "that", "lead", "to", "the", "relevant", "pages", ".", "They", "claim", "that", "there", "is", "some", "chance", "that", "some", "off-topic", "pages", "might", "potentially", "lead", "to", "highly", "relevant", "pages", ".", "Therefore", ",", "in", "order", "to", "mediate", "the", "hardness", "of", "identifying", "apparently", "off-topic", "pages", ",", "they", "propose", "the", "usage", "of", "context", "graph", "to", "guide", "the", "crawling", ".", "More", "precisely", ",", "first", "a", "context", "graph", "for", "seed", "pages", "is", "built", "using", "links", "to", "the", "pages", "returned", "from", "a", "search", "engine", ".", "Next", ",", "the", "context", "graph", "is", "used", "to", "train", "a", "set", "of", "classifiers", "to", "assign", "documents", "to", "different", "categories", "using", "their", "estimated", "distance", ",", "based", "on", "the", "number", "of", "links", ",", "to", "relevant", "pages", "on", "different", "categories", ".", "Their", "experimental", "results", "reveal", "that", "the", "context", "graph", "based", "focused", "crawler", "has", "a", "better", "performance", "and", "achieves", "higher", "relevancy", "compared", "to", "an", "ordinary", "best-first", "crawler", ".", "Cho", "et", "al.", "-LSB-", "10", "-RSB-", "attempt", "to", "map", "and", "explore", "a", "full", "design", "space", "for", "parallel", "and", "distributed", "crawlers", ".", "Their", "work", "addresses", "issues", "of", "communication", "bandwidth", ",", "page", "quality", "and", "the", "division", "of", "work", "between", "local", "crawlers", ".", "Later", ",", "Chung", "et", "al.", "-LSB-", "12", "-RSB-", "study", "parallel", "or", "distributed", "crawling", "in", "the", "context", "of", "topic-oriented", "crawling", ".", "Basically", ",", "in", "their", "topic-oriented", "collaborative", "crawler", ",", "each", "crawling", "node", "is", "responsible", "for", "a", "particular", "set", "of", "topics", "and", "the", "page", "is", "assigned", "to", "the", "crawling", "node", "which", "is", "responsible", "for", "the", "topic", "which", "the", "page", "is", "relevant", "to", ".", "To", "determine", "the", "topic", "of", "page", ",", "a", "simple", "Naive-Bayes", "classifier", "is", "employed", ".", "Recently", ",", "Exposto", "et", "al.", "-LSB-", "17", "-RSB-", "study", "distributed", "crawling", "by", "means", "of", "the", "geographical", "partition", "of", "the", "web", "considering", "the", "multi-level", "partitioning", "of", "the", "reduced", "IP", "web", "link", "graph", ".", "Note", "that", "our", "IP-based", "collaborative", "crawling", "strategy", "is", "similar", "to", "their", "approach", "in", "spirit", "as", "we", "consider", "the", "IP-addresses", "related", "to", "the", "given", "web", "pages", "to", "distribute", "them", "among", "participating", "crawling", "nodes", ".", "Gravano", "and", "his", "collaborators", "study", "the", "geographically-aware", "search", "problem", "in", "various", "works", "-LSB-", "15", ",", "18", ",", "5", "-RSB-", ".", "Particularly", ",", "in", "-LSB-", "15", "-RSB-", ",", "how", "to", "compute", "the", "geographical", "scope", "of", "web", "resources", "is", "discussed", ".", "In", "their", "work", ",", "linkage", "and", "seman-288", "tic", "information", "are", "used", "to", "assess", "the", "geographical", "scope", "of", "web", "resources", ".", "Their", "basic", "idea", "is", "as", "follows", ".", "If", "a", "reasonable", "number", "of", "links", "pertinent", "to", "one", "particular", "geographic", "location", "point", "to", "a", "web", "resource", "and", "these", "links", "are", "smoothly", "distributed", "across", "the", "location", ",", "then", "this", "location", "is", "treated", "as", "one", "of", "the", "geographic", "scopes", "of", "the", "corresponding", "web", "resource", ".", "Similarly", ",", "if", "a", "reasonable", "number", "of", "location", "references", "is", "found", "within", "a", "web", "resource", ",", "and", "the", "location", "references", "are", "smoothly", "distributed", "across", "the", "location", ",", "then", "this", "location", "is", "treated", "as", "one", "of", "the", "geographical", "scopes", "of", "the", "web", "resource", ".", "They", "also", "propose", "how", "to", "solve", "aliasing", "and", "ambiguity", ".", "Recently", ",", "Markowetz", "et", "al.", "-LSB-", "22", "-RSB-", "propose", "the", "design", "and", "the", "initial", "implementation", "of", "a", "geographic", "search", "engine", "prototype", "for", "Germany", ".", "Their", "prototype", "extracts", "various", "geographic", "features", "from", "the", "crawled", "web", "dataset", "consisting", "of", "pages", "whose", "domain", "name", "contains", "``", "de", "''", ".", "A", "geographic", "footprint", ",", "a", "set", "of", "relevant", "locations", "for", "page", ",", "is", "assigned", "to", "each", "page", ".", "Subsequently", ",", "the", "resulting", "footprint", "is", "integrated", "into", "the", "query", "processor", "of", "the", "search", "engine", ".", "Even", "though", ",", "in", "theory", ",", "the", "targeted", "geographic", "locations", "of", "a", "geographically", "focused", "crawling", "can", "be", "any", "valid", "geographic", "location", ",", "in", "our", "paper", ",", "a", "geographic", "location", "refers", "to", "a", "city-state", "pair", "for", "the", "sake", "of", "simplicity", ".", "Therefore", ",", "given", "a", "list", "of", "city-state", "pairs", ",", "the", "goal", "of", "our", "geographically", "focused", "crawling", "is", "to", "collect", "web", "pages", "which", "are", "``", "relevant", "''", "to", "the", "targeted", "city-state", "pairs", ".", "Thus", ",", "after", "splitting", "and", "distributing", "the", "targeted", "city-state", "pairs", "to", "the", "participating", "crawling", "nodes", ",", "each", "participating", "crawling", "node", "would", "be", "responsible", "for", "the", "crawling", "of", "web", "pages", "relevant", "to", "its", "assigned", "city-state", "pairs", ".", "Example", "1", ".", "Given", "-LCB-", "-LRB-", "New", "York", ",", "NY", "-RRB-", ",", "-LRB-", "Houston", ",", "TX", "-RRB-", "-RCB-", "as", "the", "targeted", "city-state", "pairs", "and", "3", "crawling", "nodes", "-LCB-", "Cn", "1", ",", "Cn", "2", ",", "Cn", "3", "-RCB-", ",", "one", "possible", "design", "of", "geographically", "focused", "collaborative", "crawler", "is", "to", "assign", "-LRB-", "New", "York", ",", "NY", "-RRB-", "to", "Cn", "1", "and", "-LRB-", "Houston", ",", "TX", "-RRB-", "to", "Cn", "2", ".", "Particularly", ",", "for", "our", "experiments", ",", "we", "perform", "the", "geographically", "focused", "crawling", "of", "pages", "targeting", "the", "top", "100", "US", "cities", ",", "which", "will", "be", "explained", "later", "in", "Section", "5", ".", "We", "use", "some", "general", "notations", "to", "denote", "the", "targeted", "city-state", "pairs", "and", "crawling", "nodes", "as", "follows", ".", "Let", "T", "C", "=", "-LCB-", "-LRB-", "c", "1", ",", "s", "1", "-RRB-", ",", "...", ",", "-LRB-", "c", "n", ",", "s", "n", "-RRB-", "-RCB-", "denote", "the", "set", "of", "targeted", "city-state", "pairs", "for", "our", "crawling", "where", "each", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "is", "a", "city-state", "pair", ".", "When", "it", "is", "clear", "in", "the", "context", ",", "we", "will", "simply", "denote", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "as", "c", "i", ".", "Let", "CR", "=", "-LCB-", "Cn", "1", ",", "...", ",", "Cn", "m", "-RCB-", "denote", "the", "set", "of", "participating", "crawling", "nodes", "for", "our", "crawling", ".", "The", "main", "challenges", "that", "have", "to", "be", "dealt", "by", "a", "geographically", "focused", "collaborative", "crawler", "are", "the", "following", ":", "How", "to", "split", "and", "then", "distribute", "T", "C", "=", "-LCB-", "c", "1", ",", "...", ",", "c", "n", "-RCB-", "among", "the", "participating", "CR", "=", "-LCB-", "Cn", "1", ",", "...", ",", "Cn", "m", "-RCB-", "Given", "a", "retrieved", "page", "p", ",", "based", "on", "what", "criteria", "we", "assign", "the", "extracted", "URLs", "from", "p", "to", "the", "participating", "crawling", "nodes", ".", "l", "number", "of", "URLs", "extracted", "q", "extracted", "p", "q", "transferred", "All", "URLs", "a", "-RRB-", "All", "l", "URLs", "extracted", "from", "q", "are", "transferred", "to", "another", "crawling", "node", "-LRB-", "the", "worst", "scenario", "for", "policy", "A", "-RRB-", "l", "number", "of", "URLs", "extracted", "l", "number", "of", "URLs", "extracted", "l", "number", "of", "URLs", "extracted", "q", "extracted", "p", "q", "q", "q", "...", ".", "m", "number", "of", "crawling", "nodes", "b", "-RRB-", "Page", "q", "is", "transferred", "to", "the", "m", "number", "of", "crawling", "nodes", ",", "but", "all", "URLs", "extracted", "from", "each", "q", "of", "the", "crawling", "nodes", "are", "not", "transferred", "to", "other", "crawling", "nodes", "-LRB-", "the", "best", "scenario", "for", "policy", "B", "-RRB-", "Figure", "1", ":", "Exchange", "of", "the", "extracted", "URLs", "3.2", "Assignment", "of", "the", "extracted", "URLs", "When", "a", "crawling", "node", "extracts", "the", "URLs", "from", "a", "given", "page", ",", "it", "has", "to", "decide", "whether", "to", "keep", "the", "URLs", "for", "itself", "or", "transfer", "them", "to", "other", "participating", "crawling", "nodes", "for", "further", "fetching", "of", "the", "URLs", ".", "Once", "the", "URL", "is", "assigned", "to", "a", "particular", "crawling", "node", ",", "it", "may", "be", "added", "to", "the", "node", "'s", "pending", "queue", ".", "Given", "a", "retrieved", "page", "p", ",", "let", "pr", "-LRB-", "c", "i", "|", "p", "-RRB-", "be", "the", "probability", "that", "page", "p", "is", "about", "the", "city-state", "pair", "c", "i", ".", "Suppose", "that", "the", "targeted", "city-state", "pairs", "are", "given", "and", "they", "are", "distributed", "over", "the", "participating", "crawling", "nodes", ".", "There", "are", "mainly", "two", "possible", "policies", "for", "the", "exchange", "of", "URLs", "between", "crawling", "nodes", ".", "Policy", "A", ":", "Given", "the", "retrieved", "page", "p", ",", "let", "c", "i", "be", "the", "most", "probable", "city-state", "pair", "about", "p", ",", "i.e.", "arg", "max", "c", "i", "T", "C", "pr", "-LRB-", "c", "i", "|", "p", "-RRB-", ".", "We", "assign", "each", "extracted", "URL", "from", "page", "p", "to", "the", "crawling", "node", "Cn", "j", "responsible", "on", "c", "i", "Policy", "B", ":", "Given", "the", "retrieved", "page", "p", ",", "let", "-LCB-", "c", "p", "1", ",", "...", ",", "c", "p", "k", "-RCB-", "T", "C", "be", "the", "set", "of", "city-state", "pairs", "whose", "P", "r", "-LRB-", "c", "p", "i", "|", "p", "-RRB-", "=", "0", ".", "We", "assign", "each", "extracted", "URL", "from", "page", "p", "to", "EACH", "crawling", "node", "Cn", "j", "responsible", "on", "c", "p", "i", "T", "C", ",", "Lemma", "2", ".", "Let", "b", "be", "the", "bandwidth", "cost", "and", "let", "c", "be", "the", "inter-communication", "cost", "between", "crawling", "nodes", ".", "If", "b", ">", "c", ",", "then", "the", "Policy", "A", "is", "more", "cost", "effective", "than", "the", "Policy", "B.", "Proof", ":", "Given", "an", "extracted", "URL", "q", "from", "page", "p", ",", "let", "m", "be", "the", "number", "of", "crawling", "nodes", "used", "by", "the", "Policy", "B", "-LRB-", "crawling", "nodes", "which", "are", "assigned", "to", "download", "q", "-RRB-", ".", "Since", "the", "cost", "for", "the", "policy", "A", "and", "B", "is", "equal", "when", "m", "=", "1", ",", "we", "suppose", "m", "2", ".", "Let", "l", "be", "the", "total", "number", "of", "URLs", "extracted", "from", "q.", "Let", "C", "-LRB-", "A", "-RRB-", "and", "C", "-LRB-", "B", "-RRB-", "be", "the", "sum", "of", "total", "inter-communication", "cost", "plus", "the", "bandwidth", "cost", "for", "the", "Policy", "A", "and", "Policy", "B", "respectively", ".", "One", "can", "easily", "verify", "that", "the", "cost", "of", "download", "for", "q", "and", "all", "URLs", "extracted", "from", "q", "is", "given", "as", "C", "-LRB-", "A", "-RRB-", "b", "+", "l", "-LRB-", "c", "+", "b", "-RRB-", "as", "shown", "in", "Figure", "1a", "-RRB-", "and", "C", "-LRB-", "B", "-RRB-", "m", "b", "+", "l", "m", "b.", "289", "as", "shown", "in", "Figure", "1b", "-RRB-", ".", "Therefore", ",", "it", "follows", "that", "C", "-LRB-", "A", "-RRB-", "C", "-LRB-", "B", "-RRB-", "since", "m", "2", "and", "b", ">", "c", ".", "The", "assignment", "of", "extracted", "URLs", "for", "each", "retrieved", "page", "of", "all", "crawling", "collaboration", "strategies", "that", "we", "consider", "next", "will", "be", "based", "on", "the", "Policy", "A.", "3.3", "Hash", "Based", "Collaboration", "We", "consider", "the", "hash", "based", "collaboration", ",", "which", "is", "the", "approach", "taken", "by", "most", "of", "collaborative", "crawlers", ",", "for", "the", "sake", "of", "comparison", "of", "this", "basic", "approach", "to", "our", "geographically", "focused", "collaboration", "strategies", ".", "The", "goal", "of", "hash", "based", "collaboration", "is", "to", "implementing", "a", "distributed", "crawler", "partition", "over", "the", "web", "by", "computing", "hash", "functions", "over", "URLs", ".", "When", "a", "crawling", "node", "extracts", "a", "URL", "from", "the", "retrieved", "page", ",", "a", "hash", "function", "is", "then", "computed", "over", "the", "URL", ".", "The", "URL", "is", "assigned", "to", "the", "participating", "crawling", "node", "responsible", "for", "the", "corresponding", "hash", "value", "of", "the", "URL", ".", "Since", "we", "are", "using", "a", "uniform", "hash", "function", "for", "our", "experiments", ",", "we", "will", "have", "a", "considerable", "data", "exchange", "between", "crawling", "nodes", "since", "the", "uniform", "hash", "function", "will", "map", "most", "of", "URLs", "extracted", "from", "the", "retrieved", "page", "to", "remote", "crawling", "nodes", ".", "3.4", "Geographically", "Focused", "Collaborations", "We", "first", "divide", "up", "CR", ",", "the", "set", "of", "participating", "crawling", "nodes", ",", "into", "geographically", "sensitive", "nodes", "and", "general", "nodes", ".", "Even", "though", ",", "any", "combination", "of", "geographically", "sensitive", "and", "general", "crawling", "nodes", "is", "allowed", ",", "the", "architecture", "of", "our", "crawler", "consists", "of", "five", "geographically", "sensitive", "and", "one", "general", "crawling", "node", "for", "our", "experiments", ".", "A", "geographically", "sensitive", "crawling", "node", "will", "be", "responsible", "for", "the", "download", "of", "pages", "pertinent", "to", "a", "subset", "targeted", "city-state", "pairs", "while", "a", "general", "crawling", "node", "will", "be", "responsible", "for", "the", "download", "of", "pages", "which", "are", "not", "geographically-aware", "supporting", "other", "geographically", "sensitive", "nodes", ".", "Each", "collaboration", "policy", "considers", "a", "particular", "set", "of", "features", "for", "the", "assessment", "of", "the", "geographical", "scope", "of", "page", "-LRB-", "whether", "a", "page", "is", "pertinent", "to", "a", "particular", "city-state", "pair", "or", "not", "-RRB-", ".", "From", "the", "result", "of", "this", "assessment", ",", "each", "extracted", "URL", "from", "the", "page", "will", "be", "assigned", "to", "the", "crawling", "node", "that", "is", "responsible", "for", "the", "download", "of", "pages", "pertinent", "to", "the", "corresponding", "city-state", "pair", ".", "3.4.1", "URL", "Based", "The", "intuition", "behind", "the", "URL", "based", "collaboration", "is", "that", "pages", "containing", "a", "targeted", "city-state", "pair", "in", "their", "URL", "address", "might", "potentially", "guide", "the", "crawler", "toward", "other", "pages", "about", "the", "city-state", "pair", ".", "More", "specifically", ",", "for", "each", "extracted", "URL", "from", "the", "retrieved", "page", "p", ",", "we", "verify", "whether", "the", "city-state", "pair", "c", "i", "is", "found", "somewhere", "in", "the", "URL", "address", "of", "the", "extracted", "URL", ".", "If", "the", "city-state", "pair", "c", "i", "is", "found", ",", "then", "we", "assign", "the", "corresponding", "URL", "to", "the", "crawling", "node", "which", "is", "responsible", "for", "the", "download", "of", "pages", "about", "c", "i", ".", "3.4.2", "Extended", "Anchor", "Text", "Based", "Given", "link", "text", "l", ",", "an", "extended", "anchor", "text", "of", "l", "is", "defined", "as", "the", "set", "of", "prefix", "and", "suffix", "tokens", "of", "l", "of", "certain", "size", ".", "It", "is", "known", "that", "extended", "anchor", "text", "provides", "valuable", "information", "to", "characterize", "the", "nature", "of", "the", "page", "which", "is", "pointed", "by", "link", "text", ".", "Therefore", ",", "for", "the", "extended", "anchor", "text", "based", "collaboration", ",", "our", "assumption", "is", "that", "pages", "associated", "with", "the", "extended", "anchor", "text", ",", "in", "which", "a", "targeted", "city-state", "pair", "c", "i", "is", "found", ",", "will", "lead", "the", "crawler", "toward", "those", "pages", "about", "c", "i", ".", "More", "precisely", ",", "given", "retrieved", "page", "p", ",", "and", "the", "extended", "anchor", "text", "l", "found", "somewhere", "in", "p", ",", "we", "verify", "whether", "the", "city-state", "pair", "c", "i", "T", "C", "is", "found", "as", "part", "of", "the", "extended", "anchor", "text", "l", ".", "When", "multiple", "findings", "of", "city-state", "occurs", ",", "then", "we", "choose", "the", "city-state", "pair", "that", "is", "the", "closest", "to", "the", "link", "text", ".", "Finally", ",", "we", "assign", "the", "URL", "associated", "with", "l", "to", "the", "crawling", "node", "that", "is", "responsible", "for", "the", "download", "of", "pages", "about", "c", "i", ".", "3.4.3", "Full", "Content", "Based", "In", "-LSB-", "15", "-RSB-", ",", "the", "location", "reference", "is", "used", "to", "assess", "the", "geographical", "scope", "of", "page", ".", "Therefore", ",", "for", "the", "full", "content", "based", "collaboration", ",", "we", "perform", "a", "content", "analysis", "of", "the", "retrieved", "page", "to", "guide", "the", "crawler", "for", "the", "future", "link", "expansion", ".", "Let", "pr", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "|", "p", "-RRB-", "be", "the", "probability", "that", "page", "p", "is", "about", "city-state", "pair", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", ".", "Given", "T", "C", "and", "page", "p", ",", "we", "compute", "pr", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "|", "p", "-RRB-", "for", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "T", "C", "as", "follows", ":", "pr", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "|", "p", "-RRB-", "=", "#", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", ",", "p", "-RRB-", "+", "-LRB-", "1", "-", "-RRB-", "pr", "-LRB-", "s", "i", "|", "c", "i", "-RRB-", "#", "-LRB-", "c", "i", ",", "p", "-RRB-", "-LRB-", "1", "-RRB-", "where", "#", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", ",", "p", "-RRB-", "denotes", "the", "number", "of", "times", "that", "the", "city-state", "pair", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "is", "found", "as", "part", "of", "the", "content", "of", "p", ",", "#", "-LRB-", "c", "i", ",", "p", "-RRB-", "denotes", "the", "number", "of", "times", "-LRB-", "independent", "of", "#", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", ",", "p", "-RRB-", "-RRB-", "that", "the", "city", "reference", "c", "i", "is", "found", "as", "part", "of", "the", "content", "of", "p", ",", "and", "denotes", "the", "weighting", "factor", ".", "For", "our", "experiments", ",", "=", "0.7", "was", "used", ".", "The", "probability", "pr", "-LRB-", "s", "i", "|", "c", "i", "-RRB-", "is", "calculated", "under", "two", "simplified", "assumptions", ":", "-LRB-", "1", "-RRB-", "pr", "-LRB-", "s", "i", "|", "c", "i", "-RRB-", "is", "dependent", "on", "the", "real", "population", "size", "of", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "-LRB-", "e.g.", ",", "Population", "of", "Kansas", "City", ",", "Kansas", "is", "500,000", "-RRB-", ".", "We", "obtain", "the", "population", "size", "for", "each", "city", "city-data.com", "3", ".", "-LRB-", "2", "-RRB-", "pr", "-LRB-", "s", "i", "|", "c", "i", "-RRB-", "is", "dependent", "on", "the", "number", "of", "times", "that", "the", "state", "reference", "is", "found", "-LRB-", "independent", "of", "#", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", ",", "p", "-RRB-", "-RRB-", "as", "part", "of", "the", "content", "of", "p", ".", "In", "other", "words", ",", "our", "assumption", "for", "pr", "-LRB-", "s", "j", "|", "c", "i", "-RRB-", "can", "be", "written", "as", "pr", "-LRB-", "s", "i", "|", "c", "i", "-RRB-", "S", "-LRB-", "s", "i", "|", "c", "i", "-RRB-", "+", "-LRB-", "1", "-", "-RRB-", "~", "S", "-LRB-", "s", "i", "|", "p", "-RRB-", "-LRB-", "2", "-RRB-", "where", "S", "-LRB-", "s", "i", "|", "c", "i", "-RRB-", "is", "the", "normalized", "form", "of", "the", "population", "size", "of", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", ",", "~", "S", "-LRB-", "s", "i", "|", "p", "-RRB-", "is", "the", "normalized", "form", "of", "the", "number", "of", "appearances", "of", "the", "state", "reference", "s", "i", ",", "independent", "of", "#", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", ",", "p", "-RRB-", "-RRB-", ",", "within", "the", "content", "of", "p", ",", "and", "denotes", "the", "weighting", "factor", ".", "For", "our", "experiments", ",", "=", "0.5", "was", "used", ".", "Therefore", ",", "pr", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "|", "p", "-RRB-", "is", "computed", "as", "pr", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "|", "p", "-RRB-", "=", "#", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", ",", "p", "-RRB-", "+", "-LRB-", "1", "-", "-RRB-", "-LRB-", "S", "-LRB-", "s", "i", "|", "c", "i", "-RRB-", "+", "-LRB-", "1", "-", "-RRB-", "~", "S", "-LRB-", "s", "i", "|", "p", "-RRB-", "-RRB-", "#", "-LRB-", "c", "i", ",", "p", "-RRB-", "-LRB-", "3", "-RRB-", "Finally", ",", "given", "a", "retrieve", "page", "p", ",", "we", "assign", "all", "extracted", "URLs", "from", "p", "to", "the", "crawling", "node", "which", "is", "responsible", "for", "pages", "relevant", "to", "arg", "max", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "T", "C", "P", "r", "-LRB-", "-LRB-", "c", "i", ",", "s", "i", "-RRB-", "|", "p", "-RRB-", ".", "3.4.4", "Classification", "Based", "Chung", "et", "al.", "-LSB-", "12", "-RSB-", "show", "that", "the", "classification", "based", "collaboration", "yields", "a", "good", "performance", "for", "the", "topic-oriented", "collaborative", "crawling", ".", "Our", "classification", "based", "collaboration", "for", "the", "geographically", "crawling", "is", "motivated", "by", "their", "work", ".", "In", "this", "type", "of", "collaboration", ",", "the", "classes", "for", "the", "classifier", "are", "the", "partitions", "of", "targeted", "city-state", "pairs", ".", "We", "train", "our", "classifier", "to", "determine", "pr", "-LRB-", "c", "i", "|", "p", "-RRB-", ",", "the", "probability", "that", "the", "retrieved", "page", "p", "is", "pertinent", "to", "the", "city-state", "pair", "c", "i", ".", "Among", "various", "possible", "classification", "methods", ",", "we", "chose", "the", "Naive-Bayes", "classifier", "-LSB-", "25", "-RSB-", "due", "to", "its", "simplicity", ".", "To", "obtain", "training", "3", "http://www.city-data.com", "290", "data", ",", "pages", "from", "the", "Open", "Directory", "Project", "-LRB-", "ODP", "-RRB-", "4", "were", "used", ".", "For", "each", "targeted", "city-state", "pair", ",", "we", "download", "all", "pages", "under", "the", "corresponding", "city-state", "category", "which", ",", "in", "turn", ",", "is", "the", "child", "category", "for", "the", "``", "REGIONAL", "''", "category", "in", "the", "ODP", ".", "The", "number", "of", "pages", "downloaded", "for", "each", "city-state", "pair", "varied", "from", "500", "to", "2000", ".", "We", "also", "download", "a", "set", "of", "randomly", "chosen", "pages", "which", "are", "not", "part", "of", "any", "city-state", "category", "in", "the", "ODP", ".", "We", "download", "2000", "pages", "for", "this", "purpose", ".", "Then", ",", "we", "train", "our", "Naive-Bayes", "classifier", "using", "these", "training", "data", ".", "Our", "classifier", "determines", "whether", "a", "page", "p", "is", "pertinent", "to", "either", "of", "the", "targeted", "city-state", "pairs", "or", "it", "is", "not", "relevant", "to", "any", "city-state", "pair", "at", "all", ".", "Given", "the", "retrieved", "page", "p", ",", "we", "assign", "all", "extracted", "URLs", "from", "p", "to", "the", "crawling", "node", "which", "is", "responsible", "for", "the", "download", "of", "pages", "which", "are", "pertinent", "to", "arg", "max", "c", "i", "T", "C", "pr", "-LRB-", "c", "i", "|", "p", "-RRB-", ".", "3.4.5", "IP-Address", "Based", "The", "IP-address", "of", "the", "web", "service", "indicates", "the", "geographic", "location", "at", "which", "the", "web", "service", "is", "hosted", ".", "The", "IP-address", "based", "collaboration", "explores", "this", "information", "to", "control", "the", "behavior", "of", "the", "crawler", "for", "further", "downloads", ".", "Given", "a", "retrieved", "page", "p", ",", "we", "first", "determine", "the", "IP-address", "of", "the", "web", "service", "from", "which", "the", "crawler", "downloaded", "p.", "With", "this", "IP-address", ",", "we", "use", "the", "IP-address", "mapping", "tool", "to", "obtain", "the", "corresponding", "city-state", "pair", "of", "the", "given", "IP", ",", "and", "then", "we", "assign", "all", "extracted", "URLs", "of", "page", "p", "to", "the", "crawling", "node", "which", "is", "responsible", "on", "the", "computed", "city-state", "pair", ".", "For", "the", "IP-address", "mapping", "tool", ",", "freely", "available", "IP", "address", "mapping", "tool", ",", "hostip.info", "-LRB-", "API", "-RRB-", "5", "is", "employed", ".", "3.5", "Normalization", "and", "Disambiguation", "of", "City", "Names", "As", "indicated", "in", "-LSB-", "2", ",", "15", "-RSB-", ",", "problems", "of", "aliasing", "and", "ambiguity", "arise", "when", "one", "wants", "to", "map", "the", "possible", "city-state", "reference", "candidate", "to", "an", "unambiguous", "city-state", "pair", ".", "In", "this", "section", ",", "we", "describe", "how", "we", "handle", "these", "issues", "out", ".", "Aliasing", ":", "Many", "times", "different", "names", "or", "abbreviations", "are", "used", "for", "the", "same", "city", "name", ".", "For", "example", ",", "Los", "Angeles", "can", "be", "also", "referred", "as", "LA", "or", "L.A.", "Similar", "to", "-LSB-", "15", "-RSB-", ",", "we", "used", "the", "web", "database", "of", "the", "United", "States", "Postal", "Service", "-LRB-", "USPS", "-RRB-", "6", "to", "deal", "with", "aliasing", ".", "The", "service", "returns", "a", "list", "of", "variations", "of", "the", "corresponding", "city", "name", "given", "the", "zip", "code", ".", "Thus", ",", "we", "first", "obtained", "the", "list", "of", "representative", "zip", "codes", "for", "each", "city", "in", "the", "list", "using", "the", "US", "Zip", "Code", "Database", "product", ",", "purchased", "from", "ZIPWISE", "7", ",", "and", "then", "we", "obtain", "the", "list", "of", "possible", "names", "and", "abbreviations", "for", "each", "city", "from", "the", "USPS", ".", "Ambiguity", ":", "When", "we", "deal", "with", "city", "names", ",", "we", "have", "to", "deal", "with", "the", "ambiguity", "of", "the", "city", "name", "reference", ".", "First", ",", "we", "can", "not", "guarantee", "whether", "the", "possible", "city", "name", "reference", "actually", "refers", "to", "the", "city", "name", ".", "For", "instance", ",", "New", "York", "might", "refer", "to", "New", "York", "as", "city", "name", "or", "New", "York", "as", "part", "of", "the", "brand", "name", "``", "New", "York", "Fries", "''", "or", "New", "York", "as", "state", "name", ".", "Second", ",", "a", "city", "name", "can", "refer", "to", "cities", "in", "different", "states", ".", "For", "example", ",", "four", "states", ",", "New", "York", ",", "Georgia", ",", "Oregon", "and", "4", "http://www.dmoz.org", "5", "http://www.hostip.info", "6", "http://www.usps.gov", "7", "http://www.zipwise.com", "California", ",", "have", "a", "city", "called", "Albany", ".", "For", "both", "cases", ",", "unless", "we", "fully", "analyze", "the", "context", "in", "which", "the", "reference", "was", "made", ",", "the", "city", "name", "reference", "might", "be", "inherently", "ambiguous", ".", "Note", "that", "for", "the", "full", "content", "based", "collaboration", ",", "the", "issue", "of", "ambiguity", "is", "already", "handled", "through", "the", "term", "pr", "-LRB-", "s", "i", "|", "c", "i", "-RRB-", "of", "the", "Eq", ".", "2", ".", "For", "the", "extended", "anchor", "text", "based", "and", "the", "URL", "based", "collaborations", ",", "we", "always", "treat", "the", "possible", "city", "name", "reference", "as", "the", "city", "that", "has", "the", "largest", "population", "size", ".", "For", "instance", ",", "Glendale", "found", "in", "either", "the", "URL", "address", "of", "page", "or", "the", "extended", "anchor", "text", "of", "page", "would", "be", "treated", "as", "the", "city", "name", "reference", "for", "Glendale", ",", "AZ.", "8", ".", "To", "assess", "the", "performance", "of", "each", "crawling", "collaboration", "strategy", ",", "it", "is", "imperative", "to", "determine", "how", "much", "geographically", "-", "aware", "pages", "were", "downloaded", "for", "each", "strategy", "and", "whether", "the", "downloaded", "pages", "are", "actually", "pertinent", "to", "the", "targeted", "geographic", "locations", ".", "Note", "that", "while", "some", "previous", "works", "-LSB-", "2", ",", "15", ",", "18", ",", "5", "-RSB-", "attempt", "to", "define", "precisely", "what", "a", "geographically-aware", "page", "is", ",", "determining", "whether", "a", "page", "is", "geographically-aware", "or", "not", "remains", "as", "an", "open", "problem", "-LSB-", "2", ",", "18", "-RSB-", ".", "For", "our", "particular", "application", ",", "we", "define", "the", "notion", "of", "geographical", "awareness", "of", "page", "through", "geographic", "entities", "-LSB-", "21", "-RSB-", ".", "We", "refer", "the", "address", "description", "of", "a", "physical", "organization", "or", "a", "person", "as", "geographic", "entity", ".", "Since", "the", "targeted", "geographical", "city-state", "pairs", "for", "our", "experiments", "are", "the", "top", "100", "US", "cities", ",", "a", "geographic", "entity", "in", "the", "context", "of", "our", "experiments", "are", "further", "simplified", "as", "an", "address", "information", ",", "following", "the", "standard", "US", "address", "format", ",", "for", "any", "of", "the", "top", "100", "US", "cities", ".", "In", "other", "words", ",", "a", "geographic", "entity", "in", "our", "context", "is", "a", "sequence", "of", "Street", "Number", ",", "Street", "Name", ",", "City", "Name", "and", "State", "Name", ",", "found", "as", "part", "of", "the", "content", "of", "page", ".", "Next", ",", "we", "present", "various", "evaluation", "measures", "for", "our", "crawling", "strategies", "based", "on", "geographic", "entities", ".", "Ad-ditionally", ",", "we", "present", "traditional", "measures", "to", "quantify", "the", "performance", "of", "any", "collaborative", "crawling", ".", "Note", "that", "our", "evaluation", "measures", "are", "later", "used", "in", "our", "experiments", ".", "Geo-coverage", ":", "When", "a", "page", "contain", "at", "least", "one", "geographic", "entity", "-LRB-", "i.e.", "address", "information", "-RRB-", ",", "then", "the", "page", "is", "clearly", "a", "geographically", "aware", "page", ".", "Therefore", ",", "we", "define", "the", "geo-coverage", "of", "retrieved", "pages", "as", "the", "number", "of", "retrieved", "pages", "with", "at", "least", "one", "geographic", "entity", ",", "pertinent", "to", "the", "targeted", "geographical", "locations", "-LRB-", "e.g.", ",", "the", "top", "US", "100", "cities", "-RRB-", "over", "the", "total", "number", "of", "retrieved", "pages", ".", "Geo-focus", ":", "Each", "crawling", "node", "of", "the", "geographically", "focused", "collaborative", "crawler", "is", "responsible", "for", "a", "subset", "of", "the", "targeted", "geographic", "locations", ".", "For", "instance", ",", "suppose", "we", "have", "two", "geographically", "sensitive", "crawling", "nodes", "Cn", "1", ",", "and", "Cn", "2", ",", "and", "the", "targeted", "city-state", "pairs", "as", "-LCB-", "-LRB-", "New", "York", ",", "NY", "-RRB-", ",", "-LRB-", "Los", "Angeles", ",", "CA", "-RRB-", "-RCB-", ".", "Suppose", "Cn", "1", "is", "responsible", "for", "crawling", "pages", "pertinent", "to", "-LRB-", "New", "York", ",", "NY", "-RRB-", "while", "Cn", "2", "is", "responsible", "for", "crawling", "8", "Note", "that", "this", "simple", "approach", "does", "minimally", "hurt", "the", "overall", "crawling", ".", "For", "instance", ",", "in", "many", "cases", ",", "even", "the", "incorrect", "assessment", "of", "the", "state", "name", "reference", "New", "York", "instead", "of", "the", "correct", "city", "name", "reference", "New", "York", ",", "would", "result", "into", "the", "assignment", "of", "all", "extracted", "URLs", "to", "the", "correct", "crawling", "node", ".", "291", "3", "1", "2", "4", "5", "7", "8", "6", "Page", "without", "geo-entity", "Page", "with", "geo-entity", "Root", "Page", "Figure", "2", ":", "An", "example", "of", "geo-centrality", "measure", "pages", "pertinent", "to", "-LRB-", "Los", "Angeles", ",", "CA", "-RRB-", ".", "Therefore", ",", "if", "the", "Cn", "1", "has", "downloaded", "a", "page", "about", "Los", "Angeles", ",", "CA", ",", "then", "this", "would", "be", "clearly", "a", "failure", "of", "the", "collaborative", "crawling", "approach", ".", "To", "formalize", "this", "notion", ",", "we", "define", "the", "geo-focus", "of", "a", "crawling", "node", ",", "as", "the", "number", "of", "retrieved", "pages", "that", "contain", "at", "least", "one", "geographic", "entity", "of", "the", "assigned", "city-state", "pairs", "of", "the", "crawling", "node", ".", "Geo-centrality", ":", "One", "of", "the", "most", "frequently", "and", "fundamental", "measures", "used", "for", "the", "analysis", "of", "network", "structures", "is", "the", "centrality", "measure", "which", "address", "the", "question", "of", "how", "central", "a", "node", "is", "respect", "to", "other", "nodes", "in", "the", "network", ".", "The", "most", "commonly", "used", "ones", "are", "the", "degree", "centrality", ",", "eigenvector", "centrality", ",", "closeness", "centrality", "and", "betweenness", "centrality", "-LSB-", "3", "-RSB-", ".", "Motivated", "by", "the", "closeness", "centrality", "and", "the", "betweenness", "centrality", ",", "Lee", "et", "al.", "-LSB-", "21", "-RSB-", "define", "novel", "centrality", "measures", "to", "assess", "how", "a", "node", "is", "central", "with", "respect", "to", "those", "geographically-aware", "nodes", "-LRB-", "pages", "with", "geographic", "entities", "-RRB-", ".", "A", "geodesic", "path", "is", "the", "shortest", "path", ",", "in", "terms", "of", "the", "number", "of", "edges", "transversed", ",", "between", "a", "specified", "pair", "of", "nodes", ".", "Geo-centrality", "measures", "are", "based", "on", "the", "geodesic", "paths", "from", "an", "arbitrary", "node", "to", "a", "geographically", "aware", "node", ".", "Given", "two", "arbitrary", "nodes", ",", "p", "i", ",", "p", "j", ",", "let", "GD", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "be", "the", "geodesic", "path", "based", "distance", "between", "p", "i", "and", "p", "j", "-LRB-", "the", "length", "of", "the", "geodesic", "path", "-RRB-", ".", "Let", "w", "GD", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "=", "1/m", "GD", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "for", "some", "m", "and", "we", "define", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "as", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "=", "w", "GD", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "if", "p", "j", "is", "geographically", "aware", "node", "0", "otherwise", "For", "any", "node", "p", "i", ",", "let", "k", "-LRB-", "p", "i", "-RRB-", "=", "-LCB-", "p", "j", "|", "GD", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "<", "k", "-RCB-", "be", "the", "set", "nodes", "of", "whose", "geodesic", "distance", "from", "p", "i", "is", "less", "than", "k.", "Given", "p", "i", ",", "let", "GCt", "k", "-LRB-", "p", "i", "-RRB-", "be", "defined", "as", "GCt", "k", "-LRB-", "p", "i", "-RRB-", "=", "p", "j", "k", "-LRB-", "p", "i", "-RRB-", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "Intuitively", "the", "geo-centrality", "measure", "computes", "how", "many", "links", "have", "to", "be", "followed", "by", "a", "user", "which", "starts", "his", "navigation", "from", "page", "p", "i", "to", "reach", "geographically-aware", "pages", ".", "Moreover", ",", "w", "GD", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "is", "used", "to", "penalize", "each", "following", "of", "link", "by", "the", "user", ".", "Example", "3", ".", "Let", "consider", "the", "graph", "structure", "of", "Figure", "2", ".", "Suppose", "that", "the", "weights", "are", "given", "as", "w", "0", "=", "1", ",", "w", "1", "=", "0.1", ",", "w", "2", "=", "0.01", ",", "i.e.", "each", "time", "a", "user", "navigates", "a", "link", ",", "we", "penalize", "it", "with", "0.1", ".", "Given", "the", "root", "node", "1", "containing", "at", "least", "one", "geo-entity", ",", "we", "have", "2", "-LRB-", "node", "1", "-RRB-", "=", "-LCB-", "1", ",", "...", ",", "8", "-RCB-", ".", "Therefore", ",", "we", "have", "w", "GD", "-LRB-", "node", "1", ",", "node", "1", "-RRB-", "=", "1", ",", "w", "GD", "-LRB-", "node", "1", ",", "node", "2", "-RRB-", "=", "0.1", ",", "w", "GD", "-LRB-", "node", "1", ",", "node", "3", "-RRB-", "=", "0.1", ",", "w", "GD", "-LRB-", "node", "1", ",", "node", "4", "-RRB-", "=", "0.1", ",", "w", "GD", "-LRB-", "node", "1", ",", "node", "5", "-RRB-", "=", "0.01", ",", "w", "GD", "-LRB-", "node", "1", ",", "node", "6", "-RRB-", "=", "0.01", ",", "w", "GD", "-LRB-", "node", "1", ",", "node", "7", "-RRB-", "=", "0.01", ",", "w", "GD", "-LRB-", "node", "1", ",", "node", "8", "-RRB-", "=", "0.01", ".", "Finally", ",", "GCt", "k", "-LRB-", "node", "1", "-RRB-", "=", "1.34", ".", "Overlap", ":", "The", "Overlap", "measure", "is", "first", "introduced", "in", "-LSB-", "10", "-RSB-", ".", "In", "the", "collaborative", "crawling", ",", "it", "is", "possible", "that", "different", "crawling", "nodes", "download", "the", "same", "page", "multiple", "times", ".", "Multiple", "downloads", "of", "the", "same", "page", "are", "clearly", "undesirable", ".", "Therefore", ",", "the", "overlap", "of", "retrieved", "pages", "is", "defined", "as", "N", "-", "I", "N", "where", "N", "denotes", "the", "total", "number", "of", "downloaded", "pages", "by", "the", "overall", "crawler", "and", "I", "denotes", "the", "number", "of", "unique", "downloaded", "pages", "by", "the", "overall", "crawler", ".", "Note", "that", "the", "hash", "based", "collaboration", "approach", "does", "not", "have", "any", "overlap", ".", "Diversity", ":", "In", "a", "crawling", ",", "it", "is", "possible", "that", "the", "crawling", "is", "biased", "toward", "a", "certain", "domain", "name", ".", "For", "instance", ",", "a", "crawler", "might", "find", "a", "crawler", "trap", "which", "is", "an", "infinite", "loop", "within", "the", "web", "that", "dynamically", "produces", "new", "pages", "trapping", "the", "crawler", "within", "this", "loop", "-LSB-", "6", "-RSB-", ".", "To", "formalize", "this", "notion", ",", "we", "define", "the", "diversity", "as", "S", "N", "where", "S", "denotes", "the", "number", "of", "unique", "domain", "names", "of", "downloaded", "pages", "by", "the", "overall", "crawler", "and", "N", "denotes", "the", "total", "number", "of", "downloaded", "pages", "by", "the", "overall", "crawler", ".", "Communication", "overhead", ":", "In", "a", "collaborative", "crawling", ",", "the", "participating", "crawling", "nodes", "need", "to", "exchange", "URLs", "to", "coordinate", "the", "overall", "crawling", "work", ".", "To", "quantify", "how", "much", "communication", "is", "required", "for", "this", "exchange", ",", "the", "communication", "overhead", "is", "defined", "in", "terms", "of", "the", "exchanged", "URLs", "per", "downloaded", "page", "-LSB-", "10", "-RSB-", ".", "In", "this", "section", ",", "we", "present", "the", "results", "of", "experiments", "that", "we", "conducted", "to", "study", "various", "aspects", "of", "the", "proposed", "geographically", "focused", "collaborative", "crawling", "strategies", ".", "5.1", "Experiment", "Description", "We", "built", "an", "geographically", "focused", "collaborative", "crawler", "that", "consists", "of", "one", "general", "crawling", "node", ",", "Cn", "0", "and", "five", "geographically", "sensitive", "crawling", "nodes", ",", "-LCB-", "Cn", "1", ",", "...", ",", "Cn", "5", "-RCB-", ",", "as", "described", "in", "Section", "3.4", ".", "The", "targeted", "city-state", "pairs", "were", "the", "top", "100", "US", "cities", "by", "the", "population", "size", ",", "whose", "list", "was", "obtained", "from", "the", "city-data.com", "9", ".", "We", "partition", "the", "targeted", "city-state", "pairs", "according", "to", "their", "time", "zone", "to", "assign", "these", "to", "the", "geographically", "sensitive", "crawling", "nodes", "as", "shown", "in", "Table", "1", ".", "In", "other", "words", ",", "we", "have", "the", "following", "architecture", "design", "as", "illustrated", "in", "Figure", "3", ".", "Cn", "0", "is", "general", "crawler", "targeting", "pages", "which", "are", "not", "geographically-aware", ".", "Cn", "1", "targets", "the", "Eastern", "time", "zone", "with", "33", "cities", ".", "Cn", "2", "targets", "the", "Pacific", "time", "zone", "with", "22", "cities", ".", "Cn", "3", "targets", "the", "Mountain", "time", "zone", "with", "10", "cities", ".", "9", "www.city-data.com", "292", "Time", "Zone", "State", "Name", "Cities", "Central", "AL", "Birmingham", ",", "Montgomery", ",", "Mobile", "Alaska", "AK", "Anchorage", "Mountain", "AR", "Phoenix", ",", "Tucson", ",", "Mesa", ",", "Glendale", ",", "Scottsdale", "Pacific", "CA", "Los", "Angeles", ",", "San", "Diego", ",", "San", "Jose", "San", "Francisco", ",", "Long", "Beach", ",", "Fresno", "Oakland", ",", "Santa", "Ana", ",", "Anaheim", "Bakersfield", ",", "Stockton", ",", "Fremont", "Glendale", ",", "Riverside", ",", "Modesto", "Sacramento", ",", "Huntington", "Beach", "Mountain", "CO", "Denver", ",", "Colorado", "Springs", ",", "Aurora", "Eastern", "DC", "Washington", "Eastern", "FL", "Hialeah", "Eastern", "GA", "Atlanta", ",", "Augusta-Richmond", "County", "Hawaii", "HI", "Honolulu", "Mountain", "ID", "Boise", "Central", "IL", "Chicago", "Central", "IN", "Indianapolis", ",", "Fort", "Wayne", "Central", "IA", "Des", "Moines", "Central", "KA", "Wichita", "Eastern", "KE", "Lexington-Fayette", ",", "Louisville", "Central", "LO", "New", "Orleans", ",", "Baton", "Rouge", "Shreveport", "Eastern", "MD", "Baltimore", "Eastern", "MA", "Boston", "Eastern", "MI", "Detroit", ",", "Grand", "Rapids", "Central", "MN", "Minneapolis", ",", "St.", "Paul", "Central", "MO", "Kansas", "City", ",", "St.", "Louis", "Central", "NE", "Omaha", ",", "Lincoln", "Pacific", "NV", "Las", "Vegas", "Eastern", "NJ", "Newark", ",", "Jersey", "City", "Mountain", "NM", "Albuquerque", "Eastern", "NY", "New", "York", ",", "Buffalo", ",", "Rochester", ",", "Yonkers", "Eastern", "NC", "Charlotte", ",", "Raleigh", ",", "Greensboro", "Durham", ",", "Winston-Salem", "Eastern", "OH", "Columbus", ",", "Cleveland", "Cincinnati", ",", "Toledo", ",", "Akron", "Central", "OK", "Oklahoma", "City", ",", "Tulsa", "Pacific", "OR", "Portland", "Eastern", "PA", "Philadelphia", ",", "Pittsburgh", "Central", "TX", "Houston", ",", "Dallas", ",", "San", "Antonio", ",", "Austin", "El", "Paso", ",", "Fort", "Worth", "Arlington", ",", "Corpus", "Christi", "Plano", ",", "Garland", ",", "Lubbock", ",", "Irving", "Eastern", "VI", "Virginia", "Beach", ",", "Norfolk", "Chesapeake", ",", "Richmond", ",", "Arlington", "Pacific", "WA", "Seattle", ",", "Spokane", ",", "Tacoma", "Central", "WI", "Milwaukee", ",", "Madison", "Table", "1", ":", "Top", "100", "US", "cities", "and", "their", "time", "zone", "WEB", "Cn5", ":", "Hawaii", "&", "Alaska", "Cn0", ":", "General", "Cn1", ":", "Eastern", "-LRB-", "33", "cities", "-RRB-", "Cn2", ":", "Pacific", "-LRB-", "22", "cities", "-RRB-", "Cn4", ":", "Central", "-LRB-", "33", "cities", "-RRB-", "Cn3", ":", "Mountain", "-LRB-", "10", "cities", "-RRB-", "Figure", "3", ":", "Architecture", "of", "our", "crawler", "Cn", "4", "targets", "the", "Central", "time", "zone", "with", "33", "cities", ".", "Finally", ",", "Cn", "5", "targets", "the", "Hawaii-Aleutian", "and", "Alaska", "time", "zones", "with", "two", "cities", ".", "We", "developed", "our", "collaborative", "crawler", "by", "extending", "the", "open", "source", "crawler", ",", "larbin", "10", "written", "in", "C++", ".", "Each", "crawling", "node", "was", "to", "dig", "each", "domain", "name", "up", "to", "the", "five", "levels", "of", "depth", ".", "The", "crawling", "nodes", "were", "deployed", "over", "2", "servers", ",", "each", "of", "them", "with", "3.2", "GHz", "dual", "P4", "processors", ",", "1", "GB", "of", "RAM", ",", "and", "600", "GB", "of", "disk", "space", ".", "We", "ran", "our", "crawler", "for", "the", "period", "of", "approximately", "2", "weeks", "to", "download", "approximately", "12.8", "million", "pages", "for", "each", "crawling", "strategy", "as", "shown", "in", "Table", "2", ".", "For", "each", "crawling", "process", ",", "the", "usable", "bandwidth", "was", "limited", "to", "3.2", "mbps", ",", "so", "the", "total", "maximum", "bandwidth", "used", "by", "our", "crawler", "was", "19.2", "mbps", ".", "For", "each", "crawling", ",", "we", "used", "the", "category", "``", "Top", ":", "Regional", ":", "North", "America", ":", "United", "States", "''", "of", "the", "ODP", "as", "the", "seed", "page", "of", "crawling", ".", "The", "IP", "mapping", "tool", "used", "in", "our", "experiments", "did", "not", "return", "the", "10", "http://larbin.sourceforge.net/index-eng.html", "Type", "of", "collaboration", "Download", "size", "Hash", "Based", "12.872", "m", "URL", "Based", "12.872", "m", "Extended", "Anchor", "Text", "Based", "12.820", "m", "Simple", "Content", "Analysis", "Based", "12.878", "m", "Classification", "Based", "12.874", "m", "IP", "Address", "Based", "12.874", "m", "Table", "2", ":", "Number", "of", "downloaded", "pages", "corresponding", "city-state", "pairs", "for", "Alaska", "and", "Hawaii", ",", "so", "we", "ignored", "Alaska", "and", "Hawaii", "for", "our", "IP-address", "based", "collaborative", "crawling", ".", "5.2", "Discussion", "5.2.1", "Quality", "Issue", "As", "the", "first", "step", "toward", "the", "performance", "evaluation", "of", "our", "crawling", "strategies", ",", "we", "built", "an", "extractor", "for", "the", "extraction", "of", "geographic", "entities", "-LRB-", "addresses", "-RRB-", "from", "downloaded", "pages", ".", "Our", "extractor", ",", "being", "a", "gazetteer", "based", ",", "extracted", "those", "geographic", "entities", "using", "a", "dictionary", "of", "all", "possible", "city", "name", "references", "for", "the", "top", "100", "US", "cities", "augmented", "by", "a", "list", "of", "all", "possible", "street", "abbreviations", "-LRB-", "e.g.", ",", "street", ",", "avenue", ",", "av.", ",", "blvd", "-RRB-", "and", "other", "pattern", "matching", "heuristics", ".", "Each", "extracted", "geographic", "entity", "candidate", "was", "further", "matched", "against", "the", "database", "of", "possible", "street", "names", "for", "each", "city", "that", "we", "built", "from", "the", "2004", "TIGER/Line", "files", "11", ".", "Our", "extractor", "was", "shown", "to", "yield", "96", "%", "of", "accuracy", "out", "of", "500", "randomly", "chosen", "geographic", "entities", ".", "We", "first", "analyze", "the", "geo-coverage", "of", "each", "crawling", "strategy", "as", "shown", "in", "Table", "3", ".", "The", "top", "performers", "for", "the", "geo-coverage", "are", "the", "URL", "based", "and", "extended", "anchor", "text", "based", "collaborative", "strategies", "whose", "portion", "of", "pages", "downloaded", "with", "geographic", "entities", "was", "7.25", "%", "and", "7.88", "%", ",", "respectively", ",", "strongly", "suggesting", "that", "URL", "address", "of", "page", "and", "extended", "anchor", "text", "of", "link", "are", "important", "features", "to", "be", "considered", "for", "the", "discovery", "of", "geographically-aware", "pages", ".", "The", "next", "best", "performer", "with", "respect", "to", "geo-coverage", "was", "the", "full", "content", "based", "collaborative", "strategy", "achieving", "geo-coverage", "of", "4.89", "%", ".", "Finally", ",", "the", "worst", "performers", "in", "the", "group", "of", "geographically", "focused", "collaborative", "policies", "were", "the", "classification", "based", "and", "the", "IP-address", "based", "strategies", ".", "The", "poor", "performance", "of", "the", "IP-address", "based", "collaborative", "policy", "shows", "that", "the", "actual", "physical", "location", "of", "web", "service", "is", "not", "necessarily", "associated", "with", "the", "geographical", "scopes", "of", "pages", "served", "by", "web", "service", ".", "The", "extremely", "poor", "performance", "of", "the", "classification", "based", "crawler", "is", "surprising", "since", "this", "kind", "of", "collaboration", "strategy", "shows", "to", "achieve", "good", "performance", "for", "the", "topic-oriented", "crawling", "-LSB-", "12", "-RSB-", ".", "Finally", ",", "the", "worst", "performance", "is", "observed", "with", "the", "URL-hash", "based", "collaborative", "policy", "as", "expected", "whose", "portion", "of", "pages", "with", "geographical", "entities", "out", "of", "all", "retrieved", "pages", "was", "less", "than", "1", "%", ".", "In", "conclusion", ",", "the", "usage", "of", "even", "simple", "but", "intuitively", "sounding", "geographically", "focused", "collaborative", "policies", "can", "improve", "the", "performance", "of", "standard", "collaborative", "crawling", "by", "a", "factor", "of", "3", "to", "8", "for", "the", "task", "of", "collecting", "geographically-aware", "pages", ".", "To", "check", "whether", "each", "geographically", "sensitive", "crawling", "node", "is", "actually", "downloading", "pages", "corresponding", "to", "their", "assigned", "city-state", "pairs", ",", "we", "used", "the", "geo-focus", "as", "shown", "in", "11", "http://www.census.gov/geo/www/tiger/tiger2004se/", "tgr2004se.html", "293", "Type", "of", "collaboration", "Cn0", "Cn1", "Cn2", "Cn3", "Cn4", "Cn5", "Average", "Average", "-LRB-", "without", "Cn0", "-RRB-", "URL-Hash", "Based", "1.15", "%", "0.80", "%", "0.77", "%", "0.75", "%", "0.82", "%", "0.86", "%", "0.86", "%", "0.86", "%", "URL", "Based", "3.04", "%", "7.39", "%", "9.89", "%", "9.37", "%", "7.30", "%", "13.10", "%", "7.25", "%", "8.63", "%", "Extended", "Anchor", "Text", "Based", "5.29", "%", "6.73", "%", "9.78", "%", "9.99", "%", "6.01", "%", "12.24", "%", "7.88", "%", "8.58", "%", "Full", "Content", "Based", "1.11", "%", "3.92", "%", "5.79", "%", "6.87", "%", "3.24", "%", "8.51", "%", "4.89", "%", "5.71", "%", "Classification", "Based", "0.49", "%", "1.23", "%", "1.20", "%", "1.27", "%", "1.22", "%", "1.10", "%", "1.09", "%", "1.21", "%", "IP-Address", "Based", "0.81", "%", "2.02", "%", "1.43", "%", "2.59", "%", "2.74", "%", "0.00", "%", "1.71", "%", "2.20", "%", "Table", "3", ":", "Geo-coverage", "of", "crawling", "strategies", "Type", "of", "collaboration", "Cn1", "Cn2", "Cn3", "Cn4", "Cn5", "Average", "URL", "based", "91.7", "%", "89.0", "%", "82.8", "%", "94.3", "%", "97.6", "%", "91.1", "%", "Extended", "anchor", "82.0", "%", "90.5", "%", "79.6", "%", "76.8", "%", "92.3", "%", "84.2", "%", "text", "based", "Full", "content", "based", "75.2", "%", "77.4", "%", "75.1", "%", "63.5", "%", "84.9", "%", "75.2", "%", "Classification", "based", "43.5", "%", "32.6", "%", "5.5", "%", "25.8", "%", "2.9", "%", "22.1", "%", "IP-Address", "based", "59.6", "%", "63.6", "%", "55.6", "%", "80.0", "%", "0.0", "%", "51.8", "%", "Table", "4", ":", "Geo-focus", "of", "crawling", "strategies", "Type", "of", "collaboration", "Cn0", "Cn1", "Cn2", "Cn3", "Cn4", "Cn5", "Average", "URL-hash", "based", "0.45", "0.47", "0.46", "0.49", "0.49", "0.49", "0.35", "URL", "based", "0.39", "0.2", "0.18", "0.16", "0.24", "0.07", "0.18", "Extended", "anchor", "0.39", "0.31", "0.22", "0.13", "0.32", "0.05", "0.16", "text", "based", "Full", "content", "based", "0.49", "0.35", "0.31", "0.29", "0.39", "0.14", "0.19", "Classification", "based", "0.52", "0.45", "0.45", "0.46", "0.46", "0.45", "0.26", "IP-Address", "based", "0.46", "0.25", "0.31", "0.19", "0.32", "0.00", "0.27", "Table", "5", ":", "Number", "of", "unique", "geographic", "entities", "over", "the", "total", "number", "of", "geographic", "entities", "Table", "4", ".", "Once", "again", ",", "the", "URL-based", "and", "the", "extended", "anchor", "text", "based", "strategies", "show", "to", "perform", "well", "with", "respect", "to", "this", "particular", "measure", "achieving", "in", "average", "above", "85", "%", "of", "geo-focus", ".", "Once", "again", ",", "their", "relatively", "high", "performance", "strongly", "suggest", "that", "the", "city", "name", "reference", "within", "a", "URL", "address", "of", "page", "or", "an", "extended", "anchor", "text", "is", "a", "good", "feature", "to", "be", "considered", "for", "the", "determination", "of", "geographical", "scope", "of", "page", ".", "The", "geo-focus", "value", "of", "75.2", "%", "for", "the", "content", "based", "collaborative", "strategy", "also", "suggests", "that", "the", "locality", "phenomena", "which", "occurs", "with", "the", "topic", "of", "page", "also", "occurs", "within", "the", "geographical", "dimension", "as", "well", ".", "It", "is", "reported", ",", "-LSB-", "13", "-RSB-", ",", "that", "pages", "tend", "to", "reference", "-LRB-", "point", "to", "-RRB-", "other", "pages", "on", "the", "same", "general", "topic", ".", "The", "relatively", "high", "geo-focus", "value", "for", "the", "content", "based", "collaborative", "strategy", "indicates", "that", "pages", "on", "the", "similar", "geographical", "scope", "tend", "to", "reference", "each", "other", ".", "The", "IP-address", "based", "policy", "achieves", "51.7", "%", "of", "geo-focus", "while", "the", "classification", "based", "policy", "only", "achieves", "22.7", "%", "of", "geo-focus", ".", "The", "extremely", "poor", "geo-focus", "of", "the", "classification", "based", "policy", "seems", "to", "be", "due", "to", "the", "failure", "of", "the", "classifier", "for", "the", "determination", "of", "the", "correct", "geographical", "scope", "of", "page", ".", "In", "the", "geographically", "focused", "crawling", ",", "it", "is", "possible", "that", "pages", "are", "biased", "toward", "a", "certain", "geographic", "locations", ".", "For", "instance", ",", "when", "we", "download", "pages", "on", "Las", "Vegas", ",", "NV", ",", "it", "is", "possible", "that", "we", "have", "downloaded", "a", "large", "number", "of", "pages", "which", "are", "focused", "on", "a", "few", "number", "of", "casino", "hotels", "in", "Las", "Vegas", ",", "NV", "which", "are", "highly", "referenced", "to", "each", "other", ".", "In", "this", "case", ",", "quality", "of", "the", "downloaded", "pages", "would", "not", "be", "that", "good", "since", "most", "of", "pages", "would", "contain", "a", "large", "number", "of", "very", "similar", "geographic", "entities", ".", "To", "formalize", "the", "notion", ",", "we", "depict", "the", "ratio", "between", "the", "number", "of", "unique", "geographic", "entities", "and", "the", "total", "number", "of", "geographic", "entities", "from", "the", "retrieved", "pages", "as", "shown", "in", "Table", "5", ".", "This", "ratio", "verifies", "whether", "each", "crawling", "policy", "is", "covering", "sufficient", "number", "of", "pages", "whose", "geographical", "scope", "is", "different", ".", "It", "is", "interesting", "Type", "of", "collaboration", "Geo-centrality", "Hash", "based", "0.0222", "URL", "based", "0.1754", "Extended", "anchor", "text", "based", "0.1519", "Full", "content", "based", "0.0994", "Classification", "based", "0.0273", "IP-address", "based", "0.0380", "Table", "6", ":", "Geo-centrality", "of", "crawling", "strategies", "Type", "of", "collaboration", "Overlap", "Hash", "Based", "None", "URL", "Based", "None", "Extended", "Anchor", "Text", "Based", "0.08461", "Full", "Content", "Based", "0.173239", "Classification", "Based", "0.34599", "IP-address", "based", "None", "Table", "7", ":", "Overlap", "of", "crawling", "strategies", "to", "note", "that", "those", "geographically", "focused", "collaborative", "policies", ",", "which", "show", "to", "have", "good", "performance", "relative", "to", "the", "previous", "measures", ",", "such", "as", "the", "URL", "based", ",", "the", "extended", "anchor", "text", "based", "and", "the", "full", "content", "based", "strategies", "tend", "to", "discover", "pages", "with", "less", "diverse", "geographical", "scope", ".", "On", "the", "other", "hand", ",", "the", "less", "performed", "crawling", "strategies", "such", "as", "the", "IP-based", ",", "the", "classification", "based", ",", "the", "URL-hash", "based", "strategies", "are", "shown", "to", "collect", "pages", "with", "more", "diverse", "geographical", "scope", ".", "We", "finally", "study", "each", "crawling", "strategy", "in", "terms", "of", "the", "geo-centrality", "measure", "as", "shown", "in", "Table", "6", ".", "One", "may", "observe", "from", "Table", "6", "that", "the", "geo-centrality", "value", "provides", "an", "accurate", "view", "on", "the", "quality", "of", "the", "downloaded", "geo", "graphically-aware", "pages", "for", "each", "crawling", "strategy", "since", "the", "geo-centrality", "value", "for", "each", "crawling", "strategy", "follows", "what", "we", "have", "obtained", "with", "respect", "to", "geo-coverage", "and", "geo-precision", ".", "URL", "based", "and", "extended", "anchor", "text", "based", "strategies", "show", "to", "have", "the", "best", "geo-centrality", "values", "with", "0.1754", "and", "0.1519", "respectively", ",", "followed", "by", "the", "full", "content", "based", "strategy", "with", "0.0994", ",", "followed", "by", "the", "IP", "based", "strategy", "with", "0.0380", ",", "and", "finally", "the", "hash", "based", "strategy", "and", "the", "classification", "based", "strategy", "show", "to", "have", "similarly", "low", "geo-centrality", "values", ".", "5.2.2", "Performance", "Issue", "In", "Table", "7", ",", "we", "first", "show", "the", "overlap", "measure", "which", "reflects", "the", "number", "of", "duplicated", "pages", "out", "of", "the", "downloaded", "pages", ".", "Note", "that", "the", "hash", "based", "policy", "does", "not", "have", "any", "duplicated", "page", "since", "its", "page", "assignment", "is", "completely", "independent", "of", "other", "page", "assignment", ".", "For", "the", "same", "reason", ",", "the", "overlap", "for", "the", "URL", "based", "and", "the", "IP", "based", "strategies", "are", "none", ".", "The", "overlap", "of", "the", "extended", "anchor", "text", "294", "Type", "of", "collaboration", "Diversity", "Hash", "Based", "0.0814", "URL", "Based", "0.0405", "Extended", "Anchor", "Text", "Based", "0.0674", "Full", "Content", "Based", "0.0688", "Classification", "Based", "0.0564", "IP-address", "based", "0.3887", "Table", "8", ":", "Diversity", "of", "crawling", "strategies", "based", "is", "0.08461", "indicating", "that", "the", "extended", "anchor", "text", "of", "page", "computes", "the", "geographically", "scope", "of", "the", "corresponding", "URL", "in", "an", "almost", "unique", "manner", ".", "In", "other", "words", ",", "there", "is", "low", "probability", "that", "two", "completely", "different", "city", "name", "references", "are", "found", "within", "a", "URL", "address", ".", "Therefore", ",", "this", "would", "be", "another", "reason", "why", "the", "extended", "anchor", "text", "would", "be", "a", "good", "feature", "to", "be", "used", "for", "the", "partition", "of", "the", "web", "within", "the", "geographical", "context", ".", "The", "overlap", "of", "the", "full", "content", "based", "and", "the", "classification", "based", "strategies", "are", "relatively", "high", "with", "0.173239", "and", "0.34599", "respectively", ".", "In", "Table", "8", ",", "we", "present", "the", "diversity", "of", "the", "downloaded", "pages", ".", "The", "diversity", "values", "of", "geographically", "focused", "collaborative", "crawling", "strategies", "suggest", "that", "most", "of", "the", "geographically", "focused", "collaborative", "crawling", "strategies", "tend", "to", "favor", "those", "pages", "which", "are", "found", "grouped", "under", "the", "same", "domain", "names", "because", "of", "their", "crawling", "method", ".", "Especially", ",", "the", "relatively", "low", "diversity", "value", "of", "the", "URL", "based", "strongly", "emphasizes", "this", "tendency", ".", "Certainly", ",", "this", "matches", "with", "the", "intuition", "since", "a", "page", "like", "``", "http://www.houston-guide.com\"", "will", "eventually", "lead", "toward", "the", "download", "of", "its", "child", "page", "``", "http://www.houston-guide.com/guide/arts/framearts.html\"", "which", "shares", "the", "same", "domain", ".", "In", "Table", "9", ",", "we", "present", "the", "communication-overhead", "of", "each", "crawling", "strategy", ".", "Cho", "and", "Garcia-Molina", "-LSB-", "10", "-RSB-", "report", "that", "the", "communication", "overhead", "of", "the", "Hash-Based", "with", "two", "processors", "is", "well", "above", "five", ".", "The", "communication-overhead", "of", "the", "Hash-based", "policy", "that", "we", "have", "follows", "with", "what", "they", "have", "obtained", ".", "The", "communication", "overhead", "of", "geographically", "focused", "collaborative", "policies", "is", "relatively", "high", "due", "to", "the", "intensive", "exchange", "of", "URLs", "between", "crawling", "nodes", ".", "In", "Table", "10", ",", "we", "summarize", "the", "relative", "merits", "of", "the", "proposed", "geographically", "focused", "collaborative", "crawling", "strategies", ".", "In", "the", "Table", ",", "``", "Good", "''", "means", "that", "the", "strategy", "is", "expected", "to", "perform", "relatively", "well", "for", "the", "measure", ",", "``", "Not", "Bad", "''", "means", "that", "the", "strategy", "is", "expected", "to", "perform", "relatively", "acceptable", "for", "that", "particular", "measure", ",", "and", "``", "Bad", "''", "means", "that", "it", "may", "perform", "worse", "compared", "to", "most", "of", "other", "collaboration", "strategies", ".", "5.3", "Geographic", "Locality", "Many", "of", "the", "potential", "benefits", "of", "topic-oriented", "collaborative", "crawling", "derive", "from", "the", "assumption", "of", "topic", "locality", ",", "that", "pages", "tend", "to", "reference", "pages", "on", "the", "same", "topic", "-LSB-", "12", ",", "13", "-RSB-", ".", "For", "instance", ",", "a", "classifier", "is", "used", "to", "determine", "whether", "the", "child", "page", "is", "in", "the", "same", "topic", "as", "the", "parent", "page", "and", "then", "guide", "the", "overall", "crawling", "-LSB-", "12", "-RSB-", ".", "Similarly", ",", "for", "geographically", "focused", "collaborative", "crawling", "strategies", "we", "make", "the", "assumption", "of", "geographic", "locality", ",", "that", "pages", "tend", "to", "reference", "pages", "on", "the", "same", "geographic", "location", ".", "Therefore", ",", "the", "performance", "of", "a", "geographically", "focused", "collaborative", "crawling", "strategy", "is", "highly", "dependent", "on", "its", "way", "of", "exploiting", "the", "geographic", "locality", ".", "That", "is", "whether", "the", "correspond-Type", "of", "collaboration", "Communication", "overhead", "URL-hash", "based", "13.89", "URL", "based", "25.72", "Extended", "anchor", "text", "based", "61.87", "Full", "content", "text", "based", "46.69", "Classification", "based", "58.38", "IP-Address", "based", "0.15", "Table", "9", ":", "Communication-overhead", "ing", "strategy", "is", "based", "on", "the", "adequate", "features", "to", "determine", "the", "geographical", "similarity", "of", "two", "pages", "which", "are", "possibly", "linked", ".", "We", "empirically", "study", "in", "what", "extent", "the", "idea", "of", "geographic", "locality", "holds", ".", "Recall", "that", "given", "the", "list", "of", "city-state", "pairs", "G", "=", "-LCB-", "~", "c", "1", ",", "...", ",", "~", "c", "k", "-RCB-", "and", "a", "geographically", "focused", "crawling", "collaboration", "strategy", "-LRB-", "e.g.", ",", "URL", "based", "collaboration", "-RRB-", ",", "pr", "-LRB-", "~", "c", "i", "|", "p", "j", "-RRB-", "is", "the", "probability", "that", "page", "is", "p", "j", "is", "pertinent", "to", "city-state", "pair", "c", "i", "according", "to", "that", "particular", "strategy", ".", "Let", "gs", "-LRB-", "p", ",", "q", "-RRB-", ",", "geographic", "similarity", "between", "pages", "p", ",", "q", ",", "be", "gs", "-LRB-", "p", ",", "q", "-RRB-", "=", "1", "if", "-LRB-", "arg", "max", "~", "c", "i", "G", "P", "r", "-LRB-", "~", "c", "i", "|", "p", "-RRB-", "=", "arg", "max", "~", "c", "j", "G", "P", "r", "-LRB-", "~", "c", "j", "|", "q", "-RRB-", "-RRB-", "0", "otherwise", "In", "other", "words", ",", "our", "geographical", "similarity", "determines", "whether", "two", "pages", "are", "pertinent", "to", "the", "same", "city-state", "pair", ".", "Given", ",", "the", "set", "of", "retrieved", "page", "for", "the", "considered", "crawling", "strategy", ",", "let", "-LRB-", "-RRB-", "and", "~", "-LRB-", "-RRB-", "be", "-LRB-", "-RRB-", "=", "|", "-LCB-", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "|", "p", "i", ",", "p", "j", "linked", "and", "gs", "-LRB-", "p", ",", "q", "-RRB-", "=", "1", "-RCB-", "|", "|", "-LCB-", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "|", "p", "i", ",", "p", "j", "linked", "-RCB-", "|", "~", "-LRB-", "-RRB-", "=", "|", "-LCB-", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "|", "p", "i", ",", "p", "j", "not", "linked", "and", "gs", "-LRB-", "p", ",", "q", "-RRB-", "=", "1", "-RCB-", "|", "|", "-LCB-", "-LRB-", "p", "i", ",", "p", "j", "-RRB-", "|", "p", "i", ",", "p", "j", "not", "linked", "-RCB-", "|", "Note", "that", "-LRB-", "-RRB-", "corresponds", "to", "the", "probability", "that", "a", "pair", "of", "linked", "pages", ",", "chosen", "uniformly", "at", "random", ",", "is", "pertinent", "to", "the", "same", "city-state", "pair", "under", "the", "considered", "collaboration", "strategy", "while", "~", "-LRB-", "-RRB-", "corresponds", "to", "the", "probability", "that", "a", "pair", "of", "unlinked", "pages", ",", "chosen", "uniformly", "at", "random", ",", "is", "pertinent", "to", "the", "same", "city-state", "pair", "under", "the", "considered", "collaboration", "strategy", ".", "Therefore", ",", "if", "the", "geographic", "locality", "occurs", "then", "we", "would", "expect", "to", "have", "high", "-LRB-", "-RRB-", "value", "compared", "to", "that", "of", "~", "-LRB-", "-RRB-", ".", "We", "selected", "the", "URL", "based", ",", "the", "classification", "based", ",", "and", "the", "full", "content", "based", "collaboration", "strategies", ",", "and", "calculated", "both", "-LRB-", "-RRB-", "and", "~", "-LRB-", "-RRB-", "for", "each", "collaboration", "strategy", ".", "In", "Table", "11", ",", "we", "show", "the", "results", "of", "our", "computation", ".", "One", "may", "observe", "from", "Table", "11", "that", "those", "pages", "that", "share", "the", "same", "city-state", "pair", "in", "their", "URL", "address", "have", "the", "high", "likelihood", "of", "being", "linked", ".", "Those", "pages", "that", "share", "the", "same", "city-state", "pair", "in", "their", "content", "have", "some", "likelihood", "of", "being", "linked", ".", "Finally", ",", "those", "pages", "which", "are", "classified", "as", "sharing", "the", "same", "city-state", "pair", "are", "less", "likely", "to", "be", "linked", ".", "We", "may", "conclude", "the", "following", ":", "The", "geographical", "similarity", "of", "two", "web", "pages", "affects", "the", "likelihood", "of", "being", "referenced", ".", "In", "other", "words", ",", "geographic", "locality", ",", "that", "pages", "tend", "to", "reference", "pages", "on", "the", "same", "geographic", "location", ",", "clearly", "occurs", "on", "the", "web", ".", "A", "geographically", "focused", "collaboration", "crawling", "strategy", "which", "properly", "explores", "the", "adequate", "features", "for", "determining", "the", "likelihood", "of", "two", "pages", "being", "in", "the", "same", "geographical", "scope", "would", "expect", "to", "perform", "well", "for", "the", "geographically", "focused", "crawling", ".", "295", "Type", "of", "collaboration", "Geo-coverage", "Geo-Focus", "Geo-Connectivity", "Overlap", "Diversity", "Communication", "URL-Hash", "Based", "Bad", "Bad", "Bad", "Good", "Good", "Good", "URL", "Based", "Good", "Good", "Good", "Good", "Bad", "Bad", "Extended", "Anchor", "Good", "Good", "Good", "Good", "Not", "Bad", "Bad", "Text", "Based", "Full", "Content", "Based", "Not", "Bad", "Not", "Bad", "Not", "Bad", "Not", "Bad", "Not", "Bad", "Bad", "Classification", "Based", "Bad", "Bad", "Bad", "Bad", "Not", "Bad", "Bad", "IP-Address", "Bad", "Bad", "Bad", "Good", "Bad", "Good", "Table", "10", ":", "Comparison", "of", "geographically", "focused", "collaborative", "crawling", "strategies", "Type", "of", "collaboration", "-LRB-", "-RRB-", "~", "-LRB-", "-RRB-", "URL", "based", "0.41559", "0.02582", "classification", "based", "0.044495", "0.008923", "full", "content", "based", "0.26325", "0.01157", "Table", "11", ":", "Geographic", "Locality", "In", "this", "paper", ",", "we", "studied", "the", "problem", "of", "geographically", "focused", "collaborative", "crawling", "by", "proposing", "several", "collaborative", "crawling", "strategies", "for", "this", "particular", "type", "of", "crawling", ".", "We", "also", "proposed", "various", "evaluation", "criteria", "to", "measure", "the", "relative", "merits", "of", "each", "crawling", "strategy", "while", "empirically", "studying", "the", "proposed", "crawling", "strategies", "with", "the", "download", "of", "real", "web", "data", ".", "We", "conclude", "that", "the", "URL", "based", "and", "the", "extended", "anchor", "text", "based", "crawling", "strategies", "have", "the", "best", "overall", "performance", ".", "Finally", ",", "we", "empirically", "showed", "geographic", "locality", ",", "that", "pages", "tend", "to", "reference", "pages", "on", "the", "same", "geographical", "scope", ".", "For", "the", "future", "research", ",", "it", "would", "be", "interesting", "to", "incorporate", "more", "sophisticated", "features", "-LRB-", "e.g.", ",", "based", "on", "DOM", "structures", "-RRB-", "to", "the", "proposed", "crawling", "strategies", ".", "We", "would", "like", "to", "thank", "Genieknows.com", "for", "allowing", "us", "to", "access", "to", "its", "hardware", ",", "storage", ",", "and", "bandwidth", "resources", "for", "our", "experimental", "studies", ".", "-LSB-", "1", "-RSB-", "C.", "C.", "Aggarwal", ",", "F.", "Al-Garawi", ",", "and", "P.", "S.", "Yu", ".", "Intelligent", "crawling", "on", "the", "world", "wide", "web", "with", "arbitrary", "predicates", ".", "In", "WWW", ",", "pages", "96", "105", ",", "2001", ".", "-LSB-", "2", "-RSB-", "E.", "Amitay", ",", "N.", "Har", "`", "El", ",", "R.", "Sivan", ",", "and", "A.", "Soffer", ".", "Web-a-where", ":", "geotagging", "web", "content", ".", "In", "SIGIR", ",", "pages", "273", "280", ",", "2004", ".", "-LSB-", "3", "-RSB-", "S.", "Borgatti", ".", "Centrality", "and", "network", "flow", ".", "Social", "Networks", ",", "27", "-LRB-", "1", "-RRB-", ":", "55", "71", ",", "2005", ".", "-LSB-", "4", "-RSB-", "P.", "D.", "Bra", ",", "Y.", "K.", "Geert-Jan", "Houben", ",", "and", "R.", "Post", ".", "Information", "retrieval", "in", "distributed", "hypertexts", ".", "In", "RIAO", ",", "pages", "481", "491", ",", "1994", ".", "-LSB-", "5", "-RSB-", "O.", "Buyukkokten", ",", "J.", "Cho", ",", "H.", "Garcia-Molina", ",", "L.", "Gravano", ",", "and", "N.", "Shivakumar", ".", "Exploiting", "geographical", "location", "information", "of", "web", "pages", ".", "In", "WebDB", "-LRB-", "Informal", "Proceedings", "-RRB-", ",", "pages", "91", "96", ",", "1999", ".", "-LSB-", "6", "-RSB-", "S.", "Chakrabarti", ".", "Mining", "the", "Web", ".", "Morgan", "Kaufmann", "Publishers", ",", "2003", ".", "-LSB-", "7", "-RSB-", "S.", "Chakrabarti", ",", "K.", "Punera", ",", "and", "M.", "Subramanyam", ".", "Accelerated", "focused", "crawling", "through", "online", "relevance", "feedback", ".", "In", "WWW", ",", "pages", "148", "159", ",", "2002", ".", "-LSB-", "8", "-RSB-", "S.", "Chakrabarti", ",", "M.", "van", "den", "Berg", ",", "and", "B.", "Dom", ".", "Focused", "crawling", ":", "A", "new", "approach", "to", "topic-specific", "web", "resource", "discovery", ".", "Computer", "Networks", ",", "31", "-LRB-", "11-16", "-RRB-", ":", "1623", "1640", ",", "1999", ".", "-LSB-", "9", "-RSB-", "J.", "Cho", ".", "Crawling", "the", "Web", ":", "Discovery", "and", "Maintenance", "of", "Large-Scale", "Web", "Data", ".", "PhD", "thesis", ",", "Stanford", ",", "2001", ".", "-LSB-", "10", "-RSB-", "J.", "Cho", "and", "H.", "Garcia-Molina", ".", "Parallel", "crawlers", ".", "In", "WWW", ",", "pages", "124", "135", ",", "2002", ".", "-LSB-", "11", "-RSB-", "J.", "Cho", ",", "H.", "Garcia-Molina", ",", "and", "L.", "Page", ".", "Efficient", "crawling", "through", "url", "ordering", ".", "Computer", "Networks", ",", "30", "-LRB-", "1-7", "-RRB-", ":", "161", "172", ",", "1998", ".", "-LSB-", "12", "-RSB-", "C.", "Chung", "and", "C.", "L.", "A.", "Clarke", ".", "Topic-oriented", "collaborative", "crawling", ".", "In", "CIKM", ",", "pages", "34", "42", ",", "2002", ".", "-LSB-", "13", "-RSB-", "B.", "D.", "Davison", ".", "Topical", "locality", "in", "the", "web", ".", "In", "SIGIR", ",", "pages", "272", "279", ",", "2000", ".", "-LSB-", "14", "-RSB-", "M.", "Diligenti", ",", "F.", "Coetzee", ",", "S.", "Lawrence", ",", "C.", "L.", "Giles", ",", "and", "M.", "Gori", ".", "Focused", "crawling", "using", "context", "graphs", ".", "In", "VLDB", ",", "pages", "527", "534", ",", "2000", ".", "-LSB-", "15", "-RSB-", "J.", "Ding", ",", "L.", "Gravano", ",", "and", "N.", "Shivakumar", ".", "Computing", "geographical", "scopes", "of", "web", "resources", ".", "In", "VLDB", ",", "pages", "545", "556", ",", "2000", ".", "-LSB-", "16", "-RSB-", "J.", "Edwards", ",", "K.", "S.", "McCurley", ",", "and", "J.", "A.", "Tomlin", ".", "An", "adaptive", "model", "for", "optimizing", "performance", "of", "an", "incremental", "web", "crawler", ".", "In", "WWW", ",", "pages", "106", "113", ",", "2001", ".", "-LSB-", "17", "-RSB-", "J.", "Exposto", ",", "J.", "Macedo", ",", "A.", "Pina", ",", "A.", "Alves", ",", "and", "J.", "Rufino", ".", "Geographical", "partition", "for", "distributed", "web", "crawling", ".", "In", "GIR", ",", "pages", "55", "60", ",", "2005", ".", "-LSB-", "18", "-RSB-", "L.", "Gravano", ",", "V.", "Hatzivassiloglou", ",", "and", "R.", "Lichtenstein", ".", "Categorizing", "web", "queries", "according", "to", "geographical", "locality", ".", "In", "CIKM", ",", "pages", "325", "333", ",", "2003", ".", "-LSB-", "19", "-RSB-", "A.", "Heydon", "and", "M.", "Najork", ".", "Mercator", ":", "A", "scalable", ",", "extensible", "web", "crawler", ".", "World", "Wide", "Web", ",", "2", "-LRB-", "4", "-RRB-", ":", "219", "229", ",", "1999", ".", "-LSB-", "20", "-RSB-", "J.", "M.", "Kleinberg", ".", "Authoritative", "sources", "in", "a", "hyperlinked", "environment", ".", "J.", "ACM", ",", "46", "-LRB-", "5", "-RRB-", ":", "604", "632", ",", "1999", ".", "-LSB-", "21", "-RSB-", "H.", "C.", "Lee", "and", "R.", "Miller", ".", "Bringing", "geographical", "order", "to", "the", "web", ".", "private", "communication", ",", "2005", ".", "-LSB-", "22", "-RSB-", "A.", "Markowetz", ",", "Y.-Y", ".", "Chen", ",", "T.", "Suel", ",", "X.", "Long", ",", "and", "B.", "Seeger", ".", "Design", "and", "implementation", "of", "a", "geographic", "search", "engine", ".", "In", "WebDB", ",", "pages", "19", "24", ",", "2005", ".", "-LSB-", "23", "-RSB-", "A.", "McCallum", ",", "K.", "Nigam", ",", "J.", "Rennie", ",", "and", "K.", "Seymore", ".", "A", "machine", "learning", "approach", "to", "building", "domain-specific", "search", "engines", ".", "In", "IJCAI", ",", "pages", "662", "667", ",", "1999", ".", "-LSB-", "24", "-RSB-", "F.", "Menczer", ",", "G.", "Pant", ",", "P.", "Srinivasan", ",", "and", "M.", "E.", "Ruiz", ".", "Evaluating", "topic-driven", "web", "crawlers", ".", "In", "SIGIR", ",", "pages", "241", "249", ",", "2001", ".", "-LSB-", "25", "-RSB-", "T.", "Mitchell", ".", "Machine", "Learning", ".", "McGraw", "Hill", ",", "1997", ".", "296" ]

[ "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Graalbench", ":", "A", "3D", "Graphics", "Benchmark", "Suite", "For", "Mobile", "Phones", "In", "this", "paper", "we", "consider", "implementations", "of", "embedded", "3D", "graphics", "and", "provide", "evidence", "indicating", "that", "3D", "benchmarks", "employed", "for", "desktop", "computers", "are", "not", "suitable", "for", "mobile", "environments", ".", "Consequently", ",", "we", "present", "GraalBench", ",", "a", "set", "of", "3D", "graphics", "workloads", "representative", "for", "contemporary", "and", "emerging", "mobile", "devices", ".", "In", "addition", ",", "we", "present", "detailed", "simulation", "results", "for", "a", "typical", "rasterization", "pipeline", ".", "The", "results", "show", "that", "the", "proposed", "benchmarks", "use", "only", "a", "part", "of", "the", "resources", "offered", "by", "current", "3D", "graphics", "libraries", ".", "For", "instance", ",", "while", "each", "benchmark", "uses", "the", "texturing", "unit", "for", "more", "than", "70", "%", "of", "the", "generated", "fragments", ",", "the", "alpha", "unit", "is", "employed", "for", "less", "than", "13", "%", "of", "the", "fragments", ".", "The", "Fog", "unit", "was", "used", "for", "84", "%", "of", "the", "fragments", "by", "one", "benchmark", ",", "but", "the", "other", "benchmarks", "did", "not", "use", "it", "at", "all", ".", "Our", "experiments", "on", "the", "proposed", "suite", "suggest", "that", "the", "texturing", ",", "depth", "and", "blending", "units", "should", "be", "implemented", "in", "hardware", ",", "while", ",", "for", "instance", ",", "the", "dithering", "unit", "may", "be", "omitted", "from", "a", "hardware", "implementation", ".", "Finally", ",", "we", "discuss", "the", "architectural", "implications", "of", "the", "obtained", "results", "for", "hardware", "implementations", ".", "C.", "3", "-LSB-", "Special-Purpose", "and", "Application-Based", "Systems", "-RSB-", ":", "Real-time", "and", "embedded", "systems", "Performance", ",", "Measurement", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "LCTES", "'", "04", ",", "June", "11", "13", ",", "2004", ",", "Washington", ",", "DC", ",", "USA", ".", "Copyright", "2004", "ACM", "1-58113-806-7", "/", "04/0006", "...", "$", "5.00", ".", "In", "recent", "years", ",", "mobile", "computing", "devices", "have", "been", "used", "for", "a", "broader", "spectrum", "of", "applications", "than", "mobile", "telephony", "or", "personal", "digital", "assistance", ".", "Several", "companies", "expect", "that", "3D", "graphics", "applications", "will", "become", "an", "important", "workload", "of", "wireless", "devices", ".", "For", "example", ",", "according", "to", "-LSB-", "10", "-RSB-", ",", "the", "number", "of", "users", "of", "interactive", "3D", "graphics", "applications", "-LRB-", "in", "particular", "games", "-RRB-", "is", "expected", "to", "increase", "drastically", "in", "the", "future", ":", "it", "is", "predicted", "that", "the", "global", "wireless", "games", "market", "will", "grow", "to", "4", "billion", "dollars", "in", "2006", ".", "Because", "current", "wireless", "devices", "do", "not", "have", "sufficient", "computational", "power", "to", "support", "3D", "graphics", "in", "real", "time", "and", "because", "present", "accelerators", "consume", "too", "much", "power", ",", "several", "companies", "and", "universities", "have", "started", "to", "develop", "a", "low-power", "3D", "graphics", "accelerator", ".", "However", ",", "to", "the", "best", "of", "our", "knowledge", ",", "there", "is", "no", "publicly", "available", "benchmark", "suite", "that", "can", "be", "used", "to", "guide", "the", "architectural", "exploration", "of", "such", "devices", ".", "This", "paper", "presents", "GraalBench", ",", "a", "3D", "graphics", "benchmark", "suite", "suitable", "for", "3D", "graphics", "on", "low-power", ",", "mobile", "systems", ",", "in", "particular", "mobile", "phones", ".", "These", "benchmarks", "were", "collected", "to", "facilitate", "our", "studies", "on", "low-power", "3D", "graphics", "accelerators", "in", "the", "Graal", "-LRB-", "GRAphics", "AcceLerator", "-RRB-", "project", "-LSB-", "5", "-RSB-", ".", "It", "includes", "several", "games", "as", "well", "as", "virtual", "reality", "applications", "such", "as", "3D", "museum", "guides", ".", "Applications", "were", "selected", "on", "the", "basis", "of", "several", "criteria", ".", "For", "example", ",", "CAD/CAM", "applications", ",", "such", "as", "contained", "in", "the", "Viewperf", "package", "-LSB-", "18", "-RSB-", ",", "were", "excluded", "because", "it", "is", "unlikely", "that", "they", "will", "be", "offered", "on", "mobile", "devices", ".", "Other", "characteristics", "we", "considered", "are", "resolution", "and", "polygon", "count", ".", "A", "second", "goal", "of", "this", "paper", "is", "to", "provide", "a", "detailed", "quantitative", "workload", "characterization", "of", "the", "collected", "benchmarks", ".", "For", "each", "rasterization", "unit", ",", "we", "determine", "if", "it", "is", "used", "by", "the", "benchmark", ",", "and", "collect", "several", "statistics", "such", "as", "the", "number", "of", "fragments", "that", "bypass", "the", "unit", ",", "fragments", "that", "are", "processed", "by", "the", "unit", "and", "pass", "the", "test", ",", "and", "fragments", "that", "are", "processed", "but", "fail", "the", "test", ".", "Such", "statistics", "can", "be", "used", "to", "guide", "the", "development", "of", "mobile", "3D", "graphics", "1", "architectures", ".", "For", "example", ",", "a", "unit", "that", "is", "rarely", "used", "might", "not", "be", "supported", "by", "a", "low-power", "accelerator", "or", "it", "might", "be", "implemented", "using", "less", "resources", ".", "Furthermore", ",", "if", "many", "fragments", "are", "discarded", "before", "the", "final", "tests", ",", "the", "pixel", "pipeline", "of", "the", "last", "stages", "might", "be", "narrower", "than", "the", "width", "of", "earlier", "stages", ".", "This", "paper", "is", "organized", "as", "follows", ".", "Previous", "work", "on", "3D", "graphics", "benchmarking", "is", "described", "in", "Section", "2", ".", "In", "this", "section", "we", "also", "give", "reasons", "why", "current", "3D", "graphics", "benchmarks", "are", "not", "appropriate", "for", "mobile", "environments", ".", "Section", "3", "first", "explains", "how", "the", "benchmarks", "were", "obtained", ",", "describes", "our", "tracing", "environment", ",", "the", "simulator", "we", "used", "to", "collect", "the", "statistics", "and", ",", "after", "that", ",", "describes", "the", "components", "of", "the", "proposed", "benchmark", "suite", "and", "presents", "some", "general", "characteristics", "of", "the", "workloads", ".", "Section", "4", "provides", "a", "workload", "characterization", "of", "the", "benchmarks", "and", "discusses", "architectural", "implications", ".", "Conclusions", "and", "directions", "for", "future", "work", "are", "given", "in", "Section", "5", ".", "To", "the", "best", "of", "our", "knowledge", ",", "3D", "graphics", "benchmarks", "specifi-cally", "targeted", "at", "low-power", "architectures", "have", "not", "been", "proposed", ".", "Furthermore", ",", "existing", "benchmarks", "can", "not", "be", "considered", "to", "be", "suited", "for", "embedded", "3D", "graphics", "architectures", ".", "For", "example", ",", "consider", "SPEC", "'s", "Viewperf", "-LSB-", "18", "-RSB-", ",", "a", "well-known", "benchmark", "suite", "used", "to", "evaluate", "3D", "graphics", "accelerator", "cards", "employed", "in", "desktop", "computers", ".", "These", "benchmarks", "are", "unsuitable", "for", "low-power", "graphics", "because", "of", "the", "following", ":", "The", "Viewperf", "benchmarks", "are", "designed", "for", "high-resolution", "output", "devices", ",", "but", "the", "displays", "of", "current", "wireless", "systems", "have", "a", "limited", "resolution", ".", "Specifically", ",", "by", "default", "the", "Viewperf", "package", "is", "running", "at", "resolutions", "above", "SVGA", "-LRB-", "800", "600", "pixels", "-RRB-", ",", "while", "common", "display", "resolutions", "for", "mobile", "phones", "are", "QCIF", "-LRB-", "176", "144", "-RRB-", "and", "QVGA", "-LRB-", "320", "240", "-RRB-", ".", "The", "Viewperf", "benchmarks", "use", "a", "large", "number", "of", "polygons", "in", "order", "to", "obtain", "high", "picture", "quality", "-LRB-", "most", "benchmarks", "have", "more", "than", "20,000", "triangles", "per", "frame", "-LSB-", "11", "-RSB-", "-RRB-", ".", "Translated", "to", "a", "mobile", "platform", ",", "most", "rendered", "polygons", "will", "be", "smaller", "than", "one", "pixel", "so", "their", "contribution", "to", "the", "generated", "images", "will", "be", "small", "or", "even", "invisible", ".", "Specifically", ",", "the", "polygon", "count", "of", "the", "Viewperf", "benchmarks", "DRV", ",", "DX", ",", "ProCDRS", ",", "and", "MedMCAD", "is", "too", "high", "for", "mobile", "devices", ".", "Some", "benchmarks", "of", "Viewperf", "are", "CAD/CAM", "applications", "and", "use", "wire-frame", "rendering", "modes", ".", "It", "is", "unlikely", "that", "such", "applications", "will", "be", "offered", "on", "mobile", "platforms", ".", "Except", "Viewperf", ",", "there", "are", "no", "publicly-available", ",", "portable", "3D", "graphics", "benchmark", "suites", ".", "Although", "there", "are", "several", "benchmarking", "suites", "-LSB-", "3", ",", "4", "-RSB-", "based", "on", "the", "DirectX", "API", ",", "they", "are", "not", "suitable", "for", "our", "study", "since", "DirectX", "implementations", "are", "available", "only", "on", "Windows", "systems", ".", "There", "have", "been", "several", "studies", "related", "to", "3D", "graphics", "workload", "characterization", "-LRB-", "e.g.", ",", "-LSB-", "11", ",", "6", "-RSB-", "-RRB-", ".", "Most", "related", "to", "our", "investigation", "is", "the", "study", "of", "Mitra", "and", "Chiueh", "-LSB-", "11", "-RSB-", ",", "since", "they", "also", "considered", "dynamic", ",", "polygonal", "3D", "graphics", "workloads", ".", "Dynamic", "means", "that", "the", "workloads", "consist", "of", "several", "consecutive", "image", "frames", "rather", "than", "individual", "images", ",", "which", "allows", "to", "study", "techniques", "that", "exploit", "the", "coherence", "between", "consecutive", "frames", ".", "Polygonal", "means", "that", "the", "basic", "primitives", "are", "polygons", ",", "which", "are", "supported", "by", "all", "existing", "3D", "chips", ".", "The", "main", "differences", "between", "that", "study", "and", "our", "workload", "characterization", "are", "that", "Mitra", "and", "Chiueh", "considered", "high-end", "applications", "-LRB-", "Viewperf", ",", "among", "others", "-RRB-", "and", "measured", "different", "statistics", ".", "Recently", ",", "a", "number", "of", "mobile", "3D", "graphics", "accelerators", "-LSB-", "1", ",", "16", "-RSB-", "have", "been", "presented", ".", "In", "both", "works", "particular", "benchmarks", "were", "employed", "to", "evaluate", "the", "accelerators", ".", "However", ",", "little", "information", "is", "provided", "about", "the", "benchmarks", "and", "they", "have", "not", "been", "made", "publicly", "available", ".", "Another", "reason", "for", "the", "limited", "availability", "of", "mobile", "3D", "graphics", "benchmarks", "is", "that", "until", "recently", "there", "was", "no", "generally", "accepted", "API", "for", "3D", "graphics", "on", "mobile", "phones", ".", "Recently", ",", "due", "to", "high", "interest", "in", "embedded", "3D", "graphics", ",", "APIs", "suitable", "for", "mobile", "3D", "graphics", "such", "as", "OpenGL", "ES", "-LSB-", "8", "-RSB-", ",", "Java", "mobile", "3D", "Graphics", "API", "-LRB-", "JSR-184", "-RRB-", "-LSB-", "7", "-RSB-", ",", "and", "Mobile", "GL", "-LSB-", "20", "-RSB-", "have", "appeared", ".", "Currently", ",", "however", ",", "there", "are", "no", "3D", "benchmarks", "written", "using", "these", "APIs", ".", "So", ",", "we", "have", "used", "OpenGL", "applications", ".", "Furthermore", ",", "our", "benchmarks", "use", "only", "a", "part", "of", "the", "OpenGL", "functionality", "which", "is", "also", "supported", "by", "OpenGL", "ES", ".", "In", "this", "section", "we", "describe", "the", "environment", "we", "used", "to", "create", "the", "benchmarks", ",", "the", "components", "of", "our", "benchmark", "set", "and", "also", "some", "general", "characteristics", "of", "the", "workloads", ".", "3.1", "Tracing", "Environment", "Due", "to", "their", "interactive", "nature", ",", "3D", "games", "are", "generally", "not", "repeatable", ".", "In", "order", "to", "obtain", "a", "set", "of", "repeatable", "workloads", ",", "we", "traced", "existing", "applications", "logging", "all", "OpenGL", "calls", ".", "Our", "tracing", "environment", "consists", "of", "two", "components", ":", "a", "tracer", "and", "a", "trace", "player", ".", "Our", "tracer", "is", "based", "on", "GLtrace", "from", "Hawksoft", "-LSB-", "15", "-RSB-", ".", "It", "intercepts", "and", "logs", "OpenGL", "calls", "made", "by", "a", "running", "application", ",", "and", "then", "calls", "the", "OpenGL", "function", "invoked", "by", "the", "application", ".", "No", "source", "code", "is", "required", "provided", "the", "application", "links", "dynamically", "with", "the", "OpenGL", "library", ",", "meaning", "that", "the", "executable", "only", "holds", "links", "to", "the", "required", "functions", "which", "are", "bounded", "to", "the", "corresponding", "functions", "at", "run-time", ".", "Statically", "linked", "applications", ",", "in", "which", "case", "the", "required", "libraries", "are", "encapsulated", "in", "the", "executable", "image", ",", "can", "not", "be", "traced", "using", "this", "mechanism", "when", "the", "source", "code", "is", "not", "available", ".", "We", "improved", "GLtrace", "in", "two", "ways", ".", "First", ",", "GLtrace", "does", "not", "log", "completely", "reproducible", "OpenGL", "calls", "-LRB-", "for", "example", ",", "textures", "are", "not", "logged", "-RRB-", ".", "We", "modified", "the", "GLtrace", "library", "so", "that", "all", "OpenGL", "calls", "are", "completely", "reproducible", ".", "Second", ",", "the", "trace", "produced", "by", "GLtrace", "is", "a", "text", "trace", ",", "which", "is", "rather", "slow", ".", "We", "improved", "its", "performance", "by", "adding", "a", "binary", "logging", "mode", "that", "significantly", "reduces", "the", "tracing", "overhead", ".", "In", "addition", ",", "we", "developed", "a", "trace", "player", "that", "plays", "the", "obtained", "traces", ".", "It", "can", "play", "recorded", "frames", "as", "fast", "as", "the", "OpenGL", "implementation", "allows", ".", "It", "does", "not", "skip", "any", "frame", "so", "the", "workload", "generated", "is", "always", "the", "same", ".", "The", "workload", "statistics", "were", "collected", "using", "our", "own", "OpenGL", "simulator", "based", "on", "Mesa", "-LSB-", "14", "-RSB-", ",", "which", "is", "a", "public-domain", "implementation", "of", "OpenGL", ".", "3.2", "The", "Benchmarks", "The", "proposed", "benchmark", "suite", "consists", "of", "the", "following", "components", ":", "Q3L", "and", "Q3H", "Quake", "III", "-LSB-", "9", "-RSB-", "or", "Q3", ",", "for", "short", ",", "is", "a", "popular", "interactive", "3D", "game", "belonging", "to", "the", "shooter", "games", "category", ".", "A", "screenshot", "of", "this", "game", "is", "depicted", "in", "Figure", "1", "-LRB-", "a", "-RRB-", ".", "Even", "though", "it", "can", "be", "considered", "outdated", "for", "contemporary", "PC-class", "graphics", "accelerators", ",", "it", "is", "an", "appropriate", "and", "demanding", "application", "for", "low-power", "devices", ".", "Q3", "has", "a", "flexible", "design", "and", "permits", "many", "settings", "to", "be", "changed", "such", "as", "image", "size", "and", "depth", ",", "texture", "quality", ",", "geometry", "detail", ",", "types", "of", "texture", "filtering", ",", "etc.", ".", "We", "used", "two", "profiles", "for", "this", "workload", "in", "2", "-LRB-", "a", "-RRB-", "Q3", "-LRB-", "b", "-RRB-", "Tux", "-LRB-", "c", "-RRB-", "AW", "-LRB-", "d", "-RRB-", "ANL", "-LRB-", "e", "-RRB-", "GRA", "-LRB-", "f", "-RRB-", "DIN", "Figure", "1", ":", "Screenshots", "of", "the", "GraalBench", "workloads", "order", "to", "determine", "the", "implications", "of", "different", "image", "sizes", "and", "object", "complexity", ".", "The", "first", "profile", ",", "which", "will", "be", "re-ferred", "to", "as", "Q3H", ",", "uses", "a", "relatively", "high", "image", "resolution", "and", "objects", "detail", ".", "The", "second", "profile", ",", "Q3L", ",", "employs", "a", "low", "resolution", "and", "objects", "detail", ".", "Q3", "makes", "extensive", "use", "of", "blending", "operations", "in", "order", "to", "implement", "multiple", "texture", "passes", ".", "Tux", "Racer", "-LRB-", "Tux", "-RRB-", "-LSB-", "19", "-RSB-", "This", "is", "a", "freely", "available", "game", "that", "runs", "on", "Linux", ".", "The", "goal", "of", "this", "game", "is", "to", "drive", "a", "penguin", "down", "a", "mountain", "terrain", "as", "quickly", "as", "possible", ",", "while", "collecting", "herring", ".", "The", "image", "quality", "is", "higher", "than", "that", "of", "Q3", ".", "Tux", "makes", "extensive", "use", "of", "automatic", "texture", "coordinate", "generation", "functions", ".", "A", "screenshot", "can", "be", "seen", "in", "Figure", "1", "-LRB-", "b", "-RRB-", ".", "AWadvs-04", "-LRB-", "AW", "-RRB-", "-LSB-", "18", "-RSB-", "This", "test", "is", "part", "of", "the", "Viewperf", "6.1.2", "package", ".", "In", "this", "test", "a", "fully", "textured", "human", "model", "is", "viewed", "from", "different", "angles", "and", "distances", ".", "As", "remarked", "before", ",", "the", "other", "test", "in", "the", "Viewperf", "package", "are", "not", "suitable", "for", "low-power", "accelerators", ",", "because", "they", "represent", "high-end", "applications", "or", "are", "from", "an", "application", "domain", "not", "likely", "to", "be", "offered", "on", "mobile", "platforms", ".", "A", "screenshot", "of", "AW", "is", "depicted", "in", "Figure", "1", "-LRB-", "c", "-RRB-", ".", "ANL", ",", "GRA", ",", "and", "DIN", "These", "three", "VRML", "scenes", "were", "chosen", "based", "on", "their", "diversity", "and", "complexity", ".", "ANL", "is", "a", "virtual", "model", "of", "Austrian", "National", "Library", "and", "consists", "of", "10292", "polygons", ",", "GRA", "is", "a", "model", "of", "Graz", "University", "of", "Technology", ",", "Austria", "and", "consists", "of", "8859", "polygons", ",", "and", "Dino", "-LRB-", "DIN", "-RRB-", "is", "a", "model", "of", "a", "dinosaur", "consisting", "of", "4300", "polygons", ".", "In", "order", "to", "obtain", "a", "workload", "similar", "to", "one", "that", "might", "be", "generated", "by", "a", "typical", "user", ",", "we", "created", "``", "fly-by", "''", "scenes", ".", "Initially", ",", "we", "used", "VR-Web", "-LSB-", "13", "-RSB-", "to", "navigate", "through", "the", "scenes", ",", "but", "we", "found", "that", "the", "VRMLView", "-LSB-", "12", "-RSB-", "navigator", "produces", "less", "texture", "traffic", "because", "it", "uses", "the", "glBindTexture", "mechanism", ".", "Screenshots", "of", "ANL", ",", "GRA", ",", "and", "DIN", "are", "depicted", "in", "Figure", "1", "-LRB-", "d", "-RRB-", ",", "-LRB-", "e", "-RRB-", ",", "and", "-LRB-", "f", "-RRB-", ",", "respectively", ".", "GraalBench", "is", "the", "result", "of", "extensive", "searching", "on", "the", "World", "Wide", "Web", ".", "The", "applications", "were", "selected", "on", "the", "basis", "of", "several", "criteria", ".", "First", ",", "since", "the", "display", "resolution", "of", "contemporary", "mobile", "phones", "is", "at", "most", "320", "240", ",", "we", "excluded", "applications", "with", "substantially", "higher", "resolution", ".", "Specifically", ",", "we", "used", "a", "maximum", "resolution", "of", "640", "480", ".", "Second", ",", "the", "applications", "should", "be", "relevant", "for", "a", "mobile", "phone", ",", "i.e.", ",", "it", "should", "be", "likely", "that", "it", "will", "be", "offered", "on", "a", "mobile", "phone", ".", "CAD/CAM", "applications", "were", "excluded", "for", "this", "reason", ".", "Third", ",", "the", "level", "of", "details", "of", "the", "applications", "should", "not", "be", "too", "high", ",", "because", "otherwise", ",", "most", "rendered", "polygons", "will", "be", "smaller", "than", "one", "pixel", "on", "the", "display", "of", "a", "mobile", "phone", ".", "Fourth", ",", "and", "finally", ",", "the", "benchmarks", "should", "have", "different", "characteristics", ".", "For", "example", ",", "several", "links", "to", "3D", "games", "have", "recently", "been", "provided", "on", "Mesa", "'s", "website", "-LRB-", "www.mesa3d.org", "-RRB-", ".", "However", ",", "these", "games", "such", "as", "Doom", ",", "Heretic", ",", "and", "Quake", "II", "belong", "to", "the", "same", "category", "as", "Quake", "III", "and", "Tux", "Racer", ",", "and", "therefore", "do", "not", "represent", "benchmarks", "with", "substantially", "different", "characteristics", ".", "We", ",", "therefore", ",", "decided", "not", "to", "include", "them", ".", "Applications", "using", "the", "latest", "technologies", "-LRB-", "Vertex", "and", "Pixel", "Sha-ders", "-RRB-", "available", "on", "desktop", "3D", "graphics", "accelerators", "were", "also", "not", "included", "since", "these", "technologies", "are", "not", "supported", "by", "the", "embedded", "3D", "graphics", "APIs", "mentioned", "in", "Section", "2", ".", "We", "expect", "that", "more", "3D", "graphics", "applications", "for", "low-power", "mobile", "devices", "will", "appear", "when", "accelerators", "for", "these", "platforms", "will", "be", "introduced", ".", "3", "3.3", "General", "Characteristics", "Table", "1", "present", "some", "general", "statistics", "of", "the", "workloads", ".", "The", "characteristics", "and", "statistics", "presented", "in", "this", "table", "are", ":", "Image", "resolution", "Currently", ",", "low-power", "accelerator", "should", "be", "able", "to", "handle", "scenes", "with", "a", "typical", "resolution", "of", "320", "240", "pixels", ".", "Since", "in", "the", "near", "future", "the", "typical", "resolution", "is", "expected", "to", "increase", "we", "decided", "to", "use", "a", "resolution", "of", "640", "480", ".", "The", "Q3L", "benchmark", "uses", "a", "lower", "resolution", "-LRB-", "320", "240", "-RRB-", "in", "order", "to", "study", "the", "impact", "of", "changing", "the", "resolution", ".", "Frames", "The", "total", "number", "of", "frames", "in", "each", "test", ".", "Avg", ".", "triangles", "The", "average", "number", "of", "triangles", "sent", "to", "the", "rasterizer", "per", "frame", ".", "Avg", ".", "processed", "triangles", "The", "average", "number", "of", "triangles", "per", "frame", "that", "remained", "after", "backface", "culling", ",", "i.e.", ",", "the", "triangles", "that", "remained", "after", "eliminating", "the", "triangles", "that", "are", "invisible", "because", "they", "are", "facing", "backwards", "from", "the", "observer", "'s", "viewpoint", ".", "Avg", ".", "area", "The", "average", "number", ",", "per", "frame", ",", "of", "fragments/pixels", "after", "scan", "conversion", ".", "Texture", "size", "The", "total", "size", "of", "all", "textures", "per", "workload", ".", "This", "quantity", "gives", "an", "indication", "of", "the", "amount", "of", "texture", "memory", "required", ".", "Maximum", "triangles", "The", "maximum", "number", "of", "triangles", "that", "were", "sent", "for", "one", "frame", ".", "Because", "most", "3D", "graphics", "accelerators", "implement", "only", "rasterization", ",", "this", "statistic", "is", "an", "approximation", "of", "the", "bandwidth", "required", "for", "geometry", "information", ",", "since", "triangles", "need", "to", "be", "transferred", "from", "the", "CPU", "to", "the", "accelerator", "via", "a", "system", "bus", ".", "We", "assume", "that", "triangles", "are", "represented", "individually", ".", "Sharing", "vertices", "between", "adjacent", "triangles", "allows", "to", "reduce", "the", "bus", "bandwidth", "required", ".", "This", "quantity", "also", "determines", "the", "throughput", "required", "in", "order", "to", "achieve", "real-time", "frame", "rates", ".", "We", "remark", "that", "the", "maximum", "number", "rather", "than", "the", "average", "number", "of", "triangles", "per", "frame", "determines", "the", "required", "bandwidth", "and", "throughput", ".", "Maximum", "processed", "triangles", "per", "frame", "The", "maximum", "number", "of", "triangles", "that", "remained", "after", "backface", "culling", "over", "all", "frames", ".", "Maximum", "area", "per", "frame", "The", "maximum", "number", "of", "fragments", "after", "scan", "conversion", ",", "over", "all", "frames", ".", "Several", "observations", "can", "be", "drawn", "from", "Table", "1", ".", "First", ",", "it", "can", "be", "observed", "from", "the", "columns", "labeled", "``", "Received", "triangles", "''", "that", "the", "scenes", "generated", "by", "Tux", "and", "Dino", "have", "a", "relatively", "low", "complexity", ",", "that", "Q3", ",", "ANL", ",", "and", "Graz", "consist", "of", "medium", "complexity", "scenes", ",", "and", "that", "AW", "produces", "the", "most", "complex", "scenes", "by", "far", ".", "Second", ",", "backface", "culling", "is", "effective", "in", "eliminating", "invisible", "triangles", ".", "It", "eliminates", "approximately", "30", "%", "of", "all", "triangles", "in", "the", "Q3", "benchmarks", ",", "24", "%", "in", "Graz", ",", "and", "more", "than", "half", "-LRB-", "55", "%", "-RRB-", "of", "all", "triangles", "in", "AW", ".", "Backface", "culling", "is", "not", "enabled", "in", "the", "ANL", "and", "Dino", "workloads", ".", "If", "we", "consider", "the", "largest", "number", "of", "triangles", "remaining", "after", "backface", "culling", "-LRB-", "14236", "for", "ANL", "-RRB-", "and", "assume", "that", "each", "triangle", "is", "represented", "individually", "and", "requires", "28", "bytes", "-LRB-", "xyz", "coordinates", ",", "4", "bytes", "each", ",", "rgb", "for", "color", "and", "alpha", "for", "transparency", ",", "1", "byte", "each", ",", "and", "uvw", "texture", "coordinates", ",", "4", "bytes", "each", "-RRB-", "for", "each", "of", "its", "vertices", ",", "the", "required", "bus", "bandwidth", "is", "approximately", "1.2", "MB/frame", "or", "35.9", "MB/s", "to", "render", "30", "frames", "per", "second", ".", "Finally", ",", "we", "remark", "that", "the", "largest", "amount", "of", "texture", "memory", "is", "required", "by", "the", "Q3", "and", "Tux", "benchmarks", ",", "and", "that", "the", "other", "benchmarks", "require", "a", "relatively", "small", "amount", "of", "texture", "memory", ".", "Table", "2", ":", "Stress", "variation", "and", "stress", "strength", "on", "various", "stages", "of", "the", "3D", "graphics", "pipeline", "Bench", ".", "T&L", "Rasterization", "Var", ".", "Str", ".", "Var", ".", "Str", ".", "Q3L", "med", "med", "med", "med", "Q3H", "med", "med", "med", "high", "Tux", "var", "low", "low", "med", "AW", "low", "high", "high", "low", "ANL", "high", "med", "med", "med", "GRA", "high", "med", "med", "low", "DIN", "low", "med", "med", "low", "This", "section", "provides", "the", "detailed", "analysis", "of", "results", "we", "obtained", "by", "running", "the", "proposed", "benchmark", "set", ".", "For", "each", "unit", "of", "a", "typical", "rasterization", "pipeline", "we", "present", "the", "relevant", "characteristics", "followed", "by", "the", "architectural", "implications", ".", "4.1", "Detailed", "Workload", "Statistics", "One", "important", "aspect", "for", "3D", "graphics", "benchmarking", "is", "to", "determine", "possible", "bottlenecks", "in", "a", "3D", "graphics", "environment", "since", "the", "3D", "graphics", "environment", "has", "a", "pipeline", "structure", "and", "different", "parts", "of", "the", "pipeline", "can", "be", "implemented", "on", "separate", "computing", "resources", "such", "as", "general", "purpose", "processors", "or", "graphics", "accelerators", ".", "Balancing", "the", "load", "on", "the", "resources", "is", "an", "important", "decision", ".", "Bottlenecks", "in", "the", "transform", "&", "lighting", "-LRB-", "T&L", "-RRB-", "part", "of", "the", "pipeline", "can", "be", "generated", "by", "applications", "that", "have", "a", "large", "number", "of", "primitives", ",", "i.e.", "substantial", "geometry", "computation", "load", ",", "where", "each", "primitive", "has", "a", "small", "size", ",", "i.e.", "reduced", "impact", "on", "the", "rasterization", "part", "of", "the", "pipeline", ",", "while", "bottlenecks", "in", "the", "rasterization", "part", "are", "usu-ally", "generated", "by", "fill", "intensive", "applications", "that", "are", "using", "a", "small", "number", "of", "primitives", "where", "each", "primitive", "covers", "a", "substantial", "part", "of", "the", "scene", ".", "An", "easy", "way", "to", "determine", "if", "an", "application", "is", "for", "instance", "rasterization", "intensive", "is", "to", "remove", "the", "rasterization", "part", "from", "the", "graphics", "pipeline", "and", "determine", "the", "speed", "up", ".", "The", "components", "of", "the", "GraalBench", "were", "also", "chosen", "to", "stress", "various", "parts", "of", "the", "pipeline", ".", "For", "instance", "the", "AW", "and", "DIN", "components", "generate", "an", "almost", "constant", "number", "of", "primitives", "while", "the", "generated", "area", "varies", "substantially", "across", "frames", ",", "thus", "in", "these", "scenarios", "the", "T&L", "part", "of", "the", "pipeline", "has", "a", "virtually", "constant", "load", "while", "the", "rasterization", "part", "has", "a", "variable", "load", ".", "This", "behavior", ",", "depicted", "in", "Figure", "4", "-LRB-", "c", ",", "d", ",", "g", ",", "h", "-RRB-", ",", "can", "emphasize", "the", "role", "of", "the", "rasterization", "part", "of", "the", "pipeline", ".", "The", "number", "of", "triangles", "received", "gives", "an", "indication", "of", "the", "triangles", "that", "have", "to", "be", "transformed", "and", "lit", ",", "while", "the", "number", "of", "triangles", "processed", "gives", "an", "indication", "of", "the", "triangles", "that", "were", "sent", "to", "the", "rasterization", "stage", "after", "clipping", "and", "culling", ".", "Other", "components", ",", "e.g.", "Tux", ",", "generate", "a", "variable", "number", "of", "triangles", "while", "the", "generated", "area", "is", "almost", "constant", ",", "thus", "they", "can", "be", "used", "to", "profile", "bottlenecks", "in", "the", "T&L", "part", "of", "the", "graphics", "pipeline", ".", "Another", "important", "aspect", "beside", "the", "variation", "of", "the", "workload", "for", "a", "certain", "pipeline", "stage", "is", "also", "the", "stress", "strength", "of", "the", "various", "workload", ".", "For", "convenience", ",", "in", "Table", "2", "is", "also", "presented", "a", "rough", "view", "of", "the", "stress", "variation", "and", "stress", "strength", "along", "the", "3D", "graphics", "pipeline", ".", "The", "stress", "variation", "represents", "how", "much", "varies", "a", "workload", "from", "one", "frame", "to", "another", ",", "while", "the", "stress", "strength", "represents", "the", "load", "generated", "by", "each", "workload", ".", "On", "the", "proposed", "benchmarks", "we", "determined", "that", ",", "for", "a", "software", "implementation", ",", "the", "most", "computationally", "intensive", "part", "of", "4", "Table", "1", ":", "General", "statistics", "of", "the", "benchmarks", "Bench", ".", "Resolution", "Frames", "Textures", "-LRB-", "MB", "-RRB-", "Received", "Triangles", "Avg", ".", "Max", ".", "Processed", "Triangles", "Avg", ".", "Max", ".", "Area", "Avg", ".", "Max", ".", "Q3L", "320", "240", "1,379", "12.84", "4.5", "k", "9.7", "k", "3.25", "k", "6.8", "k", "422k", "1,327", "k", "Q3H", "640", "480", "1,379", "12.84", "4.6", "k", "9.8", "k", "3.36", "k", "6.97", "k", "1,678", "k", "5,284", "k", "Tux", "640", "480", "1,363", "11.71", "3k", "4.8", "k", "1.8", "k", "2.97", "k", "760k", "1,224", "k", "AW", "640", "480", "603", "3.25", "23k", "25.7", "k", "10.55", "k", "13.94", "k", "63k", "307k", "ANL", "640", "480", "600", "1.8", "4.45", "k", "14.2", "k", "4.45", "k", "14.2", "k", "776k", "1,242", "k", "GRA", "640", "480", "599", "2.1", "4.9", "k", "10.8", "k", "3.6", "k", "6.9", "k", "245k", "325k", "DIN", "640", "480", "600", "1.7", "4.15", "k", "4.3", "k", "4.15", "k", "4.3", "k", "153k", "259k", "Blending", "Depth", "Test", "Alpha", "Test", "Scissor", "Test", "Stencil", "Test", "Pixel", "Ownership", "Dithering", "LogicOp", "Texture", "Unit", "Color", "Stencil", "Texturing", "Color", "Sum", "Edge", "Walk", "Span", "Interpolation", "Triangle", "Setup", "Texture", "Memory", "Memory", "Primitives", "sent", "fom", "the", "Transform", "&", "Lighting", "Stage", "Depth", "Fog", "Clear", "Figure", "2", ":", "Graphics", "pipeline", "for", "rasterization", ".", "the", "graphics", "pipeline", "is", "the", "rasterization", "part", ".", "This", "is", "the", "reason", "why", "only", "the", "rasterizer", "stage", "was", "additionally", "studied", ".", "The", "units", "for", "which", "we", "further", "gathered", "results", "are", "depicted", "in", "Figure", "2", "and", "described", "in", "the", "following", ":", "Triangle", "Setup", ",", "EdgeWalk", ",", "and", "Span", "Interpolation", ".", "These", "units", "convert", "primitives", "to", "fragments", ".", "We", "used", "the", "same", "algorithm", "as", "employed", "in", "the", "Mesa", "library", "rasterizer", ".", "We", "remark", "that", "the", "number", "of", "processed", "triangles", "in", "Table", "3", "is", "smaller", "than", "the", "number", "of", "processed", "triangles", "in", "Table", "1", "because", "some", "triangles", "were", "small", "and", "discarded", "using", "supplementary", "tests", ",", "such", "as", "a", "small", "triangle", "filter", ".", "The", "average", "number", "of", "processed", "triangles", "is", "the", "lowest", "for", "Tux", ",", "medium", "for", "Q3", "and", "VRML", "components", ",", "and", "substantially", "higher", "for", "AW", "considering", "that", "the", "number", "of", "triangles", "for", "the", "AW", "and", "VRML", "components", "were", "generated", "in", "approximatively", "half", "as", "many", "frames", "as", "the", "number", "of", "frames", "in", "Q3", "and", "Tux", ".", "The", "numbers", "of", "generated", "spans", "and", "fragments", "also", "give", "an", "indication", "of", "the", "processing", "power", "required", "at", "the", "EdgeWalk", "and", "Span", "Interpolation", "units", ".", "The", "AW", "benchmark", "generates", "on", "average", "only", "4", "spans", "per", "triangle", "and", "approximately", "2", "fragments", "per", "span", ".", "These", "results", "show", "that", "the", "benchmark", "that", "could", "create", "a", "pipeline", "bottleneck", "in", "these", "units", "is", "the", "AW", "benchmark", "since", "it", "has", "small", "triangles", "-LRB-", "small", "impact", "on", "the", "rest", "of", "the", "pipeline", "-RRB-", "and", "it", "has", "the", "largest", "number", "of", "triangles", "-LRB-", "that", "are", "processed", "at", "the", "Triangle", "Setup", "-RRB-", ".", "Clear", "Unit", ".", "The", "clear", "unit", "is", "used", "to", "fill", "the", "Depth", "buffer", "and/or", "the", "Color", "buffer", "with", "a", "default", "value", ".", "As", "can", "be", "seen", "in", "Table", "4", ",", "the", "Q3", "benchmark", "uses", "only", "depth", "buffer", "clearing", ",", "except", "for", "one", "initial", "color", "buffer", "clear", ".", "Q3", "exploits", "the", "observation", "that", "all", "pixels", "from", "a", "scene", "are", "going", "to", "be", "filled", "at", "least", "once", "so", "there", "is", "no", "need", "to", "clear", "the", "color", "buffer", ".", "The", "other", "benchmarks", "have", "an", "equal", "number", "of", "depth", "and", "color", "buffer", "clears", ".", "Although", "the", "clear", "function", "is", "called", "a", "relatively", "small", "number", "of", "times", ",", "the", "number", "of", "cleared", "pixels", "can", "be", "as", "high", "as", "20", "%", "of", "the", "pixels", "generated", "by", "the", "rasterizer", ".", "This", "implies", "that", "this", "unit", "should", "be", "optimized", "for", "long", "write", "burst", "to", "the", "graphics", "memory", ".", "Texture", "Unit", ".", "When", "enabled", ",", "this", "unit", "combines", "the", "color", "of", "the", "incoming", "fragment", "with", "a", "texture", "sample", "color", ".", "Depending", "on", "the", "texturing", "filter", "chosen", ",", "the", "texture", "color", "is", "obtained", "by", "a", "direct", "look-up", "in", "a", "texture", "map", "or", "by", "a", "linear", "interpolation", "between", "several", "colors", "-LRB-", "up", "to", "8", "colors", "in", "the", "case", "of", "trilinear", "interpolation", "-RRB-", ".", "The", "results", "obtained", "for", "the", "texture", "unit", "are", "depicted", "in", "Figure", "3", ".", "The", "Q3", "and", "VV", "benchmarks", "used", "the", "texture", "unit", "for", "all", "fragments", ",", "while", "the", "Tux", "and", "AW", "benchmarks", "used", "texturing", "for", "75", "%", "and", "90", "%", "of", "the", "fragments", "respectively", ".", "This", "unit", "is", "the", "most", "computationally", "intensive", "unit", "of", "a", "rasterizer", "and", "can", "easily", "become", "a", "pipeline", "bottleneck", ",", "thus", "it", "should", "be", "highly", "optimized", "for", "speed", ".", "Beside", "requiring", "high", "computational", "power", ",", "this", "unit", "also", "requires", "a", "large", "number", "of", "accesses", "to", "the", "texture", "memory", ".", "However", ",", "due", "to", "high", "spatial", "locality", ",", "even", "by", "adding", "a", "small", "texture", "cache", ",", "the", "traffic", "from", "the", "off-chip", "texture", "memory", "to", "the", "texture", "unit", "can", "be", "substantially", "reduced", "-LSB-", "2", "-RSB-", ".", "Fog", "Unit", ".", "The", "Fog", "unit", "is", "to", "used", "modify", "the", "fragment", "color", "in", "order", "to", "simulate", "atmospheric", "effects", "such", "as", "haze", ",", "mist", ",", "or", "smoke", ".", "Only", "the", "Tux", "benchmark", "uses", "the", "fog", "unit", "and", "it", "was", "enabled", "for", "84", "%", "of", "the", "fragments", ".", "From", "the", "three", "types", "of", "fog", "-LRB-", "linear", ",", "exponential", ",", "and", "squared", "exponential", "-RRB-", "only", "linear", "was", "used", ".", "The", "results", "suggest", "that", "for", "these", "low-end", "applications", "the", "fog", "unit", "is", "seldomly", "used", "and", "that", "it", "might", "be", "implemented", "using", "slower", "components", "or", "that", "this", "unit", "can", "be", "implemented", "off", "the", "critical", "path", ".", "5", "Table", "3", ":", "Triangle", "Setup", ",", "Edge", "Walk", ",", "and", "Span", "Interpolation", "units", "statistics", "Q3L", "Q3H", "Tux", "AW", "ANL", "GRA", "DIN", "Triangles", "processed", "4,147", "k", "4,430", "k", "2,425", "k", "5,537", "k", "2,528", "k", "1,992", "k", "2,487", "k", "Generated", "spans", "58,837", "k", "117,253", "k", "27,928", "k", "20,288", "k", "66,806", "k", "14,419", "k", "23,901", "k", "Generated", "fragments", "-LRB-", "frags", ".", "-RRB-", "581,887", "k", "2,306,487", "k", "1,037,222", "k", "38,044", "k", "466,344", "k", "146,604", "k", "91,824", "k", "Table", "4", ":", "Clear", "unit", "statistics", "Q3L", "Q3H", "Tux", "AW", "ANL", "GRA", "DIN", "Clear", "depth", "calls", "5,470", "5,470", "1,363", "603", "601", "600", "602", "Clear", "color", "calls", "1", "1", "1,363", "604", "601", "600", "602", "Clear", "depth", "pixels", "105,821", "k", "423,284", "k", "418,714", "k", "185,242", "k", "184,320", "k", "184,013", "k", "189,934", "k", "Clear", "color", "pixels", "76,800", "307,200", "418,714", "k", "185,549", "k", "184,320", "k", "184,013", "k", "189,934", "k", "Scissor", "Unit", ".", "This", "unit", "is", "used", "to", "discard", "fragments", "that", "are", "outside", "of", "a", "specified", "rectangular", "area", ".", "Only", "Q3", "employed", "scissoring", ".", "All", "incoming", "fragments", "were", "processed", "and", "passed", "the", "test", ",", "so", "even", "in", "this", "case", "the", "test", "is", "redundant", "since", "no", "fragments", "were", "rejected", ".", "Normally", ",", "the", "scissor", "unit", "is", "used", "to", "restrict", "the", "drawing", "process", "to", "a", "certain", "rectangular", "region", "of", "the", "image", "space", ".", "In", "Q3", "this", "unit", ",", "besides", "being", "always", "enabled", "for", "the", "whole", "size", "of", "the", "image", "space", "-LRB-", "to", "clip", "primitives", "outside", "it", "-RRB-", ",", "in", "some", "cases", "it", "is", "also", "used", "to", "clear", "the", "depth", "component", "of", "a", "specific", "region", "of", "the", "image", "so", "that", "certain", "objects", "-LRB-", "interface", "objects", "-RRB-", "will", "always", "be", "in", "front", "of", "other", "objects", "-LRB-", "normal", "scene", "-RRB-", ".", "Even", "though", "it", "might", "be", "used", "intensively", "by", "some", "applications", ",", "this", "unit", "performs", "simple", "computations", ",", "such", "as", "comparisons", ",", "and", "performs", "no", "memory", "accesses", "so", "it", "does", "not", "require", "substantial", "computational", "power", ".", "Alpha", "Unit", ".", "This", "unit", "discards", "fragments", "based", "on", "their", "alpha", "color", "component", ".", "This", "unit", "was", "used", "only", "in", "Q3", "and", "Tux", ".", "Furthermore", ",", "Q3", "used", "the", "alpha", "unit", "only", "for", "a", "very", "small", "number", "of", "fragments", "-LRB-", "0.03", "%", "-RRB-", ".", "The", "only", "comparison", "function", "used", "was", "``", "Greater", "or", "Equal", "''", ".", "However", ",", "this", "is", "not", "a", "significant", "property", "since", "the", "other", "comparison", "functions", "-LRB-", "modes", "-RRB-", "do", "not", "require", "a", "substantial", "amount", "of", "extra", "hardware", "to", "be", "implemented", ".", "The", "number", "of", "passed", "fragments", "could", "not", "be", "determined", "since", "the", "texturing", "unit", "of", "our", "graphics", "simulator", "is", "not", "yet", "complete", ",", "and", "the", "alpha", "test", "depends", "on", "the", "alpha", "component", "that", "can", "be", "modified", "by", "the", "texture", "processing", "unit", ".", "However", ",", "this", "unit", "is", "used", "significantly", "only", "for", "the", "Tux", "benchmark", "so", "this", "is", "the", "only", "benchmark", "that", "could", "have", "produced", "different", "results", ".", "Furthermore", ",", "the", "propagated", "error", "for", "the", "results", "we", "obtained", "can", "be", "at", "most", "7.8", "%", "since", "92.2", "%", "of", "the", "fragments", "generated", "by", "Tux", "bypassed", "this", "unit", ".", "We", ",", "therefore", ",", "assumed", "that", "all", "fragments", "passed", "the", "alpha", "test", ".", "This", "corresponds", "to", "the", "worst", "case", ".", "Since", "this", "unit", "is", "seldomly", "used", ",", "it", "could", "be", "implemented", "using", "a", "more", "conservative", "strategy", "toward", "allocated", "resources", ".", "Depth", "Unit", ".", "This", "unit", "discards", "a", "fragment", "based", "on", "a", "comparison", "between", "its", "depth", "value", "and", "the", "depth", "value", "stored", "in", "the", "depth", "buffer", "in", "the", "fragment", "'s", "corresponding", "position", ".", "This", "unit", "was", "used", "intensively", "by", "all", "benchmarks", "as", "can", "be", "seen", "in", "Table", "4.1", ".", "While", "the", "Tux", ",", "Aw", ",", "and", "VRML", "benchmarks", "write", "almost", "all", "fragments", "that", "passed", "the", "depth", "test", "to", "the", "depth", "buffer", ",", "the", "Q3", "benchmark", "writes", "to", "the", "depth", "buffer", "only", "36", "%", "of", "the", "fragments", "that", "passed", "the", "test", ".", "This", "is", "expected", "since", "Q3", "uses", "multiple", "steps", "to", "apply", "textures", "to", "primitives", "and", "so", "it", "does", "not", "need", "to", "write", "to", "the", "depth", "buffer", "at", "each", "step", ".", "This", "unit", "should", "definitely", "be", "implemented", "in", "an", "aggressive", "manner", "with", "respect", "to", "throughput", "-LRB-", "processing", "power", "-RRB-", "and", "latency", ",", "since", "for", "instance", "the", "depth", "buffer", "read/write", "operations", "used", "at", "this", "unit", "are", "quite", "expensive", ".", "Blending", "Unit", ".", "This", "unit", "combines", "the", "color", "of", "the", "incoming", "fragment", "with", "the", "color", "stored", "at", "the", "corresponding", "position", "in", "the", "framebuffer", ".", "As", "depicted", "in", "Figure", "3", ",", "this", "unit", "is", "used", "only", "by", "the", "Q3", "and", "Tux", "benchmarks", ".", "The", "AW", "and", "VRML", "benchmarks", "do", "not", "use", "this", "unit", "since", "they", "use", "only", "single", "textured", "primitives", "and", "all", "blending", "operations", "are", "performed", "at", "the", "texturing", "stage", ".", "Q3", ",", "on", "the", "other", "hand", ",", "uses", "a", "variety", "of", "blending", "modes", ",", "while", "Tux", "employs", "only", "a", "very", "common", "blending", "mode", "-LRB-", "source", "=", "incoming", "pixel", "alpha", "and", "dest", "=", "1", "-", "incoming", "pixel", "alpha", "-RRB-", ".", "An", "explanation", "why", "Tux", "manages", "to", "use", "only", "this", "mode", "is", "that", "Tux", "uses", "the", "alpha", "test", "instead", "of", "multiple", "blending", "modes", ".", "Alpha", "tests", "are", "supposed", "to", "be", "less", "computationally", "intensive", "than", "blending", "operations", "since", "there", "is", "only", "one", "comparison", "per", "fragment", ",", "while", "the", "blending", "unit", "performs", "up", "to", "8", "multiplications", "and", "4", "additions", "per", "fragment", ".", "Based", "on", "its", "usage", "and", "computational", "power", "required", ",", "the", "implementation", "of", "this", "unit", "should", "be", "tuned", "toward", "performance", ".", "Unused", "Units", ".", "The", "LogicOp", ",", "Stencil", "and", "Color", "Sum", "units", "are", "not", "used", "by", "any", "benchmark", ".", "The", "dithering", "unit", "is", "used", "only", "by", "the", "AW", "benchmark", "-LRB-", "for", "all", "fragments", "that", "passed", "the", "blending", "stage", "-RRB-", ".", "Since", "these", "units", "are", "expected", "to", "be", "hardly", "used", "their", "implementation", "could", "be", "tuned", "toward", "low-power", "efficiency", ".", "4.2", "Architectural", "Implications", "Based", "on", "Unit", "Usage", "In", "this", "section", "the", "usage", "of", "each", "unit", "for", "the", "selected", "benchmarks", "is", "presented", ".", "The", "statistics", "are", "gathered", "separately", "for", "each", "benchmark", ".", "Figure", "3", "breaks", "down", "the", "number", "of", "fragments", "received", "by", "each", "unit", "into", "fragments", "that", "bypassed", "the", "unit", ",", "fragments", "that", "were", "processed", "by", "the", "unit", "and", "passed", "the", "test", ",", "and", "fragments", "that", "failed", "the", "test", ".", "All", "values", "are", "normalized", "to", "the", "number", "of", "fragments", "generated", "by", "the", "Span", "Interpolation", "unit", ".", "From", "Figure", "3", "it", "can", "be", "seen", "that", "the", "Q3", "benchmark", "is", "quite", "scalable", "and", "the", "results", "obtained", "for", "the", "low", "resolution", "profile", "-LRB-", "Q3L", "-RRB-", "are", "similar", "with", "the", "results", "obtained", "for", "the", "high", "resolution", "profile", "-LRB-", "Q3H", "-RRB-", ".", "The", "Q3", "benchmark", "can", "be", "characterized", "as", "an", "application", "that", "uses", "textures", "for", "most", "of", "its", "primitives", ".", "The", "Tux", "component", "is", "also", "using", "textures", "for", "more", "than", "70", "%", "of", "its", "primitives", ",", "and", "it", "also", "uses", "the", "fog", "unit", ".", "The", "AW", "component", "does", "not", "use", "the", "scissor", "test", "6", "Table", "5", ":", "Depth", "unit", "statistics", "Q3L", "Q3H", "Tux", "AW", "ANL", "GRA", "DIN", "Incoming", "frags", ".", "581,887", "k", "2,306,487", "k", "1,037,222", "k", "38,044", "k", "466,344", "k", "146,604", "k", "91,824", "k", "Processed", "frags", ".", "578,345", "k", "2,292,357", "k", "512,618", "k", "38,044", "k", "466,344", "k", "146,604", "k", "91,824", "k", "Passed", "frags", ".", "461,045", "k", "1,822,735", "k", "473,738", "k", "35,037", "k", "281,684", "k", "137,109", "k", "73,268", "k", "Frags", ".", "written", "to", "the", "depth", "buffer", "166,624", "k", "666,633", "k", "462,520", "k", "35,037", "k", "281,684", "k", "137,109", "k", "73,268", "k", "DIN", "Q", "3L", "A", "NL", "G", "ra", "A", "w", "Tux", "Q", "3H", "0", "20", "40", "60", "80", "100", "120", "Texture", "Fog", "Scissor", "Alpha", "Depth", "Blending", "Dithering", "%", "F", "r", "agments", "Passed", "Failed", "Bypassed", "Figure", "3", ":", "Rasterization", "pipeline", "units", "usage", "as", "the", "others", "are", "doing", "and", "also", "it", "has", "no", "pixels", "rejected", "at", "the", "depth", "test", ".", "Another", "difference", "from", "the", "previous", "components", "is", "that", "AW", "is", "also", "using", "the", "dithering", "mechanism", "in", "order", "to", "improve", "the", "image", "quality", "on", "displays", "with", "a", "low", "color", "depth", ".", "Some", "architectural", "implications", "based", "on", "the", "units", "usage", "are", ":", "Some", "of", "the", "units", "such", "as", "Color", "sum", ",", "LogicOp", "and", "Stencil", "were", "not", "used", ",", "so", "they", "might", "not", "be", "implemented", "in", "hardware", ".", "Some", "units", "such", "as", "Fog", "and", "Alpha", "were", "less", "used", "and", "they", "can", "be", "also", "be", "implemented", "outside", "the", "critical", "path", ".", "The", "Depth", "and", "Blending", "units", "should", "be", "hard-wired", "units", "and", "tuned", "toward", "performance", ".", "The", "texture", "unit", "should", "be", "definitely", "focused", "upon", "for", "a", "high", "performance", "implementation", "since", ",", "due", "to", "the", "processing", "power", "required", ",", "it", "can", "easily", "become", "a", "bottleneck", "for", "the", "graphics", "pipeline", ".", "Although", "high-end", "3D", "graphics", "benchmarks", "have", "been", "available", "for", "some", "time", ",", "there", "are", "no", "benchmark", "suites", "dedicated", "to", "embedded", "3D", "graphics", "accelerators", ".", "In", "this", "paper", "we", "have", "described", "a", "set", "of", "relevant", "applications", "for", "embedded", "3D", "graphics", "accelerators", "performance", "evaluation", ".", "Also", "one", "of", "the", "objectives", "of", "this", "paper", "was", "to", "determine", "what", "features", "of", "3D", "graphics", "implementations", "are", "used", "in", "relevant", "3D", "graphics", "applications", ".", "We", "have", "also", "identified", "a", "number", "of", "units", "from", "the", "3D", "graphics", "pipeline", "which", "are", "intensively", "used", "such", "as", "the", "texture", "and", "the", "depth", "units", ",", "while", "for", "instance", ",", "stencil", ",", "fog", ",", "and", "dithering", "units", "being", "rarely", "used", ".", "The", "OpenGL", "applications", "that", "were", "used", "to", "create", "the", "benchmarks", "and", "the", "GLtrace", "tracer", "are", "accessible", "via", "the", "first", "author", "'s", "website", "-LRB-", "http://ce.et.tudelft.nl/~tkg/", "-RRB-", ".", "The", "benchmarks", "-LRB-", "i.e.", "the", "traces", "-RRB-", "can", "not", "be", "made", "public", "currently", ",", "because", "they", "are", "of", "no", "use", "without", "the", "trace", "player", "and", "the", "trace", "player", "is", "confidential", "at", "the", "moment", ".", "However", ",", "the", "Quake", "III", "-LRB-", "demo", "version", "-RRB-", "and", "the", "AWadvs-04", "components", "do", "not", "require", "the", "use", "of", "the", "trace", "player", "in", "order", "to", "generate", "repeatable", "workloads", ".", "We", "hope", "to", "be", "able", "to", "make", "the", "benchmark", "suite", "publicly", "available", "in", "the", "future", ".", "As", "future", "work", ",", "we", "intend", "to", "extend", "the", "number", "of", "components", "for", "this", "benchmark", "suite", ",", "and", "we", "also", "intend", "to", "extend", "the", "statistics", "to", "include", "results", "from", "embedded", "graphics", "architectures", "that", "are", "using", "a", "tile-based", "rendering", "mechanism", ".", "-LSB-", "1", "-RSB-", "T.", "Akenine-M", "oller", "and", "J.", "Str", "om", ",", "``", "Graphics", "for", "the", "Masses", ":", "A", "Hardware", "Rasterization", "Architecture", "for", "Mobile", "Phones", "''", ",", "ACM", "Trans", ".", "on", "Graph.", ",", "vol", "22", ",", "nr", "3", ",", "2003", ",", "pp.", "801-808", ".", "-LSB-", "2", "-RSB-", "I.", "Antochi", ",", "B.H.H.", "Juurlink", ",", "A.", "G.", "M.", "Cilio", ",", "and", "P.", "Liuha", ".", "``", "Trading", "Efficiency", "for", "Energy", "in", "a", "Texture", "Cache", "Architecture", "''", ",", "Proc", ".", "Euromicro", "Conf", ".", "on", "Massively-Parallel", "Computing", "Systems", "-LRB-", "MPCS", "'", "02", "-RRB-", ",", "2002", ",", "Ischia", ",", "Italy", ",", "pp.", "189-196", ".", "-LSB-", "3", "-RSB-", "Futuremark", "Corporation", ",", "``", "3DMark01SE", "''", ",", "Available", "at", "http://www.futuremark.com/products/3dmark2001/", "-LSB-", "4", "-RSB-", "Futuremark", "Corporation", ",", "``", "3DMark03", "''", ",", "Available", "at", "http://www.futuremark.com/products/3dmark03/", "-LSB-", "5", "-RSB-", "D.", "Crisu", ",", "S.D.", "Cotofana", ",", "S.", "Vassiliadis", ",", "and", "P.", "Liuha", ",", "``", "GRAAL", "--", "A", "Development", "Framework", "for", "Embedded", "Graphics", "Accelerators", "''", ",", "Proc", ".", "Design", ",", "Automation", "and", "Test", "in", "Europe", "-LRB-", "DATE", "04", "-RRB-", ",", "Paris", ",", "France", ",", "February", "2004", ".", "-LSB-", "6", "-RSB-", "J.C.", "Dunwoody", "and", "M.A.", "Linton", ".", "``", "Tracing", "Interactive", "3D", "Graphics", "Programs", "''", ",", "Proc", ".", "ACM", "Symp", ".", "on", "Interactive", "3D", "Graphics", ",", "1990", ".", "7", "0", "2000", "4000", "6000", "8000", "10000", "12000", "0", "100", "200", "300", "400", "500", "600", "700", "800", "900", "1000", "1100", "1200", "1300", "Frame", "Triangles", "Received", "Processed", "-LRB-", "a", "-RRB-", "Q3L", "Triangles", "0", "200000", "400000", "600000", "800000", "1000000", "1200000", "1400000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "600", "650", "700", "750", "800", "850", "900", "950 1000 1050 1100", "1150 1200 1250 1300", "1350", "Frame", "Are", "a", "-LRB-", "b", "-RRB-", "Q3L", "Area", "0", "1000", "2000", "3000", "4000", "5000", "6000", "0", "100", "200", "300", "400", "500", "600", "700", "800", "900", "1000", "1100", "1200", "1300", "Frame", "Triangles", "Received", "Processed", "-LRB-", "c", "-RRB-", "Tux", "Triangles", "0", "200000", "400000", "600000", "800000", "1000000", "1200000", "1400000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "600", "650", "700", "750", "800", "850", "900", "950 1000 1050 1100", "1150 1200 1250 1300", "1350", "Frame", "Are", "a", "-LRB-", "d", "-RRB-", "Tux", "Area", "0", "500", "1000", "1500", "2000", "2500", "3000", "3500", "4000", "4500", "5000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "600", "Frame", "Triangles", "Received", "Processed", "-LRB-", "e", "-RRB-", "DIN", "Triangles", "0", "50000", "100000", "150000", "200000", "250000", "300000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "600", "Frame", "Are", "a", "-LRB-", "f", "-RRB-", "DIN", "Area", "0", "5000", "10000", "15000", "20000", "25000", "30000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "Frame", "Triangles", "Received", "Processed", "-LRB-", "g", "-RRB-", "AW", "Triangles", "0", "20000", "40000", "60000", "80000", "100000", "120000", "140000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "Frame", "Area", "-LRB-", "h", "-RRB-", "AW", "Area", "0", "2000", "4000", "6000", "8000", "10000", "12000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "Frame", "Triangles", "Received", "Processed", "-LRB-", "i", "-RRB-", "GRA", "Triangles", "0", "50000", "100000", "150000", "200000", "250000", "300000", "350000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "Frame", "Are", "a", "-LRB-", "j", "-RRB-", "GRA", "Area", "0", "2000", "4000", "6000", "8000", "10000", "12000", "14000", "16000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "600", "Frame", "Triangles", "Received", "Processed", "-LRB-", "k", "-RRB-", "ANL", "Triangles", "0", "200000", "400000", "600000", "800000", "1000000", "1200000", "1400000", "0", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "600", "Frame", "Are", "a", "-LRB-", "l", "-RRB-", "ANL", "Area", "Figure", "4", ":", "Triangle", "and", "area", "statistics", "for", "the", "GraalBench", "components", "8", "-LSB-", "7", "-RSB-", "JSR-184", "Expert", "Group", ",", "``", "Mobile", "3D", "Graphics", "API", "for", "Java", "TM", "2", "Micro", "Edition", "''", ",", "Available", "at", "http://jcp.org/", "aboutJava/communityprocess/final/jsr184/index.html", "-LSB-", "8", "-RSB-", "The", "Khronos", "Group", ",", "``", "OpenGL", "ES", "Overview", "''", ",", "Available", "at", "http://www.khronos.org/opengles/index.html", "-LSB-", "9", "-RSB-", "Id", "Software", "Inc.", ",", "``", "Quake", "III", "''", ",", "Available", "at", "http://www.idsoftware.com", "-LSB-", "10", "-RSB-", "ARM", "Ltd.", ",", "``", "ARM", "3D", "Graphics", "Solutions", "''", ",", "Available", "at", "http://www.arm.com/miscPDFs/1643.pdf", "-LSB-", "11", "-RSB-", "T.", "Mitra", "and", "T.", "Chiueh", ".", "``", "Dynamic", "3D", "Graphics", "Workload", "Characterization", "and", "the", "Architectural", "Implications", "''", ",", "Proc", ".", "32nd", "ACM/IEEE", "Int", ".", "Symp", ".", "on", "Microarchitecture", "-LRB-", "MICRO", "-RRB-", ",", "1999", ",", "pp.", "62-71", ".", "-LSB-", "12", "-RSB-", "Systems", "in", "Motion", ",", "``", "VRMLView", "''", ",", "Available", "at", "http://www.sim.no", "-LSB-", "13", "-RSB-", "M.", "Pichler", ",", "G.", "Orasche", ",", "K.", "Andrews", ",", "E.", "Grossman", ",", "and", "M.", "McCahill", ",", "``", "VRweb", ":", "a", "Multi-System", "VRML", "Viewer", "''", ",", "Proc", ".", "First", "Symp", ".", "on", "Virtual", "Reality", "Modeling", "Language", ",", "1995", ",", "San", "Diego", ",", "California", ",", "United", "States", ",", "pp.", "77-85", ".", "-LSB-", "14", "-RSB-", "The", "Mesa", "Project", ",", "``", "The", "Mesa", "3D", "Graphics", "Library", "''", ",", "Available", "at", "http://www.mesa3d.org", "-LSB-", "15", "-RSB-", "Hawk", "Software", ",", "``", "GLTrace", "Programming", "Utility", "''", ",", "Available", "at", "http://www.hawksoft.com/gltrace/", "-LSB-", "16", "-RSB-", "J.", "Sohn", ",", "R.", "Woo", ",", "and", "H.J.", "Yoo", "``", "Optimization", "of", "Portable", "System", "Architecture", "for", "Real-Time", "3D", "Graphics", "''", ",", "Proc", ".", "IEEE", "Int", ".", "Symp", ".", "on", "Circuits", "and", "Systems", "-LRB-", "ISCAS", "2002", "-RRB-", ",", "Volume", ":", "1", ",", "26-29", "May", "2002", "pp", ".", "I-769", "-", "I-772", "vol", ".1", ".", "-LSB-", "17", "-RSB-", "SourceForge", ",", "``", "spyGLass", ":", "an", "OpenGL", "Call", "Tracer", "and", "Debugging", "Tool", "''", ",", "Available", "at", "http://spyglass.sourceforge.net/", "-LSB-", "18", "-RSB-", "SPEC", ",", "``", "SPECviewperf", "6.1.2", "''", ",", "Available", "at", "http://www.specbench.org/gpc/opc.static/opcview.htm", "-LSB-", "19", "-RSB-", "Sunspire", "Studios", ",", "``", "Tux", "Racer", "''", ",", "Available", "at", "http://tuxracer.sourceforge.net/", "-LSB-", "20", "-RSB-", "Portable", "3D", "Research", "Group", "at", "Korea", "Advanced", "Institute", "of", "Science", "and", "Technology", ",", "``", "MobileGL", "-", "The", "Standard", "for", "Embedded", "3D", "Graphics", "''", ",", "Available", "at", "http://ssl.kaist", ".", "ac.kr", "/", "projects/portable3D", ".", "html/main", "mgl", "defnition.htm", "-LSB-", "21", "-RSB-", "Stanford", "University", ",", "``", "GLSim", "&", "GLTrace", "''", ",", "Available", "at", "http", ":", "/", "/", "graphics.stanford.edu/courses/cs448a-01-fall/glsim.html", "-LSB-", "22", "-RSB-", "Yonsei", "University", ",", "3D", "Graphics", "Accelerator", "Group", ",", "http://msl.yonsei.ac.kr/3d/", "9" ]

[ "B", "O", "O", "B", "I", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "B", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O" ]

[ "Building", "Bridges", "for", "Web", "Query", "Classification", "Web", "query", "classification", "-LRB-", "QC", "-RRB-", "aims", "to", "classify", "Web", "users", "'", "queries", ",", "which", "are", "often", "short", "and", "ambiguous", ",", "into", "a", "set", "of", "target", "categories", ".", "QC", "has", "many", "applications", "including", "page", "ranking", "in", "Web", "search", ",", "targeted", "advertisement", "in", "response", "to", "queries", ",", "and", "personalization", ".", "In", "this", "paper", ",", "we", "present", "a", "novel", "approach", "for", "QC", "that", "outperforms", "the", "winning", "solution", "of", "the", "ACM", "KDDCUP", "2005", "competition", ",", "whose", "objective", "is", "to", "classify", "800,000", "real", "user", "queries", ".", "In", "our", "approach", ",", "we", "first", "build", "a", "bridging", "classifier", "on", "an", "intermediate", "taxonomy", "in", "an", "offline", "mode", ".", "This", "classifier", "is", "then", "used", "in", "an", "online", "mode", "to", "map", "user", "queries", "to", "the", "target", "categories", "via", "the", "above", "intermediate", "taxonomy", ".", "A", "major", "innovation", "is", "that", "by", "leveraging", "the", "similarity", "distribution", "over", "the", "intermediate", "taxonomy", ",", "we", "do", "not", "need", "to", "retrain", "a", "new", "classifier", "for", "each", "new", "set", "of", "target", "categories", ",", "and", "therefore", "the", "bridging", "classifier", "needs", "to", "be", "trained", "only", "once", ".", "In", "addition", ",", "we", "introduce", "category", "selection", "as", "a", "new", "method", "for", "narrowing", "down", "the", "scope", "of", "the", "intermediate", "taxonomy", "based", "on", "which", "we", "classify", "the", "queries", ".", "Category", "selection", "can", "improve", "both", "efficiency", "and", "effectiveness", "of", "the", "online", "classification", ".", "By", "combining", "our", "algorithm", "with", "the", "winning", "solution", "of", "KDDCUP", "2005", ",", "we", "made", "an", "improvement", "by", "9.7", "%", "and", "3.8", "%", "in", "terms", "of", "precision", "and", "F1", "respectively", "compared", "with", "the", "best", "results", "of", "KDDCUP", "2005", ".", "H.", "3", ".", "m", "-LSB-", "Information", "Storage", "and", "Retrieval", "-RSB-", ":", "Miscellaneous", ";", "I.", "5.2", "-LSB-", "Pattern", "Recognition", "-RSB-", ":", "Design", "Methodology", "--", "Classifier", "design", "and", "evaluation", "Algorithms", ",", "Experimentation", "Permission", "to", "make", "digital", "or", "hard", "copies", "of", "all", "or", "part", "of", "this", "work", "for", "personal", "or", "classroom", "use", "is", "granted", "without", "fee", "provided", "that", "copies", "are", "not", "made", "or", "distributed", "for", "profit", "or", "commercial", "advantage", "and", "that", "copies", "bear", "this", "notice", "and", "the", "full", "citation", "on", "the", "first", "page", ".", "To", "copy", "otherwise", ",", "to", "republish", ",", "to", "post", "on", "servers", "or", "to", "redistribute", "to", "lists", ",", "requires", "prior", "specific", "permission", "and/or", "a", "fee", ".", "SIGIR", "'", "06", ",", "August", "6", "11", ",", "2006", ",", "Seattle", ",", "Washington", ",", "USA", ".", "Copyright", "2006", "ACM", "1-59593-369-7", "/", "06/0008", "...", "$", "5.00", ".", "With", "exponentially", "increasing", "information", "becoming", "available", "on", "the", "Internet", ",", "Web", "search", "has", "become", "an", "indispensable", "tool", "for", "Web", "users", "to", "gain", "desired", "information", ".", "Typi-cally", ",", "Web", "users", "submit", "a", "short", "Web", "query", "consisting", "of", "a", "few", "words", "to", "search", "engines", ".", "Because", "these", "queries", "are", "short", "and", "ambiguous", ",", "how", "to", "interpret", "the", "queries", "in", "terms", "of", "a", "set", "of", "target", "categories", "has", "become", "a", "major", "research", "issue", ".", "In", "this", "paper", ",", "we", "call", "the", "problem", "of", "generating", "a", "ranked", "list", "of", "target", "categories", "from", "user", "queries", "the", "query", "classification", "problem", ",", "or", "QC", "for", "short", ".", "The", "importance", "of", "QC", "is", "underscored", "by", "many", "services", "provided", "by", "Web", "search", ".", "A", "direct", "application", "is", "to", "provide", "better", "search", "result", "pages", "for", "users", "with", "interests", "of", "different", "categories", ".", "For", "example", ",", "the", "users", "issuing", "a", "Web", "query", "``", "apple", "''", "might", "expect", "to", "see", "Web", "pages", "related", "to", "the", "fruit", "apple", ",", "or", "they", "may", "prefer", "to", "see", "products", "or", "news", "related", "to", "the", "computer", "company", ".", "Online", "advertisement", "services", "can", "rely", "on", "the", "QC", "results", "to", "promote", "different", "products", "more", "accurately", ".", "Search", "result", "pages", "can", "be", "grouped", "according", "to", "the", "categories", "predicted", "by", "a", "QC", "algorithm", ".", "However", ",", "the", "computation", "of", "QC", "is", "non-trivial", ",", "since", "the", "queries", "are", "usually", "short", "in", "length", ",", "ambiguous", "and", "noisy", "-LRB-", "e.g.", ",", "wrong", "spelling", "-RRB-", ".", "Direct", "matching", "between", "queries", "and", "target", "categories", "often", "produces", "no", "result", ".", "In", "addition", ",", "the", "target", "categories", "can", "often", "change", ",", "depending", "on", "the", "new", "Web", "contents", "as", "the", "Web", "evolves", ",", "and", "as", "the", "intended", "services", "change", "as", "well", ".", "KDDCUP", "2005", "-LRB-", "http://www.acm.org/sigkdd/kddcup", "-RRB-", "highlighted", "the", "interests", "in", "QC", ",", "where", "800,000", "real", "Web", "queries", "are", "to", "be", "classified", "into", "67", "target", "categories", ".", "Each", "query", "can", "belong", "to", "more", "than", "one", "target", "category", ".", "For", "this", "task", ",", "there", "is", "no", "training", "data", "provided", ".", "As", "an", "example", "of", "a", "QC", "task", ",", "given", "the", "query", "``", "apple", "''", ",", "it", "should", "be", "classified", "into", "``", "Computers", "\\", "Hardware", ";", "Living", "\\", "Food", "&", "Cooking", "''", ".", "The", "winning", "solution", "in", "the", "KDDCUP", "2005", "competition", ",", "which", "won", "on", "all", "three", "evaluation", "metrics", "-LRB-", "precision", ",", "F1", "and", "creativity", "-RRB-", ",", "relied", "on", "an", "innovative", "method", "to", "map", "queries", "to", "target", "categories", ".", "By", "this", "method", ",", "an", "input", "query", "is", "first", "mapped", "to", "an", "intermediate", "category", ",", "and", "then", "a", "second", "mapping", "is", "applied", "to", "map", "the", "query", "from", "the", "intermediate", "category", "to", "the", "target", "category", ".", "However", ",", "we", "note", "that", "this", "method", "suffers", "from", "two", "potential", "problems", ".", "First", ",", "the", "classifier", "for", "the", "second", "mapping", "function", "needs", "to", "be", "trained", "whenever", "the", "target", "category", "structure", "changes", ".", "Since", "in", "real", "applications", ",", "the", "target", "categories", "can", "change", "depending", "on", "the", "needs", "of", "the", "service", "providers", ",", "as", "well", "as", "the", "distribution", "of", "the", "Web", "contents", ",", "this", "solution", "is", "not", "flexible", "131", "enough", ".", "What", "would", "be", "better", "is", "to", "train", "the", "classifiers", "once", "and", "then", "use", "them", "in", "future", "QC", "tasks", ",", "even", "when", "the", "target", "categories", "are", "different", ".", "Second", ",", "the", "winners", "used", "the", "Open", "Directory", "Project", "-LRB-", "ODP", "-RRB-", "taxonomy", "as", "the", "intermediate", "taxonomy", ".", "Since", "the", "ODP", "contains", "more", "than", "590,000", "different", "categories", ",", "it", "is", "costly", "to", "handle", "all", "mapping", "functions", ".", "It", "is", "better", "to", "select", "a", "portion", "of", "the", "most", "relevant", "parts", "of", "the", "intermediate", "categories", ".", "In", "this", "paper", ",", "we", "introduce", "a", "novel", "QC", "algorithm", "that", "solves", "the", "above", "two", "problems", ".", "In", "particular", ",", "we", "first", "build", "a", "bridging", "classifier", "on", "an", "intermediate", "taxonomy", "in", "an", "offline", "mode", ".", "This", "classifier", "is", "then", "used", "in", "online", "mode", "to", "map", "users", "'", "queries", "to", "the", "target", "categories", "via", "the", "above", "intermediate", "taxonomy", ".", "Therefore", ",", "we", "do", "not", "have", "to", "build", "the", "classifier", "each", "time", "the", "target", "categories", "change", ".", "In", "addition", ",", "we", "propose", "a", "category-selection", "method", "to", "select", "the", "categories", "in", "the", "intermediate", "taxonomy", "so", "that", "the", "effectiveness", "and", "efficiency", "of", "the", "online", "classification", "can", "be", "improved", ".", "The", "KDDCUP", "2005", "winning", "solution", "included", "two", "kinds", "of", "base", "classifiers", "and", "two", "ensemble", "classifiers", "of", "them", ".", "By", "comparing", "our", "new", "method", "with", "any", "base", "classifier", "in", "the", "winner", "'s", "solution", "for", "the", "KDDCUP", "2005", "competition", ",", "we", "found", "that", "our", "new", "method", "can", "improve", "the", "performance", "by", "more", "than", "10.4", "%", "and", "7.1", "%", "in", "terms", "of", "precision", "and", "F1", "respectively", ",", "while", "our", "method", "does", "not", "require", "the", "extra", "resource", "such", "as", "WordNet", "-LSB-", "8", "-RSB-", ".", "The", "proposed", "method", "can", "even", "achieve", "a", "similar", "performance", "to", "the", "winner", "'s", "ensemble", "classifiers", "that", "achieved", "the", "best", "performance", "in", "the", "KDDCUP", "2005", "competition", ".", "Furthermore", ",", "by", "combining", "the", "our", "method", "with", "the", "base", "classifiers", "in", "the", "winner", "'s", "solution", ",", "we", "can", "improve", "the", "classification", "results", "by", "9.7", "%", "in", "terms", "of", "precision", "and", "3.8", "%", "in", "terms", "of", "F1", "as", "compared", "to", "the", "winner", "'s", "results", ".", "This", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "We", "define", "the", "query", "classification", "problem", "in", "Section", "2", ".", "Section", "3", "presents", "the", "methods", "of", "enriching", "queries", "and", "target", "categories", ".", "In", "Section", "4", ",", "we", "briefly", "introduce", "the", "previous", "methods", "and", "put", "forward", "a", "new", "method", ".", "In", "Section", "5", ",", "we", "compare", "the", "approaches", "empirically", "on", "the", "tasks", "of", "KDDCUP", "2005", "competition", ".", "We", "list", "some", "related", "works", "in", "Section", "6", ".", "Section", "7", "gives", "the", "conclusion", "of", "the", "paper", "and", "some", "possible", "future", "research", "issues", ".", "The", "query", "classification", "problem", "is", "not", "as", "well-formed", "as", "other", "classification", "problems", "such", "as", "text", "classification", ".", "The", "difficulties", "include", "short", "and", "ambiguous", "queries", "and", "the", "lack", "of", "training", "data", ".", "In", "this", "section", ",", "inspired", "by", "KDDCUP", "2005", ",", "we", "give", "a", "stringent", "definition", "of", "the", "QC", "problem", ".", "Query", "Classification", ":", "*", "The", "aim", "of", "query", "classification", "is", "to", "classify", "a", "user", "query", "Q", "i", "into", "a", "ranked", "list", "of", "n", "categories", "C", "i1", ",", "C", "i2", ",", "...", ",", "C", "in", ",", "among", "a", "set", "of", "N", "categories", "-LCB-", "C", "1", ",", "C", "2", ",", "...", ",", "C", "N", "-RCB-", ".", "Among", "the", "output", ",", "C", "i1", "is", "ranked", "higher", "than", "C", "i2", ",", "and", "C", "i2", "is", "higher", "than", "C", "i3", ",", "and", "so", "on", ".", "*", "The", "queries", "are", "collected", "from", "real", "search", "engines", "submitted", "by", "Web", "users", ".", "The", "meaning", "and", "intension", "of", "the", "queries", "are", "subjective", ".", "*", "The", "target", "categories", "are", "a", "tree", "with", "each", "node", "representing", "a", "category", ".", "The", "semantic", "meaning", "of", "each", "category", "is", "defined", "by", "the", "labels", "along", "the", "path", "from", "the", "root", "to", "the", "corresponding", "node", ".", "In", "addition", ",", "the", "training", "data", "must", "be", "found", "online", "because", ",", "in", "general", ",", "labeled", "training", "data", "for", "query", "classification", "are", "very", "difficult", "to", "obtain", ".", "Figure", "1", "illustrates", "the", "target", "taxonomy", "of", "the", "KDDCUP", "2005", "competition", ".", "Because", "there", "are", "no", "data", "provided", "to", "define", "the", "content", "and", "the", "semantics", "of", "a", "category", ",", "as", "in", "conventional", "classification", "problems", ",", "a", "new", "solution", "needs", "be", "found", ".", "As", "mentioned", "above", ",", "an", "added", "difficulty", "is", "that", "the", "target", "taxonomy", "may", "change", "frequently", ".", "The", "queries", "in", "this", "problem", "are", "from", "the", "MSN", "search", "engine", "-LRB-", "http://search.msn.com", "-RRB-", ".", "Several", "examples", "of", "the", "queries", "are", "shown", "in", "Table", "1", ".", "Since", "a", "query", "usually", "contains", "very", "few", "words", ",", "the", "sparseness", "of", "queries", "becomes", "a", "serious", "problem", "as", "compared", "to", "other", "text", "classification", "problems", ".", "Table", "1", ":", "Examples", "of", "queries", ".", "1967", "shelby", "mustang", "actress", "hildegarde", "a", "&", "r", "management", "''", "property", "management", "Maryland", "netconfig.exe", "S", "o", "ftw", "are", "Other", "Tools", "&", "Hardware", "Living", "Sports", "Computers", "Hardware", "Figure", "1", ":", "An", "Example", "of", "the", "Target", "Taxonomy", ".", "In", "this", "section", ",", "we", "discuss", "the", "approaches", "for", "enriching", "queries", "and", "categories", ",", "which", "are", "critical", "for", "the", "query", "classification", "task", ".", "3.1", "Enrichment", "through", "Search", "Engines", "Since", "queries", "and", "categories", "usually", "contain", "only", "a", "few", "words", "in", "the", "QC", "problem", ",", "we", "need", "to", "expand", "them", "to", "obtain", "richer", "representations", ".", "One", "straightforward", "method", "is", "to", "submit", "them", "to", "search", "engines", "to", "get", "the", "related", "pages", "-LRB-", "for", "categories", ",", "we", "can", "take", "their", "labels", "as", "the", "queries", "and", "submit", "them", "to", "search", "engines", ",", "such", "as", "``", "Computers", "\\", "Hardware", "''", "in", "Figure", "1", "-RRB-", ".", "The", "returned", "Web", "pages", "from", "search", "engines", "provide", "the", "context", "of", "the", "queries", "and", "the", "target", "categories", ",", "which", "can", "help", "determine", "the", "meanings/semantics", "of", "the", "queries", "and", "categories", ".", "Given", "the", "search", "results", "for", "a", "query", "or", "category", ",", "we", "need", "to", "decide", "what", "features", "should", "be", "extracted", "from", "the", "pages", "to", "construct", "the", "representation", ".", "Three", "kinds", "of", "features", "are", "considered", "in", "this", "paper", ":", "the", "title", "of", "a", "page", ",", "the", "snippet", "generated", "by", "the", "search", "engines", ",", "and", "the", "full", "plain", "text", "of", "a", "page", ".", "The", "snippet", "is", "in", "fact", "a", "short", "query-based", "summary", "of", "a", "Web", "page", "in", "which", "the", "query", "words", "occur", "frequently", ".", "The", "full", "plain", "text", "is", "all", "the", "text", "in", "a", "page", "with", "the", "html", "tags", "removed", ".", "Since", "the", "title", "of", "a", "page", "is", "usually", "very", "short", "-LRB-", "5.2", "words", "on", "average", "for", "our", "data", "set", "-RRB-", ",", "we", "combine", "it", "with", "132", "other", "kinds", "of", "features", "together", ".", "These", "features", "are", "studied", "in", "our", "experiments", ".", "Besides", "the", "above", "textual", "features", ",", "we", "can", "also", "obtain", "the", "category", "information", "of", "a", "Web", "page", "through", "the", "directory", "information", "from", "search", "engines", ".", "For", "example", ",", "Google", "'s", "``", "Di-rectory", "Search", "''", "can", "provide", "the", "labels", "of", "the", "returned", "Web", "pages", ".", "Such", "labels", "will", "be", "leveraged", "to", "classify", "a", "query", ",", "as", "stated", "in", "Section", "4.1", ".", "3.2", "Word", "Matching", "Between", "Categories", "The", "query", "classification", "problem", "can", "be", "converted", "to", "a", "traditional", "text", "classification", "problem", "by", "finding", "some", "training", "data", "online", "for", "each", "category", "in", "the", "target", "taxonomy", ".", "Our", "method", "of", "collecting", "the", "training", "data", "is", "by", "finding", "documents", "in", "certain", "intermediate", "taxonomies", "that", "are", "found", "online", ".", "To", "do", "so", ",", "we", "need", "to", "construct", "mapping", "functions", "between", "the", "intermediate", "categories", "and", "the", "target", "categories", ".", "Given", "a", "certain", "category", "in", "an", "intermediate", "taxonomy", ",", "we", "say", "that", "it", "is", "directly", "mapped", "to", "a", "target", "category", "if", "and", "only", "if", "the", "following", "condition", "is", "satisfied", ":", "one", "or", "more", "terms", "in", "each", "node", "along", "the", "path", "in", "the", "target", "category", "appear", "along", "the", "path", "corresponding", "to", "the", "matched", "intermediate", "category", ".", "For", "example", ",", "the", "intermediate", "category", "``", "Computers", "\\", "Hardware", "\\", "Storage", "''", "is", "directly", "mapped", "to", "the", "target", "category", "``", "Computers", "\\", "Hardware", "''", "since", "the", "words", "``", "Computers", "''", "and", "``", "Hardware", "''", "both", "appear", "along", "the", "path", "Computers", "Hardware", "Storage", "as", "shown", "in", "Figure", "2", ".", "We", "call", "this", "matching", "method", "direct", "matching", ".", "After", "constructing", "the", "above", "mapping", "functions", "by", "exact", "word", "matching", ",", "we", "may", "still", "miss", "a", "large", "number", "of", "mappings", ".", "To", "obtain", "a", "more", "complete", "mapping", "function", ",", "we", "expand", "the", "words", "in", "the", "labels", "of", "the", "target", "taxonomy", "through", "a", "thesaurus", "such", "as", "the", "WordNet", "-LSB-", "8", "-RSB-", ".", "For", "example", ",", "the", "keyword", "``", "Hardware", "''", "is", "extended", "to", "``", "Hardware", "&", "Devices", "&", "Equipments", "''", ".", "Then", "an", "intermediate", "category", "such", "as", "``", "Computers", "\\", "Devices", "''", "can", "now", "be", "mapped", "to", "``", "Computers", "\\", "Hardware", "''", ".", "This", "matching", "method", "is", "called", "extended", "matching", "in", "this", "paper", ".", "Computers", "Storage", "Hardware", "-LRB-", "2", "-RRB-", "Target", "Taxonomy", "-LRB-", "1", "-RRB-", "Intermediate", "Taxonomy", "Computers", "Hardware", "Figure", "2", ":", "Illustration", "of", "the", "matching", "between", "taxonomies", "In", "this", "section", ",", "we", "first", "describe", "the", "state-of-the-art", "query", "classification", "methods", ".", "Then", "we", "describe", "our", "new", "bridging", "classifier", "to", "address", "the", "disadvantages", "of", "the", "existing", "methods", ".", "4.1", "Classification", "by", "Exact", "Matching", "As", "described", "in", "Section", "3.1", ",", "a", "query", "can", "be", "expanded", "through", "search", "engines", "which", "results", "in", "a", "list", "of", "related", "Web", "pages", "together", "with", "their", "categories", "from", "an", "intermediate", "taxonomy", ".", "A", "straightforward", "approach", "to", "QC", "is", "to", "leverage", "the", "categories", "by", "exact", "matching", ".", "We", "denote", "the", "categories", "in", "the", "intermediate", "taxonomy", "and", "the", "target", "taxonomy", "as", "C", "I", "and", "C", "T", "respectively", ".", "For", "each", "category", "in", "C", "I", ",", "we", "can", "detect", "whether", "it", "is", "mapped", "to", "any", "category", "in", "C", "T", "according", "to", "the", "matching", "approaches", "given", "in", "Section", "3.2", ".", "After", "that", ",", "the", "most", "frequent", "target", "categories", "to", "which", "the", "returned", "intermediate", "categories", "have", "been", "successfully", "mapped", "are", "regarded", "as", "the", "classification", "result", ".", "That", "is", ":", "c", "=", "arg", "max", "C", "T", "j", "n", "i", "=", "1", "I", "-LRB-", "C", "I", "-LRB-", "i", "-RRB-", "is", "mapped", "to", "C", "T", "j", "-RRB-", "-LRB-", "1", "-RRB-", "In", "Equation", "-LRB-", "1", "-RRB-", ",", "I", "-LRB-", "-RRB-", "is", "the", "indicator", "function", "whose", "value", "is", "1", "when", "its", "parameter", "is", "true", "and", "0", "otherwise", ".", "C", "I", "-LRB-", "i", "-RRB-", "is", "the", "category", "in", "the", "intermediate", "taxonomy", "for", "the", "i", "th", "page", "returned", "by", "the", "search", "engine", ".", "n", "result", "pages", "are", "used", "for", "query", "classification", "and", "the", "parameter", "n", "is", "studied", "in", "our", "experiments", ".", "It", "is", "not", "hard", "to", "imagine", "that", "the", "exact", "matching", "approach", "tends", "to", "produce", "classification", "results", "with", "high", "precision", "but", "low", "recall", ".", "It", "produces", "high", "precision", "because", "this", "approach", "relies", "on", "the", "Web", "pages", "which", "are", "associated", "with", "the", "manually", "annotated", "category", "information", ".", "It", "produces", "low", "recall", "because", "many", "search", "result", "pages", "have", "no", "intermediate", "categories", ".", "Moreover", ",", "the", "exact", "matching", "approach", "can", "not", "find", "all", "the", "mappings", "from", "the", "existing", "intermediate", "taxonomy", "to", "the", "target", "taxonomy", "which", "also", "results", "in", "low", "recall", ".", "4.2", "Classification", "by", "SVM", "To", "alleviate", "the", "low-recall", "problem", "of", "the", "exact", "matching", "method", ",", "some", "statistical", "classifiers", "can", "be", "used", "for", "QC", ".", "In", "the", "KDDCUP", "2005", "winning", "solution", ",", "Support", "Vector", "Machine", "-LRB-", "SVM", "-RRB-", "was", "used", "as", "a", "base", "classifier", ".", "Query", "classification", "with", "SVM", "consists", "of", "the", "following", "steps", ":", "1", "-RRB-", "construct", "the", "training", "data", "for", "the", "target", "categories", "based", "on", "mapping", "functions", "between", "categories", ",", "as", "discussed", "in", "Section", "3.2", ".", "If", "an", "intermediate", "category", "C", "I", "is", "mapped", "to", "a", "target", "category", "C", "T", ",", "then", "the", "Web", "pages", "in", "C", "I", "are", "mapped", "into", "C", "T", ";", "2", "-RRB-", "train", "SVM", "classifiers", "for", "the", "target", "categories", ";", "3", "-RRB-", "for", "each", "Web", "query", "to", "be", "classified", ",", "use", "search", "engines", "to", "get", "its", "enriched", "features", "as", "discussed", "in", "Section", "3.1", "and", "classify", "the", "query", "using", "the", "SVM", "classifiers", ".", "The", "advantage", "of", "this", "QC", "method", "is", "that", "it", "can", "improve", "the", "recall", "of", "the", "classification", "result", ".", "For", "example", ",", "assume", "two", "intermediate", "categories", ",", "C", "I", "1", "and", "C", "I", "2", ",", "are", "semantically", "related", "with", "a", "target", "category", "C", "T", "1", ".", "C", "I", "1", "can", "be", "matched", "with", "C", "T", "1", "through", "word", "matching", "but", "C", "I", "2", "can", "not", ".", "For", "a", "query", "to", "be", "classified", ",", "if", "a", "search", "engine", "only", "returns", "pages", "of", "C", "I", "2", ",", "this", "query", "can", "not", "be", "classified", "into", "the", "target", "category", "if", "the", "exact", "matching", "classification", "method", "is", "used", ".", "However", ",", "if", "the", "query", "is", "classified", "by", "a", "statistical", "classifier", ",", "it", "can", "also", "be", "assigned", "the", "target", "category", "C", "T", "1", ",", "as", "the", "classifier", "is", "trained", "using", "pages", "of", "C", "I", "1", ",", "which", "may", "also", "contain", "terms", "of", "C", "I", "2", "because", "the", "two", "intermediate", "categories", "are", "similar", "in", "topic", ".", "Although", "statistical", "classifiers", "can", "help", "increase", "the", "recall", "of", "the", "exact", "matching", "approach", ",", "they", "still", "need", "the", "exact", "matching", "for", "collecting", "the", "training", "data", ".", "What", "is", "more", ",", "if", "the", "target", "taxonomy", "changes", ",", "we", "need", "to", "collect", "the", "training", "data", "by", "exact", "matching", "and", "train", "statistical", "classifiers", "again", ".", "In", "the", "following", "sections", ",", "we", "develop", "a", "new", "method", "to", "solve", "the", "abov", "e", "problems", ".", "133", "4.3", "Our", "New", "Method", ":", "Classifiers", "by", "Bridges", "4.3.1", "Taxonomy-Bridging", "Algorithm", "We", "now", "describe", "our", "new", "QC", "approach", "called", "taxonomy-bridging", "classifier", ",", "or", "bridging", "classifier", "in", "short", ",", "by", "which", "we", "connect", "the", "target", "taxonomy", "and", "queries", "by", "taking", "an", "intermediate", "taxonomy", "as", "a", "bridge", ".", "The", "idea", "is", "illustrated", "in", "Figure", "3", ",", "where", "two", "vertical", "lines", "separate", "the", "space", "into", "three", "parts", ".", "The", "square", "in", "the", "left", "part", "denotes", "the", "queries", "to", "be", "classified", ";", "the", "tree", "in", "the", "right", "part", "represents", "the", "target", "taxonomy", ";", "the", "tree", "in", "the", "middle", "part", "is", "an", "existing", "intermediate", "taxonomy", ".", "The", "thickness", "of", "the", "dotted", "lines", "reflects", "the", "similarly", "relationship", "between", "two", "nodes", ".", "For", "example", ",", "we", "can", "see", "that", "the", "relationship", "between", "C", "T", "i", "and", "C", "I", "j", "is", "much", "stronger", "than", "that", "between", "C", "T", "i", "and", "C", "I", "k", ".", "Given", "a", "category", "C", "T", "i", "in", "the", "target", "taxonomy", "and", "a", "query", "to", "be", "classified", "q", "k", ",", "we", "can", "judge", "the", "similarity", "between", "them", "by", "the", "distributions", "of", "their", "relationship", "to", "the", "categories", "in", "the", "intermediate", "taxonomy", ".", "By", "defining", "the", "relationship", "and", "similarity", "under", "the", "probabilistic", "framework", ",", "the", "above", "idea", "can", "be", "explained", "by", "Equation", "-LRB-", "2", "-RRB-", ".", "T", "i", "C", "k", "q", "I", "j", "C", "I", "k", "C", "T", "C", "I", "C", "Q", "Figure", "3", ":", "Illustration", "of", "the", "Bridging", "Classifier", ".", "p", "-LRB-", "C", "T", "i", "|", "q", "-RRB-", "=", "C", "I", "j", "p", "-LRB-", "C", "T", "i", ",", "C", "I", "j", "|", "q", "-RRB-", "=", "C", "I", "j", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", ",", "q", "-RRB-", "p", "-LRB-", "C", "I", "j", "|", "q", "-RRB-", "C", "I", "j", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", "p", "-LRB-", "C", "I", "j", "|", "q", "-RRB-", "=", "C", "I", "j", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", "p", "-LRB-", "q", "|", "C", "I", "j", "-RRB-", "p", "-LRB-", "C", "I", "j", "-RRB-", "p", "-LRB-", "q", "-RRB-", "C", "I", "j", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", "p", "-LRB-", "q", "|", "C", "I", "j", "-RRB-", "p", "-LRB-", "C", "I", "j", "-RRB-", "-LRB-", "2", "-RRB-", "In", "Equation", "-LRB-", "2", "-RRB-", ",", "p", "-LRB-", "C", "T", "i", "|", "q", "-RRB-", "denotes", "the", "conditional", "probability", "of", "C", "T", "i", "given", "q.", "Similarly", ",", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", "and", "p", "-LRB-", "q", "|", "C", "I", "j", "-RRB-", "denotes", "the", "probability", "of", "C", "T", "i", "and", "q", "given", "C", "I", "j", "respectively", ".", "p", "-LRB-", "C", "I", "j", "-RRB-", "is", "the", "prior", "probability", "of", "C", "I", "j", "which", "can", "be", "estimated", "from", "the", "Web", "pages", "in", "C", "I", ".", "If", "C", "T", "i", "is", "represented", "by", "a", "set", "of", "words", "-LRB-", "w", "1", ",", "w", "2", ",", "...", ",", "w", "n", "-RRB-", "where", "each", "word", "w", "k", "appears", "n", "k", "times", ",", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", "can", "be", "calculated", "through", "Equation", "-LRB-", "3", "-RRB-", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", "=", "n", "k", "=", "1", "p", "-LRB-", "w", "k", "|", "C", "I", "j", "-RRB-", "n", "k", "-LRB-", "3", "-RRB-", "where", "p", "-LRB-", "w", "k", "|", "C", "I", "j", "-RRB-", "stands", "for", "the", "probability", "that", "the", "word", "w", "k", "occurs", "in", "class", "C", "I", "j", ",", "which", "can", "be", "estimated", "by", "the", "principle", "of", "maximal", "likelihood", ".", "p", "-LRB-", "q", "|", "C", "I", "j", "-RRB-", "can", "be", "calculated", "in", "the", "same", "way", "as", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", ".", "A", "query", "q", "can", "be", "classified", "according", "to", "Equation", "-LRB-", "4", "-RRB-", ":", "c", "=", "arg", "max", "C", "T", "i", "p", "-LRB-", "C", "T", "i", "|", "q", "-RRB-", "-LRB-", "4", "-RRB-", "To", "make", "our", "bridging", "classifier", "easier", "to", "understand", ",", "we", "can", "explain", "it", "in", "another", "way", "by", "rewriting", "Equation", "-LRB-", "2", "-RRB-", "as", "Equation", "-LRB-", "5", "-RRB-", ",", "p", "-LRB-", "C", "T", "i", "|", "q", "-RRB-", "=", "C", "I", "j", "p", "-LRB-", "C", "T", "i", ",", "C", "I", "j", "|", "q", "-RRB-", "=", "C", "I", "j", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", ",", "q", "-RRB-", "p", "-LRB-", "C", "I", "j", "|", "q", "-RRB-", "C", "I", "j", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", "p", "-LRB-", "C", "I", "j", "|", "q", "-RRB-", "=", "C", "I", "j", "p", "-LRB-", "C", "I", "j", "|", "C", "T", "i", "-RRB-", "p", "-LRB-", "C", "T", "i", "-RRB-", "p", "-LRB-", "C", "I", "j", "-RRB-", "p", "-LRB-", "C", "I", "j", "|", "q", "-RRB-", "=", "p", "-LRB-", "C", "T", "i", "-RRB-", "C", "I", "j", "p", "-LRB-", "C", "I", "j", "|", "C", "T", "i", "-RRB-", "p", "-LRB-", "C", "I", "j", "|", "q", "-RRB-", "p", "-LRB-", "C", "I", "j", "-RRB-", "-LRB-", "5", "-RRB-", "Let", "us", "consider", "the", "numerator", "on", "the", "right", "side", "of", "the", "Equation", "-LRB-", "5", "-RRB-", ".", "Given", "a", "query", "q", "and", "C", "T", "i", ",", "p", "-LRB-", "C", "I", "j", "|", "C", "T", "i", "-RRB-", "and", "p", "-LRB-", "C", "I", "j", "|", "q", "-RRB-", "are", "fixed", "and", "C", "I", "j", "p", "-LRB-", "C", "I", "j", "|", "C", "T", "i", "-RRB-", "=", "1", ",", "C", "I", "j", "p", "-LRB-", "C", "I", "j", "|", "q", "-RRB-", "=", "1", ".", "p", "-LRB-", "C", "I", "j", "|", "C", "T", "i", "-RRB-", "and", "p", "-LRB-", "C", "I", "j", "|", "q", "-RRB-", "represent", "the", "probability", "that", "C", "T", "i", "and", "q", "belong", "to", "C", "I", "j", ".", "It", "is", "easy", "to", "prove", "that", "p", "-LRB-", "C", "T", "i", "|", "q", "-RRB-", "tends", "to", "be", "larger", "when", "q", "and", "C", "T", "i", "tends", "to", "belong", "to", "the", "same", "category", "in", "the", "intermediate", "taxonomy", ".", "The", "denominator", "p", "-LRB-", "C", "I", "j", "-RRB-", "reflects", "the", "size", "of", "category", "C", "I", "j", "which", "acts", "as", "a", "weighting", "factor", ".", "It", "guarantees", "that", "the", "higher", "the", "probability", "that", "q", "and", "C", "T", "i", "belong", "to", "the", "smaller", "sized", "category", "-LRB-", "where", "size", "refers", "to", "the", "number", "of", "nodes", "underneath", "the", "category", "in", "the", "tree", "-RRB-", "in", "the", "intermediate", "taxonomy", ",", "the", "higher", "the", "probability", "that", "q", "belongs", "to", "C", "I", "i", ".", "Such", "an", "observation", "agrees", "with", "our", "intuition", ",", "since", "a", "larger", "category", "tends", "to", "contain", "more", "sub-topics", "while", "a", "smaller", "category", "contains", "fewer", "sub-topics", ".", "Thus", "we", "can", "say", "with", "higher", "confidence", "that", "q", "and", "C", "I", "i", "are", "related", "to", "the", "same", "sub-topic", "when", "they", "belong", "to", "the", "same", "smaller", "category", ".", "4.3.2", "Category", "Selection", "The", "intermediate", "taxonomy", "may", "contain", "enormous", "categories", "and", "some", "of", "them", "are", "irrelevant", "to", "the", "query", "classification", "task", "corresponding", "with", "the", "predefined", "target", "taxonomy", ".", "Therefore", ",", "to", "reduce", "the", "computation", "complexity", ",", "we", "should", "perform", "``", "Category", "Selection", "''", "in", "a", "similar", "sense", "of", "``", "Feature", "Selection", "''", "in", "text", "classification", "-LSB-", "15", "-RSB-", ".", "Two", "approaches", "are", "employed", "in", "this", "paper", "to", "evaluate", "the", "goodness", "of", "a", "category", "in", "the", "intermediate", "taxonomy", ".", "After", "sorting", "the", "categories", "according", "to", "the", "scores", "calculated", "by", "the", "following", "two", "approaches", ",", "category", "selection", "can", "be", "fulfilled", "by", "selecting", "the", "top", "n", "categories", ".", "Total", "Probability", "-LRB-", "TP", "-RRB-", ":", "this", "method", "gives", "a", "score", "to", "each", "category", "in", "the", "intermediate", "taxonomy", "according", "to", "its", "probability", "of", "generating", "the", "categories", "in", "the", "target", "taxonomy", ",", "as", "shown", "in", "Equation", "-LRB-", "6", "-RRB-", ".", "Score", "-LRB-", "C", "I", "j", "-RRB-", "=", "C", "T", "i", "P", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", "-LRB-", "6", "-RRB-", "Mutual", "Information", "-LRB-", "MI", "-RRB-", ":", "MI", "is", "a", "criterion", "commonly", "used", "in", "statistical", "language", "modeling", "of", "word", "associations", "and", "other", "related", "applications", "-LSB-", "15", "-RSB-", ".", "Given", "a", "word", "t", "and", "a", "134", "category", "c", ",", "the", "mutual", "information", "between", "t", "and", "c", "is", "defined", "as", ":", "M", "I", "-LRB-", "t", ",", "c", "-RRB-", "=", "log", "P", "-LRB-", "t", "c", "-RRB-", "P", "-LRB-", "t", "-RRB-", "P", "-LRB-", "c", "-RRB-", "-LRB-", "7", "-RRB-", "By", "considering", "the", "two-way", "contingency", "table", "for", "t", "and", "c", ",", "where", "A", "is", "the", "number", "of", "times", "t", "and", "c", "co-occur", ",", "B", "is", "the", "number", "of", "times", "that", "t", "occurs", "without", "c", ",", "C", "is", "number", "of", "times", "c", "occurs", "without", "t", "and", "N", "is", "the", "total", "number", "of", "documents", ",", "then", "the", "mutual", "information", "between", "t", "and", "c", "can", "be", "estimated", "using", ":", "M", "I", "-LRB-", "t", ",", "c", "-RRB-", "log", "A", "N", "-LRB-", "A", "+", "C", "-RRB-", "-LRB-", "A", "+", "B", "-RRB-", "-LRB-", "8", "-RRB-", "Since", "the", "name", "of", "a", "category", "in", "the", "target", "taxonomy", "usually", "contains", "more", "than", "one", "term", ",", "we", "define", "the", "``", "mutual", "infor-mation", "''", "between", "a", "category", "in", "the", "intermediate", "taxonomy", "C", "I", "j", "and", "a", "category", "in", "the", "target", "taxonomy", "C", "T", "i", "as", ":", "M", "I", "-LRB-", "C", "T", "i", ",", "C", "I", "j", "-RRB-", "=", "1", "|", "C", "T", "i", "|", "tC", "T", "i", "M", "I", "-LRB-", "t", ",", "C", "I", "j", "-RRB-", "-LRB-", "9", "-RRB-", "where", "|", "C", "T", "i", "|", "is", "the", "number", "of", "terms", "in", "the", "name", "of", "C", "T", "i", ".", "To", "measure", "the", "goodness", "of", "C", "I", "j", "in", "a", "global", "category", "selection", ",", "we", "combine", "the", "category-specific", "scores", "of", "C", "I", "j", "by", ":", "M", "I", "avg", "-LRB-", "C", "I", "j", "-RRB-", "=", "C", "T", "j", "M", "I", "-LRB-", "C", "T", "i", ",", "C", "I", "j", "-RRB-", "-LRB-", "10", "-RRB-", "4.3.3", "Discussions", "As", "we", "can", "see", ",", "in", "the", "bridging", "classifier", ",", "we", "do", "not", "need", "to", "train", "a", "classifier", "function", "between", "an", "intermediate", "taxonomy", "and", "the", "target", "taxonomy", ".", "We", "only", "need", "to", "build", "the", "classifiers", "on", "the", "intermediate", "taxonomy", "once", "and", "it", "can", "be", "applied", "to", "any", "target", "taxonomy", ".", "The", "framework", "can", "be", "extended", "in", "two", "directions", ".", "One", "is", "to", "include", "some", "training", "data", "for", "each", "target", "category", ".", "With", "the", "training", "data", ",", "we", "do", "not", "have", "to", "treat", "the", "labels", "of", "the", "target", "categories", "as", "queries", "and", "retrieve", "related", "Web", "pages", "through", "search", "engines", "to", "represent", "the", "categories", ".", "We", "can", "extract", "features", "from", "the", "training", "data", "directly", ".", "The", "second", "extension", "is", "to", "use", "other", "sophisticated", "models", "such", "as", "the", "n-gram", "model", "-LSB-", "9", "-RSB-", "or", "SVM", "-LSB-", "10", "-RSB-", "for", "computing", "p", "-LRB-", "C", "T", "i", "|", "C", "I", "j", "-RRB-", "and", "p", "-LRB-", "q", "|", "C", "I", "j", "-RRB-", ".", "In", "this", "section", ",", "we", "first", "introduce", "the", "data", "set", "and", "the", "evaluation", "metrics", ".", "Then", "we", "present", "the", "experiment", "results", "and", "give", "some", "discussions", ".", "5.1", "Data", "Set", "and", "Evaluation", "Metrics", "5.1.1", "Data", "sets", "In", "this", "paper", ",", "we", "use", "the", "data", "sets", "from", "the", "KDDCUP", "2005", "competition", "which", "is", "available", "on", "the", "Web", "1", ".", "One", "of", "the", "data", "sets", "contains", "111", "sample", "queries", "together", "with", "the", "category", "information", ".", "These", "samples", "are", "used", "to", "exemplify", "the", "format", "of", "the", "queries", "by", "the", "organizer", ".", "However", ",", "since", "the", "category", "information", "of", "these", "queries", "is", "truthful", ",", "they", "can", "serve", "as", "the", "validation", "data", ".", "Another", "data", "set", "contains", "800", "queries", "with", "category", "information", "labeled", "by", "three", "human", "labelers", ".", "In", "fact", ",", "the", "organizers", "provided", "800,000", "queries", "in", "1", "http://www.acm.org/sigs/sigkdd/kdd2005/kddcup.html", "total", "which", "are", "selected", "from", "the", "MSN", "search", "logs", "for", "testing", "the", "submitted", "solutions", ".", "Since", "manually", "labeling", "all", "the", "800,000", "queries", "is", "too", "expensive", "and", "time", "consuming", ",", "the", "organizers", "randomly", "selected", "800", "queries", "for", "evaluation", ".", "We", "denote", "the", "three", "human", "query-labelers", "-LRB-", "and", "sometimes", "the", "dataset", "labeled", "by", "them", "if", "no", "confusion", "is", "caused", "-RRB-", "as", "L1", ",", "L2", "and", "L3", ",", "respectively", ".", "Each", "query", "has", "at", "most", "five", "labels", "in", "ranked", "order", ".", "Table", "2", "shows", "the", "average", "precision", "and", "F1", "score", "values", "of", "each", "labeler", "when", "evaluated", "against", "the", "other", "two", "labelers", ".", "The", "average", "values", "among", "the", "three", "labelers", "are", "around", "0.50", "which", "indicates", "that", "the", "query", "classification", "problem", "is", "not", "an", "easy", "task", "even", "for", "human", "labelers", ".", "In", "this", "paper", ",", "all", "the", "experiments", "use", "only", "the", "800", "queries", ",", "except", "in", "the", "ensemble", "classifiers", ",", "where", "we", "use", "the", "111", "sample", "queries", "to", "tune", "the", "weight", "of", "each", "single", "classifier", ".", "Table", "2", ":", "The", "Average", "Scores", "of", "Each", "Labeler", "When", "Evaluated", "Against", "the", "Other", "Two", "Labelers", "L1", "L2", "L3", "Average", "F1", "0.538", "0.477", "0.512", "0.509", "Pre", "0.501", "0.613", "0.463", "0.526", "The", "existing", "intermediate", "taxonomy", "used", "in", "the", "paper", "is", "from", "Open", "Directory", "Project", "-LRB-", "ODP", ",", "http://dmoz.org/", "-RRB-", ".", "We", "crawled", "1,546,441", "Web", "pages", "from", "ODP", "which", "spanned", "over", "172,565", "categories", ".", "The", "categories", "have", "a", "hierarchical", "structure", "as", "shown", "in", "Figure", "2", "-LRB-", "1", "-RRB-", ".", "We", "can", "consider", "the", "hierarchy", "at", "different", "levels", ".", "Table", "3", "shows", "the", "number", "of", "categories", "on", "different", "levels", ".", "The", "first", "row", "counts", "all", "the", "categories", "while", "the", "second", "row", "counts", "only", "the", "categories", "containing", "more", "than", "10", "Web", "pages", ".", "Table", "4", "summarizes", "the", "statistics", "of", "Web", "page", "numbers", "in", "the", "categories", "with", "more", "than", "10", "documents", "on", "different", "levels", ".", "As", "we", "can", "see", ",", "when", "we", "move", "down", "to", "the", "lower", "levels", "along", "the", "hierarchy", ",", "more", "categories", "appear", "while", "each", "category", "contains", "fewer", "Web", "pages", ".", "In", "order", "to", "remove", "noise", ",", "we", "consider", "the", "categories", "with", "more", "than", "10", "pages", "in", "this", "paper", ".", "Table", "3", ":", "Number", "of", "Categories", "on", "Different", "Levels", "Top", "2", "Top", "3", "Top", "4", "Top", "5", "Top", "All", "#doc", ">", "0", "435", "5,300", "24,315", "56,228", "172,565", "#doc", ">", "10", "399", "4,011", "13,541", "23,989", "39,250", "Table", "4", ":", "Statistics", "of", "the", "Numbers", "of", "Documents", "in", "the", "Categories", "on", "Different", "Levels", "Top", "2", "Top", "3", "Top", "4", "Top", "5", "Top", "All", "Largest", "211,192", "153,382", "84,455", "25,053", "920", "Smallest", "11", "11", "11", "11", "11", "Mean", "4,044.0", "400.8", "115.6", "61.6", "29.1", "5.1.2", "Evaluation", "Measurements", "In", "KDDCUP", "2005", ",", "precision", ",", "performance", "and", "creativity", "are", "the", "three", "measures", "to", "evaluate", "the", "submitted", "solutions", ".", "``", "creativity", "''", "refers", "to", "the", "novelty", "of", "the", "solutions", "judged", "by", "experts", ".", "The", "other", "two", "measures", "are", "defined", "according", "to", "the", "standard", "measures", "to", "evaluate", "the", "performance", "of", "classification", ",", "that", "is", ",", "precision", ",", "recall", "and", "F1-measure", "-LSB-", "12", "-RSB-", ".", "Pre-135", "cision", "-LRB-", "P", "-RRB-", "is", "the", "proportion", "of", "actual", "positive", "class", "members", "returned", "by", "the", "system", "among", "all", "predicted", "positive", "class", "members", "returned", "by", "the", "system", ".", "Recall", "-LRB-", "R", "-RRB-", "is", "the", "proportion", "of", "predicted", "positive", "members", "among", "all", "actual", "positive", "class", "members", "in", "the", "data", ".", "F1", "is", "the", "harmonic", "mean", "of", "precision", "and", "recall", "as", "shown", "below", ":", "F", "1", "=", "2", "P", "R", "/", "-LRB-", "P", "+", "R", "-RRB-", "-LRB-", "11", "-RRB-", "``", "performance", "''", "adopted", "by", "KDDCUP", "2005", "is", "in", "fact", "F1", ".", "Therefore", ",", "we", "denote", "it", "by", "F1", "instead", "of", "``", "performance", "''", "for", "simplicity", ".", "As", "3", "labelers", "were", "asked", "to", "label", "the", "queries", ",", "the", "results", "reported", "are", "averaged", "over", "the", "values", "evaluated", "on", "each", "of", "them", ".", "5.2", "Results", "and", "Analysis", "5.2.1", "Performance", "of", "Exact", "matching", "and", "SVM", "In", "this", "section", ",", "we", "study", "the", "performance", "of", "the", "two", "methods", "which", "tightly", "depend", "on", "word", "matching", ":", "exact", "matching", "and", "SVM", ",", "as", "well", "as", "the", "effect", "of", "query", "and", "category", "expansion", ".", "Table", "5", "shows", "the", "results", "of", "the", "category", "expansion", "through", "intermediate", "taxonomy", "by", "word", "matching", ",", "that", "is", "the", "results", "of", "collecting", "training", "data", "for", "the", "target", "taxonomy", ".", "Each", "element", "in", "the", "table", "represents", "the", "number", "of", "documents", "collected", "for", "the", "target", "categories", ".", "The", "first", "row", "contains", "the", "results", "by", "direct", "matching", "while", "the", "second", "row", "contains", "the", "results", "after", "expanding", "the", "category", "names", "through", "extended", "matching", ".", "We", "can", "see", "that", "after", "extending", "the", "names", "of", "the", "target", "categories", ",", "the", "number", "of", "documents", "collected", "for", "the", "target", "categories", "increases", ".", "We", "expect", "that", "the", "expansion", "with", "the", "help", "of", "WordNet", "should", "provide", "more", "documents", "to", "reflect", "the", "semantics", "of", "the", "target", "categories", "which", "is", "verified", "by", "Table", "6", ".", "Table", "5", ":", "Number", "of", "Pages", "Collected", "for", "Training", "under", "Different", "Category", "Expansion", "Methods", "Min", "Max", "Median", "Mean", "Direct", "Matching", "4", "126,397", "2,389", "14,646", "Extended", "Matching", "22", "227,690", "6,815", "21,295", "Table", "6", "presents", "the", "result", "comparisons", "of", "the", "exact", "matching", "method", "and", "SVM", ".", "We", "enrich", "the", "query", "by", "retrieving", "the", "relevant", "pages", "through", "Google", "-LRB-", "http://www.google.com", "-RRB-", ".", "The", "top", "n", "returned", "pages", "are", "used", "to", "represent", "the", "query", "where", "n", "varies", "from", "20", "to", "80", ",", "with", "the", "step", "size", "of", "20", ".", "Two", "approaches", "are", "used", "to", "extract", "features", "from", "the", "returned", "pages", ".", "One", "is", "to", "extract", "the", "snippet", "of", "the", "returned", "pages", "and", "the", "other", "is", "to", "extract", "all", "the", "text", "in", "the", "Web", "pages", "except", "the", "HTML", "tags", ".", "The", "Web", "pages", "'", "titles", "will", "be", "added", "to", "both", "of", "these", "two", "kinds", "of", "features", ".", "The", "column", "``", "0", "''", "means", "that", "we", "use", "only", "the", "terms", "in", "the", "query", "without", "enrichment", ".", "In", "our", "experiments", ",", "we", "expand", "the", "target", "categories", "through", "the", "ODP", "taxonomy", ";", "that", "is", ",", "we", "collect", "the", "training", "data", "for", "the", "target", "categories", "from", "ODP", ".", "When", "constructing", "the", "mapping", "relationship", "as", "shown", "in", "Section", "3.2", ",", "if", "we", "use", "direct", "matching", ",", "we", "denote", "SVM", "and", "the", "exact", "matching", "method", "with", "``", "SVM-D", "''", "and", "``", "Extact-D", "''", "respectively", ".", "Otherwise", ",", "if", "we", "use", "the", "extended", "matching", "method", ",", "we", "denote", "SVM", "and", "the", "exact", "matching", "method", "with", "``", "SVM-E", "''", "and", "``", "Extact-E", "''", "respectively", ".", "The", "exact", "matching", "method", "needs", "the", "category", "list", "of", "the", "retrieved", "Web", "pages", "for", "each", "query", ".", "The", "Table", "6", ":", "Performance", "of", "Exact", "Matching", "and", "SVM", "-LRB-", "1", "-RRB-", "Measured", "by", "F1", "n", "0", "20", "40", "60", "80", "Exact-D", "Null", "0.251", "0.249", "0.247", "0.246", "Exact-E", "Null", "0.385", "0.396", "0.386", "0.384", "SVM-D", "snippet", "0.205", "0.288", "0.292", "0.291", "0.289", "full", "text", "0.254", "0.276", "0.267", "0.273", "SVM-E", "snippet", "0.256", "0.378", "0.383", "0.379", "0.379", "full", "text", "0.316", "0.340", "0.327", "0.336", "-LRB-", "2", "-RRB-", "Measured", "by", "Precision", "n", "0", "20", "40", "60", "80", "Exact-D", "Null", "0.300", "0.279", "0.272", "0.268", "Exact-E", "Null", "0.403", "0.405", "0.389", "0.383", "SVM-D", "snippet", "0.178", "0.248", "0.248", "0.244", "0.246", "full", "text", "0.227", "0.234", "0.242", "0.240", "SVM-E", "snippet", "0.212", "0.335", "0.321", "0.312", "0.311", "full", "text", "0.288", "0.309", "0.305", "0.296", "category", "information", "is", "obtained", "through", "Google", "'s", "``", "Direc-tory", "Search", "''", "service", "-LRB-", "http://www.google.com/dirhp", "-RRB-", ".", "From", "Table", "6", "we", "can", "see", "that", "``", "Exact-E", "''", "is", "much", "better", "than", "``", "Exact-D", "''", ",", "and", "``", "SVM-E", "''", "is", "much", "better", "than", "``", "SVM-D", "''", ".", "This", "indicates", "that", "the", "extended", "matching", "with", "the", "help", "of", "WordNet", "can", "achieve", "a", "more", "proper", "representation", "of", "the", "target", "category", ".", "We", "can", "also", "observe", "that", "``", "Exact-E", "''", "performs", "better", "than", "``", "SVM-E", "''", ".", "Another", "observation", "is", "that", "the", "``", "snippet", "''", "representation", "outperforms", "``", "full", "text", "''", "consistently", ".", "The", "reason", "is", "that", "the", "``", "snippet", "''", "provides", "a", "more", "concise", "context", "of", "the", "query", "than", "the", "``", "full", "text", "''", "which", "tends", "to", "introduce", "noise", ".", "We", "can", "also", "see", "that", "most", "of", "the", "classifiers", "achieve", "the", "highest", "performance", "when", "the", "queries", "are", "represented", "by", "the", "top", "40", "search", "result", "pages", ".", "Therefore", ",", "in", "the", "later", "experiments", ",", "we", "use", "snippets", "of", "the", "top", "40", "pages", "to", "represent", "queries", ".", "5.2.2", "Performance", "of", "the", "Bridging", "Classifier", "As", "we", "can", "see", "in", "the", "above", "experiments", ",", "the", "thesaurus", "WordNet", "plays", "an", "important", "role", "in", "both", "the", "exact", "matching", "method", "and", "SVM", "since", "it", "can", "help", "expand", "the", "words", "in", "the", "labels", "of", "the", "target", "categories", ",", "which", "can", "further", "improve", "the", "mapping", "functions", ".", "However", ",", "the", "effect", "of", "a", "thesaurus", "may", "be", "limited", "due", "to", "the", "following", "reasons", ":", "1", "-RRB-", "there", "may", "be", "no", "thesaurus", "in", "some", "fields", ";", "2", "-RRB-", "it", "is", "hard", "to", "determine", "the", "precise", "expansion", "of", "the", "words", "even", "with", "a", "high-quality", "thesaurus", ",", "especially", "with", "the", "rapidly", "changing", "usage", "of", "words", "on", "the", "Web", ".", "Therefore", ",", "we", "put", "forward", "the", "bridging", "classifier", "which", "only", "relies", "on", "the", "intermediate", "taxonomies", ".", "In", "order", "to", "expand", "a", "target", "category", ",", "we", "can", "treat", "its", "name", "as", "a", "query", "and", "submit", "it", "to", "search", "engines", ".", "We", "use", "the", "snippet", "of", "the", "top", "n", "returned", "pages", "to", "represent", "a", "category", "since", "we", "learned", "from", "the", "query", "expansion", "that", "snippet", "performs", "better", "than", "``", "full", "text", "''", ".", "The", "parameter", "n", "varies", "from", "20", "to", "100", ".", "Table", "7", "shows", "the", "results", "when", "``", "top", "all", "''", "categories", "in", "the", "ODP", "taxonomy", "are", "used", "for", "bridging", "the", "queries", "and", "the", "target", "taxonomy", ".", "The", "effect", "of", "different", "levels", "of", "the", "intermediate", "taxonomy", "will", "be", "studied", "later", ".", "From", "Table", "7", ",", "we", "can", "136", "see", "that", "the", "bridging", "classifier", "achieves", "the", "best", "performance", "when", "n", "equals", "60", ".", "The", "best", "F1", "and", "precision", "achieved", "by", "the", "bridging", "classifier", "is", "higher", "than", "those", "achieved", "either", "by", "the", "exact", "matching", "method", "or", "SVM", ".", "The", "relative", "improvement", "is", "more", "than", "10.4", "%", "and", "7.1", "%", "in", "terms", "of", "precision", "and", "F1", "respectively", ".", "The", "main", "reason", "for", "the", "improvement", "is", "that", "the", "bridging", "classifier", "can", "make", "thorough", "use", "of", "the", "finer", "grained", "intermediate", "taxonomy", "in", "a", "probabilistic", "way", ".", "While", "the", "previous", "methods", "including", "the", "exact", "matching", "method", "and", "SVM", "exploit", "the", "intermediate", "taxonomy", "in", "a", "hard", "way", "when", "constructing", "the", "mapping", "function", "as", "shown", "in", "Section", "3.2", ".", "Table", "7", ":", "Performances", "of", "the", "Bridging", "Classifier", "with", "Different", "Representations", "of", "Target", "Categories", "n", "20", "40", "60", "80", "100", "F1", "0.414", "0.420", "0.424", "0.421", "0.416", "Precision", "0.437", "0.443", "0.447", "0.444", "0.439", "Table", "8", ":", "Performances", "of", "the", "Bridging", "Classifier", "with", "Different", "Granularity", "Top", "2", "Top", "3", "Top", "4", "Top", "5", "Top", "All", "F1", "0.267", "0.285", "0.312", "0.352", "0.424", "Precision", "0.270", "0.291", "0.339", "0.368", "0.447", "Table", "8", "shows", "the", "performance", "of", "the", "bridging", "classifier", "when", "we", "change", "the", "granularity", "of", "the", "categories", "in", "the", "intermediate", "taxonomy", ".", "To", "change", "the", "granularity", "of", "the", "categories", ",", "we", "use", "the", "categories", "on", "the", "top", "L", "level", "by", "varying", "L", ".", "It", "is", "clear", "that", "the", "categories", "have", "larger", "granularity", "when", "L", "is", "smaller", ".", "From", "Table", "8", ",", "we", "can", "see", "that", "the", "performance", "of", "the", "bridging", "classifier", "improves", "steadily", "by", "reducing", "the", "granularity", "of", "categories", ".", "The", "reason", "is", "that", "categories", "with", "large", "granularity", "may", "be", "a", "mixture", "of", "several", "target", "categories", "which", "prohibit", "distinguishing", "the", "target", "categories", ".", "0.25", "0.30", "0.35", "0.40", "0.45", "0.50", "4000", "11000", "18000", "25000", "32000", "39250", "MI-F1", "MI-Pre", "TP-F1", "TP-Pre", "Figure", "4", ":", "Effect", "of", "category", "selection", ".", "However", ",", "reducing", "the", "granularity", "of", "categories", "in", "the", "intermediate", "taxonomy", "will", "certainly", "increase", "the", "number", "of", "the", "intermediate", "categories", "which", "will", "thus", "increase", "the", "computation", "cost", ".", "One", "way", "to", "solve", "this", "problem", "is", "to", "do", "category", "selection", ".", "Figure", "4", "shows", "the", "performance", "of", "the", "bridging", "classifier", "when", "we", "select", "the", "categories", "from", "all", "the", "ODP", "taxonomy", "through", "the", "two", "category", "selection", "approaches", "proposed", "in", "Section", "4.3.2", ".", "We", "can", "see", "that", "when", "the", "category", "number", "is", "around", "18,000", ",", "the", "performance", "of", "the", "bridging", "classifier", "is", "comparable", "to", ",", "if", "not", "better", "than", ",", "the", "previous", "approaches", ",", "including", "the", "exact", "matching", "method", "and", "SVM", ".", "MI", "works", "better", "than", "TP", "in", "that", "MI", "can", "not", "only", "measure", "the", "relevance", "between", "the", "categories", "in", "the", "target", "taxonomy", "and", "those", "in", "the", "intermediate", "taxonomy", ",", "but", "also", "favors", "the", "categories", "which", "are", "more", "powerful", "to", "distinguish", "the", "categories", "in", "the", "target", "taxonomy", ".", "However", ",", "TP", "only", "cares", "about", "the", "merit", "of", "relevance", ".", "5.2.3", "Ensemble", "of", "Classifiers", "The", "winner", "of", "the", "KDDCUP", "2005", "competition", "found", "that", "the", "best", "result", "was", "achieved", "by", "combining", "the", "exact", "matching", "method", "and", "SVM", ".", "In", "the", "winning", "solution", ",", "besides", "the", "exact", "matching", "method", "on", "Google", "'s", "directory", "search", ",", "two", "other", "exact", "matching", "methods", "are", "developed", "using", "LookS-mart", "-LRB-", "http://www.looksmart.com", "-RRB-", "and", "a", "search", "engine", "based", "on", "Lemur", "-LRB-", "http://www.lemurproject.org", "-RRB-", "and", "their", "crawled", "Web", "pages", "from", "ODP", "-LSB-", "11", "-RSB-", ".", "Two", "classifier-combination", "strategies", "are", "used", ",", "with", "one", "aiming", "at", "higher", "precision", "-LRB-", "denoted", "by", "EV", ",", "where", "111", "samples", "are", "used", "as", "the", "validation", "data", "to", "tune", "the", "weight", "of", "each", "base", "classifier", "-RRB-", "and", "the", "other", "aiming", "at", "higher", "F1", "-LRB-", "denoted", "by", "EN", "in", "which", "the", "validation", "data", "set", "is", "ignored", "-RRB-", ".", "EV", "assigns", "a", "weight", "to", "a", "classifier", "proportional", "to", "the", "classifier", "'s", "precision", "while", "EN", "gives", "equal", "weights", "to", "all", "classifiers", ".", "We", "follow", "the", "same", "strategy", "to", "combine", "our", "new", "method", "with", "the", "winner", "'s", "methods", ",", "which", "is", "denoted", "as", "``", "Exact-E", "''", "+", "``", "SVM-E", "''", "+", "Bridging", "as", "shown", "in", "Table", "9", ".", "The", "numbers", "in", "the", "parentheses", "are", "the", "relative", "improvement", ".", "Note", "that", "the", "bridging", "classifier", "alone", "achieves", "similar", "F1", "measurement", "as", "the", "KDDCU", "2005", "winning", "solution", "-LRB-", "``", "Exact-E", "''", "+", "``", "SVM-E", "''", "with", "the", "EV", "combination", "strategy", "-RRB-", "but", "improves", "the", "precision", "by", "5.4", "%", ".", "From", "Table", "9", "we", "can", "also", "find", "that", "the", "combination", "of", "the", "bridging", "classifier", "and", "the", "KDDCUP", "2005", "winning", "solution", "can", "improve", "the", "performance", "by", "9.7", "%", "and", "3.8", "%", "in", "terms", "of", "precision", "and", "F1", ",", "respectively", ",", "when", "compared", "with", "the", "winning", "solution", ".", "This", "indicates", "that", "the", "bridging", "classifier", "works", "in", "a", "different", "way", "as", "the", "exact", "matching", "method", "and", "SVM", ",", "and", "they", "are", "complimentary", "to", "each", "other", ".", "Table", "9", ":", "Performances", "of", "Ensemble", "Classifiers", "``", "Exact-E", "''", "``", "Exact-E", "''", "+", "``", "SVM-E", "''", "+", "``", "SVM-E", "''", "+", "Bridging", "EV", "F1", "0.426", "0.429", "-LRB-", "+0.007", "-RRB-", "Precision", "0.424", "0.465", "-LRB-", "+0.097", "-RRB-", "EN", "F1", "0.444", "0.461", "-LRB-", "+0.038", "-RRB-", "Precision", "0.414", "0.430", "-LRB-", "+0.039", "-RRB-", "Though", "not", "much", "work", "has", "been", "done", "on", "topical", "query", "classification", ",", "some", "work", "has", "been", "conducted", "on", "other", "kinds", "of", "query", "classification", "problems", ".", "Gravano", "et", "al.", "classified", "the", "Web", "queries", "by", "geographical", "locality", "-LSB-", "3", "-RSB-", "while", "Kang", "et", "al.", "proposed", "to", "classify", "queries", "according", "to", "their", "functional", "types", "-LSB-", "4", "-RSB-", ".", "Beitzel", "et", "al.", "studied", "the", "same", "problem", "in", "-LSB-", "2", "-RSB-", "as", "we", "pur-sued", "in", "this", "paper", ",", "with", "the", "goal", "to", "classify", "the", "queries", "according", "to", "their", "topic", "-LRB-", "s", "-RRB-", ".", "They", "used", "two", "primary", "data", "sets", "137", "containing", "the", "queries", "from", "the", "AOL", "web", "search", "service", ".", "These", "queries", "were", "manually", "classified", "into", "a", "set", "of", "18", "categories", ".", "The", "main", "difference", "between", "our", "problem", "and", "that", "of", "-LSB-", "2", "-RSB-", "is", "that", "we", "did", "not", "have", "training", "data", "as", "given", "input", ".", "In", "fact", ",", "it", "is", "a", "very", "difficult", "and", "time", "consuming", "task", "to", "provide", "enough", "training", "examples", ",", "especially", "when", "the", "target", "taxonomy", "is", "complicated", ".", "Another", "potential", "problem", "related", "to", "the", "training", "data", ",", "as", "pointed", "out", "in", "-LSB-", "2", "-RSB-", ",", "is", "caused", "by", "the", "ongoing", "changes", "in", "the", "query", "stream", ",", "which", "makes", "it", "hard", "to", "systematically", "cover", "the", "space", "of", "queries", ".", "In", "this", "paper", ",", "we", "just", "rely", "on", "the", "structure", "and", "category", "names", "of", "the", "target", "taxonomy", "without", "training", "data", ",", "which", "is", "consistent", "with", "the", "task", "of", "KDDCUP", "2005", ".", "KDDCUP", "2005", "provides", "a", "test", "bed", "for", "the", "Web", "query", "classification", "problem", ".", "There", "are", "a", "total", "of", "37", "solutions", "from", "32", "teams", "attending", "the", "competition", ".", "As", "summarized", "by", "the", "organizers", "-LSB-", "6", "-RSB-", ",", "most", "solutions", "expanded", "the", "queries", "through", "search", "engines", "or", "WordNet", "and", "expanded", "the", "category", "by", "mapping", "between", "some", "pre-defined/existing", "taxonomy", "to", "the", "target", "taxonomy", ".", "Some", "solutions", "require", "human", "intervention", "in", "the", "mapping", "process", "-LSB-", "5", ",", "13", "-RSB-", ".", "Besides", "classifying", "the", "queries", "into", "target", "taxonomy", ",", "we", "can", "also", "cluster", "the", "queries", "to", "discover", "some", "hidden", "taxonomies", "through", "unsupervised", "methods", ".", "Both", "Beeferman", "-LSB-", "1", "-RSB-", "and", "Wen", "-LSB-", "14", "-RSB-", "used", "search", "engines", "'", "clickthrough", "data", "to", "cluster", "the", "queries", ".", "The", "former", "makes", "no", "use", "of", "the", "actual", "content", "of", "the", "queries", "and", "URLs", ",", "but", "only", "how", "they", "co-occur", "within", "the", "clickthrough", "data", ",", "while", "the", "latter", "exploits", "the", "usage", "of", "the", "content", ".", "Although", "the", "work", "in", "-LSB-", "1", "-RSB-", "and", "-LSB-", "14", "-RSB-", "proved", "the", "effectiveness", "of", "the", "clickthrough", "data", "for", "query", "clustering", ",", "we", "did", "not", "utilize", "them", "in", "our", "solution", "due", "to", "the", "following", "two", "reasons", ":", "1", "-RRB-", "the", "clickthorugh", "data", "can", "be", "quite", "noisy", "and", "is", "search", "engine", "dependent", ";", "2", "-RRB-", "it", "is", "difficult", "to", "obtain", "the", "clickthrough", "data", "due", "to", "privacy", "and", "legal", "issues", ".", "This", "paper", "presented", "a", "novel", "solution", "for", "classifying", "Web", "queries", "into", "a", "set", "of", "target", "categories", ",", "where", "the", "queries", "are", "very", "short", "and", "there", "are", "no", "training", "data", ".", "In", "our", "solution", ",", "an", "intermediate", "taxonomy", "is", "used", "to", "train", "classifiers", "bridging", "the", "queries", "and", "target", "categories", "so", "that", "there", "is", "no", "need", "to", "collect", "the", "training", "data", ".", "Experiments", "on", "the", "KDDCUP", "2005", "data", "set", "show", "that", "the", "bridging", "classifier", "approach", "is", "promising", ".", "By", "combining", "the", "bridging", "classifier", "with", "the", "winning", "solution", "of", "KDDCUP", "2005", ",", "we", "made", "a", "further", "improvement", "by", "9.7", "%", "and", "3.8", "%", "in", "terms", "of", "precision", "and", "F1", "respectively", "compared", "with", "the", "best", "results", "of", "KDDCUP", "2005", ".", "In", "the", "future", ",", "we", "plan", "to", "extend", "the", "bridging", "classifier", "idea", "to", "other", "types", "of", "query", "processing", "tasks", ",", "including", "query", "clustering", ".", "We", "will", "also", "conduct", "research", "on", "how", "to", "leverage", "a", "group", "of", "intermediate", "taxonomies", "for", "query", "classification", "Dou", "Shen", "and", "Qiang", "Yang", "are", "supported", "by", "a", "grant", "from", "NEC", "-LRB-", "NECLC05/06", ".", "EG01", "-RRB-", ".", "We", "thank", "the", "anonymous", "reviewers", "for", "their", "useful", "comments", ".", "-LSB-", "1", "-RSB-", "D.", "Beeferman", "and", "A.", "Berger", ".", "Agglomerative", "clustering", "of", "a", "search", "engine", "query", "log", ".", "In", "KDD", "'", "00", ":", "Proceedings", "of", "the", "sixth", "ACM", "SIGKDD", "international", "conference", "on", "Knowledge", "discovery", "and", "data", "mining", ",", "pages", "407", "416", ",", "2000", ".", "-LSB-", "2", "-RSB-", "S.", "M.", "Beitzel", ",", "E.", "C.", "Jensen", ",", "O.", "Frieder", ",", "D.", "Grossman", ",", "D.", "D.", "Lewis", ",", "A.", "Chowdhury", ",", "and", "A.", "Kolcz", ".", "Automatic", "web", "query", "classification", "using", "labeled", "and", "unlabeled", "training", "data", ".", "In", "SIGIR", "'", "05", ":", "Proceedings", "of", "the", "28th", "annual", "international", "ACM", "SIGIR", "conference", "on", "Research", "and", "development", "in", "information", "retrieval", ",", "pages", "581", "582", ",", "2005", ".", "-LSB-", "3", "-RSB-", "L.", "Gravano", ",", "V.", "Hatzivassiloglou", ",", "and", "R.", "Lichtenstein", ".", "Categorizing", "web", "queries", "according", "to", "geographical", "locality", ".", "In", "CIKM", "'", "03", ":", "Proceedings", "of", "the", "twelfth", "international", "conference", "on", "Information", "and", "knowledge", "management", ",", "pages", "325", "333", ",", "2003", ".", "-LSB-", "4", "-RSB-", "I.-H", ".", "Kang", "and", "G.", "Kim", ".", "Query", "type", "classification", "for", "web", "document", "retrieval", ".", "In", "SIGIR", "'", "03", ":", "Proceedings", "of", "the", "26th", "annual", "international", "ACM", "SIGIR", "conference", "on", "Research", "and", "development", "in", "informaion", "retrieval", ",", "pages", "64", "71", ",", "2003", ".", "-LSB-", "5", "-RSB-", "Z.", "T.", "Kardkov", "acs", ",", "D.", "Tikk", ",", "and", "Z.", "B", "ans", "aghi", ".", "The", "ferrety", "algorithm", "for", "the", "kdd", "cup", "2005", "problem", ".", "SIGKDD", "Explor", ".", "Newsl.", ",", "7", "-LRB-", "2", "-RRB-", ":", "111", "116", ",", "2005", ".", "-LSB-", "6", "-RSB-", "Y.", "Li", ",", "Z.", "Zheng", ",", "and", "H.", "K.", "Dai", ".", "Kdd", "cup-2005", "report", ":", "facing", "a", "great", "challenge", ".", "SIGKDD", "Explor", ".", "Newsl.", ",", "7", "-LRB-", "2", "-RRB-", ":", "91", "99", ",", "2005", ".", "-LSB-", "7", "-RSB-", "A.", "McCallum", "and", "K.", "Nigam", ".", "A", "comparison", "of", "event", "models", "for", "naive", "bayes", "text", "classication", ".", "In", "AAAI-98", "Workshop", "on", "Learning", "for", "Text", "Categorization", ",", "1998", ".", "-LSB-", "8", "-RSB-", "G.", "Miller", ",", "R.", "Beckwith", ",", "C.", "Fellbaum", ",", "D.", "Gross", ",", "and", "K.", "Miller", ".", "Introduction", "to", "wordnet", ":", "an", "on-line", "lexical", "database", ".", "International", "Journal", "of", "Lexicography", ",", "3", "-LRB-", "4", "-RRB-", ":", "23", "244", ",", "1990", ".", "-LSB-", "9", "-RSB-", "F.", "Peng", ",", "D.", "Schuurmans", ",", "and", "S.", "Wang", ".", "Augmenting", "naive", "bayes", "classifiers", "with", "statistical", "language", "models", ".", "Inf", ".", "Retr.", ",", "7", "-LRB-", "3-4", "-RRB-", ":", "317", "345", ",", "2004", ".", "-LSB-", "10", "-RSB-", "J.", "Platt", ".", "Probabilistic", "outputs", "for", "support", "vector", "machines", "and", "comparisons", "to", "regularized", "likelihood", "methods", ".", "In", "A.", "Smola", ",", "P.", "Bartlett", ",", "B.", "Scholkopf", ",", "and", "D.", "Schuurmans", ",", "editors", ",", "Advances", "in", "Large", "Margin", "Classifiers", ".", "MIT", "Press", ",", "1999", ".", "-LSB-", "11", "-RSB-", "D.", "Shen", ",", "R.", "Pan", ",", "J.-T", ".", "Sun", ",", "J.", "J.", "Pan", ",", "K.", "Wu", ",", "J.", "Yin", ",", "and", "Q.", "Yang", ".", "Q2c@ust", ":", "our", "winning", "solution", "to", "query", "classification", "in", "kddcup", "2005", ".", "SIGKDD", "Explor", ".", "Newsl.", ",", "7", "-LRB-", "2", "-RRB-", ":", "100", "110", ",", "2005", ".", "-LSB-", "12", "-RSB-", "R.", "C.", "van", ".", "Information", "Retrieval", ".", "Butterworths", ",", "London", ",", "second", "edition", "edition", ",", "1979", ".", "-LSB-", "13", "-RSB-", "D.", "Vogel", ",", "S.", "Bickel", ",", "P.", "Haider", ",", "R.", "Schimpfky", ",", "P.", "Siemen", ",", "S.", "Bridges", ",", "and", "T.", "Scheffer", ".", "Classifying", "search", "engine", "queries", "using", "the", "web", "as", "background", "knowledge", ".", "SIGKDD", "Explor", ".", "Newsl.", ",", "7", "-LRB-", "2", "-RRB-", ":", "117", "122", ",", "2005", ".", "-LSB-", "14", "-RSB-", "J.-R", ".", "Wen", ",", "J.-Y", ".", "Nie", ",", "and", "H.-J", ".", "Zhang", ".", "Query", "clustering", "using", "content", "words", "and", "user", "feedback", ".", "In", "SIGIR", "'", "01", ":", "Proceedings", "of", "the", "24th", "annual", "international", "ACM", "SIGIR", "conference", "on", "Research", "and", "development", "in", "information", "retrieval", ",", "pages", "442", "443", ",", "2001", ".", "-LSB-", "15", "-RSB-", "Y.", "Yang", "and", "J.", "O.", "Pedersen", ".", "A", "comparative", "study", "on", "feature", "selection", "in", "text", "categorization", ".", "In", "ICML", "'", "97", ":", "Proceedings", "of", "the", "Fourteenth", "International", "Conference", "on", "Machine", "Learning", ",", "pages", "412", "420", ",", "1997", ".", "138" ]

[ "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]